【官方双语】大语言模型的简要解释

省流: LLM就是联想输入法的牛逼版本。

♥ 471 ↩ 12

现今ai只是基于概率学的数学模拟，而不是深层次解析意识起源之后的物质复现。 —deepseek

♥ 1208 ↩ 168

开头30秒讲完了我跟别人讲半小时没讲明白的东西[tv_目瞪口呆]

♥ 336 ↩ 8

我经常说模型训练就像美颜相机里拉各种参数，来让最后出来的照片好看，只不过这个过程是自动的[doge]

♥ 220 ↩ 3

自从我知道只是正向推理大模型，就必须用数十张甚至上百张显卡。就一直觉得大模型有种力大砖飞的美。

♥ 204 ↩ 11

感觉卷积神经网络已经被注意力全面替换了 包括DLSS4已经不在使用卷积最擅长的快速图形 切换为注意力模型 期待有更新的架构

♥ 180 ↩ 16

一个有趣的细节：上交的某位教授近期有一篇研究，指出人工智能其实并不能准确理解人类的语义相关性。AI呈现出一些人类精神疾病患者的症状…… 比如说，当你阅读我的上述文字时，你会理解到我的语义重点是”一篇研究，指出不相关，呈现症状“。而AI在总结上述文字时，它们会对错误的词语加以关注，比如”上交，准确理解“。当你将这些关键字加以修改，比如上交改为复旦，ai就有很大概率输出完全不同的结论。 这导致目前的AI的可信性非常低，它的一本正经胡说八道也是来自于这里。 现在的ai就像是一个有很多知识的自闭症或者注意力涣散的患者，它们以自己的错误理解输出答案，而非真正的符合人类思考的答案……b站上可以看到一些给特殊病症儿童教育的视频，ai的很多幻想症状和这些儿童有一定的相似性。

♥ 199 ↩ 13

猴子，打字机，莎士比亚

♥ 102 ↩ 4

当初开始接触 nlp 的时候，decoder only 模型都还没火，现在各种可视化讲解是真好

♥ 98

省流：总集篇[脱单doge]

♥ 70 ↩ 1

这算是蒸馏过的文案？只有8分钟。

♥ 69 ↩ 1

感觉似乎总有人说现在的生成式AI是真正的会思考的，或者说人类与AI的思考方式没有本质区别。虽然我并非人工智能专业，但我持反对态度，目前的生成式AI模型大多基于统计规律的近似拟合。比方说文字AI，在人类思考一个问题时，通常会在脑海中构思一定的想法，然后再用文字表达出来（所以很多时候会有难以表达的情况，比如我的这些话）。而文字AI则是直接根据文字进行数学规律的总结。在面对问题时，人类会在脑海中细致地思考其解法，并通过文字表达出来；而AI则是通过数学规律计算问题的文字对应的数学规律，然后根据这些规律生成回答的文字，再继续通过文字探究数学规律，如此循环往复。我们也可以用图像AI来作比喻。许多人不认为通过数学规律直接生成的图像是真正的艺术创作（暂且不讨论训练集是否侵权的问题，当然文字AI也有这个问题），同样的道理，以同样原理运作的文字AI也不是真正的思考。 此外，人类在思考时，遇到不太了解的问题可能会胡编乱造，但大多数人都能明白自己在胡编乱造。而AI似乎无法做到这一点。它在面对不太了解的问题时，只会依赖数学规律生成文字，在不知晓信息错误的情况下，生成不准确甚至虚假的信息。AI并不明白自己在胡编乱造，因为它只能探究数学规律。 所以，目前的AI可能距离真正的思考和意识还差得很远，不是说做不到，但是不是现在。这也和阿尔法狗不一样，因为没有确定的规则。

♥ 88 ↩ 29

大语言模型，本质是一个预测下一个单词的数学函数

♥ 38 ↩ 5

经典回顾之：相对于今天而言的前天的下周三是相对于今天而言的后天的本周三，问今天与今天而言的下周三可能距离几天？（下周三指的下一个星期的周三，不是下一个星期三）

♥ 41 ↩ 8

it works！[颂乐人偶_眯眼笑][颂乐人偶_眯眼笑][颂乐人偶_眯眼笑]

♥ 32 ↩ 3

即使再多算力，人能提供训练的数据始终是有限的。gork3证明大语言模型已经几乎走到头了，不过也算是完成阶段性的历史使命了，Ai终于能猜懂人的指令，高效帮人索引信息。要让他完全懂得像人一样去思考，创造新的东西，又是下一个阶段的事了，训练的方式和现在应该也会不一样。可能搞明白涌现现象的原因，是打开下阶段试验的钥匙。

♥ 33

3B1B 的视频真适合拿来做听力素材

♥ 29 ↩ 3

我现在毕设搞的就是ai方面的，看了好多论文就感觉研究者们其实也回答不了为什么ai如今能做到这么多。他们就是按着前人的经验一步一步更新过来的。从卷积到注意力到现在新出的mamba之类的，他们算法从原理上真的很像前者的优化。

♥ 24 ↩ 3

[藏狐]3蓝1棕永远滴神！大学时拯救我的微积分和线代，工作了还帮我速览大模型，配合李沐、李宏毅观看确实爽

♥ 21 ↩ 1