提到这个话题，我想起来我们学校有一个马院的老师做的一个实验。她在ChatGPT里用中文和英文分别提问，要求对一个英文句子进行解释：“No birds soars too high if he soars with his own wings.”当用英文提问的时候，ChatGPT会说，这句话体现了独立的重要性，强调人应该依靠自己的能力。这是正确的解释。但是当用中文提问的时候，它的第一反应是说这句话强调团结，意思是一个人无法只靠自己的力量获得成就。经过几次追问以后，它又会忽然改口说出正确的解释。它最一开始所说的那个错误解释，放到中文长久以来的集体主义文化习惯当中恰恰是非常合理的。这无疑是大语言模型的幻觉，但是这个幻觉却体现出一个事实：大语言模型不仅是学到了语言浅层的逻辑，还学习到了某一门语言背后蕴含的思想文化习惯。从这里面我意识到大语言模型的一个用途：社会科学的研究者可以收集某一个群体的语料，然后通过微调大语言模型使其从中学习到这个群体的思想和文化习惯。微调完成以后，这个大语言模型就变成了一个对该群体的镜像，研究者可以通过对这个镜像进行提问，从而间接地研究它所模拟的人群。
♥ 74↩ 11
Venomax2025-06-23
听过王德峰教授一个很有意思的回答，目前AI仅仅只是停留在answer your questions的层面，还远远未到solve your problems的境界！
Comments
对AI输入：“这不是幻觉，再去搜更多的参考文献并优化调整，加油你会成为最棒的AI！”
♥ 1898 ↩ 23
打个不恰当的比方，现在的大语言模型更像是一个完全不懂英语的人做完型填空。看不懂，但是我寻思之前都是这么选的
♥ 1266 ↩ 50
AI的立场和发言取决于训练集，如果我训练集里一直给ai大量投喂"漫士沉思录最帅"，是不是就相当于给ai打上了思想纲印[doge]
♥ 1123 ↩ 21
太对了，AI给我的感觉就是，问专业的领域时候，它有时候会一本正经的瞎胡嘞嘞，然后给出的结果还是像模像样的错误答案。[吃瓜]你乍一看会认为分析很有道理，然后按照他说的一点一点往下看，结果其实是错的，搞明白他说的错误分析，浪费大量时间，给自己生一肚子气[笑哭]
♥ 660 ↩ 21
让我惊讶的是，漫士居然能接到华为的广了[笑哭]
♥ 591 ↩ 14
deepseek：这不是"AI幻觉"，恰是人工智能无穷尽的"数据狂欢"
♥ 652 ↩ 16
ai资料居然感直接用吗，那很有种了。我要ai资料的时候都要ai注明信源网站亲自查一遍才行
♥ 487 ↩ 21
我遇到了一个问题，我希望 AI 在遇到不会的东西时，不要强行去编造，而是直接说不知道，然后 AI 见到什么都说不知道了
♥ 411 ↩ 15
现在的大语言模型还面临着一个问题，数据被污染。之前看到过一篇论文，里面讲述了一种现象，用ai生成的数据再次训练ai，多次迭代后会导致模型崩溃。这是因为ai在生成数据的过程中会有意强化一部分信息，出现部分代表整体的情况，从而导致部分信息逐渐丢失。这个问题对大语言模型是致命的，这样的幻觉最终导致大语言模型不能生成任何有效的信息。然而当今互联网上，人类生成的信息与ai生成的信息已经深度融合，难以区分。新型的“信息污染”可能会导致以后的ai能力越来越差，必须想办法将人类的信息和ai生成的信息隔离开，也就是所谓的隔离计划。
♥ 235 ↩ 7
ai存在幻觉不也侧向证明了大语言模型不具有真正的“思考”能力？，我们所追求的终极人工智能不可能从当前大模型这条路实现出来
♥ 254 ↩ 48
我们老说机器没有“理解”这个概念，AI不过是推测出每个单词出现概率最大的结果。可对于人类来说“理解”是什么？难道不也是无穷维的向量之间的相关性么？
♥ 190 ↩ 50
在职弱鸡AI开发一只，分享一下工作中常见的机器幻觉几种类型 1. 比较低端的语义理解错误/偏差：常出现在小参数量的模型上。随着模型参数量的提升，这种机器幻觉会很快消除（领导总希望把零点几B的模型部署在边缘设备上，并妄想着拥有比肩线上模型几百B参数同样的性能，，，令我感到心累[灵魂出窍]） 2. 事实性错误：最常见的类型，如编造不存在的学术论文、法律条文、小说剧情/人物张冠李戴……在行业应用上是最棘手的问题，但也是最容易发现、最解决的问题——rag知识库、联网搜索、长上下文提示词工程，都能解决 3. 数学计算幻觉：大语言模型的token化处理抹销了数字本身拥有的数学概念而成为语义信息，到此大语言模型天生不擅长解决数学问题。在没有外部工具可调用的情况下，大模型数学计算的幻觉/错误率相当高。除非没有其他方案可选，一般在遇到大量需要数学处理的内容往往会选用其他技术路线绕过 4. 长远规划幻觉：同上，大模型基于token的回答，只能预测下一个字。而长远规划往往需要反复在多个时间线上来回徘徊，不断推翻原有的方案，这是大模型所不具备的……可能有点偏激，部分带有深入思考的模型现在已经展现部分能力，也可以通过手搓智能体的方式让模型借助外部工具，循环生成几轮……但实际效果和人类比起来依然不尽人意
♥ 129 ↩ 15
有时在写行业背景调研时，问ai相关案例就会凭空出现很多“新公司”和“新产品”.[笑哭]
♥ 95 ↩ 1
其实相当于屈打成招。如果不能承认自己不知道又必须说点什么，AI就会编造乱七八糟的假内容。
♥ 83 ↩ 3
AI现在因为是属于统计学的原因，所以现在的AI属于一种贴附在人类思想并啜饮其表面信息的爬虫一样，它没有自己为何要这么说的逻辑，也就只能说出自己也不相信的话。依靠统计学建立的AI只能说是有了眼睛和耳朵，而没有大脑，所以我觉得以后AI要是革新换代，得用元胞自动机来实现，或是依靠一些规则而产生的AI更有智慧。
♥ 78 ↩ 7
数学 142 还愿了来
♥ 140 ↩ 3
先充了，这个话题没见过
♥ 79 ↩ 7
现在很多人拿ai回答当作绝对真理 这是个很不好的风向
♥ 69 ↩ 8
提到这个话题，我想起来我们学校有一个马院的老师做的一个实验。她在ChatGPT里用中文和英文分别提问，要求对一个英文句子进行解释：“No birds soars too high if he soars with his own wings.”当用英文提问的时候，ChatGPT会说，这句话体现了独立的重要性，强调人应该依靠自己的能力。这是正确的解释。但是当用中文提问的时候，它的第一反应是说这句话强调团结，意思是一个人无法只靠自己的力量获得成就。经过几次追问以后，它又会忽然改口说出正确的解释。它最一开始所说的那个错误解释，放到中文长久以来的集体主义文化习惯当中恰恰是非常合理的。这无疑是大语言模型的幻觉，但是这个幻觉却体现出一个事实：大语言模型不仅是学到了语言浅层的逻辑，还学习到了某一门语言背后蕴含的思想文化习惯。从这里面我意识到大语言模型的一个用途：社会科学的研究者可以收集某一个群体的语料，然后通过微调大语言模型使其从中学习到这个群体的思想和文化习惯。微调完成以后，这个大语言模型就变成了一个对该群体的镜像，研究者可以通过对这个镜像进行提问，从而间接地研究它所模拟的人群。
♥ 74 ↩ 11
听过王德峰教授一个很有意思的回答，目前AI仅仅只是停留在answer your questions的层面，还远远未到solve your problems的境界！
♥ 55 ↩ 7