Matt Pocock 科普：为什么永远不能盲信 LLM【中英字幕】

Matt Pocock 用一期视频拆解了 LLM 最普遍的失败模式——幻觉：它会编造事实、捏造不存在的包和政府部门、甚至违背你刚刚明确喂给它的上下文。

看点
1. Google 当年一条 Bard 广告里 JWST 的"首个系外行星照片"错误，怎么直接让 Alphabet 蒸发 8% 市值
2. Air Canada 的客服聊天机器人，明明上下文里就有丧亲政策，为何照样编出一套退票规则，最后被法院判公司担责
3. 一个四个词的提示词——Use your search tool——为什么能从根上压住大多数幻觉

关键内容
· 幻觉类型：事实错误 / 捏造实体 / 上下文不一致，以及内在 vs 外在信息的根本区别
· 机制：训练本质上是有损压缩，LLM 脑中只有一份"高压缩、低分辨率"的世界信息
· 为何爱猜：基准测试和评估流程奖励"去猜"胜过"承认不确定"——OpenAI 论文原文
· 关键区分：先发资料（内在信息）可靠性远高于靠训练集（外在信息）
· 实操：Use your search tool 让模型去拉一手资料；生死 / 健康 / 法律场景还得亲自读文档
· 参考：LLM 幻觉分类法（arxiv 2508.01781）+ OpenAI《Why Language Models Hallucinate》（arxiv 2509.04664）

来源
· 原视频：https://www.youtube.com/watch?v=9VNG0h4pLh0
· 作者频道：https://www.youtube.com/@mattpocockuk
· 论文：https://arxiv.org/abs/2508.01781 · https://arxiv.org/abs/2509.04664

字幕：AI 辅助转录 + 翻译并经人工校对。如有不准确之处，欢迎指出。