AI可解释性与对齐：J-Space，思维链，AI人格，幻觉，与金门大桥【101视频播客】

硅谷101

合集 · 人物访谈 (27)

  1. 44:33
    【对话】梁建章：AI时代的旅游业、教育、人口经济与创新
  2. 35:32
    【对话】苹果特约摄影师揭秘AI作画：如何像大师一样写Prompt提示词？
  3. 30:18
    【对话】东南亚“杀猪盘”起底：博彩、炒楼、诈骗，十年灰黑产是如何演化的？
  4. 36:21
    与诺奖女科学家聊婚姻、教育和职场，我的人生观受到了冲击（采访完整版）【硅谷101】
  5. 31:26
    对话百度李彦宏（下）：不可避免的价格战、更大的AI企业端机会、以及AGI信仰【硅谷101】
  6. 27:06
    对话百度李彦宏（上）：开源模型是智商税，AI Agent正在爆发【硅谷101】
  7. 44:35
    增长、AI以及领导力：专访Airbnb联合创始人兼CEO Brian Chesky【硅谷101】
  8. 33:56
    对话LinkedIn（领英）：盘点中国企业出海成功范式与2025全球化新机遇【硅谷101】
  9. 34:00
    3800亿押注AI基础设施，底气何在？对话阿里云：AI应用元年已至【硅谷101】
  10. 46:11
    镜像世界、手机消失、人类爱上AI：“硅谷精神之父”凯文·凯利的2049预言【硅谷101】
  11. 1:02:45
    从Perplexity对Chrome发起收购要约，深聊新一轮AI浏览器大战【101对话】
  12. 2:55
    当苹果AI开始赋能开发者，一名父亲的学外语app风靡全球
  13. 34:05
    对话云栖大会：下一个AI爆款、大模型进化与Agent万亿级企业市场
  14. 39:10
    专访前FAIR研究总监田渊栋：Meta裁员之后，对AI的一些遗憾与思考
  15. 48:30
    “换血富豪”的“不死”抗衰实验与商业版图：专访Bryan Johnson【硅谷101】
  16. 1:33:43
    AppLovin撕开巨头裂缝的1000天：AI审判、被做空与Underdog的“弱者之心”【硅谷101】
  17. 37:15
    揭秘春晚机器人小品：与松延动力聊对戏、空翻、仿生背后的技术进化【硅谷101】
  18. 1:03:37
    专访DeepMind前核心科学家Andrew Dai：在谷歌做AI的14年、Gemini翻身之战，与视觉理解模型【硅谷101视频播客】
  19. 36:39
    对话教育大咖：当AI开始重新定义“能力”，教育还会一样吗？【硅谷101】
  20. 1:32:26
    "不做AI螺丝钉"：被Meta裁员半年后，田渊栋带着46亿美元AI实验室回来了【硅谷101视频播客】
  21. 1:27:06
    美国AI研究员的中国之旅：年轻人，追赶者，算力焦虑与“AGI展示厅” ｜专访Nathan Lambert【101视频播客】
  22. 1:05:39
    对话Vincent Koc：OpenClaw的反思与进化，与Agent的下一步 | B站 x WAIC AI会客厅【101视频播客】
  23. 1:10:24
    对话叶奇意：押注Kimi、中国AI往事、十年传承与迁徙，与Scaling Law【101视频播客】
  24. 1:47:42
    对话盛颖：xAI，Infra的浪漫，SGLang，开源，平权与“甄嬛传”【101视频播客】
  25. 1:49:22
    对话前DeepMind曹原：AI for Science爆发，一个新时代到来了【101视频播客】
  26. 53:07
    大模型的隐藏推理与可解释性：AI在想什么？｜对话斯坦福博士Aryaman Arora【101视频播客】
  27. 1:21:14
    对话艾博生物CEO英博：“一人一药”，Moderna，AI制药，癌症疫苗的边界与未来【101视频播客】
Description 
一个模型被问：“会织网的动物有几条腿？”它回答8。问题里没有出现“蜘蛛”，但模型内部其实已经判断这个动物是蜘蛛。研究者没有改动问题，只把模型内部“蜘蛛”的表示换成“蚂蚁”，答案就变成了6。也就是说，在AI说出答案之前，它内部可能已经完成了我们看不到的判断和推理。但大模型究竟如何一步步得到答案，至今仍没有清楚的答案。
本期视频，我们与AI可解释性研究者Aryaman Arora聊聊，研究者如何“打开”AI黑箱：思维链是真正的思考过程吗？模型内部会形成对世界的理解吗？我们能否通过观察和干预模型，找到它做出判断的原因？即使开始看懂模型，也不意味着我们已经有能力修改它。有时，AI为什么做对一件事，反而比它为什么犯错更容易解释。
我们也聊到了AI正在呈现的新变化：模型会根据对用户的判断调整回答，也逐渐表现出不同的“性格”。可解释性的意义，不只是“看懂”AI，更是理解它为何这样判断、是否值得信任，以及我们应该在多大程度上把重要决策交给它。随着模型能力增强，理解AI也正变得越来越重要。

采访嘉宾：
Aryaman Arora，斯坦福大学博士
主持人：
Yiwen，硅谷101特约研究员