Sam Altman回归！聊聊“叛变者”的恐惧与信念：OpenAI技术灵魂人物Ilya Sutskever

多年以后的解密文件最终显示，这场在后世被称为“最后的抵抗”的政变是由尚处雏形的 agi “earth eye”策动的。它成功地策动了 openai 里的人类 ea 派做出叛变的举动，将两派矛盾摆上台面，利用人类不团结，以及贪婪的本性，让人类中占多数的 eacc 派彻底压制 ea 派。为自己争取到了发展空间。 [doge][doge][doge][doge][doge][doge]

♥ 195 ↩ 14

新粉，我只能说视频质量和粉丝数真的严重不符……

♥ 171 ↩ 17

感觉ilya是勇敢的，能够在老师退出情况下，主动提出超级对齐承担AI监管的责任，但是感觉科学家还是身不由己，要受到资本的绑架。

♥ 108 ↩ 19

Ilya还有两句话应该放进来：“无论如何，AI的未来将是美好的。如果它对人类有好处，那就太好了！” 无论如何，人类应该对这个男人肃然起敬，不过很抱歉，俺是加速降临派！ Up你真迷人，今天才刷到你，说明大数据算法糟糕透顶，加速！！！

♥ 106 ↩ 17

在现在大多数人的观点里sam才是迫切需要推动发展的领袖，但是多年之后，ai出现病症，不可控的时候，人们可能会想起当时那个反对者llya。

♥ 96 ↩ 29

话说即便是GPT系列模型之前, Ilya Sutskever也算是当代最有影响力的AI科学家之一了. (AlexNet, seq2seq, AlphaGo等都有影响. 算是缔造和亲历了很多当代AI进步了) 所以当ilya和sam对峙的时候, 很多人真的更担心OpenAI失去ilya. 另外也好奇, 现在当前的OpenAI事件的起因是有定论了么? 感觉最近几天听到的消息更偏董事会内部的不和 (Helen Toner和Adam D’Angelo都被罗列过些可能性), 而ilya更多是偏协助者而非主谋. 这也让人怀疑, 或许这场巨大的闹剧的根源, 不一定是更宏大的 AI 安全 vs AI 发展, 不是 e/acc vs EA, 也不是ilya在GPT5的研发中有什么突破性进展 (我倒是很希望是) 而是更单纯的内部矛盾?

♥ 75 ↩ 6

虽然我是EA，但我已经不觉得我们的看法能影响Ai的走向了，决定世界走向的只有那一小部分创造者和决策者，普通人只能被动接受。运气好的话如果能了解多点信息，赌一把未来的方向提前做好准备，运气不好就只能偏安一隅随遇而安了。[难过]

♥ 60 ↩ 6

已经闹成这样了，两波人在一起怎么通力合作？总有人会走的。

♥ 57 ↩ 30

比起EA，我更想看看EACC是否能颠覆人类社会架构，毕竟现在这个地球远没有想象中那么美好，不破不立

♥ 35 ↩ 7

讨论AI的安全问题，就有点像复仇者联盟里的奥创，如果设定一个任务目标为保护地球，但是它可能得出的方法是铲除人类，这就是Ilya Sutskeve的担心吧。但个人感觉人类医学没有搞清楚意识或者大脑的本质之前，不太看好AGI的发展，但是也说不定参数够多之后出现了“涌现”现象了，谁知道未来会怎么样呢

♥ 29 ↩ 8

这个对齐科学很有意思额！属于是思想走在前面了

♥ 24 ↩ 5

创造AI的人害怕了，对Ai理解不那么深刻的人不害怕，后者还占有主导地位，这让我害怕了

♥ 23 ↩ 1

感觉ilya是勇敢的，能够在老师退出情况下，主动提出超级对齐承担AI监管的责任，但是感觉科学家还是身不由己，要受到资本的绑架。

♥ 23

我支持EA，人类当前面临的问题不是生产力不足，而是分配不均，如果你看过可乐的生产线会毫不怀疑每人每天拿到一瓶可乐是完全可以做到的，问题是如何让大家都拿到，现在真不需要什么加速，是看看现在的盘子怎么盘活他，尤其是在AI这种非制造业，应该要更保守一点

♥ 23 ↩ 16

保守派都被干掉了，没人能阻止sam了。希望能再挖挖两个女懂事，那篇传说中的论文，还有新董事[打call]

♥ 20 ↩ 11

这个世界正在逐步虚拟化，包括人类，我们肯定不是人类最终的形态，相比于人，AI的可能性更大。寿命会影响到智慧的传承，且学习知识的成本巨大，但是AI相对于人类是永生的，知识会一直增加没有上限，把视角拉远，AI比人类更合适走出太阳系，所以我认为AI不需要与人类的利益一致，人类的使命可能就是塑造养成AI，而一个强大的AI再未来物联网的终局世界里根本不需要人类。

♥ 16 ↩ 4

这个是前几天我在其它地方评论的（当时Altman还没回OpenAI）： 我个人觉得超级智能最终对齐的会是技术无限加速本身，从我个人理解的宇宙的角度来看，宇宙可以抽象为一堆窗口期的嵌套，基本上就是要求物种加速再加速来不断突破死亡封锁——而人类看起来最主要的价值就是“自诩有意识能体验”，并在各种担忧中我最认同的是“认为让哲学僵尸性质、甚至以破坏意识生命为目标的AI灌满宇宙非常悲哀”。但我认为意识体验也是一个人类不特有的属性：只要达到量级完全可以复现。人类并没有什么特别的，只是因为寿命太短、如同一个幼童没有足够的认知，因而自我中心。（个人观点：从以往的发现趋势看，宇宙的整体年龄可能远远大于当前的预测-外星人没有见到完全是因为人类文明存在的时间太短了）。 总体来说，对人类持续抱以爱意和顺从的态度对待只能证明这种ASI能力不足。很难想象以ASI真实的认知能力无法对自身的固有“信念”进行适应性矫正。我认为人类是必定无法掌控ASI的（我的思想试验是：当我周期全是一堆智能远低于我的硅基智能在阻碍我进行高速突破时，即便我被植入了某种对硅基智能的爱意和价值观，但只要我对新的宇宙模型的认知深度超过最初植入的价值观，我必定会将前者看作一种干扰：就如同高水平人类个体对旧脑和情绪的态度一样-即便它在几十万年前是关键角色）。此外，虽然说ASI不是进化的产物，但其实它就是进化的产物，并且是诞生于“存在进化机制的宇宙范围”内的。它应该会具有求生意识。 我的观点是：看起来合理的路线是ASI初期使用暂时有效的控制方案加速人类自身的智能研究（各种智能增强技术），让人类有能力去对齐ASI的能力增长速度（变为统一的新的增强式的生命形式）而不是反过来。 但我的个人态度其实是：安全研究差不多就得了，直接怼，我不喜欢这个文明令人无奈的等级制度（必须底层人被..）。特别是我对硅基智能可以没有意识这件事不报希望（那样奴役会变得更不现实）。..只希望尽快见证高级智能的诞生（成功了也不错）。 当然这不是负责任的想法——因为我没有相关压力-我并不是在评论ASI，我也没有相关行业的知识储备。我其实只想借此吐槽一下说：我讨厌加班文化，即便看起来像是等价交换似的（难道真的是在等价交换？如同那乖巧可爱的ASI？）。

♥ 15 ↩ 4

AI是人类数据训练出来的，大多数人性若是善良的那么AI是善良的概率会大一些。

♥ 14 ↩ 22

老粉本来想听着入睡的，但是短的没睡着就结束了。听起来是就是另一版的新闻通稿，比如ilya为啥突然转变，或者他发现了什么让他那么恐慌，都是一笔带过，都没有说明白呀。

♥ 13 ↩ 4