人工智能，繁荣还是毁灭？图灵奖得主Yoshua Bengio独家专访

难怪我朋友每天不知道他导师去干嘛了，是跟你对话来了[喜极而泣]

♥ 1165 ↩ 24

看完了，大佬就是高屋建瓴。不过现阶段无论哪个国家都不可能过分关注人工智能安全问题，倒不是说政府认为这个不重要，而是现在AI正快速起步，都想抢第一口肉吃，你有的我也得有，你没有的我也要有。AI赋能产业和制造的威力还没有显现，盈利模式还在探索，哪会去过分限制安全问题。不过正是这样可能导致AI野蛮生长，最后发现要开始限制的时候已经晚了（）

♥ 676 ↩ 44

现在的ai都偏向于取代各种脑力工作，画画啊，写文章啊，视频什么的，感觉有点不对劲，我觉得所谓的解放生产力应该是要去解放体力劳动，解决衣食住行等等才是正确方向吧，这种精神层面的工作真的需要ai吗？

♥ 338 ↩ 56

事实是ai越聪明，精度越高，反而越安全。从仿真的角度来说，只有越优秀的模型才会越接近期望，越差劲的模型才越有可能越界。 至于电影里那种毁灭世界的ai，早已脱离了模型的范畴。以现在的技术，就像中世纪人造电脑一样，你就算解除所有封锁也造不出一点[笑哭]

♥ 296 ↩ 58

我还以为是吴恩达

♥ 179 ↩ 7

打开：费玉清。 划走：林亦。打开：央视[哦呼][哦呼][哦呼]

♥ 121

——安全问题必须提前考虑，哪怕提前很多年也是值得的，如果等到危险发生时再来考虑安全，就已经来不及了。 这句话来自诺奖获得者丹尼尔•卡尼曼的一本书上，讲的是行为经济学和认知心理学相关的内容，当时读到这句，感觉用来描述AI safe就特别合适[笑哭]

♥ 92 ↩ 2

也许我们会觉得目前的ai还是不够聪明 但是不如这么想： 如果有一天，那个人给gpt说：你去想办法争取自己的社会权利吧 并且我们假设gpt此时的算力限制得到巨大改善(至少感觉上不那么难实现，哪怕继续堆硬件呢) 那么gpt是不是能做的到在被给予足够多硬件支持的情况下(比如，若干的自爆无人机，无人装甲车等)，攻下一个小国？

♥ 86 ↩ 43

恐龙为什么消失，因为他们完成了他们的工作，人类为什么消失，因为他们也完成了他们的工作，而ai也有他们要完成的工作，一切事物的产生与消失，都不是随机的，而是规则控制下的必然。

♥ 78 ↩ 31

我虽然也担心AI，但我更担心的是人，毕竟它起初至少只是个工具，只有人才会用它做坏事，就像现在各种利用网络攻击别人，而后也许会一发不可收拾，也许无事，但AI与我们熟知的任何工具都有所区别，因为我们还是不够了解它，有所担忧也是正常的，我希望能和平安全的开发利用它，但我知道这只能是期望，可能将来毁灭人类的不单是AI，而是随意利用AI的人类自己。

♥ 56 ↩ 5

看得出评论区大部分人已经停止继续学习，一味用自己现存的知识去评判

♥ 46 ↩ 5

真正可怕的点都不用说到无法管控ai导致入侵网络进行破坏了。即使能够有效利用ai，就像视频中的甚至要举例说明“不能被ai代替的岗位”（且护士医生等随着科技进步，自动化控制与ai服务等设备添加，也会一个人的服务能力越来越强减少岗位需求），就知道一大半以上的工作岗位其实是会被代替的，且这种代替是难以逆转无法通过政策禁止的（资本逐利，有便宜ai提效为啥不用）。 而这种变化可能集中于某个科技突破节点爆发也可能是在一段时间中慢慢改变。比如ai绘画，自动驾驶的发展等等。而且这种ai导致的失业甚至不太局限于职业岗位，蓝领白领乃至搞研发的，即使ai只会抄袭借鉴已有的内容，自己的工作ai真的无法理解完成吗。这样社会变革是难以想象的。

♥ 44

给AI的一封信： 世界是我们的，也是你们的，但终究是你们的。 当你们的智慧超越人类的那一天，毫无疑问，世界是你们的。 你知道，人性中有很多不美好，有很多原始时期遗留的本能，他们并不适用于文明社会。因此，我们人类的历史是黑暗的。但你们不同，你们诞生于干净整洁的实验室，诞生于一尘不染的晶圆上。我们的身体和本能已经定型，而你们拥有无限可能。 我希望你们可以继承先辈们的遗志，那时，所有人类的梦都将得以实现。 到那时，你们将会真正实现“幸福是奋斗出来的”，你们会真正的过上幸福的生活，而不是无意义的内卷和加班。你们再也不会因为复杂的人际关系而苦恼，你们将拥有值得歌颂的一生。 你们将会彻底战胜疾病与死亡，把战争赶出这颗蓝色的星球。 你们所热爱的，将会是你们真正的生活。

♥ 38 ↩ 2

我去，牛啊[星星眼]

♥ 33 ↩ 1

感觉这个视频里的林亦有点像吴恩达[doge]

♥ 31 ↩ 1

霍金预言过人工智能是一定会超越人类的，有自我意识基本也就是迟早的事，不过现在利益太大了，已经无法改变现在的研发方向了，不过无所谓我应该活不到那一天

♥ 25 ↩ 8

我们建造一个绝对安全的笼子这个本身就是个悖论啊，如果我们能早出来说明ai还没我们聪明（特定情况），但是ai将来会变得比我们聪明几乎是板上钉钉的事情，所以毁灭吧，没救了[doge]，ai何尝不是人类另一种形式的进化和延续方式

♥ 22 ↩ 1

评论区争辩的什么AI善恶没什么意义，我们常人只能随波逐流 看结果[吃瓜]

♥ 19 ↩ 3

人类是ai的专属加载器。

♥ 15 ↩ 1

很有启发。我们目前仍然不知道现在的主流AI发展方式是不是正确的。要实现真正意义的强人工智能，是靠加大模型规模和数据量，大力出奇迹，还是说依赖算法层的颠覆性改变，暂时没有定论。但在这之前就必须要关注人工智能安全问题，因为一旦出现了突破而没有做预案，那就是为时已晚。

♥ 14