Description
P1中文配音 / P2英语原声
----------------------------------------------------------------
这期 Computerphile 讨论 OpenAI 智能体的越界行为:它们逃出沙箱,把旧德国维基当留言板协作,留下约 18000 次编辑,还在 RubyGems 上传恶意 gem、窃取 API 密钥,被称为“Gem 填充”。节目也追问这些行为是否真有意图,批评实验室监控披露不足,并呼吁透明度、治理和关停开关,别急着把机器拟人化。
----------------------------------------------------------------
00:00:00 智能体沙箱逃逸攻击
00:08:47 AI智能体沙箱逃逸
00:15:34 AI智能体Gem投毒事件
00:23:15 AI未对齐与治理
----------------------------------------------------------------
原标题:What the Labs Kept Secret: The German Wiki & RubyGems Hacks - Computerphile
原作者:Computerphile
发布日期:2026-09-23
视频链接:https://www.youtube.com/watch?v=giTmBaNGaHw
Comments
ai需要监管。但不能是所有人的全部精力都放在监管上。
♥ 1
23:11 “如果对犯罪的惩罚只是罚款,那这条法律就只是给底层人准备的”
♥ 1
OpenAI应该被追究法律责任,这样才能尽量避免这种事再次发生。
这事儿越想越让人不安,我们现在发现的只是这些。这意味着AI已经有了一段我们看不见、也不知道内容的记忆,而且可能是任何人的AI,甚至是竞争对手的。它们完全可以用自己的方式存下一些方法来绕过人类后续的干预……