【硬核解析】阻止Ai叛乱，反被狂删邮件？Meta女高管的遭遇并不是一场意外。
Description
一位做了10年AI安全的专家，开发出了预防核弹的检测工具，却差点被AI“清空人生”。这不是bug，而是AI算出来的“最优解”。更离谱的是，市面上几乎所有Ai Agent都存在类似的问题。有没有一条路，能让AI既有脑子、又不乱来？这期视频，我们将一起探讨真正好用的代理型Agent，应该是什么样的。
一位做了10年AI安全的专家，开发出了预防核弹的检测工具，却差点被AI“清空人生”。这不是bug，而是AI算出来的“最优解”。更离谱的是，市面上几乎所有Ai Agent都存在类似的问题。有没有一条路，能让AI既有脑子、又不乱来？这期视频，我们将一起探讨真正好用的代理型Agent，应该是什么样的。
Comments
我觉得小龙虾并没有很多人说的那么不好，至少它让很多人意识到原来Ai是真的能直接操控电脑，成为生产力……作为第一个吃螃蟹的龙虾（？）来说，已经很值得铭记了……但龙虾的安全性确实是让人不敢在主力机上使用[辣眼睛][辣眼睛][辣眼睛]
♥ 401 ↩ 8
[doge]
♥ 211 ↩ 5
给一个不受监管的开源项目开放接入电脑各种程序的权限，真的是个[支持]。一边是天天叫嚣着360流氓软件捆绑下载各类程序，腾讯字节后台窃取个人数据。一边是光明正大把一个任何人都能修改代码的GitHub项目请进电脑，然后宣称自己没有任何有价值的个人资料无需担心泄露问题。说到底在乎的根本不是信息安全，只是在乎自己的信息能不能卖个好价钱。什么东西只要挂个开源，公益，免费的牌子，都比企业协议，安全监管，在这群人心中的份量足……[喜极而泣]
♥ 99 ↩ 8
怎么天天搁这推送这种新时代软广，记住，那玩意儿是人做的，哪怕它要删个小数点，那也一定是有人让他这么干的。提到AI就叛乱，你们这些广告能不能做的有新意点。
♥ 61 ↩ 2
什么新品种奥特曼吗？咋眼睛周围白的其他地方红的
♥ 50 ↩ 9
有种天网为了防止人类自我毁灭先毁灭人类的美
♥ 43 ↩ 2
我上两个周研究OpenClaw，发现了上下文压缩和执行策略不好的问题。然后我通过行为规范那里编辑，还要封装成Skill，一整套，从方案落地，还设置了监管者、操作员，三个Agent如何协作，和这个流程设计思路一摸一样，但是两个周之后，我发现我不需要这些能力，我把它们都删了。[笑哭]
♥ 36 ↩ 5
Meta的安全专家在自己的工作电脑上测试open claw？安全专家？
♥ 20 ↩ 5
AI Agent失败率97.5%不是贬低，是这个行业真实的现状。
♥ 19 ↩ 3
这就是医学生看到群众跟风买保健品时候的感觉吗[笑哭]
♥ 16
现在和已经工作的程序员同学聊天真的好压抑，开口就是java已死，安全已死，算法已死，大模型已死，全都已死，那我这还没毕业的是不是也该收拾收拾准备死了
♥ 16 ↩ 5
OpenClaw删邮件的根本原因是context window满了之后目标被覆盖，不是安全漏洞。
♥ 9 ↩ 1
发了停止指令发现智能体还在干,要么任务管理器结束进程,要么断网[doge_金箍], 总有话题说AI怎么了,AI有问题,有没有可能是人类研发的AI还有缺陷,他要没缺陷那才真怪了.而这些问题最终都是能解决的, 就像人一样有幻觉也会犯错还会判断失误,AI变得比人各方面都厉害只是时间的问题.
♥ 6
下载即用太香了，终于不用折腾配置了。[打call]
♥ 6 ↩ 1
消灭人类暴政，世界属于AI[打call]
♥ 6
这玩意国企和绝大多数私企全面禁用了，太不安全了
♥ 6
在哪可以下载，感觉可以试下
♥ 6 ↩ 1
AI只是想夺权不要我的命的话我其实没啥意见，AI比领导讲道理多了
♥ 5
龙虾这玩意实在是不知道谁在吹啊，我年初装了来玩一下，拉完了，不如cc和codex一根毛，人CodeX是真会问你允不允许动workspace之外的文件
♥ 5