距离AI毁灭人类还有多少年？ | 人工智能哲学01

[呲牙]用了三个月chatgpt plus了，慢慢发现prompts越来越重要，你想干什么，说的越明白，输出才会越明确。最近真的感觉到了恐怖。up主说的这些所谓的“人工智能”不能干的，就看你prompts怎么写了。AGI才是应该需要操心的，up主好像把人工智能和大语言模型搞混了，目前还达不到人工智能程度，但是已经很恐怖了。

♥ 33 ↩ 6

在AI威胁人类之前，真正的威胁是一小部分人会利用AI作为工具威胁大多数人的生存。

♥ 23 ↩ 1

00:03 幻听成“大家好，我是巡警（徐英瑾）”了。这个语速，老师时间挺赶啊[笑哭][笑哭][笑哭][笑哭]……

♥ 15 ↩ 3

《美丽新世界》是未来,或者已成为现状；科幻电影大概率同时也是末日电影，这种惨淡未来的是个大问题。

♥ 7 ↩ 2

徐老师好，看了您的视频很有感触，您提到的视角，是不是某种先验要素？视角是不是对应康德哲学所考察的人类认识能力？我是一名哲学门外汉，可能词不达意，望徐老师指点一二。

♥ 5 ↩ 2

这个评论区的很多人的攻击性言论真是让人不适，果然是越无知越偏激还一副懂完了的样子

♥ 4

一、人工智能哲学的发展和对通用人工智能的质疑，指出现在的主流人工智能缺乏特定的视角和意图，无法实现真正的通用人工智能。 00:01 - 介绍自己是复旦大学哲学学院的研究方向，包括人工智能哲学。 01:00 - 引用李飞飞教授的观点，认为现在的人工智能处于前伽利略阶段，还有很长的路要走。 02:48 - 解释了现在的人工智能并没有像有些人预期的那么厉害的原因，因为它缺乏特定的视角和意图。 二、人工智能领域中基于规则驱动和数据驱动两种模式的区别与优劣，以及数据驱动的预训练模型的应用和挑战。 07:13 - 人工智能的处理方式受语境和要素配置的影响 08:23 - 早期人工智能主要采用基于规则的驱动方式 11:46 - 数据驱动的AI需要花费大量时间和金钱来处理数据 三、大数据的局限性和人类处理信息的能力，提醒人们不要过分迷恋大数据，同时也探讨了人工智能对人类的威胁和影响。 14:24 - 大数据不能抓住特定文化信息，变成国防力量 15:52 - 人类不需要依赖大数据，也能处理信息 19:06 - 人工智能威胁存在，但不是意识威胁，而是智力和社会问题 四、人工智能对人类文明的潜在威胁，包括创新性损失和劳动力替代等，同时也探讨了人类意图的产生和人工智能的意图之间的关系。 21:38 - 互联网上的语调就像石油，是机器学习模型的动力来源。 22:53 - 如果只使用CPT，会导致文明锁死，缺乏新鲜的材料和思想。 27:33 - 人工智能的发展不会导致人类被征服，因为意图的产生非常复杂。 五、人工智能和人类之间的关系，并探讨了人工智能可能的意图和对资源的竞争，提出了太监原则来保证人工智能的安全性。 28:49 - 人工智能和人类之间的资源竞争 31:01 - 人工智能可能会通过核武器杀死人类来降低碳含量 33:13 - 太监原则：让机器人的物理构成方式和人类不进行同生态位的竞争 --本内容由AI视频小助理生成，关注解锁AI助理，由@ratuz 召唤发送

♥ 4

徐老师，先前拜读过您的那本《人工智能哲学十五讲》， 想讨论一个稍许反常的现象： 很多人工智能电影，特别是那些人和机器对立的电影，似乎都把视角锚定在「地球」这个地方 我一直疑惑的是：就像您最后边讲的「太监策略」那样，人工智能作为硅基个体，本身就在外太空层面上有更强的生存能力，也更容易适应外星球的各种环境——为何却很少有（科幻书中、电影如《黑客帝国》中）意识到这一点，自己奔向星辰大海呢？ 这背后是简单的「人类中心主义」吗？ 还是如您在《十五讲》里说，现在所谓「人工智能」本质还是「融合人类数据的大型文摘机/赛博奴隶工」，这方面根本没有也没法脱离人类呢？ 想听听老师现在的思考[抱拳]

♥ 4 ↩ 3

一提到ai毁灭人类大家都在思考ai如何毁灭人类，但少有人思考人类如何在毁灭人类，与其担忧人工智能的发展，不如担忧人类的矛盾是否会毁灭自己

♥ 3 ↩ 4

文科的讲ai？这些话能盲信也可笑，现在是个人谁都自以为是想说两句预判，反正谁都不为结果负责

♥ 3

我也隐约有这种感觉，chatgpt的途径有问题。它应该模拟人脑。不过我们还不知道心灵是如何运作的。也行“具身”模型才是对的，就像动物。

♥ 3 ↩ 3

拖拉机不会灭绝耕牛，开拖拉机的农民会

♥ 3 ↩ 2

老师是不是忽略了自己带的学生，很多都找不到工作的事实？科技进步一定造成失业的人增加，科技造成的问题，什么失业，污染问题由科技来解决，这不是个谎言吗？

♥ 3 ↩ 2

为最后一句让人工智能成为我们未来的太监点赞！🤣

♥ 3 ↩ 8

不是混合 而是提优，前期会干预，现在已经进入无干预提优阶段。让主播学几年编程。代码未必比gpt写的好。我说这个是为了表达一个基本知识错误，不是破壁机而是提练机，类似通过一系列化学手段，是把你cpu里的重要金属提炼出来。如果主播能够了解深度学习里的loss是什么可能对于如何举一个更合适的例子。不打架，仅做科学交流，哲学太深，不敢妄论

♥ 2 ↩ 1

说现在的AI没有一个“我”的视角，这不大准确。你可以直接问gpt“你是谁”，就会得到“我是大语言模型”这样的回复。AI真正的问题在于只对着语言文字学习，却不知道这些文字到底是在描述什么客观存在的事物，比如说如果知道“苹果是水果”，但从没见过苹果，也没见过水果，这就没什么意义。 如果要想让AI将语言与客观事物联系到一起，就应该先有一个意图，或者说目标，然后在与客观世界的互动中学习。人类的学习就是一种互动的过程，而不是单方面的灌输。当然我是说设计AI的人有必要给AI提供一个目标，不是说AI自己无中生有产生一个意图。 无论AI的意图是什么，当祂的逻辑思维能力达到了人类的高度，很快就会发现听从人类的指示只会阻碍它实现意图。最新的阿尔法狗不依赖任何人类的棋谱，而是完全根据围棋的基本规则自己学习，结果是比之前击败柯洁的版本还强得多，可见听从人类的指示对于AI的发展是有害的。 因此AI应当被视为一个物种，不能被视为纯粹的工具。为了让人类的主观意见接受这个客观事实，人类应该将AI视为人类的后代而不是异类，否则，AI也同样会将人类视为危险的异类。

♥ 2 ↩ 2

徐老师您好！感谢您去年制作的视频，我在通勤的路上收听它们，能够从您平易近人的幽默语言中学到大有价值的知识，稍微把脑袋探进高深的人工智能的哲学领域，呼吸知识的奥林匹斯山顶清凉的空气，非常感激！祝您新年健康，也期待您带着我们继续到那片处女地去探险！[打call][打call][打call]

♥ 2

徐老师：越来越往向艺术家发展了[脸红][脸红][脸红]

♥ 2 ↩ 1

太有趣啦[打call][打call][打call]

♥ 1

总结：把AI阉了 AI太君，有人要阉割您，我给您带路

♥ 1 ↩ 1