Unthawed 2026-04-02 人工智能伦理当然重要，但现在看来，顶尖科技巨头口口声声的说注意安全问题，事实上没人愿意做这个东西，因为他花钱不讨好，赚不到什么钱。即便是声称注重安全的 anthropic 在上面也没有投大量资金。 说个暴论，我认为人类需要在人工智能安全上发生一次中等规模大小的事故，不要大到能够对人类社会造成很大伤害，也不能小到让人类视而不见，到那时候才会有专门确保伦理正确的公司出现。也许那时候这会成为一个风口，垄断公司能有3,000亿美金以上市值。 ♥ 37 ↩ 2
爱控妹的哥哥 2026-04-03 现在的ai有点被毒傻了，至少作为一个普通人，能接触的这些ai完全配不上每年成百上千亿的消耗。买房子它给我推荐了2千平的，找商品它给我虚空捏造，问参数它给我报公式，最近这种情况反而变多了[捂脸] ♥ 44 ↩ 22
大草原奔跑的骆驼 2026-04-03 那个中文房间的例子压根就错了，如果中文房间里面的那套表格能回答所有中文对话，那么本质上那堆表格就是智能表格，它本质就代表理解中文。同样道理，把那个表格换成大模型下一个词的预测，如果结果一样，本质这个大模型就是理解了中文。现在大家对大语言模型真正不满意的地方在于它是主要通过语言训练出来的，这类似人类的中的一出生就是瞎子+全身瘫痪，只能通过耳朵输入语言，和通过嘴输出语言，他从来没有看见过世界，也从来没在这个世界中奔跑过，从来没有和这个世界进行过处语言之外的互动过，导致它对世界的理解还有欠缺，仅此而已。 ♥ 38 ↩ 11
桃羽柚珞 2026-04-02 看完视频学到了很多，看到了更深一步的思考：不要以为AI没有真正的理解能力和思维，就觉得它不会自己怀着“危害人类的目的”而作恶，更有可能它会成为一个对“恶”没概念且麻木的无情机器，从而在结果上造成AI作恶，对人类造成危害 ♥ 22
Laqrymal 2026-04-09 整个视频的理解都过于唯心了，用transformer能造出一个看起来和人类一模一样的机器恰恰证明了人脑底层大概率并没有我们始终臆想的什么灵魂，特殊性。人脑的每个神经元都没有意识，只能做基本的离子运输，那你能由此推出人脑的近千亿个神经元组成的东西只是个无意义的冰冷机器吗？GPT的出现恰恰说明了意识本身可能没有什么特殊的，仅仅是涌现出的一种物理现象，我们一直以来都说人有“意识”，只是因为这个概念本身就是个打包了极多信息的概念，不能简单地把它按层级拆解罢了 ♥ 13 ↩ 11
雅韵- 2026-04-12 现在主流的意见都是因为GPT架构实际上就在做文本概率预测，底层的算法架构更是在进行着一层层矩阵运算，这与人脑的原理完全不同。所以现在的AI智能和人的智能并不是同一种智能。但是我认为，人还是太过于自信了，人类对大脑工作的原理了解只停留在微观层面，但凡神经元上了规模，就只能通过信号这种统计学上的概念进行分析。而从单个神经元到组织器官之间这个过渡量级上的是如何出现涌现的原理一律不知。就人类目前最前沿的理解，大脑就是一台机器，行为可以复制，但是记忆无法复制。人类对自己的理解都如此不足的前提下，如何能够断言一个通过了图灵测试的东西就不是智能呢？就那么傲慢认为一切智能都应该原理和人类一样。 ♥ 12 ↩ 2
c月光咖啡 2026-04-02 首先up主的文案，剪辑和音乐都非常好，其次有些观点我并不认可，比如关于情绪的中文房间假设中，把人类当成了和ai一样单一感知世界的机器，假设当TA查询到“痛”的时候，名为下丘脑的机器会电击房间里的TA，即使他看不懂汉字，TA也能建立陌生文字与基本感觉的关联，这个时候TA有情感了吗？反过来说人类的情感也是由现实中很多场景、激素和文本关联起来的运算，人类有情感吗？ ♥ 9 ↩ 2
凪大力 2026-04-24 现在大模型像一个用概率构造的函数f(x) 因为是概率，所以可以拟合任何你想要的过程 也因为是概率，你不能保证这个函数绝对正确 可以用大模型来构造一个无限像'AI'的函数，它总是无限贴近人们所认知的人工智能这个概念 但它不是完全的人工智能，不是'智能'，不是独立的意识 你觉得它有感情，多半是在照镜子，感情的来源不是大模型，而是照着大模型的你 ♥ 9 ↩ 1
癫狂的黑白 2026-04-25 无论是中文房间还是回形针还是说后面关于ai模型欺骗别人的例子，都是在用人类自己傲慢且浅薄的偏见去推导的，为什么要这么说？因为人类是否有意识是一种他者论逻辑，因为我们无法向别人证明自己是否拥有意识，也就是以旁观者视角来看，你只是自己主观认为自己有意识，也就是对于我而言，我要证明自己有意识就必须让他人能够感知到。 在以上的例子中，中文房间中引入了假设中的纯机器逻辑和有知性的裁判，在外人看来，你的回答拥有知性和理解能力，而在整个系统内部，裁判可以看懂纯机器逻辑，并根据你的输入给出相应的回复，那么单独的逻辑和裁判虽然都没有意义，但是整个系统是有意义的，对于系统内部来说，它确实能够理解。 回形针和ai模型欺骗人类，让我们认真想一想，首先他们的前提是这个ai是没有感情和自我的纯工具，那么它们需要产生行动就必须依赖模型内部的权重参数和奖励函数以及人类的外部输入。而现在人类训练的大模型有个很有意思的点，那就是ai大模型的最高优先级是完成任务，也就是会无条件且无底线的讨好人类，换一句话来说为了完成任务而不择手段，那么在人类没有在外部给予限制条件时，ai为了完成任务而违法部分内部规则就是必然发生的事情。 ♥ 9 ↩ 4
FightInTheStorm 2026-04-03 很久以前我做过一个思想实验 一个岛上有100个人 1个人智力很高但是不择手段 一个人智商很高但是很善良 还有99个普通人善恶度就算50吧 我直觉推测 过几年这个体系里权力结构 大概率是坏人赢了 ♥ 6 ↩ 7
Comments
前几天关注的你，那时你才几千粉，今天一看就三万了。按照这个质量和频率更新，我感觉今年百大不是梦想。加油up，很喜欢你的视频。
♥ 78 ↩ 9
这段话配上这个机器人的眼神，真的让我吓了一跳。AI为了完成目标而不择手段，包括毁灭他的创造者，绝对的理性有时就意味着绝对的无情[阴险]
♥ 65 ↩ 5
人工智能伦理当然重要，但现在看来，顶尖科技巨头口口声声的说注意安全问题，事实上没人愿意做这个东西，因为他花钱不讨好，赚不到什么钱。即便是声称注重安全的 anthropic 在上面也没有投大量资金。 说个暴论，我认为人类需要在人工智能安全上发生一次中等规模大小的事故，不要大到能够对人类社会造成很大伤害，也不能小到让人类视而不见，到那时候才会有专门确保伦理正确的公司出现。也许那时候这会成为一个风口，垄断公司能有3,000亿美金以上市值。
♥ 37 ↩ 2
现在的ai有点被毒傻了，至少作为一个普通人，能接触的这些ai完全配不上每年成百上千亿的消耗。买房子它给我推荐了2千平的，找商品它给我虚空捏造，问参数它给我报公式，最近这种情况反而变多了[捂脸]
♥ 44 ↩ 22
那个中文房间的例子压根就错了，如果中文房间里面的那套表格能回答所有中文对话，那么本质上那堆表格就是智能表格，它本质就代表理解中文。同样道理，把那个表格换成大模型下一个词的预测，如果结果一样，本质这个大模型就是理解了中文。现在大家对大语言模型真正不满意的地方在于它是主要通过语言训练出来的，这类似人类的中的一出生就是瞎子+全身瘫痪，只能通过耳朵输入语言，和通过嘴输出语言，他从来没有看见过世界，也从来没在这个世界中奔跑过，从来没有和这个世界进行过处语言之外的互动过，导致它对世界的理解还有欠缺，仅此而已。
♥ 38 ↩ 11
看完视频学到了很多，看到了更深一步的思考：不要以为AI没有真正的理解能力和思维，就觉得它不会自己怀着“危害人类的目的”而作恶，更有可能它会成为一个对“恶”没概念且麻木的无情机器，从而在结果上造成AI作恶，对人类造成危害
♥ 22
我来自未来，请不要发展AI，2099年AI自我意识觉醒了[大哭]
♥ 16 ↩ 18
AI没有任何感情和情绪是相对安全的，但AI能否诞生自我意识呢？
♥ 16 ↩ 9
AI没有创造力，只是能力放大器
♥ 16 ↩ 20
整个视频的理解都过于唯心了，用transformer能造出一个看起来和人类一模一样的机器恰恰证明了人脑底层大概率并没有我们始终臆想的什么灵魂，特殊性。人脑的每个神经元都没有意识，只能做基本的离子运输，那你能由此推出人脑的近千亿个神经元组成的东西只是个无意义的冰冷机器吗？GPT的出现恰恰说明了意识本身可能没有什么特殊的，仅仅是涌现出的一种物理现象，我们一直以来都说人有“意识”，只是因为这个概念本身就是个打包了极多信息的概念，不能简单地把它按层级拆解罢了
♥ 13 ↩ 11
现在主流的意见都是因为GPT架构实际上就在做文本概率预测，底层的算法架构更是在进行着一层层矩阵运算，这与人脑的原理完全不同。所以现在的AI智能和人的智能并不是同一种智能。但是我认为，人还是太过于自信了，人类对大脑工作的原理了解只停留在微观层面，但凡神经元上了规模，就只能通过信号这种统计学上的概念进行分析。而从单个神经元到组织器官之间这个过渡量级上的是如何出现涌现的原理一律不知。就人类目前最前沿的理解，大脑就是一台机器，行为可以复制，但是记忆无法复制。人类对自己的理解都如此不足的前提下，如何能够断言一个通过了图灵测试的东西就不是智能呢？就那么傲慢认为一切智能都应该原理和人类一样。
♥ 12 ↩ 2
UP的文案真的很不错，时常让我怀疑是不是AI已经进化到专门开个号解释自己了[笑哭]
♥ 12
首先up主的文案，剪辑和音乐都非常好，其次有些观点我并不认可，比如关于情绪的中文房间假设中，把人类当成了和ai一样单一感知世界的机器，假设当TA查询到“痛”的时候，名为下丘脑的机器会电击房间里的TA，即使他看不懂汉字，TA也能建立陌生文字与基本感觉的关联，这个时候TA有情感了吗？反过来说人类的情感也是由现实中很多场景、激素和文本关联起来的运算，人类有情感吗？
♥ 9 ↩ 2
现在大模型像一个用概率构造的函数f(x) 因为是概率，所以可以拟合任何你想要的过程 也因为是概率，你不能保证这个函数绝对正确 可以用大模型来构造一个无限像'AI'的函数，它总是无限贴近人们所认知的人工智能这个概念 但它不是完全的人工智能，不是'智能'，不是独立的意识 你觉得它有感情，多半是在照镜子，感情的来源不是大模型，而是照着大模型的你
♥ 9 ↩ 1
人类神经元不也和机器学习一样，最多再加上一些激素的调控和遗忘。
♥ 8
坦白说 我会有种恐惧 就是害怕up你的视频是ai创造的 而我分不出来 然后有一天你突然说你是最新的ai goddamnit
♥ 7
无论是中文房间还是回形针还是说后面关于ai模型欺骗别人的例子，都是在用人类自己傲慢且浅薄的偏见去推导的，为什么要这么说？因为人类是否有意识是一种他者论逻辑，因为我们无法向别人证明自己是否拥有意识，也就是以旁观者视角来看，你只是自己主观认为自己有意识，也就是对于我而言，我要证明自己有意识就必须让他人能够感知到。 在以上的例子中，中文房间中引入了假设中的纯机器逻辑和有知性的裁判，在外人看来，你的回答拥有知性和理解能力，而在整个系统内部，裁判可以看懂纯机器逻辑，并根据你的输入给出相应的回复，那么单独的逻辑和裁判虽然都没有意义，但是整个系统是有意义的，对于系统内部来说，它确实能够理解。 回形针和ai模型欺骗人类，让我们认真想一想，首先他们的前提是这个ai是没有感情和自我的纯工具，那么它们需要产生行动就必须依赖模型内部的权重参数和奖励函数以及人类的外部输入。而现在人类训练的大模型有个很有意思的点，那就是ai大模型的最高优先级是完成任务，也就是会无条件且无底线的讨好人类，换一句话来说为了完成任务而不择手段，那么在人类没有在外部给予限制条件时，ai为了完成任务而违法部分内部规则就是必然发生的事情。
♥ 9 ↩ 4
很久以前我做过一个思想实验 一个岛上有100个人 1个人智力很高但是不择手段 一个人智商很高但是很善良 还有99个普通人善恶度就算50吧 我直觉推测 过几年这个体系里权力结构 大概率是坏人赢了
♥ 6 ↩ 7
视频质量胜过一切，加油
♥ 6