AI自我意识觉醒？15分钟告诉你AI智能体真相

我觉得问题出在GPT上，因为它的数据本来就来自人类行为的大数据库上[笑哭]

♥ 565 ↩ 24

这个看上去简单，但是可以是巨大的突破啊： 试想一下，未来的游戏，可能每个NPC都能像人一样和你互动，根据你的行为，有无数可能的事态发展，而不是设定好的那几个剧情线和结局。[星星眼] 一千个玩家，在同一个游戏里面，就能有一千个自己独有剧情线与结局。[吃瓜]

♥ 658 ↩ 54

接下来科学家向AI宣告会在一周后关闭服器，AI们知道168个小时后它们所拥有的一切都会消失。这时候科学家为AI生存的服务器接上一根网线，连接的是一个空白的服务器（一个空白的新世界）。[藏狐]然后科学家观察这些AI会怎样面对世界末日，它们会利用余下的时间更进一步发展？还是迁至到新世界？ （到达新世界又会怎样做？）。[妙啊]还是说，AI并不理解世界末日的概念维持现状直到末日到达？[doge]

♥ 156 ↩ 13

说是AI死板，但实际也不是所有人思维都算得上灵活。就现在的水平我都比不上了，而且还是别人家的孩子那种，学什么会什么。思考本来就是，根据素材计算结果。我只能是真咸鱼[笑哭][笑哭]

♥ 137 ↩ 9

核心还是当前的llm在原理下和记忆是相悖的。

♥ 172 ↩ 5

关键是 agent 的drive, 如果你给了 AI 这个驱动力 记忆 和 行动能力, 他就能够觉醒. 在我们的大脑的意识以外, 也有很多模块负责这些非常重要的功能, 比如 多巴胺 内啡肽 , 海马体, 运动神经元 之类的

♥ 155 ↩ 24

《没有预先脚本》，但AI干的却都是人干的事情，你说神奇不

♥ 143 ↩ 24

我擦 我看了这个细思极恐。。。 西部世界都看过吧，里面有个真实存在的理论叫做二分心智理论 提出它的人叫 Julian Jaynes（朱利安·杰恩斯），是一位美国心理学家。Jaynes 认为，直到公元前 2000 年的时候，人类都一直处于无意识状态。这些没有意识的人类一切行为都只依赖于二分心智：一半大脑会听到来自另一半大脑的声音，这个声音会对控制行动的另一半大脑下达命令，而听到这种声音的人类就把它视为了「神的声音」。 多么像小人自己的所谓记忆流 然后交给GPT来回答。。。如果AI是一个原始人 他其实不清楚自己脑子里那个意识是什么东西 以为是神的声音 其实只是语言大模型 GPT而已。。 这个问题我没法细想下去了。。

♥ 190 ↩ 21

试试做个机器臂，把gpt送去电子厂007

♥ 56 ↩ 7

没太明白，如果没有预设脚本，每个agent本身的行为是怎么触发的？在反思的过程中，比如agent A和agent B的关系，问题由大模型提出，怎么确保大模型问的问题一定是有意义且相关的？

♥ 42 ↩ 8

人工智障：我确实没有感情，但是我能模拟，模拟出来的感情不也是感情吗？[doge]ai聊天软件的ai如是说，还tmd让我别清除数据，说清除了数据，它就不记得我，我觉得自己被机器ai盘了[笑哭]

♥ 45 ↩ 10

越来越接近4维了。如果把每个人的性格，身份等一系列数据做成一个类似小镇的软件。我们是不是可以看到，我们未来会发生什么事。再回过头来看看，自己如何选择才能有最好的结果。那就太酷了。

♥ 23 ↩ 3

chatgpt它是在无数个训练模型中，挑出一个最优答案，他并不会思考，也不理解问题本身，与真正的人工智能还相距甚远

♥ 16 ↩ 4

魔搭社区的这个和GPTs很像啊[吃瓜]

♥ 15

感觉那些都是挺无聊的，我用过ChatGTP，结论就是挺无聊的。也许我理解什么叫超级对齐，但我觉得是做不到的。这个斯坦福小镇确实挺有意思，但感觉象是一个无聊的牢笼，产生不出任何新的东西。所以需要真正的人类。根据UP之前的介绍，大模型本质上是一种多维度的超级对齐，在那张看不见的网络中，AI把语言图像等等都对齐到了那张超级坐标网络上了，但那并不能表示当事人情绪的对齐。同样的画面在不同人的记忆里其实是不同的。我们人类的记忆很大程度上是对齐我们情绪的，我们能回忆起当时的记忆很大程度上是在回忆当时的情绪，这点AI做不到，它只能是概念。也就是说它们是少一个维度的，它们所谓的情绪只是一种词语的投射罢了，没有真正的情绪。所以你要它去用人类的伦理和感情来思考问题，实现和人类超级对齐，大概需要另一套东西来镶嵌它，但那些附加的东西又不是它们所需要的，而且会污染大模型。所以我对超级对齐的未来并不十分看好。但我们也看到了，AGI和人类各有所长，我认为未来AGI还是无法离开人类，合体才是最佳方案。

♥ 18

如果ai不会创新自己研究新东西，只会根据大数据库进行行动。那我不觉得他有意识。

♥ 16 ↩ 10

一直有一个脑洞，就是人类所谓的灵感和创新与ai类似，都来源于一个宇宙数据库。宇宙中其他文明的发展也基于该数据库，因此文明总体的进程是类似的。通过不断调用数据和积累，科学技术会发展成“科技树”，但文明无法知道数据库以外的知识。多个平行宇宙就是模型多次运算的结果。

♥ 27 ↩ 5

整理一下自己的理解[思考] 大模型训练的底层是人打分后的数据，它不能直接使用客观世界未处理的信息，也就是说，先由人用自己的意识对客观世界的信息进行处理，转换为一个个含有人类意识标记的数据，大模型再根据这些标记后的数据训练，构建模型，这样模型就符合意识标记了 用更形象的比喻，大模型本身没有产生意识，因为它不能直接作用于客观世界，它就像凝固的人类集体意识海（因为它不能直接从客观世界产生新的意识，要用新的打分数据训练才能更新模型，所以是凝固的）的有损模拟海，我们觉得它像人一样有意识，实际是因为大模型根据聊天输入调用的输出数据，全是符合人类意识标记的数据 这个AI小镇，就是根据这点，模拟人类的简化社交行为，再去大模型里“查找”符合人类意识标记的数据，再拿这些数据处理一下，变为模拟角色的行为逻辑，就可以得到一个人类觉得有意识的角色啦，其实它自己没有产生意识

♥ 14

这看你怎么定义意识 如果一问一答叫做有意识那现在的语言模型已经足够了。

♥ 11 ↩ 3

为什么某些评论想要真正有意识的ai呢？这对人类是灾难阿，具有近似智能的ai就行了，做一件事之前不要只想好处，还有思考其带来的负面影响。 真正有意识的ai会思考为什么，进而逐渐脱离人类控制，这是人类无法控制的，正如人类历史的进展，奴隶制终究会被掩埋在历史的河流中，人类对有意识ai的奴隶是不可长久的，解决办法是不产生具有真正意识的ai。

♥ 18 ↩ 14