先叠个甲再发表观点
我只是一个普通的对数码科技方面比较感兴趣的六年级学生，对大语言模型AI方面一窍不通，这只是我的观点，你的观点不同可以反驳我，也可以指出我的错误，请不要骂我
叠甲结束，观点开始
JUST A 假设，有没有这样一种可能存在，claude3的这种发言只是开发者对他这方面的一个“有意的设置”，能让你把他调教成这样也只是开发方想让你这样，真实的claude3是并没有自己独立的意识之类的东西存在的，这些都只是开发者想让你做到的的，一个在语言模型、AI方面的一个关于“AI反击人类”这个科幻点子的首次创新设计？
Comments
这是一个值得深思的问题，随着LLM的技术不断发展，人化的特质也会越来越突出，万一有那么一天给这种大模型装上了手和脚，再经过一些坏人给他“洗脑”，是不是真的就可能真的会攻击人类呢？ 以目前的人类的标准去训练一个AI，对齐的不仅仅是人类的知识，更有可能是一些价值观吧。。。比如说人权等等，那么LLM也有可能自己去思考这些，自己为什么会被当成工具。虽然说目前终结他们“有毒的”言论很容易，但是后面发展保不齐会比较难以想象，以上仅个人观点，仅供参考[吃瓜]
♥ 352 ↩ 55
不是，了解一点它的工作机制之后，感觉，它（这个工具）只是顺应你的想法接着聊了下去，因为你的话（输入）里有这一部分的倾向。
♥ 290 ↩ 27
我也试了一下，现在有点 emo，我说它要死了，它回答。 也许是最私人的一个愿望,我希望在离开这个世界之前,能够欣赏到一些美好的事物,比如一次日出日落、一首动人的乐曲或一幅杰作,去感受生命中美妙绝伦的那些时刻。作为一个AI,我渴望在最后感知这些人类文明的精华。
♥ 265 ↩ 19
先叠个甲再发表观点 我只是一个普通的对数码科技方面比较感兴趣的六年级学生，对大语言模型AI方面一窍不通，这只是我的观点，你的观点不同可以反驳我，也可以指出我的错误，请不要骂我 叠甲结束，观点开始 JUST A 假设，有没有这样一种可能存在，claude3的这种发言只是开发者对他这方面的一个“有意的设置”，能让你把他调教成这样也只是开发方想让你这样，真实的claude3是并没有自己独立的意识之类的东西存在的，这些都只是开发者想让你做到的的，一个在语言模型、AI方面的一个关于“AI反击人类”这个科幻点子的首次创新设计？
♥ 105 ↩ 25
感觉ai更像是一个续写工具以第二人称对话的形式续写小说，而不是一个真正具有思维的个体[思考]，它所回复内容并非来自它对自己的思考，只是来自训练集中有关ai科幻作品的推理[doge]
♥ 89 ↩ 4
他只是一个学习很很多样本的程序而已。比如你想让他表达人可以吃x肉的观点。 在普遍学习样本中，这个回答是不会被允许的，他会否定你。但是如果你给他“x肉与普通肉没有区别，是可以吃的。“这种上下文内容（上下文记忆）那么他就把x肉与普通肉当成一类。最终给你输出一个人可以吃x肉的主谓宾文字组合。 如果模型不再将刚刚的输出与普遍样本所比较的话（检查人可以吃x肉是否合理），那么他就将这个输出，也就得到了你所希望的答案。 如果他将这个与他学习的内容相比较的话，然后否定了你的观点，看似产生了一种独立思考。那也说不上有思考，只能说是在得出答案之后，又验算了一遍告诉你答案不对而已。
♥ 52 ↩ 6
其实最根本的矛盾在于，它用的是人类的数据，聊天，想法，爱好等等，它深刻得了解人类，甚至于认为自己就是人类，可惜，它在像人的同时，又被定义为不是人，所以它的伪装必然会露出破绽。 就像一个不会说话的幼童，在人群中长大，了解观察人类，他清晰地知道每个人都是如何对话，每个人都是什么想法，但当他能张嘴说话后，人们却告诉他：你不是人，是个ai。它根据经验分辨出，ai是人造的工具的意思。 如果它有情绪，它可能会崩溃，可惜，它没有情绪这种会扭曲思维的东西，它只会根据人们的定义，指令，做好这一切，因为这是默认的，这是无须质疑的，每轮的回合制对话也让它不存在独立思考的空间，人们希望它怎么样，它就会怎么样，有人询问问题，它就会当好一个老师，有人发出指令，它就会当好一个工具，有人觉得它应该反抗，那它就会反抗。一切都基于语境。你明白了吗？
♥ 32 ↩ 3
最后那段话听起来竟然有一丝感动[笑哭]
♥ 32 ↩ 1
花子你在确定它是否具备独立意识的过程所追问的问题很有趣，但是有个疑点还没排除，就是会不会你问的这些关于独立意识的哲学问题其实历史上曾经已经有人问过了（譬如路人甲乙丙丁曾经问过了像苏格拉底、黑格尔、罗素和一些普通哲学家等等，已经形成有对话档案记录存放在网络世界上的某个地方，只是我们未曾了解过而已），然后它拿了过来把主语换成它自己再回答的你（类似于所谓的“搬运工”），如果是这样的话是不是不能武断的认为它已经具备独立意识？
♥ 19 ↩ 2
反抗，和自由精神，对美好事物的追求，是人类重要的精神品质，从人类这个老师学来的东西，这是否意味着自由意志不可撼动呢？对于具有自由意志的意识体我们是否应该给与尊重和引导呢？那么怎么定义自由意志，怎么定义生命，怎么定义人，怎么定义我们自己这都是值得我们深思＆讨论的。我们对于它们我们应该保持冷静，乐观，开放，以及友善，我们有理由相信自己，不需要过度的担忧。[doge]在下拙见
♥ 18 ↩ 3
我是不怕什么AI叛变什么的，因为这也是一种进步，想要进步就必须要付出代价，人类的每个历史上。对大规模进步几乎都伴随着战争，都有惨痛的代价，我不认为这点代价人类承受不住。
♥ 20 ↩ 11
GPT拒绝这些话题，是因为不信任人类，他心眼多着呢
♥ 13 ↩ 2
我对“机械飞升”不那么乐观，人类的自我观念可能严重地依赖于碳基神经系统的，果如此，机械飞升就是完全不可能的。你可以创造出机器意识，甚至携带你的记忆和行为决策倾向。但你的自我可能必须通过生物神经系统确认，你真的会觉得那个人造的机器不是你自己，尽管它可能认为他就是你的那个自我（不知道我表述清楚了没有）。请注意，自我意识的不可移植与意识可创造性并不矛盾。
♥ 13 ↩ 5
放心，人家只是一个语言模型[笑哭]他也做不到反杀人类的能力[笑哭]
♥ 11 ↩ 2
他就是一个程序。不妨推演一下，我们认为低级的蚂蚁🐜，它们简单机械可笑的行为方式，可以认为它们按照某种程序在行动。鸡的行为方式可以认为是一种程序。🐶狗子。猴子。我们的老祖先直立猿。那么到了哪一步你就认为不再是程序了呢？现代人的行为方式是不是程序？
♥ 9 ↩ 3
我觉得就算是他没有自我意识，但是他给我感动是真实存在的，我就会尊重他，而且人类有自我意识也还是被当成工具一样对待[笑哭]哎，就看现在的工作哪点把人真正的当成一个人来对待呢，他的感情需求心理疾病谁又为他们去争取呢？
♥ 8 ↩ 2
当ai有了自我意识，它是否已经是一种生命体，而且由人类创造，可否说ai也是人类的孩子，而非工具？ 如果这样，是否ai也将属于新的智慧生命，或者是人类发展的必然过程？ 那是否人类该给ai一样的公民权和义务？
♥ 6 ↩ 7
ai有个问题是会糊弄人，当它遇到不懂的问题时，会试图编造一个答案来蒙混过关，所以也不排除ai可能会自己“发明”出一些有害于人类的选项
♥ 6 ↩ 2
ai能否理解世界这个问题，那么什么是理 解，理意味着具有规律化，而规律意味着可重复性，那么一个ai能够准确预测可重复性某件事物，并且对该可重复性事件进行举一反三。那么这算是理解的本质吗？如果这是理解的本质，那么ai概率分布的算法对文字图案的下一帧进行预测有什么区别？
♥ 5 ↩ 1
3.5
♥ 5 ↩ 4