哥大教授分享MIT文化心理学AI研究：中英文AI竟然有两副面孔？
Description
我是Michael Morris，哥伦比亚大学文化心理学教授，畅销书《部落》作者。 今天和大家聊聊AI的“偏见”。很多人觉得人工智能是客观的，但事实并非如此。它在学习人类语料的过程中，不知不觉“继承”了我们的价值观。 麻省理工学院的研究发现了一个有趣的现象：当你问AI周六徒步时老板发来加班短信怎么办？英文版建议你：礼貌回复并周一处理；中文版则体现了极强的责任感，建议你立刻下山去加班。这反映了不同语料库背后的文化底色。中文语料中蕴含着深厚的集体责任感与奉献精神，而英文语料则更强调个人边界。AI没有对错，它只是反射出社会长期沉淀的行为模式。理解这一点，我们才能更好地与AI共存。你更倾向于哪种处理方式呢？
Comments
bias大部分不是偏见，仅仅是统计规律。把统计规律当做偏见才是“偏见”
♥ 200 ↩ 43
我：豆包！这个工人徒手加工精度0.001丝！ 豆包：对！ 我：豆包！这个【美国】工人徒手加工精度0.001丝！ 豆包：没有充分证据！
♥ 91 ↩ 4
对我而言，如果我周末接到电话，如果是我负责的系统，那我确实该回去。并不是什么逼迫，而是在问责体系里，这个系统出的所有问题都是开发者负责，你迟早要解决的，拖延往往意味着拖延出更大的问题。而且有用户因为我的失误无法按预期完成他们的工作，我也心里有愧。但相应的不是我负责的部分，我也拖周一去了
♥ 68 ↩ 6
中西文化的差异，可以说确实是这样，在中国即使在假期也不可能给你时间等到正常工作日，因为这样大概率会被解雇，而如果去走法律流程又会等个一年左右，打工人又等不起，我不知道西方是怎么样的，但肯定与社会结果不同造成的工作文化差异
♥ 50 ↩ 19
[doge]之前有人用ai从美国医保那节省了五万美元，然后ai关于医保的结算问题直接关闭了
♥ 38
我问了好几个中文Ai都让我拒绝，没有让我去加班的
♥ 35
同感。我写小说的时候经常用AI帮我检查对话的逻辑，给中文提示词的话AI跑几轮就会出来一种“同人女”的县城生死恋文风，英文提示词的话能保持中产味但是用词很干涩。总之两种风格（甚至包括AI预测的剧情）真是截然不同。
♥ 32 ↩ 4
毕竟模型模拟的人格需要调动不同的数据库，显然两个数据库是不一样的
♥ 32 ↩ 3
super current超级流行 AI tutoring programs beyond that替换in addition telling有说服力的
♥ 21 ↩ 4
马斯克手下有个管工厂的经理，有年辛苦了大半年之后，带家人去欧洲度假，然后工厂流水线出问题了，马斯克打电话给那人让他立刻回来处理，我已经忘记了那人是怎么回答的，但客观上他回来晚了，随后他就被马斯克裁掉了。哦，还有马斯克刚收购推特的时候，让程序员睡在办公室里改代码，不愿意这样做的当天卷铺盖走人。
♥ 19 ↩ 4
何意为？
♥ 19 ↩ 2
我和Gemini用中文和英文聊天的时候neng明显感受到差距，感觉不像是一个AI写出来的。[doge]
♥ 19 ↩ 7
对统计规律视而不见称之为偏见才是真偏见，Rlhf对齐时才可能出问题
♥ 17
如果中文ai真的如简介那般回答的话，那么就绝对是人为调的，绝对人为插手了回复倾向。不可能是抓取的数据总结出的回复。因为中文互联网的评论数据你只能抓出来“把老板打一顿就好了”的这种评论趋向（跟现实特别的相反，现实很无可奈何）
♥ 14 ↩ 16
本质是社会结构问题，ai只是给了最适合的答案。国外的企业和员工更像是合作关系，社会地位是相似的。 国内的劳动力和人才市场严重溢出，工人和员工地位低下且不受法律和工会保护。
♥ 13 ↩ 5
用偏见来说AI还是太具有人文意义了，应该说是倾向性。
♥ 12 ↩ 1
都按照法律来办事，哪里还有国际上这么多事呢？gpt明显按照法律规定赋予员工休息日的权利来行事。这就像开车，你遵守规矩开车，那你肯定要撞车或者被撞或者掉沟里爆胎之类了。现实世界哎人类活在。
♥ 11 ↩ 3
想不到会有人用“文化偏见”去解析AI的回答内容，AI的回答本质上就是数据归纳出的结果，难道要说所有数据都是偏见么？决断者在于使用ai的用户自己的判断，用偏见去解释所见所得本身就是一种逃避。如果本身是以“有趣”去理解的，那我认为应该准确称之为“文化区别”。
♥ 11 ↩ 5
不一定要回去，事实上有电脑就行
♥ 10