AI的副作用，把学生变成末人

合集 · 美国时政 (102)

Description

经合组织最新的 PISA 报告，给出了迄今覆盖范围最广的一批证据：从来不用、或者几乎不用生成式 AI 的学生，科学测试平均 509 分；每天都用、或者几乎每天都用的，只有 481 分——差了 28 分，按专家的换算，差不多相当于一年半的教学进度。中国一项追踪了 26,811 名中学生、历时 30 个月的研究也发现，学生用了 AI 之后，作业分数涨了 18%、写作业的时间从 64 分钟压到 45 分钟，可是闭卷月考掉了 20%，中考和高考也明显下滑，而且完整的影响要等大约两年之后才显现。

这一期想讲清楚的是：AI 的副作用，不在于机器会不会犯错，而在于我们把思考的哪一部分交给了它。教室里学生用它写作业，公司里程序员用它提交代码，应用商店里一年冒出 56 万款新 App、国内一天上线 1,300 部 AI 短剧——生成的成本被打下来了，可是验证、信任和维护的成本没有跟着降。收益进了企业的报表，能力折旧却进了个人的职业生涯。

最后要回答的是一个更难的问题：如果语言模型的一次幻觉，被复制进作业、报告、代码和搜索结果，再被下一代模型学回去，它会不会变成全社会的幻觉？这一期也聊了尼采说的"末人"到底指什么样的人。我不反对这项技术，我反对的是神话这项技术。


视频章节

00:00 AI副作用显现：高频使用者落后28分
01:23 为什么传统教育AI反而能提高成绩
02:50 真正的分界线：AI替你思考，还是帮你思考
05:03 中国学生研究：作业提分，考试成绩却下降
07:41 AI编程的繁荣背后，是不断累积的技术债
10:38 垃圾应用暴增：统计近似不等于真正的智能
13:42 从模型幻觉到社会幻觉：不要成为被AI麻醉的末人

Comments

Lily告春百合 19h ago

人类将悲剧地从AI生成的屎山代码中艰难爬行。

♥ 118 ↩ 9

JJkerr 19h ago

没ai之前叫百度幻觉，贴吧幻觉。有了ai叫做豆包幻觉，用豆包给你蠢完了，用closeAI才是人上人[doge]

♥ 111 ↩ 2

无奈鸟 19h ago

在啊b评论区也挺明显，现在只用ai当搜索引擎的人常识性错误很多[笑哭]

♥ 82 ↩ 12

net123456 18h ago

【大佬，周围绝大部分人根本没法给出像样的回答，不问AI你难道抓个路人问吗？】有没有可能，人本来就没办法给你“心中像样”的回答，像样的回答只能通过自己的实践去完成。

♥ 15

路红喜欢做好吃的 14h ago

还有个发现，就是认知水平越低，越会把ai的回答作为真理[笑哭]其实不同的大模型由于训练数据信息的污染和筛选，天然会存在一些偏见甚至错误。网上好几次，理性讨论一些比较客观的问题，有的网友讨论不过，就甩出一个豆包回答的截图说自己赢了，特自信[笑哭]

♥ 265 ↩ 26

星丶无视 19h ago

我很喜欢一句话，ai时代，聪明的更加聪明，蠢的更加蠢[doge]

♥ 316 ↩ 15

_我不是大鱼 19h ago

认知外包了

♥ 431 ↩ 5

得意傲 18h ago

确实计算器出来以后，计算能力差了手机用多了以后，好多字不会写 ai目前还不太确定

♥ 54

圣光の补完♂ 3h ago

Ai出现之前很多年人类就已经习惯于外包大脑给社会了，要不然怎么会有营销这种东西

♥ 48 ↩ 2

蹬麻雀儿 19h ago

科技圈都是炒作，这句话的典型代表：元宇宙。打游戏的人看到这粗糙建模的垃圾都笑了，结果呢？凭着科技巨头的影响力刮起一阵跟风潮，温州街边都能看到元宇宙培训班。割完韭菜，元宇宙也哑火了🤗

♥ 48 ↩ 3

Legend_frog 18h ago

能在十几岁甚至几岁时扛住打问题直出答案的诱惑的小孩太少了

♥ 11

希央香 12h ago

25年前有个类似的论文是。用计算机查资料的学生比用图书馆的学生笨。考生成绩也是低了20~30分。以此批判计算机让学生都变笨了会毁灭掉人类的智商。结果8年后同一个论文团队又发了一篇论文，结论是当年坚持用图书馆的学生后来基本都只能吃低保或从事低级体力劳动。说计算机已经是一个现代人类必须学会的生活技能。不会用计算机的人会被淘汰。其实这就是一个非常典型的归因谬误。25年前考题是考的学生死记硬背考的是学生去图书馆学得到的知识。压根不会考更广泛的。而有了计算机之后人们压根不需要死记硬背了。人们的真正有用的能力变成了信息检索能力。而25年前一点也没考相关的能力。然而短短的8年后社会就不需要死记硬背的那些人了。所以那些“好学生”被淘汰了。如果当时考试的时候把出题范围扩大1000倍然后放开使用计算机。那些“好学生”就会露馅了。现在AI也一样，未来根本不需要现在考试考的那些。AI普及后需要的人类技能是使用AI的能力。而非动脑子的能力。但是现在的考试根本不考怎么用AI。就显得那些不用AI的人聪明。然而8年后 10年后呢？

♥ 296 ↩ 52