我感觉这种把 AI 的一些训练数据集去掉的这种方法其实存在一些致命的问题。因为人类的很多经典的结论，比如说广义相对论，其实已经覆盖到了非常多的文献、日常对话交流中。一旦把这些所有可疑的，涉及到这种对话，涉及到这种知识的训练资料都去除掉之后，那么留给 AI 可用的训练集就会变得非常少，很难训练出有我们今天最高智能这种 AI 的能力的 AI。另外，我们去除的这个过程，也没有办法能保证把所有涉及到这些答案的对话语料都删除。也许有很多对话或者语料是暗示这些结论的，但我们没有把它删除掉。所以最后 AI 即便推导出来了这个结论，我们也很难判断 AI 到底是自己推理出来的，还是通过一些暗示想出来的。
Comments
我本科是行星科学专业的，吃不了地学的苦，大二在地球化学课题组下的实验室实习过，也和其他老师做过地球物理的暑研实习，然后和我老师以及我同学聊天，基本上都在变相劝说我转方向，说前面几个门槛低太容易卷，我几个月前也下决心准备转到理论物理或者天文学里面偏理论方向，结果ai这几年的进步速度太快，在理论这方面一直在降维打击研究生，我有个老师甚至说不愿意招研究生了，现在又被劝去转回之前坐实验室的方向[笑哭]，以前我的梦想是仰望星空，现在现实好像要变成已经哪里都不需要我了[少女与空色的物语表情包_流汗]
♥ 48 ↩ 10
老师要不要稍微研究一下音频的处理，这样信息传播效率高些
♥ 2
怎么搞的跟五六十岁那样憔悴[笑哭]
♥ 8 ↩ 2
李老师.你讲这个.普通人根本听不懂
♥ 1
李老师，建议您下次视频别一个大疆的麦[笑哭]，效果会好很多。
♥ 5
该学还得学，越理论的工作，越离不开人。AI确实能解决难题，但还是需要人给AI提出难题，然后阅读AI生产的论文。人类用AI解决人类的问题。
♥ 5
我们也要多学AI
♥ 5
[doge]目前人工智能感觉还是缺乏一些“灵感”，今天遇到的事情，我有很多份pdf需要提取文本，开始时一切都很好，直到遇到一份pdf扫描件，ai无法提取文本，就一直认为这份文档是格式问题，不断尝试，不断消耗token。我看着ai辛苦了15分钟，最后忍不住了，直接打断，告诉ai采用图像识别的方式提取文本，它直接给我回一句“怎么没想到呢”，然后才继续任务。
♥ 4
我感觉这种把 AI 的一些训练数据集去掉的这种方法其实存在一些致命的问题。因为人类的很多经典的结论，比如说广义相对论，其实已经覆盖到了非常多的文献、日常对话交流中。一旦把这些所有可疑的，涉及到这种对话，涉及到这种知识的训练资料都去除掉之后，那么留给 AI 可用的训练集就会变得非常少，很难训练出有我们今天最高智能这种 AI 的能力的 AI。另外，我们去除的这个过程，也没有办法能保证把所有涉及到这些答案的对话语料都删除。也许有很多对话或者语料是暗示这些结论的，但我们没有把它删除掉。所以最后 AI 即便推导出来了这个结论，我们也很难判断 AI 到底是自己推理出来的，还是通过一些暗示想出来的。
♥ 4 ↩ 1
想证明或者证伪“ai能否在不知道相对论/谷山志村猜想的情况下能否自己推出相对论/费马大定理”实在太难了，没法在小模型上做这个实验因为小模型本来也做不出来；而要重训一个GPT6级别的模型专门研究这个，没有公司会愿意花这个成本。并且从海量的预训练数据里剔除相对论/费马大定理相关内容，本身就很难做，做了也没法证明删干净了
♥ 4 ↩ 3
希望up主可以戴个麦克风，这样听的更清楚
♥ 2
AI推演可以不用时间概念，用纯空间构型来重新解释数学与物理。甚至可以从空间中推导出时间箭头的单向性。
♥ 4 ↩ 1
哥德尔不完备性定理不是说任何复杂系统都必然有无法从系统内部证明的前提条件嘛[doge]，目前 AI 只有在系统内操作的能力，没有跳出系统或者自我认知到无需证明的前提条件的能力[doge]
♥ 3 ↩ 1
人工智能现在在理论科学中应该思考的不是做到那里 而是使用了人工智能工具后 科学成业者的工作环境是否会改变甚至污染 越偏向应用工程的会越明显 理论科学会好一点 因为裁判权在少数专家手里 这也是数学圈子还可以反ai（实际上那个事情是反ai侵权） ，而生物制药已经是ai不可逆 死贫道不死道友的地步了。
♥ 2
人类文明不需要等到机器人来灭，人性自身就一堆大问题[doge]
♥ 1 ↩ 1
期待再过几年ai能帮助我们重新认识宇宙[脱单doge][支持]
♥ 1
大佬[doge]
理论物理这玩意就像下围棋，AI知道怎么下，但是AI不知道可能把棋盘吃进去拉出来以后喂给棋子吃才是围棋真正正确的下法[笑哭]
♥ 1
说到ai人工智能的科幻故事，有一条文化线路就不得不提。攻壳机动队-银翼杀手-赛博朋克。（人形机器人主题的阿童木不知道算不算同一脉）
科研那边的AI已经具备跳步的能力了？