颠覆现有 LLM?国内一篇论文让AI 学会先想后说!

Description
上海人工智能实验室与上海交大 LUMIA Lab 联合推出全新的 NCP(预测下一个概念)机制,改变了传统 LLM 仅靠逐字预测的模式,让模型先构思整体概念再选择词汇。基于该机制训练的 89 亿参数开源模型 NCP-ArchPreview,在仅使用约一半训练材料的情况下,不仅预测准确度追平经典模型,GSM8K 数学测试成绩更是高出 5.99 个百分点。这一颠覆性探索证明了让 AI 学习“先想后说”,能用更少的计算资源学出更好的效果。

Comments

Higgs-Boxon 20d ago

每日一爆

♥ 1