脑袋要有光 2025-02-09 DeepSeek R1 能力强的核心原因不是蒸馏,是强化学习,这也是硅谷技术大佬们最惊讶的地方,所以因为有技术突破且开源,所以他们也非常推崇。[doge] ♥ 73 ↩ 2
被自己亮瞎 2025-02-18 在DS出现之前,从没听说过所谓“蒸馏”技术,但是DS一出来,如果是欧洲公司也就罢了,如果是中国公司那必须是通过作弊手段赢得了胜利,不然这就与长期洗脑的结论不一致,有人浑身不舒服。 ♥ 13 ↩ 2
蒸汽动力史莱姆 2025-02-12 可以有百花齐放的小模型可以专注在自己的行业学习来减少算力的重复浪费,并发挥不同模型的长处,直到更好的模型逐步替代。有没有一种大模型能对接各个小模型呢?[思考] ♥ 5
Comments
别人在河边钓鱼 你在别人鱼桶里钓鱼就叫蒸馏[doge]
♥ 205 ↩ 12
DeepSeek R1 能力强的核心原因不是蒸馏,是强化学习,这也是硅谷技术大佬们最惊讶的地方,所以因为有技术突破且开源,所以他们也非常推崇。[doge]
♥ 73 ↩ 2
那么问题来了 OpenAI不是开源的,他的推理过程也是不公开的,如何能用OpenAI来蒸馏训练呢?
♥ 43 ↩ 42
如果有其它公司蒸馏DeepSeek 就有意思了
♥ 23 ↩ 7
这就是这样蒸馏的!
♥ 22 ↩ 12
大师用半辈子时间研究出来的公式原理,我一个月的课就学会了。大概这种感觉?
♥ 21 ↩ 1
[doge]感觉就是用大模型的输入输出作为小模型的训练数据来训练小模型
♥ 16
up能讲讲哥伦比亚尾部的凸起是什么东西吗?
♥ 14 ↩ 2
谁说deepseek没有蒸,都蒸了1万亿了[吃瓜]
♥ 14 ↩ 1
[辣眼睛][辣眼睛]讲的一言难尽啊
♥ 14
在DS出现之前,从没听说过所谓“蒸馏”技术,但是DS一出来,如果是欧洲公司也就罢了,如果是中国公司那必须是通过作弊手段赢得了胜利,不然这就与长期洗脑的结论不一致,有人浑身不舒服。
♥ 13 ↩ 2
DS的核心不是 强化学习这部分吗
♥ 9
UP主的意思是deepseek用了蒸馏? 可是,可是,可是问题是deepseek没用啊。 这是不是属于造谣呢?
♥ 7 ↩ 10
骗傻波一用的噱头
♥ 5
这个蒸馏是蒸馏一部分大模型还是全部?
♥ 5
可以有百花齐放的小模型可以专注在自己的行业学习来减少算力的重复浪费,并发挥不同模型的长处,直到更好的模型逐步替代。有没有一种大模型能对接各个小模型呢?[思考]
♥ 5
马督工逮着蒸馏死骂deepseek呢
♥ 4 ↩ 1
AI教AI更好沟通
♥ 4
你这个视频不会是AI合成的吧[doge]
♥ 4 ↩ 1
让ai用ai[doge][doge][doge]
♥ 3