DeepSeek V4将发布!梁文锋连发3篇论文,我读完发现一个规律
合集 · AI资讯 (11)
-
马斯克发布Grok4,登顶全球最佳大模型易主|全面解读+实测
13:58
-
OpenAI发布GPT-5!全网首发解读&对比评测!
10:28
-
Google发布Gemini 3:地表最强模型解读&实测!
16:49
-
【解读+实测】DeepSeek V3.2发布!超GPT-5,对标Gemini 3.0 Pro
20:06
-
新Kiro有多强?30人18个月的项目,6人76天干完|亚马逊云科技发布三大前沿Agents
9:30
-
【实测+解读】GPT5.2发布:74%的打工人任务,被AI攻克了
16:46
-
百万奖金的创新赛,我没拿奖却上台演讲了!
5:15
-
Manus被Meta数十亿美元收购:独家完整复盘!
12:59
-
DeepSeek V4发布前,梁文锋连发3篇论文,我读完发现一个规律
16:00
-
谷歌最新模型Gemma4发布!深度解析+送42页资料
14:15
-
【首发】Claude Opus 4.7解读!细思极恐的技术报告
15:22
Description
DeepSeek V4传闘愈演愈烈,2月中旬春节前后发布几成定局。但在V4到来之前,DeepSeek连发三篇梁文锋署名论文,透露了下一代模型的技术方向。 本期视频带你读懂这三篇论文的核心思想: Engram:给模型装上"记忆",75%思考+25%记忆是最优解。博尔赫斯1942年就写过:完美的记忆会杀死思考。 mHC:残差连接用了10年,DeepSeek证明它不是最优解。稳定性提升3个数量级,只增加6.7%训练时间。 R1论文更新:从22页扩展到86页,29.4万美元训练成本首次公开,连失败案例都写进去了。 DeepSeek的风格:先发论文,再发模型。看完这三篇,V4发布时你就能看懂它到底强在哪。
Comments
这才是真正的openai啊,简直不敢相信会有一支这么强的团队在做这么伟大的事情,这也是我一直喜欢开源的理由,我自己的项目能开源的我都会开源[大哭]
♥ 933 ↩ 37
ds可能不是最强的,但它能做到用极低的价格提供大部分的质量,就挺喜欢的
♥ 492 ↩ 82
DS 的 APP 很简洁,但是它没有多模态是硬伤,这也是我目前选择 Qwen 的原因.如果 DS 能补全这个,那就完美了,至少在国产
♥ 293 ↩ 84
我一直很支持 DeepSeek ,国产中最稳定的性能,手机上最干净的 APP ,用起来也特别方便,日常助手,至于工作编程还是 gpt 靠谱😑
♥ 213 ↩ 30
poly market预测已经到87%了
♥ 157 ↩ 23
看了Engram,我就想起我有个高中同学,他会速算法,任何两个4位数之间的相乘相除,都能瞬间得出答案,他告诉我他的速算法相当于是用记忆来换速度,他事先记忆了很多的pattern,我们计算4位数相乘相除是从零开始,他相当于是从中间阶段开始,所以才能达到这样的速度,但要在推理和记忆之间找一个平衡,也并没有说要把所有的相乘相除结果事先都记忆了才能达到这种速度
♥ 148 ↩ 4
这可能也解释了人脑效率为什么那么高,有些是不用思考的,尤其是物理AI这块,机器人浪费太多算力在不需要思考的动作上了
♥ 114 ↩ 9
ds 的核心竞争力一直都不是各种能力,而是极低的讨好策略,他会尽力提出观点而非讨好,我拿一样的问题问了 gpt 和 gemini,这两家的回应都会带着很明显的讨好倾向和肯定,输出内容就会被挤占减少和你期望不同的意见的内容。
♥ 99 ↩ 19
我研究方向是脑科学,看到DS把Engram用到AI中还挺意外挺惊喜的。说实话Engram这个概念目前在脑科学领域只是认定它一定和记忆细胞有关,具体是什么没有个绝对权威的统一结论。 记忆和推理28配比的理论还挺有启发性,真是它山之石可以攻玉啊[tv_doge]
♥ 88 ↩ 21
伟大的国家才能诞生这样既开放又厉害的ai
♥ 70 ↩ 13
非专业人士,我单纯的认为AI差距主要就是算力的差距,中国芯片落后于美国这是不争的事实,所以如果从堆算力研发AI,中国几乎不可能追上美国,所以只能走其它的路子,我对于DeepSeek是抱有期望的,不管是哪国AI,只要能研究出新的、好的东西,我都会很惊喜
♥ 61 ↩ 29
最重要的内容! KV缓存机制改了!! UP貌似没有特别说明,反而沉迷在了engram的各种技术指标里了 以后内存是显存了,低频内容可以放到内存里了,甚至可以放到NVME SSD里 内存和固态以后就是金子价了
♥ 59 ↩ 7
这些论文拿出去当博士论文爽爆了
♥ 53
要是ds有这美国这算力那岂不是起飞了都
♥ 53 ↩ 10
我是真觉得ds是全球最伟大的公司,使得所有小机构和国家也能玩ai了
♥ 49 ↩ 8
其实我更关注他会不会用上之前发过的两篇论文 1. DeepSeekOCR,用视觉来代替传统embedding,从而大大压缩输入的token 2. DSA,DeepSeek稀疏注意力 这两个论文技术如果用上,那说明巨大的上下文和巨快的推理速度 另外有传言说他的参数量达到了1.5T[doge_金箍]
♥ 42 ↩ 3
我记得 梁文峰说过这么几句话贼牛逼,中国也要逐步成为贡献者,而不是一直搭便车。别人做技术创新,我们拿过来做应用变现,并非是一种理所当然。
♥ 36
DeepSeek V4传闘愈演愈烈,2月中旬春节前后发布几成定局。但在V4到来之前,DeepSeek连发三篇梁文锋署名论文,透露了下一代模型的技术方向。 本期视频带你读懂这三篇论文的核心思想: Engram:给模型装上"记忆",75%思考+25%记忆是最优解。博尔赫斯1942年就写过:完美的记忆会杀死思考。 mHC:残差连接用了10年,DeepSeek证明它不是最优解。稳定性提升3个数量级,只增加6.7%训练时间。 R1论文更新:从22页扩展到86页,29.4万美元训练成本首次公开,连失败案例都写进去了。 DeepSeek的风格:先发论文,再发模型。看完这三篇,V4发布时你就能看懂它到底强在哪。
♥ 32 ↩ 1
这是我听过讲的最明白的
♥ 32 ↩ 1