走进大模型炼丹的幕后：你可知搞定一个万卡集群有多难？
合集 · 高端科技幕后故事 (13)
-
独家揭秘：为什么禁止WPS联网会导致CPU被吃满
5:37
-
为什么macOS喜欢在文件系统里到处拉屎？
6:49
-
为什么越来越多程序不使用注册表了？
6:20
-
资源管理器为何如此脆弱？成为流氓软件争夺的肥肉
5:45
-
他设计前卫影响无数后辈软件,却生不逢时惨遭遗弃
5:08
-
“世界编程大赛”到底是何方神圣？
5:56
-
世界编程大赛：仅64KB大小可以媲美3A大作的3DCG动画背后的原理
5:59
-
当手工耿的钓鱼竿附魔了我的程序，一切变得不一样
5:02
-
百年前，清朝人已经用上“网线”了
5:25
-
[SP]文曲星，如何把我带上了编程的不归路
17:18
-
走进大模型炼丹的幕后：你可知搞定一个万卡集群有多难？
6:24
-
国产开源一哥新模型体验！能力超乎我的想象！
7:07
-
再次家访腾讯之后，我悟出了个道理！
6:28
Description
你看到的大模型可能只是一个简单的输入输出,而打造大模型背后的工作量和复杂度,远超过你的想象,在复杂的国际形势之下,动用大规模GPU训练更加困难,这个问题到底该如何解决呢... 剪辑:废船
Comments
点进视频，看到 1:46，暂停评论退出[doge][打call]
♥ 363 ↩ 13
[doge]
♥ 88 ↩ 21
我看第一个视频就关注了up，看了第2个视频就取消了关注，大家说我做的对吗[doge]
♥ 57 ↩ 2
相信百度还是相信我是秦始皇[doge]
♥ 57 ↩ 6
现在git平台的开源项目里，有哪些毕竟有实用价值好用的，个体一张4070tis能跑的，谁来总结一下
♥ 35 ↩ 3
没想到是商单[笑哭]
♥ 27
之前看文献用deepmd跑了一亿个原子的模型[吃瓜]
♥ 20
bilibiliAI视频总结： 训练一个可商用的大模型并非易事,需要考虑超大规模集群管理、模型训练的中断和故障定位处理等问题。百度百舸AI异构计算平台可以帮助解决这些难题,提供网络存储模型框架、自动容错和flash checkpoint等功能,支持不同芯片的混合训练,并提供丰富的图形化界面稳定性、性能监控调优等运维服务。该平台可帮助老板和研发实现性能可控、成本可控、进度可控。 工业革命的历史以及人工智能发展所带来的挑战,并介绍了百度百舸AI异构计算平台的解决方案。 0:01 训练大型模型的挑战 1:38 百度百鸽AI异构计算平台 3:20 加速模型训练和推理的平台 白鸽平台在芯片组合、性能监控、资源优化等方面的优势,帮助项目实现可控性。 4:43 控制性能损失：白鸽在混合训练时，控制不同芯片的性能损失在3%以内。 5:02 图形化界面稳定性：通过白鸽的图形化界面，可以方便地监控集群组件和环境的稳定性。 5:48 白鸽平台可以帮助进行可行性研究，并提供一系列技术保障。
♥ 19
[doge]从大概从第二个狗头开始性质就变了
♥ 17
虽然背后是艰辛与不易，但我没有找到合适的视频生成本地部署AI[doge]
♥ 11 ↩ 4
[妙啊]
♥ 8 ↩ 2
[doge]
♥ 7
百度很好 但我们用Azure[嗑瓜子]
♥ 6
[doge]
♥ 6
[doge]
♥ 5
百度的商单可不好恰啊[doge]
♥ 4
[脱单doge]
♥ 4
[doge]我觉得钱才是首要问题
♥ 3
[脱单doge]
♥ 3
商单有意义吗？
♥ 2