芃蜀黍的果麥 2024-05-14 对郑院士说的深有感触，尤其是编程框架和并行工具，算子库。目前想搞AI训练，CUDA生态是我们绕不过的一座高山。我能了解到国内最能接近CUDA并且可以掰掰手腕的华为的昇思虽然也在一步一步壮大，但是依然有很长的路要走，尤其是代码迁移或者说如何普及生态让大多是用户愿意使用。希望能在大佬们的带领下逐步走出我们国内自己的大模型发展道路[打call][打call][打call] ♥ 36 ↩ 3
AI全文总结 2024-05-14 ## 课代表总结 视频中，郑纬民（曾伟明）讨论了如何改善国产大模型生态系统，提出通过开发十个关键软件来降低人工智能模型编写复杂度，提高训练效率和并行处理能力，从而提升整体生态的吸引力。 ## 要点 - 📊 软件框架：基于框架编写，而不是直接基于硬件，简化人工智能模型的开发过程。 - 💻 变形加速：提供多卡并行训练能力，提升大模型训练效率。 - 📡 通讯库：确保多张显卡之间的高效通信，优化分布式计算性能。 - 📦 操作库：提供常用数学运算的高性能实现，如矩阵乘法，便于开发者调用。 - 🧱 AI编译器：将代码编译为可执行的程序，国内编译器人才相对较少。 - 🔄 调度器：有效分配系统资源，提高计算资源利用率。 - 🧱 内存分配系统：优化内存管理，保证模型训练的稳定性和速度。 - 🧬 浓缩系统：可能指数据压缩或模型压缩技术，减少数据传输和存储需求。 - 📁 存储系统：高效的数据存储和检索，支持大规模模型的训练和部署。 - 重要性：即使硬件性能只有国外的60%，良好的生态可以弥补性能差距，提高用户满意度。 --本消息由@AI视频总结 召唤成功【很棒的视频，快给up主点赞】 ♥ 30 ↩ 2
煽动高斯步枪 2024-05-15 [辣眼睛]网路上机器人怎么那么吵闹，慢慢追嘛鲁迅说过“那虽然落后而仍非跑至终点不止的竞技者，和见了这样竞技者而肃然不笑的看客，乃正是中国将来的脊梁” 。。但是方向还是要明晰 ♥ 11
快玩乐 2024-05-15 首先，这世界不是只有2个国家一个我们和一个外国，所以单单针对某些具体方向的落后，也不用过分悲观。要知道，没有这几年的贸易冲突，这世界本来是倾向于全球一体化的。当然，大环境趋势，单个国家必须全面变强才能真的保持好的状态活下去。 关于人工智能，很多研究和成就一方面还没真正突破到能实际应用的程度，另一方面，咱们不是全面商业化的体制，很多成果也不会公开出来。在没条件全面了解的情况下，悲观乐观都没意义。 但从民间的发展来看，我们确实对于那种收益慢，低收益的，但是又很重要的东西，没有有效的支持。就资本市场来说，美国的投资人可以连续投个公司10年，不赚钱。但是中国公司都要签个5年上市计划。这就注定了那些需要积累的产业很难做。不管如何弯道超车，其实该花的精力，代价都不会少的，以前更多站在巨人肩膀上前几，现在需要自己成为巨人了，变难了。 希望全面更好吧。 ♥ 6
Comments
对郑院士说的深有感触，尤其是编程框架和并行工具，算子库。目前想搞AI训练，CUDA生态是我们绕不过的一座高山。我能了解到国内最能接近CUDA并且可以掰掰手腕的华为的昇思虽然也在一步一步壮大，但是依然有很长的路要走，尤其是代码迁移或者说如何普及生态让大多是用户愿意使用。希望能在大佬们的带领下逐步走出我们国内自己的大模型发展道路[打call][打call][打call]
♥ 36 ↩ 3
## 课代表总结 视频中，郑纬民（曾伟明）讨论了如何改善国产大模型生态系统，提出通过开发十个关键软件来降低人工智能模型编写复杂度，提高训练效率和并行处理能力，从而提升整体生态的吸引力。 ## 要点 - 📊 软件框架：基于框架编写，而不是直接基于硬件，简化人工智能模型的开发过程。 - 💻 变形加速：提供多卡并行训练能力，提升大模型训练效率。 - 📡 通讯库：确保多张显卡之间的高效通信，优化分布式计算性能。 - 📦 操作库：提供常用数学运算的高性能实现，如矩阵乘法，便于开发者调用。 - 🧱 AI编译器：将代码编译为可执行的程序，国内编译器人才相对较少。 - 🔄 调度器：有效分配系统资源，提高计算资源利用率。 - 🧱 内存分配系统：优化内存管理，保证模型训练的稳定性和速度。 - 🧬 浓缩系统：可能指数据压缩或模型压缩技术，减少数据传输和存储需求。 - 📁 存储系统：高效的数据存储和检索，支持大规模模型的训练和部署。 - 重要性：即使硬件性能只有国外的60%，良好的生态可以弥补性能差距，提高用户满意度。 --本消息由@AI视频总结 召唤成功【很棒的视频，快给up主点赞】
♥ 30 ↩ 2
输入：x 输出：忠诚！ 输入：y 输出：忠诚！ 输入：z 输出：忠诚！ [doge]
♥ 15 ↩ 13
还好吧，这些没啥根本难度，就是以前没有基础。工资高，自然有人学有人做。 加紧干就完了。
♥ 14 ↩ 2
[辣眼睛]网路上机器人怎么那么吵闹，慢慢追嘛鲁迅说过“那虽然落后而仍非跑至终点不止的竞技者，和见了这样竞技者而肃然不笑的看客，乃正是中国将来的脊梁” 。。但是方向还是要明晰
♥ 11
这十个软件现在是什么进展啊
♥ 11 ↩ 7
老师说的都是重点，挺对的。
♥ 9 ↩ 3
需要马圣开源才管用
♥ 7 ↩ 2
中国没希望的，那些软件厂商都是用来精准投放广告了
♥ 7 ↩ 1
首先，这世界不是只有2个国家一个我们和一个外国，所以单单针对某些具体方向的落后，也不用过分悲观。要知道，没有这几年的贸易冲突，这世界本来是倾向于全球一体化的。当然，大环境趋势，单个国家必须全面变强才能真的保持好的状态活下去。 关于人工智能，很多研究和成就一方面还没真正突破到能实际应用的程度，另一方面，咱们不是全面商业化的体制，很多成果也不会公开出来。在没条件全面了解的情况下，悲观乐观都没意义。 但从民间的发展来看，我们确实对于那种收益慢，低收益的，但是又很重要的东西，没有有效的支持。就资本市场来说，美国的投资人可以连续投个公司10年，不赚钱。但是中国公司都要签个5年上市计划。这就注定了那些需要积累的产业很难做。不管如何弯道超车，其实该花的精力，代价都不会少的，以前更多站在巨人肩膀上前几，现在需要自己成为巨人了，变难了。 希望全面更好吧。
♥ 6
在别的地方看到的
♥ 5 ↩ 1
国内生态不好是为啥呢？
♥ 4 ↩ 2
优秀的人就直接去加州大干一场了，突破啥突破，这时代哪有功夫想这想那，时间就是金钱，想搞AI就直接去美国搞
♥ 4
都是人情，靠你们搞鸡毛，目前只能看华为
♥ 4
国内的软件生态 真是一言难尽。 还开始搞扩张，关键还没钱挣，谁愿意去干
♥ 4 ↩ 2
国内根本不重视生态
♥ 3
为什么要追？不是美国追我们吗？苹果内置都用百度AI了，看百度讯飞还有蔚来等等公司宣传，早都瑶瑶领先了啊。。。。。。
♥ 2 ↩ 1
说的好像都是别人已经有的，做成熟的东西[吃瓜]
♥ 2
关键软件又能不能兼容芯片的框架呢？
♥ 2 ↩ 1
做开源社区工具软件的好像只有个润和软件，另外华为内部应该有，毕竟自主开发了EDA软件。
♥ 2