AI端侧拐点，离我们还有多远?

Description

当大模型越来越聪明，一个反常识的商业难题也随之出现：产品越成功、用户越多，云端推理成本反而越难控制。
于是，AI开始从云端走向终端。手机、汽车和个人设备，不再只是调用模型的工具，而可能成为真正理解用户、拥有长期记忆、保护个人数据的“私人智能体”。
本期视频，@所长林超  与面壁智能联合创始人 CEO 李大海，围绕端侧AI展开深度讨论：小模型与端侧模型有什么不同？模型、芯片和电池之间存在怎样的发展错位？端云协同将如何演化？手机和智能汽车会不会成为AI时代的新入口？如果人类级智能能够在30瓦以内运行，端侧AGI距离我们还有多远？

Comments

山姆隆策 2026-08-09

每次这个林超都喜欢插话

♥ 10 ↩ 2

petch撒浪嘿呦 2026-08-08

手机的口子不能开，开了属于用户个人的数据真的一点都不剩了，本来现在用户就已经没什么隐私了。。。。因为本来就存在端云互通，边侧才有真正的隐私(自己部署）目前来说用户对所谓的个性化服务并他想象的需求这么强烈吧，超哥说的很对，这些云端模型已经能做了，我觉得其实用户现在应该更注重个人的隐私和数据资产，实际上其实并非端侧的数据是自己的（个人觉得很难其实，大家其实都清楚）本质原因是需要采集用户数据来给自家训练。。。。端侧模型个人觉得还比较早，毕竟要从基模学习蒸馏，然而在这个大模型更新迭代速度如此之快的时候，端侧模型再快也比大模型要慢一个周期（以现在的更新速度来看是几个月，实际更久，因为要跟端侧芯片协同设计和大量训练），在模型迭代速度如此之快的时代，用户会觉得端侧模型笨感觉在做到极大用户群体之前，端侧模型公司和小模型公司会死一大批。。。烧的钱太多了，现在都在讲故事然后融钱，，仅个人拙见

♥ 7 ↩ 7

夸克酷 2026-08-11

所谓的个性化就是无休止的窃听与资料获取，恶心

♥ 4