Onlyuii 2026-04-11 手机上本地运行4b已经是顶天了，今天把gemma4 e2b和e4b装到了orin nano里面试了试，对于这个参数量的模型效果确实很好，但是相比在线跑的gpt还是差远了，我现在就在给这玩意强行想一个应用场景，什么场景下我需要放弃性能更好的大模型而必须用这种小模型呢[思考] ♥ 129 ↩ 54
张小帅其实不叫张小帅 2026-04-11 作为一名AI从业人员给大家介绍下[doge] 1. 首先别抱期待，这个目前只能是一个玩具产品，能力还差得远的远，瞎聊天可以，但稍微认真一点的场景肯定是不可用的。（他大小是4b就决定了他的上限能力不会太高。作为对比，市面上主流的模型大多在200b以上，DeepSeek在600多b，GPT、Claude、Gemini都是闭源的行内大佬推测应该都是在2T也就是2000b以上）。 2. 其次这个是开源模型，在国内魔搭社区直接就可以下载，所以完全不存在锁国区什么的说法。 3. 想弘扬一下中国AI的发展。国内的开源模型一点都不差，只是很少有公司在这种mini模型的领域去发力。一个事实是，中国已经是AI开源领域的世界第一了，这个没有争议。 ♥ 122 ↩ 19
Comments
手机上本地运行4b已经是顶天了，今天把gemma4 e2b和e4b装到了orin nano里面试了试，对于这个参数量的模型效果确实很好，但是相比在线跑的gpt还是差远了，我现在就在给这玩意强行想一个应用场景，什么场景下我需要放弃性能更好的大模型而必须用这种小模型呢[思考]
♥ 129 ↩ 54
我不行了
♥ 142 ↩ 25
现在国内还能裸连下模型，而且国区 AppStore 就能下到，各位且用且珍惜[doge]
♥ 90 ↩ 12
我就知道今天会有新视频[呲牙]
♥ 104 ↩ 5
依旧
♥ 114 ↩ 2
这个出来很多用户装上就会明白，我们在绝大多数的使用场景里，真正需要的不是 大语言模型，而是 大数据+大语言模型 ，这两者是截然不同的
♥ 44 ↩ 3
就问一个问题： 我想去洗车，洗车店离我家50米，我是开车过去还是走路过去？ [doge]
♥ 34 ↩ 29
当我看到之前火车车次的时候就知道又更新了[doge_金箍]
♥ 33 ↩ 3
测过了，没有那种和那种限制，可以放开聊
♥ 32 ↩ 4
怎么说呢，手机能跑本地模型确实牛，但是真要搜点啥还是老老实实用云端大模型吧，这玩意儿运行起来机身滚烫的，别折腾自己也别折腾手机了[笑哭]
♥ 35 ↩ 1
作为一名AI从业人员给大家介绍下[doge] 1. 首先别抱期待，这个目前只能是一个玩具产品，能力还差得远的远，瞎聊天可以，但稍微认真一点的场景肯定是不可用的。（他大小是4b就决定了他的上限能力不会太高。作为对比，市面上主流的模型大多在200b以上，DeepSeek在600多b，GPT、Claude、Gemini都是闭源的行内大佬推测应该都是在2T也就是2000b以上）。 2. 其次这个是开源模型，在国内魔搭社区直接就可以下载，所以完全不存在锁国区什么的说法。 3. 想弘扬一下中国AI的发展。国内的开源模型一点都不差，只是很少有公司在这种mini模型的领域去发力。一个事实是，中国已经是AI开源领域的世界第一了，这个没有争议。
♥ 122 ↩ 19
这个也可以，不只有Google的模型，阿里的都有
♥ 25 ↩ 10
穿越的时候很有用
♥ 16 ↩ 4
真的很耗电，聊两句话比打游戏还发烧[给心心]
♥ 15 ↩ 3
也就是说这种小模型已经非常成熟了啊，苹果怎么还不把模型内置到Siri里面，现在的Siri跟个傻子一样，很多简单指令理解不了
♥ 14 ↩ 14
国内能用吗[大哭]
♥ 14 ↩ 17
我就知道[doge]
♥ 15 ↩ 2
我就知道[doge_金箍]
♥ 12 ↩ 2
好家伙回答一个问题掉两个点的电
♥ 10
效果你们就看吧，绷不住了
♥ 12 ↩ 8