李慕白IIL 2025-12-13 回来交作业了,如果有用请给我点点赞! 本人电脑MacBook Pro2021,芯片:Apple M1 Pro 10核心(8性能和2能效) GPU 16核心 内存32GB 。运行模型:deepseek/deepseek-r1-0528-qwen3-8b,速度:31.68 token/s[打call] ♥ 34 ↩ 11
背相机的黑锅 2026-02-17 作业,m4max128g运行无限制qwen70b和ds的70b,提示可能不行,但是实际可以运行,然后就是deepseek更加思考的多,相对慢一点,并且一定会展示思考过程,看着有点出戏,但是很智能就开始直接形成了一个游戏,还有分支,qwen就很快,但是不主动要求的话,是不会给分支的。我再试试别的模型,小于70b的我试过二十多个了,本地角色模拟会很快出很严重的漏洞,70b会慢很多,应该是对话上限问题。 ♥ 10 ↩ 2
CHN-jijibao 2026-01-17 我也来交作业,有用点赞: 电脑MacBook Air2025 芯片:AppleM4 10+10, 24GB内存,deepseek-r1-0528-qwen3-8b速度只有11.85 token/s(比我的3060Ti慢太多了[笑哭]) ♥ 10 ↩ 5
penny空间 2026-02-10 交作业 MacBook Pro2021 16GB 。运行模型:deepseek/deepseek-r1-0528-qwen3-8b,速度 26.75 token/s ♥ 7 ↩ 4
喜爱的学习 2025-11-26 69.63 tokens/sec openai/gpt-oss-20-b model MacBook Pro M4 Pro(14核CPU + 20核GPU + 16核NPU + 24GB统一内存) ♥ 5 ↩ 2
Comments
大伙本地部署,都是解决什么需求[思考]
♥ 55 ↩ 32
回来交作业了,如果有用请给我点点赞! 本人电脑MacBook Pro2021,芯片:Apple M1 Pro 10核心(8性能和2能效) GPU 16核心 内存32GB 。运行模型:deepseek/deepseek-r1-0528-qwen3-8b,速度:31.68 token/s[打call]
♥ 34 ↩ 11
为什么这么mac用户想在自己电脑部署模型?拿升级配置的钱去买api,不是更便宜,性能更强?
♥ 29 ↩ 18
个人,还是别折腾了,机子过劳划不来。
♥ 19 ↩ 5
建议放弃 没啥用 小模型质量低还慢 不如云服务
♥ 12
我部署的这个,投喂了 10 几个论文,直接满了,还没开始工作[喜极而泣][喜极而泣][喜极而泣][喜极而泣]
♥ 11 ↩ 12
作业,m4max128g运行无限制qwen70b和ds的70b,提示可能不行,但是实际可以运行,然后就是deepseek更加思考的多,相对慢一点,并且一定会展示思考过程,看着有点出戏,但是很智能就开始直接形成了一个游戏,还有分支,qwen就很快,但是不主动要求的话,是不会给分支的。我再试试别的模型,小于70b的我试过二十多个了,本地角色模拟会很快出很严重的漏洞,70b会慢很多,应该是对话上限问题。
♥ 10 ↩ 2
我也来交作业,有用点赞: 电脑MacBook Air2025 芯片:AppleM4 10+10, 24GB内存,deepseek-r1-0528-qwen3-8b速度只有11.85 token/s(比我的3060Ti慢太多了[笑哭])
♥ 10 ↩ 5
我这个m1max也能有38tokens每秒,差距真的没那么大
♥ 8 ↩ 11
交作业 MacBook Pro2021 16GB 。运行模型:deepseek/deepseek-r1-0528-qwen3-8b,速度 26.75 token/s
♥ 7 ↩ 4
70b以上的模型也就接近5mini的水平,一群人还想用十几b的小玩具当生产力工具用[喜极而泣]
♥ 9 ↩ 4
完了刚买了个mbp m5pro,但是内存就24gb[笑哭] 废了
♥ 6 ↩ 11
我的丐版M3 Max只有标配的48G内存,估计部署不了,买96G的说不定还能玩玩[doge]
♥ 6 ↩ 5
来了
♥ 6
好奇,我能否用闲置的mac专门用来部署大模型,然后在局域网下另外一台电脑上访问调用? 不知道LM studio是否有之类分布式的解决方案
♥ 5 ↩ 1
69.63 tokens/sec openai/gpt-oss-20-b model MacBook Pro M4 Pro(14核CPU + 20核GPU + 16核NPU + 24GB统一内存)
♥ 5 ↩ 2
本地的阉割版蠢得要死,老实用网页吧[笑哭]
♥ 4 ↩ 1
讲真,本地部署70B以上才有点用
♥ 4
mac mini 用ollama跑openclaw本地qwen3.5 9b跑不了联网工具,是因为没装沙盒吗,换在线的minimax就可以正常使用了
♥ 3 ↩ 1