噗你一口大呲花 10d ago 这个本地部署的最大价值就是在B站发个视频。M2Ultra过来人测试了,省流:生成时间过长,基本约等于不可用不可用,不要被骗(●`ε´●),哪怕是真的想玩 也去买N卡 ♥ 30 ↩ 8
Comments
这个本地部署的最大价值就是在B站发个视频。M2Ultra过来人测试了,省流:生成时间过长,基本约等于不可用不可用,不要被骗(●`ε´●),哪怕是真的想玩 也去买N卡
♥ 30 ↩ 8
苹果目前走mps太慢了,等社区mlx加速+量化版后,可以m5pro 48g上再试试[笑哭]
♥ 7
慢的离谱[笑哭]
♥ 5
老哥能不能出个 mac本地部署的完整教程
♥ 2
M4 Max 部署了速度跟你差不多,区区6秒跑了一小时。另外这模型最大也就60来GB(FP16),并没有你说的要 130G 哇
♥ 20 ↩ 9
黑黑可以做抽象小视频了[doge]
♥ 7
生成图片和视频还是得看英伟达,mac在这方面太慢了
♥ 5
q4gguf ,m4max 跑5s480p 要35分钟,干 早知道买英伟达了
♥ 6 ↩ 2
刚才测试了一下,rtx pro 6000生成一个640x1152分辨率 28 steps 5秒的视频花了220秒,和Mac的速度差距还是挺大的
♥ 7 ↩ 4
做视频还是得n卡
♥ 1
有没有为mlx优化的量化版本啊?
♥ 2
720P 5秒 普通24GB显存 + 128GB内存 - 文生视频 280s+ 图生视频 480s+
♥ 2
对统一内存优化很差。无论是mac还是AMD max395都很慢。只有dgx spark能发挥正常速度。
♥ 2
太慢了,今年年初已经反向买了pro6000,现在只后悔买了两没再多买两( 768p下15秒双卡大概15分钟,还是很慢[孤独摇滚_打]
♥ 3 ↩ 3
mac M3pro 36G 需要量化版本
这个走的是 mps 还是 MLX
♥ 2
講得好像我有m3 ultra[笑哭]
♥ 3
666
M5 Max 64g能装什么版本,怎么装啊
♥ 2
等m7ultra估计就几十秒了
♥ 1