立立立立子 2025-11-17 显存大有什么用,带宽不行就是不行,B站早就有AIMAX395的评测,不爆显存跑70B模型只能3token/s,这和不能用有什么区别吗,然后跑小模型,同样在不爆显存的情况下远远不如同显存的显卡[星星眼] ♥ 17 ↩ 5
洪工春日的忧郁 2025-11-14 uma架构,最好的还是mac,虽然amd的有128gram来充当显存,但是带宽还是太拉跨了,模型一大,就几个tokens。这又导致了128g的内存意义不大。感觉48-64左右就可以了。部署个70b的量化版本正好。 ♥ 2
Comments
省流:15000¥
♥ 86 ↩ 16
跑ai的基础是算力,aimax395出来之后对128g显存直接高潮,结果这只有4060的算力根本没人用,需要大显存的基础是高算力
♥ 47 ↩ 8
太不适合个人和公司了 公司不用这么拉的 个人不用这么好的。估计针对的是发烧友极客这些群体
♥ 44 ↩ 6
性能强筋的办公小电脑,跟Ai没什么关系。
♥ 18
显存大有什么用,带宽不行就是不行,B站早就有AIMAX395的评测,不爆显存跑70B模型只能3token/s,这和不能用有什么区别吗,然后跑小模型,同样在不爆显存的情况下远远不如同显存的显卡[星星眼]
♥ 17 ↩ 5
额,ds671b跑不动吧
♥ 8 ↩ 6
这种有啥用 直接20美元一个月不就得了 比这好用多了
♥ 6
推理感觉性价比最好的mac studio 或者mini mac 内存大一点的?
♥ 3
本地无显卡跑图吗 要不是试试跑视频呢[doge]
♥ 3
这主机卖4000以下绝对火。
♥ 3 ↩ 4
封面上写的是128gb 显存,保真吗?
♥ 3 ↩ 6
大厂都自建服务器的 谁用着玩具
♥ 3 ↩ 3
内存跟AI有什么关系?CPU跑AI吗?不应该是显存吗
♥ 2 ↩ 7
不是n卡,软件生态应该就差很多。评论区懂哥欢迎补充
♥ 2 ↩ 4
uma架构,最好的还是mac,虽然amd的有128gram来充当显存,但是带宽还是太拉跨了,模型一大,就几个tokens。这又导致了128g的内存意义不大。感觉48-64左右就可以了。部署个70b的量化版本正好。
♥ 2
等等降价了再搞吧,现在这配置有点鸡肋
♥ 1
llm文本 本地意义不大 最主要是目前是视频大模型本地部署 期待amd出个128G ddr6 算力不属于5080的东西
♥ 1
小不小的不重要啊,重要是价格
♥ 1 ↩ 1
这tm就是一个萝莉,真正推理厉害还得跑满血,调用20多次API我才花3毛钱
♥ 1