【AI垃圾王】2500元不到装一台AI服务器！双Radeon VII解锁vLLM张量并行，性能暴涨6倍碾压Ollama！

司波图

合集 · AI系列 (21)

  1. 19:05
    Unraid部署Deepseek-R1模型全攻略（含A卡、N卡加速以及纯CPU环境）
  2. 12:17
    899元6年前矿卡逆袭！双卡AMD RADEON VII暴跑70B大模型！
  3. 38:27
    以后用NAS只要“说”就够了？——通过AI🤖部署基于Ubuntu的“NAS系统”实战
  4. 12:06
    垃圾佬狂喜！300块的CPU+600块的计算卡？组装能跑70B模型的AI服务器是种什么体验？(浪潮SA5212M5 + 3x MI50)
  5. 8:00
    【AI垃圾王】2500元不到装一台AI服务器！双Radeon VII解锁vLLM张量并行，性能暴涨6倍碾压Ollama！
  6. 20:22
    别被“AI”忽悠了！1999元的小米AI眼镜，是年轻人的新玩具还是新“智商税”？
  7. 12:12
    我花了3700块，从闲鱼买了台双Tesla V100扩展柜，想一步到位玩转MoE，结果…
  8. 12:44
    说句话就能自动找番下载？我把本地80B大模型调教成了“追番特工”！
  9. 17:53
    单卡双芯 48G 显存！打造 20L 紧凑型 AI 算力怪兽：DeepSeek 70B 实测 19 tokens/s
  10. 16:56
    从自动写代码到智能影音刮削：实测 OpenCode，这台“赛博管家”真的能干苦力活
  11. 24:54
    不用买macmini！手把手教你在NAS（LINUX虚拟机）里安装Clawdbot/Moltbot
  12. 5:40
    一键部署Openclaw还能白嫖算力？绿联NAS送你“小龙虾”！
  13. 7:43
    拒绝黄牛加价！1300块拿下M1“无头骑士”，这才是平民最强“养龙虾”神器？
  14. 7:59
    AI时代买了个“黑白屏”？数码老爹深度实测！
  15. 7:04
    别再当韭菜！600块组装Mac mini平替，跑AI Agent比白苹果还香？
  16. 15:54
    铭凡 N5 MAX 首发评测！这才是真正的AI(O) NAS！120W 满血释放，16核32线程，本地AiAgent + 本地视频生成
  17. 13:00
    AMD核显实战ComfyUI：七彩虹灵创K16如何包揽全套本地AI视频制作
  18. 16:48
    榨干最强蓝厂显卡！单芯片32G的铭瑄Arc Pro B70，跑大模型/AI视频有多猛？
  19. 9:53
    能跑 DeepSeek-V4 的"无头骑士"迷你主机——极摩客 EVO-X3 实测体验
  20. 17:36
    2026 年了，工作室的 AIO 服务器应该会干什么？
  21. 6:10
    最便宜的32G正规军、但算力砍四成：Arc Pro B65 到底值不值这8999
Description 
💥2400元预算挑战AI算力天花板！本期视频，我们解决了Radeon VII / MI50 等 gfx906 架构显卡长期以来无法使用 vLLM 张量并行的痛点！

我们将全程展示如何用两张“过气”Radeon VII显卡，搭配X99“洋垃圾”平台，组装一台总价仅2397元的AI算力服务器。通过社区大神 nlzy 提供的特制Docker容器，我们成功解锁了vLLM的张量并行功能，在Qwen3 32B量化模型上实现了98 tokens/s的并发推理速度，性能是Ollama的6倍以上！

视频最后，我们还将通过Open WebUI，实战演示8个用户同时访问这台服务器的流畅体验！

本期硬件配置清单 (总计: ~2397元)

显卡 (GPU): AMD Radeon VII 16GB x 2 (二手 ~1600元)

主板 (Motherboard): 精粤 X99M-PLUS (~300元)

处理器 (CPU): Intel Xeon E5-2680 v4 (56元)

内存 (RAM): 海力士 ECC REG DDR4 8GB x 4 (176元)

硬盘 (Storage): 512GB NVMe SSD (~150元)

电源 (PSU): 额定850W 金牌认证电源 (二手 115元)

【本期方案超详细文字版教程】
为了方便大家复现，我们已经把今天所有用到的命令、链接，以及一份超详细的文字版部署教程，全部整理好，放到了UP主的Gitee主页上！
直达链接：https://gitee.com/spoto/R7vllm

如果觉得本期视频对你有帮助，请务-务-务必 点赞、投币、收藏 三连支持一下UP主！你们的支持是我爆肝更新的最大动力！感谢大家！

Comments

Jwong欧尼酱 2025-07-14

这张显卡有烧核心的通病，坏了没法修

♥ 406 ↩ 19

Emma东 2025-07-14

mi50 32G才是神卡，同样用nlzy大佬的vllm部署完成，已经稳定运行一个月了[吃瓜]

♥ 283 ↩ 71

chuzichen 2026-03-08

2026 考古，现在的 2500 连 16G 内存都买不了

♥ 131 ↩ 9

垃圾无 2025-07-14

胖了不少

♥ 143 ↩ 7

B站最酷的靓仔 2025-07-14

看了司波图迷你AI电脑哪期，还以为他已经不再是垃圾佬，我错了，他还是不忘初心！

♥ 88 ↩ 2

战双单推人 2025-07-14

经过我的搜查的话[doge]最强的应该是搭配技嘉x99主板，它能完美支持四张双槽卡[doge]，可以插上四张mi5032g[doge]一共128g显存[吃瓜]整机拿下的话应该在六千多[doge]

♥ 94 ↩ 19

gooong 2025-07-14

很难想像有人不喜欢双卡的e5洋垃圾

♥ 73 ↩ 17

散光的哈撒韦 2026-04-03

显卡贵了啊。P100 16G*2 仅需1000元。还是cuda12.4的。 你知不知道llamacpp长期支持cuda12.4

♥ 55 ↩ 13

OSDLC 2025-07-15

是口误吗？你图里放的是x99-ti诶，我拿着精粤 X99M-PLUS去搜了，发现只有一条pciex16 ，另外两个都是pciex1

♥ 61 ↩ 3

无忧亦无怖诶 2025-07-19

视频中的开放式机箱是diy的还是买的啊，看起来比我用木板做的精致多了

♥ 45 ↩ 2

左了个边 2025-07-14

坏了，要涨价

♥ 55 ↩ 6

噼里哔哩_PiliBili 2025-07-15

emmmm 对于个人或者小团队部署32B有什么用处吗？ 32B模型的能力是不是有点太低了

♥ 38 ↩ 69

雷雷的小屋 2025-07-14

想知道功耗多少呀，跑起来600w待机200w电费吃不消

♥ 29 ↩ 6

FindCloud 2025-07-15

整个2080ti 22g都不至于除了跑那几个模型啥都干不了[笑哭]

♥ 21 ↩ 5

上善若麻辣水煮鱼 2025-07-14

我选择冲100到硅基流动，让我捡垃圾找显卡，只能是编解码能力特别强，能支持照片视频人物场景识别的，除此之外，统统不如uhd630。

♥ 31 ↩ 7

马赛克Gamer 2025-07-14

32g显存跑32b稠密模型，上下文能开多少？用14b速度是不是能快很多？

♥ 24 ↩ 7

爱吃薯球 2026-03-27

最近也在折腾AI服务器，看到这个视频太有共鸣了！为了跑模型找deepseek灰度测试的资源真的不容易，我自己还花钱买了一份整理好的文档和工具包，实测可用。分享给大家吧，夸克网盘自取：https://pan.quark.cn/s/af13c8b77b3a 希望帮到同样在折腾的伙伴～

♥ 25 ↩ 3

H2ODunDunDun 2025-11-13

本地ai 部署 到底有啥用11111

♥ 36 ↩ 26

卧似逆叶 2026-03-28

我的MI50三卡炸通信了，还不如换MI210一步到位

♥ 15 ↩ 9

__ZZhAng 2025-07-15

在家挖矿电表倒转系列[大哭][大哭]玩了下本地大模型电费是真遭不住，我还是网页端开会员用吧[笑哭]一天10多度电太难顶了

♥ 14 ↩ 7