算力怪兽还是差生文具?英伟达桌面AI超算DGX Spark的五个邪修玩法
Description
英伟达的DGX Spark是一台极其便携,自带英伟达显卡的Ubuntu迷你主机 重量轻、算力强、显存大,是本地部署大语言模型、多模态模型、OpenClaw、具身智能VLA模型的绝佳选择 程序员、机器人、工程师、艺术家、音乐家,都可以拥有自己的端侧最强大脑 英伟达桌面AI超算DGX Spark的五个邪修玩法: 1.本地部署推理YOLO26目标检测模型 2.本地部署Ollama、VLLM大语言模型 3.本地部署面壁智能开源的全模态模型MiniCPM-o 4.5 Omni 4.桌面陪伴机器人Reachy Mini的上位机 5.机器人的具身智能VLA大脑
Comments
这玩意是真卖不出去啊[doge],去年到现在推广就没停过,年前nv来我们学校讲座还专门最后10分钟给这玩意打广告
♥ 484 ↩ 19
可以联机[doge]
♥ 248 ↩ 12
这玩意只有5070算力还是拉爆了,看来主要是卖了个显存的钱,不过挺便携是真不错
♥ 87 ↩ 7
应该256GB显存,AI 算力升级到 1500,现在这配置感觉差点意思
♥ 54 ↩ 24
还得是业内人士啊,其他人只会装个ollama跑跑本地模型而已。
♥ 37 ↩ 2
UMA大内存+cuda是优点,但是显存带宽不高本地推理速度没有那么突出,加上是ARM架构,导致这东西性价比太低了
♥ 33 ↩ 10
本来想入手,但总觉得有了 DGX Spark +手上的 4080 就很尴尬。需要用 VRAM 的时候算力低,要算力的时候又没 VRAM[笑哭]。最后还是换了大核弹。但用了朋友的 DGX Spark 之后觉得它很大的优势就是可以像服务器一样放在角落跑,不至于长时间跑 ComfyUI/训练的时候电脑在咆哮,影响日常使用。还有就是能联机升级特别方便
♥ 35 ↩ 8
跟AMD的strix halo一样,没啥用,内存傻大但是带宽不行。 本地LLM只能跑跑MoE模型,MoE模型本身的reasoning能力比dense模型差远了,除非你用超大的MoE模型比如qwen3.5 397b a17b,但是这种模型内存又不够了,得换Mac Studio那种512gb内存的才能舒服跑,还得配上Ultra芯片的双倍内存带宽。 同样的价钱不如换5090, 32gb的显存,本地部署Qwen3.5 27b,而且5090能干的活可多了去了,比如玩ComfyUI生成图,生成视频,甚至去微调diffusion模型都可以。
♥ 27 ↩ 2
这玩意就很迷,个人感觉老黄没必要对AMD这么赶尽杀绝的,但事实上NV确实真干出来了这种抽象事。给这么夸张的性能释放给专用系统去炸120W的Windows下的395的鱼还差点淹死在鱼塘里。 要不给多点内存通道嘛,AMD给4通你NV就给6通给8通嘛,就上HBM3e或HBM2内存嘛,这售价来看钱又没少给这么抠干啥。 也就光口有点特色,但上两台就得牺牲便携性了。并且对面也有usb4 2.0有个80G的带宽。 是有一些模型CUDA优化好,但一方面这鬼东西也就那些个模型那些个卡SDK的开发板或软件能显著优于395的机子,另一方面这边现在这玩意的生态远比AMD更需要战未来,说了多久有WOA用了还是没见。。。都不求WOA能跟传统win一样在日常场景好用,起码有个WOA用嘛。这么一搞做B端的话客户可不像C端那么好说话,不是炒作两下CUDA就能让人家脑袋一热的,这么大的成本差拿啥玩意才能填上是个问题。C端嘛,现在有些型号涨到快4W了,还没有正常Windows用。[辣眼睛]
♥ 27
最近刚在spark上踩了几个坑,最大的坑是,spark是sm121的硬件体系架构和b100/200/300这些旗舰卡体系架构是不一样的!!!所以不能指望在旗舰卡能跑的功能在spark上畅通无阻
♥ 27 ↩ 6
个人买不起,企业看不上,受众太窄
♥ 25 ↩ 2
[doge]
♥ 20 ↩ 7
[doge]为买spark找了一堆挽尊的借口。(1Pb算力,但是内存带宽273GB,所以跑0.6B模型等等)用假大炮打小蚊子[大笑]
♥ 16 ↩ 4
这个吗,我有两台[笑哭]
♥ 19 ↩ 5
我觉得你在找:mac studio?
♥ 11 ↩ 2
老黄这显存卖的有点贵。。。
♥ 11 ↩ 4
我真想要,但是钱不够,等攒够钱了它就要涨了
♥ 10 ↩ 12
发现这玩意还有个坑:不支持GPUDirect RDMA
♥ 9 ↩ 7
买这玩意为啥不买Mac[思考][思考]
♥ 7 ↩ 11
3.5万的5070,直接给我笑哭了[支持]
♥ 7