Windows 用户的本地 AI 方案!雷神水冷迷你AI工作站实测体验
合集 · 全面分析 深度解析 (54)
-
M2芯片深度解析, 有惊喜, 有失望! 不是苹果想要的那颗芯
16:04
-
M1 Ultra: 全面评测与深度解析! 苹果牌胶水行不行
25:49
-
「芯片简史」苹果, 白手起家, 长路漫漫, 道阻且长
22:05
-
天玑9000:卷!发哥真就硬卷!
9:31
-
2022年了,iPhone咋还不用Type-C?14Pro也许有戏!
10:44
-
M1 Max性能全解密! 凑齐7台Mac, 全配置挖掘Mac的小秘密!
19:59
-
苹果13 Pro: 高刷机制全解密, 2400帧相机一帧一帧看!
20:27
-
【科普】什么是计算摄像?费这大劲,图个啥?真就是手机未来!?
17:58
-
【硬核】何为鸿蒙?和安卓的区别到底是什么?别再扯套壳了
15:29
-
骁龙888怎么了? 三星5nm工艺深度解析! 小米11被高通坑了?
15:34
-
【干货】你绝对没听过的iPhone12深度解析!取消充电器的真相, iPhone12定位, 激光雷达, ProRAW!
20:16
-
岂止剪辑,M1 Mac全面测评!为什么M1这么猛?离Pro级芯片还有多远?
17:43
-
ARM Mac与Apple Silicon:全面解读苹果自研芯片,Intel Mac还能不能买,WWDC没告诉你的,都在这里了
20:39
-
【干货】Apple Glass提前“发布”,理性分析,全面预测,从技术的角度告诉你Apple Glass到底有什么!
19:16
-
【全程高能】iPhone12:理性分析,全面预测!高刷屏,无刘海,四摄,A14,需求与技术,理性预测,全程干货,建议提前喝水!
18:34
-
iPad Pro 2020:这不是iPad,这是ARM Laptop!
14:33
-
第一台iPad怎么买? 暑期教育优惠·iPad选购指南
13:12
-
灵动岛鸡肋? 主战场并非iPhone!iPhone 14 Pro测评(上)
7:17
-
为什么过度锐化?iPhone在毁掉你的照片?iPhone 14 Pro测评(中)
13:56
-
为什么“核多力量大”?i9-13900K深度测评
13:06
-
iPhone 14 Plus: 会成为下一部mini吗?iPhone 15系列布局
7:02
-
ChatGPT为什么厉害?天网维形还是村头大妈?
9:56
-
臭打游戏之外,还能干些什么?13代i9HX+RTX4080 宏碁掠夺者战斧18性能测试
9:08
-
M2 Pro工科生产力测试,苹果留了一手?Mac生产力系列(上)
15:35
-
为什么Mac=视频创作? AI时代下还会是吗?Mac生产力系列(下)
10:57
-
苹果Vision Pro: 靠什么从虚拟走向现实?
7:25
-
新款Mac Studio硬核体验,赛博朋克2077能跑多少帧?
7:40
-
A17性能全面预测,关于iPhone15还有些你不知道的
8:33
-
不再过度锐化?A17性能如何?iPhone 15发布会5分钟回顾
5:51
-
iPad Pro M4: AI性能深度分析!苹果大模型要来了
9:48
-
一次讲透!工科生用Mac,体验如何?
9:27
-
不只是家庭影院!买了6个HomePod之后,我的建议是....
8:49
-
A17 NPU性能实测!为什么只有iPhone 15 Pro能用?Apple Intelligence深度解读(一)
13:21
-
部落还是联盟?魔兽世界Mac完美适配!
7:12
-
A18,为AIGC而生!iPhone16系列AI性能深度测试
12:10
-
35瓦GPU挑战700亿参数大模型!苹果M4 Max/M4性能深度分析
12:13
-
假“手表”之名,行“计算”之实!Apple Watch系列十年回顾
9:13
-
Mac集群跑DeepSeek等大模型?六台M4 Pro本地大模型推理实测
8:58
-
速度媲美官网?满血M3 Ultra推理6000亿参数DeepSeek R1
11:18
-
光追级UI!?WWDC 2025 Liquid Glass技术解析!
4:14
-
建模太阳磁场、运行本地大模型!为什么学生都爱用Macbook Air?
8:25
-
【深度】用2T内存的Mac跑AI!对话EXO创始人Alex Cheema
20:41
-
iPhone 17 Air:苹果折叠屏的前奏
8:19
-
诚意,诚意,还是诚意!iPhone 17苹果秋季发布会全解析
5:12
-
全网最细!iPhone 17系列AI性能分析
14:47
-
越级表现,超越Pro!M5芯片AI性能深度分析
12:43
-
iPhone Air深度评测:极简是复杂的最高级形式
8:55
-
AI一键剪辑,小白救星!Apple创作全家桶深度体验
8:46
-
【硬核教程】教你搭建Mac AI集群!2TB显存,运行万亿参数大模型!
11:25
-
【深度】苹果牌AI计算卡!M5 Max AI性能深度分析!
13:05
-
【深度】MacBook Neo: 苹果最“差”的 Mac,为什么反而最重要?
6:00
-
NVIDIA DGX Spark:128G统一内存!桌面AI超算Coding实测
8:15
-
Windows 用户的本地 AI 方案!雷神水冷迷你AI工作站实测体验
9:29
-
苹果给AI生图,交出了一份标准答案
2:39
Description
在之前的几期视频里,我详细测试过 Mac 和 NVIDIA DGX Spark 的本地大模型推理性能。对于本地大模型推理的“御三家”来说,还差谁?没错!这一期视频我们来通过雷神AI工作站,详细测试一下AMD Ryzen AI Max +395这一颗芯片。
Comments
只能玩玩,真正用ai做开发的就知道,deepseek v4 flash都只是勉强可用。这可是284b 13b的级别,至少50 t/s效率才能入门,上下文286k,才能勉强抵一个普通开发者。现在的 395跑27b等于是招了个 高学历的实习生。[doge]2.5万能买多少token。本地的话用双3080 20g在加主板cpu 总价在1万不比这个香。缺点就是耗电。但是用把显卡功耗限制在150瓦一张,性能弱不了多少。[doge]
♥ 13 ↩ 5
[尴尬]前几天看英伟达的芯片的时候,就想到了这395,整整发布一年多了,依旧没什么动静。 说句实话,有本地部署的需求的人,还是少数。或者说,这种产品和需求本身就是是错位的。 去年大家用AI还是问答形式,今年几乎全部都是agent。agent想要做实际的工作,模型能力一定要强。但是很可惜目前的最强模型,都不是开源的。开源能部署的,也几乎都干不了什么重要的工作生产。这就导致了:重度专业用户本地部署看不上,用得着本地部署直接买API就可以了。毕竟这个东西2.5W的价格,买token能用到天荒地老。
♥ 8 ↩ 2
96GB 共享显存这个很实在,对于本地跑大模型来说,大内存真的太重要了
♥ 7 ↩ 3
现在还有ai max 395的商单么。。去年1万不到现在卖到2w5+。。真没法买吧
♥ 4 ↩ 9
看完对 MoE 模型的优势有了更清晰的认识,确实和雷神这台机器用的395特性很匹配
♥ 3 ↩ 1
这给价格上nv了
♥ 1
这个价格还不如dgx spark[doge]
♥ 1
终于等到 AMD 平台的完整本地 AI 实测了,之前看了 Mac 和 NVIDIA 的,这次凑齐三家参考很有价值[doge_金箍]
♥ 1
怎么没人哪…… 突然想起Mac Book Neo发布时那次录的视频,那时就推测说以后AI会收费……
♥ 1 ↩ 2
Windows 用户的本地 AI 方案!雷神水冷迷实测很有参考价值。我们本地机房搭了dgxspark 8节点集群高速互联对外出租,最多能跑1T级大模型,有需求看主页。
绝对用云方案好,本地这些方案太差了
不知道什么时候有395主板单卖,去年看了太贵……
用的也是395的机器,但想问一下明明分配了96G的显存为什么跑qwen coder next会占满内存。同一个模型无论lm studio还是ollama。ollama ps看到体量为55GB且纯GPU计算,但却能占用到110GB的显存+内存。但是QWEN3.5 35B的就只占了二十几GB的显存。
该买的去年都买了,现在想买的买不下去吧?
三年之后 估计能降到 3000块
↩ 1
那这和我自己组一台有什么区别呢[思考][思考][思考][思考]
↩ 2
这玩意儿刷飞牛os做nas怎么样
↩ 2
云端和本地本来就不是二选一,各有各的适用场景
我还不如买一体机算了,还更便宜[笑哭]