说句话就能自动找番下载?我把本地80B大模型调教成了“追番特工”!
合集 · AI系列 (21)
-
Unraid部署Deepseek-R1模型全攻略(含A卡、N卡加速以及纯CPU环境)
19:05
-
899元6年前矿卡逆袭!双卡AMD RADEON VII暴跑70B大模型!
12:17
-
以后用NAS只要“说”就够了?——通过AI🤖部署基于Ubuntu的“NAS系统”实战
38:27
-
垃圾佬狂喜!300块的CPU+600块的计算卡?组装能跑70B模型的AI服务器是种什么体验?(浪潮SA5212M5 + 3x MI50)
12:06
-
【AI垃圾王】2500元不到装一台AI服务器!双Radeon VII解锁vLLM张量并行,性能暴涨6倍碾压Ollama!
8:00
-
别被“AI”忽悠了!1999元的小米AI眼镜,是年轻人的新玩具还是新“智商税”?
20:22
-
我花了3700块,从闲鱼买了台双Tesla V100扩展柜,想一步到位玩转MoE,结果…
12:12
-
说句话就能自动找番下载?我把本地80B大模型调教成了“追番特工”!
12:44
-
单卡双芯 48G 显存!打造 20L 紧凑型 AI 算力怪兽:DeepSeek 70B 实测 19 tokens/s
17:53
-
从自动写代码到智能影音刮削:实测 OpenCode,这台“赛博管家”真的能干苦力活
16:56
-
不用买macmini!手把手教你在NAS(LINUX虚拟机)里安装Clawdbot/Moltbot
24:54
-
一键部署Openclaw还能白嫖算力?绿联NAS送你“小龙虾”!
5:40
-
拒绝黄牛加价!1300块拿下M1“无头骑士”,这才是平民最强“养龙虾”神器?
7:43
-
AI时代买了个“黑白屏”?数码老爹深度实测!
7:59
-
别再当韭菜!600块组装Mac mini平替,跑AI Agent比白苹果还香?
7:04
-
铭凡 N5 MAX 首发评测!这才是真正的AI(O) NAS!120W 满血释放,16核32线程,本地AiAgent + 本地视频生成
15:54
-
AMD核显实战ComfyUI:七彩虹灵创K16如何包揽全套本地AI视频制作
13:00
-
榨干最强蓝厂显卡!单芯片32G的铭瑄Arc Pro B70,跑大模型/AI视频有多猛?
16:48
-
能跑 DeepSeek-V4 的"无头骑士"迷你主机——极摩客 EVO-X3 实测体验
9:53
-
2026 年了,工作室的 AIO 服务器应该会干什么?
17:36
-
最便宜的32G正规军、但算力砍四成:Arc Pro B65 到底值不值这8999
6:10
Description
找番、找磁力、筛选画质、跳转下载……这些繁琐的操作,为什么不能一句话让 AI 全帮我做了? 本期视频,我将利用搭载 AMD Ryzen™ AI Max+ 395 处理器的 铭凡 MS-S1 MAX,在完全本地、隐私、断网的环境下,演示一套“全自动 AI Agent 追番流”。 为什么这期内容很硬核? 智商压制: 为什么 7B/14B 模型做不到的事,80B 甚至 120B 的本地大模型能精准理解“粉头发小女孩”这种模糊指令? 显存奇迹: 面对 5090 都塞不下的 80B 量化权重,128GB 统一内存如何实现“全量装载”并跑出秒级响应? 逻辑胶水: 手把手带你解密 n8n + 本地大模型 + JavaScript 节点 是如何协同工作的。
Comments
其实我觉得最最关键的一点没有提到,就是大模型提供商有内容审查,让它找小姐姐的链接直接拒绝回答了[辣眼睛]这可能是本地模型最大的优势了吧
♥ 107 ↩ 17
qwen3-next-80b-a3b真的爽的,用量少的话,用siliconflow的API速度极快,还超级便宜,我试过最快时候能到300 tokens/s,我用来配置个人的大模型翻译工具,速度超级快基本替换掉机器翻译工具了,比它小的模型就有点笨了,有些中英混杂或者句子里有特殊概念的就很人机,对我来说qwen3-next-80b-a3b刚好是个甜点位置。
♥ 97 ↩ 9
找番最难的不是有磁链没速度么?
♥ 80 ↩ 6
[辣眼睛]2w买台机器部署80b,还是2w买满血API更划算,不考虑完全隐私的情况下
♥ 38 ↩ 7
这期视频的文案风格和以往那种严谨细致的风格差别好大,出现了很多似是而非的名词,比如说“逻辑胶水”“显存天花板”“资源猎人”“特工守则”。如果是AI参与文案制作的话,风格上需要更多把关。硬件规格和硬件性能分析还是一如既往的严谨有思考。
♥ 29 ↩ 5
方案挺有意思的,但是老问题就是除非硬性要求保密否则不推荐所有人使用本地大语言生成模型,性价比纯烂
♥ 25 ↩ 3
报个价格,让我死心!
♥ 22 ↩ 14
MoE 系列的AI 模型真的救了 MAX 395 这个芯片,跑 gpt120 和qwen3 80b 这样的 MoE 模型效果很不错,但千万别指望用它来跑稠密模型,算力和内存带宽不够。
♥ 16
我试过 RTX 4090 跑 80b 的模型,量化 q4_k_xl,使用最佳的 CPU MOE 装载数量,在 64 GB 内存的机器,可以达到 24 t/s 的速度。lms 不支持指定 CPU MOE 装载数量,只能用 llama.cpp server 跑。
♥ 10 ↩ 1
n8n挺有意思,但是不太好调,并且不好用于生产环境吧
♥ 6 ↩ 4
现在内存和固态都上天了[笑哭]
♥ 5
我觉得可以考虑把小米的那个智能家居模型一起加进来[doge][doge][doge]
♥ 5 ↩ 3
已三连 期待教程
♥ 4
64G内存+AMD H255小主机,能达到多少%类似的效果? 毕竟这样的主机普及率还是太低了。 7840 8745 h255 这祖孙三代才是市占大头。
♥ 4 ↩ 3
我想问一下假设我有512g内存加一张16g显存的显卡,如果部署超大模型是不是就直接龟速了有没有可以利用512g内存的办法呢
♥ 4 ↩ 7
试试dify🤓
♥ 4
高超音速导弹打蚊子我靠[doge_金箍][doge_金箍][doge_金箍]
♥ 4 ↩ 3
最开头出现的显示器是什么型号的?
♥ 3 ↩ 2
虽然是广但是很受用。我自己最近就在玩dify和n8n,懵懵懂懂的。想靠这个和在学校的论文项目找相关的工作。但是真的感觉竞争有点激烈,工作方向也没什么头绪。
♥ 3
买一个这个,线上api能用一辈子
♥ 3