【保姆级】Qwen3硬件配置、模型选择与本地部署完全指南,全面支持MCP,思考模式自由切换!
Parts
Description
零基础上手部署调用Qwen3教程来啦!详解Qwen3全系列硬件配置、模型选择与本地部署流程,本地模型全面支持MCP工具调用,推理&对话模式自由切换! ✅置顶评论扫码加入【赋范大模型技术社区】,领【本课程完整课件】,以及更多【大模型Agent智能体开发硬核技术干货】内容+无门槛技术交流,期待你的加入!
零基础上手部署调用Qwen3教程来啦!详解Qwen3全系列硬件配置、模型选择与本地部署流程,本地模型全面支持MCP工具调用,推理&对话模式自由切换! ✅置顶评论扫码加入【赋范大模型技术社区】,领【本课程完整课件】,以及更多【大模型Agent智能体开发硬核技术干货】内容+无门槛技术交流,期待你的加入!
Comments
看参数这个比DeepSeek要低不少,感觉纯CPU运行,如果是D5高频内存,也许能有10token的速度。这对于个人来说够用了,而且纯CPU方案的成本要低得多,四五万一套就能下来
♥ 6 ↩ 2
我x99主版。e5 2696v3,64gd三的内存。3060 12g 在Windows11系统下,用lm studio下载了一个。qwen3 30b a3的Q3量化模型。大小14个多g 回答速度7token左右。一个人用应该还算流畅。不知道要是上mi50 32gb的。速度会怎么样?估计那样上个32b的更好。
♥ 6
纯CPU(i5-8600T)用Ollama部署30B-A3B,占用内存18G,实测8token/s
♥ 5 ↩ 1
0.6B无痛部署成功 感谢分享
♥ 3
transformer的调用方法在windows下能用吗?
♥ 2 ↩ 1
好像是开源大模型,唯一可以完整推理回答这个问题的:一个4分钟沙漏,一个7分钟沙漏,如何计时10分钟
♥ 2 ↩ 7
怎么都在卖课。。。。
♥ 2
DS新出了V2,不知道会不会假期出R2
♥ 2 ↩ 1
老师,我不论是编程还是写小说都用的Claude,感觉GPT啥的不行啊为啥他一直被拿着说
♥ 1 ↩ 2
看发际线是个狼人。[doge]
♥ 1
老师,Qwen3的编程能力怎么样?在编程方面,哪个尺寸的性价比最高?[呲牙]
♥ 1
太需要了[打call]
♥ 1
我的 12100T 32GB 没有外置显卡 跑 30b 也勉强能用…
♥ 1
修改模型下载路径后用cherrystudio找不到本地模型啦,它默认去C盘路径找,哪里可以改呀?
♥ 1 ↩ 1
已三连[呲牙]
♥ 1
我的5070跑8b的可以吗
♥ 1 ↩ 2
我还挺早
♥ 1 ↩ 1
老师 声音是真的,人是数字人
↩ 1
MacBook pro m4pro 48g 内存适合安装哪款大模型呢?