DeepSeek v3本地部署与调用实战｜vLLM、SGLang、LMDeploy+DeepSeek v3部署调用实战
合集 · DeepSeek干货实战教程 (17)
-
DeepSeek v3本地部署与调用实战｜vLLM、SGLang、LMDeploy+DeepSeek v3部署调用实战
33:40
-
DeepSeek-v3调用指南与Function calling技术实战｜DeepSeek v3模型参数详解与Tool Use功能实战
1:37:25
-
手动复现DeepSeek v3！从零训练Mini DeepSeek v3！模型预训练+全量指令微调+DPO强化学习微调全流程实战
2:00:14
-
DeepSeek v3搭建Multi-Agent技术入门实战｜DeepSeek v3+OpenAI Swarm技术实战
1:00:04
-
DeepSeek v3+GraphRAG技术实战｜DeepSeek v3知识图谱检索增强技术实战
44:01
-
DeepSeek R1本地部署与调用指南｜transformer、Ollama、vLLM、LMDeploy、SGLang部署与调用R1与蒸馏模型组
54:58
-
DeepSeek R1 API调用实战！DeepSeek R1模型参数详解与模型功能介绍｜自动编程、自动机器学习项目入门实战
23:52
-
借助DeepSeek R1进行模型蒸馏，模型蒸馏入门实战！从零训练DeepSeek R1 Distill模型｜模型蒸馏技术实战
1:19:22
-
DeepSeek R1搭建本地知识库问答系统｜DeepSeek+Ollama+RAG本地知识库问答实战｜AnythingLLM快速部署与应用实战
47:16
-
DeepSeek Janus Pro重磅开源！文生图+图像识别，统一多模态大模型奠基之作！超越DALL-E 3、SD3 Medium
25:10
-
DeepSeek Janus Pro本地部署与调用实战！图像识别+文生图统一多模态大模型本地部署与调用流程详解！
34:13
-
【全网独家】训练定制化DeepSeek R1！零基础DeepSeek R1高效微调实战｜知识灌注+对话风格微调，推理模型+Cot数据集微调实战！
1:51:26
-
【全网最强】DeepSeek R1论文逐段精读与训练流程代码复现｜R1强化学习训练流程详解、模型蒸馏方法介绍｜GRPO原理介绍与代码复现
2:42:26
-
联网+本地知识问答+外部工具调用+代码解释器+多用户并发+多模型切换，DeepSeek+Open-WebUI终极部署指南！
1:49:52
-
最低0显存，独家Unsloth动态量化部署满血DeepSeek｜纯CPU推理、CPU+GPU混合推理、纯GPU推理方案详解｜企业级最佳部署方案
1:43:00
-
【全网独家】训练定制化DeepSeek R1！零基础DeepSeek R1高效微调实战｜知识灌注+对话风格微调，推理模型+Cot数据集微调实战！
1:50:46
-
独家KTransformers技术实战，手把手跑通4090运行DeepSeek满血版，独家FastAPI脚本编写&Open-WebUI结合方案深度讲解
1:53:14
Parts
Description
DeepSeek v3本地部署与调用实战公开课来啦！全网孤本真正的本地部署DeepSeek v3实操，详细介绍vLLM、SGLang、LMDeploy+DeepSeek v3部署调用实战！ ✅置顶评论扫码加入【赋范大模型技术社区】，领【本视频完整课件】，以及更多【海量硬核独家技术干货】内容+无门槛技术交流，期待你的加入！
Comments
三连了 希望能给个资料 谢谢
♥ 2 ↩ 1
感谢分享[抱拳]正好需要
♥ 2 ↩ 1
Hp又来骗关注了。
♥ 1
H20支持FP8精度，为什么视频说要占用1400GB，800就够了吧
♥ 1 ↩ 2
请教一下大佬，为什么我transformers在load DeepSeekV3时，系统内存（不是显存）飙升，最终被oom-killer杀掉了进程，我有1T内存都放不了。。。
♥ 1 ↩ 3
up你好，有个疑问啊，开头说，因为V3有671B的参数，运行需要490G显存，但是我看V3介绍说运行时只有37B的参数。是不是训练需要很多显存，而只应用推理的话，需要的硬件少的多？
♥ 1 ↩ 4
大佬，v3和r1有啥区别啊
♥ 1 ↩ 6
这8个显卡多少米[喜欢]
♥ 1 ↩ 2
这个激活37b感觉可以在cpu上跑啊
♥ 1
本地部署，对显存需求量大吗
♥ 1 ↩ 1
已三联[害羞]礼貌求课件
♥ 1 ↩ 1
[给心心]下图扫码加入【赋范大模型技术社区】，领取全套《Deepseek v3技术实战教程》，社区更有海量硬核独家技术干货内容+无门槛技术交流，期待你的加入[星星眼] ✅高质量公开课：30+套团队自研大模型学习课程； ✅新知速递：大模型重大技术突破&最新技术信息通报； ✅干货分享：每月2-3场硬核干货&前沿技术公开课； ✅独家团队自研高品质技术教程&追更最新技术内容； 感兴趣的小伙伴抓紧时间扫码入群吧～
♥ 1
问下有没有大佬使用KTransformers部署V3的Q4量化版本的？大概需要什么样的配置？速度有多快？
本地部署v3与r1有什么不同？两个怎么区分使用
这个配置，可以支持多少并发？
↩ 1
正好需要啊啊啊
我想让模型去学习pdf文档，文档大小有50MB以上，比较大，并且文档比较多，有什么方法吗？
↩ 4
deepseek api调用，能让模型去学习pdf文档吗？