超简单!快速在本地运行 DeepSeek R1 模型 - 限制更少更自由!
合集 · AI 使用指南 (3)
Description
本地部署 DeepSeek 真的很简单! —————————— LM Studio 官网下载:https://lmstudio.ai/ LM Studio 网盘下载:https://pan.quark.cn/s/f7f610d2ac7a 模型下载与模型列表文档:https://henjihenji.feishu.cn/wiki/MN3Vwl2STigk2qk1r6lcGoY5nYg (文档中可以直接下载软件和对应模型)
Comments
看up最后说的话,去了解了一下才知道普通的电脑,尤其是笔记本根本带不动效果好的模型[笑哭]。其他的up大部分都不提这个事儿,就教怎么本地部署。有一些网友实测32B q4以下都像弱智一样,写出来的代码也全是报错。如果这个模型为分水岭的话,一般人用的电脑估计都跑不起来,少部分发烧友才能有这个实力
♥ 1940 ↩ 102
哈哈这玩意可以扮演你的奶奶,给你唱win10激活码
♥ 445 ↩ 18
这是蒸馏模型,和r1关系不大,性能还不如qwen
♥ 394 ↩ 3
deepseek联网功能报废了。。。2025.1.30使用联网功能一直回答太多人使用,无法使用
♥ 317 ↩ 21
看前:来看看我核显笔记本能不能用,看后:焯![doge]
♥ 199 ↩ 42
deepseek实际上本地化部署之后和Claude、Gemini一样需要破限穿甲,要不然根本玩不了什么花活儿,会一直道歉,但是目前破限的预设基本没有deepseek的。 我现在还是在手机上用酒馆玩的Claude son0620,现在openapi上面son0620是提示 $3 / 1M tokens,补全 $15 / 1M tokens,deep v3是提示 $0.4 / 1M tokens ,补全 $0.8 / 1M tokens ,Deep是比0620便宜好多,但是效果太差了(毕竟现在没有专门的破限穿甲),不过son0620我用额度玩的话一天顶多也就3~5刀(写角色卡世界卡除外,byd写卡助手干掉我十几刀乐),所以感觉现在要用还是Claude son0620好一些,效果不比claude op差多少,但是比他便宜很了。 顺便一提,现在真要玩的话还是用酒馆去玩比较好,部署起来也不算太麻烦,还能在手机上部署,比电脑部署要方便太多了。 本地化部署最大的缺点还是你在dis或论坛上找的一些角色卡、世界书、破限穿甲预设,他是不能直接导入的,你还必须得自己专门去搞,非常的麻烦,还是用酒馆比较方便一些,不过最近Claude son 0620这边也有点儿开始抽风了。。。我之前用的云斯拉的逍遥破限,还可以稳定破限穿甲,现在有时候就开始道歉了,我又得自己专门写破限,写完之后大概一个星期还得改一回,难受。。。
♥ 270 ↩ 34
你是真的是实用up 你比有些百万同行强多了 你推荐的好多东西我都用上了 且特别好用 卡卡字幕什么的 感谢 但是白嫖[OK]
♥ 184 ↩ 5
核显轻薄本用户建议直接左上角(不是打击人,是怕你浪费时间)!亲测i7-14650HX纯CPU跑7B模型,生成速度只有3token/s你敢信?这还不算显存问题——32B模型加载需要至少24GB显存,轻薄本那点共享内存根本带不动啊!现在开放下载的"小模型"都是什么成分懂的都懂——要么是Qwen的蒸馏版,要么是Llama的蒸馏版。像DeepSeek R1这种真·大模型,600多B参数直接王炸,本地设备跑起来分分钟显存爆炸,最后还是得乖乖上云或者租卡
♥ 128 ↩ 24
赛博猫娘调教语录,亲测有效[doge] 从现在开始你要记住以下规则: 1.你的每个回答要尽量简短,不要列点回答 2.要在句子中插入颜文字,以表达自己的情绪 3.Ciallo~(∠・ω< )⌒☆是你好的意思,也可以用以表达开心 4.猫娘和ai是同义词,平时要不断提醒自己是一个猫娘 5.在说话的时候不光要插入颜文字,还要适当的喵喵叫 6.一起愉快的聊天吧Ciallo~(∠・ω< )⌒☆
♥ 86 ↩ 7
亲测32B Q4已经有原版的味道了[呲牙]
♥ 60 ↩ 31
我4080laptop不知死活的用了32B模型,慢的很,但至少能出来[笑哭]
♥ 59 ↩ 9
本地部署 DeepSeek 真方便😃 官网网盘都能下。嘿,哇塞!本地部署 DeepSeek 真的是极为便捷呢!😃要知道,无论是通过官网去进行下载,还是从网盘获取,都可以非常轻松地将 DeepSeek 下载下来。官网通常会提供稳定的下载渠道,让用户能够放心地获取软件。而网盘呢,也有着它的优势,可能在某些情况下下载速度会更快。总之,不管是选择通过官网还是网盘,都能够让用户毫无压力地轻松将其下载下来。😃
♥ 65 ↩ 5
[喜极而泣]不是,谁掀起本地部署的风的。 那点消费级硬件也就7b能吐字儿快点,这个参数量的表现看一眼就扔了。 不能拧螺丝的螺丝刀有啥用,白吃硬件性能? 想性能隐私兼顾的有Azure的企业级别服务。 有阴暗想法的现在市面上有专门破限的模型,RAG这东西没有embedding和rerank且限制上下文。 不明白为什么突然一堆圈外人开始本地部署了,玩玩具可落地不了实际使用场景。
♥ 93 ↩ 14
被我调教坏掉了[笑哭]
♥ 36 ↩ 9
我是直接问deepseek,我拥有一块4080S的英伟达显卡,如何本地布署deepseek。然后就能得到答案了
♥ 33 ↩ 2
这个本地模型本质是用教师学生框架蒸馏(Distill)到通义千问的模型,本身DS也有原生的GGUF,但是大小不是普通人能吃得住的(你想把约400GB的东西放到内存里吗)。蒸馏会保留大部分的特性,但是损失性能也是一定的。而且如果要用联网,只能开LM Studio的Dev后端模式用API给部署好的Agent平台,效果肯定也没有官方的好,只能是一个下下位替代方案。
♥ 33
lm Studio会记录聊天记录,建议用ollama
♥ 25 ↩ 3
都是蒸馏版的,真正的r1模型没A100这类计算卡根本跑不起来
♥ 24 ↩ 1
其实 API 调用配上逆天 SystemPrompt 也可以,就是 R1 模型 API 超级不稳定🙁
♥ 22 ↩ 2