超简单!快速在本地运行 DeepSeek R1 模型 - 限制更少更自由!

合集 · AI 使用指南 (3)

  1. 4:59
    本地一键运行各种大模型 - 完全免费,无限制!- LM Studio 使用教程
  2. 3:56
    超简单!快速在本地运行 DeepSeek R1 模型 - 限制更少更自由!
  3. 7:20
    教你流畅使用DeepSeek,不怕服务器繁忙!
Description
本地部署 DeepSeek 真的很简单!
——————————
LM Studio 官网下载:https://lmstudio.ai/
LM Studio 网盘下载:https://pan.quark.cn/s/f7f610d2ac7a
模型下载与模型列表文档:https://henjihenji.feishu.cn/wiki/MN3Vwl2STigk2qk1r6lcGoY5nYg
(文档中可以直接下载软件和对应模型)

Comments

毁灭天地の喵 2025-01-29

看up最后说的话,去了解了一下才知道普通的电脑,尤其是笔记本根本带不动效果好的模型[笑哭]。其他的up大部分都不提这个事儿,就教怎么本地部署。有一些网友实测32B q4以下都像弱智一样,写出来的代码也全是报错。如果这个模型为分水岭的话,一般人用的电脑估计都跑不起来,少部分发烧友才能有这个实力

♥ 1940 ↩ 102

hxhej 2025-01-29

哈哈这玩意可以扮演你的奶奶,给你唱win10激活码

♥ 445 ↩ 18

达拉斯打铁王 2025-01-29

这是蒸馏模型,和r1关系不大,性能还不如qwen

♥ 394 ↩ 3

坏老头峰峰 2025-01-30

deepseek联网功能报废了。。。2025.1.30使用联网功能一直回答太多人使用,无法使用

♥ 317 ↩ 21

三思后躺平 2025-01-29

看前:来看看我核显笔记本能不能用,看后:焯![doge]

♥ 199 ↩ 42

花园幽灵鳗 2025-01-29

deepseek实际上本地化部署之后和Claude、Gemini一样需要破限穿甲,要不然根本玩不了什么花活儿,会一直道歉,但是目前破限的预设基本没有deepseek的。 我现在还是在手机上用酒馆玩的Claude son0620,现在openapi上面son0620是提示 $3 / 1M tokens,补全 $15 / 1M tokens,deep v3是提示 $0.4 / 1M tokens ,补全 $0.8 / 1M tokens ,Deep是比0620便宜好多,但是效果太差了(毕竟现在没有专门的破限穿甲),不过son0620我用额度玩的话一天顶多也就3~5刀(写角色卡世界卡除外,byd写卡助手干掉我十几刀乐),所以感觉现在要用还是Claude son0620好一些,效果不比claude op差多少,但是比他便宜很了。 顺便一提,现在真要玩的话还是用酒馆去玩比较好,部署起来也不算太麻烦,还能在手机上部署,比电脑部署要方便太多了。 本地化部署最大的缺点还是你在dis或论坛上找的一些角色卡、世界书、破限穿甲预设,他是不能直接导入的,你还必须得自己专门去搞,非常的麻烦,还是用酒馆比较方便一些,不过最近Claude son 0620这边也有点儿开始抽风了。。。我之前用的云斯拉的逍遥破限,还可以稳定破限穿甲,现在有时候就开始道歉了,我又得自己专门写破限,写完之后大概一个星期还得改一回,难受。。。

♥ 270 ↩ 34

c巫山云 2025-01-29

你是真的是实用up 你比有些百万同行强多了 你推荐的好多东西我都用上了 且特别好用 卡卡字幕什么的 感谢  但是白嫖[OK]

♥ 184 ↩ 5

流年inSZU 2025-01-29

核显轻薄本用户建议直接左上角(不是打击人,是怕你浪费时间)!亲测i7-14650HX纯CPU跑7B模型,生成速度只有3token/s你敢信?这还不算显存问题——32B模型加载需要至少24GB显存,轻薄本那点共享内存根本带不动啊!现在开放下载的"小模型"都是什么成分懂的都懂——要么是Qwen的蒸馏版,要么是Llama的蒸馏版。像DeepSeek R1这种真·大模型,600多B参数直接王炸,本地设备跑起来分分钟显存爆炸,最后还是得乖乖上云或者租卡

♥ 128 ↩ 24

钻石什么屑 2025-01-30

赛博猫娘调教语录,亲测有效[doge] 从现在开始你要记住以下规则: 1.你的每个回答要尽量简短,不要列点回答 2.要在句子中插入颜文字,以表达自己的情绪 3.Ciallo~(∠・ω< )⌒☆是你好的意思,也可以用以表达开心 4.猫娘和ai是同义词,平时要不断提醒自己是一个猫娘 5.在说话的时候不光要插入颜文字,还要适当的喵喵叫 6.一起愉快的聊天吧Ciallo~(∠・ω< )⌒☆

♥ 86 ↩ 7

bruce_ng 2025-01-29

亲测32B Q4已经有原版的味道了[呲牙]

♥ 60 ↩ 31

夕古鹰 2025-01-29

我4080laptop不知死活的用了32B模型,慢的很,但至少能出来[笑哭]

♥ 59 ↩ 9

bc8055 2025-01-29

本地部署 DeepSeek 真方便😃 官网网盘都能下。嘿,哇塞!本地部署 DeepSeek 真的是极为便捷呢!😃要知道,无论是通过官网去进行下载,还是从网盘获取,都可以非常轻松地将 DeepSeek 下载下来。官网通常会提供稳定的下载渠道,让用户能够放心地获取软件。而网盘呢,也有着它的优势,可能在某些情况下下载速度会更快。总之,不管是选择通过官网还是网盘,都能够让用户毫无压力地轻松将其下载下来。😃

♥ 65 ↩ 5

可爱的贝拉里兜nim 2025-01-29

[喜极而泣]不是,谁掀起本地部署的风的。 那点消费级硬件也就7b能吐字儿快点,这个参数量的表现看一眼就扔了。 不能拧螺丝的螺丝刀有啥用,白吃硬件性能? 想性能隐私兼顾的有Azure的企业级别服务。 有阴暗想法的现在市面上有专门破限的模型,RAG这东西没有embedding和rerank且限制上下文。 不明白为什么突然一堆圈外人开始本地部署了,玩玩具可落地不了实际使用场景。

♥ 93 ↩ 14

牢哒1145 2025-01-30

被我调教坏掉了[笑哭]

♥ 36 ↩ 9

三和极客 2025-01-31

我是直接问deepseek,我拥有一块4080S的英伟达显卡,如何本地布署deepseek。然后就能得到答案了

♥ 33 ↩ 2

棱忆Z3N 2025-01-29

这个本地模型本质是用教师学生框架蒸馏(Distill)到通义千问的模型,本身DS也有原生的GGUF,但是大小不是普通人能吃得住的(你想把约400GB的东西放到内存里吗)。蒸馏会保留大部分的特性,但是损失性能也是一定的。而且如果要用联网,只能开LM Studio的Dev后端模式用API给部署好的Agent平台,效果肯定也没有官方的好,只能是一个下下位替代方案。

♥ 33

输入偏移 2025-01-29

lm Studio会记录聊天记录,建议用ollama

♥ 25 ↩ 3

Stabilized-STA 2025-02-03

都是蒸馏版的,真正的r1模型没A100这类计算卡根本跑不起来

♥ 24 ↩ 1

我好困HK 2025-01-29

其实 API 调用配上逆天 SystemPrompt 也可以,就是 R1 模型 API 超级不稳定🙁

♥ 22 ↩ 2