小学生都能搞定的deepseek，本地部署做游戏辅导？

我让deepseek教我的，怎么部署他自己

♥ 661 ↩ 9

本地部署的前提是4090[笑哭]

♥ 1130 ↩ 114

芊师傅超越了99%的同龄人[打call]甚至还有我[喜极而泣]

♥ 435 ↩ 37

671b模型吃了我将近1800g内存[辣眼睛]

♥ 333 ↩ 30

看完了给我的电脑也装了一个，提醒大家两点。首先，记得去官网看你的显卡支不支持，我是6650xt，装了以后才发现不支持，用的时候显卡一点都不动速度很慢。其次，我装的是8b的模型，就简单问了一下中国票房最高的电影是哪一部，还点了联网搜索，但出来的结果竟然是非诚勿扰，其他问题也错误很多，基本处于没法用的状态。要靠他查资料写东西的朋友还是慎用吧。

♥ 405 ↩ 15

[doge]芊师傅越来越好看了

♥ 191 ↩ 8

要是只是想单纯的使用deepseek，没太高要求。用硅基流动上的生成一个密匙然后在chatbox上设置成deepseek模型就行了，还是满血状态的，搜一搜这几天都有新鲜的教程出炉。比那个什么纳米ai搜索实用多了，本地部署难搞还不一定是满血状态的。主要是这玩意不会有服务器繁忙，再搭配用上神秘小咒语就能像本地部署的一样关掉ai的敏感限制[doge_金箍][doge_金箍][doge_金箍]。至于花钱什么的，都送你14块配额了，真要用完了拿家里人手机号邀请注册一下就行了。（要是用这方法的话帮忙填个邀请码HqJzLoXs，帮我白嫖个硅基14块钱赠送的配额）。https://cloud.siliconflow.cn/i/HqJzLoXs

♥ 411 ↩ 34

和芊师傅这么大的时候我还在玩4399 [酸了]

♥ 141 ↩ 12

我已经本地部署了，但是带不动，能不能教教我怎么卸载[笑哭]，求求了

♥ 104 ↩ 12

有🪜的话，推荐直接下载 lmstudio，自带 ui 和 chatui，不需要打开命令行，而且 api 是 openai 兼容的。一开始我用的 ollama，后面发现其实 lmstudio 更好用，更新速度非常快，r1 刚火起来 lms 很快就支持思考过程可视化了

♥ 71 ↩ 11

设置个会做蛋炒饭开鬼火的黄毛[doge]

♥ 65 ↩ 2

我是专门研究大模型方向的，看了评论区我来回答几个关键问题： 1. 大模型目前本地应用主要分为提升工程和微调训练两种方式，学术界或小企业微调一般采用lora降参方式，不会进行全参训练，做不到。 2. 大模型在部署和微调训练时，吃内存，但不多，希望大家在描述显存和内存时，分清楚两个是不一样的。大模型主要吃显卡显存，通常情况下，常用的4090D单卡可以支持最高32B规模的大模型进行Lora微调训练，当然也可以更高但是运行会卡慢，自己可以去试试。 3. 官方API的好处就是你可以使用在官方服务器上的满血版大模型，但是，任何一个厂商目前都有token限制，也就是说，你的上下文提示长度是有限制的，做不到无限供应。此外，收费问题，详情看我发的视频。最后，因为政治，DDoS攻击等各种问题部分厂商服务器不稳定，API始终都是有限制的。 本地部署后，你可以对本地的32B模型进行微调训练，让它应用于各种领域的问答应用上，使用更加自由，且不受条件约束，免费，唯一就是你自己的显卡要大显存或多卡。显卡显卡显卡就完了。 4. 业内常用的部署方式主要有官方脚本部署，例如deepseek，llama3，glm4等开源大模型提供的脚本。还有llamafactory，ollama等第三方框架，以及少数企业化工具。 我随便写的，有错误还请指正。欢迎来找我探讨大模型相关的方向。

♥ 56 ↩ 7

7900xtx实战deepseek 32B Q5[洛天依·天星问_可靠]

♥ 54 ↩ 13

16G内存的mac就可以正常使用8B模型。 但是，除了671B满血版的，其实都只是加强了一点点的llama或者通义千问模型，不是纯血deepseek。

♥ 39 ↩ 2

我部署了一个7b，太卡了，显卡太垃圾了，而且回答问题很多错误[笑哭]

♥ 44 ↩ 12

本地部署了个7b的，直接开始胡说了[doge_金箍]

♥ 41 ↩ 2

我第一个deepseek是在芊师傅这里学的，能不能把地址给我，我好上门拜师交学费[脸红]

♥ 36 ↩ 7

芊师傅长大的好快[打call]

♥ 36 ↩ 9

跟我这两天有一搭没一搭的折腾结果基本一致[doge]不过在老家我妈电脑上是一张2080ti，她甚至嫌弃14b的模型回答结果不如她的小爱同学[笑哭]

♥ 29 ↩ 1

我选择等它服务器不忙

♥ 28