【超详细】Mac本地部署DeepSeek&个人知识库搭建保姆级教程

太牛了，这个东西自己会搭建和能够逻辑清晰地指导小白搭建中间差了十万八千里。 整个视频详略得当，精致的动效+贴心的注解，我看过的最好的面向小白的本地部署指引。

♥ 213 ↩ 3

终于明白了 难怪我之前下载完本地大模型后 兴高采烈的把自己3万多字的小说 发给他让他帮我润色一下 他给我简化到200字 我当时都他么傻了[喜极而泣]

♥ 68 ↩ 5

我使用了7b模型。。。感觉模型笨笨的，总是瞎说八道。 比如我问 我的相机和手机的拍照性能谁更强。ai居然把相机的长宽高当成了相机镜头的尺寸。我问三国志这本书讲述的是什么年代的事情，它回答是今天2025年2月16日的事情。。。这就。。。很难相信它说的结果

♥ 51 ↩ 13

非常棒的一期，目前在用一些云提供的第三方 api 感觉后续的使用非本地版本会更猛[星星眼]

♥ 38 ↩ 6

1.官网下载ollama并安装 2.部署deep seek模型 提示：只有671b是满血，其它都是阉割版。 打开终端输入：ollama run deep...

♥ 30 ↩ 1

厉害啊，排除了大多数无关信息，深入浅出，对小白太友好了。其他视频太大而全，看着不好抓重点[星星眼]

♥ 27 ↩ 4

个人机器带不动，不如大家给我推荐哪家的API好用吧，稍微贵点没关系，关键要快，硅基流动直接pass，吐字太慢了

♥ 19 ↩ 12

实名羡慕up这溢出屏幕的才华[点赞][点赞][点赞]，YYDS！快来一键三连吧[热词系列_优雅] 一、如何在Mac电脑上部署deep sick模型，并搭建个人知识库，其中包括不同规模模型的建议配置和使用方法。 00:01 - 介绍DeepSick的大语言模型及其开源特点 01:12 - 安装欧拉马软件，使用其安装和运行DeepSick及其他大模型 02:51 - 根据Mac性能选择合适的DeepSick模型规模，使用终端进行部署 二、如何使用欧拉马的deep sick模型进行语音聊天，并介绍了如何使用Anything LLM工具进行更复杂的对话和检索增强生长。 03:02 - 输入指令运行deep seek模型，下载模型需要几分钟或十几分钟时间。 03:50 - 使用Anything llm与大模型进行对话，提供RAG能力检索增强生长。 04:29 - 以Anything llm为例，安装步骤和使用方法详细讲解。 三、如何利用AI建立个人知识库，通过上传文档和设置embedding模型让AI理解文档内容，并根据提问给出解决方案。同时，还介绍了规避幻觉问题的方法。 06:00 - AI可以帮你做数学题和聊天，但我们需要更进一步 06:14 - 上传文档并选择embedding模型，让AI理解文档内容 08:22 - 调整AI设置，让它仅基于上传文档回答问题，规避幻觉问题 四、如何借助欧拉A和anything LLM部署一个可以运行在本地的AI大模型，以及如何使用AI大模型的推理和文字生成能力。 09:01 - 大模型训练阶段被植入伦理准则，很难得到想要的结果 09:38 - 需要耐心和钻研精神进行微调，成功后会有好的感觉 10:21 - 可以将不想上传到在线大模型网站的文档投喂给AI，进行分析和查找资料 --以上内容由模型基于视频内容生成，仅供参考。视频总结、高能空降欢迎召唤热心市民@AI视频小助理

♥ 15 ↩ 1

跟着视频一步一步的部署了一下 感觉完全不可用，上传了相关的资料，让它根据文档中的类容进行回答都答不对或答不全

♥ 10 ↩ 8

up主 怎么让r1模型取消它的思考过程啊 我感觉他回复思考过程一大堆导致输出结果太慢了

♥ 10 ↩ 14

请问up和大家一些问题，我只想他成为一个检索并回复的工具，是不是可以把国标、规范、各类产品知识导入到本地文件然后提问？在日常中把一些零散的相关知识通过对话框发给它，它是不是可以在以后的提问中跟本地文件一起回答？在此情况下部署1.5b或者7b是不是都差不多？

♥ 10 ↩ 7

试了一下，MacBook Pro m4pro版24G内存无法使用32b，显示Could not respond to message. llama runner process has terminated: exit status 2，不是说有人试验过只是慢点吗？应该怎么设置呢？

♥ 6 ↩ 7

孩子们。m1+8g老将，内存cpu全爆了但是成功了。放心玩[妙啊]

♥ 5 ↩ 1

ollama的好处就是还没被领导盯上，能满速下载，我200m带宽能到32m/s。后面速度如果变慢了，停止后重新pull，会继续满速下载

♥ 5 ↩ 2

实测M1 promax 64g安装32b，整体运行丝滑。就是回答仍有些笨，甚至出现答非所问的情况

♥ 5 ↩ 5

真诚的发问，纯小白，已经有了在线版ds且不需要下载，为什么还有很多人需要本地部署呢？

♥ 5 ↩ 10

23年pro 8G的 用7b时候已发送电脑已经卡住了哈哈哈哈哈

♥ 5

为啥我上传的PDF文，去提问的时候总是回答文档没有该数据，是我模型下小了吗？下载的7B的

♥ 5 ↩ 6

llama runner process has terminated: exit status 2 报错这个怎么处理啊？

♥ 4 ↩ 4