7分钟教你搭建本地无限制聊天AI，还能喂知识！

合集 · 本地离线AI懒人不劝退教程 (4)

Description

像调教一个私人定制聊天AI吗？还能让他更懂你！本视频教你如何用一台游戏本搭建本地聊天AI，还能通过知识库让他学习更多东西！这台游戏本搭载第十四代英特尔® 酷睿™ i9-14900 HX处理器，战力再+1!
http://t.cn/A6Y3Cjb0

懒人包地址：
链接：https://pan.baidu.com/s/1eYGvcz3EY7cT1qhLMaeweQ 
提取码：a2eb 

docker地址：
https://www.docker.com/products/docker-desktop/

docker compose地址：
https://github.com/docker/compose/releases

dify:
https://github.com/langgenius/dify

【Composer和Dify的安装方法】
1.下载Dify、解压缩，比如C:\dify-0.5.8
2.下载docker-compose-windows-x86_64.exe
【非常关键】放到Dify的docker目录下：比如C:\dify-0.5.8\docker
3. 打开CMD（Win+R，敲CMD回车）
输入 cd C:\dify-0.5.8\docker 回车 会进到这个目录
输入 docker-compose up -d 回车 
感谢@-基浪- 补充

Comments

bruce_ng 2024-03-09

我来拆台[doge]：chatGLM3-6B 的模型如果要全部加载到显卡内存，实测最少占用 12.6G左右，而且会随着对话历史的增加而增加。但现在官方开源的代码中，在显存不够时，会自动分配一些层到cpu内存中，所以不但8G 显存的4070能跑，我用6G的 1060笔记本也能跑，但由于半数以上的层靠cpu运算，所以比全部加载到显存的情况慢多了。

♥ 532 ↩ 14

饿不一定能瘦 2024-03-09

后悔没买游戏本，以为没太高的性能要求，结果现在做个小模型都带不动，数据量加点直接爆，所以大家购机的时候还是考虑好自己的情况再下手

♥ 257 ↩ 23

时空星文 2024-03-09

额？😋 恭喜你打败eto，拯救地球文明😃 厉害呀枪枪命中😧 全靠这台暗影精灵👍 流程体验玩的爽😋 高分高刷看得清😆 散热高效又安静🤫 让我试试🧐 罗老弟原来这就是你的秘密武器呀🥰 OMEN暗影精灵8pro😏 高性能游戏本😚 满血战斗力，玩出内力🤩

♥ 187 ↩ 2

唯里所想 2024-03-09

我也学Python的，普通入门级的话普通本就可以，但随着学习加深，对电脑的要求是越来越高的，很多东西太烧配置了，只是没想到暗影10处理大模型这方面也能带动

♥ 180 ↩ 4

-基浪- 2024-03-11

【Composer和Dify的安装方法】 1.下载Dify、解压缩，比如C:\dify-0.5.8 2.下载docker-compose-windows-x86_64.exe 【非常关键】放到Dify的docker目录下：比如C:\dify-0.5.8\docker 3. 打开CMD（Win+R，敲CMD回车）输入 cd C:\dify-0.5.8\docker 回车会进到这个目录输入 docker-compose up -d 回车 ======然后就进安装了====== 真是难者不会、会者不难。。。为啥很多文章/git都不说清楚呢。。。 @epcdiy 召唤EEPPCC大佬补下简介？

♥ 129 ↩ 22