5分钟学会本地部署！拥有自己的免费AI大模型！~

我找到了【安装docker时，出现“docker: error during connect: This error may indicate that the docker daemon is not running.:····”】问题的解决办法： 1、确定电脑支不支持虚拟化，在【启用或关闭windows功能】种打开“Hyper-V 虚拟化平台”，具体可参见https://blog.csdn.net/winkexin/article/details/131526991 2、打开docker desktop，确认docker服务是否已经打开，如果没有启动或者启动失败的话，试试在cmd或者windows powershell中(管理员运行)，输入net start com.docker.service以启动Docker Desktop Service服务 3、下载安装wsl，补齐基础运行环境，可参考https://blog.csdn.net/LeungSr/article/details/117900614 4、启动docker daemon 在cmd中输入cd "C:\Program Files\Docker\Docker"跳转到Docker Desktop安装路径 再输入.\DockerCli.exe -SwitchDaemon把docker daemon启动 5、再运行docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main就好啦

♥ 153 ↩ 20

UP主讲的很简单，但其实里面省了很多步骤，对着做了一遍以后，基本上吧能踩的坑都踩了一遍，这是我大概过程和注意事项： 一、基础环境及模型部署 1、安装Ollama 2、安装后使用更新命令，更新到最新版本（pip install --upgrade ollama） 3、如果提示是否更新python依赖环境，一定要更新！否则模型运行特别慢！（python.exe -m pip install --upgrade pip） 4、再安装对应版本的大模型包，一般16GB内存的电脑，跑7b左右的大模型是足够的 二、对话界面部署 方案1 docker+openweb方案 1、打开电脑虚拟化设置 2、安装docker，docker要安装最新版本，一定要最新！否则docker无法启动！ 3、安装wsl，补齐基础运行环境 4、输入命令安装open webui （docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main） 5、如果没有自动启动的话，要在docker中启动webui，而且启动时设置端口为3000！ 6、启动成功后打开localhost:3000，就能对话了 方案2 直接安装AnythingLLM即可 【可能用到的软件，我都放在链接：https://pan.baidu.com/s/1O1thQYmr7tcLm_UPhHgs_w?pwd=xnli 提取码：xnli 了】

♥ 150 ↩ 17

五分钟把大模型跑起来❌ 先花五年赚米买个跑大模型不卡的电脑✅ （别问我怎么知道的[笑哭][笑哭][笑哭]

♥ 154 ↩ 16

那个win推荐安装ollama的时候，添加一条环境变量,不然他的模型默认都会给你塞到c盘里去[脱单doge]添加系统变量:OLLAMA_MODELS.变量值为你想让它保存的路径 如果想把api给局域网的其他设备使用.就添加一条OLLAMA_HOST.变量值为电脑ip。然后就可以使用ip:11434访问了

♥ 74 ↩ 17

还有天理吗？技术硬就算了，人还美！人美我也忍了，心地还这么善良[吃瓜]

♥ 58 ↩ 3

目前本地部署开源模型的优势和劣势有哪些呢？up能不能下期讲下，以及讲讲怎么用好本地部署大模型的优势[喜欢]

♥ 41 ↩ 10

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

♥ 30 ↩ 8

三连三连，up有部署在服务器上，可对外开放访问，可自建知识库，对配置要求低的ai部署方法吗？

♥ 24 ↩ 8

希望up可以做一期更加详细的教程，类似部署这个要不要魔法，部署的电脑的配置要求和一些路径设置说清楚一些，然后部署完毕之后，之后想要通过外部设备访问我部署好的大模型。例如联网的单片机设备怎么接入这个大模型，有这类扩展教学视频就更好了！很期待up的更新。

♥ 21 ↩ 12

unknown flag: --add See 'docker run --help'. 怎么回事？

♥ 15 ↩ 9

--本内容由 @紫瞳琉璃 大佬下凡召唤，热心市民@AI视频小助理闪现赶来 本视频讲述了如何使用欧拉玛工具下载并运行开源大模型，以及如何在本地使用Charge GT界面进行对话和操作。此外，我们还提供了共享大模型的方法，使其可以在任何地方使用。本视频简单易懂，适合初学者。 实名羡慕up这溢出屏幕的才华[点赞][点赞][点赞]，YYDS！快来一键三连吧[热词系列_优雅]

♥ 16 ↩ 1

本地大模型接入知识库的视频来啦～ https://www.bilibili.com/video/BV1Ay411B7rx/?vd_source=665456570e2dd0fcd1bf83cf586c9936

♥ 12

up我有几个问题。 首先docker我是挂了魔法下载的，然后部署那个1个g的包的时候还需不需要用？等了快一小时了，还没下载好，一直没有显示，只有光标一直在闪[大哭]

♥ 10 ↩ 9

有几个问题 1：后期更新模型 投喂会不会打水漂 2：有没有办法装到u盘之类的自动设备里

♥ 7

docker如果不想安装到C盘的，看这个文章：https://www.cnblogs.com/luzhuangzhi/p/17869210.html

♥ 6

教一下怎么训练自己行业的机器人，比如中医，国学类的，应该丢什么内容给它，怎么训练它成为这个领域的专家，以后又不懂的问题可以问它

♥ 7 ↩ 1

docker run -d \ --name open-webui \ -p 3000:8080 \ -v open-webui:/app/backend/data \ --restart=always \ ghcr.io/open-webui/open-webui:main 唉。不用谢

♥ 5 ↩ 2

invalid argument "host.docker." for "--add-host" flag: bad format for add-host: "host.docker." 命令出现错误了，这怎么搞[笑哭]

♥ 5 ↩ 2

我有一个很小白的问题，这个ollama怎么安装别的盘里？下的大模型怎么换到别的盘里？C盘已经红了.......

♥ 8 ↩ 13

美女UP，启动WEB UI的命令行能不能打在评论区啊？否则要手打上去吗？谢谢美女了

♥ 6 ↩ 1