5分钟教会你给本地大模型接入知识库RAG～【小白喂饭级教程】

这妹子绝对是b站的一股清流，真正的科技知识分享，希望越来越好！

♥ 192 ↩ 7

为什么我感觉这个up本身就是ai产物呢。。。。

♥ 93 ↩ 6

视频已三连[脱单doge]请教up：我的需求是4000万字左右的学术专著要学习，想在本地部署个什么类似gpt的东西帮我深度学习，如果我有不懂的可以问他，感觉现在那些gpt 4o之类的在线大模型回答的还是不够好，gpts又没法即时处理这么大的数据量。请问本地部署知识库能解决我现在的需求吗？谢谢！

♥ 96 ↩ 19

关键是最低硬件要求是什么？

♥ 48 ↩ 16

本地部署过的我说一下我的使用体验，感觉目前本地部署的大模型+知识库使用体验并不是很好。这首先是因为本地部署的大模型受到个人电脑硬件条件的限制，无法部署“满血版”的大模型，只能部署阉割版的大模型，所以在这一方面同样的问题本地部署的大模型的回答往往不尽如人意。另外，本地部署的大模型对本地知识库的读取和解读能力也有限，它对本地投喂的知识库的数据的结构化要求还是很高的。所以如果要得到比较准确的答案，还需要预处理自己的本地数据，这一点其实对于个人使用者就很麻烦了。我自己尝试上传了自己写的一些日记作为本地知识库的内容，让本地部署的大模型简单总结其中一篇的内容，本地的大模型都不太能很好的总结和回答。所以我觉得本地知识库这个东西，在个人使用者的层面，目前的效率和可推广性还不够高。也许对于企业用户，会更方便一些。（因为有更多的人力，物力和财力的支持）

♥ 39 ↩ 8

--本内容由 @玲泷沙 大佬下凡召唤，热心市民@AI视频小助理闪现赶来 一、本地大模型和知识库的概念及使用方法，包括如何下载模型、安装知识库工具、选择嵌入模型和向量数据库等。 00:01 - 本地大模型加知识库教程来了，最少要先收藏起来。 00:46 - 到欧拉马官网下载欧拉码，输入欧拉马run千问二搞定本地大模型安装。 01:35 - 选择本地大模型或商用大模型，向量数据库和工作区分隔不同知识库。 二、如何使用语音助手时返回聊天中的功能，以及如何上传本地知识库和调整查询模式来提高回答准确性。 03:02 - 上传本地知识库到聊天机器人，提高回答准确性 03:56 - 数据质量决定回答效果，上传更干净的文本数据 04:58 - RAG不擅长处理宏观的整体性问题，下期介绍微软的GRAPRAG解决方法 实名羡慕up这溢出屏幕的才华[点赞][点赞][点赞]，YYDS！快来一键三连吧[热词系列_优雅]

♥ 43

这种数据库用起来始终存在问题。本人学医的，有大量数据，上传进去之后，问一个简单的，上传数据中有的内容，比如止血药酚磺乙胺，问这个大模型酚磺乙胺的作用和用量，它总是答非所问，或者错误回答，不按照上传的文本来。给出答案酚磺乙胺是杀虫剂

♥ 22 ↩ 3

天天等着更新[星星眼]

♥ 23 ↩ 8

我们公司现在就在研究RAG的应用。但总觉得不好使。其中最主要也是最无解的是：我们本身提供的数据，我们人类提供的问答信息，所使用的语句，就写得不好。向量库里检索出来，让LLM再次组装，那语言表达，也真没啥文学性。 就比如，我们填充的知识库，写“公司报销流程”，写的本身就云里雾里。RAG检索，再LLM处理，也只能得到一堆废话文学。 作为工程师，真的很烦

♥ 14 ↩ 3

求救求救，本地大模型➕知识库的形式，主要想解决我公司手底下有1000人，每个人我有他们的信息，word具体的，excel的各类都有，我想找某方面特长的人，想让ai帮我查询，并提出建议，这样能实现么，需要什么配置的电脑，mac还是win，求求了

♥ 16 ↩ 17

在OpenWebUI中，reranker模型和llm向量数据库都涉及到处理和优化搜索结果，但它们解决的问题和使用方式略有不同。Reranker使用更复杂的模型（例如BERT等深度学习模型）对初步检索结果进行细致的匹配评分。通过reranker，最终用户获得的搜索结果更加精准和相关。向量数据库主要用于高效存储和检索高维向量数据，常用于机器学习模型的向量表示和最近邻搜索

♥ 13 ↩ 3

太太太有用了

♥ 15 ↩ 2

关注一个UP就行了[OK]

♥ 14 ↩ 4

看到这个视频发现是最新的之后，激灵一下给了三个三连，南无，这么优质的视频不点赞简直是罪过啊罪过

♥ 11 ↩ 1

很喜欢up主的视频讲解方式，简洁有用，比最近疯传的清华ds入门的那个ppt好的不是一点，实在无力吐槽那个PPT。不过我在用anythingllm加载奥拉玛模型的时候不能主动识别，奥拉玛后台开着

♥ 9 ↩ 3

这个听说正确率很低啊，感觉关键还是要先处理好文本吧，其实我不是很喜欢ollama，感觉开源模型没有huggingface的多？最近我试了github上haystack的pipeline再结合hugging face上的模型，效果很不错。我还是更习惯后端代码运行，前端接口是后面做好了封装用[笑哭]

♥ 9 ↩ 5

强烈建议2026年把这几期再做一下，模型应该有了很大程度的升级，硬件也是，可以结合起来做。感谢up主做这么好，非常受教

♥ 6

为啥我导入了pdf，结果显示的资料都是这样的呀

♥ 6 ↩ 2

up主小姐姐，graphRAG的视频还没出来啊，赶紧的啊[脱单doge]

♥ 6 ↩ 3

搭建本地RAG知识库，电脑硬件上面有什么要求？

♥ 6 ↩ 1