[保姆级]无审查DS微调模型!知识库!联网搜索!本地部署AI猫娘![deepseek+LM stdio+Anything LLM]]
Description
视频内的所有模型链接会全部放入简介或评论区内,推荐去原网站给模型作者点个like。 视频内示例所下载的模型不需要专门的破限提示词。 在角色扮演对话和某些限制级的方面上,对于ds官方的量化模型仅推荐32b,claude时期的提示词稍加修改格式即可使用。 想要整点花活()的小伙伴可以来群内玩耍,群号可通过关注的自动回复获取。 整合网盘链接 https://pan.baidu.com/s/1LhS4NjbKWAfBSLw94FhYdg?pwd=uxq2 内含所有单个模型与应用下载指路的txt
Comments
00:00-7:33 LM studio的基础操作。 7:34-13:46 anything LLM的基础操作和向量数据库(知识库) 13:47-16:25 更换嵌入式模型与测试 16:27-19:40 联网搜索 LM studio用起来比较方便 没有太多知识库需求的日常推理直接单用lm studio就好。 Anything LLM能扩展的功能还能多,也支持自定义给代理助手编写新的技能,以及默认开启的rag长期记忆 检索文档 爬取网页等等,就是工作区的操作有些繁杂。 希望大家能一键三连多多支持啦。
♥ 63 ↩ 8
这其实是一个很好的入门级视频下载,rag,搜索,embedding都提及了。除却猫娘部分[doge]也肯定是精品。
♥ 40 ↩ 3
这里避个坑:那个 Public URL 字串不是 Programmatic Access API Key, Programmatic Access API Key 是需要自己额外创建的, 如果配置正确的话 @agent 的反馈应该是这样的 ``` 1/3 Agent @agent invoked. Swapping over to agent chat. Type /exit to exit agent execution loop early. 2/3 【debug】: @agent is attempting to call `web-browsing` tool 3/3 @agent: Searching on Google for "近几周科技界新闻" 4/4 @agent: I found 10 results - looking over them now. ```
♥ 26 ↩ 17
个人体验,仅说国内模型,在角色扮演方面千问和豆包完全强于DS,根本找不到用DS的理由。
♥ 19 ↩ 23
想知道视频里的配置大概需要多少内存
♥ 16 ↩ 14
活了() 群里来的
♥ 14
已投币看到是电报发的,我想用SILLYtavern接的API是 DS的,但是角色扮演过程冲,老是因为审查各种 被限制,如果我想突破审核,我应该要怎么做? 我看NGA上面说的是 只能通过api接口或者或者本地部署用,我电脑比较差,我想通过api接口形式,下一步就是 写到对话设置的prompt里,然后点击就你新建的对话助手开启新对话。不知道这种方法可行吗
♥ 12 ↩ 8
看完了,我就记住了模型名叫 tifa deepsex[doge_金箍]
♥ 11 ↩ 1
请问Anything LLM里面怎么调高重复惩罚?我让AI写了一段然后他就疯狂开始复读同一句话了。。。。
♥ 9 ↩ 4
事已至此,先插眼吧,换完电脑再折腾
♥ 9
好啊好啊
♥ 9
都教anything llm了,这不出个dify构建工作流的教程[doge]
♥ 8 ↩ 1
问问本地用dockerdesktop部署searxng时总是蓝屏这个该怎么办啊?(
♥ 7 ↩ 11
怪了,已经魔法上网了,谷歌链接也搞定了,agent下还是提示无法直接访问实时信息
♥ 7 ↩ 4
第一![局长的教育手册静态表情包_抱~][局长的教育手册静态表情包_抱~][局长的教育手册静态表情包_抱~]
♥ 7
加哪个群?那么多群有什么区别吗?
♥ 7 ↩ 1
前端试试page assist?
♥ 7 ↩ 1
为什么我的第一步问它算数,它就算了很长时间,而且还算错了。。。
♥ 6 ↩ 1
在llm上传那一步一直显示没有找到文本上传不了
♥ 6 ↩ 3