ZeroSearch:无需真实搜索也能激发模型搜索能力
合集 · 通义前哨站 (71)
-
【直播回放】ICLR 2025论文解读(上)——通义实验室篇
1:02:05
-
智能体工作流评估新框架:WorFBench
1:11
-
这是通义千问的来时路。
1:20
-
从单图到可驱动3D数字人生成技术讲解
15:23
-
有人问Qwen2.5-Omni 和VL的区别?
1:15
-
【直播回放】ICLR 2025论文解读(下)——通义实验室篇
1:27:46
-
通义万相2.1的3D VAE是什么?
2:03
-
多模态大模型解题新思路:mPLUG-Owl3
1:29
-
行业首发全栈MCP服务,尽在百炼平台~
0:42
-
通义万相2.1首尾帧生视频模型开源
1:29
-
【玩转MCP】手把手教你自定义部署MCP服务
1:23
-
【玩转MCP】手把手教你搭建专属MCP Agent
1:23
-
超写实3D数字人大模型(LAM)技术报告解读
1:57
-
表情、声音、说话风格一键复刻!
1:34
-
我们为千行百业而来。
0:23
-
Qwen3 来了!
0:40
-
Thinking Budget:让大模型灵活思考
1:20
-
Qwen3+MCP带来哪些新场景?
0:56
-
太好了,是Qwen的Deep Research,我们有救了
1:00
-
通义万相视频编辑统一模型VACE开源发布
1:07
-
【直播回放】通义万相视频编辑统一模型VACE开源
10:01
-
如果有Wan Day,它会是什么样子?
2:14
-
ZeroSearch:无需真实搜索也能激发模型搜索能力
2:42
-
今天来复习一下Qwen2.5-VL技术报告!
3:24
-
ParScale:一种全新的大模型Scaling Law
3:15
-
大模型如何持续进化,实现精准检索?
2:01
-
【直播回放】Qwen3-Embedding模型深度解析
59:14
-
语音识别怕噪声?CoGenAV 来破局!
2:40
-
在这里,了解通义千问的一切
0:37
-
微表情捕捉、潜台词翻译,AI“读心专家”就位!
1:36
-
理解画面捕捉细节,你的AI音效师来啦!
1:47
-
框架开源,无需邀约,即刻体验!
5:03
-
Qwen Vlo|描绘你关于世界的想象
0:57
-
10分钟,打造你的专属实时语音交互应用!
1:51
-
手机也能跑 Qwen3?手把手教你部署!
1:41
-
一句话玩转网页开发!
1:10
-
【直播回放】Ask Qwen3 Anything 2025年04月30日10点场
1:04:15
-
如何让AI有理有据地识别情绪?
52:16
-
来吧,上船,起航!
5:10
-
👂听说,Qwen3-Coder其实也能听懂大白话?
1:16
-
人人都是大导演!通义万相2.2来了!🤩
1:57
-
Github 5K+🌟WebAgent研究团队新作:WebShaper来啦
1:05
-
书画双全!Qwen-Image开源🖌
1:57
-
【直播回放】Qwen-Image技术报告解读和模型实战攻略01
2:04:47
-
音画传情 声启万相
1:05
-
什么呀?语音识别现在也要调监控啦🧐?
3:39
-
AgentScope1.0:终结智能体黑盒🗃️,打造生产级可控应用
4:03
-
🎙️ 开麦即真:CosyVoice 全面升级
1:41
-
不止入戏,更能入景🎬
1:20
-
说得更好、更准、更自然:Qwen3-TTS上线
2:35
-
原生全模态不降智
6:55
-
Qwen3-VL 看懂、理解并响应世界
2:03
-
多图编辑进化,万物皆可一键“同框”!
0:58
-
大就是好!Qwen3-Max 正式亮相
0:41
-
通义万相2.5:一句指令,玩转图像魔法
0:41
-
别让声音困住你的效率
0:44
-
通义万相2.5:一句话实现“Vibe PSing”!
0:47
-
通义万相2.5:让声音当你的视频“导演”!
0:48
-
通义万相2.5:让画面“声”动起来!
1:21
-
通义万相2.5:能听懂,也能准确执行!
0:54
-
Qwen3-Omni API上新:声形意合,令出智随
4:52
-
Fun-CosyVoice 3 重磅升级|更快、更准、更强表达力
1:15
-
Fun-ASR 全新升级|企业级抗干扰
1:21
-
「通义万相2.6」来啦!所有角色,听我指挥
0:39
-
Qwen-Image-Layered:下一代图像生成基础模型 🚀
0:51
-
进来复习!是谁8步推理1秒出图
0:55
-
【能干活的高情商语音搭子】
1:39
-
Qwen3-TTS上新,支持跨物种克隆音色!
3:19
-
Qwen-Image-2512 正式开源发布!
0:57
-
除夕!Qwen3.5来了!
1:16
-
Qwen-Audio-3.0-Realtime 发布:懂倾听,更聪明的实时语音方案
2:53
Description
🔥 轻量级模拟搜索,零API成本训练:ZeroSearch通过轻量级的监督微调,将大语言模型(LLM)转化为模拟搜索引擎,实现质量可控的文档生成,避免了真实搜索引擎带来的不稳定性和高昂的API成本。 🔥 课程式强化学习,逐步提升推理能力:引入课程式训练策略,逐步增加生成文档的噪声水平,迫使模型在更具挑战性的检索场景中提升推理能力,实现从易到难的学习过程。 🔥 高效训练框架,性能超越真实搜索:实验表明,使用3B参数的模拟器即可激发LLM的搜索能力,7B模拟器性能可与真实搜索引擎媲美,14B模拟器甚至超越真实搜索引擎,训练成本暴降88%。 📚 论文地址:arxiv.org/pdf/2505.04588 🌐 项目主页:alibaba-nlp.github.io/ZeroSearch 💻 代码库:github/Alibaba-NLP/ZeroSearch
Comments
其实就是拿搜索的资料来训练一个专门负责提供稳定资料的小模型,然后让大模型问小模型,避免让大模型直接接触不稳定的搜索结果导致的质量波动
♥ 80 ↩ 7
就是直接拿真实引擎训练太费钱,而且没有ground truth也不方便训练,你们之间搞了个小模型,可以自己控制搜索出来的信噪比,让大模型先学习怎么在搜索结果里找出有用信息,这样再把大模型接入搜索引擎就可以实现比较好的搜索效果了。但是,你也没有解决你一开始提出来的,让大模型先搜索再回复产生的搜索引擎api费用啊。只能说是,解决了文档质量参差不齐问题。
♥ 70 ↩ 5
这个工作主要就两个点吧 1. 用小模型来提供模拟搜索环境 2.在这个环境上对大模型做工具调用训练
♥ 28 ↩ 1
! 这玩意真的会对个人ai爱好者提供超大的帮助。自己炼个小模型,想让他具有联网搜索能力。就得砸钱买搜索引擎api,但是用api特化模型的某项功能又很烧钱,而且搜索引擎的搜索结果极不可控,不仅“让模型在训练时在未出新手村时就可能大魔王”,而且训练结果又不能得到保证。 这玩意儿是真的不错,我之前就设想,要是有个模型能够模拟搜索结果,让这个模型来训练自己的模型的搜索能力,既能省钱又能提升训练结果,没想到通义给做出来了。 真是印证了我之前在其他视频评论区说过的话:“只要是你想要,但是在网上找不到的,过段时间通义肯定会给你做出来!”
♥ 20
做个比喻就是防止新兵蛋子直接上战场找不着北,建了个训练场逐步增加难度训练模拟实战,让新兵逐渐适应
♥ 15 ↩ 1
01:01 捉个虫,noisy貌似拼成nosiy了
♥ 13 ↩ 1
我深度体验了QWen3模型、豆包;你们还是不如deepseek,更别说chatgpt了,光说排行榜名次没啥用的
♥ 11 ↩ 20
哪个吊大的说一下,开头提出的问题是大模型在联网搜索时调用api价格高昂,所以就用小模型来储存互联网上面的资源然后进行清洗,再之后大模型直接问小模型得到小模型的输出后大模型再结合这个输出来进行回答,是这个意思吗?
♥ 6 ↩ 6
Qwen3 235B-A22B 经常输出错误的内容您有什么头绪伐,我现在得Grok3和Qwen混着用。比如问ResNet18在哪些Stage开始Stride2的下采样我把何神的Paper都发它了它都能说错
♥ 5 ↩ 2
📑
♥ 4
这个motivation太好了[打call] 搜索好多时候导致模型输出和检索到的内容强相关,不仅质量下降(llm自己的正确直觉被低质量内容影响),甚至还影响指令跟随,不听话。 许多具有时效性的东西也必须靠搜索,所以这真的是个痛点 希望早点用上[doge]
♥ 3
没搞懂,既然没有连接外部资源,那这个搜索,是搜的哪里?
♥ 3 ↩ 6
qwen也不错啊[doge],用深度搜索来写一个自己不太了解的领域的综述很好用,就是只能搜国内网站。主要是比Gemini的额度高[吃瓜]
♥ 2 ↩ 1
讲完专业的,大部分用户更关心通义官网能不能直接用上?
♥ 2
和rag这种对比呢[doge]
♥ 2
现在唯一想的是让淘宝也接入模型,尤其是客服,我觉得用大模型促销起来可能会比人类好很多,首先大模型能够准确的理解人类意图,同时有海量的知识储备,这样一来它的销售能力不是一般人类能够比拟的[呲牙]
♥ 2
标题还是说明一下,这是给开发者用的模拟环境吧,不是给普通用户用的,不然我也不会点进来了,被误导了
♥ 1
所以qwen网页端什么时候能优化一下性能和适配夜间模式[吃瓜]
♥ 1
Qwen3 235B-A22B 经常输出错误的内容您有什么头绪伐,我现在得Grok3和Qwen混着用。比如问ResNet18在哪些Stage开始Stride2的下采样我把何神的Paper都发它了它都能说错
♥ 1
能不能让模型应用搜索工具的时候学会优化搜索指令啊,我经常遇到搜出来的东西不行的情况,ai再怎么会辨别文档好坏,没有好文档的话也没法帮我呀。
♥ 1