猫眼电影
猫眼电影记者 安东尼·罗曼罗 报道P6F3X2M7T9QJ8L1B4WZR
当前，Agentic RAG（Retrieval-Augmented Generation）正逐步成为大型语言模型访问外部知识的关键路径。但在真实实践中，搜索智能体的强化学习训练并未展现出预期的稳定优势。一方面，部分方法优化的目标与真实下游需求存在偏离，另一方面，搜索器与生成器间的耦合也影响了泛化与部署效率。
我们（UIUC & Amazon）提出的s3（Search-Select-Serve）是一种训练效率极高、结构松耦合、生成效果导向的 RL 范式。该方法使用名为Gain Beyond RAG (GBR)的奖励函数，衡量搜索器是否真的为生成带来了有效提升。实验表明，s3 在使用仅2.4k 训练样本的情况下，便在多个领域问答任务中超越了数据规模大百倍的强基线（如 Search-R1、DeepRetrieval）。
论文标题：s3: You Don’t Need That Much Data to Train a Search Agent via RL论文链接：https://arxiv.org/pdf/2505.14146代码仓库：https://github.com/pat-jj/s3
研究动机
RAG 的发展轨迹：从静态检索到 Agentic 策略
我们将 RAG 系统的发展分为三阶段：
1.Classic RAG：使用固定 query、BM25 等 retriever，生成器对结果无反�。�
2.Pre-RL-Zero Active RAG：引入多轮 query 更新，如 IRCoT、Self-RAG 等，部分通过 prompt 引导 LLM 检索新信息。Self-RAG 进一步通过蒸馏大型模型的行为，训练小模型模拟多轮搜索行为；
3.RL-Zero 阶段：强化学习开始用于驱动检索行为，代表方法如：
DeepRetrieval：以 Recall、NDCG 等搜索指标为优化目标，专注于检索器本身的能力；Search-R1：将检索与生成联合建模，以最终答案是否 Exact Match 作为强化信号，优化整合式的搜索 - 生成策略。
尽管 RL 方法在思路上更具主动性与交互性，但在实际落地中仍面临诸多挑战。
当前 RL-based Agentic RAG 落地表现不佳的原因
我们对当前 Agentic RAG 方案效果不稳定、训练难、迁移能力弱的原因，归纳为三点：
1. 优化目标偏离真实下游任务
Search-R1 等方法采用Exact Match (EM)作为主要奖励指标，即答案是否与参考答案字面一致。这一指标过于苛刻、对语义变体不敏感，在训练初期信号稀疏，容易导致模型优化「答案 token 对齐」而非搜索行为本身
例如，对于问题「美国第 44 任总统是谁？」，
回答「Barack Obama」：?回答「The 44th president was Barack Obama.」：?（EM=0）
这种不合理的信号会诱导模型在生成阶段做格式补偿，从而无法反映搜索策略本身是否有效
2. 检索与生成耦合，干扰搜索优化
将生成纳入训练目标（如 Search-R1），虽然可以提升整体答案准确率，但也会带来问题：
无法判断性能提升究竟来自「更好的搜索」，还是「更强的语言生成对齐能力」；对 LLM 参数依赖强，不利于模型迁移或集成；微调大模型成本高，限制了训练效率和�？樘婊坏牧榛钚�。
3. 现有评价标准无法准确衡量搜索贡献
EM、span match 等传统 QA 指标主要关注输出结果，与搜索质量关联有限。而 search-oriented 指标（如 Recall@K）虽可度量 retriever 性能，却无法体现这些信息是否真的被模型「用好」。这些偏差直接导致现有 RL Agentic RAG 方法在评估、训练和泛化上均存在瓶颈。
s3 - 专注搜索效果优化的 search agent RL 训练框架
s3 的出发点很简单
如果我们真正关心的是「搜索提升了生成效果」，那就应该只训练搜索器、冻结生成器，并以生成结果提升为奖励
这便是「Gain Beyond RAG（GBR）」的定义：
即：用 s3 搜索到的上下文喂给 Frozen Generator 之后的生成效果，相比初始的 top-k 检索结果是否更好。值得注意的是，s3 训练时始终初始化于相同的原始 query，从而能清晰对比 s3 检索对结果带来的真实「增益」。
准确率（Acc）评估标准
我们采用了更语义友好的Generation Accuracy（GenAcc）指标。它结合了两种机制：
Span Match：判断生成答案是否包含参考答案的任意 token spanLLM Judge：由一个轻量 LLM 判断答案是否语义正确
两者只要任意一个通过，则视为正确。这一指标在人工对比中与人类判断一致率高达96.4%，相比之下，EM 仅为15.8%
训练与优化 - 仅需 2.4k 样本即可完成 ppo 训练:
我们采用 PPO 进行策略优化。为了提升训练效率：
我们预筛除掉了「naive RAG 就能答对」的样本；将训练样本集中在需要真正检索的新信息的任务上；Generator 完全冻结，训练代价完全集中在 Searcher。
s3 训练总时间只需 114 分钟（vs Search-R1 的 3780 分钟），数据也减少约 70 倍。
实验分析
General QA w/ RAG
实验一：通用 QA 任务，s3 优于 Search-R1 和 DeepRetrieval。
我们在六个通用数据集上评估了 Direct Inference、Naive RAG、IRCoT、DeepRetrieval、Search-o1、Search-R1 以及 s3 的性能。实验中，我们使用了不同的下游 LLM，包括 Qwen2.5-7B-Instruct，Qwen2.5-14B-Instruct 和 Claude-3-Haiku。
尽管 s3 仅使用了 2.4k 条 NQ+HotpotQA 训练数据（training source 和 Search-R1 一样），它在其中五个数据集上实现了最优表现，展现出显著的泛化能力。
Medical QA w/ RAG
实验二：医学 QA 任务，s3 展现惊人的跨领域能力
我们随后在五个医学领域的 QA 数据集上进一步评估了模型性能，测试使用了两个语料库：Wikipedia2018（与通用测试一致）和 MedCorp（ACL 2024）。结果显示，Search-R1 在其训练语料上表现良好，但在语料变更后显现出过拟合趋势；相比之下，s3 能稳定迁移至不同的数据集与语料库，凸显出其基于 searcher-only 优化策略的强泛化能力。
reward 优化曲线
图 5 展示了我们的 reward 曲线，可以看出 s3 在接近 10 个训练步骤（batch size 为 120）内便迅速「收敛」。这一现象支持两个推断：（1）预训练语言模型本身已具备一定的搜索能力，我们只需通过合理的方式「激活」这种能力；（2）在一定范围内，适当增加每轮搜索的文档数量和最大轮次数，有助于提升最终性能。
消融实验
在不同配置下，移除组件对性能的影响（平均准确率）。我们使用了三组设定进行对比，结果表明 s3 的设计在准确性与效率之间达到了最优平衡。
我们进一步通过消融实验，验证了 s3 框架中两个关键设计的必要性：
「从原始问题开始检索」是方向正确的保障：我们发现，以用户原始问题作为第一轮检索的起点，有助于模型明确搜索目标、建立有效的检索路径。若不设置这一初始点，搜索策略往往偏离主题，导致性能显著下降。「文档选择」机制显著降低 token 消耗：该机制允许模型在每轮检索后主动筛选信息，从而避免将所有检索结果一股脑送入生成器。通过这一设计，s3 的输入 token 平均减少了 2.6 至 4.2 倍，不仅提升了效率，也减少了噪声干扰，对生成效果有正面作用。
总体来看，s3 设计中的「起点初始化 + 动态选择」是支撑其高效、强泛化性能的关键。即使在某些数据集上通过增加输入内容能获得短期增益，s3 原始结构在训练效率、推理速度与生成准确率上依然展现出更稳定的优势。
FAQ
Q1：为什么我们报告的 Search-R1 结果与原论文不一致？
A1：Search-R1 原文使用 Exact Match（EM）作为 reward 和评估指标，并对模型进行了针对性微调。将这种针对 EM 优化的模型，与其他 zero-shot 方法比较，略显不公平，也难以衡量搜索本身的效果。因此我们采用更语义友好的 Generation Accuracy（GenAcc），结合 span 匹配和 LLM 判断，与人类评估一致率达 96.4%。相比之下，EM 只能捕捉字面一致，反而容易误导模型优化方向。
Q2：s3 为什么不训练生成器？这样是否限制了模型性能？
A2：我们设计 s3 的核心理念是：如果我们想真正优化搜索效果，不应让生成器被训练，否则会混淆「搜索变好」与「语言模型变强」带来的增益。冻结生成器不仅提升了训练效率（节省大模型微调成本），也便于模型迁移到不同任务与生成器，真正做到「搜索能力即插即用」。
??时事1：美女被❌到爽🔞流触手视频
??06月22日,拓展外贸新空间，助力扩大开放不断升级,
为了从原始之处阐释符文，竟然还配有战例，一头青天鹏对决神灵，图案清晰可见，有一种惨烈气息铺天盖地而出，要渗出血来，宛若跨越了上古，真实再现那一战。
?第六十七章 痴了,男生洗澡露j㊙️无遮挡。??06月22日,国家民委党组《求是》刊文：以铸牢中华民族共同体意识为主线加强和改进党的民族工作 ,
尊敬的宗总经理、潘先生、柏处长、王行长，尊敬的刘市长，尊敬的各位领导、各位来宾，同志们、朋友们：
,草莓芭乐秋葵黄瓜鸭脖直播,宋雨琦扒下掀光裙子打屁股,护士裸体看个够。??时事2：影帝趴在双腿间吮双乳H视频
??06月22日,赵乐际会见尼泊尔总理奥利, 世界经济论坛官网17日刊文称，中国已成为全球最大的电动汽车市�。泄灯笊牡缍嫡既虻缍底懿康囊话胍陨稀６谡庖皇谐∩希坪推渌治鍪θ衔拦灯蟮毕潞苣训值仓泄灾髌放频氖盗�。墨菲说，消费者现在对中国自主品牌的“忠诚度”很强，尤其是在美国对中国电动汽车征收超过100%的关税后，这种“忠诚度”可能会变得更加强烈。,羞羞漫画❤️在线入口,brazzersx24💋,男人生殖图片真人。
??06月22日,中国驻韩大使邢海明：期待与韩方一道推动两国战略合作伙伴关系向前发展,
他龙行虎步，威势滔天，满头发丝刹那暴涨，根根晶莹，而后散发出黄金光芒，像是太阳神般，令他整个人都无比璀璨。
,触手怪物入侵女性❌乳动,男女无遮挡XXOO120动态图,亚洲精品无码永久在线观看性色。??时事3：日本老师掀裙子撒尿㊙️
??06月22日,（两会速递）云南省委书记：带污染的项目，再大也不要,
远处，小不点目睹到了刚才的战斗，心中颇不平静，祭灵真的是千奇百怪，什么样的物种都有，毫无例外，都极其强大。
,糖心香菜大全在线观看,成人午夜性A片毛片密桃成熟了,动漫禁纯肉无码涩涩H影视。??06月22日,3月12日央行开展100亿元7天期逆回购操作,
毛球顿时叫了起来，气急败坏，上蹿下跳，小爪子比比划划。
,啊轻点灬太粗嗯太深了电影,美女露出🐻给男人玩揉的,含着校霸jing液去上课H视频。??时事4：蒂法3D被❌18禁同人
??06月22日,国足主帅展望小组生死战：将全力以赴拿下比赛,
那些婶子、奶奶们，一个个笑的合不拢嘴，正在收拾祭灵的血肉，锅里炖着的肉发出微弱的霞光，精气充沛的有点吓人。
,美女裸被C出浆✘✘✘✘中国,金卡戴珊21分钟无删减bt,扶她部中番无删减。??06月22日,《你好，玛沁》系列影片在青海西宁首映, [环球时报特约记者 任重]英国政府当地时间13日以“打击普京的战争机器”为由宣布50项新制裁，对象包括5家中国实体。中国驻英国使馆发言人当天回应说，英国政府罔顾国内国际民意，不断火上浇油，不但没有反思自己的恶劣行径，反而罗织罪名制裁中国及其他国家企业，充分暴露了英方的虚伪嘴脸。中方敦促英方立即纠正错误，撤销对中国企业的制裁。,多强被❌c到爽🔞H真人,埃及猫原版动画,少妇被c🔞黄❌在线网站蜜桃。
责编：金声
审核：付金如
责编：牛欢