RL 将把搜索带向何方——SID.ai 的 Maximilian-David Rumpf

SID.ai 的 Maximilian-David Rumpf 指出，agent 约 30%–50% 的 token 花在前期检索上。把任务交给 agent 而非向搜索引擎提交查询，找到正确文档的概率约翻倍，但成本高出 100–1000 倍、耗时从毫秒级升至分钟级。他认为传统检索管线（查询改写、后端检索、重排、返回）的每个决策都在设计期冻结、算力预算固定，重排器即便判断结果无法回答问题也无从行动，只能照常返回，从而积累出靠边缘案例修补的长尾失败。

AI推荐理由 演讲者提出 agent 任务中 30%–50% 的 token 消耗在前期检索上，并对比 agent 检索与传统检索管线：前者命中正确文档的概率约翻倍，但成本高 100–1000 倍、耗时从毫秒级变为分钟级；指出传统管线在查询改写、后端检索、重排各环节的决策在设计期即被冻结、算力预算固定，重排器即使判断结果不相关也无法采取行动。这些是对检索架构局限的具体诊断，属于可讨论的技术观点，但摘要未给出实验数据或落地结果，需保留其主张性质。