GEPA 用反思超越 RL:可优化任意文本任务的提示进化方法
GEPA 作者 Lakshya A. Agrawal 解释为何一轮仅三个样本的反思即可让 GEPA 增益达到 GRPO 经过 25000 次 rollout 的两倍:RL 将整条轨迹压缩为单一分数,GEPA 则让模型阅读完整轨迹(含思维链、工具调用和错误信息)并写出更好的提示,并用 Pareto 候选池避免局部最优。Optimize Anything 将该思路推广到任何可文本化并打分的任务,报告 ARC-AGI 上 Gemini Flash 从 32.5% 升至 89.5%、AMD NPU 编码代理从 4% 升至 30%、GPT-5 mini 在 Go 问题上从 24% 升至 93%,并提到 Databricks 以约 90 倍更低成本调优开源模型超越 Claude Opus。
AI推荐理由 GEPA 作者、UC Berkeley Sky Computing Lab 博士生 Lakshya A. Agrawal 介绍基于反思的提示优化方法:仅用三个样本一轮反思,GEPA 的增益即达到 GRPO 经过 25000 次 rollout 的两倍。方法让模型读取完整轨迹(含思维链、工具调用与错误信息)并改写提示,配合 Pareto 候选池避免局部最优。Optimize Anything 将同一思路推广到任何可文本化并打分的任务,报告了 ARC-AGI 上 Gemini Flash 从 32.5% 提升至 89.5%、AMD NPU 编码代理从 4% 到 30%、GPT-5 mini 在 Go 问题上从 24% 到 93% 等结果,并提及 Databricks 以约 90 倍更低成本调优开源模型超越 Claude Opus。数据具体但来自演讲自述,需独立验证。
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。