智能体
mnoukhov.github.io ·
@natolambert
通过“永不放弃”让 LLM 的 RL 学会解决难题
Michael Noukhovitch 的博客文章介绍其关于 LLM 强化学习后训练的新论文。作者观察到 AIME 2025 评测中,RL 带来的提升主要来自原本已部分解决的简单题,初始 pass@32=0 的难题几乎不改善,并将这一现象称为 Matthew Effect(马太效应)。作者提出 Never Give Up 方法试图缓解该问题,并在代码 RL(Deepcoder)和智能体 RL(DeepSWE)上做验证。
AI推荐理由 作者 Michael Noukhovitch 的博客,介绍其 RL 后训练论文,提出 Matthew Effect(RL 提升幅度与模型初始能力成正比,难题几乎不改善)并给出 Never Give Up 方法。正文提供了 AIME 2025 按难度分桶的具体观察,以及 Deepcoder、DeepSWE 等开源项目的验证线索,属于研究者一手技术内容,信息密度较高。局限是正文片段未给出完整实验数据与最终结论,且为个人博客而非同行评审,需结合 arXiv 论文核实。
78
评论 4
社区积分 86
正文
Learning to solve hard problems in RL for LLMs by never giving up 👉 101 HN Points: https://news.ycombinator.com/item?id=49717280 原文地址: https://mnoukhov.github.io/posts/ngu/