智能体
arxiv.org ·
@Subbarao Kambhampati
正确答案、无效轨迹:可验证小学数学揭示的思维链真相
思维链轨迹常被当作模型得出答案过程的记录,用于调试、Agent 审计和推理主张。检验这一解读很困难,因为自然语言思维轨迹很少能被机械验证。作者在 iGSM 这一为研究思维轨迹而设计、并被用于支持“习得推理与规划”主张的合成小学数学基准上重新审视该问题。iGSM 暴露了正确解法应使用的确切量与依赖关系,使生成的轨迹可被逐步程序化检查,从而检验正确答案是否可靠伴随有效轨迹。作者先评估仅在有效、最小轨迹上训练的模型:答案正确性与轨迹有效性在分布内几乎重合,但在分布外解耦——在最难实例上,31.6% 的正确答案轨迹无效,其中过半通过全部语法与算术检查。
AI推荐理由 利用 iGSM 合成小学数学基准可程序化逐步校验思维链的特性,检验“正确答案是否可靠伴随有效轨迹”。发现答案正确性与轨迹有效性在分布内几乎重合,但在分布外解耦:在最难实例上 31.6% 的正确答案轨迹无效,其中过半通过全部语法与算术检查。对把 CoT 当作推理记录用于调试和 Agent 审计的做法提出直接质疑,证据可机械验证,价值较高。
74
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。