智能体
arxiv.org ·
@Dimitris N. Metaxas
元认知解码:扩散语言 Agent 的高效推理
论文提出一种元认知控制器,作为扩散语言模型骨干的轻量插件,根据当前回答需求和 Agent 与环境交互情况,学习何时定稿 token 以及生成应延伸多远,从而减少单次回答内的计算量。控制器在 Agent 轨迹上训练以平衡正确性与生成成本。五个基准实验显示,相比最高效基线平均降低 20.6% 推理 FLOPs,同时保持有竞争力的任务准确率。
AI推荐理由 面向扩散语言模型 Agent 的元认知控制器,学习何时定稿 token 与生成长度,在五个基准上平均降低 20.6% 推理 FLOPs 且保持任务准确率,属于可量化的推理效率改进;但摘要未说明与基线差距细节。
70
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。