智能体
www.youtube.com ·
@AI Engineer
小模型大结果:不到 500 美元训练一个金融 Agent——Snorkel AI 的 Charles Dickens
Snorkel AI 研究科学家 Charles Dickens 介绍与 UC Berkeley Sky Computing Lab 的合作:基于 SEC 10-K 文件构建专家验证的 FinQA 财务问答数据集,使用开源 rLLM 框架和简单 pass/fail 奖励做强化学习,以不到 500 美元训练 Qwen3 4B,在真实财务问题上达到约 60%,超过 235B 模型的 51%。他们发现前沿模型会幻觉表格 schema、撑爆自身上下文并重复失败策略;技能可迁移到更难的多表问题且不损害通用工具使用,简单训练数据和简单奖励效果最好,瓶颈在于有纪律的工具使用而非推理深度。
AI推荐理由 Snorkel AI 与 UC Berkeley Sky Computing Lab 用开源 rLLM 框架和简单 pass/fail 奖励,对 Qwen3 4B 做 RL 训练,成本低于 500 美元,在基于 SEC 10-K 构建的 FinQA 财务问答数据集上达到约 60%,高于 235B 模型的 51%,且技能可迁移到更难的多表问题而不损害通用工具使用。具体新信息包括:专家验证的 FinQA 数据集、前沿模型在表格 schema 上幻觉/上下文溢出/重复失败策略的观察,以及简单数据和简单奖励更有效的结论。局限是仅有演讲摘要,缺少训练细节、评测协议和可复现证据,60% 与 51% 的对比口径未说明。
82
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。