智能体
arxiv.org ·
@Dan Roth
LLM Agent 能否胜任前置部署工程师?企业 text-to-SQL 的需求发现与交付评测
研究在真实企业 text-to-SQL 项目中构建模拟客户,考察 Agent 能否在前置部署工程师角色下先发现验收标准、数据权限与硬件约束,再规划并执行后训练方案。评测覆盖 15 个模型:最强模型发现超过 80% 的隐藏需求,开源权重模型为 40–50%;交付阶段八种编码 Agent 配置中仅 25% 的运行通过全部验收标准。作者归纳出需求发现不完整、执行不可靠、算力预算利用不足等四类瓶颈。
AI推荐理由 以真实企业 text-to-SQL 场景模拟“前置部署工程师”Agent,分需求发现与交付两阶段评测 15 个模型和 8 种编码 Agent 配置,给出可量化结果:最强模型发现 80% 以上隐藏需求,开源权重模型为 40–50%,交付阶段仅 25% 运行通过全部验收标准,并归纳四类瓶颈。对 Agent 落地能力评估有参考价值;局限是单一企业案例、客户为模拟设定,结论外推需谨慎。
74
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。