自建 AI 模型何时比付费 API 更划算：imec 的编码 Agent 基准研究

imec AI 负责人 Steven Latré 介绍其团队针对长时运行编码 Agent 的数千次基准测试，在 SWE-Bench Pro 上对比开放权重模型与三种编码 harness。结论包括：硬件成本呈阶梯式而非平滑曲线上升；并发能力比准确率更影响经济性；盈亏平衡 GPU 利用率从小型系统的 89% 到 8x B200 机器的约 15%；合适的 harness 可在相同结果下将 GPU 时间减半。

AI推荐理由 imec 的 Steven Latré 分享了针对长时运行编码 Agent 的数千次基准测试：在 SWE-Bench Pro 上对比开放权重模型与三种编码 harness，给出硬件成本呈阶梯式跳变、并发比准确率更关键、盈亏平衡 GPU 利用率从小系统 89% 到 8x B200 约 15%、合适 harness 可将 GPU 时间减半等具体结论。属于有方法说明的一手工程研究，对自建推理与 API 成本决策有参考价值；但为会议演讲转述，未提供完整数据表与复现细节，结论需结合原文验证。