AI 账单太高：Eugene Cheah 谈大规模推理成本治理的四个步骤

Featherless AI 的 Eugene Cheah 在 AI Engineer NYC 2026 分享降低 AI 推理成本的实践框架：先按团队拆分 API key 以度量真实用量，再区分 agentic 与流程型工作负载，按任务选择可匹配前沿模型的开源模型与廉价分类器，并采用“强模型规划、小模型构建”的策略；同时讨论速度与成本权衡及低质输出泛滥问题。

AI推荐理由 AI Engineer NYC 2026 演讲录像，讲者 Eugene Cheah（Featherless AI）给出降低大规模推理成本的四个步骤：按团队拆分 API key 以度量用量、区分 agentic 与流程型负载、按任务选择匹配的开源模型与分类器、规划用强模型而构建用便宜模型，并讨论速度与成本权衡及“slop grenades”。内容为工程实践框架，信息密度较高，但属会议分享而非可验证的基准数据，具体节省幅度未在摘要中给出。