Autoresearch 让我们的模型快 3 倍——Morph 的 Tejas Bhakta

Morph 创始人、前 Tesla 推理优化工程师 Tejas Bhakta 介绍如何用 agent 编写自定义 GPU kernel 并结合裸金属硬件调优，使模型在更便宜的 GPU 上提速约 3 倍。他的原则是：人类提供想法，autoresearch 负责调参；agent 擅长选择 block size 和参数，但不擅长发现诸如 DeepSeek attention 步骤加载了远超所需上下文这类大方向问题。他讲解了 agent 所需的硬件与模型上下文，以及需要警惕的 reward hacking（例如关闭 CUDA graphs 让单个 kernel 变快却拖慢整个模型），并说明 kernel 收益可以叠加、裸金属调优比云 VM 多约 25%。他也坦言约 80% 的 autoresearch 尝试是失败的。

AI推荐理由 来自 AI Engineer 频道的技术演讲，讲者 Tejas Bhakta 为 Morph 创始人、曾在 Tesla 做推理优化，内容具体：用 agent 编写自定义 GPU kernel 加裸金属调优，使模型在更便宜 GPU 上快 3 倍；给出可操作的分工原则（人类出想法、autoresearch 做调参）、agent 需要的硬件与模型上下文、reward hacking 案例（关闭 CUDA graphs 让单个 kernel 变快却拖慢整体）、kernel 收益可叠加、裸金属比云 VM 多约 25%，并坦言约 80% 的 autoresearch 尝试是失败的。局限是演讲摘要未提供可复现的基准数据或代码链接，3 倍加速的具体模型与硬件条件不明。