自托管 LLM 与 API 成本对比：月支出低于 1.05 万美元时 H200 节点打不过 API

作者基于公开 GPU 价格、电价、吞吐基准和 API 价目表测算：一台 8 卡 H200 节点月成本约 1.05 万美元，相对 Claude Opus 5.5 需约 6% 利用率才能回本，相对 DeepSeek 非高峰 API 需 54%；若月 API 账单低于约 1.05 万美元，API 始终更划算。文章还指出 IBM CEO 所称开放权重模型达前沿模型“90% 有效性”与其引用的基准（约 71%）不符。

AI推荐理由 用公开 GPU 价格、电价、吞吐基准和 API 价目表做自托管与 API 的成本测算：8 卡 H200 节点月成本约 1.05 万美元，对 Claude Opus 5.5 需约 6% 利用率才回本，对 DeepSeek 非高峰 API 需 54%；月 API 支出低于约 1.05 万美元时 API 更划算。同时指出 IBM CEO 所称开放权重模型“90% 有效”与其引用的基准（71%）不一致。测算基于公开数据、假设明确，对算力采购决策有参考价值，但非实测。