Supermicro 联合 IBM、NVIDIA 推出面向长上下文的共享 KV cache 存储

Supermicro 于 2026 年 11 月 5 日宣布与 IBM、NVIDIA 推出 KV cache 存储方案，将可复用的 AI 推理上下文移至 GPU 显存之外的共享存储。方案组合 Supermicro Petascale 全闪存服务器（AMD EPYC 9005）、IBM Storage Scale 软件、NVIDIA Dynamo 推理框架与 Spectrum-X 以太网。三方称联合测试中 13 万 token 提示的首 token 时间最高提升 56 倍。

AI推荐理由 Unite.AI 报道 Supermicro 联合 IBM 与 NVIDIA 推出 KV cache 共享存储方案，将可复用的推理上下文移出 GPU 显存，联合测试称 13 万 token 提示下首 token 时间最高快 56 倍。涉及长上下文推理的显存瓶颈与算力效率，技术价值较高；但性能数据来自厂商联合测试，缺少独立复现与配置细节。