智能体
techmeme.com ·
Vera Rubin NVL72 推理测试:每兆瓦 token 吞吐量最高达 Blackwell 的 7 倍
SemiAnalysis 的 Bryan Shan 称,Vera Rubin NVL72 的推理测试显示,在 1.6T 参数的 DeepSeek 模型上,每兆瓦 token 吞吐量最高可达 Blackwell 的 7 倍,高于黄仁勋对 1T-3T 级 LLM 宣称的 3 倍。文章还提及每吉瓦年利润翻倍、AgentX、InferenceX 与极端协同设计等话题。
AI推荐理由 SemiAnalysis 对 Vera Rubin NVL72 的推理测试给出具体量化结果:在 1.6T DeepSeek 模型上每兆瓦 token 吞吐量最高达 Blackwell 的 7 倍,高于黄仁勋对 1T-3T LLM 宣称的 3 倍;涉及 AgentX、InferenceX 与极端协同设计,对芯片算力与推理经济性有较高参考价值,但数据来自第三方分析,需以官方基准进一步核实。
78
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。