行业动态
cloud.google.com ·
Google Cloud 实测 TPU v6e:Gemma 3 27B 生成并发 64 后触顶
Google Cloud 公布 Gemma 3 12B 与 27B 在 TPU v6e 上的基准:27B 在生成任务中于64并发后性能触顶,最高约4.12倍吞吐;12B 可扩展至8.19倍。分类任务两者均达约6至6.4倍峰值。
AI推荐理由 为AI从业者提供TPU v6e上不同规模模型的性能参考,有助于硬件选型和部署优化。
88
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。