大模型
x.com ·
@Qwen (@Alibaba_Qwen)
Qwen 官方转述 LightSeek TokenSpeed 推理结果:Qwen3.8-Flash-Next 在 GB300 上达 685 tokens/s/用户
阿里 Qwen 官方账号祝贺 LightSeek Foundation 的 TokenSpeed 推理优化成果:在 4 张 NVIDIA GB300、NVFP4 精度下,Qwen3.8-Flash-Next 实现每用户 685 output tokens/s,并附内核与服务优化博客及 GitHub 仓库链接。该帖为转述性祝贺,未披露基准条件与对比基线。
AI推荐理由 Qwen 官方账号转述 LightSeek 的 TokenSpeed 推理优化结果:Qwen3.8-Flash-Next 在 4×NVIDIA GB300、NVFP4 下达到每用户 685 output tokens/s,并附有博客与 GitHub 链接。具体新信息是第三方推理栈在特定硬件配置上的吞吐数字,对推理优化与算力部署有参考价值;但正文仅为祝贺性转述,未给出基准条件、对比基线或可复现细节,685 tokens/s 属单一配置下的宣称值,需以原博客为准,不能视为已验证的普遍性能。
62
浏览 42,836
点赞 537
评论 49
转发 32
正文
Congrats to @lightseekorg on the impressive TokenSpeed results! 🚀 Great to see Qwen3.8-Flash-Next reaching 685 output tokens/s per user on Nvida GPUs. Excited to see the community unlock more of Qwen’s inference potential!
来源报道 · 1 篇 · 以下链接均前往原始媒体
Qwen (@Alibaba_Qwen)
Qwen 官方转述 LightSeek TokenSpeed 推理结果:Qwen3.8-Flash-Next 在 GB300 上达 685 tokens/s/用户
10-14 · 原文发布