最新资讯
dev.to 如何在专用 GPU 服务器上用 OpenAI 兼容 API 部署 LLM dev.to 审计 153 份 Claude Code 与 Codex 会话记录:User-Agent 与 URL 中的邮箱泄露 dev.to 你的 Agent Harness 应具备的 17 项能力 dev.to 离线 AI 记忆中 0.8 余弦阈值为何失效 dev.to Kimi K3.1 Pro 开放权重:自托管 2.8T 模型前的开发者清单 dev.to 如何通过工具调用引导模型以提升 Harness 质量 dev.to AI Agent 审计轨迹不等于对话记录 dev.to 精简 MCP server 工具数量:更少工具、更小影响面,双重收益 dev.to 为什么 git checkout 无法撤销 AI 编码 agent 的改动? wechat AI短剧门槛降降降!实测即梦短剧工作室:剧本分镜预演一条龙,伙伴计划长期护航 dev.to 让模型改写文档前,先量化事实保真度 dev.to 回放 153 个 Claude Code 与 Codex 会话,审计 Agent 的生产影响范围
多元动态
登录 注册
大模型 x.com · @Qwen (@Alibaba_Qwen)

Qwen 官方转述 LightSeek TokenSpeed 推理结果:Qwen3.8-Flash-Next 在 GB300 上达 685 tokens/s/用户

原文 我的收藏

阿里 Qwen 官方账号祝贺 LightSeek Foundation 的 TokenSpeed 推理优化成果:在 4 张 NVIDIA GB300、NVFP4 精度下,Qwen3.8-Flash-Next 实现每用户 685 output tokens/s,并附内核与服务优化博客及 GitHub 仓库链接。该帖为转述性祝贺,未披露基准条件与对比基线。

AI推荐理由 Qwen 官方账号转述 LightSeek 的 TokenSpeed 推理优化结果:Qwen3.8-Flash-Next 在 4×NVIDIA GB300、NVFP4 下达到每用户 685 output tokens/s,并附有博客与 GitHub 链接。具体新信息是第三方推理栈在特定硬件配置上的吞吐数字,对推理优化与算力部署有参考价值;但正文仅为祝贺性转述,未给出基准条件、对比基线或可复现细节,685 tokens/s 属单一配置下的宣称值,需以原博客为准,不能视为已验证的普遍性能。

62 浏览 42,836 点赞 537 评论 49 转发 32

正文

Congrats to @lightseekorg on the impressive TokenSpeed results! 🚀 Great to see Qwen3.8-Flash-Next reaching 685 output tokens/s per user on Nvida GPUs. Excited to see the community unlock more of Qwen’s inference potential!

来源报道 · 1 篇 · 以下链接均前往原始媒体

← 返回精选动态 原文

更多内容