GPU 利用率从 15% 到 90%：要修的是数据管线，不是模型

Amazon AGI 的 Tarun Sunkaraneni 分享多模态训练中的数据管线优化：在 S3 上训练 Qwen3-VL 类模型时，基线管线约 85% 时间在等待数据，主要耗时于逐张加载、解码和缩放图像。他依次用 asyncio 与 Ray actors 提升并发、预取数据、借助 Ray object store 避免大图像张量在进程间拷贝；在生产规模下又遇到单机网卡瓶颈，通过跨节点分散 worker 和零拷贝读取再获约 50% 吞吐提升，最终 GPU 利用率从 15% 升至 90%。

AI推荐理由 来自 Amazon AGI 工程师的技术分享，给出多模态训练数据管线的具体优化路径：用 asyncio 与 Ray actors 做并发、预取、用 Ray object store 避免大图像张量跨进程拷贝，并在生产规模下通过跨节点分散 worker 与零拷贝读取再获约 50% 吞吐提升，GPU 利用率从 15% 提升到 90%。内容有明确瓶颈定位和分步方案，对训练基础设施与算力利用有实际参考价值；但为会议演讲摘要，缺少完整基准配置与可复现细节，效果数字需结合原始演讲验证。