大模型
marktechpost.com ·
@Asif Razzaq
Prime Intellect 发布 Prime Mega MoE：可训练融合 MoE 内核，前向提速 3.11 倍
Prime Intellect 发布 Prime Mega MoE，为 DeepSeek 的融合 Mega MoE 内核实现反向传播，使其可用于训练。据其说法，前向传播提速 3.11 倍，在 prime-rl 中使 Qwen3 MoE 训练步最高提速 34%。相关数据为项目方自述，尚待独立验证。
AI推荐理由 具体技术新信息明确：为 DeepSeek 的 fused Mega MoE kernel 补上反向传播使其可训练，前向 3.11 倍加速，在 prime-rl 中使 Qwen3 MoE 训练步提速最高 34%。对 MoE 训练效率有实际价值；但数据为项目方自述，摘要未提供代码仓库、基准配置或独立复现。
76
正文
当前仅保存了标题或简介；并非所有来源都提供正文，可通过下方原文链接查看。