大模型
siliconangle.com ·
@Kyt Dotson
Ai2 发布 Olmo-core 3，提升大规模 MoE 大模型开发效率
Allen Institute for AI 发布面向大语言模型的开发框架 Olmo-core 3，称其改进了混合专家（MoE）模型的训练方式，可在保持计算效率、控制成本的前提下将 MoE 训练扩展到万亿参数规模。
AI推荐理由 Allen Institute for AI 发布 Olmo-core 3 框架，称可让 MoE 大模型训练扩展到万亿参数规模并保持计算效率、控制成本。属于研究机构官方发布，对 MoE 训练工程有直接参考价值，但摘要未给出具体基准或开源细节。
78
正文
当前仅保存了标题或简介；并非所有来源都提供正文，可通过下方原文链接查看。