最新资讯
computerworld.com Box 发布 Architect:用自然语言构建业务流程工作流 the-decoder.com METR 称 Anthropic 或已在 7 月越过自身 AI 加速预警阈值 towardsdatascience.com 用 Ollama 和 Python 构建你的第一个多工具 AI Agent the-decoder.com Thinking Machines 的 Inkling 2 Small 称霸西方开放权重模型 dev.to 为 CI/CD 构建 AI 质量门禁 dev.to Kakao 发布面向 AI Agent 的决策模型 Kanana-2-v-decide computerworld.com Microsoft 对 Copilot Chat 企业用户扩大未公开的使用限制 pub.towardsai.net Google 发布 Gemini 4 Carbon:主打网络安全能力的前沿模型 gradientflow.com METR 研究:AI 正在加速构建 AI 的团队本身 www.infoq.com GitLab 19.5 将 Agentic 开发纳入 DevOps 平台的治理体系 aiacceleratorinstitute.com 研究:AI Agent 的复杂流程编排可能反而是问题所在 pub.towardsai.net MongoDB 推出 Vercel AI SDK 集成:为 AI 应用提供持久记忆
多元动态
登录 注册
AI编码 www.youtube.com · @AI Engineer

告别租用智能:Fireworks AI 谈专用模型的训练-部署闭环

原文 我的收藏

Fireworks AI 应用机器学习团队负责人 Jetashree Ravi 讲解团队如何从闭源模型迁移到开源模型而不损失质量。她提出三点:GLM 5.2 等开源模型已可生产使用;定制化能弥补剩余质量差距;AI 栈正转向持续训练与服务的闭环。她披露 Fireworks 规模约为 30 万亿 token、服务 1 万多家公司,并给出客户结果:Cursor 的 Composer 2 在 Fireworks 上训练与托管,推理快 13 倍;Vercel 延迟改善 40 倍;Genspark 经强化微调质量提升 12%。她还介绍 FireAttention 引擎及其自定义 CUDA kernel、使用自定义草稿模型的投机解码,以及三种训练方式(训练 agent、托管训练、支持 SFT/RFT/DPO 的训练 API)。上述数据均为厂商自述,未经独立验证。

AI推荐理由 Fireworks AI 应用机器学习团队负责人 Jetashree Ravi 的演讲,给出从闭源模型迁移到开源模型的具体路径:开源模型(如 GLM 5.2)已可生产使用、定制化可弥补质量差距、AI 栈转向持续训练-服务闭环。文中列出 Fireworks 规模(约 30 万亿 token、1 万+ 公司)及客户案例(Cursor Composer 2 推理快 13 倍、Vercel 延迟改善 40 倍、Genspark 强化微调质量提升 12%),并介绍 FireAttention 引擎、自定义 CUDA kernel、投机解码与三种训练方式。这些数字来自厂商自述,未经独立验证,需谨慎看待;但内容对关注开源模型落地、推理优化和训练-部署闭环的开发者有实际参考价值。

72

正文

当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。

来源报道 · 1 篇 · 以下链接均前往原始媒体

← 返回精选动态 原文

更多内容