最新资讯
wired.com 聊天机器人广告时代到来:哪些做法有效、哪些无效 techmeme.com METR:Anthropic 删减了评估报告中最具信息量的证据 unite.ai 微软借助 AI 修复更多 Windows 漏洞,但补丁部署仍滞后 bloomberg.com Cloudflare 上调年度利润预期,AI 推动网络需求 theinformation.com Anthropic 为 Claude 推出个人理财功能 theinformation.com Airbnb 披露 Chesky 隐秘 AI 初创公司的新细节 engadget.com Google 将停用 Firebase Studio,引导开发者转向 Antigravity 与 AI Studio www.youtube.com 别再给 AI Agent 发 API Key:Keycard 与 Temporal 谈 Agent 安全与可恢复执行 unite.ai Kajima 全面部署搭载 FieldAI 自主软件的施工机器人 businessinsider.com Anthropic 相关 AI 报告引发关注:METR 发布首份驻场研究 dev.to Pando:OpenAI 如何通过放宽跨分支一致性,让 Git 支撑 Agent 速度的推送 dev.to 为能花钱或签发的 Agent 做威胁建模
多元动态
登录 注册
行业动态 reddit.com · @/u/Valdrans

Meta 发布 8160 亿参数开放模型 Muse Spark,可在双 Mac Studio 本地运行

原文 我的收藏

据 Reddit 转述,Meta 发布开放权重模型 Muse Spark Open,参数量 8160 亿,支持多平台并可在本地 Mac Studio 运行。据称该模型是同类中首个可在桌面端运行的模型,需两台搭载 Apple M5 Ultra 的 Mac Studio 并借助 Apple MLX 框架;4-bit 压缩版约 493GB,无法装入单台 512GB Mac Studio。Apple 公布的基准显示,4-bit 模型在两台 M5 Ultra 上以张量并行达到 24.99 tokens/s,四台机器可达 36.73 tokens/s,并通过 Thunderbolt 5 线缆上的 RDMA 实现低延迟数据传输。上述信息尚未获官方来源确认。

AI推荐理由 若属实,这是 8160 亿参数开放权重模型首次可在桌面端本地运行,涉及 Apple MLX、4-bit 量化(约 493GB)、Thunderbolt 5 RDMA 张量并行等具体技术细节,并给出 24.99 tokens/s(双 M5 Ultra)与 36.73 tokens/s(四机)的基准数据。但来源为 Reddit 转述,未提供 Meta 或 Apple 官方链接,需核实。

82

正文

当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。

来源报道 · 1 篇 · 以下链接均前往原始媒体

← 返回精选动态 原文

更多内容