最新资讯
dev.to 浏览器内实时 AI 配音:五个时序 bug 及我们的测量方法 bloomberg.com Duke Energy 预计数据中心仍将增长,尽管美国各地出现反对声 unite.ai 菜鸟开放全球仓储网络,用于具身智能训练 unite.ai Anthropic 在 Claude 中推出只读个人财务 Beta techcrunch.com OpenAI 总裁 Greg Brockman 称公司可能在 2027 年具备 IPO 条件 unite.ai Google 在 Gemini Canvas 中演示基于草图的 App 原型开发 theinformation.com METR 研究:AI 或使 Anthropic 研发速度翻倍 unite.ai Stardock Clairvoyance 新增 Hivemind,共享闲置 GPU 用于本地 AI theverge.com Claude 可经 Plaid 直连银行账户管理个人财务 techcrunch.com Claude 新增个人财务工具,可分析用户支出 bloomberg.com Anthropic 与 Plaid 合作提供 AI 消费者财务指导 unite.ai OpenAI 发布 GPT-6 Cyber,限制访问并加入范围控制
多元动态
登录 注册
大模型 dev.to · @Alan West

如何在本地运行 Ripple-65B(Ollama 与原生 llama.cpp 尚无法加载)

原文 我的收藏

文章介绍 Ripple-65B Preview 的本地运行方式:DGX Spark 通过社区服务套件在代码任务上约 26 tok/s,GGUF 需打补丁的 llama.cpp,MLX 构建需 --trust-remote-code。该模型为 Apache 2.0,Ricursive 自报 Terminal-Bench 2.1 得分 80.52,领先 501B 的 Reflection Beam 0.42 分;因 Ripple 为稠密模型,每 token 需读取全部 65B 权重,瓶颈在带宽而非显存。作者未亲自运行,数据来自各构建发布者。

AI推荐理由 提供 Ripple-65B Preview 本地运行的多种路径与实测速度(DGX Spark 约 26 tok/s),并指出 Ollama 与原生 llama.cpp 暂无法加载、需补丁或 --trust-remote-code,信息密度较高;但作者明确未亲自运行,基准分数为 Ricursive 自报,速度数据来自各构建发布者,需保留不确定性。

66

正文

当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。

来源报道 · 1 篇 · 以下链接均前往原始媒体

← 返回精选动态 原文

更多内容