大模型
dev.to ·
@Alan West
如何在本地运行 Ripple-65B(Ollama 与原生 llama.cpp 尚无法加载)
文章介绍 Ripple-65B Preview 的本地运行方式:DGX Spark 通过社区服务套件在代码任务上约 26 tok/s,GGUF 需打补丁的 llama.cpp,MLX 构建需 --trust-remote-code。该模型为 Apache 2.0,Ricursive 自报 Terminal-Bench 2.1 得分 80.52,领先 501B 的 Reflection Beam 0.42 分;因 Ripple 为稠密模型,每 token 需读取全部 65B 权重,瓶颈在带宽而非显存。作者未亲自运行,数据来自各构建发布者。
AI推荐理由 提供 Ripple-65B Preview 本地运行的多种路径与实测速度(DGX Spark 约 26 tok/s),并指出 Ollama 与原生 llama.cpp 暂无法加载、需补丁或 --trust-remote-code,信息密度较高;但作者明确未亲自运行,基准分数为 Ricursive 自报,速度数据来自各构建发布者,需保留不确定性。
66
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。