大模型
dev.to ·
@AI OpenFree
在游戏本上运行 180B 模型:POCKET-Darwin-180B
VIDRAFT 发布 POCKET-Darwin-180B,称其 180B 参数模型可在 8GB 显存、32GB 系统内存的消费级游戏本上运行,依靠稀疏 MoE、SSD 流式加载和 llama.cpp。作者强调目标不是超越云 API 速度,而是服务气隙和受监管的离线环境。
AI推荐理由 介绍 VIDRAFT 的 POCKET-Darwin-180B,称可在 8GB 显存加 32GB 内存的消费级游戏本上运行 180B 参数模型,采用稀疏 MoE、SSD 流式加载和 llama.cpp。定位是离线、隔离环境而非速度竞赛。信息有具体技术路径,但来源为项目方自述,缺少独立复现和性能数据。
62
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。