大模型
x.com ·
Perplexity 开源为 Apple Silicon 优化的本地推理引擎 Lily
Perplexity 开源了为混合计算构建的本地推理引擎 Lily，专为 Apple Silicon 上的 Qwen3.6-35B-A3B 优化，确保设备端计算不成为 Computer 任务的瓶颈。
AI推荐理由 开源本地推理引擎有助于开发者在 Apple 设备上高效部署模型，对边缘 AI 应用有直接参考价值。
88
浏览 425,642
点赞 2,546
评论 89
转发 248
正文
今天我们开源了 Lily，这是我们在 Perplexity Computer 中为混合计算构建的本地推理引擎。
Lily 专为 Apple 芯片上的 Qwen3.6-35B-A3B 优化，旨在让设备端计算不会成为 Computer 任务的瓶颈。
了解更多：[perplexity.ai/hub/blog/optim…](https://www.perplexity.ai/hub/blog/optimizing-on-device-inference-for-apple-silicon)
查看原文（中文正文为 AI 翻译）
Today we’re open-sourcing Lily, the local inference engine we built for hybrid compute in Perplexity Computer.
Lily is specialized for Qwen3.6-35B-A3B on Apple silicon, built so on-device compute doesn’t bottleneck Computer tasks.
Read more: [perplexity.ai/hub/blog/optim…](https://www.perplexity.ai/hub/blog/optimizing-on-device-inference-for-apple-silicon)