在闲置 Apple Silicon Mac 上搭建分布式 LLM 推理 GPU 集群

文章介绍如何利用局域网内闲置的 Apple Silicon Mac 组建分布式 LLM 推理集群：先用 arp-scan 枚举主机并记录 GPU 核心数与统一内存，写入 YAML 清单，再在各节点运行 exo cluster init 通过 mDNS 建立点对点网格；并说明统一内存作为共享张量缓冲、llama.cpp 通过 --n-gpu-layers 进行 GPU 卸载。文中部分性能数字表述不一致，且未给出实测验证。

AI推荐理由 给出在闲置 Apple Silicon Mac 上搭建分布式 LLM 推理集群的具体做法，包括 arp-scan 枚举主机、YAML 清单、exo cluster init 组网、llama.cpp 的 --n-gpu-layers 卸载等可操作细节，对本地推理与算力复用有实际参考价值；但部分性能数字（如 8 token/s、35/32 层）表述存在矛盾，且未提供实测验证。