用异构消费级笔记本池化运行 70B LLM 的离线 P2P 系统

作者构建开源工具 AirDrop-LLM：一个零依赖、离线的多节点流水线并行推理代理，用 Java 编写，让资源受限的边缘设备通过本地手机热点或 Wi-Fi Direct 池化 RAM、VRAM 和 GPU 算力，以在消费级笔记本上运行 70B 级开源模型，不依赖云服务。文中未给出可验证的性能基准。

AI推荐理由 描述用 Java 编写的零依赖离线多节点流水线并行推理代理 AirDrop-LLM，将异构消费级设备的 RAM、VRAM 与 GPU 算力通过本地热点或 Wi-Fi Direct 池化以运行 70B 模型；思路对边缘推理有参考价值，但为个人项目自述，缺少基准数据与可靠性验证。