📋 基本信息
| GitHub Stars | ⭐ 45.2k Stars |
| 开源许可证 | Apache-2.0 |
| 编程语言 | Python |
| 最新版本 | 1.0 |
| 最近更新 | 2026-06-08 |
📖 详细介绍
exo 是一个独特的多设备分布式 AI 推理工具——它能将你的 Mac、iPhone、iPad、甚至旧笔记本自动组网,组成一个虚拟的"大 GPU"集群来运行超大参数模型。通过点对点网络自动发现设备并智能分配模型层,无需复杂配置。隐私优先——所有数据在本地设备间传输,不上传云端。特别适合家里有多台 Apple 设备的用户,把闲置算力充分利用起来。
✨ 核心特性
- 多设备自动组网
- 点对点分布式推理
- 隐私优先
- 消费级设备运行大模型
- 支持 Llama/Qwen/DeepSeek
Advertisement