exo

⭐ 45.2k Apache-2.0 Python 1.0

多设备分布式 AI 推理,将 Mac/iPhone/iPad 组成集群运行大模型

📋 基本信息

GitHub Stars⭐ 45.2k Stars
开源许可证Apache-2.0
编程语言Python
最新版本1.0
最近更新2026-06-08

⬇️ 下载

📦 文件大小: pip install

⬇️ 下载 Python 版
⚡ 网盘加速获取(国内高速)

📖 详细介绍

exo 是一个独特的多设备分布式 AI 推理工具——它能将你的 Mac、iPhone、iPad、甚至旧笔记本自动组网,组成一个虚拟的"大 GPU"集群来运行超大参数模型。通过点对点网络自动发现设备并智能分配模型层,无需复杂配置。隐私优先——所有数据在本地设备间传输,不上传云端。特别适合家里有多台 Apple 设备的用户,把闲置算力充分利用起来。

✨ 核心特性

  • 多设备自动组网
  • 点对点分布式推理
  • 隐私优先
  • 消费级设备运行大模型
  • 支持 Llama/Qwen/DeepSeek

Advertisement

🚀 快速开始

/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"
brew install uv node

🔗 同分类其他工具