Imagine Miracle的博客

exo项目的口号是 “在家中使用日常设备运行自己的AI集群”。exo是一个开源项目，旨在利用日常设备（如iPhoneiPadAndroidMacLinux等）运行自己的AI集群。通过动态模型分区和自动设备发现，exo能够将多个设备统一成一个强大的GPU，支持多种模型如LLaMAMistralLlaVAQwen和Deepseek。Exo 还提供了一个ChatGPT兼容的API，使用户可以轻松地在自己的硬件上运行模型。