BiReRa的博客

原创 人在公司，也能调用家里的本地大模型：OmniInfer 体验分享

最近我折腾本地大模型时发现了 OmniInfer。它不像普通聊天软件，更像是一个能把本地模型跑起来、管起来、接出去的推理底座。文章里我分享了自己的使用感受：在电脑上可以通过 OmniStudio 管理本地模型，甚至把家里的 OmniInfer Server 变成带 Base URL 和 API Key 的远程 API；在安卓端也有 OpenOmniBot 这样的实际 Demo。对想折腾本地 AI、端侧推理，或者想把自己的本地模型接到更多工具里的人来说，OmniInfer 挺值得关注。