1Backend 开源项目教程
1. 项目介绍
1Backend 是一个基于微服务的 AI 平台,它不仅为运行在私有服务器上的 AI 模型提供了支持,而且还能处理高并发的工作负载。该项目由经验丰富的工程师团队开发,他们拥有超过十年在快节奏创业公司构建和扩展微服务的经验。1Backend 旨在提供一种类似于 ChatGPT 的用户界面,同时为机器提供网络可访问的 API,同时还是一个通用的后端框架。
2. 项目快速启动
要快速启动 1Backend,您需要先安装 Docker。以下是基于 Docker 的启动步骤:
首先,确保您已经安装了 Docker。然后克隆仓库并进入项目目录:
git clone https://github.com/1backend/1backend.git
cd 1backend
接下来,使用 Docker Compose 启动平台:
docker compose up
该命令将在前台运行平台。如果您希望它在后台运行,可以使用以下命令:
docker compose up -d
启动完成后,您可以通过浏览器访问 UI 界面,默认地址为 http://127.0.0.1:3901
。使用默认的用户名 1backend
和密码 changeme
登录后,就可以开始使用了。
3. 应用案例和最佳实践
UI 使用案例
登录后,您可以点击界面上的 "AI" 按钮下载模型,然后开始与平台互动,就像使用 ChatGPT 一样。
CLI 使用案例
您可以使用命令行界面(CLI)与 1Backend 交互。首先,您需要安装 CLI 工具:
go install github.com/1backend/1backend/cli/oo@latest
然后,您可以使用以下命令进行登录和交互:
oo login 1backend changeme
oo whoami
oo post /prompt-svc/prompt --sync=true --prompt="Is a cat an animal? Just answer with yes or no please."
代码示例
以下是一个使用 JavaScript 同步提示的简单代码示例:
import { UserSvcApi, PromptSvcApi, Configuration } from "@1backend/client";
async function testDrive() {
let userService = new UserSvcApi();
let loginResponse = await userService.login({
body: {
slug: "1backend",
password: "changeme",
},
});
const promptSvc = new PromptSvcApi(
new Configuration({
apiKey: loginResponse.token,
})
);
let promptRsp = await promptSvc.prompt({
body: {
sync: true,
prompt: "Is a cat an animal? Just answer with yes or no please.",
},
});
console.log(promptRsp);
}
testDrive();
确保您已经通过 UI 下载了模型,或者在代码中预先加载了模型。
4. 典型生态项目
1Backend 的生态系统包括多种服务和工具,例如内置的文件上传和下载服务、用户管理服务,以及与 AI 平台(如 LlamaCpp 和 StableDiffusion)的集成。项目的官方文档中包含了更多关于这些服务和工具的信息,以及如何在您的项目中使用它们。
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考