FastGPT、One-api Docker服务端口的绑定

最新推荐文章于 2025-06-23 20:56:37 发布
原创 最新推荐文章于 2025-06-23 20:56:37 发布 · 1.4k 阅读 · 11 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#docker #容器 #运维

本文讲述了作者在部署离线版LLM时，如何通过修改docker-compose.yml文件将FastGPT的3000端口更改为3015以避免与One-API的端口冲突。同时寻求如何在不删除旧容器的情况下动态绑定端口号的方法。
GPT-oss:20b

GPT-oss:20b

图文对话
Gpt-oss

GPT OSS 是OpenAI 推出的重量级开放模型，面向强推理、智能体任务以及多样化开发场景

        这两天在部署离线版的LLM，用到FastGPT和One-API，官方镜像生成的容器设置端口都是3000，同时跑有冲突。

        FastGPT采用docker-compose运行的命令是：

mkdir fastgpt
cd fastgpt
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/files/deploy/fastgpt/docker-compose.yml
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json
docker-compose pull
docker-compose up -d

        端口号的设置在docker-compose.yml这个文件中，默认是将宿主机的3000端口绑定到容器的3000端口（3000:3000)，这里改成将宿主机的3015端口绑定到容器的3000端口（3015:3000)，从而避免了冲突。

        如果想修改one-api的，在运行时修改即可：

docker run --name one-api -d --restart always -p 3014:3000 -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api

        由于刚开始部署没什么修改，我是直接把3000:3000的容器删掉再重新docker-compose一下的，如果能够不删掉旧容器，临时修改端口就更方便了。不知道有没有小伙伴知道怎么动态绑定端口号呢？

您可能感兴趣的与本文相关的镜像

GPT-oss:20b

GPT-oss:20b

图文对话
Gpt-oss

GPT OSS 是OpenAI 推出的重量级开放模型，面向强推理、智能体任务以及多样化开发场景

SEVEN-minus
关注
Fastgpt本地使用Docker Compose 快速部署
洛阳泰山的博客
07-11 1470
修改文件，并执行再执行d重起容器。具体配置，参考配置详解。可以查看日志，在启动容器后，第一次请求网页，会进行配置文件读取，可以看看有没有读取成功以及有无错误日志。进入 FastGPT 容器，可以通过ls data查看目录下是否成功挂载文件。可通过查看配置文件。可能不生效的原因挂载目录不正确配置文件不正确，日志中会提示invalid json，配置文件需要是标准的 JSON 文件。
FastGPT部署接入 M3E和chatglm2-m3e文本向量模型
洛阳泰山的博客
04-24 3459
FastGPT 默认使用了 openai 的 embedding 向量模型，如果你想私有部署的话，可以使用 M3E 向量模型进行替换。M3E 向量模型属于小模型，资源使用不高，CPU 也可以运行。下面教程是基于 “睡大觉” 同学提供的一个的镜像。
fastgpt本地详细部署以及配置
平原的博客
03-10 7746
在 CentOS 上，如果您想让普通用户安装和使用 Docker，您需要执行以下步骤。oneapi中的通用key，如果配置的是本地chatglm或者m3e向量模型，填以下key即可。注：配置oneapi服务地址，如果127.0.0.1 不管用，使用服务器中的ifconfig。请注意，用户必须注销并重新登录才能在不使用 sudo 的情况下运行 Docker 命令。最后访问：127.0.0.1:4000即可，默认用户root，默认密码1234。注：如果中间出现奇奇怪怪的问题，可以重新拉取，删掉容器重新启动。
【Oneapi+FastGPT部署本地大模型】
Neverlanding_的博客
02-28 2343
总结：三者之间的关系就是，OneAPI作为“中间商”接入本地大模型+FastGPT通过OneAPI生成的令牌等参数调用本地大模型。最终FastGPT可以用我们本地部署的大模型进行对话等自然语言处理。本文我们利用将Oneapi、FastGPT部署到Linux系统中的一个中。
阿里云部署OneApi
zhangxuanchen的博客
03-23 1333
使用 MySQL 的部署命令，在上面的基础上添加 `-e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi"`，请自行修改数据库连接参数，不清楚如何修改请参见下面环境变量一节。如果上面的镜像无法拉取，可以尝试使用 GitHub 的 Docker 镜像，将上面的。目录，请确保该目录存在且具有写入权限，或者更改为合适的目录。是宿主机的端口，可以根据需要进行修改。数据和日志将会保存在宿主机的。如果启动失败，请添加。如果你的并发量较大，
docker安装部署FastGPT
huaweichenai的博客
05-08 1745
FastGPT 是一个基于 LLM 大语言模型的知识库问答系统，提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排，从而实现复杂的问答场景！
保姆级教程：FastGPT构建个人本地知识库(Docker compose快速部署)
热门推荐
m0_62536353的博客
01-22 5万+
FastGPT构建个人知识库，使用Docker compose部署
部署one-api配置deepseek
02-13
例如，可以通过下面这条简单的 bash 命令来启动 one-api 服务，并使其绑定至指定端口提供 RESTful API 支持[^1]: ```bash ./one-api --port 3000 ``` 此过程会初始化必要的组件和服务实例，从而允许外部应用程序...
fastgpt oneapi启动失败
02-15
FastGPT OneAPI启动失败可能由多种因素引起，常见的几个方面包括配置文件设置不当、依赖库版本不匹配以及网络连接问题等。如果尝试通过`docker exec -it fastgpt sh`进入容器并执行`env`命令来检查环境变量却未能...
FastGPT + Xinference + OneAPI：一站式本地 LLM 私有化部署和应用开发
南七小僧的学海无涯
01-14 3606
上述步骤已经利用 API 的返回拼装出了含有某个城市查询天气情况的所有信息，我们用 “AI对话” 模块来总结回复，记得将对话模型切换为 Qwen。
FastGPT Docker Compose本地部署与硅基流动免费AI接口集成指南
Franciz777的博客
04-21 1888
FastGPT是基于LLM的知识库问答系统，支持自定义数据训练与多模型接入。硅基流动（SiliconFlow）作为AI基础设施平台，提供高性能大模型推理引擎SiliconLLM和免费API服务。通过Docker部署FastGPT并结合硅基流动API，可实现低成本、高灵活性的AI应用开发。：硅基流动提供Qwen2-7B、GLM-4-9B等模型永久免费API，降低Token成本。选择“知识库管理”→“新建知识库”，配置向量化模型（如M3E）。​，若看到FastGPT界面，则部署成功。
one API 内网/互联网docker部署 使用
weixin_43954818的博客
01-15 1952
oneapi docker部署 互联网 内网 局域网部署
FastGPT+ollama+qwen2:7b+oneapi+m3e
qq_43679365的博客
10-30 1915
环境的搭建就不再赘述了，最关键的是m3e渠道key这个配置，我到现在也是觉得很奇怪有时候可以匹配上有时候不行。这边主要介绍fastgpt的运行，做个记录。首先命令行启动ollama,用于后续fastgpt里面配置的模型的使用右键docker desktop,管理员运行方式启动后，docker会自动启动里面的fastGPT容器，这时候直接点击端口号去登录即可。3001是oneapi的端口，3000是fastGPT的端口号，点击之后使用root\1234进行登录。
docker-compose本地部署FastGPT与简单使用
python12222_的博客
01-23 2489
FastGPT 是一个基于 LLM 大语言模型的知识库问答系统，提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排，从而实现复杂的问答场景！FastGPT 是开源项目，遵循附加条件 Apache License 2.0 开源协议，可以Fork之后进行二次开发和发布。FastGPT 社区版将保留核心功能，商业版仅在社区版基础上使用 API 的形式进行扩展，不影响学习使用。
Mac下使用Docker快速布署FastGPT实现AI私有知识库
青塬研发
03-12 2635
可以往里面导入文章，FastGPT会自动进行处理了。如果有别的模型，比如讯飞的，360的。也可以接入，方法，就是使用OneAPI包装这几家的API。修改config.json，第二步下载的配置文件之一，增加上对应平台的model参数即可。没有ChatGPT依然可以玩国内的AI，免费的也不少。要不要来一套啊。。。更多精彩内容，请关注我的公众号：青塬科技。
FastGPT极速上手指南：Docker容器化部署实战
分享实践与思考
06-23 2750
使用 Docker Compose 快速部署 FastGPT 4.9.7版本
使用docker-compose一键本地化部署fastgpt，并连接本地ollama部署的大模型
qq_47814951的博客
08-20 2531
环境：win11+wsl2+docker，但主要操作在wsl中完成。
docker部署one-api
学亮编程手记
11-09 609
使用One-api可代理各类接口渠道，包括gpt-3.5-trubo、gpt-4等openAI官方模型，azure提供的模型，集成联网知识库等功能的gpt4模型，以及国内模型的一些模型。同时支持openai图像生成接口。
保姆级教程：FastGPT构建个人本地知识库(Docker compose快速部署)_fastgpt本地部署
chengxuyuanyy的博客
09-23 4958
本教程的核心焦点在于简化部署过程。我们将通过Docker Compose这一强大工具，快速搭建FastGPT驱动的知识库。然而，需要注意的是，教程更多地关注于部署操作本身，而非FastGPT的深入原理探讨。因此，如果您对FastGPT的工作机制和技术细节感兴趣，我强烈建议查阅官方文档进行更深入的学习。FastGPT 是一个基于 LLM 大语言模型的知识库问答系统，提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排，从而实现复杂的问答场景！
fastgpt 本地部署 one-api linux
最新发布
07-02
### 部署 FastGPT 和 OneAPI 的本地环境配置指南 在 Linux 环境下部署 FastGPT 并集成 OneAPI 服务，可以实现本地大语言模型（LLM）的私有化部署和应用开发。以下是详细的配置步骤： #### 1. 准备工作 首先确保系统已经安装了 Docker 或 Podman 工具，并且具备基础的容器管理能力。如果使用 `podman-compose` 进行部署，则需要先安装 Podman 及其相关组件。 #### 2. 获取项目文件 克隆或下载 FastGPT 项目的 Docker Compose 文件，通常会包含 FastGPT、OneAPI 和 Xinference 等服务的定义。例如： ```bash git clone https://github.com/fastgpt/fastgpt.git cd fastgpt ``` #### 3. 修改端口映射 如果默认端口被占用，可以在 `docker-compose.yml` 文件中修改 OneAPI 的端口映射设置。例如，将 OneAPI 的内部端口 3000 映射到主机的 13000 端口： ```yaml one-api: image: justsong/one-api ports: - "13000:3000" volumes: - /home/ubuntu/data/one-api:/data environment: - TZ=Asia/Shanghai ``` 也可以通过命令行运行 OneAPI 容器并指定端口映射[^2]： ```bash docker run --name one-api -d --restart always -p 13000:3000 -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api ``` #### 4. 启动所有服务 使用 `podman-compose` 或 `docker-compose` 命令启动所有服务： ```bash podman-compose up -d # 或者使用 Docker Compose docker-compose up -d ``` 此命令会根据 `docker-compose.yml` 文件中的定义启动所有相关的容器服务。 #### 5. 访问 OneAPI OneAPI 默认运行在 3000 端口，若已修改为 13000，则可以通过访问 `<服务器IP>:13000` 来打开 OneAPI 的管理界面。在此处可以配置 API 密钥、模型渠道等信息。 #### 6. 配置 FastGPT FastGPT 默认运行在 3001 端口，可以通过访问 `<服务器IP>:3001` 打开 FastGPT 的 Web 界面。进入后，按照提示创建知识库、上传文档，并配置自定义模型以连接 OneAPI 提供的服务。 #### 7. 配置 Xinference 服务 Xinference 默认会在本地启动服务，端口为 9997。如果希望从其他设备访问该服务，可以在启动时添加 `-H 0.0.0.0` 参数，允许非本地客户端通过机器的 IP 地址来访问 Xinference 服务[^1]。 #### 8. 创建应用 在 FastGPT 中创建新的应用，并选择之前配置的知识库和模型，即可开始进行问答测试或其他应用场景的开发。 --- ###
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值