docker compose安装chatgpt-next-web配置本地默认模型

本文介绍如何使用docker compose 快速部署chatgpt实现大模型的本地调用,并且修改默认模型选项。

root@jwl:/data/chatgpt-next-web# cat docker-compose.yaml 
version: '3.9'
services:
  chatgpt-next-web:
    image: yidadaa/chatgpt-next-web
    environment:
      - BASE_URL=http://172.10.10.253:11434
      - CUSTOM_MODELS=-all,+deepseek-r1:32b,+qwq:latest,+gemma3:27b
      - DEFAULT_MODEL=qwq:latest
    ports:
      - '3600:3000'

这里配置大模型接口,比如你本地部署ollama,那么本地接口就是127.0.0.1:11434

  • BASE_URL=http://172.10.10.253:11434

这里修改默认模型-all是删除cahtgpt里所有默认模型,+deepseek-r1:32b是添加本地deepseek-r1:32b为默认模型。

  • CUSTOM_MODELS=-all,+deepseek-r1:32b,+qwq:latest,+gemma3:27b

修改完配置后直接运行docker compose启动服务

docker compose up -d
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

jockerzoo@

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值