第二步:本地运行FastGPT

部署运行你感兴趣的模型镜像

1.到官网下载开源代码,根据文档进行下载和修改

2.修改我们的config.local.json为

 
{
  "feConfigs": {
    "lafEnv": "https: //laf.dev"
  },
  "systemEnv": {
    "vectorMaxProcess": 15,
    "qaMaxProcess": 15,
    "pgHNSWEfSearch": 100  
  },
  "llmModels": [
    {
      "model": "qwen:7b",
      "name": "qwen:7b",
      "maxContext": 32000,
      "avatar": "/imgs/model/openai.svg",
      "maxResponse": 8000,
      "quoteMaxToken": 20000,
      "maxTemperature": 1.0,
      "charsPointsPrice": 0,
      "censor": false,
      "vision": false,
      "datasetProcess": true,
      "usedInClassify": true,
      "usedInExtractFields": true,
      "usedInToolCall": true,
      "usedInQueryExtension": true,
      "toolChoice": true,
      "functionCall": true,
      "customCQPrompt": "",
      "customExtractPrompt": "",
      "defaultSystemChatPrompt": "",
      "defaultConfig": {}
    }
  ],
  "vectorModels": [
    
    {
      "model": "shaw/dmeta-embedding-zh",
      "name": "dmeta-embedding-zh",
      "avatar": "/imgs/model/openai.svg",
      "charsPointsPrice": 0,
      "defaultToken": 512,
      "maxToken": 3000,
      "weight": 100,
      "dbConfig": {},
      "queryConfig": {}
    }
  ],
  "reRankModels": [],
  "audioSpeechModels": [
    {
      "model": "tts-1",
      "name": "OpenAI TTS1",
      "charsPointsPrice": 0,
      "voices": [
        { "label": "Alloy", "value": "alloy", "bufferId": "openai-Alloy" },
        { "label": "Echo", "value": "echo", "bufferId": "openai-Echo" },
        { "label": "Fable", "value": "fable", "bufferId": "openai-Fable" },
        { "label": "Onyx", "value": "onyx", "bufferId": "openai-Onyx" },
        { "label": "Nova", "value": "nova", "bufferId": "openai-Nova" },
        { "label": "Shimmer", "value": "shimmer", "bufferId": "openai-Shimmer" }
      ]
    }
  ],
  "whisperModel": {
    "model": "whisper-1",
    "name": "Whisper1",
    "charsPointsPrice": 0
  }
}

我把没用到的模型都删了

3.修改.env.local为:

LOG_DEPTH=3
# 默认用户密码,用户名为 root,每次重启时会自动更新。
DEFAULT_ROOT_PSW=123456
# 数据库最大连接数
DB_MAX_LINK=5
# token
TOKEN_KEY=any
# 文件阅读时的密钥
FILE_TOKEN_KEY=filetokenkey
# root key, 最高权限
ROOT_KEY=root_key
# openai 基本地址,可用作中转。
OPENAI_BASE_URL=http://localhost:3001/v1
# oneapi 地址,可以使用 oneapi 来实现多模型接入
# ONEAPI_URL=https://xxxx.cloud.sealos.io/openai/v1
# 通用key。可以是 openai 的也可以是 oneapi 的。
# 此处逻辑:优先走 ONEAPI_URL,如果填写了 ONEAPI_URL,key 也需要是 ONEAPI 的 key
CHAT_API_KEY=sk-fastgpt
# mongo 数据库连接参数,本地开发连接远程数据库时,可能需要增加 directConnection=true 参数,才能连接上。
MONGODB_URI=mongodb://myusername:mypassword@localhost:27017/fastgpt?authSource=admin

# 向量库优先级: pg > milvus
# PG 向量库连接参数
PG_URL=postgresql://username:password@localhost:5432/postgres
# milvus 向量库连接参数
MILVUS_ADDRESS=https://in03-78bd7f60e6e2a7c.api.gcp-us-west1.zillizcloud.com
MILVUS_TOKEN=133964348b00b4b4e4b51bef680a61350950385c8c64a3ec16b1ab92d3c67dcc4e0370fb9dd15791bcd6dadaf765e98a98735d0d

# code sandbox url
SANDBOX_URL=http://localhost:3001
# 商业版地址
PRO_URL=
# 页面的地址,用于自动补全相对路径资源的 domain
# FE_DOMAIN=http://localhost:3000

# 日志等级: debug, info, warn, error
LOG_LEVEL=debug
STORE_LOG_LEVEL=warn

# 工作流最大运行次数,避免极端的死循环情况
WORKFLOW_MAX_RUN_TIMES=500

此时 如果nodejs和react那些没问题的话,项目就能跑起来了;下面,我们进入FastGPT的使用环节

本地运行会遇到的问题

先在app目录下创建tmp文件夹

cd到fastgpt目录下 执行  pnpm run gen:theme-typings

再来到app目录下 用git bash执行

就可以解决:

Scope: all 8 workspace projects
Lockfile is up to date, resolution step is skipped
Already up to date
. postinstall$ sh ./scripts/postinstall.sh
│ 'sh' �����ڲ����ⲿ���Ҳ���ǿ����еij���
│ ���������ļ���
└─ Failed in 11ms at C:\Users\Administrator\Desktop\rag\fastgpt
 ELIFECYCLE  Command failed with exit code 1.

这个错误

您可能感兴趣的与本文相关的镜像

GPT-oss:20b

GPT-oss:20b

图文对话
Gpt-oss

GPT OSS 是OpenAI 推出的重量级开放模型,面向强推理、智能体任务以及多样化开发场景

### 部署 FastGPT 使用 Docker 为了在本地环境中利用 Docker 容器化技术来部署 FastGPT,可以遵循一系列特定的操作流程。首先,在启动之前确认已安装并配置好 Docker 环境[^3]。 #### 准备工作 确保拥有最新的 FastGPT 映像文件或能够访问存储该映像的位置。如果尚未获取到所需的镜像,则需先从远程仓库拉取最新版本: ```bash docker pull fastgpt/image_name:tag ``` 此命令会尝试查找本地是否存在指定名称和标签的镜像;如果没有找到,则自动从公共注册中心下载相应资源[^1]。 #### 创建容器实例 一旦获得了正确的镜像之后,就可以创建一个新的容器实例运行 FastGPT 应用了。这里假设已经有一个名为 `fastgpt/image_name` 的镜像可用,并且希望将其作为守护进程后台执行: ```bash docker run -d --name my-fastgpt-container \ -p 8080:80 \ -v /local/path:/container/path \ -e ENV_VAR=value \ fastgpt/image_name:tag ``` 上述命令中的参数解释如下: - `-d`: 后台模式运行容器; - `--name`: 给定新创建的容器一个易于识别的名字; - `-p`: 将主机端口映射至容器内部服务监听地址; - `-v`: 挂载卷路径以便于数据持久化保存; - `-e`: 设置环境变量供应用内使用。 #### 测试连接与验证功能正常 完成以上步骤后,应该可以通过浏览器或其他 HTTP 工具向暴露出来的 IP 地址发送请求测试接口响应情况。对于大多数情况下,默认开放的是第 80 或者自定义映射后的其他端口号(如上例中的 8080)。此时应当能看到 FastGPT 提供的服务页面或是返回 JSON 结构的结果集。 #### 开发调试支持 当涉及到开发阶段时,可能还需要更方便的方式来进行代码编辑以及实时查看日志输出等功能。这时推荐采用 Visual Studio Code 编辑器配合官方插件实现无缝对接操作。只需按下默认快捷键 F1 并输入关键词 “Add Docker Files”,即可快速生成项目所需的基础构建文件集合[^2]。 通过这种方式不仅简化了初期设置过程而且有助于后续维护管理工作的开展。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

子杣

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值