大模型-部署客服

智能销售大模型

项目地址：https://github.com/filip-michalsky/SalesGPT?tab=readme-ov-file
首先先感谢老师的分享。本文章主要是对SalesGPT项目服务器部署相关内容的部署方法说明和经验总结。
本项目最大的亮点：
1.是真实的agent调用TOOL。
2,.能够通过API的形式被其他接口调用。
缺点愚见：
1.需要使用OPENAI的API接口。
2.特别容易出现会话结束的情况。
3.项目没有持续更新会出现pydantic库1.X和2.X不兼容的问题。

此项目在TX云中部署，使用 4核8G内存，ubuntu24.04.

部署步骤说明

第一步骤：
下载miniconda(conda虚拟环境工具)
mkdir -p ~/miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O ~/miniconda3/miniconda.sh
bash ~/miniconda3/miniconda.sh -b -u -p ~/miniconda3
rm -rf ~/miniconda3/miniconda.sh
~/miniconda3/bin/conda init bash

结果图片展示

第二步骤：

创建虚拟环境
conda create -n salesgpt python=3.10
激活虚拟环境
conda activate salesgpt
克隆项目
git clone https://github.com/filip-michalsky/SalesGPT.git
切换项目目录
cd SalesGPT
安装相关依赖
pip install salesgpt
复制配置文件
cp .env.example .env
编辑配置文件
vi .env
最后步骤编写文件是为了将openai的key放入变量中

第三步骤：
修改启动指令
vi run.py

启动项目（一个英文，一个中文）
python3 run.py --verbose True --config examples/example_agent_setup.json
python3 run.py --verbose True --config examples/example_cn_agent_setup.json
（启动项目命令需要注意，verbose 需要修改 type=str,action需要去除掉）

第四步骤：

安装Jupyter Notebook

1.更新系统的包索引
sudo apt update

2.升级pip工具
pip install --upgrade pip

3.使用Pip安装Jupyter Notebook
pip3 install jupyter

4.生成Jupyter Notebook的配置文件
jupyter notebook --generate-config

5.使用VI文本编辑器编辑Jupyter Notebook的配置文件
vi ~/.jupyter/jupyter_notebook_config.py

6.在配置文件中添加一下内容配置服务器：
c.NotebookApp.ip=‘0.0.0.0’
c.NotebookApp.open_browser = False
c.NotebookApp.port=8888
(这些内容需要手动添加到打开的配置文件中)

7.设置Jupyter Notebook的访问密码
jupyter notebook password

8.安装ipykernel
conda install ipykernel

9.为promptbench环境安装Jupyter Notebook内核
ipython kernel install --user --name=salesgpt

10.安装并升级Jupyter Notebook和ipywidgets
pip install --upgrade jupyter ipywidgets

11.以root用户身份运行Jupyter Notebook服务器
jupyter notebook --allow-root

(ID中设置安全组，0.0.0.0/0 AND TCP：8888)

执行成功展示

第五步骤：
使用教程
切换目录
cd /root/SalesGPT

写入一个新文件
vi requirements_1.txt

写入以下内容
uvicorn~=0.23.2
fastapi~=0.99.1
pydantic~=1.10.12
setuptools~=68.0.0

安装相关一类（前提虚拟环境要激活）（分开执行）
pip install -r requirements_1.txt
pip install "fastapi[all]"

升级langchain包
pip install --upgrade langchain langchain-core langsmith

修改系统配置文件内容
vi .env
(删除OpenAI秘钥两边的冒号)

第六步骤：
使用notebook对相关代码进行修改
（此时在服务器中运行会出现pydantic 1.X和2.X的版本错误，怎么换版本都会出现错误，这个时候需要安装两个库，如下图所示：）

1.使用的工具变量和工具文件必须加入进来

2.需要将代码中的 run.py、agents.py中的model"gpt-3.5-turbo-0613"替换成"gpt-4-1106-preview".例如下图。这样做的好处是能够更好的agent调用。

项目能够使用TOOL运行。完美！

以上内容不一定说的很清楚，可以留言进行反馈。内容中出现的错误也请各位同学指正！