书生浦语大模型实战营第三期 L2 MindSearch 快速部署学习笔记

1. 环境配置

首先新建一个目录用于存放 MindSearch 的相关代码,并把 MindSearch 仓库 clone 下来:

mkdir -p /root/mindsearch
cd /root/mindsearch
git clone https://github.com/InternLM/MindSearch.git
cd MindSearch && git checkout b832275 && cd ..

创建环境:

# 创建环境
conda create -n mindsearch python=3.10 -y
# 激活环境
conda activate mindsearch
# 安装依赖
pip install -r /root/mindsearch/MindSearch/requirements.txt

2. 获取硅基流动 API Key

硅基流动提供了免费的 InternLM2.5-7B-Chat 服务,MindSearch 的部署与使用进一步降低了部署门槛。这里使用硅基流动的 API 来部署 MindSearch:

打开 硅基流动统一登录 来注册硅基流动的账号,在完成注册后,打开 硅基流动统一登录 来准备 API Key。首先创建新 API 密钥,然后点击密钥进行复制,以备后续使用。

3. 启动 MindSearch

3.1 启动后端

由于硅基流动 API 的相关配置已经集成在了 MindSearch 中,所以可以直接执行下面的代码来启动 MindSearch 的后端:

export SILICON_API_KEY=第二步中复制的密钥
conda activate mindsearch
cd /root/mindsearch/MindSearch
python -m mindsearch.app --lang cn --model_format internlm_silicon --search_engine DuckDuckGoSearch

3.2 启动前端

打开新终端运行如下命令来启动 MindSearch 的前端:

conda activate mindsearch
cd /root/mindsearch/MindSearch
python frontend/mindsearch_gradio.py

本地浏览器中打开 localhost:7882 即可体验:

4. 部署到 HuggingFace Space

首先打开 https://huggingface.co/spaces ,并点击 Create new Space,输入 Space name 并选择 License 后,选择配置如下所示:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值