L2G6000 - MindSearch部署实践

MindSearch部署实践

部署MindSearch到 hugging face Spaces上

Codespaces上选择Blank模板创建

conda create -n mindsearch python=3.10 -y
conda init
conda activate mindsearch

cd /workspaces/codespaces-blank
git clone https://github.com/InternLM/MindSearch.git && cd MindSearch && git checkout ae5b0c5

pip install -r requirements.txt

获取硅基流动API KEY SiliconCloud

启动MindSearch

启动后端
export SILICON_API_KEY=<上面复制的API KEY>
conda activate mindsearch

# 进入你clone的项目目录
cd /workspaces/codespaces-blank/MindSearch
python -m mindsearch.app --lang cn --model_format internlm_silicon --search_engine DuckDuckGoSearch --asy
启动前端
conda activate mindsearch
# 进入你clone的项目目录
cd /workspaces/codespaces-blank/MindSearch
python frontend/mindsearch_gradio.py

在这里插入图片描述

部署到自己的 HuggingFace Spaces上

找到InternLM官方部署的MindSearch Spaces应用
Duplicate Space

  • Space Hardware选择第一条,即Free的2vCPU即可
  • 填写好SILICON_API_KEY,即上面提到的硅基流动的API KEY

访问链接:
MindSearch - a Hugging Face Space by guanzizai000
在这里插入图片描述

部署MindSearch streamlit版本到Hugging Face上

新Duplicate Space一个项目部署
将app.py中的代码替换为streamlit代码,具体见MindSearch/frontend/mindsearch_streamlit.py at main · InternLM/MindSearch
并在代码中添加如下几行启动后端服务:

import os
os.system("pip show starlette")
# os.system("pip install -r requirements.txt")
os.system("pip install tenacity")
os.system("python -m mindsearch.app --lang en --model_format internlm_silicon --search_engine BingSearch &")

搜索引擎有时可能抽风,根据需要改。

将README.md文件中sdk修改为streamlit

sdk: streamlit
sdk_version: 1.40.2

欢迎访问:
MindSearch - a Hugging Face Space by guanzizai000
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

不知不道abc

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值