一、Lagent:轻量级智能体框架
1. Lagent Web Demo
1.1 使用 LMDeploy 部署
- 需要使用 LMDeploy 启动的
api_server
。 - 在 VSCode 的终端中执行代码以启动
api_server
。
1.2 启动并使用 Lagent Web Demo
- 新建终端,执行命令启动 Lagent Web Demo。
- 命令:
cd /root/agent/lagent/examples
后streamlit run internlm2_agent_web_demo.py --server.address 127.0.0.1 --server.port 7860
- 等待服务启动后,进行端口映射,将
api_server
的23333端口和 Lagent Web Demo 的7860端口映射到本地。 - 访问
http://localhost:7860
使用 Lagent Web Demo。 - 输入模型 IP
127.0.0.1:23333
,选择插件ArxivSearch
进行论文搜索。
2. 用 Lagent 自定义工具
2.1 创建工具文件
- 新建工具文件
/root/agent/lagent/lagent/actions/weather.py
,实现天气查询功能。 - 工具类
WeatherQuery
继承自BaseAction
,使用tool_api
装饰器。
2.2 获取 API KEY
- 访问 QWeather API 文档 获取 API KEY。
- 创建项目并获取免费的 API KEY。
2.3 体验自定义工具效果
- 确保之前的 LMDeploy 服务和 Web Demo 服务已停止。
- 设置环境变量
WEATHER_API_KEY
为之前获取的 API KEY。 - 激活 Conda 环境,运行
streamlit
启动 Web Demo。 - 进行端口