《书生大模型实战营第3期》进阶岛 第2关： Lagent 自定义你的 Agent 智能体

原创 已于 2024-08-16 22:32:29 修改 · 797 阅读 · 19 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#LLM #多模态 #agent

于 2024-08-16 00:46:59 首次发布

文章大纲

Lagent 自定义你的 Agent 智能体

Lagent 介绍

Lagent 是一个轻量级开源智能体框架，旨在让用户可以高效地构建基于大语言模型的智能体。同时它也提供了一些典型工具以增强大语言模型的能力。

Lagent 目前已经支持了包括 AutoGPT、ReAct 等在内的多个经典智能体范式，也支持了如下工具：

  • Arxiv 搜索
  • Bing 地图
  • Google 学术搜索
  • Google 搜索
  • 交互式 IPython 解释器
  • IPython 解释器
  • PPT
  • Python 解释器

其基本结构如下所示：

在这里插入图片描述

环境配置

开发机选择 30% A100，镜像选择为 Cuda12.2-conda。

首先来为 Lagent 配置一个可用的环境。

# 创建环境
conda create -n agent_camp3 python=3.10 -y
# 激活环境
conda activate agent_camp3
# 安装 torch
conda install pytorch==2.1.2 torchvision==0.16.2 torchaudio==2.1.2 pytorch-cuda=12.1 -c pytorch -c nvidia -y
# 安装其他依赖包
pip install termcolor==2.4.0
pip install lmdeploy==0.5.2

接下来，我们通过源码安装的方式安装 lagent。

# 创建目录以存放代码
mkdir -p /root/agent_camp3
cd /root/agent_camp3
git clone https://github.com/InternLM/lagent.git
cd lagent && git checkout 81e7ace && pip install -e . && cd ..

Lagent Web Demo 使用

接下来，我们将使用 Lagent 的 Web Demo 来体验 InternLM2.5-7B-Chat 的智能体能力。

首先，我们先使用 LMDeploy 部署 InternLM2.5-7B-Chat，并启动一个 API Server。

conda activate agent_camp3
lmdeploy serve api_server /share/new_models/Shanghai_AI_Laboratory/internlm2_5-7b-chat --model-name internlm2_5-7b-chat

然后，我们在另一个窗口中启动 Lagent 的 Web Demo。

cd /root/agent_camp3/lagent
conda activate agent_camp3
streamlit run examples/internlm2_agent_web_demo.py

在等待两个 server 都完全启动（如下图所示）后，我们在 本地 的 PowerShell 中输入如下指令来进行端口映射：

ssh -CNg -L 8501:127.0.0.1:8501 -L 23333:127.0.0.1:23333 root@ssh.intern-ai.org.cn -p <你的 SSH 端口号>
LMDeploy api_serverLagent Web Demo
在这里插入图片描述在这里插入图片描述

接下来，在本地浏览器中打开 localhost:8501，并修改模型名称一栏为 internlm2_5-7b-chat，修改模型 ip一栏为127.0.0.1:23333。

[!IMPORTANT]
输入后需要按下回车以确认！

然后，我们在插件选择一栏选择 ArxivSearch，并输入指令“帮我搜索一下 MindSearch 论文”。

最后，可以看到，模型已经回复了相关信息。

在这里插入图片描述

模型要选择正确
在这里插入图片描述

基于 Lagent 自定义智能体

在本节中，我们将带大家基于 Lagent 自定义自己的智能体。

Lagent 中关于工具部分的介绍文档位于 https://lagent.readthedocs.io/zh-cn/latest/tutorials/action.html 。

使用 Lagent 自定义工具主要分为以下几步：

  1. 继承 BaseAction 类
  2. 实现简单工具的 run 方法；或者实现工具包内每个子工具的功能
  3. 简单工具的 run 方法可选被 tool_api 装饰；工具包内每个子工具的功能都需要被 tool_api 装饰

下面我们将实现一个调用 MagicMaker API 以完成文生图的功能。

首先，我们先来创建工具文件：

cd /root/agent_camp3/lagent
touch lagent/actions/magicmaker.py

然后，我们将下面的代码复制进入 /root/agent_camp3/lagent/lagent/actions/magicmaker.py

import json
import requests

from lagent.actions.base_action import BaseAction, tool_api
from lagent.actions.parser import BaseParser, JsonParser
from lagent.schema import ActionReturn, ActionStatusCode


class MagicMaker(BaseAction):
    styles_option = [
        'dongman',  # 动漫
        'guofeng',  # 国风
        'xieshi',   # 写实
        'youhua',   # 油画
        'manghe',   # 盲盒
    ]
    aspect_ratio_options = [
        '16:9', '4:3', '3:2', '1:1',
        '2:3', '3:4', '9:16'
    ]

    def __init__(self,
                 style='guofeng',
                 aspect_ratio='4:3'):
        super().__init__()
        if style in self.styles_option:
            self.style = style
        else:
            raise ValueError(f'The style must be one of {self.styles_option}')
        
        if aspect_ratio in self.aspect_ratio_options:
            self.aspect_ratio = aspect_ratio
        else:
            raise ValueError(f'The aspect ratio must be one of {aspect_ratio}')
    
    @tool_api
    def generate_image(self, keywords: str) -> dict:
        """Run magicmaker and get the generated image according to the keywords.

        Args:
            keywords (:class:`str`): the keywords to generate image

        Returns:
            :class:`dict`: the generated image
                * image (str): path to the generated image
        """
        try:
            response = requests.post(
                url='https://magicmaker.openxlab.org.cn/gw/edit-anything/api/v1/bff/sd/generate',
                data=json.dumps({
                    "official": True,
                    "prompt": keywords,
                    "style": self.style,
                    "poseT": False,
                    "aspectRatio": self.aspect_ratio
                }),
                headers={'content-type': 'application/json'}
            )
        except Exception as exc:
            return ActionReturn(
                errmsg=f'MagicMaker exception: {exc}',
                state=ActionStatusCode.HTTP_ERROR)
        image_url = response.json()['data']['imgUrl']
        return {'image': image_url}

最后，我们修改 /root/agent_camp3/lagent/examples/internlm2_agent_web_demo.py 来适配我们的自定义工具。

  1. 在 from lagent.actions import ActionExecutor, ArxivSearch, IPythonInterpreter 的下一行添加 from lagent.actions.magicmaker import MagicMaker
  2. 在第27行添加 MagicMaker()。
from lagent.actions import ActionExecutor, ArxivSearch, IPythonInterpreter
+ from lagent.actions.magicmaker import MagicMaker
from lagent.agents.internlm2_agent import INTERPRETER_CN, META_CN, PLUGIN_CN, Internlm2Agent, Internlm2Protocol

...
        action_list = [
            ArxivSearch(),
+             MagicMaker(),
        ]

接下来，启动 Web Demo 来体验一下吧！我们同时启用两个工具，然后输入“请帮我生成一幅山水画”

然后，我们再试一下“帮我搜索一下 MindSearch 论文”。

任务

  • https://github.com/InternLM/Tutorial/blob/camp3/docs/L2/Lagent/task.md

  • 使用 Lagent 自定义一个智能体，并使用 Lagent Web Demo 成功部署与调用，记录复现过程并截图。

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

把这个风景画变成国画风格

在这里插入图片描述

以下是输出结果，感觉模型不太会转化

在这里插入图片描述

在这里插入图片描述

{
    "name": "MagicMaker.generate_image",
    "parameters": {
        "keywords": "秦岭 小写意 山水画"
    }
}

在这里插入图片描述

其他学习内容

参考文献

大模型实战营 地址

  • https://openxlab.org.cn/models/InternLM/subject

本人学习系列笔记

第二期

第三期

入门岛

基础岛

课程资源

第三期 学院闯关手册

  • https://aicarrier.feishu.cn/wiki/XBO6wpQcSibO1okrChhcBkQjnsf

第三期 作业提交

  • https://aicarrier.feishu.cn/share/base/form/shrcnZ4bQ4YmhEtMtnKxZUcf1vd

第二期 学员手册

  • https://aicarrier.feishu.cn/wiki/KamPwGy0SiArQbklScZcSpVNnTb

算力平台

  • https://studio.intern-ai.org.cn/console/dashboard
  • https://studio.intern-ai.org.cn/

课程文档

  • https://github.com/InternLM/Tutorial/tree/camp3
  • https://github.com/InternLM/Tutorial/tree/camp2

课程视频

  • https://www.bilibili.com/video/BV15m421j78d

代码仓库

  • https://github.com/InternLM/Tutorial
  • https://github.com/InternLM/Tutorial/tree/camp2

优秀项目展示与学习

  • https://aicarrier.feishu.cn/wiki/DoKWwqslwiyjjKkHhqJcvXAZnwd?table=tblyxy5MZV7gJ7yS&view=vew0rj0WuN

论文

其他参考

原始视频

  • https://www.bilibili.com/video/BV18142187g5/?vd_source=d7bc15cac5976d766ca368e2f081b28b

原始文档

https://github.com/InternLM/Tutorial/blob/camp3/docs/L0/Linux/readme.md

本人博客：

书生浦语之：使用Lagent 自定义你的 Agent 智能体
XUTINGZHANGLOVE的专栏
08-08 925
本节中，我们将带大家基于 Lagent 自定义自己的智能体。Lagent 中关于工具部分的介绍文档位于动作 — Lagent。继承BaseAction类实现简单工具的run方法；或者实现工具包内每个子工具的功能简单工具的run方法可选被tool_api装饰；工具包内每个子工具的功能都需要被tool_api装饰下面我们将实现一个调用 MagicMaker API 以完成文生图的功能。首先，我们先来创建工具文件：然后，我们将下面的代码复制进入'dongman', # 动漫。
Lagent 自定义你的 Agent 智能体
qq_42137576的博客
08-17 660
基于 Lagent 自定义自己的智能体。Lagent 中关于工具部分的介绍文档位于 https://lagent.readthedocs.io/zh-cn/latest/tutorials/action.html。继承 BaseAction 类实现简单工具的 run 方法；或者实现工具包内每个子工具的功能简单工具的 run 方法可选被 tool_api 装饰；工具包内每个子工具的功能都需要被 tool_api 装饰下面实现一个调用 MagicMaker API 以完成文生图的功能。
L2-Lagent 自定义你的 Agent 智能体
qushaqugemane的博客
08-15 506
Lagent 是一个轻量级开源智能体框架，旨在让用户可以高效地构建基于大语言模型的智能体。同时它也提供了一些典型工具以增强大语言模型的能力。
Lagent 自定义你的 Agent 智能体（学习笔记）
weixin_49463617的博客
08-26 1162
首先，我们先来创建工具文件：/root/agent_camp3/lagent/actions/magicmaker.py。接下来，我们将使用 Lagent 的 Web Demo 来体验 InternLM2.5-7B-Chat 的智能体能力。首先，我们先使用 LMDeploy 部署 InternLM2.5-7B-Chat，并启动一个 API Server。然后，我们在另一个窗口中启动 Lagent 的 Web Demo。然后，我们再试一下“帮我搜索一下 MindSearch 论文”。
书生大模型实战营（第3期）进阶岛第2关--Lagent 自定义你的 Agent 智能体
aman_he的博客
08-29 1373
书生大模型实战营（第3期）进阶岛第二关--Lagent自定义你的 Agent 智能体，Lagent 是一个轻量级开源智能体框架，旨在让用户可以高效地构建基于大语言模型的智能体。同时它也提供了一些典型工具以增强大语言模型的能力。
【书生·浦语实战营】进阶岛第2关：Lagent 自定义你的 Agent 智能体
qq_43959624的博客
08-16 933
Lagent 中关于工具部分的介绍文档位于 https://lagent.readthedocs.io/zh-cn/latest/tutorials/action.html。接下来，启动 Web Demo 来体验一下，我们同时启用两个工具，然后输入“请帮我生成一幅山水画”,模型不存在，再次检查配置信息发现是因为模型名称填写错了我们部署地是。然后，我们在另一个窗口中启动 Lagent 的 Web Demo。接下来，我们通过源码安装的方式安装 lagent。然后，我们在插件选择一栏选择。
【阿尼亚探索大模型】书生大模型实战营-进阶岛第2关（L2G2000）Lagent 自定义你的 Agent 智能体
qq_45943172的博客
12-23 1172
将ArxivSearch插件选择上，再次输入指令“帮我搜索一下最新版本的MindSearch论文”，可以看到，通过调用外部工具，大模型成功理解了我们的任务，得到了我们需要的文献。第一步，我们再查询一下上海的天气，输入命令“帮我查询一下上海现在的天气”。尝试进行几轮简单的对话，并让其搜索文献，会发现大模型现在尽管有比较好的对话能力，但是并不能帮我们准确的找到文献。第二步，我们再次询问，让其搜索文献，可以看到，模型具备了根据任务情况调用不同工具的能力。输入项目名称，选择免费订阅，并在凭据设置中创建新的凭据。
书生·浦语 大模型实战营（第三期） 进阶岛 第2关 Lagent 自定义你的 Agent 智能体
Pythonliu7的博客
08-19 1162
Lagent 是一个轻量级开源智能体框架，旨在让用户可以高效地构建基于大语言模型的智能体。同时它也提供了一些典型工具以增强大语言模型的能力。Arxiv 搜索Bing 地图Google 学术搜索Google 搜索交互式 IPython 解释器IPython 解释器PPTPython 解释器在本节中，我们将带大家基于 Lagent 自定义自己的智能体。Lagent 中关于工具部分的介绍文档位于动作 — Lagent。继承BaseAction类实现简单工具的run。
第四期书生大模型实战营【进阶岛】—— Lagent 自定义你的 Agent 智能体
weixin_45730545的博客
02-13 1010
使用 Lagent 自定义工具主要分为以下3步：（1）继承BaseAction类（2）实现简单工具的run方法；或者实现工具包内每个子工具的功能（3）简单工具的 run 方法可选被tool_api装饰；工具包内每个子工具的功能都需要被tool_api装饰在文件夹下面创建一个天气查询的工具程序。import osraise EnvironmentError("未找到环境变量 'token'。
进阶岛 - 使用Lagent 自定义实现Agent 智能体
纸上得来终觉浅 绝知此事要躬行
08-16 1606
作为LLM的应用发展方向，Agent的应用潜力非常大Lagent是一个agent开发框架，可以快速的构筑agent应用Lagent已预置强有力的工具：搜索、地图、Python解释器参考官方例开发天气查询功能（高德API），让LLM获取实时天气信息，验证Agent开发外挂API的流程通过@tool_api注解，利用Python的注释即可自动将API的信息注入给LLM，非常方便验证效果相当好：可精确识别关键字并传递给agent的外挂API，并正确识别和组织返回信息（见文末）
AutoGen 技术博客系列 (二)：深入自定义智能体
zhangzhentiyes的博客
02-15 1613
虽然 AutoGen 提供了如 AssistantAgent 和 UserProxyAgent 等多种预设智能体，但这些预设智能体可能无法完全满足所有应用场景的需求。在以下情况下，可能需要创建自定义智能体：•特定的行为模式: 当你需要智能体具有特定的交互逻辑、决策流程或行为模式时。•特殊的工具集成: 当你需要智能体使用特定的工具或服务时，这些工具在预设智能体中没有提供。•独特的系统消息: 当你需要智能体具有独特的个性和角色，需要通过自定义系统消息来控制其行为时。
无代码创建一个自己定义的AI智能体
布小禅的博客
05-20 2422
AI智能体是基于人工智能技术发展而衍生出的一代产品，他们可以根据我们的需要来满足我们的要求，比如一个AI律师，我们可以24h咨询它，它也会根据我们的问题来给出相应的回答。很多人都觉得人工智能是很高大上的技术，我们普通人是很难搞定的，但是随着人工智能技术的越来越发达，很多人工智能框架的越来越成熟，我们普通人也是可以通过一些平台，框架，无需使用代码便可以创建一个自己想要创建的AI智能体的。随着社会与技术的不断发展，我们并不只需要考虑物质方面的需求，也要考虑如何满足我们空虚的内心世界，精神需求。
进阶岛-2.《Lagent 自定义你的 Agent 智能体》-学习笔记
weixin_43806237的博客
09-26 700
Lagent 中关于工具部分的介绍文档位于。继承BaseAction类实现简单工具的run方法；或者实现工具包内每个子工具的功能简单工具的run方法可选被tool_api装饰；工具包内每个子工具的功能都需要被tool_api装饰下面我们将实现一个调用 MagicMaker API 以完成文生图的功能。
手把手教你搭建自己的AI智能体（史上最全教程）
热门推荐
m0_59235699的博客
12-15 7万+
智能体简介会在首页以及名片页展示，需要简洁明了的介绍智能体用途。用第三人称的角度去说明你的智能体可以解决哪个问题，比如，输入一个课程题目为你生成课程大纲、说出一个主题为你生成一段脚本等。
AutoGen——自定义Agent
最新发布
General_zy的博客
09-14 1275
文章摘要 本文介绍了AutoGen框架中自定义Agent的进阶用法，通过两个示例演示如何突破预设功能限制。核心要点包括：1）自定义Agent需继承BaseChatAgent类并实现抽象方法；2）CountDownAgent示例展示流式消息处理和Response对象的关系；3）ArithmeticAgent示例说明如何创建执行特定运算的Agent；4）强调inner_messages的本地特性及上下文管理需自行处理。自定义Agent是将AutoGen从实验性工具转化为实用系统的关键步骤，开发者可通过重写核心方
Neutron/DVR L2 Agent
jincm的专栏
10-30 850
https://wiki.openstack.org/wiki/Neutron/DVR_L2_Agent?cm_mc_uid=98045490823414415953836&cm_mc_sid_50200000=1444277479 目录  [隐藏]  1 Authors2 Purpose3 Design Goals for L2 in DVR4 How Distribu
Flume编程-自定义Agent
weixin_42455459的博客
12-23 366
1.自定义Interceptor 可以自定义Interceptor，对agent接收的event header中添加KV值。在后面的Selector中根据添加的KV值来决定将event分发到channel的分发规则。 例如下面代码定义了一个interceptor，当接收event的body中含有Hello字符串时，向header添加type:hello键值对；否则添加type:nonhello键值对。若selector接收的event header type是hello，则将其分发到channel c1
第四期书生大模型：书生基础通关岛第三关
01-20
### 关于书生大模型第四期基础通关岛第三关 针对书生大模型第四期基础通关岛第三关的任务，此阶段主要聚焦于通过不同参数量训练模型并结合多种微调技术来优化特定任务的表现。具体而言，在对比 xcomposer2-4khd、internVL1.5 和 llava-llama3-8b 这些具有不同参数规模的预训练模型时，采用 LORA（低秩自适应）、QLORA 及 FULL 训练方法可以有效增强模型处理少量样本学习(few-shot learning)以及专门领域内图纸识别的能力[^1]。 为了成功完成这一挑战，建议采取如下策略： #### 数据准备 确保拥有高质量的数据集用于训练和验证，特别是那些能够代表目标应用场景中的特征数据，比如工业设计图或其他形式的技术绘图。 #### 模型选择与调整 基于项目需求挑选合适的基线模型，并考虑其参数大小对性能的影响。较小的模型可能更适合资源受限环境下的部署；而较大的模型则通常能提供更好的泛化能力。 #### 微调技巧应用 利用LORA或QLORA等高效微调方式快速适配新任务，减少计算成本的同时保持较高的准确性。对于更复杂的要求，则可尝试FULL fine-tuning以获得最佳效果。 ```python from transformers import AutoModelForSequenceClassification, Trainer, TrainingArguments model_name = "path_to_pretrained_model" model = AutoModelForSequenceClassification.from_pretrained(model_name) training_args = TrainingArguments( output_dir="./results", evaluation_strategy="epoch", per_device_train_batch_size=8, per_device_eval_batch_size=8, num_train_epochs=3, weight_decay=0.01, ) trainer = Trainer( model=model, args=training_args, train_dataset=train_dataset, eval_dataset=val_dataset, ) ``` 上述代码片段展示了如何设置一个简单的`Trainer`对象来进行模型微调操作。实际实现过程中还需要根据具体的任务类型调整配置项。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

shiter

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值