基于Python的自然语言处理系列(52):NLP中的Agent

        自然语言处理(NLP)中的Agent概念日益受到关注。Agent的核心思想是使用语言模型来选择“一个动作序列”以执行相应任务。与预设好执行步骤的“链(chains)”不同,Agent基于语言模型作为推理引擎来动态决定所采取的动作及其顺序。

        在Agent架构中,几个关键组成部分包括Agent本身、工具(Tools)、AgentExecutor等。

环境设置

        首先,我们需要导入必要的库和模型,并配置设备。

import langchain
import os
import torch

# 设置GPU设备
os.environ["CUDA_VISIBLE_DEVICES"] = "1"
device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')

        然后,我们加载语言模型,并使用LangChain的HuggingFacePipeline集成实现文本生成。

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM, pipeline
from langchain import HuggingFacePipeline

model_id = "models/fastchat-t5-3b-v1.0"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForSeq2SeqLM.from_pretrained(model_id, device_map=
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

会飞的Anthony

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值