LLM之Agent初探

什么是LLM Agent? LLM Agent 已经成为大语言模型中最有价值的探索方向,也更趋于最前沿的通用人工智能。构建企业自己的 LLM Agent 有助于企业在最前沿的人工智能领域探索具有完全自主性的智能化能力,包括基于企业知识库、企业工具 API(如:会议、审核、报表等)实现完全智能化的操作能力的探索。 阅读详情

Agent是什么?

Agent一词起源于拉丁语中的Agere,意思是“to do”。在LLM语境下,Agent可以理解为在某种能自主理解、规划决策、执行复杂任务的智能体。

Agent并非ChatGPT升级版,它不仅告诉你“如何做”,更会帮你去做。如果Copilot是副驾驶,那么Agent就是主驾驶。

自主Agent是由人工智能驱动的程序,当给定目标时,它们能够自己创建任务、完成任务、创建新任务、重新确定任务列表的优先级、完成新的顶级任务,并循环直到达到目标。

最直观的公式:Agent = LLM+Planning+Feedback+Tool use

Agent决策流程

感知(Perception)→ 规划(Planning)→ 行动(Action)

  • • 感知(Perception)是指Agent从环境中收集信息并从中提取相关知识的能力。

  • • 规划(Planning)是指Agent为了某一目标而作出的决策过程。

  • • 行动(Action)是指基于环境和规划做出的动作。

Agent通过感知从环境中收集信息并提取相关知识。然后通过规划为了达到某个目标做出决策。最后,通过行动基于环境和规划做出具体的动作。Policy是Agent做出行动的核心决策,而行动又为进一步感知提供了观察的前提和基础,形成了一个自主的闭环学习过程。

人是如何做事的?

在工作中,我们通常会用到PDCA思维模型。基于PDCA模型,我们可以将完成一项任务进行拆解,按照作出计划、计划实施、检查实施效果,然后将成功的纳入标准,不成功的留待下一循环去解决。目前,这是人们高效完成一项任务非常成功的经验总结。

请添加图片描述

如何让LLM替代人去做事?

要让LLM替代人去做事,我们可以基于PDCA模型进行 规划、执行、评估和反思。

规划能力(Plan)-> 分解任务:Agent大脑把大的任务拆解为更小的,可管理的子任务,这对有效的、可控的处理好大的复杂的任务效果很好。

执行能力(Done)-> 使用工具:Agent能学习到在模型内部知识不够时(比如:在pre-train时不存在,且之后没法改变的模型weights)去调用外部API,比如:获取实时的信息、执行代码的能力、访问专有的信息知识库等等。这是一个典型的平台+工具的场景,我们要有生态意识,即我们构建平台以及一些必要的工具,然后大力吸引其他厂商提供更多的组件工具,形成生态。

评估能力(Check)-> 确认执行结果:Agent要能在任务正常执行后判断产出物是否符合目标,在发生异常时要能对异常进行分类(危害等级),对异常进行定位(哪个子任务产生的错误),对异常进行原因分析(什么导致的异常)。

反思能力(Adjust)-> 基于评估结果重新规划:Agent要能在产出物符合目标时及时结束任务,是整个流程最核心的部分;同时,进行归因分析总结导致成果的主要因素,另外,Agent要能在发生异常或产出物不符合目标时给出应对措施,并重新进行规划开启再循环过程。

下面,来看几个具体的案例

让LLM能够获取当前时间

首先,我们定义一个获取当前时间的tool

from langchain.tools import Tool  
  
def get_time(input=""):  
    return datetime.datetime.now()  
  
  
#定义获取当前时间  
time_tool = Tool(  
    name='get current time',  
    func= get_time,  
    description="用来获取当前时间. input should be 'time'"""  
)

name: 工具名称 func: 工具的实现 description: 工具的描述,一定要是准确的描述,该部分会加入到LLM的prompt中,若描述不准确,LLM可能无法准确调用

我们将langchain中内置的prompt打印出来看看

    Respond to the human as helpfully and accurately as possible. You have access to the following tools:  
  
    get current time: 用来获取当前时间. input should be 'time', args: {{'tool_input': {{'type': 'string'}}}}  
  
    Use a json blob to specify a tool by providing an action key (tool name) and an action_input key (tool input).  
  
    Valid "action" values: "Final Answer" or get current time  
  
    Provide only ONE action per $JSON_BLOB, as shown:  
  
    ```
    {{  
    "action": $TOOL_NAME,  
    "action_input": $INPUT  
    }}  
    ```
  
    Follow this format:  
  
    Question: input question to answer  
    Thought: consider previous and subsequent steps  
    Action:  
    ```
    $JSON_BLOB  
    ```
    Observation: action result  
    ... (repeat Thought/Action/Observation N times)  
    Thought: I know what to respond  
    Action:  
    ```
    {{  
    "action": "Final Answer",  
    "action_input": "Final response to human"  
    }}  
    ```
  
    Begin! Reminder to ALWAYS respond with a valid json blob of a single action. Use tools if necessary. Respond directly if appropriate. Format is Action:```$JSON_BLOB```then Observation:.  
    Thought:

从以上prompt可以看出,我们定义好的获取当前时间的工具函数,也被包裹在里面,并且,他还帮我们生成了一个输入参数的格式限制prompt:args: {{‘tool_input’: {{‘type’: ‘string’}}}}

我们接着看:

    Use a json blob to specify a tool by providing an action key (tool name) and an action_input key (tool input).  
  
    Valid "action" values: "Final Answer" or get current time  
  
    Provide only ONE action per $JSON_BLOB, as shown:  
  
    ```
    {{  
    "action": $TOOL_NAME,  
    "action_input": $INPUT  
    }}  
    ```

这段prompt要求LLM生成的action需要是一个jsonb的格式,并且包含两个key:action和action_input,分别对应工具名和工具的输入,并且给了一个样例。

并且,有效的action不仅包含了get current time,还多了个Final Answer

我们来用一个实际的问题试试:

question = "现在几点?"  
  
result = agent.run(question)  
print(result)

输出

当前时间是2024年01月02日11点12分01秒。

对比下未使用tool的输出:

我无法回答这个问题,因为我没有实时访问实际的时间或日期。我是根据我的训练数据提供信息的。

可见,当不使用tool时,LLM是无法知道当前时间的

为了更容易理解Agent是如何工作的,我打印出了中间过程的日志:

    Thought: 需要使用工具获取当前时间  
    Action:  
    ```
    {  
    "action": "get current time",  
    "action_input": {  
        "type": "string"  
    }  
    }  
    ```
  
    Observation: 2024-01-02 11:44:16.900356  
  
    我现在知道了当前时间  
    Action:  
    ```
    {  
    "action": "Final Answer",  
    "action_input": "当前时间是2024年01月02日11点44分16秒。"  
    }  
    ```

首先,LLM先思考应该调用哪个工具,并且知道应该调用get current time,且给出了输入参数的类型

接着,拿到了LLM输出的结果,即:Observation: 2024-01-02 11:44:16.900356

最后,LLM知道了答案,再次调用工具:Final Answer输出答案

让LLM拥有计算器的功能

langchain内置了许多工具,使用load_tools函数即可加载,这次我们不自己定义tool了,我们使用langchain内置的工具试试。

    tools = load_tools(tool_names=["llm-math"], llm=llm)  
  
    tools.append(time_tool)

看看llm-math的定义

def _get_llm_math(llm: BaseLanguageModel) -> BaseTool:  
    return Tool(  
        name="Calculator",  
        description="Useful for when you need to answer questions about math.",  
        func=LLMMathChain.from_llm(llm=llm).run,  
        coroutine=LLMMathChain.from_llm(llm=llm).arun,  
    )  

我们看看此时的prompt

    Respond to the human as helpfully and accurately as possible. You have access to the following tools:  
  
    Calculator: Useful for when you need to answer questions about math., args: {{'tool_input': {{'type': 'string'}}}}  
    get current time: 用来获取当前时间. input should be 'now', args: {{'tool_input': {{'type': 'string'}}}}  
  
    Use a json blob to specify a tool by providing an action key (tool name) and an action_input key (tool input).  
  
    Valid "action" values: "Final Answer" or Calculator, get current time  
  
    Provide only ONE action per $JSON_BLOB, as shown:  
  
    ```
    {{  
    "action": $TOOL_NAME,  
    "action_input": $INPUT  
    }}  
    ```
  
    Follow this format:  
  
    Question: input question to answer  
    Thought: consider previous and subsequent steps  
    Action:  
    ```
    $JSON_BLOB  
    ```
    Observation: action result  
    ... (repeat Thought/Action/Observation N times)  
    Thought: I know what to respond  
    Action:  
    ```
    {{  
    "action": "Final Answer",  
    "action_input": "Final response to human"  
    }}  
    ```
  
    Begin! Reminder to ALWAYS respond with a valid json blob of a single action. Use tools if necessary. Respond directly if appropriate. Format is Action:```$JSON_BLOB```then Observation:.  
    Thought:

相比上一个例子,多了一个名叫Calculator的prompt: Calculator: Useful for when you need to answer questions about math., args: {{'tool_input': {{'type': 'string'}}}}

实际上就是多了个tool name 和 tool description

来试试效果

question = "789*324353等于多少?"  
  
result = agent.run(question)  
print(result)

输出

255914517

对比下未使用tool的输出:

789 * 324353 = 324353 * (700 + 80 + 9) = 324353 * 700 + 324353 * 80 + 324353 * 9 = 227047100 + 25948240 + 2921177 = 252995340 + 2921177 = 255916517

未使用tool虽然没有获得正确答案,但好在知道将数学问题分解,但我这里使用的是qwen-72b-chat-int4,要是小一点的模型,就不一定有这样的效果了。

以下是baichuan2-13b-chat的输出

789乘以324353等于259553427。

让LLM获取实时天气

定义tool:

China-City-List-latest.csv文件从(https://github.com/qwd/LocationList/blob/master/China-City-List-latest.csv下载

和风天气API key需要在https://dev.qweather.com注册获取,自行google

def getLocationId(city):  
    d = collections.defaultdict(str)  
    try:  
        df = pd.read_csv("./data/datasets/virus/China-City-List-latest.csv", encoding='utf-8')  
    except Exception as e:  
        print(e)  
    for i, row in df.iterrows():  
        d[row['Location_Name_ZH']] = row['Location_ID']  
    return d[city] if city in d else ''  
  
  
def get_weather(location):  
    key = "你的和风天气API key"  
    id = getLocationId(location)  
    if not id:  
        return "没有这个城市"  
    base_url = 'https://devapi.qweather.com/v7/weather/now?'  
    params = {'location': id, 'key': key, 'lang': 'zh'}  
    response = requests.get(base_url, params=params)  
    data = response.json()  
    if data["code"] != "200":  
        return "没有这个城市的天气情况"  
    return get_weather_info(data)  
  
  
def get_weather_info(info):  
    if info["code"] != "200":  
        return "没有这个城市的天气情况"  
    # result = f'现在天气{info["hourly"][0]["text"]},温度 {info["hourly"][0]["temp"]} 度, 未来 24 小时天气{info["hourly"][-1]["text"]},温度 {info["hourly"][-1]["temp"]} 度。'  
  
    result = f"""   
现在天气: {info["now"]["text"]}  
温度: {info["now"]["temp"]} 摄氏度  
风向: {info["now"]["windDir"]}  
风力等级: {info["now"]["windScale"]}  
风速: {info["now"]["windSpeed"]} 公里/小时  
"""  
  
    return result  
  
  
weather_tool = Tool(  
    name='get current weather',  
    func= get_weather,  
    description="用来获取当地的天气信息,输入应该是城市名称"""  
)

来试试效果

question = "杭州今天能穿短袖吗?"  
  
result = agent.run(question)  
print(result)

输出

不建议穿短袖,今天杭州有霾,温度为10摄氏度。

对比下未使用tool的输出:

作为一个语言模型,我无法获取实时的天气信息。请您自行查询杭州当前的天气情况,并根据气温和个人体质决定是否穿短袖。

以上工具函数,输入参数均只有一个,接下来看看,当输入参数有多个时,应如何处理

tool有多个输入参数的场景

定义tool:

class FutureWeatherInput(BaseModel):  
    location: str = Field(description="城市名称")  
    date: str = Field(description="日期,格式:yyyy-mm-dd,如:2021-11-15")  
  
  
def get_future_weather(location, date):  
    key = "你的和风天气API key"  
    id = getLocationId(location)  
    if not id:  
        return "没有这个城市"  
    base_url = 'https://devapi.qweather.com/v7/weather/7d?'  
    params = {'location': id, 'key': key, 'lang': 'zh'}  
    response = requests.get(base_url, params=params)  
    data = response.json()  
    if data["code"] != "200":  
        return "没有这个城市的天气情况"  
      
    result = {}  
    daily = data["daily"]  
    for item in daily:  
        fxDate = item["fxDate"]  
  
        weather_text = f"""   
天气: {item["textDay"]}  
最高温度: {item["tempMax"]} 摄氏度  
最低温度: {item["tempMin"]} 摄氏度  
风向: {item["windDirDay"]}  
风力等级: {item["windScaleDay"]}  
风速: {item["windSpeedDay"]} 公里/小时  
"""  
        result[fxDate] = weather_text  
  
    return result[date]  
  
  
future_weather_tool = StructuredTool(  
    name='get future weather',  
    func= get_future_weather,  
    description="用来获取当地今天和未来六天的天气信息。""",  
    args_schema=FutureWeatherInput  
)

当tool需要多个输入参数时,我们不再使用Tool类,而使用StructuredTool类,它的定义如下(从langchain源码里可以找到)

class StructuredTool(BaseTool):  
    """Tool that can operate on any number of inputs."""  
  
    description: str = ""  
    args_schema: Type[BaseModel] = Field(..., description="The tool schema.")  
    """The input arguments' schema."""  
    func: Optional[Callable[..., Any]]  
    """The function to run when the tool is called."""  
    coroutine: Optional[Callable[..., Awaitable[Any]]] = None  
    """The asynchronous version of the function."""

且通过pydantic的BaseModel来约束输入,对输入参数的description也是必要的,因为该description也会传到prompt中

Calculator: Useful for when you need to answer questions about math., args: {{'tool_input': {{'type': 'string'}}}}  
get current time: 用来获取当前时间. input should be 'now'。当需要获取今天、明天、后天等的日期时,你应该调用此函数获取今天的日期, args: {{'tool_input': {{'type': 'string'}}}}  
get current weather: 用来获取当地当天的天气信息,输入应该是城市名称, args: {{'tool_input': {{'type': 'string'}}}}  
get future weather: 用来获取当地今天和未来六天的天气信息。, args: {{'location': {{'title': 'Location', 'description': '城市名称', 'type': 'string'}}, 'date': {{'title': 'Date', 'description': '日期,格式:yyyy-mm-dd,如:2021-11-15', 'type': 'string'}}}}  
  
Use a json blob to specify a tool by providing an action key (tool name) and an action_input key (tool input).  
  
Valid "action" values: "Final Answer" or Calculator, get current time, get current weather, get future weather

来试试效果

question = "今天是几号?明天准备去杭州旅游,能穿短袖吗?"  
  
result = agent.run(question)  
print(result)

输出

明天杭州的天气预报为晴,最高温度为13摄氏度,最低温度为2摄氏度,建议携带一些保暖衣物。

让LLM实现联网搜索

定义tool:

def get_internet_content(query):  
    params = {  
        "engine": "baidu",  
        "q": query,  
        "api_key": "你的 Serpapi key"  
    }  
  
    search = BaiduSearch(params)  
    result = search.get_json()["organic_results"][0]["snippet"]  
    return result  
  
baidu_search_tool = Tool(  
    name='百度搜索',  
    func= get_internet_content,  
    description="用来从互联网上获取当前时事信息,输入应该是搜索query"""   
)

Serpapi key需要你自行注册获取,地址https://serpapi.com/

来试试效果

question = "小米su7什么时候发布"  
  
result = agent.run(question)  
print(result)

输出

小米su7预计将于2024年上半年量产上市。

Agent之所以能回答该问题,是因为我们使用百度搜索获取了小米su7 发布日期的相关信息,LLM再基于该信息总结答案,相当于外挂了一个知识库,只不过这个知识库不再是我们本地的数据库,而是百度搜索

到这里你会发现,其实不同的工具,就是不同的函数而已,要想Agent能够适配自己的业务场景,只是把这些函数换成了自己业务相关的函数或接口。

以上LLM使用的均是qwen-72b-chat-int4,同时也对比过baichuan2-13b-chat、yi-34b-chat,qwen-14b-chat,其中baichuan2-13b-chat效果最差,基本无法理解如何调用tool,yi-34b-chat不如qwen-14b-chat,qwen-72b-chat-int4效果最好,个人猜测主要原因是因为qwen系列的模型在专门的工具调用数据集上训练过,因此效果要比其他模型要好,且官方开源了一个大模型工具调用数据集,地址: MSAgent-Bench大模型工具调用数据集

完整代码

import collections  
import random  
import requests  
import datetime  
import pandas as pd  
from langchain.tools import Tool, StructuredTool  
from langchain.agents import initialize_agent  
from langchain.chat_models import ChatOpenAI  
from langchain.agents import load_tools  
from langchain.agents import AgentType  
  
from pydantic import BaseModel, Field  
from serpapi.baidu_search import BaiduSearch  
  
  
def getLocationId(city):  
    d = collections.defaultdict(str)  
    try:  
        df = pd.read_csv("./data/datasets/virus/China-City-List-latest.csv", encoding='utf-8')  
    except Exception as e:  
        print(e)  
    for i, row in df.iterrows():  
        d[row['Location_Name_ZH']] = row['Location_ID']  
    return d[city] if city in d else ''  
  
  
def get_weather(location):  
    key = "你的和风天气API key"  
    id = getLocationId(location)  
    if not id:  
        return "没有这个城市"  
    base_url = 'https://devapi.qweather.com/v7/weather/now?'  
    params = {'location': id, 'key': key, 'lang': 'zh'}  
    response = requests.get(base_url, params=params)  
    data = response.json()  
    if data["code"] != "200":  
        return "没有这个城市的天气情况"  
    return get_weather_info(data)  
  
  
class FutureWeatherInput(BaseModel):  
    location: str = Field(description="城市名称")  
    date: str = Field(description="日期,格式:yyyy-mm-dd,如:2021-11-15")  
  
  
def get_future_weather(location, date):  
    key = "你的和风天气API key"  
    id = getLocationId(location)  
    if not id:  
        return "没有这个城市"  
    base_url = 'https://devapi.qweather.com/v7/weather/7d?'  
    params = {'location': id, 'key': key, 'lang': 'zh'}  
    response = requests.get(base_url, params=params)  
    data = response.json()  
    if data["code"] != "200":  
        return "没有这个城市的天气情况"  
      
    result = {}  
    daily = data["daily"]  
    for item in daily:  
        fxDate = item["fxDate"]  
  
        weather_text = f"""   
天气: {item["textDay"]}  
最高温度: {item["tempMax"]} 摄氏度  
最低温度: {item["tempMin"]} 摄氏度  
风向: {item["windDirDay"]}  
风力等级: {item["windScaleDay"]}  
风速: {item["windSpeedDay"]} 公里/小时  
"""  
        result[fxDate] = weather_text  
  
    return result[date]  
  
      
  
  
def get_weather_info(info):  
    if info["code"] != "200":  
        return "没有这个城市的天气情况"  
    # result = f'现在天气{info["hourly"][0]["text"]},温度 {info["hourly"][0]["temp"]} 度, 未来 24 小时天气{info["hourly"][-1]["text"]},温度 {info["hourly"][-1]["temp"]} 度。'  
  
    result = f"""   
现在天气: {info["now"]["text"]}  
温度: {info["now"]["temp"]} 摄氏度  
风向: {info["now"]["windDir"]}  
风力等级: {info["now"]["windScale"]}  
风速: {info["now"]["windSpeed"]} 公里/小时  
"""  
    return result  
  
  
def get_internet_content(query):  
    params = {  
        "engine": "baidu",  
        "q": query,  
        "api_key": "你的SerpApi key"  
    }  
  
    search = BaiduSearch(params)  
    result = search.get_json()["organic_results"][0]["snippet"]  
    return result  
  
  
  
def test_agent_example():  
    model = "Qwen-72B-Chat-Int4"  
    api_key = "EMPTY"  
    base_url = "http://localhost:8000/v1"  
  
    llm = ChatOpenAI(model=model, temperature=0, api_key=api_key, base_url=base_url)  
  
  
    print(get_weather("北京"))  
  
  
    def get_time(input=""):  
        return datetime.datetime.now()  
      
    #定义获取当前时间  
    time_tool = Tool(  
        name='get current time',  
        func= get_time,  
        description="用来获取当前时间. input should be 'now'。当需要获取今天、明天、后天等的日期时,你应该调用此函数获取今天的日期"""  
    )  
  
    weather_tool = Tool(  
        name='get current weather',  
        func= get_weather,  
        description="用来获取当地当天的天气信息,输入应该是城市名称"""  
    )  
  
    future_weather_tool = StructuredTool(  
        name='get future weather',  
        func= get_future_weather,  
        description="用来获取当地今天和未来六天的天气信息。""",  
        args_schema=FutureWeatherInput  
    )  
  
  
  
    tools = load_tools(tool_names=["llm-math"], llm=llm)  
  
    tools.extend([time_tool, weather_tool, future_weather_tool])  
  
  
    #创建代理  
    agent = initialize_agent(  
        agent=AgentType.STRUCTURED_CHAT_ZERO_SHOT_REACT_DESCRIPTION,  
        tools=tools,  
        llm=llm,  
        verbose=True,  
        max_iterations=5,  
        handle_parsing_errors=True  
    )  
  
    print(agent.agent.llm_chain.prompt[0].prompt.template)  
  
    question = "今天是几号?明天准备去杭州旅游,能穿短袖吗?"  
  
    result = agent.run(question)  
    print("----"*20)  
    print(result)

总结

1、tool description 非常重要,没有写好description,agent无法理解在什么情况下应该调用该tool

2、输入参数的 description 非常重要,想要LLM生成给定格式的输入参数,可以给一些few shot样例

3、agent本质还是prompt工程,极大程度上依赖于LLM的参数量。小模型无法理解prompt,无法生成给定格式的输入参数,导致tool函数不能被正常调用

​

如何学习AI大模型?

作为一名热心肠的互联网老兵,我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

一、全套AGI大模型学习路线

AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!

img

二、640套AI大模型报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。

img

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

img

四、AI大模型商业化落地方案

img

作为普通人,入局大模型时代需要持续学习和实践,不断提高自己的技能和认知水平,同时也需要有责任感和伦理意识,为人工智能的健康发展贡献力量。

理解基于LLM的Agent及多Agent架构 Agent 是一个自主单元,通过编程可以执行任务、做出决策并与环境通信。同样,基于 LLM 的 Agent 是一个高级单元,它将 LLM 作为大脑来进行思考、做出决策并采取行动完成特定任务。这些 Agent 还可以拥有记忆,可以是短期记忆( Agent 的思路),也可以是长期记忆(对话历史)。它们还可以使用工具来执行任务,如上网搜索、使用计算器等。让我们看看下面的示例–如果用户的天气条件不理想(如大雨、极端温度或大风),则以电子邮件的形式向用户发送个性化提示。 阅读详情

相关推荐

基于LangChain的LLM应用开发 - Agent

在计算机科学中,Agent是一种可以在某种环境中自主行动以达成特定目标的软件实体。Agent可以感知其环境,并根据其设计的目标和策略,对环境进行操作以达成目标。Agent的设计和实现涉及到多个领域,包括人工智能、机器学习、分布式系统等。Agent的基本特性包括:自主性:Agent可以在没有人工干预的情况下独立完成任务。反应性:Agent可以感知其环境,并根据环境的变化做出相应的反应。主动性:Agent不仅可以对环境变化做出反应,还可以主动地改变环境以达成其目标。

xinfeng118的博客 2673

AI Agent(或者LLM Agent)深度讲解

AI Agent是一种超越简单文本生成的人工智能系统。它使用大型语言模型(LLM)作为其核心计算引擎,使其能够进行对话、执行任务、推理并展现一定程度的自主性。简而言之,Agent是一个具有复杂推理能力、记忆和执行任务手段的系统。

顺其自然~专栏 2万+

LLM vs AI Agent

它是一种基于深度学习的人工智能大语言模型,通过对海量文本数据进行训练,学习语言的语法、语义、逻辑等方面的知识。像GPT系列、文心一言、通义千问等都属于大语言模型。LLM能完成文本生成、知识问答、推理计算、语言翻译等多种任务,在自然语言处理领域有广泛应用。诶,是不是很牛,但是还要AI Agent这个代理干嘛使?这我们就要看看LLM的一些痛点了。在特定行业场景中,通用大模型具有的泛化服务特性,很难在某些特定领域知识问答、内容生成、业务处理和管理决策等方面精准满足用户的需求;

m0_37681136的博客 1425

基于大模型(LLM)的Agent 应用开发

目前,业界一般认为基于大模型的应用集中在两个方向上:RAG 和 Agent,无论哪一种应用,设计、实现和优化能够充分利用大模型(LLM)潜力的应用都需要大量的努力和专业知识。随着开发人员开始创建日益复杂的LLM应用程序,开发流程不可避免地变得更加复杂。这种流程的潜在设计空间可能是巨大而复杂的,《如何构建基于大模型的App》一文给出了一种探索中的大模型应用开发基础框架,基本可以适用于RAG 和Age...

我相信...... 7749

【LangChain Agent 】详解,构建自主决策的 LLM 应用

LangChain是一个用于构建基于大语言模型(LLM)应用的强大开发框架,特别适合创建智能问答、聊天机器人、自动化助手等 AI 驱动的应用。🚀 核心功能链式组合(Chain)可以将多个模块(例如:Prompt、模型调用、解析器等)链接在一起,形成一条“处理链”。上下文记忆(Memory)能保存用户的对话历史,实现连续对话或任务跟踪。工具集成(Tools)集成搜索引擎、数据库、API 调用等外部工具,让语言模型更具执行力。Agent(智能体)支持。

博客虽小,世界尽在其中 1748

Agent : 一文读懂LLM Agent架构,详解Profile,Memory,Planning,Action模块作用

对于对Agent感兴趣的朋友们,我推荐一篇论文,它全面地介绍了Agent的架构,对于理解Agent的全局有着重要的价值。架构就像PC的硬件,但仅依赖架构设计是不够的,我们还需要赋予Agent完成不同任务的能力,这些被视为“软件”资源。除了这些基础知识,我认为最有价值的部分在于,它总结了基于大型语言模型(LLM)的Agent的架构,使我们能够按照一定的标准范式去设计自己的Agent。反馈的来源可能来自任务执行结果的客观反馈,也可能是根据人的主观判断给出的反馈,甚至还可以是由辅助模型提供的反馈。

具身机器人和通用AI 1万+

LLM - 初探:AI-Agent开发实录

本文分享了构建AI自动生成API文档的探索过程。从初期依赖现成工具的失败尝试,到重新定义AI角色边界,最终采用结构化工作流模式(Plan-and-Execute)实现突破。关键创新包括:1)设计中间语言降低AI认知负荷;2)建立自愈循环机制自动修复文档;3)区分理解与生成阶段提升稳定性。作者还展望了多Agent协作架构的潜力,为技术团队解决文档滞后问题提供了实践路径。(149字)

小工匠 1697

AI Agent框架(LLM Agent):LLM驱动的智能体如何引领行业变革,应用探索与未来展望

AI Agent框架(LLM Agent):LLM驱动的智能体如何引领行业变革,应用探索与未来展望

丨汀、的博客 3857

AI Agent初探:让LLM自己决定该调用什么工具

本文介绍了如何利用Agent和ReAct框架构建智能助手,相比传统if-else方法可减少一半代码量。核心观点包括: Agent与Chain的区别:Agent像项目经理自主决策,Chain像流水线工人按固定流程执行。 ReAct框架的"思考-行动-观察"循环:模型通过Thought分析问题,Action调用工具,Observation获取结果,循环直至解决问题。 实战演示:通过定义搜索、计算、天气三个工具函数,创建Agent处理复合需求(如查询天气并转换温度单位)。

一名80后IT人的成长记录,记录自己在工作、学习中的点点滴滴,在成长的喜悦与忧心的故事里,铭记反脆弱的勇气。 620

华为OD机试_2025 B卷_模拟消息队列(Python,100分)(附详细解题思路)

时间排序:确保事件处理顺序正确消费者管理:集合操作高效维护状态优先级实现:利用消费者ID自然排序边界处理:正确处理空消费者情况。

测试工程师的成长之路 1123

探索LLM世界:新手小白的学习路线图

通过系统的学习和实践,新手小白也能逐步掌握LLM的核心技术。掌握LLM不仅能提升个人技术水平,还能为职业发展带来广阔的前景。未来,随着技术的不断进步,LLM将在更多领域发挥重要作用,成为推动科技进步的重要力量。学习LLM是一条充满挑战但也充满机遇的道路。只要你坚持不懈、不断学习和实践,就一定能够在LLM领域取得突破。希望本文提供的学习路线图能为你指明方向,助你早日掌握LLM,开启AI学习的新篇章!

m0_62110645的博客 2360

LLM大模型应用开发初探 : 基于Coze创建Agent(附教程)

最近学习了一门课程《AI Agent入门实战》,了解了如何在Coze平台上创建AI Agent,发现它对我们个人(C端用户)而言十分有用,分享给你一下。

AAI666666的博客 1090

RC电路(一):微分|积分

的取值不同,会导致输出波形和输入波形之间的关系也不同,由此也会产生不同的应用。输出为0,随着电容充满电,运放-输入端得到的分压为正最大值,可等效成一个电压源,且电压不可突变,此时电流反向为最大值,开始充电时的容抗为0,电压不可突变则电压差为0,运放。开始充电时的容抗为0,电压不可突变则电压差为0,运放。输入端得到的分压也不可突变,随着电容放完电,于是。,因电容上电压不能突变(来不及充电,相当于短路,由上分析可得积分运算电路中,输出为运放的负最大峰值,随着电容充满电,输出为运放的正最大峰值,随着电容放完电,

既有随处可栖的江湖,也有追风逐梦的骁勇! 1万+

【langchain快速入门】langchain初探:chain、检索(利用向量查询、少样本增强LLM能力)、agent、langserve初探

【langchain快速入门】langchain初探:chain、检索(利用向量查询、少样本增强LLM能力)、agent、langserve初探

hiliang521的博客 1537

10、现代统计方法:趋势面分析、薄板样条与广义线性模型

本文系统介绍了空间预测建模中的三种现代统计方法:趋势面分析(TSA)、薄板样条(TPS)和广义线性模型(GLM)。详细阐述了每种方法的原理、实现步骤、参数优化与预测评估,并结合R语言代码示例展示了在实际数据中的应用。文章还提供了方法对比流程图与土壤湿度预测案例,帮助读者根据数据特征选择合适模型,提升空间预测的准确性与可靠性。

play7的博客 159

如何对TBSS的结果进行统计学的分析,已完成置换检验,如何在最终的TBSS输出结果提取除具体值及如何做进一步相关性分析??

🏆本文收录于 《全栈 Bug 调优(实战版)》 专栏。专栏聚焦真实项目中的各类疑难 Bug,从成因剖析 → 排查路径 → 解决方案 → 预防优化全链路拆解,形成一套可复用、可沉淀的实战知识体系。无论你是初入职场的开发者,还是负责复杂项目的资深工程师,都可以在这里构建一套属于自己的「问题诊断与性能调优」方法论,助你稳步进阶、放大技术价值。

**My Coding Family** 1442

AI大模型初探:LLM、RAG、AI Agent,小白必看收藏版!

对于正在迷茫择业、想转行提升,或是刚入门的程序员、编程小白来说,有一个问题几乎人人都在问:未来10年,什么领域的职业发展潜力最大?答案只有一个:人工智能(尤其是大模型方向)当下,人工智能行业正处于爆发式增长期,其中大模型相关岗位更是供不应求,薪资待遇直接拉满——字节跳动作为AI领域的头部玩家,给硕士毕业的优质AI人才(含大模型相关方向)开出的月基础工资高达5万—6万元;即便是非“人才计划”的普通应聘者,月基础工资也能稳定在4万元左右。

m0_48891301的博客 702

Vue3 - 超详细“纯前端“将文件上传到阿里云OSS对象存储,最新阿里云前端直传音频、视频、图片、文件、office文档等任意文件,vue3单个或批量从本地选择文件,秒传到阿里云oss无需后端接口!

vue3,阿里云oss存储,前端直传oss,上传图片/office文档/音视频/zip压缩包到阿里云oss,项目中上传文件到阿里云oss详细教程,如何将本地文件上传到阿里云OSS存储,纯前端实现阿里云OSS上传,纯前端直传至阿里OSS对象存储教程,如何解决上传文件到阿里云OSS本地环境调试出现跨域问题,直传阿里云oss跨域报错解决,前端直接上传文件到oss服务端,不经过后端直传,浏览器直接上传文件,阿里云oss上传sdk官方文档,阿里云错误,解决这个问题,上传很慢,一直签名失败,权限,不经过后端,纯前端直传

🏆 前端领域优质创作者 1万+

LLM+Agent技术

Agent本身是类似于DM的升级版,能够充分利用对环境的感知,进行决策规划,充分调用LLM的能力。私有化部署时,集成到企业工作流中,面临的边际成本很难降低,且没有通用性。Agent需要调用外部工具,调用工具最好的方式就是输出类Makedown代码由LLM大脑输出一种可执行的代码,像是一个语义分析器,由它理解每句话的含义,然后将其转换成一种机器指令,再去调用外部的工具来执行或生成答案。

AI从业者的专栏 1481

风险登记册vs问题日志:项目经理必须掌握的区别与应用

在项目管理的世界里,风险登记册和问题日志就像是项目经理的两个得力助手。我们的目的就是要搞清楚这两个助手各自的特点、区别以及如何在项目中好好使用它们。范围涵盖了项目从启动到结束的整个过程,无论是小项目还是大项目,都能从对这两个工具的正确使用中受益。我们先会用有趣的故事引出风险登记册和问题日志的概念,然后像给小学生讲故事一样解释它们是什么。接着分析它们之间的关系和区别,再用代码示例模拟它们在项目中的应用,之后介绍实际的应用场景、推荐相关工具和资源,探讨未来的发展趋势和挑战。

项目管理的博客 876

告别 DIFY 构建卡顿 / 失败!巧用 Makefile 一键构建本地 WEB 镜像,附核心避坑指南

本文详细介绍了DIFY本地源码构建WEB镜像的完整流程,重点解决因官方npm源不稳定导致的构建失败问题。通过修改web/Dockerfile文件启用国内npmmirror镜像源,可大幅提升依赖下载速度和稳定性。在DIFY根目录执行封装好的make build-web命令即可一键完成构建,无需手动编写复杂docker命令。文章还提供了前置环境准备、构建结果验证等实用指导,帮助开发者高效完成DIFY前端二次开发后的镜像构建验证。

2501_93651177的博客 184
上一篇: 大模型时代的 AI 产品经理
下一篇: LLM 评估汇总:真的吊打 LLaMA-3,媲美 GPT-4 吗?
爱喝白开水a
博客等级 码龄3年 6793粉丝 763原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值