qq_25438419的博客

大半年前，介绍了基于LLM的Agent知识，文章《大模型智能体 LLM Agent》中提到：Agent是大模型与场景间价值传递桥梁, 重要性不言而喻。从功能上看，Agent有多个组件构成，规划、记忆和工具使用等AgentLLM今天聊聊其中的一个组件：Memory，记忆模块记忆定义为用于获取、存储、保留和后续检索信息的过程，人类大脑中主要有三种类型的记忆。

语言模型（LLM）有两个突出能力：一个是自然语言的理解和生成能力🗣️，另一个是逻辑推理能力🧠。然而，大模型也存在短板，比如大模型会产生幻觉：即大模型的输出内容，与输入内容或现实不相符😵，也就是“大模型在绘声绘色地胡说八道”🎭。不同的应用场景，对大模型幻觉的容忍度不同⚖️。比如，在要求严谨和精确的领域📊，大模型幻觉就是个必解的问题❗

本文通过结合AI和OCR、RAG等技术（ChatGPT4o能力+结构化prompt（CoT、One-shot等）+Knowledge - RAG+API工具）可以有效地让人工智能系统理解来自不同客户的发票内容，自动识别并提取出关键数据。这不仅可以帮助企业精确地进行成本控制和物流规划，还能显著提高数据处理的效率和准确性，进一步推动行业向数字化和智能化转型。通过这种技术整合，UNIS等公司能够通过自动化的方式处理大量的发票数据，从而实现成本节约和效率提升。

成功利用ChatGPT4o版本结合RAG知识库方式，通过结构化prompt（CoT）调用API工具为用户推荐货物上架位置。工具调用数据来自于业务系统。

向量检索为核心的 RAG 架构已成为解决大模型获取最新外部知识，同时解决其生成幻觉问题时的主流技术框架，并且已在相当多的应用场景中落地实践。

主要是该知识点的产生的原因、为什么会有这个知识点的描述。# 围绕规则衍生出来的相关问题和对规则有疑惑的细则解答。# 主要包含那几种规则和处理结果的说明。没有跨日期、不在免费取消时间内、未协商。行业名词或者业务特定名词形成概念释义库。场景知识库形成层级分明的解决流程。# 解决问题完整流程分支列表。标题按照飞书标题格式分层来写。# 知识点的概述/核心诉求。图⽂跳转链接形成图⽂链接库。#⼀些行业名词和释义。

大型神经网络模型，通常称为“大模型”，特点是它们拥有大量的参数，这使得它们能够处理和记忆大量的信息。GPT 系列在此背景下应运而生，成为了这类模型的杰出代表。特别是 GPT-4；" GPT " 代表 " Generative Pre-trained Transformer "。从这三个单词中，我们可以简要了解 GPT 所采用的核心技术：它是一个基于 Transformer 架构的生成式预训练模型。这种架构能够高效地处理长文本数据，提供深入的语言理解并生成复杂的文本内容。

你可以在“模型供应商”页面配置 Rerank 模型的 API 秘钥之后，在检索设置中打开“Rerank 模型”，系统会在混合检索后对已召回的文档结果再一次进行语义重排序，优化排序结果。在将相关度最高的文本内容查找到后，RAG 系统会将其作为用户问题的上下文一起提供给大模型，帮助大模型回答问题。你可以在“模型供应商”页面配置 Rerank 模型的 API 秘钥之后，在检索设置中打开“Rerank 模型”，系统会在语义检索后对已召回的文档结果再一次进行语义重排序，优化排序结果。系统默认值为 3。