From LLM to Conversational Agent: A Memory Enhanced Architecture with Fine-Tuning of LLM

UnknownBody

已于 2024-03-08 11:23:05 修改

阅读量651

点赞数 8

CC 4.0 BY-SA版权

分类专栏： LLM Agent 文章标签：人工智能语言模型

于 2024-02-04 14:16:42 首次发布

本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/136024939

LLM 日更同时被 2 个专栏收录

828 篇文章

已下架不支持订阅

LLM Agent

104 篇文章

订阅专栏

本文提出了一种名为RAISE的高级架构，用于改进大型语言模型（如GPT-4）与会话代理的集成，增强对话上下文的保持和连续性。RAISE基于ReAct框架，具有双组件记忆系统，提升了智能代理在复杂对话中的可控性和适应性。在房地产销售场景的实验中，RAISE显示出优于传统代理的优势，但还面临幻觉问题和处理复杂逻辑的挑战，为上下文感知的会话代理提供了新途径。

本文是LLM系列文章，针对《From LLM to Conversational Agent: A Memory Enhanced Architecture
with Fine Tuning of Large Language Models》的翻译。

摘要

本文介绍了RAISE（Reasoning and Acting through Scratchpad and Examples），这是一种高级架构，用于增强GPT-4等大型语言模型（LLM）与会话代理的集成。RAISE是ReAct框架的增强，它包含了一个双成分记忆系统，反映了人类的短期和长期记忆，以保持对话的上下文和连续性。它需要一个全面的代理构建场景，包括会话选择、场景提取、CoT完成和场景增强等阶段，从而进入LLM训练阶段。这种方法似乎增强了智能体在复杂、多回合对话中的可控性和适应性。我们在房地产销售背景下的初步评估表明，RAISE与传统代理商相比具有一些优势，这表明其具有更广泛的应用潜力。这项工作为开发更多上下文感知和通用的会话代理提供了一个强大的框架，为人工智能领域做出了贡献。