ChatMemory连续对话保存和持久化

简单来说,大模型的对话记忆功能主要就是我们可以接连的进行问题回答,使得上下文之间的问题联系到一起,最终达到我们需要的记忆和对话功能。

Spring AI Alibaba中的聊天记忆应该维护AI聊天应用程序的对话上下文和历史机制。

首先我们需要解决内存的存储,大模型本身是不存储数据的,所以我们如果把历史对话信息存储到内存当中,如果重新进行启动的话,我们就会失去历史信息,所以最好的方法就是存储到可以持续化的插件里面,比方说mysql,redis,mongoDB,同样的我们还是需要进行对话窗口中的保存信息上线,也就是说当达到上线的时候我们就可以把之前的问题和对话记录给进行取消。

在官网的文档里面,我们可以使用以下方法

同样的只要我们是通过内存实现的,那么我们只要重启服务,那么我们就没有办法达到持续化的存储。

注意!

官网是没有对这一方式进行良好的解决。

所以我们通过以下的方式进行对话的长久存储。

首先我们需要引入依赖,必不可少的以下三个

<dependency>
    <groupId>com.alibaba.cloud.ai</groupId>
    <artifactId>spring-ai-alibaba-starter-dashscope</artifactId>
</dependency>
<dependency>
    <groupId>com.alibaba.cloud.ai</groupId>
    <artifactId>spring-ai-alibaba-starter-memory-redis</artifactId>
</dependency>
//根据阿里开发手册当中,规定我们使用jedis来进行redis的使用。
<dependency>
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值