欢迎来到空说的博客

目前已经有了以下这些工具PDFReader：读取文档并拆分为片段；向量大模型：将文本片段向量化；向量数据库：存储向量，检索向量；要解决大模型的知识限制问题，需要外挂知识库；受到大模型上下文限制，知识库不能直接拼接在提示词中；需要从庞大的外挂知识库中找到与用户问题相关的一小部分，再组装成提示词；这些可以利用文档读取器、向量大模型、向量数据库来解决；RAG要做的事情就是将知识库分割==>利用向量模型做向量化==>存入向量数据库==>查询的时候去检索；每当用户询问AI时，

前面的两种方案，都面临一个问题，SpringAI中的Message类未实现Serializable接口，也没提供public的构造方法，因此无法基于任何形式做序列化。所以必须定义一个可序列化的Message类，方便后续持久化。定义一ai.entity.po@Data//将SpringAI的Message转为我们的Msg//实现将我们的Msg转为SpringAI的Message基于Redis来实现自定义ChatMemory；包中新建一个RedisChatMemory。

模型能够接收的输入类型、输出类型不一定相同。SpringAI整合了全球（主要是国外）的大多数大模型，而且对于大。目前SpringAI支持的大约19种对话模型，以下是一些功能对比。其中功能最完整的就是OpenAI和Ollama平台的模型了。的三种技术架构都有比较好的封装和支持，开发起来非常方便；

中检索出与查询最相关的文档片段。: 将检索到的文档片段与原始查询一起输入到大模型(如chatGPT)中，注意使用合适的提示词，比如原始的问题是XXX，检索到的信息是YY，给大模型的输入应该类似于: 请基于YYY回答XXXX。，就是在预训练大模型（比如DeepSeek、Qwen）的基础上，通过企业自己的数据做进一步的训练，使大模型的回答更符合自己企业的业务需求。由于每次都是从向量库中找出与用户问题相关的数据，而不是整个知识库，所以上下文就不会超过大模型的限制，同时又保证了大模型回答问题是基于知识库中的内容；

而Spring公司推出的SpringAI框架，充分利用了Spring框架中AOP、IOC的能力，可以与现有的Java项目无缝融合，非常方便；初级-大模型函数调用：模型感觉要调用某个工具==>生成一段API调用文本==>过滤器识别==>找到对应的功能函数去调用==>返回答案。感知能力：海量文本训练，接收用户输入文本，，PDF，图片==>OCR==>转成文本，但是会损失很多信息，如颜色布局，色调等。基础模型（V3）：通用模型，高效便捷，适用于绝大多数任务， “ 规范性”任务 ，聪明且听话……