静愚AGI

Function Calling 是一种技术，它允许大型语言模型（如GPT）在生成文本的过程中调用外部函数或服务。这种功能的核心在于，模型本身不直接执行函数，而是生成包含函数名称和执行函数所需参数的JSON，然后由外部系统执行这些函数，并将结果返回给模型以完成对话或生成任务。Function Calling 主要解决了大型语言模型在处理任务时的局限性，尤其是模型自身无法获取实时信息或执行复杂计算的问题。

RAG模型的工作流程可以分为两个主要阶段：检索阶段和生成阶段。最重要的就是检索阶段，当模型接收到一个查询（例如，一个问题）时，它首先使用检索组件查询一个预先建立的大型文档数据库，以找到与查询相关的信息。这一步骤通常利用最新的检索技术，如稠密向量检索，来识别与输入查询最相关的文档或文档片段。

在企业内部构建基于大型语言模型（LLM）的应用程序时，数据的提取、转换和加载（ETL）过程至关重要。Spring AI 提供了一个集成的框架，可以简化这一过程，特别是在使用 LLM 进行检索增强生成（RAG）时。在实施 ETL 管道时，可以利用 Spring AI 提供的现成组件和工具，这些组件和工具经过设计，可以协同工作，简化数据处理流程。此外，Spring AI 的模块化设计允许开发者根据具体需求选择合适的组件，并根据应用程序的规模进行扩展。

上一节我们使用SpringAI+Llama3.1构建了一个基础的Chat案例，本节将会从Prompt着手深度聊聊在SPringAI中如何更好的使用Prompt。

本文说明使用Ollama+Llama3.1为例进行说明SpringAI Chat的能力应用，其他模型的使用方式如上相同，万变不离其中，同时详细讲解了SpringAI Chat源码设计。

Spring AI是一个面向AI工程的应用框架，它的目标是将Spring生态系统设计原则（如可移植性和模块化设计）应用于AI领域，并推广使用POJO（Plain Old Java Object）作为AI领域应用程序的构建块。Spring AI的推出是为了简化包含人工智能功能的应用程序的开发，同时避免不必要的复杂性。该项目的设计理念借鉴了LangChain和LlamaIndex等著名Python项目，但在实现上针对Java环境进行了优化。