m0_74808313的博客

本文介绍了如何利用AI模型评估生成内容的相关性，避免产生幻觉响应。通过构建评估系统，使用不同模型分别生成和评估内容，确保响应与上下文一致。系统包含EvaluationRequest、EvaluationResponse等核心类，以及RelevancyEvaluator评估器，采用默认模板检查响应是否匹配查询和上下文。示例展示了使用qwen-max生成响应、qwen-plus评估的完整流程，包括向量数据库操作和评估结果验证，最终输出显示评估通过，响应符合预期。

摘要：ModelContextProtocol（MCP）是一个规范大型语言模型（LLM）上下文交互的开放协议，提供统一的AI模型集成方式。其Java SDK采用三层架构（Client/Server、Session、Transport层），支持同步/异步通信。Spring AI MCP提供Spring框架集成，包含Client/Server两种Starter，支持STDIO和SSE两种传输协议。STDIO协议适合本地进程通信，SSE协议支持分布式网络通信。配置方面支持YAML和JSON格式，通过@Tool注解

摘要：SpringAI通过工具调用机制扩展AI模型能力，支持方法工具（@Tool注解）和函数工具（FunctionToolCallback）两种实现方式。工具调用流程包括：模型请求调用、应用程序执行工具、返回结果给模型处理。工具适用于信息检索和执行操作场景，可通过ToolContext传递上下文，并支持设置returnDirect参数直接返回结果。工具返回值默认由模型处理，也可配置为直接返回客户端。SpringAI提供了灵活的抽象机制，支持自定义ToolCallback实现以满足不同需求场景。

摘要：本文介绍了GPT模型的局限性（仅支持2021年9月前的数据）以及三种定制AI模型整合自有数据的技术方案：微调（FineTuning）、提示词填充（PromptStuffing）和函数调用（FunctionCalling）。重点讲解了检索增强生成（RAG）技术的原理与实现，包括离线知识库构建（数据加载、文本分割、向量嵌入）和在线交互（问题处理、相似性检索、回答生成）两阶段流程。通过SpringAI框架演示了向量生成、向量存储、ETL管道等核心组件，并以SimpleVectorStore为例展示了RAG的

大模型工作原理及参数配置详解 大模型通过五个阶段处理智能问答：文本分词、Token向量化、模型推理、输出Token和最终文本生成。模型通过概率计算选择输出Token，其随机性可通过temperature和top-p参数调节。SpringAI提供了多种输出配置选项，包括控制随机性的temperature（0-1）、限制输出长度的maxTokens、调节多样性的top-k/top-p等。阿里达摩院的DashScopeChatOptions还支持联网搜索和思维链功能，前者可获取实时信息，后者能展示推理过程。这些参

SpringAIAlibaba框架封装了ChatModel、ImageModel和AudioModel等核心API，简化了与通义系列大模型的交互。支持多模态输入输出（文本、图片、语音），通过自动配置可直接注入各种模型实例。ChatModel实现文本对话，ImageModel提供文生图功能，AudioModel支持语音合成和语音转文字。框架采用统一接口设计，如Prompt输入/Response输出模式，开发者只需关注业务逻辑，无需处理底层交互细节。示例代码展示了如何调用各模型API实现AI服务集成。

本文系统介绍了Prompt工程技术在AI交互中的应用。首先解释了Prompt的概念及其结构化角色（系统、用户、助手、工具），分析了SpringAI中的Prompt类设计。然后详细阐述了Prompt模板技术，包括动态模板、角色分配和资源加载等实现方式。接着深入探讨了提示词工程的核心策略，如清晰指令、示例引导、格式控制等，并提出了防范Prompt攻击的具体措施。最后介绍了多种Prompt工程技术，包括零样本/少样本提示、系统/角色/情境提示、思维链、自洽性、思维树等高级技术，通过SpringAI代码示例展示了这

本文介绍了SpringAI中的Advisor机制及其在AI交互中的应用。Advisor作为拦截器组件，可用于修改提示词、记录日志和维护对话记忆。重点讲解了两种典型Advisor：SimpleLoggerAdvisor用于记录请求响应日志，支持自定义格式化输出；BaseChatMemoryAdvisor结合ChatMemory和ChatMemoryRepository实现对话记忆功能。文章详细演示了基于MySQL和Redis的对话记忆存储方案，包括配置、实现和测试过程，展示了如何通过Advisor链实现多轮对

下面是官方文档中给出的关于ChatClient 简介：ChatClient提供了与 AI 模型通信的 Fluent API，使用ChatClient可以将与 LLM 及其他组件交互的复杂性隐藏在背后，因为基于 LLM 的应用程序通常要多个组件协同工作（例如，提示词模板、聊天记忆、LLM Model、输出解析器、RAG 组件：嵌入模型和存储），并且通常涉及多个交互，因此协调它们会让编码变得繁琐。ChatClient 类似于应用程序开发中的服务层，它为应用程序直接提供AI 服务。

本文介绍了SpringAI和SpringAIAlibaba框架的使用方法。SpringAI是简化Java应用整合AI功能的工具，SpringAIAlibaba则是专门适配阿里系AI服务的定制版。文章详细演示了两种调用大模型的方式：通过ollama本地部署和阿里云百炼平台API，包括环境配置、代码实现及测试方法。重点展示了如何创建聊天机器人，实现直接输出和流式输出两种响应方式，并提供了完整的pom.xml依赖配置和应用示例。这为Java开发者快速集成AI能力提供了实用指南。