王小工小工历程

快速应用DeepSeek访问速度。

Ollama 是一个开源的本地化工具，允许用户在本地运行大型语言模型（如 LLaMA、Mistral、Gemma 等），并通过 REST API 与模型交互。

【代码】大模型deepseek-r1 本地快速搭建。

通过以上步骤，您可以在本地成功部署DeepSeek模型，并利用Ollama提供的界面或命令行工具来与模型进行交互。在部署过程中，要注意显卡显存、模型版本、安全性和性能优化等方面的问题。

AbstractEmbeddingModel是Spring AI框架中用于嵌入模型的抽象基类。它定义了一套统一的接口，使得开发者可以轻松地集成和使用不同的嵌入模型，而无需深入了解每个模型的底层实现细节。这个抽象类的主要作用是提供一个通用的框架，以便开发者能够根据需要选择和切换嵌入模型，同时保持代码的一致性和可维护性。

Spring AI中的ChatClient和ChatModel在功能和用途上存在显著的区别。

在Spring AI中，DocumentTransformer是ETL（提取、转换、加载）框架的一个关键组件。ETL框架是数据处理中的核心，特别是在检索增强生成（Retrieval Augmented Generation, RAG）的应用场景中。DocumentTransformer在Spring AI中主要负责将文档从一种形式转换为另一种形式，以便更好地进行后续处理或分析。

在Spring AI中，Document是一个核心的数据结构，用于表示从数据源加载的文本内容。它通常包含文本的原始数据以及用于描述内容的元数据（如标题、作者、创建日期等）。Document在Spring AI的ETL（提取、转换、加载）流水线中扮演着重要角色，是后续处理任务（如文本分析、信息提取、检索增强生成等）的基础。Spring AI中的Document是一个重要的数据结构，它用于表示待处理或分析的文本内容。

SystemMessage是Spring AI中用于表示系统限制性消息的一种消息类型。这种消息比较特殊，权重很大，AI会优先依据SystemMessage里的内容进行回复。在对话系统中，SystemMessage通常用于设定AI的角色、行为规则或限制AI的回复内容。

UserMessage是用户在对话系统中输入的原始消息，通常包括用户的问题、请求或指令。这些消息通过UserMessage对象进行封装和传递，以便AI能够正确地解析和回复。UserMessage对象可能包含与用户消息相关的属性和方法，如消息内容、消息类型、发送时间等。

RetrievalAugmentationAdvisor（检索增强顾问）在Spring AI框架中扮演着重要角色，它主要用于增强AI模型的检索能力，通过结合外部知识库或数据源来提供更加丰富和准确的回答。

VectorStoreChatMemoryAdvisor的主要功能是将聊天对话中的历史记录存储到向量数据库中，以便在后续对话中提供上下文记忆。这有助于模型更好地理解用户的意图，并生成更加连贯和相关的回复。

Spring AI Advisor的核心功能在于拦截并可能修改AI应用程序中聊天请求和响应流的组件。在这个系统中，各个Advisor以链式结构运行，序列中的每个Advisor都有机会对传入的请求和传出的响应进行处理。这种链式处理机制确保了每个Advisor可以在请求和响应流中添加自己的逻辑，从而实现更灵活和可定制的功能。

Spring AI SafeGuardAdvisor是Spring AI框架中的一个重要组件，其核心功能在于确保系统在处理用户输入时的安全性和合规性。

Spring AI中的QuestionAnswerAdvisor是一个重要的组件，它实现了RAG（Retrieval-Augmented Generation，检索增强生成）的功能。

Spring AI中的MessageChatMemoryAdvisor是一个重要的组件，它在AI应用程序的聊天请求和响应流程中扮演着关键角色。

PromptChatMemoryAdvisor是Spring AI框架中的一个组件，它主要用于在AI对话场景中，将检索到的内存中的历史消息添加到提示的系统文本中。

在Spring AI中，TikaDocumentReader是一个非常重要的组件，它属于ETL（提取、转换、加载）框架中的提取（Extract）阶段。

请注意，随着Ollama的更新和发展，可能会有新的命令和功能被添加或修改。因此，建议定期查看Ollama的官方文档或GitHub仓库以获取最新的命令和功能信息。该命令会向Ollama服务发送一个包含用户消息的请求，并等待模型返回回答。如果模型正常工作，应该能够看到模型返回的“你好”对应的回答。该命令会启动Ollama服务，并加载qwen2.5-coder:7b模型。如果想下载其他版本的qwen2.5模型，请将7b替换为相应的版本号。该命令会从Ollama的官方网站下载并安装Ollama。

对话记忆功能是一种技术，使得应用程序或智能助手能够在一段时间内“记住”用户提供的信息，以便在后续对话中参考和使用。这种记忆可以让对话更加连贯，并使助手能够理解用户的背景和偏好，从而提供更加个性化和精准的回复。ChatMemory作为一个内存管理容器，存储和管理多轮对话中的ChatMessage。

Function Calling是一种技术，它允许大型语言模型（如GPT）在生成文本的过程中调用外部函数或服务。这种功能的核心在于，模型本身不直接执行函数，而是生成包含函数名称和执行函数所需参数的JSON，然后由外部系统执行这些函数，并将结果返回给模型以完成对话或生成任务。Function Calling主要解决了大型语言模型在处理任务时的局限性，尤其是模型自身无法获取实时信息或执行复杂计算的问题。

嵌入数组的长度称为向量的维数。Spring AI Image Model的设计遵循Spring的模块化和可互换性理念，旨在使开发人员能够在最小代码更改的情况下切换不同的图像相关模型。Spring AI Audio Models的设计理念与Spring AI整体框架一致，旨在提供一套简单、可移植和模块化的接口，使开发人员能够轻松地在Java应用程序中集成和使用各种音频相关的AI模型。Spring AI的Image Model是一个专为与各种专门用于图像生成的AI模型交互而设计的简单和可移植的接口。

Spring AI中的ChatClient是一个提供流畅API（Fluent API）的客户端，它主要用于与各种AI模型进行通信。ChatClient 提供了与 AI 模型通信的 Fluent API，它支持同步和反应式（Reactive）编程模型。

【代码】Spring AI零起点搭建AI应用。

Ollama是一款可以在macOS、Linux和Windows系统上运行的跨平台工具，它帮助用户快速在本地运行大模型，极大地简化了在Docker容器内部署和管理LLM（大型语言模型）的过程。

Spring AI Alibaba是一个基于Spring AI构建的开源项目，它专门针对阿里云的大模型服务进行适配，是阿里云通义系列模型及服务在Java AI应用开发领域的最佳实践。

Prompt，中文释义为“提示词、大模型的指令”。在AI大模型中，Prompt的作用主要是给AI模型提示输入信息的上下文和输入模型的参数信息。在训练有监督学习或无监督学习的模型时，Prompt可以帮助模型更好地理解输入的意图，并作出相应的响应。此外，Prompt还可以提高模型的可解释性和可访问性。

LangChain是一个开发由大型语言模型（LLM）驱动的应用程序的框架，它提供了一套工具、组件和接口，以简化创建由大型语言模型（LLM）和聊天模型支持的应用程序的过程。通过LangChain，开发者可以更高效地利用语言模型的能力，构建出复杂且功能强大的应用程序。LangChain的架构可以分为多个层次和模块，每个层次和模块都承担着不同的功能和职责。Models：支持各种模型类型和模型集成，如Google的LaMDA、Meta的LLaMa、OpenAI的GPT系列等。

LLMOps（Large Language Model Operations）作为管理和操作大型语言模型（LLM）的流程和工具集，在LLM应用开发中扮演着至关重要的角色。对于LLMOps项目后端开发而言，制定一套清晰、合理的开发约定及规范对于提升代码可维护性至关重要。