Spring AI-23.Docker 模型运行器聊天集成指南

Spring AI-23.Docker 模型运行器聊天集成指南

Spring AI 通过复用 OpenAI 客户端与 Docker 模型运行器（Docker Model Runner） 集成，支持本地部署的大语言模型（LLM）进行聊天交互。以下是详细的集成步骤和使用说明：

一、环境准备

1. 安装 Docker Desktop

   • 下载并安装 Docker Desktop 4.40.0+。

   • 启用模型运行器（选择以下任一方式）：

     • 方式 1：通过命令行启用并指定端口（推荐）

       docker desktop enable model-runner --tcp 12434