Spring AI-25.Groq 聊天模型集成指南

Spring AI-25.Groq 聊天模型集成指南

Spring AI 通过兼容 OpenAI 协议实现与 Groq 模型的集成，支持其 groq-70b 等大语言模型进行文本生成和流式响应。Groq 专注于低延迟、高吞吐量的推理优化，适合实时聊天和企业级应用。以下是详细的集成步骤和使用说明：

一、环境准备

1. 获取 Groq API 密钥

   • 访问 Groq 控制台 注册账号并生成 API 密钥。

   • 设置环境变量：

     export SPRING_AI_OPENAI_API_KEY=your-groq-api-key  
     

2. 添加依赖
   在项目中引入 OpenAI 客户端依赖（Groq 兼容 OpenAI 接口）：