Spring AI-05.聊天客户端 API(Chat Client API)
ChatClient 提供了与 AI 模型通信的流式 API,支持同步和流式编程模型。
流式 API 通过方法构建提示(Prompt)的组成部分,这些提示作为输入传递给 AI 模型。Prompt 包含引导 AI 模型输出和行为的指令文本。从 API 角度看,提示由一组消息(messages)组成。
AI 模型处理两种主要类型的消息:
- 用户消息(user messages):来自用户的直接输入。
- 系统消息(system messages):由系统生成,用于引导对话上下文。
这些消息通常包含占位符,运行时会根据用户输入动态替换,从而定制 AI 模型对用户输入的响应。
此外,还可以指定提示选项(Prompt options),例如要使用的 AI 模型名称、控制生成输出随机性或创造性的温度(temperature)设置等。
创建 ChatClient
ChatClient 使用 ChatClient.Builder 对象创建。可以通过 Spring Boot 自动配置获取预配置的 ChatClient.Builder 实例,也可以通过编程方式创建。

订阅专栏 解锁全文
5757

被折叠的 条评论
为什么被折叠?



