Spring AI 接入本地大模型

该文章已生成可运行项目,

在 Spring Boot 项目中使用 Spring AI 接入本地已经部署好的 Ollama + Qwen3-72B 模型。


🧩 一、准备工作

✅ 前提条件:

  1. Ollama 已安装并运行在本地(默认端口 11434
  2. Qwen3-72B 已通过 Ollama 安装或加载
  3. Java 环境(JDK 17+)
  4. Maven 或 Gradle 构建工具
  5. Spring Boot 项目基础环境

📦 二、添加依赖

Spring AI 是一个正在快速发展的项目,目前需要使用其最新快照版本或者官方发布版本。

如果使用 Maven,在 pom.xml 中添加如下依赖:

		<dependencies>
			<!-- Spring AI BOM -->
			<dependency>
				<groupId>org.springframework.ai</groupId>
				<artifactId>spring-ai-bom</artifactId>
				<version>1.0.0-M8</version>
				<type>pom</type>
				<scope>import</scope>
			</dependency>

			<!-- Spring AI Starter Ollama -->
			<dependency>
				<groupId>org.springframework.ai</groupId>
				<artifactId>spring-ai-starter-model-ollama</artifactId>
				
本文章已经生成可运行项目
虽然给定引用未直接涉及Spring Boot接入AI大模型实现简历润色功能的方法,但可从通用技术角度给出实现思路。 ### 选择合适的AI大模型 可以选择市面上主流的大模型,如OpenAI的GPT系列、百度的文心一言等。不同的模型有不同的API接口,需要先在对应平台注册账号并获取API密钥。 ### 引入依赖 在Spring Boot项目的`pom.xml`文件中添加HTTP客户端依赖,用于调用AI大模型的API,以OkHttp为例: ```xml <dependency> <groupId>com.squareup.okhttp3</groupId> <artifactId>okhttp</artifactId> <version>4.9.3</version> </dependency> ``` ### 配置API密钥 在`application.properties`或`application.yml`文件中配置AI大模型的API密钥: ```properties ai.api.key=your_api_key ``` ### 编写调用AI大模型的服务类 ```java import okhttp3.*; import java.io.IOException; public class AIService { private static final String API_URL = "https://api.example.com"; // 替换为实际的API地址 private final String apiKey; public AIService(String apiKey) { this.apiKey = apiKey; } public String polishResume(String resume) throws IOException { OkHttpClient client = new OkHttpClient(); MediaType mediaType = MediaType.get("application/json; charset=utf-8"); String json = "{\"input\": \"" + resume + "\"}"; RequestBody body = RequestBody.create(json, mediaType); Request request = new Request.Builder() .url(API_URL) .post(body) .addHeader("Authorization", "Bearer " + apiKey) .build(); try (Response response = client.newCall(request).execute()) { return response.body().string(); } } } ``` ### 编写Controller类 ```java import org.springframework.beans.factory.annotation.Value; import org.springframework.web.bind.annotation.PostMapping; import org.springframework.web.bind.annotation.RequestBody; import org.springframework.web.bind.annotation.RestController; import java.io.IOException; @RestController public class ResumeController { @Value("${ai.api.key}") private String apiKey; @PostMapping("/polish-resume") public String polishResume(@RequestBody String resume) throws IOException { AIService aiService = new AIService(apiKey); return aiService.polishResume(resume); } } ``` ### 处理异常和错误 在实际应用中,需要对调用AI大模型API时可能出现的异常和错误进行处理,例如网络异常、API调用失败等。 ### 测试 启动Spring Boot应用程序,使用Postman或其他工具向`/polish-resume`接口发送包含简历内容的POST请求,即可获取润色后的简历。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值