SpringAI整合DeepSeek解锁更强大的AI能力

Spring AI与DeepSeek实战一:快速打造智能对话应用 在 AI 技术蓬勃发展的今天,国产大模型DeepSeek凭借其低成本高性能的特点,成为企业智能化转型的热门选择。而Spring AI作为 Java 生态的 AI 集成框架,通过统一API、简化配置等特性,让开发者无需深入底层即可快速调用各类 AI 服务。本文将手把手教你通过spring-ai集成DeepSeek接口实现普通对话与流式对话功能,助力你的Java应用轻松接入 AI 能力!虽然通过Spring AI能够快速完成DeepSeek大模型与。 阅读详情

随着Deepseek的火爆,Spring AI 插上 DeepSeek 的翅膀,飞向智能新高度!DeepSeek 如同 Spring AI的“最强大脑”,将为其注入强大的 AI 能力,开启智能应用的新纪元。

本章采用Ollama本地部署Deepseek,并应用整合到Spring AI中。

01 本地部署Ollama

1.1 进入Ollama官网

链接地址:https://ollama.com/

可以根据自己的需求下载macOS、Linux、Windows版本的Ollama。

本章采用Linux方式部署, 直接复制命令在Linux执行即可。

注意:

这里的Linux系统使用的Centos7,笔者之前在搭建过程中使用过Centos5.x,中间出现了各种问题,无法安装成功。使用Centos7之后就很顺利完成Ollama的安装。

1.2 检查是否安装成功
ollama -v

出现Ollama的版本说明Ollama已经安装完成。

02 本地部署Ollama

Ollama中提供了大量的模型,可以根据自己的需要结合服务器的性能下载。从Ollama官网可以看到Deepseek模型的下载量稳居榜首。

2.1 拉取Deepseek-r1模型

Deepseek-r1模型提供7个不同参数的模型,不同的参数要求的服务器性能也不同,其中 671b 是满血版。笔者采用1.5b的参数部署,方面演示。

2.2 使用Ollama拉取大模型
ollama pull deepseek-r1:1.5b
2.3 查看大模型
ollama list

2.4 运行大模型
ollama run deepseek-r1:1.5b

启动完成之后就可直接和大模型对话了。

2.5 结束对话
/bye

2.6 Ollama 配置远程访问

Ollama 默认时不支持远程访问的,需要增加远程服务的配置。如果不配置就会出现使用IP访问时,无法访问的情况,这也是一种安全机制。

vim /etc/systemd/system/ollama.service  

# 增加远程配置项
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"  
 
# 重启Ollama服务
systemctl daemon-reload
systemctl restart ollama

03 Spring AI的集成

Spring AI已经有发布了预发布版本。

1.0.0-M6

Spring AI有多种大模型的接入方式:

本章采用Ollama的方式介入。

3.1 依赖引入
<dependencyManagement>
        <dependencies>
            <dependency>
                <groupId>org.springframework.ai</groupId>
                <artifactId>spring-ai-bom</artifactId>
                <version>1.0.0-M6</version>
                <type>pom</type>
                <scope>import</scope>
            </dependency>
        </dependencies>
 </dependencyManagement>


<dependency>
     <groupId>org.springframework.ai</groupId>
     <artifactId>spring-ai-ollama-spring-boot-starter</artifactId>
</dependency>
3.2 配置
# Ollama服务地址
spring.ai.ollama.base-url=http://10.100.213.25:11434
# 模型选择
spring.ai.ollama.chat.model=deepseek-r1:1.5b
# 模型精度
spring.ai.ollama.chat.options.temperature=0.7
3.3 demo代码展示

这里需要注入OllamaChatModel

/**
 * Spring AI
 *
 * @Author: ws
 * @Date: 2025/2/24 15:10
 */
@RestController
public class FooController {

    @Autowired
    private OllamaChatModel ollamaChatModel;

    /**
     * @Description: 普通的调用
     *
     * @Author: ws
     * @Date: 2025/2/24 16:32
     **/
    @GetMapping("/ai/generate")
    public Map<String,String> generate(@RequestParam(value = "message", defaultValue = "请给我讲一个笑话") String message) {
        return Map.of("generation", this.ollamaChatModel.call(message));
    }

    
    /**
     * @Description: 响应式调用
     *
     * @Author: ws
     * @Date: 2025/2/24 16:32
     **/
    @GetMapping("/ai/generateStream")
    public Flux<ChatResponse> generateStream(@RequestParam(value = "message", defaultValue = "请给我讲一个笑话") String message) {
        Prompt prompt = new Prompt(new UserMessage(message));
        return this.ollamaChatModel.stream(prompt);
    }
}
3.4 效果展示

3.5 注意事项

在使用Spring AI调用大模型时,无需启动Ollama的大模型。调用时会自动调用大模型。

04 终章

如果你的电脑配置足够可以,可以使用671b的满血版,开启新的AI篇章。

博主的微信新开了微信公众号:
在这里插入图片描述

Spring AI与大模型Ollama如何集成整合? 这两种方法的操作方式都是获取一个 Payload 对象(该对象封装了要嵌入的字符串),并以不同的格式返回嵌入结果--在 getEmbeddingsWithModelOverride 的情况下直接返回 EmbeddingResponse,而在 getEmbeddingsWithDefaultModel 的情况下返回一个包含 EmbeddingResponse 的映射。借助 Ollama 在本地运行 LLM 的能力,开发人员可以对人工智能驱动的功能获得前所未有的控制力和灵活性,确保数据隐私并减少延迟。 阅读详情

相关推荐

Aspen Plus下载教程Aspen Plus V14 保姆级安装步骤(附安装包)

26、在WlmAdmin界面中,依次点击【Subnet Servers】、【admin】、【Add Feature】、【From a File】、【To Server and its File】。35、在产品选择页面,勾选需要安装的所有产品(重要:不要勾选【Aspen Online(Plant Data)】),然后点击【File Location】。回到桌面,点击任务栏的【开始菜单】,在【所有应用】中找到【Aspen Plus V14】软件图标,将其拖到桌面上创建快捷方式。9、这里可以更改软件的安装位置。

ps_xiaowang的博客 1万+

Spring AI + Ollama 实现 DeepSeek-R1 API 服务和调用

Spring AI + Ollama 实现 DeepSeek-R1 API 服务和调用

【可全包】本人程序员,不需要做任何吹嘘,只是实在写点程序,写点文档,熟悉各类主流框架,SSM,SpringBoot,Flask,Djiango,Mysql,Sqlite,VUE,Uniapp等,各类程序设计专家,优质作者 5443

电力现货市场出清机制解析:从理论到实践(附节点电价计算实例)

本文深入解析电力现货市场的核心出清机制,重点阐述了节点边际电价的计算原理与实践方法。通过对比系统边际电价、节点边际电价和分区边际电价三种模式,揭示了市场出清价格如何反映电力供需与网络阻塞。文章结合IEEE 30节点系统,提供了基于MATLAB和最优潮流模型的计算实例,详细展示了从构建模型到求解对偶变量以获取节点电价的全过程,为理解电力市场定价机制提供了从理论到实践的完整路径。

whisky的博客 758

【工业级实战】Spring AI集成Ollama本地化DeepSeek全链路开发指南

本文详解Spring AI集成Ollama本地化DeepSeek大模型的完整方案,涵盖7B/67B模型加载优化、Spring Boot 3.2集成配置。通过ChatClient实现流式对话,提供优化策略:Micrometer监控、RateLimiter限流、Prompt内容消毒。实测单节点QPS达62,响应时间低于1.3秒,包含压力测试数据与异常处理方案,适用于私有化知识库、代码助手等场景。

qq_36743472的博客 1216

Python读取Matlab v7.3数据

文章目录Matlab保存数据Python读取 v7.3 Mat Matlab保存数据 在matlab设置中,常规->MAT文件,选择MATLAB版本7.3或更高版本保存数据。 注意保存数据的文件名为 corre.mat,保存的数据数组为data; 后面python的读取中会用到这两个参数 Python读取 v7.3 Mat 先安装hdf5storage库,再使用以下代码,就可以读取到mat中的数据,注意 import hdf5storage import numpy as np dataDi

weixin_43121914的博客 1083

ARM和FPGA之间的通信(硬件原理图篇)

设计该开发板的初衷是为了学习,但也希望今后能扩展其功能,看到大家都在diy示波器,自己也非常冲动的想DIY一把,于是呼选了arm+fpga的方案,fpga主要用来实现数据的高速采样,而ARM则提供数据的显示,以及一些人机交互的功能。那么该方案中最重要的地方就是ARM和FPGA之间的通信如何实现了。在网上查了很多的资料,有说将FPGA作为ARM的一个外设,可以通过DMA的方式来直接访问;也有说把FP

屌yy的博客 5万+

Spring AI+DeepSeek快速构建AI智能机器人_spring ai deepseek

本文详细介绍了如何使用Spring AI快速搭建一个具备自然语言处理能力的智能对话机器人,并结合实现前后端交互。

HUANGXIN9898的博客 5032

STM32 使用SYN6288语音模块

本篇文章带大家学习一下SYN6288语音模块,这个模块可以用于车载设备,语音电子书等众多产品当中,而且这个模块支持多种编码格式,GB2312,GBK等字符编码格式。SYN6288语音合成模块是一种语音合成设备,其可实现文字转语音功能,将输入的文字信息通过内部的处理和合成,输出相对应的语音信息。SYN6288模块具有语音合成质量高、输出音质好、使用方便等特点,因此广泛应用于语音播报、语音提示、语音识别、智能家居、智能家电、安防监控等领域。支持多语言:包括中文、英文、日文、韩文等多种语言。

m0_49476241的博客 2万+

SpringAI集成本地AI大模型ollama(调用篇)非常简单!!

这里不做具体的代码深挖,只做基本基础的运用。后期有机会会出个人模型训练方法。流式调用的展示(我们跟ai聊天,回答不是一下子就出来的,就是这种流式调用所展示的这般)启动完成后,我们可以在cmd中执行ollama可以看到相关命令行。然后我们需要在这个ai中给它下载好一个已有模型给我们自己使用。直接下载到本地,然后启动ollama。将命令行运行即可下载。我们看看普通调用的展示。

weixin_54925172的博客 9836

车辆网络安全ISO/SAE 21434解读(一)概述

ISO/SAE 21434 《道路车辆 网络安全工程》是SAE和ISO共同制定的一项针对道路车辆的网络安全标准,它是一个面向汽车行业全供应链(OEM及各级供应商)的车辆网络安全管理指导文件

xiaoxiabang的博客 8428

第一节:Vben Admin 最新 v5.0 (vben5) + Python Flask 快速入门

vben5 快速入门。 Vben Admin 框架新出的版本V5.5.4,而之前的Vben Admin 2.x 目前已存档,仅进行重大问题修复。之前在2.x版本曾经简单完成了一版专栏文章,当时也是收获了一些好评和建议。本次决定在v5 版本基础上再完成一次前后端的搭建。希望大家继续多多支持。项目精简后,再次启动项目,执行 pnpm run dev点击登录,可以看到接口报错,现在前端请求的后端有报错,下一节处理这部分逻辑。

cuiwin的专栏 7084

基于Spring AI与Ollama构建本地DeepSeek对话机器人

详细介绍了如何基于Spring AI框架整合Ollama与DeepSeek大模型构建本地化智能对话机器人。通过Ollama实现大模型本地部署,结合Spring Boot搭建RESTful接口,完成从环境配置(自定义安装路径、模型下载)、工程创建(依赖管理、YAML配置)到核心功能开发(同步/流式对话接口)的全流程实践。

九仞山的专栏 1301

【四足机器人项目实战】四足机器人腿部机械结构设计

系列文章目录 提示:这里可以添加系列文章的所有文章的目录,目录需要自己手动添加 TODO:写完再整理 文章目录系列文章目录前言 前言 认知有限,望大家多多包涵,有什么问题也希望能够与大家多交流,共同成长! 本文先对四足机器人–腿部机械结构设计做个简单的介绍,具体内容后续再更,其他模块可以参考去我其他文章 提示:以下是本篇文章正文内容 为了减轻腿部惯量,使用有限元分析着重进行轻量化设计,小腿采用工字梁方案,大腿采用内部镂方案,并使用1.5 mm的AL 6061硬质材料,轻量化的腿部设了腿部运动时摆动

qq_35635374的博客 7540

Spring AI 框架集成 DeepSeek 大模型

Spring AI 接入 DeepSeek 大模型是非常简单的,实现了阻塞和流式聊天模式。对于 DeepSeek 大模型的函数调用,角色定义以及结构化输出等和之前文章中讲解的内容是一致的,没有什么特别的地方,这里也不再赘述了,有兴趣的可以参考本专栏的其它文章。Spring AI 集成 DeepSeek的代码示例:Github 地址。

清水的专栏 496

蓝牙模块HM-10手册

蓝牙模块HM-10手册,该手册对蓝牙模块HM-10进行了详细的介绍和使用方法以及一些AT指令。

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

Spring AI集成Ollama调用本地大模型DeepSeek

Spring AI 是一个强大的框架,它使得开发者能够轻松地将 AI 功能集成到 Spring Boot 应用程序中。本文将通过一个简单的示例,展示如何使用 Spring AI 集成Ollama 并调用本地化DeepSeek大模型,实现跟deepseek简单的聊天对话功能。

2613

jre9下载 jdk9

(Java SE Runtime Environment 9.0) 9.0u175 官方最新版 【x86|x64】

Spring Boot整合DeepSeek实现AI对话(API调用和本地部署)

本篇文章会分基于DeepSeek开放平台上的API,以及本地私有化部署DeepSeek R1模型两种方式来整合使用。本地化私有部署可以参考这篇博文。

xiangjunyes的博客 1万+

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

Spring AI+DeepSeek快速构建AI智能机器人

本文详细介绍了如何使用Spring AI快速搭建一个具备自然语言处理能力的智能对话机器人,并结合实现前后端交互。关注公众号每天懂点AI,回复机器人获取源码。

laopeng301的专栏 1万+

springAI结合ollama简单实现

/ console.log('收到的数据:', value);//处理data:字样,格式化流数据。// 发送 POST 请求。// 继续读取下一个数据块。// 检查响应是否成功。// 检查是否读取完毕。// 返回一个可读流。// 处理每个数据块。// 开始读取数据流。

var200的博客 6074

SpringAI 整合 Ollama 大语言模型实践

SpringAI 整合 Ollama 大语言模型实践

郁夜的博客 2523

AI 大模型统一集成|Spring AI + DeepSeek 实战接入指南

本文介绍了如何利用Spring AI框架统一接入多种大语言模型,并以DeepSeek为例展示具体实现方案。通过Spring AI提供的标准化API,开发者可以快速切换不同AI模型,无需修改核心代码。文章详细讲解了环境配置步骤,包括Spring Boot 3.4.1、JDK 21和Spring AI 1.0.0-M6的依赖设置,以及DeepSeek API的对接方式。同时演示了Spring AI的上下文记忆功能,通过ChatMemory实现多轮对话状态保持,为构建企业级AI应用提供技术支持。这种统一集成方案特

pitt1997的博客 3050

Spring AI + Ollama + DeepSeek 环境搭建与模型调用

Spring AI + Ollama + DeepSeek 环境搭建与模型调用

呱牛 Just do IT 1503

Spring AI:对接DeepSeek实战

Spring AI:对接DeepSeek实战

weixin_46619605的博客 2227

5分钟上手!Spring AI与DeepSeek的Java生态集成

随着人工智能技术的不断演进,如何快速在Java项目中集成先进的AI能力,成为了越来越多开发者关注的焦点。Spring官方推出的Spring AI,极大地降低了AI应用在Java生态中的集成门槛;而DeepSeek作为新兴的强大大模型平台,也迅速赢得了开发者的青睐。本篇将以实战为核心手把手带你用5分钟快速上手,完成Spring AI与DeepSeek在Java项目中的无缝集成,助你轻松开启AI应用开发之旅!

专注分享前沿IT技术,包括AI开发、Web开发、数据库、运维等领域的实战教程。全程保姆级讲解,手把手带你从入门到精通! 1315

炸裂:Spring官方支持DeepSeek!

伪装成OpenAI本地化部署通过Spring AI的两种集成方式,我们可以轻松将DeepSeek模型接入到自己的Java应用中,既可以通过伪装成OpenAI的方式使用DeepSeek,也可以选择本地化部署的方式来完全掌控AI的使用。无论你是开发小型应用,还是大型企业级系统,都可以根据实际需要灵活选择最适合的集成方案。看到这儿,我感觉大家已经迫不及待想去尝试一下了。想象一下,不用再为复杂的API配置烦恼,直接调用DeepSeek就能获得强大的AI支持,这是不是让你对Spring AI更加心动了呢?

EnjoyEDU的博客 3590

AI大模型实用(一)SpringAI接入deepseek示例

访问:运行结果:访问:@Autowired//ChatClient底层是使用ChatModel作为属性的,在初始化ChatClient的时候可以指定ChatModel@Autowiredthis.chatClient = chatClientBuilder.defaultSystem("你是一个AI智能应用").build();

我的E家 1950

SpringAI+Ollama+DeepSeek本地大模型调用

大型语言模型(LLM)在自然语言处理领域取得了突破性进展,但其庞大的计算资源需求和高昂的调用成本,使得许多开发者望而却步。如何高效、便捷地调用大模型,并将其应用于实际场景,成为了亟待解决的问题。本文将介绍一种创新的解决方案:SpringAI + Ollama + DeepSeek,通过将三者结合,实现本地化部署和调用大模型,为开发者提供更灵活、更经济的LLM应用开发体验。SpringAI 作为Java生态中强大的AI框架,为开发者提供了便捷的API和丰富的工具集,简化了AI模型的集成和应用开发流程。

墨家巨子@俏如来 2224
上一篇: Springboot使用war启动的配置
下一篇: 聚合项目中部分Maven依赖不传递的问题分析及解决
智_永无止境
博客等级 码龄10年 803粉丝 407原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

智_永无止境

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值