【人工智能应用技术】-基础实战-环境搭建（基于ollama+deepseek）（一）

原创 于 2025-12-08 06:41:27 发布 · 672 阅读 · 8 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能 #数据库 #redis

「鸿蒙心迹」“2025・领航者闯关记“主题征文活动 10w+人浏览 323人参与

前言

Spring AI Alibaba 开源项目基于 Spring AI 构建，是阿里云通义系列模型及服务在 Java AI 应用开发领域的最佳实践，提供高层次的 AI API 抽象与云原生基础设施集成方案，帮助开发者快速构建 AI 应用。

核心技术官网地址：

Spring AI Alibaba 官网地址：https://java2ai.com/

ollama官网地址：https://ollama.com/

一、技术选型说明

1. 核心组件

  • Spring Boot 3.5.7：后端服务基础框架

  • spring-ai-ollama-spring-boot-starte：alibaba官方AI集成框架（1.0.0-M6版本）

  • Ollama：本地大模型运行环境（支持Llama2、Mistral等模型）

2. 环境要求

  • JDK 17+
  • 8GB+ 内存（运行大模型需要）
  • ollama version is 0.5.13

二、环境准备

1. 安装Ollama

  1. Ollama官网安装

官网地址：https://ollama.com/

官网下载window版本地址：https://ollama.com/download

img

  1. 百度网盘下载安装

百度网盘地址：https://pan.baidu.com/s/1mx_3R4NVjOSC9D8BaGdYHg?pwd=9eg7

img

  1. 运行OllamaSetup安装包
  • 双击OllamaSetup.exe
  • 安装包点击：Install

img

  • 安装成功

在这里插入图片描述

（截图示例：终端执行ollama --version）

2. 下载模型

本教程使用的模型：deepseek-r1:7b

模型运行下载命令：ollama run deepseek-r1:7b

（默认是 7B 版本，轻量化且易下载）

操作步骤：

​ Ollama 的工作机制是：模型需要先下载到本地才能调用

  1. 下载 Deepseek 模型到本地

    打开命令行（CMD/PowerShell），执行 Ollama 模型拉取命令：

    ollama pull deepseek
或者 
ollama run deepseek-r1:7b
    • 等待下载完成（7B 版本约 4GB，视网络情况而定）；
    • 验证是否下载成功：执行 ollama list，如果输出中包含 deepseek，说明下载完成。

在这里插入图片描述

2. Deepseek 模型运行效果

在这里插入图片描述

三、创建Spring Boot项目

1、通过官方网页配置创建： https://start.spring.io/

在这里插入图片描述

2、IDEA创建：

在这里插入图片描述

注意 ：类型修改为：Maven

在这里插入图片描述

可以选添加的依赖：后期不同大模型都会有key值，安全性考虑：

		<dependency>
			<groupId>io.github.cdimascio</groupId>
			<artifactId>java-dotenv</artifactId>
			<version>5.2.2</version>
		</dependency>

io.github.cdimascio:java-dotenv:5.2.2 是一个 Java 环境变量加载工具，核心作用是 从 .env 文件中读取配置项，自动注入到系统环境变量或应用配置中，避免将敏感信息（如 API 密钥、数据库密码）硬编码到代码或配置文件里，简化多环境配置管理。

一、核心作用（解决的痛点）

  1. 隔离敏感信息：不用把 spring.ai.openai.api-key=sk-xxx、数据库密码等敏感信息写死在 application.properties/yml 或代码中，降低泄露风险；

  2. 简化多环境切换：开发 / 测试 / 生产环境可以用不同的 .env 文件（如 .env.dev、.env.prod），切换环境时只需替换 .env 文件，无需修改项目配置；

  3. 统一配置管理：所有环境相关的配置（如接口地址、端口、密钥）集中放在 .env 文件，便于维护；

  4. 无侵入集成：不需要复杂配置，一行代码即可加载，兼容 Spring Boot、原生 Java 等项目。

在这里插入图片描述

1. 项目初始化

  • 添加依赖：

  • Spring Web

  • spring-ai-ollama-spring-boot-starter

    这边我们使用阿里的实现ollama

2. 配置核心POM.xml

<dependencies>
		<dependency>
			<groupId>org.springframework.boot</groupId>
			<artifactId>spring-boot-starter-web</artifactId>
		</dependency>
		<!--阿里巴巴ollama--> 
		<dependency>
			<groupId>org.springframework.ai</groupId>
			<artifactId>spring-ai-ollama-spring-boot-starter</artifactId>
			<version>1.0.0-M6</version>
		</dependency>
	</dependencies>

四、配置Ollama连接

application.yml

server:
  port: 9999
spring:
  ai:
    ollama:
      base-url: http://localhost:11434 # 哦llama地址
      chat:
        model: deepseek-r1:7b # 模型
        options:
          temperature: 0.8 # 温度越高，回答越有创意
          top-p: 0.9 # 数值越高，回答越多样
          top-k: 100 # 数值越高，回答越多样

五、编写AI对话接口

Maven依赖详情

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
	xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">
	<modelVersion>4.0.0</modelVersion>
	<parent>
		<groupId>org.springframework.boot</groupId>
		<artifactId>spring-boot-starter-parent</artifactId>
		<version>3.5.7</version>
		<relativePath/> <!-- lookup parent from repository -->
	</parent>
	<groupId>com.example</groupId>
	<artifactId>springAI-Demo</artifactId>
	<version>0.0.1-SNAPSHOT</version>
	<name>springAI-Demo</name>
	<description>springAI-Demo</description>
	<url/>
	<licenses>
		<license/>
	</licenses>
	<developers>
		<developer/>
	</developers>
	<scm>
		<connection/>
		<developerConnection/>
		<tag/>
		<url/>
	</scm>
	<properties>
		<java.version>17</java.version>
		<spring-ai.version>1.0.0-M6</spring-ai.version>
	</properties>
	<dependencies>
		<dependency>
			<groupId>org.springframework.boot</groupId>
			<artifactId>spring-boot-starter-web</artifactId>
		</dependency>
<!--		<dependency>-->
<!--			<groupId>org.springframework.ai</groupId>-->
<!--			<artifactId>spring-ai-starter-model-ollama</artifactId>-->
<!--		</dependency>-->
		<!--    阿里巴巴ollama-->
		<dependency>
			<groupId>org.springframework.ai</groupId>
			<artifactId>spring-ai-ollama-spring-boot-starter</artifactId>
		</dependency>
		<dependency>
			<groupId>org.springframework.boot</groupId>
			<artifactId>spring-boot-starter-test</artifactId>
			<scope>test</scope>
		</dependency>

		<dependency>
			<groupId>io.github.cdimascio</groupId>
			<artifactId>java-dotenv</artifactId>
			<version>5.2.2</version>
		</dependency>

	</dependencies>
	<dependencyManagement>
		<dependencies>
			<dependency>
				<groupId>org.springframework.ai</groupId>
				<artifactId>spring-ai-bom</artifactId>
				<version>${spring-ai.version}</version>
				<type>pom</type>
				<scope>import</scope>
			</dependency>
		</dependencies>
	</dependencyManagement>

	<build>
		<plugins>
			<plugin>
				<groupId>org.springframework.boot</groupId>
				<artifactId>spring-boot-maven-plugin</artifactId>
			</plugin>
		</plugins>
	</build>

</project>

1. 创建Controller

package com.example.springaidemo;

import org.springframework.ai.chat.client.ChatClient;
import org.springframework.ai.chat.client.advisor.SimpleLoggerAdvisor;
import org.springframework.ai.chat.model.ChatModel;

import org.springframework.ai.ollama.api.OllamaOptions;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.servlet.mvc.method.annotation.SseEmitter;
import reactor.core.publisher.Flux;

import java.io.IOException;

@RestController
@RequestMapping("/client")
public class OllamaChatController {
    private static final String DEFAULT_PROMPT = "你好，介绍下你自己！请用中文回答。";
    private final ChatClient ollamaiChatClient;
    public OllamaChatController(ChatModel chatModel) {
        // 构造时，可以设置 ChatClient 的参数
        this.ollamaiChatClient = ChatClient.builder(chatModel)
                // 实现 Logger 的 Advisor
                .defaultAdvisors(
                        new SimpleLoggerAdvisor()
                )
                // 设置 ChatClient 中 ChatModel 的 Options 参数
                .defaultOptions(
                        OllamaOptions.builder()
                                .topP(0.7)
                                .model("deepseek-r1:7b")
                                .build()
                )
                .build();
    }
    /**
     * ChatClient 简单调用
     */
    @GetMapping("/simple/chat")
    public String simpleChat() {
        return ollamaiChatClient.prompt(DEFAULT_PROMPT).call().content();
    }
    /**
     * ChatClient 流式调用
     */
    @GetMapping("/stream/chat")
    public Flux<String> streamChat1(@RequestParam String message) {
        return ollamaiChatClient.prompt(message).stream().content();
    }
    @GetMapping("/stream")
    public SseEmitter streamChat2(@RequestParam String message) {
        SseEmitter emitter = new SseEmitter();
        Flux<String> content = ollamaiChatClient.prompt(message).stream().content();
        try {
            emitter.send(content);
            System.out.println(emitter.toString());
        } catch (IOException e) {
            throw new RuntimeException(e);
        }
        return emitter;
    }

}

启动项目和保证deepsek运行

在这里插入图片描述
在这里插入图片描述

六、PostMan测试接口

1. 无参数接口测试

接口：/client/simple/chat

在这里插入图片描述

2. 流式调用接口测试

接口：/client/stream/chat

在这里插入图片描述

七、常见问题排查

问题现象解决方案
连接Ollama超时确认ollama serve正在运行
模型加载失败检查ollama list确认模型存在
内存不足尝试更小参数的模型版本

八、总结

本文演示了如何通过：

  1. 本地部署Ollama服务
  2. Spring AI集成LLM能力
  3. 构建RESTful API接口

优势：数据隐私性强、无需API密钥、支持离线环境
备注

<!--		<dependency>-->
<!--			<groupId>org.springframework.ai</groupId>-->
<!--			<artifactId>spring-ai-starter-model-ollama</artifactId>-->
<!--		</dependency>-->

	<dependency>
		<groupId>org.springframework.ai</groupId>
		<artifactId>spring-ai-ollama-spring-boot-starter</artifactId>
		<version>1.0.0-M6</version>
	</dependency>

两者是 Spring AI 不同版本阶段的「Ollama 集成 Starter」，因 Spring AI 1.2.x 版本优化了依赖命名规范而产生差异，具体对比如下：

对比维度spring-ai-ollama-spring-boot-starter（你当前用的）spring-ai-starter-model-ollama（你提到的）
版本兼容性仅存在于 Spring AI 1.2.x 之前（如 1.0.0-M6、1.1.4）仅存在于 Spring AI 1.2.x 及之后（如 1.2.0、1.3.0）
命名规范旧规范：spring-ai-[模块]-spring-boot-starter新规范：spring-ai-starter-model-[模块]
核心功能完全一致：自动配置 Ollama 客户端、模型调用逻辑完全一致：自动配置 Ollama 客户端、模型调用逻辑
依赖传递包含 spring-ai-ollama 核心模块 + 自动配置包含 spring-ai-ollama 核心模块 + 自动配置
是否需要手动指定版本是（1.2.x 前无 BOM 统一管理，需显式写版本）否（1.2.x 后支持 BOM 统一版本，无需写版本）
你的项目能否使用能（当前版本 1.0.0-M6 匹配）不能（1.0.0-M6 版本不存在该依赖，会报找不到）
【Deepseek实战系列】docker+dify+ollama+deepseek本地化部署
GIS学习的专栏
03-23 1797
开年来Deepseek热度飙升。博主计划出一期关于Deepseek的专题文章，以实际操作的第一视角来讲解docker+dify+ollama+deepseek系列应用。一是在本地的电脑或服务器上部署自己的大模型和知识库。二是将AI对自然语言理解、推理能力和知识库的标准化的能力接入到我们自己应用系统。喜欢动手的小伙伴们欢迎点赞关注，如有疑问欢迎在评论区留言或联系博主。
langgraph实战-基于ollama+deepseek搭建实现RAG
AI agent
03-07 1085
基于langgraph使用本地web网页，实现RAG功能
dify实战-小白一步步搭建基于ollama+deepseek生成思维导图智能体
AI agent
03-14 2652
指导在dify搭建基于ollama+deepseek生成思维导图智能体
Ollama+DeepSeek+AnythingLLM搭建个人AI知识库_anythingllm deepseek
2401_85328934的博客
04-12 728
DeepSeek近一个月来一直遭受大量海外攻击，1月27日起手段升级，除了DDos攻击，分析发现还包括了大量的密码爆破攻击，时常宕机。正好上一篇文章有人建议用AnythingLLM套个壳子会更舒服，再加上官网的服务有点不太稳定，所以今天才到家试试简单部署一下整个GUI看看。首先需要先本地部署一下DeepSeek，这里可以参考我上一篇文章 部署完成后再套个壳子DeepSeek R1本地部署官网下载AnythingLLM一直下一步就行了 安装好开始配置 这里选Ollama 地址按它默认的填就行。
【AI落地应用实战】DeepSeek + RagFlow + Ollama + 私有知识库 构建本地知识库系统实战指南
热门推荐
白洞，白色的明天在等着我们
02-21 1万+
本文将带您构建一个集大模型推理、智能检索、知识加工于一体的本地知识库系统，深度融合DeepSeek认知大模型的语义理解能力、RagFlow的文档智能处理能力以及Ollama的本地化部署优势。本文将以DeepSeek、RagFlow、Ollama为核心，手把手带你搭建一套支持GPU加速的私有知识库系统，助你快速实现AI技术的本地化部署与私有知识管理。
Ollama+DeepSeek+AnythingLLM搭建个人AI知识库
2401_84204207的博客
02-01 9467
DeepSeek近一个月来一直遭受大量海外攻击，1月27日起手段升级，除了DDos攻击，分析发现还包括了大量的密码爆破攻击，时常宕机。正好上一篇文章有人建议用AnythingLLM套个壳子会更舒服，再加上官网的服务有点不太稳定，所以今天才到家试试简单部署一下整个GUI看看。首先需要先本地部署一下DeepSeek，这里可以参考我上一篇文章 部署完成后再套个壳子DeepSeek R1本地部署官网下载AnythingLLM一直下一步就行了 安装好开始配置 这里选Ollama 地址按它默认的填就行。
超实用！用 Ollama + DeepSeek + Dify 搭建本地知识库，提升企业效率_ollama+deepseek+dify
2401_84208172的博客
07-03 1088
为啥要搭建本地知识库？ 现在企业内部信息管理太难了，数据到处都是，检索效率低得可怜，还缺乏智能化支持。尤其是面对海量非结构化数据，企业很难快速提取有价值的信息，决策效率低得不行。要是能有个工具解决这些问题，那可太棒了！
零基础搭建AI智能助手实战：基于Ollama+DeepSeek-R1+Open WebUI的本地部署方案！
2401_84494441的博客
08-13 859
本文详细介绍了在Ubuntu系统下从零开始搭建本地AI智能助手的完整流程。主要包括：1）安装Docker基础环境并配置国内镜像源；2）安装Ollama大模型管理工具；3）下载部署DeepSeek-R1等开源大模型；4）通过Docker安装OpenWebUI可视化交互工具。教程提供了详细命令和配置说明，并展示了本地大模型运行代码示例的实际效果。文章还分享了AI大模型学习路线图等资源获取方式，适合想要在本地搭建私有化AI助手的开发者参考。
【技术尝鲜】ollama+deepseek+AnythingLLM个人知识库部署大全，一篇文章搞定全部！
2401_85375151的博客
04-01 735
为了帮助更多热爱技术、渴望成长的朋友，我特别整理了一份涵盖大模型领域的宝贵资料集。这些资料不仅是我多年积累的心血结晶，也是我在行业一线实战经验的总结。这些学习资料不仅深入浅出，而且非常实用，让大家系统而高效地掌握AI大模型的各个知识点。如果你愿意花时间沉下心来学习，相信它们一定能为你提供实质性的帮助。这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费。
搭建一个Spring AI+DeepSeek的小工程
03-15
总结来看，本文指导读者如何基于Spring AI和DeepSeek搭建一个AI对话应用，从基础环境的搭建到集成模型的配置，再到核心代码的编写，每一步都详细说明了如何操作。这一过程不仅介绍了技术细节，还探讨了该框架在实际...
本地RAG实战：用Spring AI+Ollama+DeepSeek+ChromaDB增强文档问答
洒家
07-02 1043
本地部署RAG系统实践指南 本文详细介绍了如何基于Spring AI、Ollama和ChromaDB构建本地RAG（检索增强生成）系统。系统通过文档解析、语义检索和增强生成三个步骤，实现离线环境下的精准问答。关键步骤包括：安装ChromaDB向量数据库、配置Embedding模型（如Granite Embedding）、使用Java操作ChromaDB进行文档存储与检索。该系统能有效减少大模型幻觉，支持专业领域知识问答，适用于企业知识库、学术研究等场景。文章还提供了Spring AI集成代码示例，展示文档添
三剑客合体！用Ollama+DeepSeek+Chatbox从零打造本地全能AI智能体｜实战教程大揭秘
2301_78660208的博客
02-08 1902
随着DeepSeek的火爆，越来越多用户面临官网频繁宕机的问题。为了解决这一困扰，我们可以选择将DeepSeek R1部署在本地设备上，避免对云端服务的依赖。通过本地部署，智能助手直接在用户设备上处理数据和任务，确保数据隐私和安全，特别适用于那些对数据敏感性要求较高的场景。用户只需确保本地环境满足硬件和软件要求，并负责安装、配置与维护。部署本地大模型如DeepSeek R1，有三大显著优势：1.：所有数据留在本地，无需上传至云端，杜绝敏感信息泄露和第三方访问。2.
大模型应用：大模型 MapReduce 全解析：核心概念、中文语料示例实现.12
minhuan的专栏
12-03 1291
本文介绍了MapReduce编程模型及其在大模型训练中的应用。MapReduce通过"分治-并行-聚合"思想处理大规模数据，传统Hadoop MapReduce侧重结构化数据计算，而大模型MapReduce则针对自然语言处理任务。文章详细对比了两者在架构、处理对象和核心算力等方面的差异，并提供了中文词频统计的Python实现示例，包括单机版和分布式版本。分布式实现利用多进程模拟集群计算，展示了数据分片、Map、Shuffle和Reduce的完整流程。
人工智能的基石之三：硬件
最简单的方法，解决最实际的问题。
12-05 654
高性能硬件是人工智能的基石，尤其是在机器学习和深度学习领域，海量数据是常态。从充当计算机大脑的中央处理器 (CPU) 到加速计算的图形处理器 (GPU)，硬件的作用是提供处理和运行复杂数据算法所需的原始能力。
【论文速递】2025年第34周(Aug-17-23)(Robotics/Embodied AI/LLM)
最新发布
淋曦的进击手记
12-07 812
自我监督的学习有望消除对手动数据注释的需求，从而使模型能够毫不费力地扩展到大规模的数据集和较大的体系结构。通过不针对特定的任务或领域量身定制，这种训练范式有可能使用单个算法从不同的来源学习视觉表示形式，从自然到航空图像。该技术报告介绍了Dinov3，这是通过利用简单而有效的策略来实现这一愿景的主要里程碑。首先，我们利用仔细的数据准备，设计和优化来扩展数据集和模型大小的好处。其次，我们介绍了一种称为GRAM锚定的新方法，该方法有效地解决了长期训练时间表中已知但未解决的密集特征映射降解的问题。
AI泡沫什么时候破？
脑极体
12-04 666
而AI企业面对的短期形势，可能更为严峻。而AI公司和技术服务商，为了迎合决策者或拿下B端大项目，往往不计成本的低价竞标，无视人工成本的驻场开发，技术价值让位于领导偏好，企业自身也深陷人效黑洞，沦为挣辛苦钱的技术外包。To B/G不赚钱，To C也卖不上价，所以目前AI领域唯一清晰的商业模式，就是类似英伟达的“卖铲人”模式，卖加速卡和算力的企业成了这一轮AI浪潮的最大受益人。去伪存真之后，资本会冷却，叙事会修正，共识会重新凝聚，而那些持续追问“AI如何创造真实价值”的人，会与行业一同穿越周期，走向成熟。
【AI是否能替代IT从业者？】
博文致力于人工智能算法的探索研究；前后端分离项目的技术分享交流；专升本计算机基础课程内容讲解；各种中间件技术分享
12-03 1146
2025年IT行业面临AI深度重构：基础开发、测试、运维岗位替代率超60%，但AI相关新兴岗位激增380%。人类在复杂系统设计、伦理决策和跨界融合领域仍具不可替代性。微软等企业实践显示，人机协作可使效率提升40%。从业者需转型高价值领域（如Agent开发、大模型工程），掌握"技术+领域"双轨能力。AI本质是职业生态重构器，持续学习者的薪资溢价可达150%。建议立即评估岗位AI暴露指数，优先学习分布式架构优化、多智能体开发等技能。
AI驱动的网联自动驾驶汽车网络安全测试方法
NewCarRen的博客
12-03 1034
本文综述了网联自动驾驶汽车(CAV)网络安全测试面临的挑战与解决方案。随着CAV普及，网络攻击风险加剧，现有渗透测试方法面临测试环境成本高、专业人才匮乏等挑战。研究表明，人工智能(AI)在传统行业渗透测试中展现出缩短时间、提高效率的优势，但在CAV领域应用仍存在明显缺口。文章重点分析了强化学习等AI算法在渗透测试中的应用潜力，指出创建仿真环境是测试AI模型有效性的可行方案。开源工具VEINS被推荐为合适的仿真平台，其Python/C++接口便于AI模型集成。研究认为，若证实AI方法有效，可扩展应用于完整CA
建筑数字孪生与AI：工地数据化与智能决策解析
Azhiyuanshijie的博客
12-04 337
数字孪生整合BIM模型、无人机影像、传感器数据，构建工地虚拟模型。施工状态、材料使用、设备运行数据被实时采集，支撑预测与优化。服务，将算法嵌入实际施工管理系统，实现数据采集、分析、优化和决策闭环。系统可与BIM、ERP集成，形成完整数字孪生解决方案。通过虚拟映射和AI算法，施工过程从经验驱动转向数据驱动。数字孪生+AI，让工地变成“数据实验室”，提升效率、降低风险，并推动建筑企业迈向智能化时代。，企业可展示施工技术实力，实现品牌影响力和潜在客户转化。：AI提出最优施工方案，提升效率和安全。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Coder_Boy_

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值