Spring AI + Ollama 快速构建大模型应用程序（含源码）

1、Spring AI 开发框架介绍

Spring AI 借鉴了 LangChain（Python）的灵感，后者支持与 AI 和多种 LLM 集成。目前 Spring AI 提供了多种大模型和向量数据库供您选择。可以登录官网（https://spring.io/projects/spring-ai）查看 Spring AI 的更详细文档。

今天的 Spring AI 项目中会使用到 Vaadin，Vaadin 是一个基于 Java 和 Kotlin 的 Web 应用开发框架。

2、开始构建大模型应用项目

第一、需求

开发一款能够汇总股票市场周报的工具。

第二、项目效果

项目效果如下：

第三、架构设计

整体架构设计如下分为3个步骤：

1. 设置 RAG
2. 使用 Vaadin 设计 UI 界面
3. 创建业务流程

步骤一、设置 RAG 检索增强生成

在该项目中，我利用 Apache Tika 来解析位于 /resources 目录中的 PDF 文件。

在大模型应用程序启动过程中，系统会开始读取 PDF 文件，并将数据 Embedding 后存储到向量数据库中。

RAG 将检索增强的前后端进行了分离，如下图所示：

步骤二、使用 Vaadin 的 UI

这是一个简易的消息输入界面，用于接收提示信息（尝试构建一个类似 ChatGPT 的用户界面，但采用的是 Vaadin 框架）。

步骤三、创建业务流程

最后但同样重要的一步是，我们将构建一个服务来与大模型进行通信。这包括添加系统提示词，我们将使用 HashMap 进行值的替换，接着利用 SystemPromptTemplate 生成消息，最后将其发送给大语言模型 (LLM)。

第四、项目集成

首先，我们在本地进行手动测试 Ollama。

spring:
  ai:
    ollama:
      base-url: ${AI_OLLAMA_BASE_URL:<http://localhost:11434>}
      chat:
        options:
          model: llama3:8b

第五、项目完整代码

项目完整开源代码 Github 地址：

https://github.com/qianniucity/financial-weekly

​

如何学习大模型

现在社会上大模型越来越普及了，已经有很多人都想往这里面扎，但是却找不到适合的方法去学习。

作为一名资深码农，初入大模型时也吃了很多亏，踩了无数坑。现在我想把我的经验和知识分享给你们，帮助你们学习AI大模型，能够解决你们学习中的困难。

下面这些都是我当初辛苦整理和花钱购买的资料，现在我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习，等录播视频免费分享出来，需要的小伙伴可以扫取。

一、AGI大模型系统学习路线

很多人学习大模型的时候没有方向，东学一点西学一点，像只无头苍蝇乱撞，我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。

二、AI大模型视频教程

三、AI大模型各大学习书籍

四、AI大模型各大场景实战案例

五、结束语

学习AI大模型是当前科技发展的趋势，它不仅能够为我们提供更多的机会和挑战，还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型，我们可以深入了解深度学习、神经网络等核心概念，并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时，掌握AI大模型还能够为我们的职业发展增添竞争力，成为未来技术领域的领导者。

再者，学习AI大模型也能为我们自己创造更多的价值，提供更多的岗位以及副业创收，让自己的生活更上一层楼。

因此，学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。