阿里也出手了!Spring Cloud Alibaba AI 初体验

第六章 Spring AI 中文版 如下面的代码片段所示,然后可以为您希望使用的一个或多个spring-ai模块(例如spring-ai-openai)的Starter Dependencies进行无版本声明。和熟悉 JavaScript 生态系统的人的“create-react-app”命令一样,Spring CLI 提供了一个用于创建基于 Spring 的项目spring boot new的命令。Spring AI 清单 (BOM) 声明给定版本的 Spring AI 使用的所有依赖项的推荐版本。 阅读详情

👉 这是一个或许对你有用的社群

🐱 一对一交流/面试小册/简历优化/求职解惑,欢迎加入「芋道快速开发平台」知识星球。下面是星球提供的部分资料: 

f0911b873726f8df8082e41c483022bd.gif

👉这是一个或许对你有用的开源项目

国产 Star 破 10w+ 的开源项目,前端包括管理后台 + 微信小程序,后端支持单体和微服务架构。

功能涵盖 RBAC 权限、SaaS 多租户、数据权限、商城、支付、工作流、大屏报表、微信公众号、CRM 等等功能:

  • Boot 仓库:https://gitee.com/zhijiantianya/ruoyi-vue-pro

  • Cloud 仓库:https://gitee.com/zhijiantianya/yudao-cloud

  • 视频教程:https://doc.iocoder.cn

【国内首批】支持 JDK 21 + SpringBoot 3.2.2、JDK 8 + Spring Boot 2.7.18 双版本 

来源:juejin.cn/post/
7361752279726866432

7dc018a3cf54968a37fa867d083281cc.jpeg


什么是Spring AI

Spring AI是从著名的Python项目 LangChain 和 LlamaIndex 中汲取灵感,它不是这些项目的直接移植,它的成立信念是,「下一波生成式人工智能应用程序将不仅适用于 Python 开发人员,而且将在许多编程语言中无处不在」 。

我们可以从Spring AI的官网描述中,总结出Spring AI的几个核心的关键词:

  • 提供抽象能力

  • 简化AI应用的开发

  • 模型与向量支持

  • AI集成与自动配置

❝

Spring AI简化了我们构建「大型复杂的AI应用」 的过程,当然如果你的项目仅仅是需要调用一个AI接口,那其实直接调用官方SDK反而更方便。

❞

Spring AI提供的功能如下:

  • 支持所有主要的模型提供商,如OpenAI,Microsoft,Amazon,Google和Huggingface。支持的模型类型包括聊天和文本到图像。

  • 跨 AI 提供商的可移植 API,用于聊天和嵌入模型。支持同步和流 API 选项。还支持下拉以访问特定于模型的功能。

  • 「将 AI 模型输出映射到 POJO」 。

  • 支持所有主要的向量数据库,例如 Azure Vector Search、Chroma、Milvus、Neo4j、PostgreSQL/PGVector、PineCone、Qdrant、Redis 和 Weaviate。

  • 跨 Vector Store 提供程序的可移植 API,包括新颖的类似 SQL 的元数据过滤器 API,该 API 也是可移植的。

  • AI 模型和矢量存储的 「Spring Boot stater」 。

  • 用于数据工程的 ETL 框架

基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://github.com/YunaiV/ruoyi-vue-pro

  • 视频教程:https://doc.iocoder.cn/video/

什么是Spring Cloud Alibaba AI

原始的Spring AI并没有国内相关大模型的接入,对国内开发者不太友好。

总的来说,Spring Cloud Alibaba AI 目前基于Spring AI 0.8.1版本 API 完成通义系列大模型的接入。

在当前最新版本中,Spring Cloud Alibaba AI 主要完成了几种常见生成式模型的适配,包括对话、文生图、文生语音等,开发者可以使用 Spring Cloud Alibaba AI 开发基于通义的聊天、图片或语音生成 AI 应用,框架还提供 OutParser、Prompt Template、Stuff 等实用能力。

Spring Cloud Alibaba AI官方还提供了包括「聊天对话、文生图、文生语音」 等多种应用的开发示例,具体可以前往官网查看:快速开始 | https://sca.aliyun.com[1]

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://github.com/YunaiV/yudao-cloud

  • 视频教程:https://doc.iocoder.cn/video/

动手体验Spring Cloud Alibaba AI

首先新建一个Maven项目,JDK选的是17版本。

Maven文件需要引入spring-cloud-alibaba-dependencies和spring-cloud-starter-alibaba-ai两个依赖。

<dependencyManagement>
    <dependencies>
        <dependency>
            <groupId>com.alibaba.cloud</groupId>
            <artifactId>spring-cloud-alibaba-dependencies</artifactId>
            <version>2023.0.1.0</version>
            <type>pom</type>
            <scope>import</scope>
        </dependency>
    </dependencies>
</dependencyManagement>

<dependencies>
    <dependency>
        <groupId>com.alibaba.cloud</groupId>
        <artifactId>spring-cloud-starter-alibaba-ai</artifactId>
    </dependency>
</dependencies>

配置阿里云通义千问的Api-Key,没有的读者可以从官网上申请。

server:
  port: 8080
spring:
  application:
    name: alibaba-spring-ai-demo

  cloud:
    ai:
      tongyi:
          api-key: 你的api-key

新建SpringBoot启动类:

@SpringBootApplication
public class MyAiApplication {
    public static void main(String[] args) {
        SpringApplication.run(MyAiApplication.class,args);
    }
}
对接文本模型

我们首先测试如何对接文本大模型。

新建一个控制器类:新建/simple接口,用来测试基本QA。

@RestController
@RequestMapping("/ai")
@CrossOrigin
public class TongYiController {
    @Autowired
    @Qualifier("tongYiSimpleServiceImpl")
    private TongYiService tongYiSimpleService;

    @GetMapping("/simple")
    public String completion(
            @RequestParam(value = "message", defaultValue = "AI时代下Java开发者该何去何从?")
            String message
    ) {
        return tongYiSimpleService.completion(message);
    }
}

新建一个TongyiService服务类:

public interface TongYiService {

    /**
     * 基本问答
     */
    String completion(String message);
    /**
     * 文生图
     */
    ImageResponse genImg(String imgPrompt);

    /**
     * 语音合成
     */
    String genAudio(String text);

}

具体的实现类如下:由 Spring AI 自动注入 ChatClient、StreamingChatClient,ChatClient 屏蔽底层通义大模型交互细节,后者用于流式调用。

对于QA而言,仅仅通过client.call(prompt)一行代码就可以完成对模型的调用。

@Service
@Slf4j
public class TongYiSimpleServiceImpl extends AbstractTongYiServiceImpl {
  /**
   * 自动注入ChatClient、StreamingChatClient,屏蔽模型调用细节
   */
  private final ChatClient chatClient;

  private final StreamingChatClient streamingChatClient;

  @Autowired
  public TongYiSimpleServiceImpl(ChatClient chatClient, StreamingChatClient streamingChatClient) {
    this.chatClient = chatClient;
    this.streamingChatClient = streamingChatClient;
  }
    /**
    * 具体实现:
    */
  @Override
  public String completion(String message) {
    Prompt prompt = new Prompt(new UserMessage(message));
    return chatClient.call(prompt).getResult().getOutput().getContent();
  }
}

我们发送一个请求,prompt是AI时代下Java开发者该何去何从?测试结果如下:

e2bb472f51c354f2003e1b77b7efa3b9.jpeg
文生图模型

这里只给出service的代码,其它代码同上面的文本问答。

可以看到,只需要实例化一个imagePrompt,再调用模型即可。

@Slf4j
@Service
public class TongYiImagesServiceImpl extends AbstractTongYiServiceImpl {
    private static final Logger logger = LoggerFactory.getLogger(TongYiService.class);
    private final ImageClient imageClient;
    @Autowired
    public TongYiImagesServiceImpl(ImageClient client) {
       this.imageClient = client;
    }
    @Override
    public ImageResponse genImg(String imgPrompt) {
       var prompt = new ImagePrompt(imgPrompt);
       return imageClient.call(prompt);
    }
}

测试的prompt是:Painting a boy coding in front of the desk, with his dog.,测试结果如下,效果还是很不错的:

99f8cc9c2501eda62c2340f7bde9117a.jpeg 7f96a829c2674a386bfce2bc9f4b1ea2.jpeg
语音合成模型
@Slf4j
@Service
public class TongYiAudioSimpleServiceImpl extends AbstractTongYiServiceImpl {
    private static final Logger logger = LoggerFactory.getLogger(TongYiService.class);
    private final SpeechClient speechClient;
    @Autowired
    public TongYiAudioSimpleServiceImpl(SpeechClient client) {
       this.speechClient = client;
    }
    @Override
    public String genAudio(String text) {
       logger.info("gen audio prompt is: {}", text);
       var resWAV = speechClient.call(text);
       // save的代码省略,就是将音频保存到本地而已
       return save(resWAV, SpeechSynthesisAudioFormat.WAV.getValue());
    }
}

测试结果也是成功的:

40f069a0d7bea4cb42141987c814c6fb.jpeg

使用体验小结

不得不说,阿里在Java开发领域一直是走在国内的前沿的,我也期待阿里继续完善Spring Cloud Alibaba AI的相关功能,为我们这些国内Java开发者提供更加方便的开发工具。

本文仅仅简单测试了文本问答、文生图以及语音合成三个功能,(最后一个没列出来),Spring Cloud Alibaba AI还有很多丰富的功能,如流式调用、POJO转换、AI Role等功能,各位读者感兴趣可以自行前往官方example仓库查看。后续也我打算利用Spring Cloud Alibaba AI尝试构建一个RAG问答应用。

下面给出我的使用小结:

  1. 「简化开发」 。个人开发者如果仅仅需要简答的问答接口,无需使用Spring AI,然而,当项目中需要开发比较复杂的AI功能,如果仅仅使用官方的SDK,写出的代码可能不太容易长期维护。

  2. 「响应时间」 。接口响应时间还有很大的优化空间,可以看到基本的文本问答的响应就耗费了10s,不过这也取决于所处理任务的大小。

  3. 「模型选择」 。之前使用SDK可以自己选择通义提供的各种模型,而使用Spring AI框架,暂时不知道如何选择其它模型进行调用,有知道的掘友也可以在评论区说一下。

未来,Spring Cloud Alibaba AI还将继续完成 VectorStore、Embedding、ETL Pipeline 等更多适配,简化 RAG 等更多 AI 应用开发场景。身为Java开发者,我也将继续关注Spring Cloud Alibaba 社区的最新动态。

Reference

[1]快速开始 | https://sca.aliyun.com:https://sca.aliyun.com/docs/2023/user-guide/ai/quick-start/


欢迎加入我的知识星球,全面提升技术能力。

👉 加入方式,“长按”或“扫描”下方二维码噢:

d03b6d2a5b13d5342ca236443f7e4932.png

星球的内容包括:项目实战、面试招聘、源码解析、学习路线。

6ad14c5ac6598c23157049fa123eb065.png

d0ac9bbd6d75e40e878bcb93626239e3.pngcccba67ec41173382518ec8d18e3c675.pngc914563133519bb52c613b0498e5cbb5.png53706c4672cb10ff57a5de1d5d4e0a16.png

文章有帮助的话,在看,转发吧。
谢谢支持哟 (*^__^*)
Spring AI:让ChatGPT成为你的开发助手 在当今快速发展的技术世界中,人工智能(AI)正逐渐成为开发者的得力助手。而ChatGPT作为一种强大的自然语言处理模型,已经被广泛应用于聊天机器人、智能助手、自动回复系统等领域。本文将介绍如何使用Spring AI集成ChatGPT,让它成为你的开发助手。Spring AI是一个基于Spring Boot框架的AI应用开发工具包。它旨在简化AI模型的集成和部署,使开发者能够更快地构建智能应用。Spring AI提供了一系列功能,包括对话管理、自然语言处理、图像识别等,其中ChatGPT就是其中之一。 阅读详情

相关推荐

Spring Cloud Alibaba之 AI

Spring Cloud Alibaba AI 为 Java 开发者提供了一个快速接入并使用阿里云通义系列大模型的解决方案。通过整合 Spring Cloud Alibaba 和 Spring AI,开发者可以轻松地构建基于 AI 的微服务应用,实现对话、文生图、文生语音等多种功能。本文提供了一个简单的在线聊天 AI 应用示例,展示了从项目创建、依赖引入、配置文件编写到业务逻辑实现的全过程。

一个老Java开发的自白 2497

Spring AI -使用Spring快速开发ChatGPT应用

本篇文章将会对SpringAI进行简单的介绍和使用,并通过SpringBoot来集成SpringAI实际开发出一个简单的http对话接口。

qq_41481367的博客 5万+

Spring Alibaba Ai 实现聊天和文生图功能

Spring Alibaba Ai 实现聊天和文生图功能

lord_huang的博客 3005

Spring推出Spring AI框架,看看怎么个事

在当今快速发展的技术时代,人工智能(AI)已经成为各行各业的关键驱动力。而作为一种领先的Java应用开发框架,Spring Framework在软件开发领域享有盛誉。下面跟着我一起去了解Spring AI的庐山真面目吧。

qq_43657722的博客 7239

Spring AI与Spring Cloud Alibaba AI整合实践

在Java企业级开发中,AI功能的引入常面临技术栈割裂与运维复杂度高的挑战。Spring AI作为Spring生态的标准化AI集成方案,通过抽象层设计统一了不同AI服务提供商的接入方式,显著降低了跨语言调用的复杂度。其核心价值在于将AI能力无缝融入现有Spring技术栈,实现自动配置、健康检查等企业级特性。特别地,Spring Cloud Alibaba AI进一步针对阿里云大模型优化,提供与Nacos、Sentinel等组件的深度集成。这种架构设计使得开发者可以专注于业务逻辑,同时灵活切换底层AI服务,适

weixin_34279184的博客 380

Spring AI与Spring Cloud Alibaba AI框架实战指南

AI集成是现代企业级应用开发的核心需求,Spring生态推出的Spring AI和Spring Cloud Alibaba AI框架为开发者提供了高效解决方案。Spring AI作为模型无关的中间件,通过统一API简化了OpenAI、Hugging Face等各类AI模型的接入;而Spring Cloud Alibaba AI则深度整合阿里云AI服务,如通义千问和视觉识别,特别适合云原生场景。这两个框架都遵循Spring的约定优于配置原则,显著降低了AI能力集成的复杂度。在实际应用中,开发者可以快速实现对话

weixin_30911451的博客 474

阿里也出手了!Spring Cloud Alibaba AI初体验

什么是Spring AISpring AI是从著名的Python项目LangChain和LlamaIndex中汲取灵感,它不是这些项目的直接移植,它的成立信念是,下一波生成式人工智能应用程序将不仅适用于 Python 开发人员,而且将在许多编程语言中无处不在。Java进阶网站:https://java-family.cn我们可以从Spring AI的官网描述中,总结出Spring AI的几个核心的...

码猿技术专栏 1092

8. Spring Ai之入门到精通(超级详细)

Spring AI 1.0.0 M1里程碑版本发布,标志着 Java 终于踏进Ai的时代半只脚。

gorgor在码农 3万+

阿里出击!Spring Cloud Alibaba AI 初体验

原始的Spring AI并没有国内相关大模型的接入,对国内开发者不太友好。总的来说,Spring Cloud Alibaba AI 目前基于Spring AI 0.8.1版本 API 完成通义系列大模型的接入。

m0_63171455的博客 3593

一个固定翼飞机仿真程序带你系统性上手如何实现配平(工具箱+脚本)

老规矩,该博客所用的模型和脚本已上传至百度网盘,名字为“固定翼配平训练例子”,自己自取。

zouxu634866的博客 2575

Vivado实战:从零封装AXI-Lite接口的呼吸灯IP核

本文提供了一份详细的Vivado实战指南,手把手教你如何将Verilog编写的呼吸灯模块封装成带AXI-Lite接口的IP核。内容涵盖从创建IP框架、编写核心逻辑、连接AXI总线到在ZYNQ系统中调用并编写C程序进行软硬件协同测试的完整流程,是掌握FPGA软硬件协同设计的关键实践。

weixin_29233333的博客 599

阿里也出手了!Spring CloudAlibaba AI问世了

可能有些小伙伴已经忘记了SpringAI是啥?我们这儿再来简单回顾一下。Spring AI是一个面向AI工程的应用框架。其目标是将可移植性和模块化设计等设计原则应用于AI领域的Spring生态系统,并将POJO作为应用程序的构建块推广到AI领域。转换为人话来说就是:Spring出了一个AI框架,帮助我们快速调用AI,从而实现各种功能场景。以Spring AI为基础,并在此基础上,基于版本 API 完成通义系列大模型的接入实现阿里云通义系列大模型全面适配。在当前最新版本中,

jennycisp的博客 3369

功能安全入门:手把手教你用IEC 62380标准计算芯片失效率(附SN 29500对比)

本文深入解析了IEC 62380标准在芯片失效率计算中的应用,对比了SN 29500的差异,并提供了实战案例和避坑指南。通过详细的参数获取方法和分步计算演示,帮助功能安全工程师准确评估芯片可靠性,确保设计符合安全要求。特别适合汽车电子和工业控制领域的专业人士参考。

weixin_30363981的博客 322

无敌!Spring Cloud Alibaba AI!

Spring AI 是从著名的 Python 项目LangChain和LlamaIndex中汲取灵感,它不是这些项目的直接移植,它的成立信念是,下一波生成式人工智能应用程序将不仅适用于 Python 开发人员,而且将在许多编程语言中无处不在。提供抽象能力简化 AI 应用的开发模型与向量支持AI 集成与自动配置Spring AI 简化了我们构建大型复杂的 AI 应用的过程,当然如果你的项目仅仅是需要调用一个 AI 接口,那其实直接调用官方 SDK 反而更方便。

java_121388的博客 1099

非root用户如何在CentOS7集群上编译安装OpenFOAM6

本文详细介绍了在CentOS7集群上以非root用户身份编译安装OpenFOAM6的完整流程。通过环境准备、依赖包离线获取、源码编译安装等步骤,解决了集群环境下权限和依赖问题,特别针对OpenMPI和Boost库提供了优化配置建议,帮助用户高效完成安装并优化性能。

weixin_28826961的博客 684

基于车牌识别的停车收费系统的设计与实现(源码+开题)

本系统(程序源码)带文档lw万字以上文末可获取一份本项目的java源码和数据库参考。系统程序文件列表开题报告内容研究背景: 随着城市化进程的加速和汽车保有量的增加,停车难成为了一个普遍存在的问题。传统的停车收费方式存在着效率低下、管理混乱等问题。因此,开发一款基于车牌识别的停车收费系统具有重要的现实意义。研究意义: 基于车牌识别的停车收费系统可以有效地解决传统停车收费方式在效率和准确性方面的问题,提高停车服务的效率和质量。

迟限程序设计 1393

Spring Cloud Alibaba AI初体验

摘要: Spring Cloud Alibaba AI是基于Spring AI 0.8.1版本开发的国内大模型适配框架,主要集成了通义系列AI能力,支持对话、文生图、语音合成等功能。本文通过实战演示了如何快速接入通义千问API:通过Maven引入依赖、配置API-Key,并实现文本问答接口。测试表明,仅需调用ChatClient即可完成模型交互,极大简化了AI应用开发流程。未来该框架还将扩展向量数据库、Embedding等RAG场景支持,为Java开发者提供更便捷的AI集成方案。

qq_45563887的博客 1084

Pytorch(一) Pytorch 的安装

安装步骤 1.检查是否有合适的GPU, 若有安装Cuda与CuDNN 2.下载pytorch安装文件,进行pytorch的安装 检查电脑是否有合适的GPU 在桌面上右击如果能找到NVIDA控制面板,则说明该电脑有GPU。控制面板如下,并通过查看系统信息获取支持的Cuda版本 点击 帮助->点击 系统信息 弹出下面的对话框,在驱动程序版本那一栏就能看到该计算机使用的驱动版本。 ...

开开心心 25万+

Spring Cloud Alibaba AI 入门与实践

本文将介绍 Spring Cloud Alibaba AI 的基本概念、主要特性和功能,并演示如何完成一个在线聊天和在线画图的 AI 应用。

zlt2000的博客 1271

1、JMP脚本编程全面指南:从基础到高级应用

本博客全面介绍了JMP脚本编程的各个方面,从JMP基础和JSL入门,到数据类型、数据结构、编程方法、数据表操作、图形与三维场景脚本,再到应用程序创建与扩展功能。内容涵盖脚本工具使用、常见任务实现、兼容性说明及未来发展趋势,旨在帮助用户掌握JMP脚本语言的强大功能,提升数据分析的自动化与定制化能力。适合从初学者到高级用户的深入学习与实践参考。

flink9streamer的博客 267

SXU—软件测试方法和技术-朱少民-第四部分 软件测试流程和规范-附考点

软件测试方法和技术-朱少民-第四章 软件测试流程和规范—这本书最后一部分的考点整理,考点分析

weixin_63597914的博客 1752

10分钟接入AI大模型—Spring Cloud Alibaba

AI大模型的发展迅速,成为全球科技竞争的新高地,具有极大的发展潜力和广泛的应用前景。

qq_17153885的博客 3263

蓝牙模块HM-10手册

蓝牙模块HM-10手册,该手册对蓝牙模块HM-10进行了详细的介绍和使用方法以及一些AT指令。

阿里出手了!Spring Cloud Alibaba AI 接入的体验很nice!

什么是Spring AISpring AI是从著名的Python项目 LangChain 和 LlamaIndex 中汲取灵感,它不是这些项目的直接移植,它的成立信念是,「下一波生成式人工智能应用程序将不仅适用于 Python 开发人员,而且将在许多编程语言中无处不在」。我们可以从Spring AI的官网描述中,总结出Sp...

cnzzs的博客 662

STM32F407中文手册

STM32f407中文手册 本参考手册面向应用开发人员,提供有关使用 STM32F405xx/07xx、STM32F415xx/17xx、 STM32F42xxx 和 STM32F43xxx 微控制器存储器与外设的完整信息。STM32F405xx/07xx、STM32F415xx/17xx、STM32F42xxx 和 STM32F43xxx 构成一个微 控制器系列,各产品具有不同的存储器大小、封装和外设。有关订购信息以及器件的机械与电气特性,请参见数据手册。有关 ARM Cortex™-M4F 内核的信息,请参见《Cortex™-M4F 技术参考手册》。

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

上一篇: SpringBoot + 事务钩子函数,打造高效支付系统!
下一篇: VS Code劲敌、Atom原作者主导、Rust编写的“最好”编辑器——Zed开始支持Linux
公众号-芋道源码
博客等级 码龄10年 1639粉丝 377原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值