阿里巴巴在 Spring AI 的基础上推出了 Spring Cloud Alibaba AI,方便国内的 Java 开发者快速对接通义系列大模型。这篇文章会简单介绍一下 Spring Cloud Alibaba AI。
什么是 Spring AI?
Spring AI 是从著名的 Python 项目LangChain和LlamaIndex中汲取灵感,它不是这些项目的直接移植,它的成立信念是,下一波生成式人工智能应用程序将不仅适用于 Python 开发人员,而且将在许多编程语言中无处不在。
我们可以从 Spring AI 的官网描述中,总结出 Spring AI 的几个核心的关键词:
-
提供抽象能力
-
简化 AI 应用的开发
-
模型与向量支持
-
AI 集成与自动配置
Spring AI 简化了我们构建大型复杂的 AI 应用的过程,当然如果你的项目仅仅是需要调用一个 AI 接口,那其实直接调用官方 SDK 反而更方便。
Spring AI 提供的功能如下:
-
支持所有主要的模型提供商,如 OpenAI,Microsoft,Amazon,Google 和 Huggingface。支持的模型类型包括聊天和文本到图像。
-
跨 AI 提供商的可移植 API,用于聊天和嵌入模型。支持同步和流 API 选项。还支持下拉以访问特定于模型的功能。
-
将 AI 模型输出映射到 POJO。
-
支持所有主要的向量数据库,例如 Azure Vector Search、Chroma、Milvus、Neo4j、PostgreSQL/PGVector、PineCone、Qdrant、Redis 和 Weaviate。
-
跨 Vector Store 提供程序的可移植 API,包括新颖的类似 SQL 的元数据过滤器 API,该 API 也是可移植的。
-
AI 模型和矢量存储的 Spring Boot stater。
-
用于数据工程的 ETL 框架
什么是 Spring Cloud Alibaba AI?
原始的 Spring AI 并没有国内相关大模型的接入,对国内开发者不太友好。
总的来说,Spring Cloud Alibaba AI 目前基于 Spring AI 0.8.1 版本 API 完成通义系列