手把手教学：LangChain4j实现Java与AI大模型深度对话

 大模型应用开发专栏

（一）手把手教学：LangChain4j实现Java与AI大模型深度对话
（二）Windows搭建AI大模型应用开发环境以及踩过的坑
（三）Windows搭建AI大模型应用开发环境 - 向量数据库pgvector
（四）手把手教学：SpringBoot+LangChain4j实战全攻略
（五）手把手教学：SpringBoot整合LangChain4j实现知识库RAG检索
（六）手把手教学：SpringBoot + MCP + Cherry Studio

（一）LangChain4介绍

官网 https://docs.langchain4j.dev/

LangChain4j 是一个专为Java开发者设计的开源库，旨在简化将大型语言模型（LLM）集成到Java应用程序中的过程。它于2023年初开发，灵感来源于Python和JavaScript的LLM库，特别是为了填补Java领域在这一方面的空白。

LangChain4j 的核心功能

1. 统一API：LangChain4j提供了一个标准化的API，使得开发者可以方便地接入15+个主流的LLM提供商（如OpenAI、Google 、阿里、 智谱）和15+个向量嵌入存储（Qdrant、Pinecone、Milvus）。这意味着开发者无需学习每个API的细节，可以轻松切换不同的模型和存储，而无需重写代码。

2. 综合工具箱：该框架包含多种工具，从低级的提示模板、聊天记忆管理到高级模式（如AI服务和RAG）。这些工具帮助开发者构建从聊天机器人到完整的数据检索管道等多种应用。

3. 多模态支持：LangChain4j支持文本和图像作为输入，能够处理更复杂的应用场景。

（二）Langchain4j 与 java项目集成

开发环境：JDK17+

pom.xml

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>

    <groupId>com.lc</groupId>
    <artifactId>langchain4j_demo</artifactId>
    <version>1.0-SNAPSHOT</version>

    <properties>
        <maven.compiler.source>17</maven.compiler.source>
        <maven.compiler.target>17</maven.compiler.target>
        <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
        <langchain4j.version>1.0.0-beta1</langchain4j.version>
    </properties>

    <dependencies>
        <!--核心-->
        <dependency>
            <groupId>dev.langchain4j</groupId>
            <artifactId>langchain4j</artifactId>
            <version>${langchain4j.version}</version>
        </dependency>

        <!--openai-->
        <dependency>
            <groupId>dev.langchain4j</groupId>
            <artifactId>langchain4j-open-ai</artifactId>
            <version>${langchain4j.version}</version>
        </dependency>

        <!--阿里-->
        <dependency>
            <groupId>dev.langchain4j</groupId>
            <artifactId>langchain4j-community-dashscope</artifactId>
            <version>${langchain4j.version}</version>
        </dependency>

        <!--ollama-->
        <dependency>
            <groupId>dev.langchain4j</groupId>
            <artifactId>langchain4j-ollama</artifactId>
            <version>${langchain4j.version}</version>
        </dependency>

        <dependency>
            <groupId>org.junit.jupiter</groupId>
            <artifactId>junit-jupiter</artifactId>
            <version>5.12.1</version>
            <scope>test</scope>
        </dependency>

        </dependencies>
        <!--  解决Junit测试告警信息
        SLF4J(W): No SLF4J providers were found.
        SLF4J(W): Defaulting to no-operation (NOP) logger implementation
        SLF4J(W): See https://www.slf4j.org/codes.html#noProviders for further details.
  -->
        <dependency>
            <groupId>ch.qos.logback</groupId>
            <artifactId>logback-classic</artifactId>
            <version> 1.5.18</version>
        </dependency>


</project>

1.与chatGPT对话

    @Test
    void testGPTChat() {
        //只有<langchain4j.version>1.0.0-beta1</langchain4j.version>版本apikey=demo才可以免费调用，版本1.0.0-beta2会抛异常
        ChatLanguageModel model = OpenAiChatModel
                .builder()
                .apiKey("demo")         // demo演示版本
                .modelName("gpt-4o-mini")
                .build();
        String answer = model.chat("你是谁");
        System.out.println(answer);
    }

运行结果：

2.与阿里的通义千问对话

先去阿里百炼平台注册API-KEY，目前大部分模型有免费额度，自注册开始有限期180天。

 

    @Test
    void testQwenChat() {
        String apiKey="apikey";
        ChatLanguageModel model = QwenChatModel
                .builder()
               // .baseUrl("https://dashscope.aliyuncs.com")
                .apiKey(apiKey)
                .modelName(Generation.Models.QWEN_TURBO)
                .build();

        String answer = model.chat("你是谁");

        System.out.println(answer);
    }

运行结果：

3.与DeepSeek对话

DeepSeek官网创建API key，调用API需要充值，不然会报错：余额不足，充几块可以用很久

（1）model='deepseek-chat'  对应的是DeepSeek-V3
（2）model='deepseek-reasoner' 对应的是DeepSeek-R1

（3）DeepSeek 模型与 OpenAI API 完全兼容，可以使用任何 OpenAI 客户端或库进行访问，所以这里用的OpenAiChatModel对象

    @Test
    void testDeepseekChat() {
        String apiKey="apikey";
        ChatLanguageModel model = OpenAiChatModel
                .builder()
                .baseUrl("https://api.deepseek.com")
                .apiKey(apiKey)
                .modelName("deepseek-chat")
                .build();
        String answer = model.chat("你是谁");
        System.out.println(answer);
    }

运行结果：

如果没有充值会报余额不足：

dev.ai4j.openai4j.OpenAiHttpException: {"error":{"message":"Insufficient Balance","type":"unknown_error","param":null,"code":"invalid_request_error"}}

4.与本地大模型Ollama对话

本地Ollama安装请参考：Windows搭建AI大模型应用开发环境以及踩过的坑-优快云博客

windwos  cmd   运行 ollama list 命令 查看一下本地安装的大模型，我这里安装了deepseek-r1:1.5b，就用这个来测试吧

@Test
    void testOllamaChat() {
        ChatLanguageModel model = OllamaChatModel
                .builder()
                .baseUrl("http://localhost:11434")
                //.apiKey("")
                .modelName("deepseek-r1:1.5b")
                .build();

        String answer = model.chat("你是谁");
        System.out.println(answer);
    }

运行结果：