AI大模型应用-Ollama本地千问大模型stream流乱码

原创于 2025-07-08 19:22:44 发布 · 259 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#java

AI大模型应用开发专栏收录该内容

2 篇文章

订阅专栏

本地下载了Deepseek和qwen3:4b，没办法电脑的配置不高；
使用的langchain4j+Ollama+qwen3:4b大模型套件，使用stream输出会话一直乱码，后来发现是这个地方导致的【使用公网的千问大模型不会乱码，我本地会有】

@Bean
public OllamaStreamingChatModel ollamaStreamingChatModel() {
    Map<String, String> map = new HashMap<>();
    map.put("Content-Type", "application/json;charset=utf-8");// 处理乱码问题
    return OllamaStreamingChatModel.builder()
            .baseUrl("http://localhost:11434")
            .modelName("qwen3:4b")
            .temperature(0.8)
            .logRequests(true)
            .logResponses(true)
            .customHeaders(map)
            .build();
}