zsj777的专栏

4、初始化 ChatClient。

1、searxng安装配置 详见2、本文介绍如何使用 Spring AI Alibaba 构建大模型联网搜索应用结合模块化 RAG（Module RAG）和信息检索服务（SearXNG）赋能大模型。

2、spring-ai 大模型应用程序通过RedisChatMemory 实现对话记忆。对 RedisChatMemory进行简单改造，改造后的代码如下。然后用maven编译安装，记下安装后的版本，此时我用的版本是。1、RedisChatMemory的实现。

6、spring-ai 大模型应用程序 mcp客户端， 集成了mcp天气查询工具和 mcp百度翻译工具。3、百度翻译mcp服务端 百度appid合key配置文件类。4、百度翻译 mcp 服务端 百度翻译service类。2、百度翻译mcp服务端yml配置文件。1、百度翻译mcp服务端 pom文件。5、百度翻译 mcp服务端启动类。天气查询 controller。百度翻译controller。

1、之前实现过百度翻译的tools，什么是mcp，个人理解 这里在代码的表现形式上就是把工具和AI程序分开，AI程序通过远程调用mcp-tools服务端实现远程tools的调用。集成阿里大模型，是mcp客户端，通过调用mcp服务端实现天气查询，等于把集成在程序中的tools分离出，通过远程调用的方式来调用tools。远程tools，实现方式类似本地tools，此处实现天气tools。2、MCP服务端 天气查询工具实现代码。mcp服务端 天气查询 tools。4、启动 mcp服务端和mcp客户端。

2、yml文件，由于本机ollama上的模型支持的function call 时好时坏，所以使用阿里的。dashscope的qwq-plus模型。3、百度翻译的appid和key。5、翻译 controller。4、百度翻译的tool。6、不带工具测试如下。

此时就需要大模型的 function call 的功能，也就是 给大模型加上工具。controller代码如下。请告诉我现在北京时间几点了。1、当我们使用大模型问。

2、ollama 需又向量模型，application.yml 内容如下。

2、application.yml 内容如下。3、使用ChatClient 实现模型调用。4、使用ChatModel代码如下。1、pom文件内容如下。

1、代码使用openai公网模型、ollama本地模型和本地部署的searxng搜索引擎。SearxngSearchDemo，控制台输入问题如下。

1、搜索并安装2、授权。

4、修改 Caddyfile，防止 caddy 默认配置的 80端口冲突。格式，在使用网络爬虫或其它形式的分析器调用 API 时，希望返回。1、docker-compose 部署searXNG。7、anythingLLM配置 websearch。3、执行下面命令，生成 secret key。5、docker-compose配置文件。6、配置 settings.yml。格式，这时就需要修改返回格式。项目默认的搜索返回的格式为。2、修改 .env文件。

由于deepseek-R1本地化部署时还不支持，所以使用 qwq模型。1、首先LLM模型必须支持 Function Calling。4、测试 当未添加时间工具时。2、创建空白 Agent。3、为Agent添加工具。

在docker-compose.yaml的plugin_daemon下添加以下代码，然后执行docker-compose up -d。2、启动前 ，先改下 docker-compose.yaml，否则配置ollama会一直等待到失败。3、修改向量库为 milvus，修改第一步的 .env文件。下载源码，没有安装git的，可以下载成zip包，1、 按照GitHub上操作。

api/v1/workspace/test/stream-chat 接口调用 如下。两个接口传参一致，但是返回的数据页面调用的正确， 接口调用的明显不对，不知为何。/api/workspace/test/stream-chat 调用。1、anythingLLM提供的stream-chat的api。2、anything页面调用的stream-chat。3、下面是postman不通过接口调用。4、java代码实现同一数据。结果显示错误，实际上是 82条。5、java代码实现同一数据。

文件转base64和base64转文件的网页。1、excel和word。加上base64 字符串。加上base64字符串。加上base64字符串。

1、 接口地址 /v1/workspace/{slug}/stream-chat POST请求。2、场景描述，把数据库中的数据查询出来，封装成json字符串，带上相关问题和数据交给大模型。对于message参数中的json字符串的双引号 " 需要转义 添加 \。json字符串中的 " 需要转义 为 \"

将在此工作区上使用的提示。定义 AI 生成响应的上下文和指令。您应该提供精心设计的提示，以便人工智能可以生成相关且准确的响应。请咨询您的LLM提供商以获取该信息。对于某些模型，如果设置得太高，可能会导致响应不一致。此设置控制每次聊天或查询将发送到 LLM 的上下文片段的最大数量。任何超过 45 的值都可能导致连续聊天失败，具体取决于消息大小。模式时，当未找到上下文时，您可能希望返回自定义拒绝响应。此设置控制您的 LLM 回答的“创意”程度。将包含在响应的短期记忆中的先前聊天的数量。聊天提示（即提示词）

2、使用springboot的WebClient实现流式调用，返回数据兼容deepseek4j调用。4、anythingLLM stram-chat 流式调用controller。3、anythingLLM stram-chat 流式调用service。5、html验证页面代码。

1、anythingLLM的docker-compose文件。anything 的environment 文件。

4、测试将上传的文件添加工作空间接口（/v1/workspace/{slug}/update-embeddings）接口请求头 authorization 值为 Bearer加空格加API秘钥。注意：步骤2上传的文件，系统会在原文件名后加上一串hash字符进行重命名。2、上传文件接口 /v1/document/upload。1、anything 默认端口 3001 ，接口文档地址。3、测试文件列表接口（/v1/documents）{slug}为工作空间名，下同。

1、文本分割优化，建议 200 和40，把文档切得更碎一些方便检索命中。2、RAG接口进一步优化。

2、pom文件依赖 parent依赖。3、deepseek api配置。

attu为milvus的一款图形化管理工具，非常方便对milvus的一些管理。1、推荐个目前国内可用的docker镜像搜索网站和镜像源。2、docker-compose文件内容。的管理界面，查看milvus存储内容。我们还可以访问minio。

3、向量数据库 milvus代码。6、deepseek4j官方文档。5、deepseek模型使用。4、向量数据库插入数据。

链接: https://pan.baidu.com/s/1YfNKhYNBO1t8ULuK00E5yQ?进入 milvus的管理界面可以看到 anything创建的向量库。通过网盘分享的文件：AnythingLLMDesktop.exe。1、deepseek本地化部署使用 ollama。2、安装好向量数据库 milvus。第四步 Embedding模型配置。3、安装 anythingLLM。4、anything 配置。第二步 工作区配置 聊天配置。官网下载很慢，网盘地址。第三步 向量数据库配置。