qq_35529931的博客

Claude Code Router 是社区开源工具，允许你在无需 Anthropic 帐号的情况下，通过配置将 Claude Code 请求转发到其他 AI 模型／服务。以上一个简单的Claude Code的入门介绍到此，可以自己写代码，看到效果后，非常的感慨是AI是写的非常的不错。以上我们就安装完成了，可以进行让他用来做我们想做的事情了。由于本人是win系统，故介绍的是win系统下的安装过程。可以向我们平常使用的豆包，千亿通问等一样，很快有答案。上述配置肯定是无法直接使用的，需要使用自己的key。

可按页进行分割，使用嵌入模型将文本转为向量表示；存储到数据库中(redis、es)；用户提出问题，生成问题对应的向量；调用api的向量检索，找到相关文档；RAG：检索增强，结合了检索和生成两种技术；用于提升生成模型的效果。在此类问题中，需要先处理的是进行文档PDF的存入向量中；通过垂直场景，通过实时更新知识库，无需重新训练模型；即可实现通过文档，输入垂直问题获得向量对应的答案。后续直接调用spring ai的接口。第一步：配置RAG Advisor。保存到本地磁盘中demo。

在一些垂直领域以及公司内部信息相关或者实时性相关的大模型应用，就无法直接使用chatGPT。向量模型定义：将文档向量化，保证内容越相似的文本，在向量空间中距离越近；以上就实现了一个简单的自带存储PDF，然后进行向量接口搜索的demo。我们需要先将文档转为Document，存入向量库。通过坐标向量最接近的即为匹配相关答案。存储文档的可以用redis, es等；测试输入一段文本，被存储在里面的坐标。对于API调用层，都是如下的调用方法。这个时候，向量知识库就进入了。最后通过调用接口搜索。

在需求分析阶段，把功能属于传统Java处理的和ai的功能进行分离。spring Ai 大模型应用相关开发demo，智能客服系统；首先被取代的是客服类，智能客服机器人都能够高效地完成任务。在ChatClient中，配置defaultTools。函数定义好后，交给spring ai由他们处理即可。业务代码等逻辑，通过CourseTool 实现即可。在大模型中，通过Function定义来实现。第二步：定义Tool，即Function。以上就完成了简单的智能客服。第三步，配置Tool。

即会话id，每次会话的时候，通过前端区分这个会话id。属于比较粗暴的方式，把之前的内容与新的提示词一起再次发给大模型。让我们看到他们有记忆功能。在使用chatGPT，豆包等产品后，就会发现他们的会话有“记忆”功能。下面介绍deepseek通过spring ai接入的时候实现记忆功能。以上是springAi中通过内存的实现方式实现如下接口。那么我们用API接口的话，这个是怎么实现的呢？二：配置会话记忆Advisor。上述方式即实现了会话记忆方案。一：定义会话存储方式。

上一篇本地简单的部署了deepseek后，通过spring推出的spring ai进行代码实现一个快速入门。2.2注入ollamaChatModel。2.3简单的通过rest接口进行输出文本。勾选一下web spring AI。构建一个新的spring ai项目。2.4通过流试方式输出文本。

下载完成ollama后，进行运行deepseek模型。案例以deepseek-r1 为模型。在ollama会给出运行模型的命令。分享记录一下本地部署大模型步骤。至此，就可以本地模型进行聊天了。进入官网，下载ollama。