DeepSeek本地化部署并实现项目API接入：模型拉取Ollama+句子嵌入模型nomic-embed-text+数据投喂AnythingLLM+SpringBoot项目API接入

目录

一、Ollama下载DeepSeek模型

二、RAG工具nomic-embed-text使用

三、AnythingLLM数据投喂

四、SpringBoot项目通过API接入AnythingLLM

获取AnythingLLM工作区调用密钥

配置SpringBoot项目

编写API调用代码

测试与部署

---

一、Ollama下载DeepSeek模型

我是用Ollama下载DeepSeek模型的，这个我就不多说了，网上资料太多了，主要流程就是先下载安装Ollama，然后进入安装目录，打开cmd工具，通过如下命令行下载模型并启动模型：

ollama pull deepseek-r1:7b

ollama run deepseek-r1:7b

二、RAG工具nomic-embed-text使用

1. 拉取nomic-embed-text模型：

   • 在命令行输入Ollama提供的命令拉取nomic-embed-text模型，例如ollama pull nomic-embed-text。

2. 配置RAG系统：

   • 使用langchain等框架，结合nomic-embed-text模型，构建RAG（检索增强生成）系统。
   • 配置文本嵌入模型，将文档数据量化成DeepSeek可识别的格式。

三、AnythingLLM数据投喂

1. 下载安装AnythingLLM：

   • 访问AnythingLLM官网，下载并安装适用于本地系统的版本。

2. 准备数据：

   • 将需要投喂的数据整理成AnythingLLM可识别的格式，如PDF、TXT、MD等。

3. 数据投喂：

   • 在AnythingLLM中创建工作区，上传准备好的数据。
   • 配置DeepSeek模型和nomic-embed-text嵌入模型，开始数据投喂过程。

以上流程很简单，就不展开讲了，主要说下怎么通过系统使用API方式与模型进行交互；