一. 安装Ollama
参考:
Alibaba Cloud Linux 基于Ollama部署DeepSeek R1:7B版本-优快云博客
二. 安装AnythingLLM
参考:
Alibaba Cloud Linux部署Anything LLM结合Ollama
三.安装nomic-embed-text
在ollama.com搜索模型nomic-embed-text,进入模型详情
在安装有ollama的主机上执行:
ollama pull nomic-embed-text
下载完成后,确认:
ollama list
四.在AnythingLLM中设置Embedder
在AnythingLLM的设置页进入Enbedder,选择Ollama,在Ollama Embedding Model项中会出现刚下载的nomic-embed-text:
五.创建私有知识库
1.新建workspace(工作区)
2.上传文档并移动到workspace(工作区)
3.设置workspace(工作区)的对话设置为查询
4. 对话框中提问
在每次对话回复的后面可以点击Show Citations查看文档的匹配情况。