deepseek模型部署--本地知识库构建基础方法

简介：这里采用了AnythingLLM这一客户端作为交互界面。

1、安装anythingllm（官网：anythingllm.com）

或者从夸克网盘获取：

---------------------------------------------------------------------------------------------

我用夸克网盘分享了「AnythingLLMD软件（v1.7.3）」，点击链接即可保存。打开「夸克APP」，无需下载在线播放视频，畅享原画5倍速，支持电视投屏。

链接：夸克网盘分享

---------------------------------------------------------------------------------------------

安装成功之后，经过一系列步骤，来到这个界面：

2、点左栏下方“小扳手”进入设置界面

首先，看设置左栏菜单，找到Customization（定制，外观），将Display Language（演示语言）改为Chinese（中文）

其次，设置AI providers（人工智能提供商）下属的LLM（LLM首选项），设置如图所示：

ollama model这里选择本地已经安装好的模型即可

向量数据库这里保持默认即可（如下图）

Embedder首选项这里要设置为Ollama嵌入模型，Ollama Emberdding Model的模型与LLM首选项中的保持一致。（否则会导致文件上传报错）

------------------------------------------------------------------------------------------------

文件上传报错如图所示：（按照上面步骤应该是不会报错的）

可以参考如下文章：anything llm无法上传文档解决办法_anythingllm上传文本是乱码-优快云博客（优快云）

------------------------------------------------------------------------------------------------

3、基础模式设置：

补充说明：不同工作区相互隔离不互相影响，因此可以将不同类型的文件设置到不同工作区，分别进行不同问题的查找询问。

在新建工作区之后，点击工作区右侧的设置按钮进入设置，将聊天设置中的聊天模式改为“查询”（否则会导致模型根据自己数据“胡说八道”，即使错误也强行回答）

将聊天提示和查询模式拒绝响应进行修改，方便起见全部更改为中文（用翻译器翻译一下即可），以下也都给出：

聊天提示：鉴于以下对话、相关上下文和后续问题，请回复用户正在询问的当前问题。仅根据上述信息，按照用户的需要提供对问题的回复。

(可以根据自己的需要进行更改，比如：该工作区只进行翻译操作，当对话为汉语和英语时，同时给出汉语和英语两个部分)

查询模式拒绝响应：此工作区中没有相关信息来回答您的查询。

拉到底，点击Update workspace更新工作区设置