1 完全本地部署DeepSeek-R1
1.1 安装Ollama
DeepSeek是非常优秀的国产大模型,如果需要在本地部署,则需要借助Ollama。Ollama 是一个开源框架,用于在本地轻松运行和部署大型语言模型。官方网址:https://ollama.com/。以下是安装Ollama的步骤:
1.访问Ollama官网:前往Ollama官网,点击“Download”按钮。
2.下载安装包:根据操作系统选择对应的安装包。下载完成后,打开安装文件并按照提示完成安装。
3.验证安装:安装完成后,打开终端输入以下命令,检查Ollama版本:
ollama --version
如果输出版本号(例如ollama version is 0.5.11),则说明安装成功。
1.2 下载并部署deepseek模型
1.2.1 进入ollama官网,点击Models,可以看到ollama支持很多开源模型:
1.2.2 点击deepseek-r1
1.2.3 选择合适的参数,复制部署deepseek所需要的命令

1.2.4 回到终端,把复制的命令粘贴进去,回车。然后耐心等待下载过程。需要等待较长时间,安装完成后可以看到success单词提示。
1.2.5 输入命令:ollama run deepseek-r1:7b就可以运行使用大模型。
2. 完全本地部署Anything-LLM
为了更方便使用,不再是用命令提示符窗口使用,需要借助Anything-LLM改进,Anything-LLM官网:AnythingLLM | The all-in-one AI application for everyone
进入官网下载并安装。
安装完成后打开,点击这个图标运行:
选择安装好的模型,持续点击下一步,按提示填写所需信息。
进入界面,点击工作区的名字就可以进行对话:
界面颜色与中英文切换可以在设置里修改(工作台右下角“扳手”按钮)。
切换大模型方法: