我不敢像其他up说的1分钟教你部署本地DeepSeek,一分钟个锤子啊,看完部署步骤都要几分钟了。
实测下来,最耗时的是网络,下载和安装耗时,没有1个小时搞不定。
幸运的是,我把几个耗时的下载软件包都打包放网盘了,你可以快速下载下来安装。
本地部署
1、下载ollama(可加速)
官网地址是 https://ollama.com/download/,网速好可以直接下载对于系统软件。
网盘中已经放了最新的ollama windows和mac版本。(v0.5.8)
2、安装ollama
这个不支持修改安装目录,默认安装在C盘的个人用户下。
注意:至少需要5G的磁盘容量。
安装完,电脑右下角任务栏会有一个羊驼图标。
检查是否安装成功。
win+r输入cmd指令查看ollama版本号。
D:\>ollama -v
ollama version is 0.5.8-rc12
模型安装其他盘?
默认ollama把模型安装在C盘,我们要修改这个位置,需要增加环境变量。
我的电脑 -> 属性-> 高级系统设置 -> 环境变量 -> 新建用户变量
变量名:OLLAMA_MODELS
变量值:D:\software\ai\ollama(自行修改)
3、在ollama中安装DeepSeek
电脑配置和模型
不同的DeepSeek模型需要多大的电脑配置?下面是一个参考配置。
例如下载deepseek-r1:1.5b
的模型,在cmd窗口执行指令:
ollama run deepseek-r1:1.5b
下载模型如何加速?
这里碰到的问题是刚开始下载2M+,但是一会就只有100KB,下载非常慢。
但是可以通过多次终止再开始。
比如上面,发现速度下降到几百K,可以Ctrl+c终止后,重新开始,断点续传。
下载完成后,ollama会自动安装模型,并且开启一个dos的对话,但是这个不方便,我们使用chatbox进行对话。
4、安装chatbox
chatbox官网地址:https://chatboxai.app/zh
这个也在网盘里,直接下载后安装。
选择本地模型ollama
好了,现在可以愉快地和DeepSeek对话了。
安装过程中如果有什么问题,可以留言交流。
下载打包软件,请在“java-tech”公众号回复“ds”