现在DeepSeek比较火,可以将模型安装在自己电脑上进行使用。害怕有隐私泄露安全隐患的话,可以本地部署一个试试。
一、安装DeepSeek
1.下载ollama
进入官网地址: https://ollama.com/
根据自己电脑的系统,选择下载
下载之后执行安装,等ollam安装完毕后。
2.选择模型参数数量
在上方搜索框中搜索deepseek-r1
模型,然后选择要安装的参数数量。因为我本身电脑性能不够,所以安装最低版本的1.5b
的15亿参数的模型。
2060 4GB显卡以上可以安装7b参数
2080 4GB显卡以上可以安装8b参数
3060 6GB显卡以上可以安装14b参数
4080 12GB显卡以上可以安装32b参数
4090 24GB显卡2块以上可以安装70b参数
复制右边的安装命令ollama run deepseek-r1:1.5b
,打开命令终端cmd
粘贴命令后回车开始安装。(注意要以管理员身份运行,否则可能安装失败)
ollama run deepseek-r1:1.5b