如何快速高效本地部署DeepseekR1大模型？保姆级教程无惧隐私威胁

最新推荐文章于 2025-02-18 17:18:12 发布

DARLING Zero two♡

最新推荐文章于 2025-02-18 17:18:12 发布

阅读量4.4k

点赞数 100

分类专栏：话题文章标签：开源软件 chatgpt 服务器

本文链接：https://blog.youkuaiyun.com/Zero_VPN/article/details/145406251

版权

5 篇文章

订阅专栏

1.为什么要部署本地模型？

DeepSeek 隐私政策中提到了关于用户输入信息收集的条款，无论你输入什么文本，以及上传什么文件都会被第三方机构所收集，所以如果是在进行相关的项目研究或者实验进展分析的时候，就很有必要对数据进行隐私保护，且本地部署是支持离线的

在这里插入图片描述

大模型不是一个双击就可以使用的.exe可执行文件，是需要平台来运行的一个东西，Ollama就是一个支持各种大模型本地部署的一个平台 ，用这个平台管理和大模型之间的输出和输入

在这里插入图片描述

首先浏览器中输入Ollama.com网址，选择第一个

在这里插入图片描述
然后点击这里的下载按钮

在这里插入图片描述
继续点击下载按钮，根据自己电脑的版本选择，我这里选择的是Windows系统

在这里插入图片描述

在浏览器右上角下载处等待下载完成

在这里插入图片描述

下载完后点击打开文件，弹出界面再点击Install下载，然后等待下载完成

在这里插入图片描述

Ollama在桌面上不会生成桌面图标，所以我们win+R打开运行窗口，输入cmd打开命令行

在这里插入图片描述

然后输入ollama -v（中间有个空格），回车，会显示出版本号，说明已经安装成功了

在这里插入图片描述

回到Ollama的网站，点击Models板块

在这里插入图片描述
接着点击deepseek-r1

在这里插入图片描述

选择大模型的体积，体积越大使用效果越好，但是磁盘占用的空间就越大，所以根据自己电脑的磁盘空间选择，该模型一般下在C盘（也可以选择打开D盘新建仓库下载），这里建议选择1.5b、8b或者32b

模型和GPU显卡的适配表格以供参考：

模型	参数 (B)	VRAM 要求 (GB)	推荐 GPU
DeepSeek - R1 - Zero	671B	~1,342 GB	多 GPU 配置（例如，NVIDIA A100 80GB x16）
DeepSeek - R1	671B	~1,342 GB	多 GPU 配置（例如，NVIDIA A100 80GB x16）
DeepSeek - R1 - Distill - Qwen 1.5B	1.5B	~0.75 GB	NVIDIA RTX 3060 12GB 或更高
DeepSeek - R1 - Distill - Qwen 7B	7B	~3.5 GB	NVIDIA RTX 3060 12GB 或更高
DeepSeek - R1 - Distill - Llama 8B	8B	~4 GB	NVIDIA RTX 3060 12GB 或更高
DeepSeek - R1 - Distill - Qwen 14B	14B	~7 GB	NVIDIA RTX 3060 12GB 或更高
DeepSeek - R1 - Distill - Qwen 32B	32B	~16 GB	NVIDIA RTX 4090 24GB
DeepSeek - R1 - Distill - Llama 70B	70B	~35 GB	多 GPU 配置（例如，NVIDIA RTX 4090 x2）