如何快速高效本地部署DeepseekR1大模型？保姆级教程 无惧隐私威胁

最新推荐文章于 2025-11-16 10:07:14 发布
原创 最新推荐文章于 2025-11-16 10:07:14 发布 · 4.8k 阅读 · 92 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#开源软件 #chatgpt #服务器

部署运行你感兴趣的模型镜像

文章目录

1.为什么要部署本地模型？

DeepSeek 隐私政策中提到了关于用户输入信息收集的条款，无论你输入什么文本，以及上传什么文件都会被第三方机构所收集，所以如果是在进行相关的项目研究或者实验进展分析的时候，就很有必要对数据进行隐私保护，且本地部署是支持离线的

在这里插入图片描述

2.Ollama下载

大模型不是一个双击就可以使用的.exe可执行文件，是需要平台来运行的一个东西，Ollama就是一个支持各种大模型本地部署的一个平台 ，用这个平台管理和大模型之间的输出和输入

在这里插入图片描述

首先浏览器中输入Ollama.com网址，选择第一个

在这里插入图片描述
然后点击这里的下载按钮

在这里插入图片描述
继续点击下载按钮，根据自己电脑的版本选择，我这里选择的是Windows系统

在这里插入图片描述

在浏览器右上角下载处等待下载完成

在这里插入图片描述

下载完后点击打开文件，弹出界面再点击Install下载，然后等待下载完成

在这里插入图片描述

Ollama在桌面上不会生成桌面图标，所以我们win+R打开运行窗口，输入cmd打开命令行

在这里插入图片描述

然后输入ollama -v（中间有个空格），回车，会显示出版本号，说明已经安装成功了

在这里插入图片描述

3.大模型下载部署

回到Ollama的网站，点击Models板块

在这里插入图片描述
接着点击deepseek-r1

在这里插入图片描述

选择大模型的体积，体积越大使用效果越好，但是磁盘占用的空间就越大，所以根据自己电脑的磁盘空间选择，该模型一般下在C盘（也可以选择打开D盘新建仓库下载），这里建议选择1.5b、8b或者32b

模型和GPU显卡的适配表格以供参考：

模型参数 (B)VRAM 要求 (GB)推荐 GPU
DeepSeek - R1 - Zero671B~1,342 GB多 GPU 配置（例如，NVIDIA A100 80GB x16）
DeepSeek - R1671B~1,342 GB多 GPU 配置（例如，NVIDIA A100 80GB x16）
DeepSeek - R1 - Distill - Qwen 1.5B1.5B~0.75 GBNVIDIA RTX 3060 12GB 或更高
DeepSeek - R1 - Distill - Qwen 7B7B~3.5 GBNVIDIA RTX 3060 12GB 或更高
DeepSeek - R1 - Distill - Llama 8B8B~4 GBNVIDIA RTX 3060 12GB 或更高
DeepSeek - R1 - Distill - Qwen 14B14B~7 GBNVIDIA RTX 3060 12GB 或更高
DeepSeek - R1 - Distill - Qwen 32B32B~16 GBNVIDIA RTX 4090 24GB
DeepSeek - R1 - Distill - Llama 70B70B~35 GB多 GPU 配置（例如，NVIDIA RTX 4090 x2）

在这里插入图片描述

复制这里的下载命令

在这里插入图片描述

回到命令行，输入刚才复制的命令，回车，等待下载

在这里插入图片描述

下载完成后就可以和Deepseek进行交流了，输入/bye来退出对话，但是每次调用窗口对话实在是太麻烦了

4.Chatbox AI下载

我们需要借助另一个软件来实现像手机端那样的界面使用

在这里插入图片描述

输入网址chatboxai.app下载该软件，建议用谷歌浏览器，我用微软浏览器有点卡（或者直接用网页版也行）

在这里插入图片描述

下载完之后，打开软件里的设置，选择模型提供方里的Ollama API

在这里插入图片描述

勾选你刚才在本地下载的模型

在这里插入图片描述

然后win+x，点击这里的系统

在这里插入图片描述

这里有个高级系统设置，点进去

在这里插入图片描述

点击这里的环境变量

在这里插入图片描述

然后新建变量，变量名输入OLLAMA_HOST，变量值输入0.0.0.0，千万不能出错

在这里插入图片描述

再新建一个新建变量，变量名输入OLLAMA_ORIGINS，变量值输入*

在这里插入图片描述

点击确定退出

在这里插入图片描述

再点击确定退出

在这里插入图片描述

然后在windows搜索栏里启动Ollama，要确保已经启动了，不然模型无法运行

在这里插入图片描述

然后就可以回到Chatbox就可以使用Deepseek了

希望读者们多多三连支持

小编会继续更新

你们的鼓励就是我前进的动力！

您可能感兴趣的与本文相关的镜像

Llama Factory

Llama Factory

模型微调
LLama-Factory

LLaMA Factory 是一个简单易用且高效的大型语言模型（Large Language Model）训练与微调平台。通过 LLaMA Factory，可以在无需编写任何代码的前提下，在本地完成上百种预训练模型的微调

久等了，DeepSeek-VL2
强化学习曾小健
12-24 2899
视觉感知+语言推理，强强联手成就模型的视觉语义对话能力。）”，它会回答：“To cool down, you can use <|ref|>the fan<|/ref|><|det|>[[166, 460, 338, 712]]<|/det|> which is sitting on the desk.（为了降温，你可以使用 [[166, 460, 338, 712]] 位置处的风扇，它放在桌子上）”我们坚信，提升模型视觉能力的意义不仅在于支持更多的输入模态，更在于全方位提升模型的感知和认知能力。
[AI]Mac本地部署Deepseek R1模型 — — 保姆级教程
weixin_45565886的博客
02-09 3380
[AI]Mac本地部署Deepseek R1模型 — — 保姆级教程
deepseek大模型本机部署
Stestack的博客
01-31 7234
搭建一个聊天界面就需要另外一个开源项目chatbox：https://github.com/Bin-Huang/chatbox，下载对应版本chatbox，安装成功后打开chatbox，点击设置，模型提供方选择Ollama，ollama运行时他会自动识别模型，保存即可。这款模型不仅在性能上与OpenAI的GPT-4相媲美，更以开源和创新训练方法，为AI发展带来了新的可能性。deepseek官网https://chat.deepseek.com。官网：https://ollama.com。
DeepSeek-R1模型1.5b、7b、8b、14b、32b、70b和671b有啥区别？
热门推荐
facaixxx2024的博客
02-02 3万+
deepseek-r1的1.5b、7b、8b、14b、32b、70b和671b有啥区别？码笔记mabiji.com分享：1.5B、7B、8B、14B、32B、70B是蒸馏后的小模型，671B是基础大模型，它们的区别主要体现在参数规模、模型容量、性能表现、准确性、训练成本、推理成本和不同使用场景
本地AI部署新方案：Chatbox+DeepSeek R1实践指南
最新发布
PurpleRain89的博客
11-16 387
平台内置的代码编辑器可以直接修改配置参数，实时预览对话效果。对于需要持续运行的对话服务，还能一键部署为在线应用，分享给团队成员测试使用。当前使用云端大模型服务常遇到服务器拥堵问题，而本地部署又对硬件要求较高。华为与硅基流动合作的DeepSeek API提供了折中方案，既保留了云服务的便捷性，又通过优化降低了使用成本。实际体验中发现，这种组合方案特别适合个人开发者和小型团队，既不用操心服务器维护，又能获得稳定的AI服务能力。成本方面，测试阶段的花费几乎可以忽略不计，真正做到了高性能和低成本的平衡。
【DeepSeek】在本地计算机上部署DeepSeek-R1大模型实战（完整版）
WANGJUNAIJIAO的博客
07-21 1222
本地部署DeepSeek R1大模型的实践指南 本文介绍了如何在个人计算机上本地部署DeepSeek R1大模型。随着AI技术的发展，本地部署大模型在数据隐私、定制化需求和离线使用等方面具有显著优势。DeepSeek R1作为一款轻量级开源模型，支持在普通硬件（最低8GB内存+30GB存储）上运行，大幅降低了技术门槛。文章详细提供了从安装Ollama框架、下载模型到配置运行环境的完整教程，包括Python环境搭建、C++编译工具安装等关键步骤，并推荐使用Open WebUI提升交互体验。该指南特别强调无需专
Windows（Win10、Win11）本地部署开源大模型保姆级教程
AIGIS的博客
04-19 3万+
最近开源大模型可谓闹的沸沸扬扬，尤其是Microsoft开源的和Meta开源的llama3 70b，评测都已经接近了的水平。鉴于还有很多同学不会在上部署和使用本地模型，因此我们出一期保姆级教程。本文讲述了如何在上本地部署大模型。从最基础的软件安装到环境配置都进行了截图展示，希望对非计算机的同学也有所帮助。AI时代我们每个人都必须要掌握一些AI知识，相信不断学习的你一定不会被AI淘汰。这只是开始，后面我们还有很多工作要做，尤其是提示词和智能体。
精选资源
【大语言模型部署】DeepSeek本地部署全攻略：保姆级教程详解大模型环境搭建与应用文档的主要内容
05-17
内容概要：本文详细介绍了 DeepSeek 大语言模型的本地部署方法，旨在帮助用户在本地环境中高效、稳定地使用 DeepSeek 模型，并保障数据的安全性。文章首先解释了本地部署的优势，包括处理私密数据、节省 API 调用...
精选资源
DeepSeek本地部署保姆级教程
03-06
这个保姆级的DeepSeek本地部署教程提供了详尽的步骤说明，帮助用户成功搭建起一个私有的、稳定的AI环境，让AI技术的应用更加便利和安全。用户在实际操作过程中应仔细阅读每一步的详细说明，遇到问题时要及时查找相关...
精选资源
2025 DeepSeek：本地微调DeepSeek-R1-8b模型保姆级教程.pdf
03-13
本文档为读者提供了一份全面的本地微调DeepSeek-R1-8b模型的保姆级教程，涵盖了从硬件准备、模型下载、数据集获取，到环境配置等多方面内容。它不仅适用于AI领域的新手，也为有经验的研究者提供了实际操作的指导和...
别只会用别人的模型了，自学Ai大模型，顺序千万不要搞反了！刚入门的小白必备！
2301_81888214的博客
02-13 1053
别只会用别人的模型了，自学Ai大模型，顺序千万不要搞反了！刚入门的小白必备！
DeepSeek-R1大模型本地部署，保姆级教程！
pythonhy的博客
02-05 2924
本文将介绍如何在自己的电脑上本地部署DeepSeek大模型，无需登录DeepSeek官方网站与软件即可使用。
本地部署DeepSeek-R1（Dify对话框上传文件+本地知识库对话）
万物皆可学
02-18 8097
由于Dify默认通过简单的配置快速搭建一个基于 LLM 的对话机器人，对话是不支持文件上传的，只能简单文字对话。这样过于弱鸡不可能每次需要分析文档就先去知识库上传文档再回来对话，过于繁琐。创建一个新的应用，选择Chatflow选择功能，打开文件上传功能，点击设置按钮，自定义文件上传属性设置现在聊天助手已经支持对话文件上传了，但是DeepSeek并不知道文档里面有什么信息，这个时候需要添加节点提前识别出文档的内容在AI模型节点的前面加上一个列表操作的节点，用来识别对话的时候是否上传了文件。
DeepSeek R1本地部署
m0_74717229的博客
02-04 1806
ollama的下载安装与deepseek的部署
deepseek-r1落地指南（搭建web-ui | 搭建本地代码编辑器）
404 Not Found
01-26 3万+
前两天写了一篇，今天就deepseek-r1本地部署，讲解一下本地部署的大模型如何落地（应用），以便提高工作效率。目前只接触了两类，下面进行介绍。
本地部署DeepSeek大模型完整指南
ddv_08的博客
02-01 1万+
DeepSeek作为国产顶尖开源大模型，其优秀的语义理解和生成能力备受关注。本文将手把手教你如何在本地计算机部署DeepSeek模型并实现对话交互，支持CPU/GPU双模式运行。
deepseek本地部署全网最简教程
huang9604的博客
02-04 5831
随着人工智能技术的飞速发展，大语言模型（Large Language Models, LLMs）逐渐从云端走向本地，为开发者、研究者和技术爱好者提供了更灵活、更私密的应用可能。国产DeepSeek 作为一款高效且功能强大的开源大模型，凭借其毫不逊色于Chatgpt的推理能力和对中文场景的深度适配，成为许多用户探索本地智能化的首选工具。
上手DeepSeek大模型：本地化安装部署，确保数据不泄露
大龙谈智能内容
02-01 4302
过年前DeepSeek横空出世，在世界范围内掀起AI狂潮，成了大家茶余饭后的话题。对于普通人怎样使用这个大模型呢？这篇文章来上手实践。
评论 59
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值