Deepseek R1 5分钟本地快速部署

最新推荐文章于 2025-02-13 10:06:13 发布

墨客希

最新推荐文章于 2025-02-13 10:06:13 发布

阅读量1k

点赞数 6

文章标签： ai 人工智能

本文链接：https://blog.youkuaiyun.com/mofashi_ww/article/details/145387723

版权

一、安装Ollama

Ollama 是一个开源的大型语言模型服务工具，旨在帮助用户快速在本地运行大模型。通过简单的安装指令，用户可以通过一条命令轻松启动和运行开源的大型语言模型。

点击Ollama打开网页，选择适合你的系统进行下载安装即可。

二、下载R1模型

1.在https://ollama.com官网我们直接可以看到DeepSeek R1大模型，点击进入

2.这里按照你的显存大小来下载合适的模型：

# 显存4g
ollama run deepseek-r1:1.5b

# 显存显存8g
ollama run deepseek-r1:7b 

# 显存12g
ollama run deepseek-r1:8b 

# 显存16g
ollama run deepseek-r1:14b

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

墨客希

关注关注

6
点赞
踩
7

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

DeepSeek R1本地化部署与联网功能实战指南：从零搭建智能对话系统

理论都是虚的，代码才是王道。

01-28

7万+

在人工智能技术快速发展的今天，如何将先进的对话模型DeepSeek R1部署到本地环境并赋予其联网能力，成为许多开发者和企业关注的重点。本文将深入讲解完整的本地化部署流程，并通过实例代码演示如何为模型添加实时网络访问功能。

手把手教你本地部署 DeepSeek R1

实事求是，追求技术，精益求精～将至而立之年，不忘年少初心！

02-03

8444

手把手教你Deepseek本地部署，每一步都有图片和解释

参与评论您还未登录，请先登录后发表或查看评论

Deep Seek R1本地化部署

晨曦之光Wing的博客

01-30

6633

【说明】操作系统：win10。使用工具：ollama

本地部署DeepSeek-R1 1.5B

weixin_44502794的博客

01-22

1万+

然后输入ollama run deepseek-r1:1.5b。然后打开windows powershell。等待ollama下载完模型，就是可以使用了。然后安装ollama。

模型的快速下载（DeepSeek,任何模型都适用）

anningyue的博客

02-10

1万+

模型的快速下载（DeepSeek,任何模型都适用）

【5分钟搞定】ollama下载deepseek-r1大模型本地部署

lixiaoqidecsdn的博客

01-29

1万+

1.登录ollama，选择models，选择deepseek-r1模型，选择1.5b(核显电脑)3.控制台输入ollama run deepseek-r1:1.5b自动下载。2.选择1.5b，复制命令，打开CMD控制台；

如何快速下载Huggingface上的超大模型，不用梯子，以Deepseek-R1为例子

扶着老奶奶闯红灯

01-22

1万+

就在昨天DeepSeek-R1模型问世即爆火，37B的大模型，你想部署一下试试吗？我就想试试，毕竟本人有8卡A100可以玩。首先我们需要从Huggingface下载模型权重，我在国内，文件太大了，下载不了。有方法，有教程，请仔细看。

DeepSeek本地部署教程

tangdong3415的博客

02-13

165

Ollama的模型库里的40多种开源模型，比如阿里云通义千问推出的大模型Qwen2.5，Meta公司最新的大模型Llama 3.3等等，都可以通过这套流程来本地部署。1.5B到70B是R1的蒸馏版，模型能力虽然不如满血版（参数数字越大能力越强），但是对硬件要求更低，在同规模的开源模型里表现也是很突出的，适合个人或企业本地部署。1.5B的模型泛用性不是太强，适合做一些简单的问答，如果想要将本地部署的R1应用在工作中，推荐7B或者更高参数的版本。直接在电脑上本地部署R1，就可以！

DeepSeek R1模型的本地化部署

六国破灭，非兵不利，战不善，弊在赂秦。赂秦而力亏，破灭之道也。或曰：六国互丧，率赂秦耶？曰：不赂者以赂者丧，盖失强援，不能独完。故曰：弊在赂秦也。秦以攻取之外，小则获邑，大则得城。较秦之所得，与战胜而得者，其实百倍；诸侯之所亡，与战败而亡者，其实亦百

02-07

1173

本都部署的优势：隐私保障：所有数据均存储在本地，避免敏感信息泄露。零额外成本：DeepSeek R1 免费运行，无需订阅或额外费用。完全控制：可以进行微调和本地优化，无需外部依赖。

DeepSeek-R1最佳本地部署+知识库+联网搜索（2个安装包1条命令搞定）.pdf

02-10

为了实现DeepSeek-R1的本地部署，用户需要遵循一系列简单步骤，首先需要下载并安装两个关键组件：Ollama官方版和AnythingLLM。具体步骤包括访问提供的下载链接，下载相应的软件安装包。完成下载后，下一步是选择合适...

【LLM大模型】谷歌AI杰玛Gemma大模型开源了！附2个本地部署安装教程和实例

pythonhy的博客

08-07

1341

Gemma 是一个轻量级、先进的开放模型系列，采用与创建 Gemini 模型相同的研究和技术构建而成。Gemma 由 Google DeepMind 和 Google 的其他团队开发，以拉丁语 gemma（意为“宝石”）命名，中文名杰玛。Gemma 模型权重由促进创新、协作和负责任地使用人工智能 (AI) 的开发者工具提供支持。

最强开源推理大模型 DeepSeek-R1 最清晰的免费本地部署使用教程

weixin_56619527的博客

01-28

1万+

本文带来 DeepSeekR1 模型免费本地部署教程，因官网下载慢，在文末附上百度网盘链接。教程分两步，第一步，先前往 ollama 官网下载安装程序，在命令行输入 “ollama -h” 测试安装并查看命令。再依据显存选 DeepSeek-R1 模型，复制下载代码在命令行运行，用 “ollama list” 查看安装情况并运行模型。第二步，从 chatbox 官网下载安装程序，打开后在设置里将模型提供方设为 ollama，选好模型保存即可开启对话。最后，分享安装包百度网盘链接，欢迎点赞收藏支持。

最全本地部署 DeepSeek R1 教程（适用于 Mac、Windows、Linux）

AAI666666的博客

02-05

4829

DeepSeek R1 是一款开源 AI 模型，其性能可与 OpenAI 的 GPT-4 和 Claude 3.5 Sonnet 等顶级模型媲美，尤其在数学、编程和推理等任务上表现出色。最重要的是，它是免费、私密的，可以在本地硬件上离线运行。

小白也能看懂的DeepSeek-R1本地部署指南

坚果的博客

02-07

2163

春节期间Deepseek凭借其出色的性能表现，吸引了众多技术爱好者的目光，会用的人说巨好用，但是也有很多人说也不过如此，其实这么多国际巨头都震惊，自然是非常惊艳的一款产品。如果你也渴望在本地部署该模型，深入探索其强大功能，那么这篇攻略将为你提供详细的指导。这里面我将给大家演示的是windows和mac双平台的部署。废话不多说，现在开始和大家一起部署。

一键安装deepseek-R1大模型，不用下这下那，纯分享

Wang_shu_han的博客

02-05

1808

下载这个压缩包，解压后根据步骤文档安装，1分钟就直接搞定，最后效果如下（我是8g的4070卡，运行8b参数的模型没有压力，贼快）

DeepSeek-R1 重磅来袭：比肩 o1且完全开源，API价格极具性价比！

CherryXieのblog

01-21

9082

DeepSeek-R1 是由杭州深度求索公司推出的高性能AI推理模型，于2025年1月20日正式发布。DeepSeek-R1，在强化学习之前整合了冷启动数据。DeepSeek-R1在数学、代码和推理任务方面的性能与OpenAI-o1相当。为了支持研究界，我们开源了DeepSeek-R1-Zero、DeepSeek-R1，以及基于Llama和Qwen从DeepSeek-R1中提取的六个密集模型。

DeepSeek本地化部署：3步搞定，让你的AI体验更稳定

最新发布

03-19

<think>好的，我现在需要帮助用户在Linux服务器上部署DeepSeek R1-7B模型。根据用户提供的引用资料，我得先理清楚步骤。首先，用户提到了引用[2]，里面提到需要选择适合的R1蒸馏版本，7B代表70亿参数，需要较大的算力资源。所以，第一步应该是确保服务器满足硬件要求，比如足够的GPU内存。接下来，用户引用[3]中提到使用命令`xinference-local --host 0.0.0.0 --port 9997`来启动服务。这可能涉及到Xinference框架的安装和配置。需要确认用户是否已经安装了这个框架，或者是否需要先安装它。另外，引用[1]提到使用Ollama的命令`ollama run deepseek-r1:1.5b`，但用户需要的是7B版本，所以可能需要调整命令中的模型名称。可能的步骤包括：安装必要的依赖，如Docker或Python环境；下载模型文件；配置运行参数。需要检查是否有官方文档或社区教程可以参考，确保步骤正确。另外，还要考虑权限问题，比如是否需要sudo权限来安装软件，以及如何开放端口让外部访问。用户的问题可能涉及具体细节，比如如何下载模型、处理依赖项冲突、配置正确的端口和主机设置。需要分步骤解释，确保用户能一步步跟随操作。同时，提醒用户注意资源监控，避免内存不足导致部署失败。最后，测试部署是否成功，比如通过curl命令或编写简单的测试脚本。</think>### 在Linux服务器上部署DeepSeek R1-7B模型的步骤 #### 1. **环境准备** - **硬件要求**：建议使用至少32GB内存的服务器，配备NVIDIA GPU（如V100/A100）以支持模型推理加速[^2]。 - **软件依赖**： - 安装Python 3.8+和pip包管理器 - 安装CUDA Toolkit（版本≥11.7）和cuDNN - 安装Docker（可选，推荐用于环境隔离） #### 2. **部署框架选择** 根据引用[2][3]，提供两种主流方式： - **方式一：通过Xinference部署** ```bash # 安装Xinference pip install xinference # 启动本地服务（指定端口） xinference-local --host 0.0.0.0 --port 9997 # 加载模型（需提前下载模型文件） xinference register-model --name deepseek-r1-7b --model-type llama --model-file /path/to/model.bin ``` [^3] - **方式二：通过Ollama部署**（需转换模型格式） ```bash # 拉取模型（需确认仓库支持7B版本） ollama run deepseek-r1:7b ``` [^1] #### 3. **模型文件处理** - 从官方渠道获取模型权重文件（.bin或.gguf格式） - 若使用自定义路径，需在启动命令中指定： ```bash xinference launch --model-name deepseek-r1-7b --model-format pytorch --model-size 7b --model-path /your/model/path ``` #### 4. **验证部署** ```bash # 测试API访问 curl http://localhost:9997/v1/chat/completions \ -H "Content-Type: application/json" \ -d '{ "model": "deepseek-r1-7b", "messages": [{"role": "user", "content": "你好"}] }' ``` #### 5. **性能优化建议** - 添加`--gpu-memory 16000`参数分配显存 - 使用量化版本（如4-bit量化）减少内存占用 - 设置线程数：`export OMP_NUM_THREADS=8`