使用服务器部署DeepSeek-R1模型【详细版】

最新推荐文章于 2025-05-16 08:20:55 发布
最新推荐文章于 2025-05-16 08:20:55 发布
阅读量1.3w 收藏 168
点赞数 92
CC 4.0 BY-SA版权
分类专栏： 资讯 文章标签： 服务器 运维 python 语言模型
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/null18/article/details/145474243

文章目录

引言

在现代的机器学习和深度学习应用中，模型部署和服务化是每个开发者面临的重要任务。无论是用于智能推荐、自然语言处理还是图像识别，如何高效、稳定地将深度学习模型部署到生产环境中，都是提升系统性能和用户体验的关键环节。在本文中，我们将详细介绍如何在服务器上成功部署DeepSeek-R1模型，帮助你一步步了解从环境搭建到模型上线的全过程。

deepseek-r1

最近热度十分高的DeepSeek-R1大家相比都听过，它是幻方量化旗下大模型公司 DeepSeek 研发的系列推理模型，于 2025 年 1 月 20 日正式发布并开源权重。它使用强化学习训练，推理时包含大量反思和验证，思维链长，在数学、代码、自然语言推理等复杂任务上表现出色，与 ==OpenAI o1 ==性能相当 ，在 AIME、MATH-500、SWE-Bench Verified 等基准测试中成绩优异，还能自我事实核查降低错误风险。模型参数达 6710 亿，也有 15 亿至 70 亿参数的蒸馏版本，最小版可在普通笔记本运行。
目前，DeepSeek-R1 已在多个平台接入部署，如数码视讯、天翼云、联通云、青云科技基石智算 CoresHub 等

在这里插入图片描述
下图是模型出处
https://www.modelscope.cn/models/deepseek-ai/DeepSeek-R1/summary
在这里插入图片描述

IDE或者终端工具

这里我们选择IDE（VScode或Pycharm）或者终端工具，都可以，这里我选择使用Pycharm，当然别的也行，这里可以自行选择

算力平台

算力平台，我这里选择蓝耕云智算

在这里插入图片描述
我们选择一个3090的显卡试试水
在这里插入图片描述

体验deepseek-r1模型

在体验之前，我们需要下载必要的文件，这里我给大家一个网址
https://github.com/1692775560/deepseek_project

在这里插入图片描述
我们只需要将其放到服务器上面，就可以完成体验了

根据我们之前下载好的IDE，我们现在连接一下，然后就可以开心愉快的使用喽~下面的具体的链接过程

第一步
复制账户密码
在这里插入图片描述

第二步
粘贴下图所示的位置，进行连接等待本地文件传输到服务器
在这里插入图片描述
备注：username填写root即可，host，填写@后面的即可
在这里插入图片描述
这样就是成功了，当然我们还有配置一下环境，这里参考我下面的三小步即可

在这里插入图片描述

第三步

接下来，我们只需要在终端输入代码进行体验，但是进入我们要记得进入那个文件夹里面哦，下图是进入终端的方法

在这里插入图片描述

在进入到对应文件夹内，我们记得下载库啊，pip install -r requirements.txt
下载完之后，运行python run_model.py即可
在这里插入图片描述

总结

大模型发展速度是真的很快，过去可能国外更加领先一点，但是如今我国的deepseek-r1模型甚至可以挤进了世界前三，对于我们大部分人来说，自己构建一个大模型可能需要庞大的算力，数据等等，但是若我们学会如何使用，如何部署那么对我们日常工作学习也是起到了一个 促进作用，希望我的视频对你有帮助~~~

文末附上服务器的注册地址https://cloud.lanyun.net//#/registerPage?promoterCode=0131

大模型实战篇之Deepseek二、一键部署DeepSeek-V3和DeepSeek-R1模型
xiaoqi270620903的专栏
02-06 2336
今天，我们将详细介绍如何在阿里云PAI Model Gallery上通过零代码的方式一键部署DeepSeek-V3和DeepSeek-R1模型，帮助开发者和企业用户快速实现AI模型的落地应用。了解DeepSeek模型：DeepSeek是一个强大的语言模型，支持多种应用场景，如智能客服、文本生成等。在Model Gallery页面的模型列表中，找到并点击需要部署的模型卡片，例如“DeepSeek-R1-Distill-Qwen-7B”。在左侧导航栏中选择“工作空间列表”，点击进入你指定的工作空间。
如何实现远程云服务器模型部署在本地使用
weixin_72914660的博客
02-10 1033
一点解决远程机连接问题的小小见解
DeepSeek部署全攻略：四大方案详细解析
玦尘的博客
02-13 7452
调用 API + DeepSeek 服务器：最简单的方式，直接调用 DeepSeek 提供的 API，适合不想折腾硬件、追求快速上手的用户。第三方平台（如秘塔搜索、硅基流动）：通过第三方平台使用 DeepSeek 的能力，适合不想自己部署模型，但又需要灵活使用的场景。本地算力部署（基于 Ollama）：在个人电脑或本地服务器上运行模型，适合对数据隐私要求高、愿意折腾硬件的用户。服务器部署：在企业级硬件或云服务器上部署完整版模型，适合对性能要求高、预算充足的企业用户。
搭建PyTorch模型在服务器环境及应用
易之阴阳，量子纠缠，道之一体，缘起性空
03-22 909
可能还需要通过Gunicorn、Nginx等工具进行负载均衡和静态资源服务，并且针对服务器资源进行优化，如内存管理和并发控制。启动服务后，可以通过HTTP请求向服务器发送数据以获取预测结果。对于生产环境，请考虑添加认证、日志记录、错误处理等安全措施。
[模型部署] 2. 服务部署
最新发布
ayiya_Oese的博客
05-16 621
本文详细介绍了如何将深度学习模型部署为服务，涵盖了多种服务化方案和最佳实践。
（手动）在服务器上部署模型记录
m0_74645064的博客
10-14 630
服务器上部署模型
自然语言处理从入门到应用——预训练模型总览：从宏观视角了解预训练模型
冯·诺依曼
02-06 1万+
近些年基于深度学习的NLP技术的重大进展主要包括NNLM(2003)、Word Embedding(2013)、Seq2Seq(2014)、Attention(2015)、Transformer(2017)、GPT(2018)、BERT(2018)、XLNet(2019)、GPT-2(2019)、GPT-3(2020)等，主要预训练模型的大致发展脉络见下图： 各种主要预训练模型的特征、抽取特征方法、使用语言模型类别等内容： 模型 语言模型 特征提取 上下文 创新点 ELMO LM Bi-L
深度学习-模型部署
2301_77698138的博客
10-21 3064
模型部署是指将大模型运行在专属的计算资源上，使模型在独立的运行环境中高效、可靠地运行，并为业务应用提供推理服务。其目标是将机器学习模型应用于实际业务中，使最终用户或系统能够利用模型的输出，从而发挥其作用。import ioimport flask # 自己安装# 初始化Flask appapp = flask.Flask(__name__) # #创建一个新的Flask应用程序实例。
如何在本机或服务器上部署运行DeepSeek R1模型
大印的专栏
02-06 2173
如何在服务器上部署运行DeepSeek R1模型
DeepSeek大模型的DeepSeek-R1-Distill-Qwen-1.5B-GGUF版本，2025.2.6最新版的安装包OllamaSetup.exe
02-07
由于DeepSeek大模型的DeepSeek-R1-Distill-Qwen-1.5B-GGUF版本可能涉及复杂的计算和数据处理工作，其安装和部署可能需要在具备一定计算资源的环境下进行，例如配备高性能GPU的工作站或服务器。在安装过程中，用户...
ollama 部署 deepseek-r1 70B 模型完整指南.pdf
02-10
在部署DeepSeek-R1 70B模型的完整过程中，首先需要进行模型的下载与准备。具体操作为通过ModelScope平台下载经过量化处理的GGUF格式模型文件。推荐选择Q5_K_M量化级别，这种量化级别可以在保持94%的精度下，将模型...
DeepSeek-R1推理开源源码+模型（本地部署）.zip
02-17
标题中所提及的"DeepSeek-R1推理开源源码+模型（本地部署）.zip"表明本压缩包文件包含了DeepSeek-R1项目的核心组件——推理引擎的源代码以及相关的机器学习模型文件。推理引擎通常指的是用于执行模型推理的软件组件...
deepseek蒸馏
xnuscd的博客
02-20 1030
这个 Notebook 主要完成： ✅。
云计算服务的四种部署模型
weixin_35752122的博客
01-11 531
云计算服务的四种部署模型包括： 云端部署：所有资源和服务都在云端运行。 混合部署：部分资源和服务在本地，部分在云端。 分布式部署：资源和服务分布在多个地点。 私有云部署：资源和服务都在企业内部运行，不涉及公有云。 ...
畅快使用DeepSeek-R1的方法
学习随笔
02-09 1011
畅快使用DeepSeek-R1的方法
超火的DeepSeek使用了大模型蒸馏技术嘛?
kcarly的专栏
02-01 4596
DeepSeek通过蒸馏技术开发了多个高效的小型AI模型，包括基于R1蒸馏的Qwen系列、渐进式分层蒸馏技术以及Qwen和Llama系列的多参数模型。这些模型在推理能力、效率和实际应用中均取得了显著成果。例如，DeepSeek-R1蒸馏模型在AIME竞赛中超越了GPT-4o，在多个基准测试中大幅超越了o mini；渐进式分层蒸馏技术实现了从175亿参数到13亿参数的高效知识迁移；而其他蒸馏模型则在图像分类和自然语言处理任务中展现了卓越性能。蒸馏技术通过将大模型的知识传递给小模型，实现了模型压缩和性能提升。
什么是DeepSeek-R1蒸馏模型？
热门推荐
asd8705的专栏
01-22 2万+
所以昨晚，DeepSeek在DeepSeek-V3之后发布了另一个革命性的模型，即DeepSeek-R1和我的孩子，这看起来是一个重大的发布，因为这个模型在几个基准测试中已经超越了OpenAI-o1，即SOTA推理模型。例如，在推理基准测试中，DeepSeek-R1-Distill-Qwen-32B的表现优于DeepSeek-R2-Zero-Qwen-34B，这表明对于较小的模型来说，蒸馏是一种更经济、更有效的方法。蒸馏的目标是使DeepSeek-R1等大型模型的推理能力能够被更小、更高效的模型所利用。
本地部署deepseek-r1模型选择
03-01
### 部署 DeepSeek-R1 模型 为了在本地环境中成功部署 DeepSeek-R1 模型并实现 chatbox 可视化，需遵循特定步骤和配置选项。 #### 访问 Ollama 官网获取模型 前往 Ollama 的官方网页，在 Models 页面找到 deepseek-r1 模型。依据个人计算设备的具体情况选择适合的操作系统版本，并复制对应的安装命令[^2]。 #### 执行安装命令 打开终端或命令提示符窗口，粘贴之前从网站获得的命令来启动下载过程。通常情况下这条指令会自动处理依赖关系并完成必要的环境设置工作[^1]。 ```bash ollama pull deepseek/r1:latest ``` 此命令用于拉取最新发布的 DeepSeek R1 版本到用户的机器上。 #### 启动服务端口映射 一旦下载完毕，则可以通过指定参数运行容器实例以暴露 API 接口供外部调用： ```bash docker run -d --name=deepseek-r1 \ -p 8000:8000 \ deepseek/r1:latest serve ``` 上述脚本中的 `-p` 参数指定了主机与容器之间的端口转发规则；这里假设使用的是默认 HTTP 端口号 `8000`。 #### ChatBox 可视化集成 对于希望进一步增强用户体验的应用开发者来说，可以考虑将前端界面同后端 RESTful APIs 结合起来构建交互式的聊天机器人应用。这可能涉及到 HTML/CSS/JavaScript 文件编辑以及 WebSocket 或 AJAX 技术的支持。 ```html <!-- index.html --> <!DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-8"> <title>Chat with DeepSeek</title> <script src="https://cdn.jsdelivr.net/npm/socket.io-client@4/dist/socket.io.js"></script> </head> <body> <div id="chat-container"></div> <input type="text" id="message-input"/> <button onclick="sendMessage()">Send Message</button> <script> const socket = io('http://localhost:8000'); let container = document.getElementById('chat-container'); function sendMessage() { let msgInput = document.getElementById('message-input').value; socket.emit('client_message', { text: msgInput }); } socket.on('server_response', function(data){ let newMessageDiv = document.createElement("DIV"); newMessageDiv.innerHTML = data.text; container.appendChild(newMessageDiv); }); </script> </body> </html> ``` 这段简单的静态页面展示了如何通过 Socket.IO 库连接至服务器监听消息事件，并动态更新 DOM 节点显示对话记录。 #### 关于更多高级特性 除了基本功能外，DeepSeek 还提供了丰富的自定义能力让用户能够调整超参、优化性能指标或是扩展应用场景范围。具体细节可参照官方文档说明进行深入学习。
评论 100
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小馒头学python

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值