使用服务器部署DeepSeek-R1模型【详细版】

引言

在现代的机器学习和深度学习应用中,模型部署和服务化是每个开发者面临的重要任务。无论是用于智能推荐、自然语言处理还是图像识别,如何高效、稳定地将深度学习模型部署到生产环境中,都是提升系统性能和用户体验的关键环节。在本文中,我们将详细介绍如何在服务器上成功部署DeepSeek-R1模型,帮助你一步步了解从环境搭建到模型上线的全过程。

deepseek-r1

最近热度十分高的DeepSeek-R1大家相比都听过,它是幻方量化旗下大模型公司 DeepSeek 研发的系列推理模型,于 2025 年 1 月 20 日正式发布并开源权重。它使用强化学习训练,推理时包含大量反思和验证,思维链长,在数学、代码、自然语言推理等复杂任务上表现出色,与 ==OpenAI o1 ==性能相当 ,在 AIME、MATH-500、SWE-Bench Verified 等基准测试中成绩优异,还能自我事实核查降低错误风险。模型参数达 6710 亿,也有 15 亿至 70 亿参数的蒸馏版本,最小版可在普通笔记本运行。
目前,DeepSeek-R1 已在多个平台接入部署,如数码视讯、天翼云、联通云、青云科技基石智算 CoresHub 等

在这里插入图片描述
下图是模型出处
https://www.modelscope.cn/models/deepseek-ai/DeepSeek-R1/summary
在这里插入图片描述

IDE或者终端工具

这里我们选择IDE(VScode或Pycharm)或者终端工具,都可以,这里我选择使用Pycharm,当然别的也行,这里可以自行选择

算力平台

算力平台,我这里选择蓝耕云智算

在这里插入图片描述
我们选择一个3090的显卡试试水
在这里插入图片描述

体验deepseek-r1模型

在体验之前,我们需要下载必要的文件,这里我给大家一个网址
https://github.com/1692775560/deepseek_project

在这里插入图片描述
我们只需要将其放到服务器上面,就可以完成体验了

根据我们之前下载好的IDE,我们现在连接一下,然后就可以开心愉快的使用喽~下面的具体的链接过程

第一步
复制账户密码
在这里插入图片描述

第二步
粘贴下图所示的位置,进行连接等待本地文件传输到服务器
在这里插入图片描述
备注:username填写root即可,host,填写@后面的即可
在这里插入图片描述
这样就是成功了,当然我们还有配置一下环境,这里参考我下面的三小步即可

在这里插入图片描述

第三步

接下来,我们只需要在终端输入代码进行体验,但是进入我们要记得进入那个文件夹里面哦,下图是进入终端的方法

在这里插入图片描述

在进入到对应文件夹内,我们记得下载库啊,pip install -r requirements.txt
下载完之后,运行python run_model.py即可
在这里插入图片描述

总结

大模型发展速度是真的很快,过去可能国外更加领先一点,但是如今我国的deepseek-r1模型甚至可以挤进了世界前三,对于我们大部分人来说,自己构建一个大模型可能需要庞大的算力,数据等等,但是若我们学会如何使用,如何部署那么对我们日常工作学习也是起到了一个 促进作用,希望我的视频对你有帮助~~~

文末附上服务器的注册地址https://cloud.lanyun.net//#/registerPage?promoterCode=0131

### 部署 DeepSeek-R1 模型 为了在本地环境中成功部署 DeepSeek-R1 模型并实现 chatbox 可视化,需遵循特定步骤和配置选项。 #### 访问 Ollama 官网获取模型 前往 Ollama 的官方网页,在 Models 页面找到 deepseek-r1 模型。依据个人计算设备的具体情况选择适合的操作系统本,并复制对应的安装命令[^2]。 #### 执行安装命令 打开终端或命令提示符窗口,粘贴之前从网站获得的命令来启动下载过程。通常情况下这条指令会自动处理依赖关系并完成必要的环境设置工作[^1]。 ```bash ollama pull deepseek/r1:latest ``` 此命令用于拉取最新发布的 DeepSeek R1 本到用户的机器上。 #### 启动服务端口映射 一旦下载完毕,则可以通过指定参数运行容器实例以暴露 API 接口供外部调用: ```bash docker run -d --name=deepseek-r1 \ -p 8000:8000 \ deepseek/r1:latest serve ``` 上述脚本中的 `-p` 参数指定了主机与容器之间的端口转发规则;这里假设使用的是默认 HTTP 端口号 `8000`。 #### ChatBox 可视化集成 对于希望进一步增强用户体验的应用开发者来说,可以考虑将前端界面同后端 RESTful APIs 结合起来构建交互式的聊天机器人应用。这可能涉及到 HTML/CSS/JavaScript 文件编辑以及 WebSocket 或 AJAX 技术的支持。 ```html <!-- index.html --> <!DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-8"> <title>Chat with DeepSeek</title> <script src="https://cdn.jsdelivr.net/npm/socket.io-client@4/dist/socket.io.js"></script> </head> <body> <div id="chat-container"></div> <input type="text" id="message-input"/> <button onclick="sendMessage()">Send Message</button> <script> const socket = io('http://localhost:8000'); let container = document.getElementById('chat-container'); function sendMessage() { let msgInput = document.getElementById('message-input').value; socket.emit('client_message', { text: msgInput }); } socket.on('server_response', function(data){ let newMessageDiv = document.createElement("DIV"); newMessageDiv.innerHTML = data.text; container.appendChild(newMessageDiv); }); </script> </body> </html> ``` 这段简单的静态页面展示了如何通过 Socket.IO 库连接至服务器监听消息事件,并动态更新 DOM 节点显示对话记录。 #### 关于更多高级特性 除了基本功能外,DeepSeek 还提供了丰富的自定义能力让用户能够调整超参、优化性能指标或是扩展应用场景范围。具体细节可参照官方文档说明进行深入学习。
评论 100
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小馒头学python

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值