aistdio部署deepseek-r1纯教程

前言

笔者电脑未扩容,想玩玩本地化的deepseek,苦于👇久矣,

想到之前老师介绍的百度云平台飞桨AI Studio星河社区-人工智能学习与实训社区

于是就开始尝试部署终端版deepseek.

一、新建项目

1.打开飞桨网站,创建notebook项目

2.加数据集

新建项目时,记得挂载deepseek的公开数据集

二.下载ollama

1.下载

参考教程:基于DeepSeek构建智能体打造带有“外挂”的算命大师 - 飞桨AI Studio星河社区

命令(jupyter):

# 1. 在根目录下创建`ollama`文件夹
!mkdir ollama
# 2. 解压ollama
!tar -xzvf /home/aistudio/data/data314947/ollama-linux-amd64.tgz -C /home/aistudio/ollama

2.运行ollama

# 3. 启动ollam(终端里面运行)
!ollama/bin/ollama serve

将上面这行代码去掉!输入到终端运行,运行示例:

三、解压deepseek

1.解压

# 4. 切换到新终端,解压deepseek-r1模型
!tar -zxvf /home/aistudio/data/data314947/models.zip
# 5. 复制模型文件到.ollama路径
!cp -r models .ollama
# 6. 查看模型
!ollama/bin/ollama ls

2.运行

# 7. 启动deepseek-r1
!ollama/bin/ollama run deepseek-r1

使用示例:

点击右上角+号新建终端,输入命令

第一次下载可能会比较久,耐心等待

(实在太久,笔者决定先下个1.5b试试)

文科续写(感觉有点水水的,可能r1不擅长文科)

规划(还行,看起来挺唬人)

理科(还可以,条理清晰)

四、其他部署方法

抛砖引玉了👇其他博主写得很详细了已经

DeepSeek部署全攻略:四大方案详细解析_腾讯云deepseek部署cherryatudio-优快云博客

小白都能看懂,deepseek本地部署教程_deepseek本地部署教程及步骤详解-优快云博客

DeepSeek本地部署详细指南-优快云博客

欢迎探讨👏


其实笔者昨天刚好把硬盘装上了,所以本地也部署了ds-8b

对比一下同一个问题的回答:

8b的回答感觉更有文化一点😀

### 如何部署 DeepSeek-R1 插件安装配置教程 #### 准备工作 为了成功部署 DeepSeek-R1 并使其具备联网搜索功能,需先准备好环境并下载相应的模型文件。通过终端执行特定命令可以获取不同大小的预训练模型版本[^3]。 对于希望简化操作流程的情况,在准备阶段完成后,可以通过两种主要的方法使本地部署DeepSeek-r1 获得网络访问能力,从而增强其性能和服务范围[^2]。 #### 下载模型 具体来说,要获得 DeepSeek-R1 的各个版本,可以在命令行工具中输入如下指令: - 对于 7B 参数量的轻量化版: ```bash ollama run huihui_ai/deepseek-r1-abliterated:7b ``` - 如果偏好稍大一些但仍保持高效能表现的 8B 版本,则应使用此命令: ```bash ollama run huihui_ai/deepseek-r1-abliterated:8b ``` - 若要体验更强大的计算能力和更高的准确性,可以选择 14B 或者更大规模的变体,比如 32B 和 70B: ```bash ollama run huihui_ai/deepseek-r1-abliterated:14b ollama run huihui_ai/deepseek-r1-abliterated:32b ollama run huihui_ai/deepseek-r1-abliterated:70b ``` 这些命令会自动拉取指定参数级别的 DeepSeek-R1 模型到用户的设备上以便后续处理和应用开发需求。 #### 启用联网搜索功能 为了让已经离线安装好的 DeepSeek-r1 实现在线查询的能力,有两种途径可供选择。一种可能是调整软件内部设置或是利用额外插件来实现互联网连接;另一种则是借助外部服务接口的方式达成目标。具体的实施细节取决于所选方案以及开发者所提供的指导说明文档。 #### WebUI 部署 最后一步涉及创建友好的图形界面供最终用户交互使用。这通常涉及到前端框架的选择和技术栈的设计等方面的工作。虽然这部分内容未被详细提及,但从整体上看,构建一个易于使用的Web UI 是整个项目不可或缺的一部分,它能够极大地提升用户体验质量。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值