【真一键部署脚本】——一键部署deepseek

目录

deepseek一键部署脚本说明

0 必要前提

1 使用方法

1.1 使用默认安装配置

1.1 .1 使用其它ds模型

1.2 使用自定义安装

2 附录:deepseek模型手动下载

3 脚本下载地址


deepseek一键部署脚本说明

image-20250208183325987

0 必要前提

  • linux环境

  • python>=3.10

1 使用方法

1.1 使用默认安装配置

不建议:这种方法安装包自带了8b的模型,整个包有25G。

  1. 下载DeepSeek-R1-one.tar.gz

  2. 将DeepSeek-R1-one.tar.gz压缩包解压到/data路径下,包含了deepseek-r1、 deploy.sh、使用说明.pdf

    • DeepSeek-R1: DeepSeek-R1的8b模型

    • deploy.sh:安装脚本

    • 使用说明.pdf: deploy.sh的使用说明

  3. 压缩包自带了deepseek-r1的8b模型,确保模型所在路径为/data/DeepSeek-R1

  4. 执行deploy脚本:bash deploy.sh

等待安装完成:

后端服务api地址 : http//:ip:24444;可在浏览器页面打开,查看接口文档

自带可视化页面:http//:ip:6008;可在浏览器页面打开,开始与ds对话。

1.1 .1 使用其它ds模型

确保模型路径命名为/data/DeepSeek-R1

其它同1.1

1.2 使用自定义安装

脚本下载地址

可自定义后端端口号、前端端口号、模型路径、模型名称、显卡数量

  1. 可直接下载deploy.sh脚本文件

  2. 执行deploy脚本:./deploy.sh --custom

  3. 根据提示配置后端端口号、前端端口号、模型路径、模型名称

等待安装完成:

后端服务api地址 : http//:ip:自定义端口;可在浏览器页面打开,查看接口文档

自带可视化页面:http//:ip:自定义端口;可在浏览器页面打开,开始与ds对话。

2 附录:deepseek模型手动下载

3 脚本下载地址

4 其它

支持lmdeploy部署的,都可以使用该脚本

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

PythonJavaC++go

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值