AWS + 宝塔面板实战：DeepSeek-R1 蒸馏模型私有化部署全流程指南

 亚马逊云科技一直在持续关注客户需求与技术发展，并为客户提供丰富且有深度的模型。随着 DeepSeek V3 以及 R1 模型的出现，亚马逊云科技也即时为客户提供了部署方案。目前，您可以在 Amazon Bedrock 以及 Amazon SageMaker AI 中部署 DeepSeek-R1 模型。Amazon Bedrock 最适合那些希望使用 API 快速集成预训练模型的团队；Amazon SageMaker AI 则非常适合自己进行高级定制、训练和部署、调用基础设施的团队。

前提条件

• 已注册亚马逊中国区或海外区账户

操作步骤

启动 EC2 实例

1. 登陆进入亚马逊云科技账户，在搜索框中输入 EC2 并进入 EC2 界面，在右侧导航栏点击实例后，点击启动新实例。

2.应用程序和操作系统选择 Ubuntu 如截图所示。 

3.以 DeepSeek-R1:8B 模型为例，即 DeepSeek-R1-Distill-Llama-8B，我们需要启动一个 t2.xlarge 大小，存储为 32GiB 的实例。随后我们选择或创建新密钥对。网络设置的安全组部分勾选创建安全组以及三个规则。 

 4.存储部分选择 32GiB。随后点