15、基于Kubernetes的部署与TorchScript应用指南

基于Kubernetes的部署与TorchScript应用指南

1. Kubernetes部署基础

Kubernetes（也称为k8s）正迅速成为云环境中的主流集群框架。它源自Google最初的集群管理软件Borg，具备构建弹性可靠服务运行方式的所有组件，涵盖负载均衡器、资源配额、扩展策略、流量管理和密钥共享等功能。

1.1 使用Google Kubernetes Engine（GKE）进行设置

若要使用GKE，你需要拥有一个Google Cloud账户，且在GKE上运行服务并非免费。不过，新用户可获得300美元的免费信用额度。以下是具体的设置步骤：
1. 下载gcloud SDK ：安装完成后，使用它来安装kubectl，这是用于与Kubernetes集群交互的应用程序。

gcloud login
gcloud components install kubectl

2. 创建新项目 ：通过以下命令创建一个新项目，并将其设置为默认项目。

gcloud projects create ml-k8s --set-as-default

3. 重建并推送Docker镜像 ：重新构建Docker镜像，并为其添加标签，以便将其推送到Google提供的内部注册表。