AI工程部署（三）：K8S【Kubernetes；Docker集群管理工具】【作用：容器管理、服务编排、资源调度、集群管理】

手动docker run创建容器只是个toy，在企业里，往往会使用k8s平台管理容器；

k8s是一个容器管理、服务编排、资源调度、集群管理的工具，由谷歌开源，在国内已成为主流；

我们开发的服务，最终都将运行在k8s上；

一、K8S集群作用

• 容器管理：容器的创建、监控、销毁等生命周期管理
• 服务编排：一个复杂的产品往往是由几十个、甚至几百个微服务协同组成，服务之间的集成、交互等；
• 资源调度：一个服务需要多少cpu mem、gpu资源，当前服务应该被调度到哪台机器；
• 集群管理：k8s可以将几十、几百台机器管理起来，屏蔽了机器的概念，可以将集群视为一个巨大的cpu mem gpu资源池

二、K8S集群部署优势

• 1、故障迁移：当某一个node节点关机或挂掉后，node节点上的服务会自动转移到另一个node节点上，这个过程所有服务不中断。这是docker或普通云主机是不能