7、容器与边缘设备的机器学习运维：从基础到最佳实践

容器与边缘设备的机器学习运维：从基础到最佳实践

1. 虚拟化技术背景

在云计算环境中，虚拟机仍占据重要地位。像谷歌云将其称为计算引擎，许多虚拟机还配备增强型 GPU，以提升机器学习操作的性能。不过，对于模型部署而言，掌握容器和边缘设备这两种技术愈发重要。虚拟机并不适合在边缘设备（如手机）上运行，也难以在开发过程中利用可重现的文件集进行快速迭代。

2. 容器技术概述

• 容器与容器化技术 ：尽管虚拟机功能强大且稳定，但掌握容器和容器化技术至关重要。2013 年 Docker 发布时，其带来的变革性工具令人惊叹。Linux 早已有 LXC（Linux 容器），提供了如今容器常见的许多功能，但 LXC 的工具较差。Docker 通过注册表实现轻松协作和共享，成为容器技术的领导者。
• 容器与虚拟机的对比 ：Red Hat 对容器和虚拟机有一个重要描述。简单来说，容器专注于应用本身，如源代码和其他支持文件，而虚拟机则像一个一体化服务，会安装、配置和运行数据库、Web 服务器等系统服务，这种应用是单体式的，存在紧密的相互依赖关系。微服务是一种与系统要求（如数据库）完全解耦、可独立运行的应用，虽然虚拟机也可作为微服务，但容器更适合这一概念。

3. 容器运行时

“容器”“Docker”和“容器运行时”这些术语容易让人混淆。Docker 公司最初开发了创建、管理和运行容器的工具，因此常说“Docker 容器”，其运行时也是 Docker 开发的。几年后，Red Hat 贡献了一种新的运行容器的方式和新的运行时环境，带来了一套新的操