3、人工智能工程的分布式计算基础与架构解析

人工智能工程的分布式计算基础与架构解析

在深入探讨人工智能工程之前，了解分布式计算、DevOps 和 MLOps 等背景知识是很有必要的。这些知识不仅为 AI 系统的开发和部署提供了基础，还影响着系统的设计和性能。

1. 分布式计算概述

AI 系统通常需要大量的计算资源和高效的数据处理能力，因此分布式计算是一个自然的选择。一般假设 AI 系统将部署在云环境（公有云或私有云）中，因为云环境可以根据需求动态分配资源。部署在云中的系统本质上是分布式系统，由多个服务组成，每个服务部署在不同的主机上，服务之间通过消息进行通信。

2. 虚拟机和容器

• 虚拟机（VM） ：云计算基于虚拟化概念，虚拟机是一种软件结构，它向加载的软件暴露 CPU、内存、磁盘和网络连接等资源，使加载的软件感觉像是在物理计算机上运行。VM 运行自己的操作系统，由名为管理程序的专用操作系统控制。一个物理计算机可以托管多个 VM。不过，VM 镜像可能很大，网络传输和初始化时间较长。
• 容器 ：容器是一种在保持虚拟化优势（如隔离性）的同时，减少镜像传输和启动时间的机制。容器是一个可执行镜像，封装了服务及其依赖库，在容器引擎的控制下运行。容器引擎利用 Linux 特性（如控制组和命名空间）提供隔离。容器共享操作系统内核，就像多个 VM 共享物理硬件一样。

以下是虚拟机和容器的对比表格：
| 特性 | 虚拟机 | 容器 |
| ---- | ---- | ---- |
| 资源隔离 | 完全隔离，运行独立的操作系统 | 共享操作系统内