26、系统负载管理与大型系统设计策略

系统负载管理与大型系统设计策略

在当今数字化的时代，系统面临着各种各样的挑战，尤其是在流量管理和系统设计方面。合理的流量管理能够确保系统稳定运行，而科学的系统设计则是构建高可用、可扩展系统的关键。本文将深入探讨系统负载管理的策略以及非抽象大型系统设计（NALSD）的方法。

系统负载管理策略

系统负载管理主要涉及负载均衡、负载丢弃和自动缩放这三种策略，它们的目标都是均衡和稳定系统负载，但在实际应用中，需要根据系统的具体情况进行合理组合。

避免流量不平衡

一些自动缩放器（如 AWS EC2、GCP）可以在区域实例组（RMiGs）之间平衡实例。除了常规的自动缩放外，这些自动缩放器还会运行一个单独的任务，不断尝试平衡每个区域中各可用区的大小。这样做可以避免出现一个超大的可用区，同时，如果系统按可用区分配配额，这种策略还能平衡配额的使用。此外，跨区域的自动缩放可以增加故障域的多样性。

组合策略管理负载

当系统变得足够复杂时，可能需要使用多种负载管理策略：
- 负载均衡与基于负载的自动缩放结合 ：例如，运行多个托管实例组，这些实例组会根据负载进行缩放，并且在多个区域进行克隆以增加容量。此时，系统需要在区域之间平衡流量，因此需要同时使用负载均衡和基于负载的自动缩放。
- 负载均衡与负载丢弃结合 ：假设一个网站分布在全球三个共置设施中，为了降低延迟，希望在本地提供服务。但由于部署更多机器需要数周时间，当流量突然增加时，需要将溢出的容量转移到其他位置。此时，可以实施负载丢弃来丢弃多余的流量，系统需要同时使用负载均衡和负载丢弃。