17、云基础设施扩展：从负载预估到动态缩放的全面指南

云基础设施扩展：从负载预估到动态缩放的全面指南

1. 负载预估的重要性

在处理云基础设施时，负载预估是一项关键任务。假设你有一个每秒能支持1000万笔交易的基础设施，而平均负载从每秒100万笔交易增长到每秒500万笔交易。如果进行了合理的负载预估，就能判断这种突然的流量激增是预期之内（无需担忧）还是意外情况（需警惕潜在的容量问题）。若没有恰当的负载预估，面对流量变化时就会不知所措。

1.1 确定预期需求

对于电商网站，其预期流量可以通过图表来展示，包括典型一天内的流量高峰以及未来12个月的预计峰值流量。
- 每日流量模式 ：通常在早上、午餐时间和傍晚时分出现流量高峰，而凌晨时段流量则会大幅下降。对于业务稳定的公司，历史流量模式可作为预期流量的依据；对于成长型公司，流量行为会随市场变化而改变。
- 年度流量模式 ：除了一般的季节性变化（如年末购物旺季），业务活动（如产品发布）也会对流量产生影响。因此，需要与销售、营销等部门密切合作，了解业务计划，以便在流量预估中考虑这些因素。

如果没有历史数据，可以根据对市场的了解进行大致猜测，直到积累了足够的历史数据。

2. 分析意外流量

在实际运营中，不可避免地会遇到意外流量。可能是产品发布超出预期、获得了意外的媒体报道，或者预估出现偏差。当大量意外流量冲击网站系统时，理解流量变化的原因至关重要，因为这可能是好消息，也可能是坏消息，可能需要调整所有的预估，也可能只是一个短暂的异常。

3. 负载的影响

扩展Web应用程序或网站的能力与理解资源限制所在以及添加各种资源对应用程序的影响直接相关。很多时候，架构师会错误地认为添加服务器就能解决所有性能问题，但实际上，在磁盘I/O受限的数据库服务器基础上添加应用服务器，只会让问题变得更糟。

系统架构师需要了解所管理应用程序的预期使用模式，并进行测试，以确定不同场景下基础设施的压力点。典型的Web应用程序部署在云中时，可能存在以下潜在容量限制：
| 潜在容量限制 | 说明 |
| ---- | ---- |
| 负载均衡器的带宽 | 影响进入系统的流量承载能力 |
| 负载均衡器的CPU和RAM | 决定负载均衡器的处理能力 |
| 负载均衡器在应用服务器间分配负载的能力 | 关系到应用服务器的负载均匀性 |
| 负载均衡器与应用服务器之间的带宽 | 影响数据传输速度 |
| 应用服务器的CPU和RAM | 决定应用服务器的处理能力 |
| 应用服务器的磁盘读I/O | 影响数据读取速度 |
| 应用服务器的磁盘写I/O（若应用在磁盘上缓存） | 影响数据写入速度 |
| 应用服务器与网络存储设备之间的带宽 | 影响数据存储和读取的效率 |
| 应用服务器与数据库服务器之间的带宽 | 影响应用与数据库之间的数据交互 |
| 读取数据库的磁盘读I/O | 影响数据库读取性能 |
| 写入数据库的磁盘写I/O | 影响数据库写入性能 |
| 磁盘用于数据存储的空间 | 决定数据库的存储容量 |

然而，实际上大多数这些限制并非真正的问题，Web应用程序和数据库架构才更可能是关键所在。

4. 应用架构和数据库架构

为了实现云环境下的扩展，应用架构和数据库架构应遵循以下准则：
- 使用最快的存储设备进行数据库访问。
- 避免在应用服务器层保留事务性数据。
- 允许多个应用服务器副本在不相互通信的情况下访问同一数据库。
- 对数据库进行适当的索引。
- 若可能，采用主/从设置，将读操作导向从服务器。
- 在使用Amazon EC2时，设计冗余机制以减少可用区之间的流量。

5. 扩展点

根据应用程序的不同，最初最可能出现压力的点通常是以下三个组件之一：
- 应用服务器的CPU
- 应用服务器的RAM
- 数据库服务器的磁盘I/O

以某个Java Web应用程序为例，最初的瓶颈通常是应用服务器的CPU。随着水平扩展，CPU不再是主要因素，但可能会遇到网络带宽或数据库磁盘I/O的新瓶颈。在云中，磁盘I/O往往是关键问题。此时，可以将读操作分散到多个数据库从服务器，主服务器仅用于写操作。当数据库主服务器的写磁盘I/O成为新的瓶颈时，可能需要对数据库进行分段或考虑更昂贵的数据库解决方案。

不需要进行复杂昂贵的分析来确定具体在多少用户时采取扩展操作，只需在预期的规模下启动环境，进行实际的负载测试，并记录负载和扩展的影响即可。

6. 容量的价值

在Web应用程序中，不能仅仅因为CPU利用率达到90%就盲目增加系统容量。需要回答“支持这些额外负载能带来什么好处”这个问题，了解系统需求的价值有助于做出决策。

在网格计算系统中，增加负载的价值通常比较容易理解。例如，视频渲染农场扩展是为了渲染更多视频，可以通过成本/效益分析来确定是否增加容量。但对于Web应用程序，情况更为复杂，因为一个网站或Web应用程序通常支持多种不同的用例，每个用例对业务的价值各不相同。

下面通过一个简单的思想实验来说明：
有一个简单的Web应用程序，作为主要的销售工具，使用SalesForce.com的Web2Lead将网站上的潜在客户信息导入SalesForce.com，网站背后的内联网组件允许营销团队设置活动、着陆页并进行基本报告。

当网站突然出现意外流量高峰，接近系统容量时，需要考虑以下问题来决定是否增加容量：
- 容量不足对网站访问者有何影响？
- 这种流量高峰是否代表系统的合理使用，是否存在更大的问题需要关注？
- 需求是否会进一步增加，是否接近峰值？
- 维持现状是否会产生成本，该成本是否大于增加容量的成本？

假设通过研究得到以下答案：
- 随着接近容量限制，网站速度变慢，系统停止处理登录请求，若系统负担过重，网站最终将无法使用。
- 流量分析显示，首席营销官（CMO）在博客中发表了有争议的言论，多个社交媒体网站对此进行了报道，导致博客流量大幅增加，但网站其他部分流量基本正常。
- 流量似乎已经趋于平稳，但不确定是否形成了新的使用平台。
- 维持现状的成本相对较小，普通网站访问者仍能正常访问，受影响较大的是内部营销用户，但他们可以忍受几个小时的有限或无访问权限。而在云中，通过负载测试可知，添加一台额外的应用服务器就能使系统恢复正常，成本仅需几美元。

基于以上分析，最终决定增加容量，因为成本较低且能解决当前问题。

如果不是在云中，增加容量的成本会非常高，而且等容量增加到位时，意外需求可能已经消退。另外，如果流量存在异常（如可能是失控的僵尸网络在寻找网站漏洞），情况会变得更加复杂，因为增加容量可能无法解决问题，甚至会陷入不断增加容量的恶性循环，增加成本和外部威胁暴露风险，却无法带来业务收益。

综上所述，额外的需求并不意味着必须增加容量，需要综合考虑各种因素。

7. 云扩展

云环境赋予了我们根据负载需求调整计算资源的能力，可以手动（通过命令行或Web界面执行命令）或通过编程方式（通过预定义的容量更改或自动调整容量的软件）进行容量调整。手动调整容量相比传统计算具有很大优势，但云扩展的真正力量在于动态缩放。

7.1 动态缩放

动态缩放（也称为云缩放）允许软件在无需人工干预的情况下调整基础设施中的资源，可分为主动缩放和被动缩放。
- 主动缩放 ：根据预估的需求制定基础设施调整计划。例如，根据前面提到的电商网站每日流量模式，配置云管理工具，在凌晨时段使用最小的基础设施以满足可用性要求，上午晚些时候增加容量，午餐前恢复到基线水平，依此类推。这种策略不等待需求增加，而是根据计划提前增加容量。
- 被动缩放 ：基础设施根据需求变化自动添加或减少容量。在上述容量评估的思想实验中，采用被动缩放的环境可能会在检测到CMO博客的意外流量高峰时自动增加容量。

8. 工具和监控系统

云基础设施管理工具和监控系统对于云基础设施的管理至关重要。市面上有多种选择，如enStratus、RightScale和Morph等，选择时需要考虑预算、管理的应用程序类型以及对基础设施管理的重点需求。

所选工具至少应具备以下功能：
- 为应用程序部署安排容量更改。
- 监控部署中的超额（或低于正常）需求。
- 根据意外的流量高峰或下降自动调整容量。

监控不仅仅是关注容量上限和开关服务器，还包括监控云环境中的故障并进行恢复。需要对容量的任何更改（无论是否按计划进行）进行完整记录，并在出现异常情况时发送电子邮件通知。

也可以自行构建监控系统，其架构如下：

graph LR
    classDef process fill:#E5F6FF,stroke:#73A6FF,stroke-width:2px;
    classDef server fill:#FFEBEB,stroke:#E68994,stroke-width:2px;
    subgraph 云环境
    A(服务器):::server --> B(状态进程):::process
    C(服务器):::server --> D(状态进程):::process
    end
    E(监控服务器):::server --> F(监控软件):::process
    B --> E
    D --> E

监控服务器通过轮询云实例来获取资源限制信息，不同类型的服务器（如负载均衡器、数据库服务器、应用服务器）的监控重点不同。负载均衡器主要关注RAM和CPU利用率；数据库服务器需要关注磁盘I/O性能；应用服务器的监控最为复杂，需要报告资源利用率以及实例上的活动情况。监控服务器使用分析工具处理这些数据，以确定何时主动添加或减少容量、识别意外活动并触发相应规则。

9. 云中的采购流程

在云中进行资源扩展时，资金使用方式与传统基础设施有很大不同。在传统环境中，添加新资源通常需要经过公司采购流程批准采购订单，财务部门会根据部门预算批准订单。而在云中，任何人只要有权限启动新实例或更改云管理工具的缩放标准，就拥有完全的采购权，无需向财务部门进行详细说明。

因此，财务部门应参与批准管理云基础设施团队的每月预算，并建立控制机制，确保部署到云中的资源更改与批准的预算一致。否则，可能会导致财务部门从云迁移的最大支持者变为最大批评者。

总之，云基础设施的扩展是一个复杂的过程，需要从负载预估、意外流量分析、负载影响评估、容量价值判断、动态缩放以及采购流程管理等多个方面进行综合考虑，以实现高效、经济的扩展。

云基础设施扩展：从负载预估到动态缩放的全面指南

10. 动态缩放策略的实际应用

动态缩放策略在实际应用中能带来显著的效益。下面通过一些实际场景来进一步说明主动缩放和被动缩放的应用。

10.1 主动缩放的应用场景

以电商网站为例，其流量具有明显的周期性。在一天内，凌晨时段流量较低，而上午、午餐和傍晚时段流量较高。可以使用主动缩放策略，按照以下流程进行操作：
1. 分析历史流量数据，确定不同时间段的流量高峰和低谷。
2. 配置云管理工具，设置在凌晨时段使用最小的基础设施，以满足可用性要求。例如，减少应用服务器的数量或降低服务器的配置。
3. 在上午晚些时候，根据预估的流量增加，提前增加容量。可以通过增加应用服务器的实例数量或提高服务器的配置来实现。
4. 在午餐时间前，将容量降低到基线水平，以节省资源。
5. 重复以上步骤，根据不同时间段的流量变化进行容量调整。

通过主动缩放策略，可以在不等待需求增加的情况下，提前做好容量准备，避免因流量高峰导致的系统性能下降。

10.2 被动缩放的应用场景

当网站遇到意外流量高峰时，被动缩放策略可以自动调整容量。以之前提到的CMO博客意外流量高峰为例，具体操作流程如下：
1. 在云环境中配置监控系统，实时监测网站的流量和性能指标。
2. 当监控系统检测到CMO博客的流量突然增加，超过预设的阈值时，触发被动缩放机制。
3. 云管理工具自动增加应用服务器的实例数量，以应对流量高峰。
4. 当流量恢复正常后，云管理工具自动减少应用服务器的实例数量，释放多余的资源。

被动缩放策略可以使系统快速响应意外流量变化，保证网站的稳定性和可用性。

11. 监控系统的深入分析

监控系统是云基础设施管理的重要组成部分，它不仅可以监测容量和性能，还可以帮助发现潜在的问题。下面详细分析监控系统的工作原理和关键指标。

11.1 监控系统的工作原理

监控系统通过以下步骤获取云环境中各个组件的信息：
1. 在每个云实例上部署状态进程，该进程负责收集实例的资源使用情况，如CPU、RAM、磁盘I/O等。
2. 监控服务器定期轮询云实例的状态进程，获取资源使用数据。
3. 监控服务器使用分析工具对收集到的数据进行处理和分析，判断是否存在异常情况。
4. 如果发现异常情况，监控服务器会触发相应的规则，如发送警报通知管理员或自动调整容量。

11.2 关键监控指标

不同类型的服务器需要关注不同的关键指标，以下是一些常见的监控指标：
| 服务器类型 | 关键监控指标 |
| ---- | ---- |
| 负载均衡器 | CPU利用率、RAM利用率、带宽使用情况 |
| 应用服务器 | CPU利用率、RAM利用率、磁盘I/O、请求响应时间 |
| 数据库服务器 | 磁盘I/O、查询响应时间、连接数 |

通过监控这些关键指标，可以及时发现系统的瓶颈和潜在问题，采取相应的措施进行优化。

12. 云基础设施扩展的最佳实践

为了实现高效、经济的云基础设施扩展，需要遵循一些最佳实践。

12.1 负载预估的最佳实践

• 收集尽可能多的历史数据，包括每日、每周、每月的流量模式，以及特殊事件（如产品发布、促销活动）对流量的影响。
• 与销售、营销等部门密切合作，了解业务计划和市场趋势，将这些因素纳入负载预估中。
• 定期更新负载预估模型，根据实际流量情况进行调整。

12.2 动态缩放的最佳实践

• 结合主动缩放和被动缩放策略，根据不同的应用场景选择合适的缩放方式。
• 设置合理的阈值和规则，避免过度缩放或缩放不足。
• 定期进行负载测试，验证动态缩放策略的有效性。

12.3 监控系统的最佳实践

• 选择合适的监控工具，确保其具备所需的功能和性能。
• 对监控数据进行定期分析，发现潜在的问题和趋势。
• 建立完善的警报机制，及时通知管理员处理异常情况。

13. 云基础设施扩展的未来趋势

随着云计算技术的不断发展，云基础设施扩展也将呈现出一些新的趋势。

13.1 智能化扩展

未来的云基础设施扩展将更加智能化，通过人工智能和机器学习技术，自动分析流量数据和系统性能，预测未来的需求，并自动调整容量。例如，系统可以根据历史数据和实时流量情况，预测未来一周的流量高峰，并提前做好容量准备。

13.2 混合云扩展

越来越多的企业将采用混合云架构，将公有云和私有云结合使用。在混合云环境中，云基础设施扩展需要考虑公有云和私有云之间的资源分配和协调。例如，当公有云资源不足时，可以自动将部分工作负载迁移到私有云。

13.3 绿色扩展

随着环保意识的提高，云基础设施扩展将更加注重能源效率。未来的云服务提供商将采用更节能的硬件设备和优化的算法，减少能源消耗。例如，通过动态调整服务器的功率，根据负载情况自动降低服务器的能耗。

14. 总结

云基础设施扩展是一个复杂而重要的过程，涉及负载预估、意外流量分析、负载影响评估、容量价值判断、动态缩放以及采购流程管理等多个方面。通过合理的负载预估和动态缩放策略，可以提高系统的性能和可用性，降低成本。同时，监控系统的有效使用可以帮助及时发现和解决潜在的问题。未来，云基础设施扩展将朝着智能化、混合云化和绿色化的方向发展。

为了实现高效的云基础设施扩展，建议遵循以下步骤：
1. 进行全面的负载预估，考虑历史数据、业务计划和市场趋势。
2. 采用动态缩放策略，结合主动缩放和被动缩放。
3. 选择合适的监控工具，建立完善的监控系统。
4. 与财务部门密切合作，确保采购流程符合预算要求。
5. 关注云基础设施扩展的未来趋势，及时调整策略。

通过以上措施，可以更好地应对云环境中的挑战，实现云基础设施的高效扩展。

graph LR
    classDef process fill:#E5F6FF,stroke:#73A6FF,stroke-width:2px;
    classDef server fill:#FFEBEB,stroke:#E68994,stroke-width:2px;
    A(负载预估):::process --> B(动态缩放):::process
    B --> C(监控系统):::process
    C --> D(采购流程管理):::process
    B --> E(主动缩放):::process
    B --> F(被动缩放):::process
    C --> G(负载均衡器监控):::process
    C --> H(应用服务器监控):::process
    C --> I(数据库服务器监控):::process

这个流程图展示了云基础设施扩展的主要流程和关键组件之间的关系。从负载预估开始，通过动态缩放策略调整容量，同时使用监控系统进行实时监测，最后进行采购流程管理，确保资源使用符合预算要求。动态缩放包括主动缩放和被动缩放两种方式，监控系统分别对负载均衡器、应用服务器和数据库服务器进行监控。