29、云计算可扩展性：从网络延迟到机器学习模型的全面解析

云计算可扩展性：从网络延迟到机器学习模型的全面解析

1. 云计算延迟问题

1.1 延迟的定义与影响

云计算操作依赖互联网进行，其延迟由数据包从源到目的地的传输时间决定。例如，在物联网场景中，数据在本地生成，但可能在远程被消费或处理，这就需要将信息从多个地方汇总到一个位置进行计算，再将结果分发回多个地方。若中央数据库被复制，镜像站点需要定期更新以保持同步，这有助于缓解延迟问题。

1.2 低延迟连接的要求

为实现低延迟连接，需要满足以下要求：
1. 零往返时间（0 - RTT） ：许多应用在发送数据前不需要完成握手，但这存在安全问题。例如，浏览器通过 HTTPS 下载页面时，需要进行 DNS 查找、TCP 握手、TLS 握手和 HTTP 连接。不过，在受信任的数据中心内，可以实现 0 - RTT 协议。
2. 每数据包等价多路径（Per packet ECMP） ：在任何网络的两个端点之间，可能存在多条路径，其中一些路径的延迟可能相同或相似。确定多条路径后，数据包可以沿着所有 ECMP 路由发送，可能会有多个副本到达目的地。
3. 容忍重排序的握手 ：由于数据包可能随机到达，接收方需要查看数据包 ID 来重建预期顺序。

这些方法可以利用未使用的网络容量来最小化发送方和接收方之间的延迟，尽管可能会导致拥塞，但主要目标是减少延迟。

1.3 HTTP 协议的演进

1.3.1 HTTP/1.x 的问题

HTTP/1.x 协议设计简单，旨