15、Istio负载均衡、超时与重试机制深度解析

Istio负载均衡、超时与重试机制深度解析

1. 不同负载均衡算法对比

在实际的服务延迟行为下，不同的负载均衡器会产生不同的结果，以下是一些延迟数据示例：
| 百分比 | 延迟时间 |
| ---- | ---- |
| 50% | 184.79ms |
| 75% | 195.63ms |
| 90% | 1036.89ms |
| 99% | 1124.00ms |
| 99.9% | 1132.71ms |

常见的负载均衡算法有轮询（Round Robin）、随机（Random）和最少连接（Least Connection），下面对它们进行详细分析：

1.1 轮询和随机算法

• 原理 ：
  • 轮询算法会按顺序依次将请求发送到各个端点。
  • 随机算法则是随机地选择一个端点来处理请求。
• 缺点 ：这两种算法实现简单，但没有考虑到端点的实际运行时行为。即使负载均衡池中的端点由相同的服务和资源支持，它们也可能因为垃圾回收或资源竞争等问题而出现高延迟。

1.2 最少连接算法

• 原理 ：该算法会监控各个端点的活动请求队列深度，优先选择当前活动请求最少的端点来处理新的请求。
• 优势 ：能够避免将请求发送到性能较差的端点，从而提高整体性能。