21、分布式服务的线程管理、请求处理与响应优化

分布式服务的线程管理、请求处理与响应优化

1. 线程和线程池的隔离使用

通常，消费者调用在单独的线程上执行，每个请求在独立线程中运行，与调用线程隔离。若响应耗时过长，消费者线程可继续执行其他任务。

Hystrix 为每个依赖项使用单独的线程池。应用中的某个依赖项可能比其他依赖项有更多的工作负载，即该线程池中有更多线程。当负载增加时，与之关联的线程池可能会饱和，导致失败或让消费者等待，但其他线程池仍可继续处理请求。

1.1 使用线程池的原因

• 应用中的每个服务可能使用自己的客户端库。
• 服务使用的库可能经常更改。
• 网络调用的逻辑可能发生变化。
• 大量应用持续执行不同团队开发的各种后端服务。
• 应用中使用的网络调用是同步的。
• 除网络调用失败外，有时客户端实现也可能失败。

1.2 使用线程池的好处

• 为不同依赖项维护的线程池相互分离，单个线程池满了也不会影响其他线程池。
• 开发人员可根据需要添加新的客户端库，因为它与应用的其他部分完全隔离。即使新库失败，也不会对正在运行的应用产生不利影响。
• 重试后服务可能恢复。服务恢复正常后，会清理线程池，使应用恢复运行。
• 若不小心对某个客户端库配置错误，开发人员可在不影响应用其他部分的情况下处理该问题。
• 依赖项由专用线程池管理，提供了内置的并发能力，方便开发人员利用。

1.3 线程池的缺点

<