1.2、分布式之弹性：服务限流

5.1、简介

​ 单体服务被拆分为多个服务，调用关系错综复杂，突发大流量很可能把当前一些服务压垮，造成资源的耗尽。甚至直接导致雪崩效应。

​ 服务限流可以把这种突发流量超出处理范围的部分丢弃掉，或者阻塞他们在队列里。避免雪崩。这个时候通过监控机制，我们可以完成扩容等方案，进而处理流量的暴增。

5.2、限流策略

​ 限流为了限制单位时间内最大的处理速度。保证在服务不被压垮的情况下，以最大速率处理请求。一下场景会触发限流

• 拒绝服务，感知流量暴增的情况下，限制一些高频请求的客户端。
• 延时处理，缓冲队列中积压了大量的请求，并且已经达到队列上限。此时应该做限流处理。
• 服务降级，cpu等资源负载，此时应该触发限流。

5.3、限流算法

5.3.1、计数器

​ 维护一个计数器，来一个请求，计数器加一，处理完一个请求，技术器减一。设定一个阈值，计数器达到阈值，触发限流逻辑。

​ 优势：简单

​ 缺点：缺点很明显，就是突发的并发大流量，直接就触发了限流。

5.3.2、队列算法

​ 维护一个队列，请求速度突增或下降，服务总是按照一定速率去处理。队列的大小可以设置，超出限制可以直接拒绝，知道队列出现空间。