高并发场景下的限流策略

高并发场景下的限流策略

性能调优是针对于代码本身的不规范性和系统资源的瓶颈的，当计算机的硬件资源达到瓶颈的时间已经无法调优了。高并发场景下一方面通过缓存，异步化，服务化，集群去增加整个系统的吞吐量，另一方面通过限流，降级来保护系统。

什么是限流和降级
在开发高并发系统时，有很多手段来保护系统：缓存、降级、限流。
缓存是为了解决访问热点数据的速度问题和低速IO部件与高速IO部件之间的差异性，从而提高系统的吞吐量。
降级是一种高可用的方式。当访问量快速增长、服务可能会出现一些问题（响应超时），或者会存在非核心服务影响到核心流程的性能时， 仍然需要保证服务的可用性，即便是有损服务。所以意味着我们在设计服务的时候，需要一些手段或者关键数据进行自动降级，或者配置人工降级的开关。缓存的目的是提升系统访问速度和增大系统处理的容量，可以说是抗高并发流量的银弹。
降级是当服务出问题或者影响到核心流程的性能则需要暂时屏蔽掉某些功能，等高峰或者问题解决后再打开；而有些场景并不能用缓存和降级来解决，比如秒杀、抢购；写服务（评论、下单）、频繁的复杂查询，因此需要一种手段来限制这些场景的并发/请求量。
降级
对于高可用服务的设计，有一个很重要的设计，那就是降级。降级一般有几种实现手段，自动降级和人工降级。

1. 应用层通过配置降级开关，实现对流程的控制，即把一些公共代码放在配置中心上，由具体的模块去连接配置中心，在代码中通过如if,else去判断配置中心的开关是on,off，去执行相应的代码流程。（人工降级）
2. 入口层前置化降级开关， 基于 OpenResty+配置中心实现降级。（人工降级）
3. 业务降级，在大促的时候，我们会有限保证核心业务的流程可用，也就是下单支付。同时，我们也会对核心的支付流程采取一些异步化的方式来提升吞吐量。（自动降级）
   4.熔断，当超时次数达到一定频率时，系统会采用熔断机制进行自动降级。

限流
限流的目的是防止恶意