高并发-后端层面

2023.10.16

1.JVM层面上可以优化GC参数，减少gc次数以及stw时长，根据业务类型选择合适的垃圾收集器，如G1、ZGC等

2.使用Redis做缓存减少数据库的压力

3.数据库层面：定位慢查询，进行sql语句优化、索引优化（索引遵循最左匹配原则）；进行分表分库（使用范围、hash一致性分片）

4.利用消息中间件削峰。可以设计这样一个架构，客户端请求到服务端，假设这些请求要2秒执行完，大量请求下服务端没有足够的CPU资源快速相应请求，就把当前服务端作为一个消息生产者，将消息投递给broker，broker再交给消费者去处理，当然不是每种业务都可以这种处理。其中作为生产者的服务端要尽量减少与broker的通信频率，所以要准备一个缓冲区，批量的将消息投递过去，要注意的问题就是可能会造成消息堆积，所以消费者可以考虑配置集群，批量消费消息。如果集群数量还是不够，可以整合k8s快速扩容。

5.利用网关对接口进行保护，对用户qps做限制（Nginx比java框架效果好，C语言写的）

一些限流算法：令牌桶、漏桶、滑动窗口

可参考的限流框架：谷歌guava，阿里巴巴sentinel，或者基于Redis

6.服务熔断、降级、限制

阿里的框架的熔断底层是滑动窗口