2021-07-05（笔记）分布式架构的三高

什么是高并发：

高并发是互联网分布式系统架构设计中必须考虑的因素之一，通常是指通过设计保证系统能够同时并行处理很多请求。

（cpu在一个时刻只会执行一个线程，但是由于是线程之间交替执行，给人感觉就像是并行处理。）

高并发常用术语：

响应时间：系统对请求做出响应的时间。
吞吐量：单位时间内处理的请求数量。
QPS(每秒查询率)：每秒响应请求数。

如何提升系统的并发能力：

互联网分布式架构设计提高并发能力的方式主要有两种：垂直扩展、水平扩展。

垂直扩展：
（1）增强单机硬件性能，例如：增强CPU核数，升级更好的网卡，升级更好的硬盘。
（2）提升单机架构性能，例如：使用cache减少IO次数，使用异步增加单服务吞吐量，使用无锁数据结构减少响应时间。
水平扩展：只要增加服务器数量，就能线性扩充系统性能，通过学习知道如何在架构各层进行水平扩展的设计以及互联网公司各层常见的水平扩展架构。

什么是高可用：

高可用是分布式系统架构设计中必须考虑的因素之一，它通常是指通过设计减少系统不能提供服务的时间。

缓存穿透： 查询一定不存在的数据，会穿透缓存查询DB，导致缓存失去作用。解决方案：查询不存在的key也把空数据写入缓存中（设置较短的过期时间）

缓存雪崩：大量缓存在同一时刻失效，则会查询DB，导致雪崩。解决方案：为缓存的失效时间添加随机值，避免集体失效。

服务降层与熔断
服务降层就是‘插队’，熔断就是‘不死磕’。
服务降层：服务之间有轻重缓急，重要的服务先跑，不是特别重要的服务先等重要的服务跑完。
熔断:在股市有跌停有涨停也叫熔断，分布式中的熔断指的是当有一个服务出现问题时，暂停该服务，当有请求访问问题服务时直接返回空对象而不一直尝试访问，等服务正常后才提供正常访问。