微服务可用性设计

一、隔离

对系统或资源进行分割，实现当系统发生故障时能限定传播范围和影响范围。进一步的，通过隔离能够降低系统之间得耦合度，使得系统更容易维护和扩展。某些业务场景下合理使用隔离技巧也能提高整个业务的性能。我理解隔离本质就是一种解耦手段。

1.1 动静隔离

动静隔离本质上是根据资源的变化频率，对它们进行划分和隔离。本质上是加速/缓存变化频率小的数据，将它们与其它资源进行隔离，避免其它资源频繁变化影响到它们，从而提高性能

场景一： 将对象存储和业务服务隔离

对象存储费用低、存储量大，并且放入对象存储空间的资源变化频率也低。我们将对象存储作为一个单独的模块让所有业务服务共享，这样业务服务就无需考虑存储问题，比如空间不足、静态资源和业务数据在带宽上无法隔离造成业务卡顿等问题。
本质上是对静态资源(静态文件)和动态资源(动态业务数据)进行了隔离，将它们进行隔离提高了业务服务的带宽性能、每个业务服务也不需要考虑自身的存储空间以及数据之间的一致性问题，将业务服务变为一种无状态的服务，更方便扩缩容。

场景二：数据表字段的分离

针对一个业务设计了一张数据表，该表包括了一个对象的基本信息和统计信息。基本信息的变动频率往往很低(用户名、性别、状态、手机号、密码)，而统计信息变化频率往往很高(点赞数、关注数、粉丝数、资产数)等等
我们可以将基本信息和统计信息进行分离，能够得到以下好处：

1. 修改统计信息只会使得统计信息的缓存失效，不会使得基本信息的缓存失效
2. 使得B+树叶子节点能够存放更多记录，从而降低树的高度，缓解单表数据量大导致读写操作慢的问题

场景三： 各种数据库的读写分离也借鉴了该思想

1.2 快慢隔离

把服务的吞吐想象成一个蓄水池，当突然洪流进来的时候，池子需要一定时间才能将其排放完，而这时候其它的小流量在池子里面待的时间取决于这个蓄水池的排放能力，为了提高排放能力(接口响应速度)，我们可以对服务进行快慢隔离。

当我们请求一个接口时，它可能涉及到很多业务处理，有些业务轻处理快、有些重处理慢。在不影响用户体验的前提下，我们可以将这些重的业务特别是一些大的并发业务从上游解耦到消息队列的消费者端处理，提高整个api的响应速度，保证业务最终完成即可。

1.3 热点隔离

统计某个热点数据重访问频次最高TopKS数据进行缓存，或者将remoteCache升级为localCache，提升效率

1.4 物理隔离

1. 线程池隔离
2. 同一主机下使用cgroup隔离服务的cpu、内存
3. 进程隔离、集群隔离等

二、超时控制

超时控