微服务保护--Sentinel【雪崩问题】
微服务保护:
Sentinel:
雪崩问题及其解决方案:
服务A依赖于服务D,当服务D宕机后,在服务A请求服务D时会等待其返回结果再次期间会占用tomcat的连接,时间长会将服务A的tomcat连接全部占用,导致服务A宕机,长此以往会导致依赖服务A的微服务宕机,甚至整个链路中的微服务都不可用。
微服务调用链路中的某个服务故障,引起整个链路中的所有微服务都不可用,这就是雪崩。
常见的解决方式:
- 超时处理:设定超时时间,请求超过一定时间没有响应就返回错误信息,不会无休止等待(缓解并非完全解决)
- 如果进入的新请求比释放请求的速度快,终有一天资源还是会被消耗完。
- 舱壁模式:限定每个业务能使用的线程数,避免耗尽整个tomcat的资源,因此也叫线程隔离。
- 将tomcat的线程划分为线程池,每个业务请求分配一个线程池,依赖服务宕机时最多只会将该线程池的资源完全耗尽,并不会导致该服务完全不可用(会有一定的资源浪费)
- 线程数:是该资源能使用用的tomcat线程数的最大值。也就是通过限制线程数量,
实现舱壁模式。
- 熔断降级:由断路器统计业务执行的异常比例,如果超出阈值则会熔断该业务,拦截访问该业务的一切请求。
- 熔断降级是解决雪崩问题的重要手段。其思路是由断路器统计服务调用的异常比例、慢请求比例,如果超出阈值则会熔断该服务。即拦截访问该服务的一切请求;而当服务恢复时,断路器会放行访问该服务的请求。
- 三种状态:
- closed: 放行请求,并统计异常比例
- Open:当异常比例过高时进入Open状态,熔断请求
- Half-Open:当熔断时间结束后进入该状态,并放行一次请求,查看结果,如果成功则进如closed状态,如果失败则继续进入Open状态。
- 熔断策略:达成熔断的条件------>达到失败的阈值
- 断路器熔断策略有三种:慢调用、异常比例、异常数:
-
慢调用:业务的响应时长(RT)大于指定时长的请求认定为慢调用请求。在指定时间内,如果请求数量超过设定的最小数量,慢调用比例大于设定的阈值,则触发熔断。例如:
-
解读:RT超过40ms的调用是慢调用,统计最近10000ms内的请求,如果请求量超过10次,并且慢调用比例不低于0.5则触发熔断,熔断时长为5秒。然后进入half-open状态,放行一次请求做测试。
-
异常比例或异常数:统计指定时间内的调用,如果调用次数超过指定请求数,并且出现异常的比例达到设定的比例阈值(或超过指定异常数),则触发熔断。例如:
-
解读:统计最近1000s内的请求,异常比例不低于0.5,则触发熔断,熔断时长为5秒。然后进入half-open状态,放行一次请求做测试。
-
- 流量控制:限制业务访问的QPS,避免服务因流量的突增而故障。(预防雪崩)
- QPS:每秒能处理的请求的数量
服务保护技术对比:
Sentinel | Hystrix | |
---|---|---|
隔离策略 | 信号量隔离 | 线程池隔离(默认)/信号量隔离 |
熔断降级策略 | 基于慢调用比例或异常比例 | 基于失败比率 |
实时指标实现 | 滑动窗口 | 滑动窗口(基于RxJava) |
规则配置 | 支持多种数据源 | 支持多种数据源 |
扩展性 | 多个扩展点 | 插件的形式 |
基于注解的支持 | 支持 | 支持 |
限流 | 基于QPS,支持基于调用关系的限流 | 有限的支持 |
流量整形 | 支持慢启动、匀速排队模式 | 不支持 |
系统自适应保护 | 支持 | 不支持 |
控制台 | 开箱即用,可配置规则、查看秒级监控、机器发现等 | 不完善 |
常见框架的适配 | Servlet、Spring Cloud、Dubbo、gRPc等 | Servlet,Spring Cloud Netflix |
Sentinel介绍及安装:
Sentinel是阿里巴巴开源的一款微服务流量控制组件。官网地址:https://sentinelguard.io/zh-cn/index.html
Sentinel具有以下特征:
- ·丰富的应用场景:Sentinel承接了阿里巴巴近10年的双十一大促流量的核心场景,例如秒杀(即突发流量控制在系统容量可以承受的范围)、消息削峰填谷、集群流量控制、实时熔断下游不可用应用等。
- 完备的实时监控:Sentinel同时提供实时的监控功能。您可以在控制台中看到接入应用的单台机器秒级数据,甚至500台以下规模的集群的汇总运行情况。
- 广泛的开源生态:Sentinel提供开箱即用的与其它开源框架/库的整合模块,例如与Spring Cloud、Dubbo、gRPC的整合。您只需要引入相应的依赖并进行简单的配置即可快速地接入Sentinel。
- 完善的SPI扩展点:Sentinel提供简单易用、完善的SPI扩展接口。您可以通过实现扩展接口来快速地定制逻辑。例如定制规则管理、适配动态数据源等。
安装sentinel控制台:
-
windows安装
-
下载jar包
-
在没有中文目录的文件夹下运行
java -jar sentinel-dashboard-1.8.1.jar
-
高版本的JDK会报错使用启动:
java --add-opens java.base/java.lang=ALL-UNNAMED -jar sentinel-dashboard-1.8.1.jar
更多操作配置项 | 默认值 | 说明 |
---|---|---|
server.port | 8080 | 服务端口 |
sentinel.dashboard.auth.username | sentinel | 默认用户名 |
sentinel.dashboard.auth.password | sentinel | 默认密码 |
-
实例
-Dserver.port=8480 # 指定控制台的端口为8480 -Dcsp.sentinel.dashboard.server=localhost:8480 # 指定要被哪个控制台监控(这里指定的是自己监控自己) -Dproject.name=sentinel-dashboard # 指定实例名称(名称会在控制台左侧以菜单显示) -Dsentinel.dashboard.auth.username=sentinel # 设置登录的帐号为:sentinel -Dsentinel.dashboard.auth.password=123456 # 设置登录的密码为:123456
-
在jar包后面跟上,或者在java后面 -jar前面添加