一、微服务保护
保证服务运行的健壮性,避免级联失败导致的雪崩问题,就属于微服务保护。
为了方便讲解,下面的商品服务是故障方,购物车服务是故障调用方。
1.1 微服务保护方案:
微服务保护的方案有很多,比如:
- 请求限流
- 线程隔离
- 服务熔断
这些方案或多或少都会导致服务的体验上略有下降,比如请求限流,降低了并发上限;线程隔离,降低了可用资源数量;服务熔断,降低了服务的完整度,部分服务变的不可用或弱可用。因此这些方案都属于服务降级的方案。但通过这些方案,服务的健壮性得到了提升。
1.1.1 请求限流:
服务故障最重要原因,就是并发太高!解决了这个问题,就能避免大部分故障。当然,接口的并发不是一直很高,而是突发的。因此请求限流,就是限制或控制接口访问的并发流量,避免服务因流量激增而出现故障。
请求限流往往会有一个限流器,数量高低起伏的并发请求曲线,经过限流器就变的非常平稳。

1.1.2 线程隔离:
当一个业务接口响应时间长,而且并发高时,就可能耗尽服务器的线程资源,导致服务内的其它接口受到影响。所以我们必须把这种影响降低,或者缩减影响的范围。线程隔离正是解决这个问题的好办法。
线程隔离的思想来自轮船的舱壁模式:

轮船的船舱会被隔板分割为N个相互隔离的密闭舱,假如轮船触礁进水,只有损坏的部分密闭舱会进水,而其他舱由于相互隔离,并不会进水。这样就把进水控制在部分船体,避免了整个船舱进水而沉没。
为了避免某个接口故障或压力过大导致整个服务不可用,我们可以限定每个接口可以使用的资源范围,也就是将其“隔离”起来。

如图所示,我们给查询购物车业务限定可用线程数量上限为20,这样即便查询购物车的请求因为查询商品服务而出现故障,也不会导致服务器的线程资源被耗尽,不会影响到其它接口。
1.1.3 服务熔断:
线程隔离虽然避免了雪崩问题,但故障服务
依然会拖慢服务调用方
的接口响应速度。而且故障服务
依然会导致服务调用方
出现故障,服务调用方
也变的不可用了。
所以,我们要做两件事情:
-
编写服务降级逻辑:就是服务调用失败后的处理逻辑,根据业务场景,可以抛出异常,也可以返回友好提示或默认数据。
-
异常统计和熔断:统计服务提供方的异常比例,当比例过高表明该接口会影响到其它服务,应该拒绝调用该接口,而是直接走降级逻辑。

1.2 Sentinel:
微服务保护的技术有很多,但在目前国内使用较多的还是 Sentinel,所以接下来我们学习 Sentinel 的使用。
1.2.1 介绍和安装:
Sentinel 是阿里巴巴开源的一款服务保护框架,目前已经加入 SpringCloudAlibaba 中。官方网站:
https://sentinelguard.io/zh-cn/
Sentinel 的使用可以分为两个部分:
- 核心库(Jar包):不依赖任何框架/库,能够运行于 Java 8 及以上的版本的运行时环境,同时对 Dubbo / Spring Cloud 等框架也有较好的支持。在项目中引入依赖即可实现服务限流、隔离、熔断等功能。
- 控制台(Dashboard):Dashboard 主要负责管理推送规则、监控、管理机器信息等。
下载和运行访问:
-
去官网上进行下载,需要注意的是,下载完成后需要将jar包放在任意非中文、不包含特殊字符的目录下,重命名为
sentinel-dashboard.jar
-
启动 jar 包所在文件目录的控制台,输入以下命令:
java -Dserver.port=8090 -Dcsp.sentinel.dashboard.server=localhost:8090 -Dproject.name=sentinel-dashboard -jar sentinel-dashboard.jar
- 访问 http://localhost:8090 页面,就可以看到 sentinel 的控制台了:

需要输入账号和密码,默认都是:sentinel
登录后,即可看到控制台,默认会监控 sentinel-dashboard 服务本身:

1.2.2 微服务整合:
需要在哪个微服务整合 Sentinel 就在对应的微服务,按照下面这些步骤进行执行。
- 引入 Sentinel 依赖:
<!--sentinel-->
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>
- 配置控制台:
修改 application.yaml 文件,添加下面内容:
- 访问对应微服务的任意接口:
重启微服务,然后访问接口,sentinel 的客户端就会将服务访问的信息提交到 sentinel-dashboard
控制台。并展示出统计信息,如下图:

点击簇点链路菜单,会看到下面的页面:

所谓簇点链路,就是单机调用链路,是一次请求进入服务后经过的每一个被 Sentinel
监控的资源。默认情况下,Sentinel
会监控SpringMVC
的每一个 Endpoint
(接口)。
因此,我们看到/carts
这个接口路径就是其中一个簇点,我们可以对其进行限流、熔断、隔离等保护措施。
我们可以选择打开 Sentinel 的请求方式前缀,把请求方式 + 请求路径
作为簇点资源名:
在application.yml
中添加下面的配置:
spring:
cloud:
sentinel:
transport:
dashboard: localhost:8090
http-method-specify: true # 开启请求方式前缀
然后,重启服务,通过页面访问购物车的相关接口,可以看到 sentinel 控制台的簇点链路发生了变化:
1.3 请求限流:
在簇点链路后面点击流控按钮,即可对其做限流配置: