1、什么是服务降级?
服务降级是指 当服务器压力剧增的情况下,根据实际业务情况及流量,对一些服务和页面有策略的不处理,或换种简单的方式处理,从而释放服务器资源以保证核心业务正常运作或高效运作。说白了,就是尽可能的把系统资源让给优先级高的服务。
资源有限,而请求是无限的。如果在并发高峰期,不做服务降级处理,一方面肯定会影响整体服务的性能,严重的话可能会导致宕机某些重要的服务不可用。所以,一般在高峰期,为了保证核心功能服务的可用性,都要对某些服务降级处理。比如当双11活动时,把交易无关的服务统统降级,如查看蚂蚁森林,查看历史订单等等。
服务降级主要用于什么场景呢?当整个微服务架构整体的负载超出了预设的上限阈值或即将到来的流量预计将会超过预设的阈值时,为了保证重要或基本的服务能正常运行,可以将一些 不重要 或 不紧急 的服务或任务进行服务的 延迟使用 或 暂停使用。
降级的方式可以根据业务来,可以延迟服务,比如延迟给用户增加积分,只是放到一个缓存中,等服务平稳之后再执行 ;或者在粒度范围内关闭服务,比如关闭相关文章的推荐。
由上图可得,当某一时间内服务A的访问量暴增,而B和C的访问量较少,为了缓解A服务的压力,这时候需要B和C暂时关闭一些服务功能,去承担A的部分服务,从而为A分担压力,叫做服务降级。
2、服务降级需要考虑的问题
- 那些服务是核心服务,哪些服务是非核心服务
- 那些服务可以支持降级,那些服务不能支持降级,降级策略是什么
- 除服务降级之外是否存在更复杂的业务场景,策略是什么?
3、自动降级分类
1)超时降级
主要配置好超时时间和超时重试次数和机制,并使用异步机制探测回复情况
2)失败次数降级
主要是一些不稳定的api,当失败调用次数达到一定阀值自动降级,同样要使用异步机制探测回复情况
3)故障降级
比如要调用的远程服务挂掉了(网络故障、DNS故障、http服务返回错误的状态码、rpc服务抛出异常),则可以直接降级。降级后的处理方案有:默认值(比如库存服务挂了,返回默认现货)、兜底数据(比如广告挂了,返回提前准备好的一些静态页面)、缓存(之前暂存的一些缓存数据)
4)限流降级
秒杀或者抢购一些限购商品时,此时可能会因为访问量太大而导致系统崩溃,此时会使用限流来进行限制访问量,当达到限流阀值,后续请求会被降级;降级后的处理方案可以是:排队页面(将用户导流到排队页面等一会重试)、无货(直接告知用户没货了)、错误页(如活动太火爆了,稍后重试)
4、操作步骤
服务降级操作是在消费端
Feign 配合 Hystrix
1)修改 API 接口模块
springcloud-api
模块
(1)创建 FallBackFactory 类
-
DepartmentServiceFallBackFactory.java
- 实现
FallbackFactory
接口;该接口位于openfeign
包下;该API模块不需要导入Hystrix
包 - 添加
@Component
注解
- 实现
package com.tuwer.springcloud.service;
import com.tuwer.springcloud.pojo.Department;
import org.springframework.cloud.openfeign.FallbackFactory;
import org.springframework.stereotype.Component;
import java.util.List;
/**
* @author 土味儿
* Date 2022/2/14
* @version 1.0
* 服务降级的回退操作
*/
@Component
public class DepartmentServiceFallBackFactory implements FallbackFactory<DepartmentService> {
/**
* 匿名内部类
*/
@Override
public DepartmentService create(Throwable cause) {
return new DepartmentService() {
@Override
public boolean addDepartment(Department department) {
// 省略 ...
return false;
}
@Override
public Department queryById(Long id) {
return new Department()
.setDeptId(id)
.setDeptName("服务已降级!暂时不可访问...")
.setDbSource("---");
}
@Override
public List<Department> queryAll() {
// 省略 ...
return null;
}
};
}
}
(2)修改 @FeignClient
修改服务接口
DepartmentService
中的注解@FeignClient
,添加fallbackFactory = 服务降级回退操作类.class
;当服务不可用时,调用 fallbackFactory 类的方法
- 修改前
@Component
@FeignClient(name = "springcloud-provider-dept")
public interface DepartmentService {
// ...
}
- 修改后
@Component
@FeignClient(name = "springcloud-provider-dept", fallbackFactory = DepartmentServiceFallBackFactory.class)
public interface DepartmentService {
// ...
}
2)修改 Feign 消费者模块
springcloud-consumer-dept-feign-80
消费者模块该模块已整合了 Feign;Feign 配合 Hystrix,实现服务降级
(1)导jar包
该
hystrix
包不能少
<!-- spring-cloud-starter-netflix-hystrix -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
<!-- 版本号由父类 dependencyManagement 管理 -->
<!-- <version>2.2.10.RELEASE</version> -->
</dependency>
(2)yml 配置 feign
# 开启降级
# 旧版本
#feign:
# hystrix:
# enabled: true
# 新版本
feign:
circuitbreaker:
enabled: true
3)测试
启动注册中心、服务提供者(无熔断服务)、Feign消费者
正常访问
关闭服务提供者
5、服务熔断和降级的区别
- 服务熔断—>服务端:某个服务超时或异常,引起熔断~,类似于保险丝(自我熔断)
- 服务降级—>客户端:从整体网站请求负载考虑,当某个服务熔断或者关闭之后,服务将不再被调用,此时在客户端,我们可以准备一个 FallBackFactory ,返回一个默认的值(缺省值)。会导致整体的服务下降,但是好歹能用,比直接挂掉强。
- 触发原因不太一样,服务熔断一般是某个服务(下游服务)故障引起,而服务降级一般是从整体负荷考虑;管理目标的层次不太一样,熔断其实是一个框架级的处理,每个微服务都需要(无层级之分),而降级一般需要对业务有层级之分(比如降级一般是从最外围服务开始)
- 实现方式不太一样,服务降级具有代码侵入性(由控制器完成/或自动降级),熔断一般称为自我熔断。
熔断,降级,限流:
- 限流:限制并发的请求访问量,超过阈值则拒绝;
- 降级:服务分优先级,牺牲非核心服务(不可用),保证核心服务稳定;从整体负荷考虑;
- 熔断:依赖的下游服务故障触发熔断,避免引发本系统崩溃;系统自动执行和恢复