文章目录
SpringCloud是一个全家桶式的技术栈,包含了很多的组件,本文从最核心的几个组件入手,来剖析一下其底层的工作原理。
业务场景介绍
现在要开发一个电商网站,要实现支付订单的功能,流程如下:
- 创建一个订单后,如果用户立刻支付了这个订单,我们需要将订单状态更新为“已支付”。
- 扣减相应的商品库存
- 通知仓储中心,进行发货
- 给用户的这次购物增加相应的积分
针对上述流程,我们需要有订单服务、库存服务、仓储服务、积分服务。整个流程的大体思路是:
- 用户针对一个订单完成支付之后,就会去找订单服务,更新订单状态。
- 订单服务调用库存服务,完成相应的功能
- 订单服务调用仓储服务,完成相应的功能
- 订单服务调用积分服务,完成相应的功能
各服务之间的调用过程:
接下来看一下Spring Cloud微服务架构中,这几个组件是如何相互协作,各自发挥作用的。
SpringCloud核心组件:Eureka
问题
订单服务想要调用库存服务、仓储服务或者积分服务,如何进行调用?
- 订单服务根本不知道库存等其他服务在哪个机器上,就算想要发起一个请求,也不知道发送给谁。
- 这时候就可以利用Spring Cloud Eureka出场了。
Eureka
是微服务架构中的注册中心,专门负责服务的注册与发现。
整体流程图
过程解析
库存服务、仓储服务、积分服务中都有一个Eureka Client组件,这个组件专门负责将这个服务的信息注册到Eureka Server中,就是告诉Eureka Server,自己在哪台机器上,监听着哪个端口。Eureka Server是一个注册中心,里面有一个注册表,保存了各服务所在的机器和端口号。
订单服务也有一个Eureka Client组件,这个Eureka Client组件会找Eureka Server问一下:库存服务在哪台机器啊?监听着哪个端口啊?仓储服务呢?积分服务呢?然后就可以把这些相关信息从Eureka Server的注册表中拉取到自己本地缓存起来。
这时如果订单服务想要调用库存服务,就可以找自己本地的Eureka Client问一下库存服务在哪台机器?监听哪个端口?收到响应后,紧接着就可以发送一个请求过去,调用库存服务扣减库存的那个接口!同理,如果订单服务要调用仓储服务、积分服务,也是这个过程。
总结
- Eureka Client:负责将这个服务的信息注册到Eureka Server中。
- Eureka Server:注册中心,里面有一个注册表,保存了各个服务所在的机器和端口号。
Spring Cloud核心组件:Feign
问题
经过Eureka组件,订单服务已经知道库存等其他服务在哪里了,同时也监听着哪些端口号,但是又有一个新的问题:订单服务是不是要自己写一堆代码,来跟其他服务建立网络连接,然后构造一个复杂的请求,接着把请求发送过去,最后对返回的响应结果再写一大堆代码进行相应的处理啊?
进行服务间调用时,每次需要手写的代码量非常大。Feign为我们提供了优雅的解决方案。
使用Feign
没有底层的建立连接、构造请求、解析相应代码,直接用注解定义一个FeignClient接口,然后调用这个接口就可以了。Feign client会在底层根据注解,跟指定的服务建立连接、构造请求、发起请求、获取响应、解析响应等等。
底层原理
Feign的一个关键机制是使用了动态代理。
- 如果对某个接口定义了
@FeignClient
注解,Feign就会针对这个接口创建一个动态代理 - 要调用那个接口,本质就是调用Feign创建的动态代理,这是核心中的核心。
- Feign的动态代理会根据在接口上的
@RequestMapping
等注解,来动态构造出你要请求的服务的地址 - 最后针对这个地址,发起请求、解析响应。
SpringCloud核心组件:Ribbon
问题
如果库存服务部署在了5台机器上,Feign怎么知道该请求哪台机器呢?
这时Spring Cloud Ribbon就派上用场了,Ribbon专门用来解决这个问题,他的作用是负载平衡,会帮我们在每次请求的时候选择一台机器,均匀的把请求分发到各个机器上。
原理解析
Ribbon的负载均衡默认使用的是最经典的Round Robin轮询算法,简单来说,就是如果订单服务对库存服务发起10次请求,那就先让你请求第一台机器,然后是第二台机器、第三台机器等,接着再来一次循环,以此类推。
Ribbon是和Feign紧密协作来完成工作的:
- 首先Ribbon会从Eureka Client里获取到对应的服务注册表,也就知道了所有的服务都部署在了哪些机器上,在监听哪些端口号。
- 然后Ribbon就可以使用默认的Round Robin算法,从中选择一台机器
- Feign就会针对这台机器,构造并发起请求
Spring Cloud核心组件:Hystrix
问题
在微服务架构中,一个系统会有很多的服务,以本文的业务场景为例:
订单服务在一个业务流程里需要调用三个服务。现在假设订单服务自己最多只有100个线程可以处理请求,然后呢,积分服务不幸的挂了,每次订单服务调用积分服务的时候,都会卡住几秒钟,然后抛出—个超时异常。
将会导致的问题:
- 如果系统处于高并发的场景下,大量请求涌过来的时候,订单服务的100个线程都会卡在请求积分服务这块。导致订单服务没有一个线程可以处理请求。
- 然后就会导致别人请求订单服务的时候,发现订单服务也挂了,不响应任何请求了。
上面这个问题,就是微服务架构中恐怖的服务雪崩问题:
这么多服务互相调用,要是不做任何保护的话,某一个服务挂了,就会引起连锁反应,导致别的服务也挂。比如积分服务挂了,会导致订单服务的线程全部卡在请求积分服务这里,没有一个线程可以工作,瞬间导致订单服务也挂了,别人请求订单服务全部会卡住,无法响应。
-
如何使得就算积分服务挂了,订单服务也可以不用挂?
这时就要使用Hystrix
了,Hystrix是隔离、熔断以及降级的一个框架,它会搞很多个小小的线程池,比如订单服务请求库存服务是一个线程池,请求仓储服务是一个线程池,请求积分服务是一个线程池,每个线程池里的线程就仅仅用于请求那个服务。 -
如果积分服务挂了,会怎样?
会导致订单服务里那个用来调用积分服务的线程都卡死不能工作了。但是由于订单服务调用库存服务、仓储服务的这两个线程都是正常工作的,所以这两个服务不会受到任何影响。
这个时候如果别人请求订单服务,订单服务还是可以正常调用库存服务扣减库存,调用仓储服务通知发货。只不过调用积分服务的时候,每次都会报错。 -
如果积分服务挂了,每次调用都会卡顿几秒该如何解决?
直接对积分服务熔断,比如在5分钟内请求积分服务直接就返回了,不要去走网络请求卡住几秒钟,这个过程就是所谓的熔断。 -
积分服务挂了就进行熔断,主要进行什么操作,从而不直接返回?
进行降级,每次调用积分服务,就在数据库里记录一条消息,说给某某用户增加了多少积分,因为积分服务挂了,导致没增加成功。这样等积分服务恢复了,就可以根据这些记录手工加一下积分。这个过程,就是所谓的降级。
Spring Cloud核心组件:Zuul
Zuul,也就是微服务网关,这个组件是负责网络路由的。
假设后台部署了几百个服务,现在前端请求直接从浏览器发过来要请求一下库存服务,如果要求它记住服务的名字,部署在5台机器上以及几百个服务的名称和地址压根是不现实的。
所以微服务架构中必然会设计一个网关在里面,像android、ios、pc前端、微信小程序、H5等等
,不用去关心后端有几百个服务,就知道有一个网关,所有请求都往网关走,网关会根据请求中的一些特征,将请求转发给后端的各个服务。
并且有了一个网关之后,还可以做统一的降级、限流、认证授权、安全等等。
总结
上述几个Spring Cloud核心组件,在微服务架构中分别扮演的角色:
Eureka
:各个服务启动时,Eureka Client都会将服务注册到Eureka Server,并且Eureka Client还可以反过来从Eureka Server拉取注册表,从而知道其他服务在哪里。Ribbon
:服务间发起请求的时候,基于Ribbon做负载均衡,从一个服务的多台机器中选择一台。- Feign:基于Feign的动态代理机制,根据注解和选择的机器,拼接请求URL地址,发起请求。
Hystrix
:发起请求是通过Hystrix的线程池来走的,不同的服务走不同的线程池,实现了不同服务调用的隔离,避免了服务雪崩的问题。Zuul
:如果前端、移动端要调用后端系统,统一从Zuul网关进入,由Zuul网关转发请求给对应的服务。
框架原理:
感谢并参考:
https://blog.youkuaiyun.com/qq_41701956/article/details/83829539