5.8 对比和Zookeeper区别 重点背下来
1. 回顾CAP原则
RDBMS (MySQL\Oracle\sqlServer) ===> ACID
NoSQL (Redis\MongoDB) ===> CAP
2. ACID是什么?
- A (Atomicity) 原子性
- C (Consistency) 一致性
- I (Isolation) 隔离性
- D (Durability) 持久性
3. CAP是什么?
- C (Consistency) 强一致性
- A (Availability) 可用性
- P (Partition tolerance) 分区容错性
CAP的三进二:CA、AP、CP
4. CAP理论的核心
- 一个分布式系统不可能同时很好的满足一致性,可用性和分区容错性这三个需求
- 根据CAP原理,将NoSQL数据库分成了满足CA原则,满足CP原则和满足AP原则三大类
- CA:单点集群,满足一致性,可用性的系统,通常可扩展性较差
- CP:满足一致性,分区容错的系统,通常性能不是特别高
- AP:满足可用性,分区容错的系统,通常可能对一致性要求低一些
5. 作为分布式服务注册中心,Eureka比Zookeeper好在哪里?
著名的CAP理论指出,一个分布式系统不可能同时满足C (一致性) 、A (可用性) 、P (容错性),由于分区容错性P再分布式系统中是必须要保证的,因此我们只能再A和C之间进行权衡。
- Zookeeper 保证的是CP
- Eureka 保证的是AP
Zookeeper保证的是CP
当向注册中心查询服务列表时,我们可以容忍注册中心返回的是几分钟以前的注册信息,但不能接收服务直接down掉不可用。也就是说,服务注册功能对可用性的要求要高于一致性。但zookeeper会出现这样一种情况,当master节点因为网络故障与其他节点失去联系时,剩余节点会重新进行leader选举。问题在于,选举leader的时间太长,30-120s,且选举期间整个zookeeper集群是不可用的,这就导致在选举期间注册服务瘫痪。在云部署的环境下,因为网络问题使得zookeeper集群失去master节点是较大概率发生的事件,虽然服务最终能够恢复,但是,漫长的选举时间导致注册长期不可用,是不可容忍的。
Eureka保证的是AP
Eureka看明白了这一点,因此在设计时就优先保证可用性。Eureka各个节点都是平等的,几个节点挂掉不会影响正常节点的工作,剩余的节点依然可以提供注册和查询服务。而Eureka的客户端在向某个Eureka注册时,如果发现连接失败,则会自动切换至其他节点,只要有一台Eureka还在,就能保住注册服务的可用性,只不过查到的信息可能不是最新的,除此之外,Eureka还有之中自我保护机制,如果在15分钟内超过85%的节点都没有正常的心跳,那么Eureka就认为客户端与注册中心出现了网络故障,此时会出现以下几种情况:
- Eureka不在从注册列表中移除因为长时间没收到心跳而应该过期的服务
- Eureka仍然能够接受新服务的注册和查询请求,但是不会被同步到其他节点上 (即保证当前节点依然可用)
- 当网络稳定时,当前实例新的注册信息会被同步到其他节点中
因此,Eureka可以很好的应对因网络故障导致部分节点失去联系的情况,而不会像zookeeper那样使整个注册服务瘫痪
6. Ribbon:负载均衡(基于客户端)
6.1 负载均衡以及Ribbon
Ribbon默认算法轮询,轮着来
Ribbon是什么?
- Spring Cloud Ribbon 是基于Netflix Ribbon 实现的一套客户端负载均衡的工具。
- 简单的说,Ribbon 是 Netflix 发布的开源项目,主要功能是提供客户端的软件负载均衡算法,将 Netflix 的中间层服务连接在一起。Ribbon 的客户端组件提供一系列完整的配置项,如:连接超时、重试等。简单的说,就是在配置文件中列出 LoadBalancer (简称LB:负载均衡) 后面所有的及其,Ribbon 会自动的帮助你基于某种规则 (如简单轮询,随机连接等等) 去连接这些机器。我们也容易使用 Ribbon 实现自定义的负载均衡算法!
Ribbon能干嘛?
- LB,即负载均衡 (LoadBalancer) ,在微服务或分布式集群中经常用的一种应用。
- 负载均衡简单的说就是将用户的请求平摊的分配到多个服务上,从而达到系统的HA (高用)。
- 常见的负载均衡软件有 Nginx、Lvs 等等。
- Dubbo、SpringCloud 中均给我们提供了负载均衡,SpringCloud 的负载均衡算法可以自定义。
- 负载均衡简单分类:
- 集中式LB
- 即在服务的提供方和消费方之间使用独立的LB设施,如Nginx,由该设施负责把访问请求通过某种策略转发至服务的提供方!
- 进程式LB
- 将LB逻辑集成到消费方,消费方从服务注册中心获知有哪些地址可用,然后自己再从这些地址中选出一个合适的服务器。
- Ribbon 就属于进程内LB,它只是一个类库,集成于消费方进程,消费方通过它来获取到服务提供方的地址!
- 集中式LB
6.2 消费方(客户端)集成Ribbon
客户端只需要知道服务的名称 通过服务名称调用 不需要服务的ip端口
在消费方导入依赖
<!--Ribbon-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-ribbon</artifactId>
<version>1.4.6.RELEASE</version>
</dependency>
<!--Eureka: Ribbon需要从Eureka服务中心获取要拿什么-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-eureka</artifactId>
<version>1.4.6.RELEASE</version>
</dependency>
配置
#Eureka配置
eureka:
client:
register-with-eureka: false #不想Eureka中注册自己
service-url: #从三个注册中心随机访问 获取服务
defaultZone: http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/,http://eureka7001.com:7001/eureka/
主启动类加上@EnableEurekaClient注解,开启Eureka
@SpringBootApplication
@EnableEurekaClient
public class DeptConsumer_80 {
public static void main(String[] args) {
SpringApplication.run(DeptConsumer_80.class,args);
}
}
自定义Spring配置类:ConfigBean.java 配置负载均衡实现RestTemplate
@Configuration
public class ConfigBean { //@Configuratio相当于spring的applicationContext.xml 配置bean
//配置负载均衡实现RestTemplate
//通过它RestTemplate请求 让他变负载均衡即可
@Bean
@LoadBalanced //Ribbon 开启负载均衡
public RestTemplate getRestTemplate(){
return new RestTemplate();
}
}
修改消费方的 conroller:DeptConsumerController.java
//调用远程地址的请求前缀
//private static final String REST_URL_PREFIX="http://localhost:8001";
//通过Ribbon访问的时候,我们这里的地址因该是一个变量,而不是一个固定的地址
//通过提供服务的名称(id)访问
//我们访问SPRINGCLOUD-PROVIDER-DEPT服务提供方 他有三种选择,在三个注册中心中注册了自己,达到负载均衡!!!!!!!!!!!!!!!!!!!!!!
private static final String REST_URL_PREFIX="http://SPRINGCLOUD-PROVIDER-DEPT";
通过提供方的名称(id)访问 也能访问成功,如下图
6.3 使用Ribbon实现负载均衡
流程图
1.在新建两个服务提供者Moudle:springcloud-provider-dept-8003、springcloud-provider-dept-8002
2.参照springcloud-provider-dept-8001 依次为另外两个Moudle添加pom.xml依赖 、resourece下的mybatis和application.yml配置,Java代码 每一个提供者对应一个数据库
配置文件中修改一个每一个提供者的默认描述和 数据库地址 三个提供者有三个库
服务提供方的名称不变 一个名称有三个描述地址
eureka:
instance-id: springcloud-dept8002 #修改eureka的描述信息!
eureka:
instance-id: springcloud-dept8003 #修改eureka的描述信息!
3.启动三个注册中心,三个服务提供方访问http://eureka7001.com:7001/查看结果
发现同一个名称下注册了三个
启动服务的消费方 访问消费方
测试访问http://localhost/consumer/dept/list 这时候随机访问的是服务提供者 8001
通过数据库的名称db01就知道访问的是提供者8001
第二次访问 8003 下一次就是8002
因为Ribbon默认采用的负载均衡算法是轮询
6.4自定义负载均衡算法类
先体验一下springcluod定义好的负载均衡算法
默认走的是轮询算法
我们使用随机
@Configuration
public class ConfigBean { //@Configuratio相当于spring的applicationContext.xml 配置bean
//配置负载均衡实现RestTemplate
//通过它RestTemplate请求 让他变负载均衡即可
/**
* IRule: 负载均衡的接口 下面是实现类
* RoundRobinRule 轮询
* RandomRule 随机
* AvailabilityFilteringRule : 会先过滤掉,跳闸,访问故障的服务~,对剩下的进行轮询~
* RetryRule : 会先按照轮询获取服务~,如果服务获取失败,则会在指定的时间内进行,重试
*/
@Bean
@LoadBalanced //Ribbon 开启负载均衡
public RestTemplate getRestTemplate(){
return new RestTemplate();
}
//!!!!!!!!!!!!!!!!!!!!!!!!!!!!注册到bean中 正常情况下不会在这里定义 换一个目录
@Bean
public IRule myRule(){
return new RandomRule();//使用随机规则
}
}
访问一下消费方 ,发现变成了随机
自定义负载均衡算法
在myRule包下自定义一个配置类MyRule.java,注意:该包不要和主启动类所在的包同级,要跟启动类所在包同级: 不因该在程序的上下文中所以 不能让springboot扫描 拿出来
在主启动类开启负载均衡并指定自定义的MyRule配置类
//Ribbon 和 Eureka 整合以后,客户端可以直接调用,不用关心IP地址和端口号
@SpringBootApplication
@EnableEurekaClient
//在微服务启动的时候就能加载自定义的Ribbon类(自定义的规则会覆盖原有默认的规则)
@RibbonClient(name = "SPRINGCLOUD-PROVIDER-DEPT",configuration = LtRule.class)//开启负载均衡,并指定自定义的规则
public class DeptConsumer_80 {
public static void main(String[] args) {
SpringApplication.run(DeptConsumer_80.class,args);
}
}
LtRule.java
@Configuration
public class LtRule {
@Bean
public IRule myRule(){
return new MyRandomRule();//默认是轮询RandomRule,现在自定义为自己的
}
}
**自定义的规则(**这里我们参考Ribbon中默认的规则代码自己稍微改动):创建一个MyRandomRule.java定义负载均衡规则
package com.lt.myrule;
import com.netflix.client.config.IClientConfig;
import com.netflix.loadbalancer.AbstractLoadBalancerRule;
import com.netflix.loadbalancer.ILoadBalancer;
import com.netflix.loadbalancer.Server;
import java.util.List;
import java.util.concurrent.ThreadLocalRandom;
public class MyRandomRule extends AbstractLoadBalancerRule {
/**
* 每个服务访问5次则换下一个服务(总共3个服务)
* <p>
* total=0,默认=0,如果=5,指向下一个服务节点
* index=0,默认=0,如果total=5,index+1
*/
private int total = 0;//被调用的次数
private int currentIndex = 0;//当前是谁在提供服务
//@edu.umd.cs.findbugs.annotations.SuppressWarnings(value = "RCN_REDUNDANT_NULLCHECK_OF_NULL_VALUE")
public Server choose(ILoadBalancer lb, Object key) {
if (lb == null) {
return null;
}
Server server = null;
while (server == null) {
if (Thread.interrupted()) {
return null;
}
List<Server> upList = lb.getReachableServers();//获得当前活着的服务
List<Server> allList = lb.getAllServers();//获取所有的服务
int serverCount = allList.size();
if (serverCount == 0) {
return null;
}
// int index = chooseRandomInt(serverCount);//生成区间随机数
// server = upList.get(index);//从或活着的服务中,随机获取一个
//=====================自定义代码=========================
if (total < 5) {
server = upList.get(currentIndex);
total++;
} else {
total = 0;
currentIndex++;
if (currentIndex > upList.size()) {
currentIndex = 0;
}
server = upList.get(currentIndex);//从活着的服务中,获取指定的服务来进行操作
}
//======================================================
if (server == null) {
Thread.yield();
continue;
}
if (server.isAlive()) {
return (server);
}
server = null;
Thread.yield();
}
return server;
}
protected int chooseRandomInt(int serverCount) {
return ThreadLocalRandom.current().nextInt(serverCount);
}
@Override
public Server choose(Object key) {
return choose(getLoadBalancer(), key);
}
@Override
public void initWithNiwsConfig(IClientConfig clientConfig) {
// TODO Auto-generated method stub
}
}
每个都会走5次然后在访问下一个
7.Feign:负载均衡(基于服务端)
7.1 Feign简介
Feign是声明式Web Service客户端,它让微服务之间的调用变得更简单,类似controller调用service。SpringCloud集成了Ribbon和Eureka,可以使用Feigin提供负载均衡的http客户端
只需要创建一个接口,然后添加注解即可~
Feign,主要是社区版,大家都习惯面向接口编程。这个是很多开发人员的规范。调用微服务访问两种方法
- 微服务名字 【ribbon】
- 接口和注解 【feign】
Feign能干什么?
- Feign旨在使编写Java Http客户端变得更容易
- 前面在使用Ribbon + RestTemplate时,利用RestTemplate对Http请求的封装处理,形成了一套模板化的调用方法。但是在实际开发中,由于对服务依赖的调用可能不止一处,往往一个接口会被多处调用,所以通常都会针对每个微服务自行封装一个客户端类来包装这些依赖服务的调用。所以,Feign在此基础上做了进一步的封装,由他来帮助我们定义和实现依赖服务接口的定义,**在Feign的实现下,我们只需要创建一个接口并使用注解的方式来配置它 (类似以前Dao接口上标注Mapper注解,现在是一个微服务接口上面标注一个Feign注解),即可完成对服务提供方的接口绑定,**简化了使用Spring Cloud Ribbon 时,自动封装服务调用客户端的开发量。
Feign默认集成了Ribbon
- 利用Ribbon维护了MicroServiceCloud-Dept的服务列表信息,并且通过轮询实现了客户端的负载均衡,而与Ribbon不同的是,通过Feign只需要定义服务绑定接口且以声明式的方法,优雅而简单的实现了服务调用。
7.2 Feign的使用步骤
在Api模块下创建一个service层提供服务
导入fegin的依赖
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-feign</artifactId>
<version>1.4.6.RELEASE</version>
</dependency>
server下创建一个接口 名称
@Component
//@FeignClient:微服务客户端注解,value:指定微服务的名字,这样就可以使Feign客户端直接找到对应的微服务
@FeignClient("SPRINGCLOUD-PROVIDER-DEPT")
public interface DeptClientService {
@GetMapping("/dept/get/{id}") //这个路径要和服务提供方的路径一致!!!!!!
public Dept querById(@PathVariable("id") Long id);
@GetMapping("/dept/list")
public List<Dept> querAll();
@GetMapping("/dept/add")
public boolean addDept(Dept dept);
}
服务提供方 调数据库查数据
@PostMapping("/dept/add")
public boolean addDept(Dept dept){
return deptService.addDept(dept);
}
@GetMapping("/dept/get/{id}")
public Dept get(@PathVariable("id") Long id){
return deptService.queryById(id);
}
@GetMapping("/dept/list")
public List<Dept> addDept(){
return deptService.querAll();
}
@Autowired
private DiscoveryClient client;//获取一些信息,的到具体的微服务
创建一个springcloud-consumer-dept-feign模块
导入依赖
和springcloud-consumer-dept-80依赖一样 多个了个fegin
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-feign</artifactId>
<version>1.4.6.RELEASE</version>
</dependency>
controller
@RestController
public class DeptConsumerController {
//!!!!!!!!!!!!!!!!!将api模块的接口注入进来
@Autowired
private DeptClientService deptClientService =null; //会显示红色 不影响运行
@RequestMapping("/consumer/dept/get/{id}")
public Dept get(@PathVariable("id") Long id){
return this.deptClientService.querById(id);
}
@RequestMapping("/consumer/dept/add")
public boolean add(Dept dept){
return this.deptClientService.addDept(dept);
}
@RequestMapping("/consumer/dept/list")
public List<Dept> list(){
return this.deptClientService.querAll();
}
}
Feign和Ribbon二者对比,前者显现出面向接口编程特点,代码看起来更清爽
主配置类
@SpringBootApplication
@EnableEurekaClient
//扫描API模块下的fegin接口 service下
@EnableFeignClients(basePackages = "com.lt.springcloud") //feign客户端注解,并指定要扫描的包以及配置接口DeptClientService
//扫描所有自己的包,让所有注解也能生效
@ComponentScan("com.lt.springcloud") //会显示红色 不影响运行
public class FeignDeptConsumer_80 {
public static void main(String[] args) {
SpringApplication.run(FeignDeptConsumer_80.class,args);
}
}
通过访问localhost:/consumer/dept/list路径就能查询到 远程调用
7.3 Feign和Ribbon如何选择?
根据个人习惯而定,如果喜欢REST风格使用Ribbon;如果喜欢社区版的面向接口风格使用Feign.
8. Hystrix:服务熔断
分布式系统面临的问题
复杂分布式体系结构中的应用程序有数十个依赖关系,每个依赖关系在某些时候将不可避免失败!
8.1 服务雪崩
多个微服务之间调用的时候,假设微服务A调用微服务B和微服务C,微服务B和微服务C又调用其他的微服务,这就是所谓的“扇出”,如果扇出的链路上某个微服务的调用响应时间过长,或者不可用,对微服务A的调用就会占用越来越多的系统资源,进而引起系统崩溃,所谓的“雪崩效应”。
对于高流量的应用来说,单一的后端依赖可能会导致所有服务器上的所有资源都在几十秒内饱和。比失败更糟糕的是,这些应用程序还可能导致服务之间的延迟增加,备份队列,线程和其他系统资源紧张,导致整个系统发生更多的级联故障,这些都表示需要对故障和延迟进行隔离和管理,以便单个依赖关系的失败,不能取消整个应用程序或系统。
我们需要,弃车保帅
8.2 什么是Hystrix?
Hystrix是一个应用于处理分布式系统的延迟和容错的开源库,在分布式系统里,许多依赖不可避免的会调用失败,比如超时,异常等,Hystrix能够保证在一个依赖出问题的情况下,不会导致整个体系服务失败,避免级联故障,以提高分布式系统的弹性。
“断路器”本身是一种开关装置,当某个服务单元发生故障之后,通过断路器的故障监控 (类似熔断保险丝) ,向调用方方茴一个服务预期的,可处理的备选响应 (FallBack) ,而不是长时间的等待或者抛出调用方法无法处理的异常,这样就可以保证了服务调用方的线程不会被长时间,不必要的占用,从而避免了故障在分布式系统中的蔓延,乃至雪崩。
8.3 Hystrix能干嘛?
- 服务降级
- 服务熔断
- 服务限流
- 接近实时的监控
官网资料:https://github.com/Netflix/Hystrix/wiki
当一切正常时,请求流可以如下所示:
当许多后端系统中有一个潜在时,它可以阻止整个用户请求:
随着大容量通信量的增加,单个后端依赖项的潜在性会导致所有服务器上的所有资源在几秒钟内饱和。
应用程序中通过网络或客户端库可能导致网络请求的每个点都是潜在故障的来源。比失败更糟糕的是,这些应用程序还可能导致服务之间的延迟增加,从而备份队列、线程和其他系统资源,从而导致更多跨系统的级联故障。
当使用hystrix包装每个基础依赖项时,上面的图表中所示的体系结构会发生类似于以下关系图的变化。每个依赖项是相互隔离的,限制在延迟发生时它可以填充的资源中,并包含在回退逻辑中,该逻辑决定在依赖项中发生任何类型的故障时要做出什么样的响应:
8.4 服务熔断
什么是服务熔断
熔断机制是对应雪崩效应的一种微服务链路保护机制。
在微服务架构中,微服务之间的数据交互通过远程调用完成,微服务A调用微服务B和微服务C,微服务B和微服务C又调用其它的微服务,此时如果链路上某个微服务的调用响应时间过长或者不可用,那么对微服务A的调用就会占用越来越多的系统资源,进而引起系统崩溃,导致“雪崩效应”。
服务熔断是应对雪崩效应的一种微服务链路保护机制。例如在高压电路中,如果某个地方的电压过高,熔断器就会熔断,对电路进行保护。同样,在微服务架构中,熔断机制也是起着类似的作用。当调用链路的某个微服务不可用或者响应时间太长时,会进行服务熔断,不再有该节点微服务的调用,快速返回错误的响应信息。当检测到该节点微服务调用响应正常后,恢复调用链路。
当扇出链路的某个微服务不可用或者响应时间太长时,会进行服务的降级,进而熔断该节点微服务的调用,快速返回错误的响应信息。检测到该节点微服务调用响应正常后恢复调用链路。在SpringCloud框架里熔断机制通过Hystrix实现。Hystrix会监控微服务间调用的状况,当失败的调用到一定阀值缺省是5秒内20次调用失败,就会启动熔断机制。熔断机制的注解是:@HystrixCommand 。
服务熔断解决如下问题: 1. 当所依赖的对象不稳定时,能够起到快速失败的目的;2. 快速失败后,能够根据一定的算法动态试探所依赖对象是否恢复。
入门案例:具有熔断机制的 服务提供方
新建springcloud-provider-dept-hystrix-8001模块并拷贝springcloud-provider-dept–8001内的pom.xml、resource和Java代码进行初始化并调整。
基本结构
添加熔断机制
导入依赖
<!--导入Hystrix依赖-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-hystrix</artifactId>
<version>1.4.6.RELEASE</version>
</dependency>
配置
server:
port: 8001
#mybatis配置
mybatis:
type-aliases-package: com.lt.springcloud.pojo
mapper-locations: classpath:mybatis/mapper/*.xml
config-location: classpath:mybatis/mybatis-config.xml #mybatis的配置文件
#spring配置
spring:
application:
name: springcloud-provider-dept
datasource:
type: com.alibaba.druid.pool.DruidDataSource #数据源
driver-class-name: com.mysql.jdbc.Driver
url: jdbc:mysql://localhost:3306/mybatiss?useUnicode=true&characterEncoding=UTF-8
username: root
password: 123456
#Eureka的配置,服务注册到哪里
eureka:
client:
service-url:
defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7003.com:7003/eureka/,http://eureka7002.com:7002/eureka/ #配置注册到eureka中心的地址
instance:
instance-id: springcloud-provider-dept-hystrix-8001 #修改eureka的描述信息! 只修改了这里
#info配置
info:
app.name: lt-springcloud
company.name: lt.blog
修改下controller
任何一个方法都可以添加备选方法
@RestController
public class DeptController {
@Autowired
private DeptService deptService;
@GetMapping("/dept/get/{id}")
@HystrixCommand(fallbackMethod = "hystrixGet") //只要这个方法失败了 我们就调用hystrixGet方法 只要发现异常立刻调用其他方法!!!!!!!!!!!!!!!!!!!
public Dept get(@PathVariable("id") Long id){
Dept dept = deptService.queryById(id);
if (dept==null){
throw new RuntimeException("id->"+id+"不存在改用户");
}
return dept;
}
//备选方案
public Dept hystrixGet(@PathVariable("id") Long id){
return new Dept(id,"id->"+id+"没有对应的信息,null--@Hystrix","no this database in mysql");
}
}
为主启动类添加对熔断的支持注解@EnableCircuitBreaker
@SpringBootApplication
@EnableEurekaClient //开启注册到eureka 在服务启动后自动注册到eureka中
@EnableDiscoveryClient //服务发现 发现其他服务信息
//添加对熔断的支持
@EnableCircuitBreaker//添加对熔断的支持注解!!!!!!!!!!!!!!!!!!!!
public class DeptProviderHystrix_8001 {
public static void main(String[] args) {
SpringApplication.run(DeptProviderHystrix_8001.class,args);
}
}
测试:
使用熔断后,当访问一个不存在的id时,前台页展示数据如下
而不适用熔断的springcloud-provider-dept–8001模块访问相同地址会出现下面状况
因此,为了避免因某个微服务后台出现异常或错误而导致整个应用或网页报错,使用熔断是必要的
配置文件中添加
#Eureka的配置,服务注册到哪里
eureka:
client:
service-url:
defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7003.com:7003/eureka/,http://eureka7002.com:7002/eureka/ #配置注册到eureka中心的地址
instance:
instance-id: springcloud-dept8001 #修改eureka的描述信息!
prefer-ip-address: true #!!!!!!!!!!!!!!!!!!!!!!添加这句话 false显示的是localhost
#为true可以显示服务的ip
显示了ip 可以定位在那台电脑上了
8.5 服务降级 消费方客户端
什么是服务降级
服务降级是指 当服务器压力剧增的情况下,**根据实际业务情况及流量,对一些服务和页面有策略的不处理或换种简单的方式处理,从而释放服务器资源以保证核心业务正常运作或高效运作。**说白了,就是尽可能的把系统资源让给优先级高的服务。
资源有限,而请求是无限的。如果在并发高峰期,不做服务降级处理,一方面肯定会影响整体服务的性能,严重的话可能会导致宕机某些重要的服务不可用。所以,一般在高峰期,为了保证核心功能服务的可用性,都要对某些服务降级处理。比如当双11活动时,把交易无关的服务统统降级,如查看蚂蚁深林,查看历史订单等等。
服务降级主要用于什么场景呢?当整个微服务架构整体的负载超出了预设的上限阈值或即将到来的流量预计将会超过预设的阈值时,为了保证重要或基本的服务能正常运行,可以将一些 不重要 或 不紧急 的服务或任务进行服务的 延迟使用 或 暂停使用。
降级的方式可以根据业务来,可以延迟服务,比如延迟给用户增加积分,只是放到一个缓存中,等服务平稳之后再执行 ;或者在粒度范围内关闭服务,比如关闭相关文章的推荐。
由上图可得,当某一时间内服务A的访问量暴增,而B和C的访问量较少,为了缓解A服务的压力,这时候需要B和C暂时关闭一些服务功能,去承担A的部分服务,从而为A分担压力,叫做服务降级。
服务降级需要考虑的问题
- 1)那些服务是核心服务,哪些服务是非核心服务
- 2)那些服务可以支持降级,那些服务不能支持降级,降级策略是什么
- 3)除服务降级之外是否存在更复杂的业务放通场景,策略是什么?
自动降级分类
1)超时降级:主要配置好超时时间和超时重试次数和机制,并使用异步机制探测回复情况
2)失败次数降级:主要是一些不稳定的api,当失败调用次数达到一定阀值自动降级,同样要使用异步机制探测回复情况
3)故障降级:比如要调用的远程服务挂掉了(网络故障、DNS故障、http服务返回错误的状态码、rpc服务抛出异常),则可以直接降级。降级后的处理方案有:默认值(比如库存服务挂了,返回默认现货)、兜底数据(比如广告挂了,返回提前准备好的一些静态页面)、缓存(之前暂存的一些缓存数据)
4)限流降级:秒杀或者抢购一些限购商品时,此时可能会因为访问量太大而导致系统崩溃,此时会使用限流来进行限制访问量,当达到限流阀值,后续请求会被降级;降级后的处理方案可以是:排队页面(将用户导流到排队页面等一会重试)、无货(直接告知用户没货了)、错误页(如活动太火爆了,稍后重试)。
入门案例
在springcloud-api模块下的service包中新建降级配置类DeptClientServiceFallBackFactory.java
//降级
//FallbackFactory失败回调接口
@Component
public class DeptClientServiceFallBackFactory implements FallbackFactory {
//那个接口需要降级 就返回那个接口
//处理的是谁 就返回谁
public DeptClientService create(Throwable cause) {
//当访问太多就会降级不提供这个服务了,提供访问高的服务,返回下面那些话
return new DeptClientService() {
public Dept querById(Long id) {
return new Dept(id,"id=>"+id+"没有对应的信息,客户端提供了降级的信息,这个服务现在已经关闭了","没有数据");
}
//所以方法都要写上
public List<Dept> querAll() {
return null;
}
public boolean addDept(Dept dept) {
return false;
}
};
}
}
在DeptClientService中指定降级配置类DeptClientServiceFallBackFactory
//@FeignClient:微服务客户端注解,value:指定微服务的名字,这样就可以使Feign客户端直接找到对应的微服务
@Component
//调取到降级
//fallbackFactory DeptClientServiceFallBackFactory自己写的降级返回的类
@FeignClient(value = "SPRINGCLOUD-PROVIDER-DEPT",fallbackFactory = DeptClientServiceFallBackFactory.class)
public interface DeptClientService {
@GetMapping("/dept/get/{id}")
public Dept querById(@PathVariable("id") Long id);
@GetMapping("/dept/list")
public List<Dept> querAll();
@GetMapping("/dept/add")
public boolean addDept(Dept dept);
}
在springcloud-consumer-dept-feign模块中开启降级
在客户端开启降级
#开启降级
feign:
hystrix:
enabled: true
启动完毕可以正常访问
将springcloud-provider-dept-8001服务提供方关闭
页面显示 服务端关闭 用户还能正常访问其他的
服务熔断和降级的区别
- 服务熔断—>服务端:某个服务超时或异常,引起熔断~,类似于保险丝(自我熔断)
- 服务降级—>客户端:从整体网站请求负载考虑,当某个服务熔断或者关闭之后,服务将不再被调用,此时在客户端,我们可以准备一个 FallBackFactory ,返回一个默认的值(缺省值)。会导致整体的服务下降,但是好歹能用,比直接挂掉强。
- 触发原因不太一样,服务熔断一般是某个服务(下游服务)故障引起,而服务降级一般是从整体负荷考虑;管理目标的层次不太一样,熔断其实是一个框架级的处理,每个微服务都需要(无层级之分),而降级一般需要对业务有层级之分(比如降级一般是从最外围服务开始)
- 实现方式不太一样,服务降级具有代码侵入性(由控制器完成/或自动降级),熔断一般称为自我熔断。
限流:限制并发的请求访问量,超过阈值则拒绝;
降级:服务分优先级,牺牲非核心服务(不可用),保证核心服务稳定;从整体负荷考虑;
熔断:依赖的下游服务故障触发熔断,避免引发本系统崩溃;系统自动执行和恢复
8.6Dashboard 流 监控 客户端
Dashboard监控流量
创建一个springcloud-consumer-hystrix-dashboard模块
导入依赖
<!--实体类+web-->
<dependencies>
<!--Hystrix依赖-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-hystrix</artifactId>
<version>1.4.6.RELEASE</version>
</dependency>
<!--导入监控依赖-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-hystrix-dashboard</artifactId>
<version>1.4.6.RELEASE</version>
</dependency>
<!--Ribbon-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-ribbon</artifactId>
<version>1.4.6.RELEASE</version>
</dependency>
<!--Eureka: Ribbon需要从Eureka服务中心获取要拿什么-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-eureka</artifactId>
<version>1.4.6.RELEASE</version>
</dependency>
<dependency>
<groupId>com.lt</groupId>
<artifactId>springcloud-api</artifactId>
<version>1.0-SNAPSHOT</version>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-devtools</artifactId>
</dependency>
</dependencies>
配置文件
server:
port: 9001
启动类
@SpringBootApplication
@EnableHystrixDashboard //开启Dashboard监控
public class DeptConsumerDashboard_9001 {
public static void main(String[] args) {
SpringApplication.run(DeptConsumerDashboard_9001.class,args);
}
}
服务提供方 要提供监控依赖 不然监控不到
<!--完善监控信息-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
启动9001
访问 http://localhost:9001/hystrix 监控页面
监控 springcloud-provider-dept-8001这个服务 先注册进去 想要被监控 需要添加一个bean
在想要被监控的服务端添加
@SpringBootApplication
@EnableEurekaClient //开启注册到eureka 在服务启动后自动注册到eureka中
@EnableDiscoveryClient //服务发现 发现其他服务信息
public class DeptProvider {
public static void main(String[] args) {
SpringApplication.run(DeptProvider.class,args);
}
//添加这个 固定代码
@Bean
public ServletRegistrationBean gethystrixMetricsStreamServlet(){
ServletRegistrationBean registrationBean = new ServletRegistrationBean(new HystrixMetricsStreamServlet());
registrationBean.addUrlMappings("/actuator/hystrix.stream");//只要访问/actuator/hystrix.stream这个页面就可被监控了
return registrationBean;
}
}
监控这个页面http://localhost:8001/actuator/hystrix.stream
2000 Title随便写
显示出
9. Zull路由网关
概述
什么是zuul?
Zull包含了对请求的**路由**(用来跳转的)和**过滤**两个最主要功能:
其中路由功能负责将外部请求转发到具体的微服务实例上,是实现外部访问统一入口的基础,而过滤器功能则负责对请求的处理过程进行干预,是实现请求校验,服务聚合等功能的基础。Zuul和Eureka进行整合,将Zuul自身注册为Eureka服务治理下的应用,同时从Eureka中获得其他服务的消息,也即以后的访问微服务都是通过Zuul跳转后获得。
注意:Zuul服务最终还是会注册进Eureka
提供:代理+路由+过滤 三大功能!
Zuul能干嘛?
- 路由
- 过滤
官方文档:https://github.com/Netflix/zuul/
入门案例
新建springcloud-zuul模块,并导入依赖
<dependencies>
<!--zuul-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-zuul</artifactId>
<version>1.4.6.RELEASE</version>
</dependency>
<!--Hystrix依赖-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-hystrix</artifactId>
<version>1.4.6.RELEASE</version>
</dependency>
<!--导入监控依赖-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-hystrix-dashboard</artifactId>
<version>1.4.6.RELEASE</version>
</dependency>
<!--Ribbon-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-ribbon</artifactId>
<version>1.4.6.RELEASE</version>
</dependency>
<!--Eureka: Ribbon需要从Eureka服务中心获取要拿什么-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-eureka</artifactId>
<version>1.4.6.RELEASE</version>
</dependency>
<dependency>
<groupId>com.lt</groupId>
<artifactId>springcloud-api</artifactId>
<version>1.0-SNAPSHOT</version>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-devtools</artifactId>
</dependency>
</dependencies>
配置文件
server:
port: 9527
spring:
application:
name: springcluod-zuul #微服务名称
eureka:
client:
service-url:
defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7003.com:7003/eureka/,http://eureka7002.com:7002/eureka/
instance: #实例的id
instance-id: zuul9527.com #修改eureka的描述信息!
prefer-ip-address: true #为true可以显示服务的ip
info:
app.name: lt-springcluod
company.name: www.baidu.com
#配置zuul
zuul:
routes: #键值对 自定义配置
mydept.serviceId: springcloud-provider-dept #名字不能错
mydept.path: /mydept/** #原来访问这个springcloud-procider-dept微服务 现在可以用mydept来访问 下面的不是自定义了!!!!!!!!!!!!!!!!!
ignored-services: springcloud-provider-dept #不能在使用springcloud-provider-dept这个路径访问 忽略
#ignored-services: “*” 微服务有很多的时候写一个星号 代表隐藏全部
prefix: /lt #设置公共的访问前缀 也可以不要 发布的时候使用
主启动类
@SpringBootApplication
@EnableZuulProxy //开启zuul
public class ZuulApplication_9527 {
public static void main(String[] args) {
SpringApplication.run(ZuulApplication_9527.class,args);
}
}
host文件添加配置
访问 http://eureka7001.com:7001/
根据提供者访问
使用zuul访问 根据zuul的地址 加服务提供者 微服务的名字访问
根据host文件的名称访问 也能成功
我们想隐藏微服务的名字 不想暴露
配置文件
#配置zuul
zuul:
routes: #键值对 自定义配置
mydept.serviceId: springcloud-provider-dept #微服务的名字一定不能错
mydept.path: /mydept/** #原来访问这个springcloud-procider-dept微服务 现在可以用mydept来访问
访问 隐藏了微服务的名称
但是这样隐藏了 使用微服务名称还能访问
源路径不能访问 只能用我们定义的路径访问
#配置zuul
zuul:
routes: #键值对 自定义配置
mydept.serviceId: springcloud-provider-dept
mydept.path: /mydept/** #原来访问这个springcloud-procider-dept微服务 现在可以用mydept来访问
ignored-services: springcloud-provider-dept #不能在使用springcloud-provider-dept这个路径访问 忽略
#ignored-services: “*” 微服务有很多的时候写一个星号 代表隐藏全部
prefix: /lt #设置公共的访问前缀 可以不要 发布的时候使用
使用原路径访问
使用自定义的路径访问
10. Spring Cloud Config 分布式配置
Dalston.RELEASE
步骤 需要写一个服务器 再写一个客户端 客户端通过服务器访问远程仓库
远程集中管理配置 调用
Spring Cloud Config为分布式系统中的外部配置提供服务器和客户端支持。使用Config Server,您可以在所有环境中管理应用程序的外部属性。客户端和服务器上的概念映射与Spring Environment
和PropertySource
抽象相同,因此它们与Spring应用程序非常契合,但可以与任何以任何语言运行的应用程序一起使用。随着应用程序通过从开发人员到测试和生产的部署流程,您可以管理这些环境之间的配置,并确定应用程序具有迁移时需要运行的一切。服务器存储后端的默认实现使用git,因此它轻松支持标签版本的配置环境,以及可以访问用于管理内容的各种工具。很容易添加替代实现,并使用Spring配置将其插入。
概述
分布式系统面临的–配置文件问题
微服务意味着要将单体应用中的业务拆分成一个个子服务,每个服务的粒度相对较小,因此系统中会出现大量的服务,由于每个服务都需要必要的配置信息才能运行,所以一套集中式的,动态的配置管理设施是必不可少的。spring cloud提供了configServer来解决这个问题,我们每一个微服务自己带着一个application.yml,那上百个的配置文件修改起来,会疯!
什么是SpringCloud config分布式配置中心?
spring cloud config 为微服务架构中的微服务提供集中化的外部支持,配置服务器为各个不同微服务应用的所有环节提供了一个中心化的外部配置。
spring cloud config 分为服务端和客户端两部分。
服务端也称为 分布式配置中心,它是一个独立的微服务应用,用来连接配置服务器并为客户端提供获取配置信息,加密,解密信息等访问接口。
客户端则是通过指定的配置中心来管理应用资源,以及与业务相关的配置内容,并在启动的时候从配置中心获取和加载配置信息。配置服务器默认采用git来存储配置信息,这样就有助于对环境配置进行版本管理。并且可用通过git客户端工具来方便的管理和访问配置内容。
spring cloud config 分布式配置中心能干嘛?
- 集中式管理配置文件
- 不同环境,不同配置,动态化的配置更新,分环境部署,比如 /dev /test /prod /beta /release
- 运行期间动态调整配置,不再需要在每个服务部署的机器上编写配置文件,服务会向配置中心统一拉取配置自己的信息
- 当配置发生变动时,服务不需要重启,即可感知到配置的变化,并应用新的配置
- 将配置信息以REST接口的形式暴露
spring cloud config 分布式配置中心与GitHub整合
由于spring cloud config 默认使用git来存储配置文件 (也有其他方式,比如自持SVN 和本地文件),但是最推荐的还是git ,而且使用的是 http / https 访问的形式。
入门案例
在码云创建一个仓库
git clone 下来 https方式
添加一个application.yml文件
提交到码云仓库 git add .
git status 查询状态
git commit -m ‘这次提交的消息’
git push origin master
服务端
新建springcloud-config-server-3344模块
导入pom.xml依赖
<dependencies>
<!--web-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<!--config-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-config-server</artifactId>
<version>2.1.1.RELEASE</version>
</dependency>
</dependencies>
配置文件
server:
port: 3344
spring:
application:
name: springcloud-config-server
#连接远程码云仓库
cloud:
config:
server:
git:
uri: https://gitee.com/ltrain/springcloud-config.git #仓库https地址
# 通过 config-server可以连接到git,访问其中的资源以及配置~
启动类
@SpringBootApplication
@EnableConfigServer //开启spring cloud config server服务
public class Config_Server_3344 {
public static void main(String[] args) {
SpringApplication.run(Config_Server_3344.class,args);
}
}
访问
http://localhost:3344/application-dev.yml
通过java操作仓库
HTTP服务具有以下格式的资源:
/{application}/{profile}[/{label}]
/{application}-{profile}.yml
/{label}/{application}-{profile}.yml
/{application}-{profile}.properties
/{label}/{application}-{profile}.properties
客户端
在本地仓库一个文件push到远程
spring:
profiles:
active: dev
---
server:
port: 8201
#spring配置
spring:
profiles: dev
application:
name: springcloud-provider-dept
#Eureka的配置,服务注册到哪里
eureka:
client:
service-url:
defaultZone: http://eureka7001.com:7001/eureka/ #配置注册到eureka中心的地址
---
server:
port: 8202
#spring配置
spring:
profiles: test
application:
name: springcloud-provider-dept
#Eureka的配置,服务注册到哪里
eureka:
client:
service-url:
defaultZone: http://eureka7001.com:7001/eureka/ #配置注册到eureka中心的地址
新建一个springcloud-config-client-3355模块
并导入依赖
<dependencies>
<!--config 依赖-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-config</artifactId>
<version>2.1.1.RELEASE</version>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
</dependencies>
resources下创建application.yml和bootstrap.yml两个配置文件
bootstrap.yml是系统级别的配置
#系统级的配置
spring:
cloud:
config:
name: config-client # 需要从git上读取的资源名称,不要后缀
profile: dev #那个生产环境
label: master #哪个分支拿
uri: http://localhost:3344 #客户端连接
application.yml是用户级别的配置
#用户级的配置spring:
spring:
application:
name: springcloud-
创建controller包下的ConfigClientController.java用于测试
@RestController
public class ConfigClientController {
//从本地远程读取到仓库的配置信息
//从远程仓库的获取到配置信息
@Value("${spring.application.name}")
private String applicationName; //获取微服务名称
@Value("${eureka.client.service-url.defaultZone}")
private String eurekaServer; //获取Eureka服务
@Value("${server.port}")
private String port; //获取服务端的端口号
@RequestMapping("/config")
public String getConfig(){
return "applicationName:"+applicationName +
"eurekaServer:"+eurekaServer +
"port:"+port;
}
}
启动类
@SpringBootApplication
public class ConfigClient {
public static void main(String[] args) {
SpringApplication.run(ConfigClient.class,args);
}
}
启动3344 在启动3355
服务端 正常访问 可以访问到 http://localhost:3344/config-client-dev.yml
客户端访问服务端 访问远程
因为已经读取到远程的配置文件了 所以访问3355访问不到 需要访问远程多的配置文件的的端口
http://localhost:8201/ config
实现了配置与编码解耦
小案例
本地新建config-dept.yml 服务提供方的配置和config-eureka.yml 注册中心的配置并提交到码云仓库
config-dept.yml
#spring配置
spring:
profiles: dev
application:
name: springcloud-config-dept
datasource:
type: com.alibaba.druid.pool.DruidDataSource #数据源
driver-class-name: com.mysql.jdbc.Driver
url: jdbc:mysql://localhost:3306/mybatiss?useUnicode=true&characterEncoding=UTF-8
username: root
password: 123456
#Eureka的配置,服务注册到哪里
eureka:
client:
service-url:
defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7003.com:7003/eureka/,http://eureka7002.com:7002/eureka/ #配置注册到eureka中心的地址
instance:
instance-id: springcloud-dept8001 #修改eureka的描述信息!
prefer-ip-address: true #为true可以显示服务的ip
#info配置
info:
app.name: lt-springcloud
company.name: lt.blog
config-eureka.yml
spring:
profiles:
active: dev
---
server:
port: 7001
spring:
profiles: dev
application:
name: springcloud-config-eureka
#Eureka配置
eureka:
instance:
hostname: eureka7001.com #Eureka服务的的实例名称
client:
register-with-eureka: false #表示是否向Eureka注册中心注册自己
fetch-registry: false #如果fetch-registry为false,则表示自己为注册中心
service-url: #监控中心
defaultZone: http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
---
server:
port: 7001
spring:
profiles: test
application:
name: springcloud-config-eureka
#Eureka配置
eureka:
instance:
hostname: eureka7001.com #Eureka服务的的实例名称
client:
register-with-eureka: false #表示是否向Eureka注册中心注册自己
fetch-registry: false #如果fetch-registry为false,则表示自己为注册中心
service-url: #监控中心
defaultZone: http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
两个文件提交到远程
新建springcloud-config-eureka-7001模块,并将原来的springcloud-eureka-7001模块下的内容拷贝的该模块。
导入依赖
<dependencies>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-config</artifactId>
<version>2.1.1.RELEASE</version>
</dependency>
<!-- https://mvnrepository.com/artifact/org.springframework.cloud/spring-cloud-starter-eureka-server -->
<!--导入Eureka Server依赖-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-eureka-server</artifactId>
<version>1.4.6.RELEASE</version>
</dependency>
<!--热部署工具-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-devtools</artifactId>
</dependency>
</dependencies>
1.清空该模块的application.yml配置,并新建bootstrap.yml连接远程配置
bootstrap.yml
spring:
cloud:
config:
name: config-eureka # 仓库中的配置文件名称
label: master
profile: dev
uri: http://localhost:3344 #服务端模块的
application.yml
spring:
application:
name: springcloud-config-eureka-7001 #配置个名字就行
启动类
//启动之后访问http://localhost:7001 即可
@SpringBootApplication
@EnableEurekaServer //EnableEurekaServer服务端的启动类,可以接受别人注册进来
public class Eureka_7001 {
public static void main(String[] args) {
SpringApplication.run(Eureka_7001.class,args);
}
}
4.测试
第一步**:先启动 服务端 Config_Server_3344 访问一下远程的仓库**,并访问 http://localhost:3344/master/config-eureka-dev.yml 测试
第二部:在启动ConfigEurekaServer_7001,访问 http://localhost:7001/ 测试
访问成功说明已经读取到远程的配置了
总结
未来方向