玩转SpringCloud专题(十八)-SpringCloud之Hystrix隔离

SpringCloud之Hystrix隔离、熔断、降级 目录`hystrix` 简介`hystrix` 容错机制的特点`hystrix` 的断路器工作原理`hystrix` 实现服务的隔离、熔断、降级 hystrix 简介 hystrix 是 netlifx 开源的一款容错框架,防雪崩利器,具备服务降级,服务熔断,依赖隔离,监控 hystrix dashboard 等功能 官方 github:https://github.com/Netflix/Hystrix/wiki/How-To-Use hystrix 容错机制的特点 要防止雪崩效应,必须有一个强大的容错机 阅读详情

本文我们来演示下Hystrix中解决雪崩效应的第五种方式隔离的实现

在应对服务雪崩效应时,除了前面介绍的降级,缓存,请求合并及熔断外还有一种方式就是隔离,隔离又分为线程池隔离和信号量隔离。接下来我们分别来介绍。

1.线程池隔离

1.1.概念介绍

我们通过以下几个图片来解释线程池隔离到底是怎么回事

在没有使用线程池隔离时
在这里插入图片描述
当接口A压力增大,接口C同时也会受到影响
在这里插入图片描述
使用线程池的场景
在这里插入图片描述
当服务接口A访问量增大时,因为接口C在不同的线程池中所以不会受到影响
在这里插入图片描述
通过上面的图片来看,线程池隔离的作用还是蛮明显的。但线程池隔离的使用也不是在任何场景下都适用的,线程池隔离的优缺点如下:

优点

使用线程池隔离可以完全隔离依赖的服务(例如图中的A,B,C服务),请求线程可以快速放回
当线程池出现问题时,线程池隔离是独立的不会影响其他服务和接口
当失败的服务再次变得可用时,线程池将清理并可立即恢复,而不需要一个长时间的恢复
独立的线程池提高了并发性

缺点

线程池隔离的主要缺点是它们增加计算开销(CPU).每个命令的执行涉及到排队,调度和上下文切换都是在一个单独的线程上运行的。

2.案例演示

2.1.添加Hystrix依赖

将Hystrix依赖添加进来

<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-hystrix</artifactId>
    <version>1.3.2.RELEASE</version>
</dependency>

2.2.业务层处理

注意方法头部的接口,在各个方法中添加了打印当前线程的方法,用来演示当前方法执行时所处的线程,

package com.bruceliu.api;

import com.bruceliu.bean.User;
import com.netflix.hystrix.contrib.javanica.annotation.HystrixCollapser;
import com.netflix.hystrix.contrib.javanica.annotation.HystrixCommand;
import com.netflix.hystrix.contrib.javanica.annotation.HystrixProperty;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.cloud.client.ServiceInstance;
import org.springframework.core.ParameterizedTypeReference;
import org.springframework.http.ResponseEntity;
import org.springframework.stereotype.Service;
import org.springframework.web.client.RestTemplate;

import java.util.ArrayList;
import java.util.List;
import java.util.concurrent.Future;

/**
 * @BelongsProject: springcloud0310
 * @BelongsPackage: com.bruceliu.api
 * @Author: bruceliu
 * @QQ:1241488705
 * @CreateTime: 2020-03-11 20:00
 * @Description: TODO
 */
@Service
public class UserService {

    @Autowired
    UserClientService userClientService;

    @HystrixCommand(groupKey = "ego-product-provider",
            commandKey = "getUsers",
            threadPoolKey = "ego-product-provider",
            threadPoolProperties = {
                    @HystrixProperty(name = "coreSize", value = "30"),//线程池大小
                    @HystrixProperty(name = "maxQueueSize", value = "100"),//最大队列长度
                    @HystrixProperty(name = "keepAliveTimeMinutes", value = "2"),//线程存活时间
                    @HystrixProperty(name = "queueSizeRejectionThreshold", value = "15")//拒绝请求
            },
            fallbackMethod = "fallback")
    public List<User> getUsers() {
        // 获取当前线程的名称
        System.out.println(Thread.currentThread().getName());
        return userClientService.queryUsers();
    }

    /**
     * 服务降级
     * 返回托底数据的方法
     *
     * @return
     */
    public List<User> fallback() {
        System.out.println(Thread.currentThread().getName());
        List<User> list = new ArrayList<>();
        list.add(new User(3, "我是托底数据", 22));
        return list;
    }

    public void show() {
        System.out.println("show:" + Thread.currentThread().getName());
    }
}

2.3.控制器编写

控制器中仅仅完成方法调用

@RestController
public class UserController {

    @Autowired
    private UserService userService;

    @RequestMapping("/consumer")
    public List<User> getUsers(){
        return this.userService.getUsers();
    }
    @RequestMapping("/show")
    public void show(){
        this.userService.show();
    }
}

2.4.测试

分别启动provider和consumer服务。先正常访问,查看控制台输出的线程名称
在这里插入图片描述
控制台打印的线程名称如下
在这里插入图片描述
在访问没有线程隔离的方法
在这里插入图片描述
由此可以看到访问provider服务的方法是处在了和主线程不同的子线程中了,实现了线程隔离,再关闭provider服务,我们查看fallback方法处的线程名称
在这里插入图片描述
在这里插入图片描述
fallback方法也是在隔离的线程池中执行的

2.5 线程池隔离参数

在这里插入图片描述

3.信号量隔离

信号量隔离其实就是我们定义的队列并发时最多支持多大的访问,其他的访问通过托底数据来响应,如下结构图
在这里插入图片描述
案例实现
信号量隔离效果不太好实现,以下给出了具体的配置。案例代码和线程池隔离大部分是一样的,只是在service的方法头部的注解不同,具体如下

package com.bruceliu.api;

import com.bruceliu.bean.User;
import com.netflix.hystrix.contrib.javanica.annotation.HystrixCollapser;
import com.netflix.hystrix.contrib.javanica.annotation.HystrixCommand;
import com.netflix.hystrix.contrib.javanica.annotation.HystrixProperty;
import com.netflix.hystrix.contrib.javanica.conf.HystrixPropertiesManager;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.cloud.client.ServiceInstance;
import org.springframework.cloud.client.loadbalancer.LoadBalancerClient;
import org.springframework.core.ParameterizedTypeReference;
import org.springframework.http.ResponseEntity;
import org.springframework.stereotype.Service;
import org.springframework.web.client.RestTemplate;

import java.util.ArrayList;
import java.util.List;
import java.util.concurrent.Future;

/**
 * @BelongsProject: springcloud0310
 * @BelongsPackage: com.bruceliu.api
 * @Author: bruceliu
 * @QQ:1241488705
 * @CreateTime: 2020-03-11 20:00
 * @Description: TODO
 */
@Service
public class UserService {

    @Autowired
    UserClientService userClientService;

    /**
     * ribbon 负载均衡
     * LoadBalancerClient 通过服务名称可以获取对应的服务的相关信息 ip port等
     */
    @Autowired
    private LoadBalancerClient loadBalancerClient;

    @HystrixCommand(fallbackMethod = "fallback",
            commandProperties = {
                    @HystrixProperty(name = HystrixPropertiesManager.EXECUTION_ISOLATION_STRATEGY, value = "SEMAPHORE"),// 信号量 隔离
                    @HystrixProperty
                            (name = HystrixPropertiesManager.EXECUTION_ISOLATION_SEMAPHORE_MAX_CONCURRENT_REQUESTS, value = "100")//信号量最大并度
            })
    public List<User> getUsers() {
        // 获取当前线程的名称
        System.out.println(Thread.currentThread().getName());
        return userClientService.queryUsers();
    }

    /**
     * 服务降级
     * 返回托底数据的方法
     *
     * @return
     */
    public List<User> fallback() {
        System.out.println(Thread.currentThread().getName());
        List<User> list = new ArrayList<>();
        list.add(new User(3, "我是托底数据", 22));
        return list;
    }

    public void show() {
        System.out.println("show:" + Thread.currentThread().getName());
    }
}

信号量隔离参数
在这里插入图片描述

4.线程池隔离和信号量隔离的区别

在这里插入图片描述

尚硅谷周阳老师2020最新版springcloud微服务学习笔记 根据学习尚硅谷的周阳老师的2020最新版springcloud视频做的笔记 springcloud微服务学习笔记(一):Boot和cloud版本选型 springcloud微服务学习笔记(二):父工程创建 springcloud微服务学习笔记(三 ):支付模块(上) 持续更行中。。。 ... 阅读详情

相关推荐

SpringCloud最新最全面试题

在服务注册与发现中,有一个注册中心。当服务器启动的时候,会把当前自己服务器的信息比如服务地址通讯地址等以别名方式注册到注册中心上。另一方(消费者服务提供者),以该别名的方式去注册中心上获取到实际的服务通讯地址,然后再实现本地RPC调用RPC远程调用框架核心设计思想:在于注册中心,因为使用注册中心管理每个服务与服务之间的一个依赖关系(服务治理概念)。在任何RPC远程框架中,都会有一个注册中心存放服务地址相关信息(接口地址)。

qq_38196449的博客 4331

SpringCloud gateway 集成 Hystrix

SpringCloud gateway网关 集成 Hystrix 为某个服务设置熔断时间 先讲讲 Hystrix 的用途: a)线程池隔离 b)信号量隔离 c)熔断 d)降级回退 目的:针对网关的每个服务设置熔断时间。 我们今天要讲的是熔断机制。对于断路器,可能大部分人都不是很熟悉,而如果只是依靠 度娘 的话,找了半天可能都不是你想要的结果,最多的讲的就是 Hystrix command default 配置熔断时间。 大部分也只会设置 default,但是有时候需求

weixin_42135190的博客 1477

详解Spring Cloud中Hystrix 线程隔离导致ThreadLocal数据丢失

主要介绍了详解Spring Cloud中Hystrix 线程隔离导致ThreadLocal数据丢失,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧

springcloud集成hystrix 实现服务的隔离,熔断,降级

一、pom引入依赖 <!-- hystrix断路器 --> <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-netflix-hystrix</artifactId> </dependency> 二、app类添加注解@EnableHystrix package co

u012758488的博客 374

硅谷刷屏的ClawdBot,让Mac mini卖爆了!创始人爆料:一人开发、100% AI 写代码

这两天,个人 AI 助手 ClawdBot 席卷硅谷,国内外社交平台上全是关于它的讨论。 在试用后,网友们纷纷给出了很高的评价。“它是迄今为止最伟大的 AI 应用,相当于你 24 小时全天候专属 AI 员工。”Creator Buddy 创始人兼 CEO Alex Finn 盛赞道,“这就是他们 (Anthropic) 希望 Claude Cowork 呈现的样子。”

技术引领业务创新 1587

YOLOv8/v9实战:从零搭建智慧零售货架管理系统(附完整可运行代码)

摘要:本文基于YOLOv8/v9目标检测算法,详细讲解智慧零售货架管理系统的开发流程,解决传统人工巡检效率低、漏检率高的问题。内容涵盖环境配置、商品检测、陈列分析、价格标签验证等核心功能实现,提供可运行代码及零售专用数据集训练方法。系统支持实时货架状态监控、缺货预警与数据分析,帮助零售企业降低运营成本30%以上。 关键词:YOLOv8、YOLOv9、智慧零售、货架管理、商品检测 标签:YOLOv8、YOLOv9、目标检测、零售AI、Python

专注于人工智能、软件开发、工控自动化、工厂数字化及智能化等领域,希望和大家共同进步! 1311

Spring Cloud Hystrix 的信号量隔离与线程隔离

先说一下信号量和线程池的概念 信号量:Semaphore 是一个并发工具类,用来控制同时并发的线程数量,每次线程执行的时候,都需要通过acquire获得许可,线程执行完毕后,通过release方法释放。 线程池:线程池规定的线程数量,每个线程都是可复用的,其他线程是否可以加入需要看线程池满不满,不需要我们自己手动控制 信号量和线程池的区别 信号量只是规定的线程数量,这些线程都是需要我们手动new出来的,并不参与线程执行的具体逻辑,只不过其他线程想要同时处理请求时,需要查看信号量是否有空余的位置 线

qq_37588095的博客 1086

直击高频编程考点:字符串知识及经典算法题总结

字符串相关基本练习题总结(最长公共子串、最长回文子串、最长无重复字符子串、最小覆盖子串、字符串相乘、中文数字表达转实际数字格式等)

曾经“等你生日那天”都遥远得像未来,如今却可欢愉的挥手说“下个十年见” 172万+

微服务框架 SpringCloud微服务架构 微服务保护 32 隔离和降级 32.2 线程隔离

微服务框架 SpringCloud微服务架构 微服务保护 32 隔离和降级 32.2 线程隔离

代码改变世界 730

【人工智能】架构演进:基于本体论与 LLM Agent 的供应链备件决策闭环实践

本文探讨了如何将本体论(Ontology)与大语言模型(LLM)Agent结合,构建供应链备件管理的智能决策系统。针对LLM在垂直领域存在的幻觉和逻辑缺陷问题,提出通过本体论建立结构化知识框架,形成四层架构:知识建模、动态感知、深度分析和决策闭环。系统利用图数据库实例化领域本体,融合多源数据实现实时感知,结合图谱推理和时序预测进行确定性分析,最终通过工具调用完成决策执行。技术选型推荐Gemini 1.5 Pro、Neo4j和LangChain等工具,实现从自动化到智能化的升级。该架构为工业领域提供了可解释、

奶爸的编程之路,也就一周冷个三天 172

如何使用Github创建一个完全免费的个人网站

摘要: 本文详细介绍如何利用Github Pages免费搭建个人静态网站,适合零基础用户。首先需注册Github账号并创建特定命名的仓库(格式:用户名.github.io),然后通过网页或命令行创建index.html文件作为网站首页。完成后可通过"仓库设置- Pages"获取网站链接。文章还包含GitHub Desktop的安装使用、代码提交指南及常见问题自检方法,并说明即使Github被墙也可迁移至国内平台(如码云)。整个过程无需编程基础,仅需15分钟即可完成基础网站搭建。

安德洛夫 1514

手把手教你搭建SpringCloud项目(十一)集成Hystrix之服务降级

微服务架构的雪崩效应 什么是微服务中的雪崩效应? 首先介绍两个概念:扇入和扇出。 对于微服务中某个服务来说,调用它的服务请求称为扇入,它调用其它服务的请求称为扇出。 微服务中,⼀个请求可能需要多个微服务接口才能实现,会形成复杂的调用链路。这就带来⼀个问题,假设微服务A调⽤微服务B和微服务C,微服务B和微服务C⼜调⽤其它的微服务,这就是所谓的“扇出”。如果扇出的链路上某个微服务的调⽤响应时间过⻓或者不可⽤,对微服务A的调⽤就会占⽤越来越多的系统资源,进而引起系统崩溃,所谓的“雪崩效应”。 雪崩效应的解决方案

〆、挽风的博客 565

端侧 AI 落地避坑指南(中):为什么 QAT 救不了精度?——对齐“融合后算子“的硬件物理约束

在上一篇文章中,我们深入探讨了量化的本质,并得出结论:QAT(量化感知训练)是保持精度的关键。明明做了 QAT,精度还是崩塌了!让我们看一个真实的案例:✅ 使用了✅ 配置了量化✅ 训练了 50 个 epoch,学习率降为原来的 1/10✅ 冻结了 BN 统计量FP32 模型:mAP = 0.85QAT 后 FP32:mAP = 0.84(正常)工具量化后:mAP = 0.68(崩塌!问题出在哪里?层融合(Layer Fusion)机制。

weixin_51988935的博客 57

手把手教你搭建SpringCloud项目(十三)集成Hystrix之图形化Dashboard实时监控

在这篇手把手教你搭建SpringCloud项目(十二)集成Hystrix之服务熔断文章中,介绍了Hystrix的三大作用,其中服务降级和服务降级上两篇文章都学习完了,这篇文章就该轮到实时的监控,Hystrix除了隔离依赖服务的调用以外,还提供了准时的调用监控(Hystrix Dashboard)Hystrix会持续地记录所有通过Hystrix发起的请求的执行信息,并以统计报表和图形的形式展示给用户包括每秒执行多少请求多少成功,多少失败等。Netflix通过hystrix-metrics-event-stre

〆、挽风的博客 934

《C++面向对象程序设计》✍千处细节、万字总结(建议收藏)

《C++面向对象程序设计》✍千处细节、万字总结 文章目录《C++面向对象程序设计》✍千处细节、万字总结一、面向对象程序设计二、C++基础2.1 C++的产生和特点2.2 一个简单的C++示例程序2.3 C++在非面向对象方面对C语言的扩充输入和输出cinconst修饰符void型指针内联函数带有默认参数值的函数函数重载作用域标识符"::"强制类型转换new和delete运算符引用三、类和对象(一)3.1 类的构成3.2 成员函数的定义3.3 对象的定义和使用3.4 构造函数与析构函数构造函数成员初始化列表

像写诗一样优雅地写代码~ 78万+

2026实战:YOLOv11融合Swin Transformer,小目标检测精度暴涨47%

本文针对工业零件微小缺陷检测难题,提出了一种CNN与Transformer的最优融合方案。作者发现直接替换YOLOv11骨干网络为Swin Transformer会导致速度骤降69%而精度仅提升2.1%。通过大量实验,总结出三项核心设计原则:1)CNN为主、Transformer为辅;2)高层插入、浅层保留;3)模块化融合。最终提出三种渐进式融合方案,其中骨干部分替换方案(方案二)实现了小目标检测精度提升47%,推理速度仅下降8%的优异表现。文章详细解析了Swin Transformer的核心原理,提供了完

专注于Python爬虫开发,分享爬虫技巧、项目实战与反爬经验,使用Scrapy、BeautifulSoup等工具,解决数据抓取难题。 517

手把手教你搭建SpringCloud项目(十二)集成Hystrix之服务熔断

什么是断路器? “断路器”本身是一种开关装置,当某个服务单元发生故障监控(类似熔断保险丝),向调用方法返回一个符合预期的、可处理的备选响应(FallBack),而不是长时间的等待或者抛出调用方法无法处理的异常,这样就保证了服务调用方的线程不会被长时间、不必要地占用,从而避免了故障在分布式系统中的蔓延。乃至雪崩。 什么是熔断机制? 熔断机制是应对雪崩效应的一种微服务链路保护机制,当扇出链路的某一个微服务出错不可用或者响应时间太长,会进行服务的降级,进而熔断该节点微服务的调用,快速返回错误的响应信息,当检测到该

〆、挽风的博客 464

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

二十八、SpringCloud一(1)

文章目录今日授课目标一、系统架构演变之路(回顾)**1.1 单一应用架构****1.2 垂直应用架构****1.3 分布式服务架构**1.4 面向服务架构二、初识Spring Cloud2.1 Spring Cloud简介2.2 Spring Cloud的版本2.3 SpringCloud与SpringBoot版本匹配关系三、模拟微服务业务场景3.1 创建父工程3.2 创建服务提供者(provider)工程3.3 创建服务消费者(consumer)工程3.4 思考问题四、注册中心 Spring Cloud

u_hcy2000的博客 395

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

java多租_(八十八)java版多租户社交电子商务平台-SpringCloud整合Hystrix

电子商务平台源码请加企鹅求求:三伍三六二四柒二五玖。SpringCloud整合Hystrix由于服务调用者有可能调用服务挂掉的提供者,服务调用方整合Hystrix引入依赖org.springframework.cloudspring-cloud-starter-hystrix主启动开启断路器@SpringBootApplication@EnableEurekaClient//开启断路器@Enabl...

weixin_33433927的博客 139

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

SpringCloud教程之降龙十八掌(Finchley版本)

第一篇: 服务的注册与发现Eureka(Finchley版本) 第二篇: 服务消费者(rest+ribbon实现负载均衡)(Finchley版本) 第三篇: 服务消费者(Feign)(Finchley版本) 第四篇:断路器(Hystrix)(Finchley版本) 第五篇: 路由网关(zuul)(Finchley版本) 第六篇: 分布式配置中心(Spring Cloud Confi...

丘色果 289

SpringCloud中24个很重要的Starter

SpringCloud中几个很重要的组件 写在前面 一、spring-cloud-starter-eureka 1.1、待办事项 1.2、基本介绍 二、spring-cloud-starter-eureka-server 2.1、待办事项 三、spring-cloud-starter-turbine 3.1、待办事项 四、spring-cloud-starter-hystrix 4.1、待办事项 五、spring-cloud-starter-ribbon 5.1、待

m0_60721514的博客 1389

SpringCloud十八、豪猪服务监控hystrixDashboard。

①什么是服务监控hystrixdashboard? 除了隔离依赖服务的调用以外,Hystrix还提供了准实时的调用监控(Hystrix Dashboard),Hystrix会持续地记录所有通过Hystrix发起的请求的执行信息,并以统计报表和图形的形式展示给用户,包括每秒执行多少请求多少成功,多少失败等。Netflix通过hystrix-metrics-event-stream项目实现了对以上指...

lbh19630726的博客 325

SpringCloud学习笔记03

SpringCloud分布式微服务

xizheng2018的博客 449

springcloud微服务学习笔记(三十八):Hystrix之全局服务降级DefaultProperties

springcloud微服务学习笔记目录: springcloud微服务学习笔记 存在的问题: 1.每个业务方法对应一个兜底的方法,代码膨胀 2.统一和自定义分开 问题解决 1.@DefaultProperties(defaultFallback = “) 1: 1每个方法配置一个服务降级方法,技术上可以,实际上傻X 1: N除了个别重要核心业务有专属,庀普通的可以通过@DefaultProperties(defaultFallback=“”) 统- -跳转到统- 处理结果页面 通用的和独享的各自分开,避免

weixin_44871934的博客 1851

十八、springcloud(四)熔断器

1、熔断器(Hystrix)   a.断路器机制     断路器很好理解, 当Hystrix Command请求后端服务失败数量超过一定比例(默认50%), 断路器会切换到开路状态(Open). 这时所有请求会直接失败而不会发送到后端服务. 断路器保持在开路状态一段时间后(默认5秒), 自动切换到半开路状态(HALF-OPEN). 这时会判断下一次请求的返回情况, 如果请求成功, 断路器...

weixin_30802171的博客 97
上一篇: 玩转SpringCloud专题(十七)-SpringCloud之Hystrix请求合并
下一篇: 玩转SpringCloud专题(十九)-SpringCloud之Hystrix可视化数据监控Dashboard
熊猫IT技术
熊猫IT技术 优质创作者: Java技术领域 优质创作者: Java技术领域 领域专家: 后端开发技术领域 领域专家: 后端开发技术领域
博客等级 码龄10年 6021粉丝 1312原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

熊猫IT技术

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值