hystrix原理及使用

AI Agent开发第85课-DeepSeek-OCR 安装全指南:从 Transformers 到 vLLM,手把手教你跑通企业级 OCR 本文系统讲解 DeepSeek-OCR 的两种部署方式——基于 Hugging Face Transformers 的标准推理与基于 vLLM 的高性能加速推理。详细说明 CUDA 与 PyTorch 版本匹配、环境验证、依赖安装等关键细节,并提供可直接运行的完整代码示例。无论你是单卡调试还是高并发服务部署,都能在这里找到清晰路径。 阅读详情

一、技术分享

  1. 题引,用一个业务场景开启话题。

  2. hystrix简单介绍

  3. hystrix断路器的功能详细介绍

    ① 服务降级

    ② 依赖隔离

    • 线程隔离

    • 信号量隔离

    ③ *服务熔断

    ④ 服务监控

  4. hystrix使用介绍

  5. 借助postman + hystrix dashboard 演示hystrix上述四大功能,jmeter对该接口进行压测观察吞吐量

  6. 总结

二、题引

在这里插入图片描述

三、hystrix功能简介

hystrix是Netflix开源的一款容错框架,防雪崩利器,是springcloud核心组件之一,是解决高并发问题三大利器之一。

hystrix针对一些正常执行的业务有限流的功能,针对突发的流量,它能够拒绝超出自身处理能力的请求,让这些请求直接走降级方法,快速响应给调用方;

针对一些异常和超时执行的业务有熔断和降级的功能,并且它还提供服务监控的功能来帮我们更好的了解接口的访问的成功、失败、超时、拒绝等请求数据,并且可以获取到该接口的线程池的使用情况,以便在测试时更好的控制线程池的参数;

针对一些核心的接口,hystrix还能将它和tomcat线程隔离,这些核心接口拥有自己的线程池,就算该接口阻塞线程过多线程池被打满,也不会影响其他接口的执行;

四、hystrix功能详解

1、服务降级

服务降级和openfeign的降级方法效果一样,方法体内抛出异常或者该方法执行超时之后会对当前方法进行降级执行。如果openfiegn和hystrix的超时时间都设置的话。分两种情况:

①openfeign的超时时间大于hystrix的超时时间,则走hystrix的降级方法。

②openfeign的超时时间小于hystrix的超时时间,openfeign会提前断开连接,走openfeign的降级方法;但是hystrix会继续执行业务代码直至完成或抛出异常。

一般我们会采用第一种方案,第二种方案有一个弊端就是,如果B服务涉及到事务,因为A服务提前执行降级方法,而B服务会继续执行完成;用户会认为我这次的操作没有成功(降级肯定意味着操作失败了),但实际B服务执行完成没有回滚。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-DaakhOUw-1679906547110)(/Users/icourt/Library/Application Support/typora-user-images/image-20230327163136742.png)]

2、依赖隔离

(1)线程隔离

线程隔离是将处理请求的tomcat线程池和执行调用方法的线程池做了一个隔离,请求线程并不执行具体的业务,而是由隔离的线程去执行,隔离线程执行完成之后交由请求线程响应给调用者,这就类似于一个线程将任务交给另一个线程去执行,用future来get执行结果,并发请求隔离受线程数量影响。

假设我们给B服务中的/provider/getUser路径的接口进行了线程隔离。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-pGh3qOX7-1679906547110)(/Users/icourt/Library/Application Support/typora-user-images/image-20230327163157889.png)]

同样是A服务调用B服务,调用流程图:

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-JXQbkOrh-1679906547110)(/Users/icourt/Library/Application Support/typora-user-images/image-20230327163217084.png)]

(2)信号量隔离

信号量隔离有点类似于限流算法里面的计数限流,使用这种方式隔离,业务代码会由请求线程执行,但是执行前会判断信号量是否满。并发请求受信号量数量影响。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-EOis3qih-1679906547111)(/Users/icourt/Library/Application Support/typora-user-images/image-20230327163233654.png)]

(3)两种隔离的区别

线程池隔离信号量隔离
线程请求线程和执行线程不是同一条线程请求线程和执行线程是同一条线程
开销排队、调度、上下文切换,开销较大没有线程切换,开销低
异步支持不支持
传递http Header无法传递http Header可以传递http Header
超时支持不支持

疑问:

什么时候用线程池,什么时候用信号量呢?

3、*服务熔断

hystrix的服务降级保证服务调用者在调用异常服务时, 快速返回结果, 避免大量的同步等待。而服务熔断是hystrix监控我们调用的成功失败率之后,来决定后来的请求是否再去尝试执行业务代码。

注意熔断和降级的区别。

hystrix熔断器有三种状态:打开、半开、关闭

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-eipFjwBA-1679906547111)(/Users/icourt/Library/Application Support/typora-user-images/image-20230327163258300.png)]

4、服务监控

hystrix自己提供了一个监控接口执行情况的面板,通过监控面板可以了解到使用hystrix接口的执行情况,下面是监控面板,里面包含了时间窗口内(默认10秒)该接口执行的成功数、降级数、超时数、拒绝数、失败数/总请求数以及熔断器状态等信息,方便我们更好的设置各项参数。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-VOhsRFUA-1679906547111)(https://xdqrsl5ztv.feishu.cn/space/api/box/stream/download/asynccode/?code=MjM5MWQ5NWY4MTRlMGExZTA4MzNlMWJhOGJjMTg0ZjZfU1dMYjBFSXZESzRybFVNaWVjRm1YaEpnMnBOaHRaRHpfVG9rZW46Ym94Y25OQnYybDhIb08wZXB6TkhpcW5TTXpiXzE2Nzk5MDU4MDI6MTY3OTkwOTQwMl9WNA)]

五、hystrix使用介绍

引入hystrix依赖:

<!--熔断器-->
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>
<!--远程调用工具-->
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-openfeign</artifactId>
</dependency>

首先在启动类上添加注解:

@SpringBootApplication
@EnableHystrix  // hystrix启动类注解
@EnableHystrixDashboard // hystrix dashboard监控面板
public class HystrixProviderApplication {
    public static void main(String[] args) {
        SpringApplication.run(HystrixProviderApplication.class, args);
    }
    
    /**
     * 此配置是为了服务监控而配置,与服务容错本身无关,springcloud升级后的坑
     * ServletRegistrationBean因为springboot的默认路径不是"/hystrix.stream",
     * 只要在自己的项目里配置上下面的servlet就可以了
     */
    @Bean
    public ServletRegistrationBean getServlet() {
        HystrixMetricsStreamServlet streamServlet = new HystrixMetricsStreamServlet();
        ServletRegistrationBean registrationBean = new ServletRegistrationBean(streamServlet);
        registrationBean.setLoadOnStartup(1);
        registrationBean.addUrlMappings("/hystrix.stream");
        registrationBean.setName("HystrixMetricsStreamServlet");
        return registrationBean;
    }
}

application.yml文件添加配置参数:

# 暴露全部的监控信息
management:
  endpoints:
    web:
      exposure:
        include: "*"
# 允许本机查看监控信息
hystrix:
  dashboard:
    proxy-stream-allow-list: "localhost"

在需要熔断的接口上使用@HystrixCommand注解即可,核心是该注解的参数,该注解涉及到的参数很多。

    @RequestMapping(value = "provider/{flag}", method = RequestMethod.GET)
    @HystrixCommand(fallbackMethod = "fallback",
            commandProperties = {
                    // 默认超时时间是1000ms,可通过以下进行设置 单位为ms
                    @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "4000"),
                    // 打开熔断 默认开启
                    @HystrixProperty(name = "circuitBreaker.enabled", value = "false"),
                    // 当在配置时间窗口内达到此数量的失败后,进行短路。默认20个
                    @HystrixProperty(name = "circuitBreaker.requestVolumeThreshold", value = "10"),
                    // 短路多久以后开始尝试是否恢复,默认5s
                    @HystrixProperty(name = "circuitBreaker.sleepWindowInMilliseconds", value = "10000"),
                    // 出错百分比阈值,当达到此阈值后,开始短路。默认50%
                    @HystrixProperty(name = "circuitBreaker.errorThresholdPercentage", value = "60"),
                    // 设置为信号量隔离,Thread|Semaphore可选,默认Thread
//                    @HystrixProperty(name = "hystrix.command.default.execution.isolation.strategy", value = "Semaphore")
                    // 设置信号量数量,默认为10个
//                    @HystrixProperty(name = "fallback.isolation.semaphore.maxConcurrentRequests", value = "30")

            },
            groupKey = "provider-group",
            // 接口名称,默认为方法名
            commandKey = "provider",
            // 线程池名称,相同名称使用同一个线程池
            threadPoolKey = "provider-threadPool",
            threadPoolProperties = {
                    // 线程池大小,默认为10个线程
                    @HystrixProperty(name = "coreSize", value = "20"),
                    // 队列等待阀值(最大等待长度), 默认 -1
                    @HystrixProperty(name = "maxQueueSize", value = "100"),
                    // 线程存活时间,默认 1min
                    @HystrixProperty(name = "keepAliveTimeMinutes", value = "2"),
                    // 超出队列等待阀值执行拒绝策略
                    @HystrixProperty(name = "queueSizeRejectionThreshold", value = "100")
            }
    )
    public String provider(@PathVariable("flag") int flag) {
        System.out.println(Thread.currentThread().getName() + "远程服务调用成功");
        return "远程服务调用成功";
    }

六、hystrix测试

postman + jmeter + hystrix dashboard演示hystrix功能

① 手动postman测试hystrix的降级、熔断机制(provider)

② jmeter演示hystrix线程隔离(provider)

③ jmeter演示熔断与不熔断该服务接口的吞吐量(consumer)

七、总结

集成hystrix的远程调用整个流程:

在这里插入图片描述

我们在做业务的时候不光要注重代码的健壮性,还要关注系统整体的一个稳定性和高可用。

【CSP-S 提高组】考试大纲集合 【CSP-S提高组】考试大纲集合 阅读详情

相关推荐

STM32L452与FPGA通信翻车?手把手教你关闭I2C时钟延展避坑(附OVR错误解决方案)

本文深入解析STM32L452与FPGA在I2C通信中因时钟延展功能导致的常见问题,提供关闭I2C时钟延展的详细配置方法(NOSTRETCH模式),并针对可能出现的OVR错误给出Combined模式解决方案。通过实战案例和波形分析,帮助工程师快速排查和解决嵌入式系统中的I2C兼容性问题。

e3f4g5的博客 217

Hystrix使用篇 - Hystrix的使用

本文介绍Hystrix的使用

The Secret 3916

【2021工业图像异常检测文献】DRÆM: 基于判别性训练的重建嵌入表面异常检测方法

DRÆM – A discriminatively trained reconstruction embedding for surface anomaly detection

qq_1532145264的博客 1478

SpringCloud笔记

eureka服务注册中心 <!--eureka-server服务端 --> <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-eureka...

CBeann的博客 528

Tip-Adapter: Training-free Adaption of CLIP for Few-shot Classification

对比式视觉-语言预训练,也称为CLIP,通过大规模的图像-文本对来学习视觉表示,为zero-shot知识迁移展示了新的范式。它在下游任务上展现出令人瞩目的性能,实现了zeri-shot的知识迁移。为了进一步增强CLIP的适应能力,现有方法提出了微调可学习模块的方法,显著提高了少样本情况下的性能,但也引入了额外的训练时间和计算资源。在本文中,我们提出了一种适用于CLIP的无需训练的少样本分类方法,称为Tip-Adapter。

qq_43800752的博客 1165

从零开始学嵌入式之STM32——1.什么是STM32

它是ST公司推出的一系列单片机的统称。ST----指的是ST公司----意法半导体。意法半导体,成立于1987年,是由意大利的SGS微电子公司和法国的Thomson半导体公司合并而成。ARM目前主要是ARM架构处理器及外围组件的电路设计方案,知识产权授权的形式收取费用,其他公司根据ARM的方案设计出CPU产品。,它以应用为核心,软硬件可裁剪,旨在实现对设备的控制、监测或辅助功能,区别于通用计算机(如 PC、服务器)的 “一机多用” 属性。在嵌入式领域,目前主流的是cortex-M3内核推出的芯片。

qshdyy的博客 1858

【后端】Hystrix使用教程

通过遵循这些最佳实践和使用策略,你可以更好地利用Hystrix来增强你的微服务架构的稳定性和可靠性。同时,保持对系统性能和资源使用的监控,并不断优化和调整配置,以确保系统能够持续高效地运行。

大雨淅淅的博客 2890

电机控制易混知识点1-基波频率/载波频率/采样频率

在电机控制学习工作中会接触到很多专业名词,其中基波频率,载波频率,采样频率是最常接触到的,特别对于电机控制小白开说,不容易理解,现对这几个概念做下总结归纳。

新能源电机控制工程师 | 聚焦实战问题,搭建互助平台 分享电机控制代码调试、现场故障排查、算法优化中的真实困惑;开放讨论电机基础知识以及工作中遇到难点等共性难题。拒绝单向输出,只做工程师的“技术树洞”与“解忧杂货铺”! 2195

微服务——Hystrix的使用

Hystrix是由Netflix开源的一个延迟和容错库,用于隔离访问远程系统、服务或者第三方库,防止级联失败,从而提升系统的可用性与容错性。Hystrix主要通过以下几点实现延迟和容错。包裹请求:使用HystrixCommand包裹对依赖的调用逻辑,每个命令在独立线程中执行。这使用 了设计模式中的“命令模式”。跳闸机制:当某服务的错误率超过一定的阈值时,Hystrix可以自动或手动跳闸,停止请求该服务 一段时间。资源隔离:Hystrix为每个依赖都维护了一个小型的线程池(或者信号量)。

weixin_53604412的博客 3159

一个AI Agent顶十个软件,toB赛道正在大洗牌

一个AI Agent顶十个软件,toB赛道正在大洗牌

ith321的博客 1332

Win11+Ubuntu18.04+Ubuntu20.04三系统安装与卸载

以下情况均为个人情况:1.插入启动 U 盘后,登录时可以按F12(拯救者Y7000,不同电脑不同)进入BIOS,选择从启动盘启动。2.。3.5.在win基础上,安装第一个Ubuntu系统后,系统启动界面类似如下第一张图,Ubuntu不显示版本号。安装第二个Ubuntu系统后,系统启动界面如下第二张图,如果想更改启动项的名称,可自行查阅相关资料。

weixin_61686291的博客 2542

微服务设计指导-hystrix的监控

我们在生产环境或者是在压测时经常会需要了解:熔断了多少次?目前哪些接口断着哪些接口开着? 你总不能看那些刷的可以飞起来的日志滚屏吧?那你真的成Matrix了。 因此,Hytrix是先天就带有熔断监控功能的。如下这样的截图: 这是由以下这个组件组成的(我们是基于spring boot2以及spring cloud2来做的hystrix监控,版本是有严格讲究的,甚至连artifactId的名字在不同版本都有本质上的区别,你千万记得不要盲目的复制粘贴。 <dependency>

打造全国最全的AI Agent开发知识领域的博客 1347

代谢组数据分析(十九):随机森林构建代谢组预后模型

建立胃癌(GC)预后模型时,从队列3中的181名患者中,使用右删失结果数据进行了随机分层抽样,分为训练数据集(n = 121)和测试数据集(n = 60)。训练了一个包含1000棵树的随机生存森林(RSF)模型,根据它们基于排列的特征重要性来选择突出的特征。通过再次训练随机生存模型,并选取28种代谢物,建立了显示出色预测能力(AUROC = 0.832,95% CI:0.697-0.951)的最佳模型,用于预测测试数据集中GC患者的生存结果。

专注生信领域 1716

Hystrix从原理到详细使用

Hystrix从原理到使用 文章目录Hystrix从原理到使用一、什么是Hystrix二、Hystrix的原理1、命令模式2、观察者模式3、原理分析a.舱壁模式三、如何使用Hystrix四、详细配置与Hystrix监控优化1、详细配置2、监控优化五、总结 一、什么是Hystrix 源自Martin Fowler的Circuit Breaker,即断路器。“断路器”本身是一种开关装置,用于线路上的...

rekingman的博客 3786

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

Hystrix实现原理

Hystrix实现原理 在了解hystrix的工作原理之前,我们先来了解一下命令模式 命令模式 命令模式的定义:将请求封装成一个对象,从而让用户使用不同的请求把客户端参数化,以及支持可撤销和恢复的功能。 命令模式常用的对象 Command:请求封装成的对象,该对象是命令模式的主角。也就是说将请求方法封装成一个命令对象,通过操作命令对象来操作请求方法。在命令模式是有若干个请求的,需要将这些请求封装成一条条命令对象,客户端只需要调用不同的命令就可以达到将请求参数化的目的。将一条条请求封装成一条条.

skh2015java的博客 4560

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

hystrix原理_Spring cloud Feign + Hystrix 原理(一)

hystrix 流程图Netflix Hystrix已经停止更新目前处于维护状态,在SpringCloud中对服务的调用通常是用feign完成的,如果同时想使用hystrix做熔断则只需如下配置就可以完成(前提已经引入了feign相关依赖)引入springcloud hystrix starter 依赖在application.properties 里添加feignclient enable hy...

weixin_39522103的博客 247

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

Spring Cloud Hystrix设计原理

0. Hystrix是什么? Hystrix的本意是指 豪猪 的动物,它身上长满了很长的较硬的空心尖刺,当受到攻击时,通过后退的方式使其尖刺刺入敌方的身体。作为这种特征的引申,Netflix公司在分布式微服务架构的践行下,将其保护服务的稳定性而设计的客户端熔断和断路器的解决方案,称之为Hystrix。 Hystrix的设计目的是将应用中的远程系统访问、服务调用、第三方依赖包的调用入口,通过资源控...

我的程序人生(亦山札记) 3893

hystrix原理_SpringCloud-Hystrix原理

Hystrix官网的原理介绍以及使用介绍非常详细,非常建议看一遍,地址见参考文档部分。一、Hystrix原理1. Hystrix能做什么通过hystrix可以解决雪崩效应问题,它提供了资源隔离、降级机制、融断、缓存等功能。资源隔离:包括线程池隔离和信号量隔离,限制调用分布式服务的资源使用,某一个调用的服务出现问题不会影响其他服务调用。降级机制:超时降级、资源不足时(线程或信号量)降级,降级后可以配...

weixin_39709367的博客 503

Hystrix原理及其使用

1、概念 1.1、分布式系统面临的问题 1.分布式体系结构中的应用程序,有数10个依赖关系,每个依赖关系在某些时候将不可避免的失败 2.服务雪崩: 多个微服务之间调用时,假设微服务A调用微服务B和C,B和C又调用其他微服务,即“扇出”。 扇出的链路上某个微服务的调用响应时间过长或不可用,对A的调用会占用越来越多的系统资源,进而引起系统崩溃(级联故障),即“雪崩效应” 1.2、Hystrix是什么 1.Hystrix是一个用于处理分布式系统的延迟和容错的开源库 2.Hystrix能够保证在一..

weixin_44302046的博客 1700

Spring Cloud Hystrix实现原理

Hystrix实现原理 在了解hystrix的工作原理之前,我们先来了解一下命令模式 命令模式 命令模式的定义:将请求封装成一个对象,从而让用户使用不同的请求把客户端参数化,以及支持可撤销和恢复的功能。 命令模式常用的对象 Command:请求封装成的对象,该对象是命令模式的主角。也就是说将请求方法封装成一个命令对象,通过操作命令对象来操作请求方法。在命令模式是有若干个请求的,需要将这些请求封装成一条条命令对象,客户端只需要调用不同的命令就可以达到将请求参数化的目的。将一条条请求封装成一条条.

skh2015java的博客 893

Spring Cloud Hystrix原理简析

Hystrix中文含义是豪猪,因其背上长满棘刺,从而拥有了自我保护的能力。Hystrix是Netflix开源的一款容错框架。 Hystrix设计目标: 对来自依赖的延迟和故障进行防护和控制——这些依赖通常都是通过网络访问的 阻止故障的连锁反应 快速失败并迅速恢复 回退并优雅降级 提供近实时的监控与告警 Hystrix遵循的设计原则: 防止任何单独的依赖耗尽资源(线程) 过载立即切...

谈少华的博客 7675

Hystrix的原理及使用

在真正学习Hystrix之前,让我们愉悦的谈谈Hystrix产生的背景 一、背景介绍 1、服务雪崩 分布式系统环境下,服务间类似依赖非常常见,一个业务调用通常依赖多个基础服务。如下图, 如果各个服务正常运行,那大家齐乐融融,高高兴兴的,但是如果其中一个服务崩坏掉会出现什么样的情况呢?如下图, 当Service A的流量波动很大,流量经常会突然性增加!那么在这种情况下,就算Service A能扛得住请求,Service B和Service C未必能扛得住这突发的请求。 此时,如果Service C因为抗不

李的博客 4万+

Hystrix底层原理

Metrics 是 Hystrix的指标数据收集器,全名为 HystrixMetrics,所有的请求不论请求失败成功都会上传至metrics,metrics就是用来记录请求状态的数据中心。是否开启熔断都是通过metrics中统计的请求失败率来计算的,就是滑动窗口时间内请求的失败率;

叶新东老师的博客 589

Hystrix 原理详解

Hystrix 通过隔离+熔断+降级三位一体的机制保护系统:线程池隔离避免资源耗尽熔断器快速切断故障依赖降级逻辑保证基本可用性尽管目前已停止维护,但其设计思想仍是分布式容错的经典范式。

C18298182575的博客 1077

hystrix熔断原理_用Hystrix保护您的应用程序

hystrix熔断原理 在先前的帖子http://www.javacodegeeks.com/2014/07/rxjava-java8-java-ee-7-arquillian-bliss.html中,我们讨论了微服务以及如何使用(RxJava)使用Reactive Extensions编排微服务。 但是,如果一项或多项服务由于已被暂停或引发异常而失败,该怎么办? 在像微服务体系结构这样的...

cunfu5234的博客 301

Hystrix流程原理图

雪落南城的博客 579
上一篇: 算法入门-常见的算法
下一篇: 规则引擎Liteflow可视化形态进阶
像风琢磨不住
博客等级 码龄6年 34粉丝 12原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值