玩转SpringCloud专题(十七)-SpringCloud之Hystrix请求合并

架构师系列文:通过Spring Cloud组件Hystrix合并请求 看完上述知识点如果你深感Java基础不够扎实,或者刷题刷的不够、知识不全面小编专门为你量身定制了一套针对知识面不够,也莫慌!还有一整套的,可以瞬间查漏补缺全都是一丢一丢的收集整理纯手打出来的。 阅读详情

本文我们来演示下Hystrix中解决雪崩效应的第三种方式请求合并的实现

1.请求合并的场景

没有合并的场景中,对于provider的调用会非常的频繁,容易造成处理不过来的情况
在这里插入图片描述
合并请求的场景
在这里插入图片描述

2.什么情况下使用请求合并

在微服务架构中,我们将一个项目拆分成很多个独立的模块,这些独立的模块通过远程调用来互相配合工作,但是,在高并发情况下,通信次数的增加会导致总的通信时间增加,同时,线程池的资源也是有限的,高并发环境会导致有大量的线程处于等待状态,进而导致响应延迟,为了解决这些问题,我们需要来了解 Hystrix 的请求合并。

3.请求合并的缺点

设置请求合并之后,本来一个请求可能 5ms 就搞定了,但是现在必须再等 10ms 看看还有没有其他的请求一起的,这样一个请求的耗时就从 5ms 增加到 15ms 了,不过,如果我们要发起的命令本身就是一个高延迟的命令,那么这个时候就可以使用请求合并了,因为这个时候时间窗的时间消耗就显得微不足道了,另外高并发也是请求合并的一个非常重要的场景。

4.请求合并案例

4.1.添加依赖

将Hystrix的依赖添加即可

<!--服务熔断组件-->
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>
4.2.启动类修改

启动类中开启@EnableCircuitBreaker注解。

/**
 * @author bruceliu
 * @create 2019-10-15 14:36
 * @description
 */
@SpringBootApplication
@EnableDiscoveryClient // 开启EurekaClient功能
@EnableFeignClients // 开启Feign功能
@EnableCircuitBreaker//对hystrixR熔断机制的支持
public class ConsumerApp {

    public static void main(String[] args) {
        System.out.println("服务的调用端启动8082.....");
        SpringApplication.run(ConsumerApp.class,args);
    }
}
4.3.业务层修改

具体代码如下,要注意的是getUser方法的返回类型必须是Future类型,batchMethod 属性指定的是请求合并后要执行的方法的名称。

package com.bruceliu.api;

import com.bruceliu.bean.User;
import com.netflix.hystrix.contrib.javanica.annotation.HystrixCollapser;
import com.netflix.hystrix.contrib.javanica.annotation.HystrixCommand;
import com.netflix.hystrix.contrib.javanica.annotation.HystrixProperty;
import org.springframework.stereotype.Service;

import java.util.ArrayList;
import java.util.List;
import java.util.concurrent.Future;

/**
 * @BelongsProject: springcloud0310
 * @BelongsPackage: com.bruceliu.api
 * @Author: bruceliu
 * @QQ:1241488705
 * @CreateTime: 2020-03-11 20:00
 * @Description: TODO
 */
@Service
public class UserService {

    /**
     * consumer 的 controller 调用的方法
     * 该方法返回值必须要返回Future 类型
     * 利用 hystrix 合并请求
     */
    @HystrixCollapser(
            batchMethod = "batchUser", scope = com.netflix.hystrix.HystrixCollapser.Scope.GLOBAL, collapserProperties = {
            //请求时间间隔在 20ms 之内的请求会被合并为一个请求,默认为 10ms
            @HystrixProperty(name = "timerDelayInMilliseconds", value = "20"),
            //设置触发批处理执行之前,在批处理中允许的最大请求数。
            @HystrixProperty(name = "maxRequestsInBatch", value = "200"),
    })
    public Future<User> getUser(Integer id) {
        System.out.println("-----------id-------:" + id);
        return null;
    }

    /**
     * 调用 Provider 服务的方法
     *
     * @param ids
     * @return
     */
    @HystrixCommand
    public List<User> batchUser(List<Integer> ids) {
        for (Integer id : ids) {
            System.out.println(id);
        }
        //假设是调用 provider 服务后返回的 list
        List<User> list = new ArrayList<>();
        list.add(new User(1, "张三", 18));
        list.add(new User(2, "李四", 19));
        list.add(new User(3, "王五", 20));
        list.add(new User(4, "小明", 21));
        list.add(new User(100, "小张", 22));
        System.out.println("***********************");
        return list;
    }
}

4.4.控制器调用

调用service的方法,模拟多次请求的场景,具体如下

@RestController
public class UserController {

    @Autowired
    private UserService userService;
    @RequestMapping("/consumer")
    public void getUsers() throws Exception{

        Future<User> f1 = this.userService.getUser(1);
        Future<User> f2 = this.userService.getUser(2);
        Future<User> f3 = this.userService.getUser(3);
        System.out.println(f1.get().toString());
        System.out.println(f2.get().toString());
        System.out.println(f3.get().toString());
    }
}
4.5.测试

启动服务后访问,查看控制台效果,发现虽然请求了多次service,但是batchUser方法只执行了一次
在这里插入图片描述
只执行了一次,获取了三个结果!

4.5.控制器调用
参数作用/默认值备注
@HystrixCollapser
batchMethod合并请求的方法
scope请求方式/REQUEST请求方式分为REQUEST和GLOBAL。REQUEST范围只对一个request请求内的多次服务请求进行合并 GLOBAL是多单应用中的所有线程的请求中的多次服务请求合并
timerDelayInMilliseconds请求时间间隔在10ms之内的请求会被合并为一个请求/10ms建议尽量设置的小一点,如果并发量不大的话,其实也没有必要使用HystrixCollapser来处理
maxRequestsInBatch设置触发批处理执行之前,在批处理中允许的最大请求数/Integer.MAX_VALUE
SpringCloud(11):Hystrix请求合并 如图,多个客户端发送请求调用(消费者)项目中的findOne方法,这时候在这个项目中的线程池中会发申请与请求数量相同的线程数,对EurekaServiceProvider(服务提供者)的getUserById方法发起调用,每个线程都要调用一次,在高并发的场景下,这样势必会对服务提供者项目产生巨大的压力。请求合并就是将单个请求合并成一个请求,去调用服务提供者,从而降低服务提供者负载的,一种应对高并发的解决办法。 阅读详情

相关推荐

SpringCloud-Hystrix【解决灾难性雪崩-请求合并】

  本文我们来演示下Hystrix中解决雪崩效应的第三种方式请求合并的实现 Hystrix-请求合并 没有合并请求的场景   没有合并的场景中,对于provider的调用会非常的频繁,容易造成处理不过来的情况 合并请求的场景 什么情况下使用请求合并   在微服务架构中,我们将一个项目拆分成很多个独立的模块,这些独立的模块通过远程调用来互相配合工作,但是,在高并发情况下,通信次数的增加会导致总的...

波波烤鸭的博客 3631

请求合并java场景_SpringCloud (九) Hystrix请求合并的使用

前言:承接上一篇文章,两文本来可以一起写的,但是发现RestTemplate使用普通的调用返回包装类型会出现一些问题,也正是这个问题,两文没有合成一文,本文篇幅不会太长,会说一下使用和适应的场景。本文简单记述了Hystrix的请求合并的使用本文内容:一、请求合并是做什么的?如图,多个客户端发送请求调用RibbonConsumHystrix(消费者)项目中的findOne方法,这时候在这个项目中的线...

weixin_35753291的博客 347

详解Spring Cloud中Hystrix的请求合并

主要介绍了详解Spring Cloud中Hystrix的请求合并,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧

springcloud系列—Hystrix—第3章-4: Hystrix 请求合并

资料参考:《Spring Cloud 微服务实战》 目录 请求合并 服务提供者接口 服务消费者  合并请求和不合并的区别 通过注解实现请求合并   请求合并 在微服务架构中,我们将一个项目拆分成很多个独立的模块,这些独立的模块通过远程调用来互相配合工作,但是,在高并发情况下,通信次数的增加会导致总的通信时间增加,同时,线程池的资源也是有限的,高并发环境会导致有大量的线程处于等待状...

weixin_40663800的博客 296

手把手教你解决Kernel panic报错:init找不到的5种排查方法(附NFS挂载实战)

本文深入解析了Linux系统启动时出现“Kernel panic - not syncing: No working init found”报错的根本原因,并提供了五种系统性的排查方法。文章结合NFS挂载根文件系统的实战场景,详细阐述了从动态链接库依赖、内核引导参数、NFS权限配置、文件系统完整性到内核配置干扰的完整排查路径,帮助开发者快速定位并解决这一常见的系统启动故障。

weixin_29159995的博客 199

山石网科Hillstone防火墙基础上网配置_CLI命令行(最新版)

山石网科Hillstone防火墙安全网关基础上网基础网络配置_CLI命令行(最新版)

路与肥的博客 1万+

springCloud 中的熔断

熔断: 远程调用 服务端出现问题.要降级到调用本地方法的一种方式. hystris 三种: common @EnableHistrx注解 第一:构造 实现类 实现 当前FeignClient()修饰的接口 第二:构造工厂实现类.繁星为接口 class RedisCacheServiceFeignFallbackFactoryImpl implements FallbackFac...

不以人人的意志为转义乃天道 636

用Coze平台30分钟打造《花光10亿》小游戏:零代码AI开发实战

本文详细介绍了如何利用字节跳动推出的Coze平台,在30分钟内零代码开发一款名为《花光10亿》的AI小游戏。通过配置提示词、集成图像生成插件、构建自动化工作流以及使用数据库功能,即使没有编程基础的用户也能快速将创意转化为可交互的智能应用,体验AI开发的便捷与高效。

weixin_29313547的博客 209

带你快速了解SpringCloud之Ribbon&Histrix(负载均衡和熔断器)

学习目标 Ribbon 负载均衡 Ribbon的使用 Ribbon的负载均衡策略 Ribbon的原理 Hystrix 服务的可用性 Hystrix的配置 Hystrix的工作机制 负载均衡 因为请求量特别大的情况下,必须有多台服务来进行处理,配置集群。 集群中的机器可能出现忙闲不均的情况,就需要有一套机制,实现平均分配请求量到每台机器上——负载均衡 负载均衡分类 硬件负载均衡 —— F5 软件负载均衡 服务端负载均衡 如:Nginx 客户端负载均衡 如:Ribbon Ribbon的使

asd747571569的博客 1593

新硬盘到手,在统信UOS或麒麟系统上怎么认?保姆级教程从识别到挂载一步到位

本文提供新硬盘在统信UOS或麒麟KYLINOS系统上的完整配置指南,从识别物理硬盘到挂载全流程详解。通过终端命令如df和lsblk,帮助用户完成硬盘识别、分区、文件系统创建及挂载配置,确保新硬盘顺利投入使用。

weixin_30698297的博客 444

LAMMPS in文件详解:从零开始手把手教你配置金属分子动力学模拟

本文详细解析了LAMMPS in文件的配置方法,手把手教你完成金属分子动力学模拟的全流程。从软件环境准备、势函数选择,到使用Materials Studio构建模型、编写in文件进行能量最小化与系统弛豫,再到实施单轴拉伸生产模拟并提取应力应变数据,最后通过Python和OVITO进行结果分析与可视化,提供了完整的实战指南和常见问题排查技巧。

weixin_28475533的博客 530

Spring Cloud微服务架构学习-1

一、开发环境配置 开发环境:IDEA2021+ JDK1.8+maven 1.JDK1.8的下载与安装 2.IDEA配置和maven 这里没有IDEA的下载与安装 (注意:这里环境的配置一定要小心注意细节,尤其是Maven,否则容易引起后续项目创建报错) 二、创建父级目录 1.创建项目 通过Maven工具创建,记得JDK版本选择我们安装的1.8 我这里因为是要交的作业,统一命名项目坐标 2.删除src 因为我们是创建父级项目,所以把src进行删除。 3.修改pom.xml 作为父级项目,需要增加的p

dream_s_a的博客 3616

rknn-toolkit推理yolov5-face.rknn模型--python代码

import os import urllib import traceback import time import sys import numpy as np import cv2 from rknn.api import RKNN ONNX_MODEL = 'yolov5s.onnx' RKNN_MODEL = 'yolov5s.rknn' IMG_PATH = './bus.jpg' DATASET = './dataset.txt' QUANTIZE_ON = True BOX_THR.

C/C++、嵌入式开发、深度学习算法、模型部署与推理优化 3083

十七、Spring Cloud服务容错保护:Spring Cloud Hystrix

在为微服务架构中,我们将系统拆分成多个服务单元,各个单元的应用间通过服务注册与订阅的方式互相依赖的,由于每个单元都在不同的进程中运行,依赖通过远程调用的方式执行,这样就有可能因为网络原因或是依赖服务自身问题出现调用故障或者延迟,而这些问题直接导致调用方的对外服务也出现延迟,若此时调用方的请求不断增加,最后就会因为等待出现故障依赖方的响应形成任务积压,最终导致自身服务瘫痪。 因此为了解决这个问题产

奈斯菟咪踢呦 583

5G NR资源网格详解:RE、RB、符号、时隙与帧

本文以ETSI发布的3GPP TS 38.211 V18.3.0(Release 18)为协议基线,从二维资源网格出发,建立这些对象的严格关系;随后解释Numerology如何改变时间和频率粒度,并给出索引换算、带宽计算、内存布局和排障方法。

jifen0bianhuan的博客 185

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

Spring Cloud中Feign配置详解

到目前为止,小伙伴们对Feign的使用已经掌握的差不多了,我们在前文也提到Feign是对Ribbon和Hystrix的整合,那么在Feign中,我们要如何配置Ribbon和Hystrix呢?带着这两个问题,我们来看看本文的内容。 本文是Spring Cloud系列的第十八篇文章,了解前十七篇文章内容有助于更好的理解本文: 1.使用Spring Cloud搭建服务注册中心 2.使用Spring ...

varyall的专栏 4436

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

JAVA软件开发岗位高频技术面筋(持续更新)

JAVA软件岗位技术面筋

Herry_644280825的博客 284

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

同一列相同内容合并Java逻辑_高并发场景-请求合并(一)SpringCloud中Hystrix请求合并...

背景在互联网的高并发场景下,请求会非常多,但是数据库连接池比较少,或者说需要减少CPU压力,减少处理逻辑的,需要把单个查询,用某些手段,改为批量查询多个后返回。如:支付宝中,查询“个人信息”,用户只会触发一次请求,查询自己的信息,但是多个人同时这样做就会产生多次数据库连接。为了减少连接,需要在JAVA服务端进行合并请求,把多个“个人信息”查询接口,合并为批量查询多个“个人信息”接口,然后以个人信息...

weixin_39534395的博客 503

springCloud—Hystrix服务降级和熔断

一、原理: 一个单体服务,拆成多个微服务A、B、C,一切正常的时候还好,万一A有个功能需要调用B的方法, B的这个方法又要调用C的方法。这个时候C出幺蛾子了,B一直请求不到C就没办法返回结果,A又不断的在请求B。 这个时候就会耗尽资源,导致整个系统崩溃掉,就是所谓的雪崩效应。 那么有什么防止措施吗?那就用Hystrix服务降级和熔断吧。 这东西听起来好像有点高级,其实说白了, 熔断就是请求一个服...

zhangCheng的博客 723

SpringCloud学习——Histrix服务限流、降级、熔断

服务降级指的是当服务器压力剧增的情况下,为了保证核心功能的可用性 ,而选择性的降低一些功能的可用性,或者直接关闭该功能。服务降级是从整个系统的负荷情况出发和考虑的,对某些负荷会比较高的情况,为了预防某些功能(业务场景)出现负荷过载或者响应慢的情况,在其内部暂时舍弃对一些非核心的接口和数据的请求,而直接返回一个提前准备好的 fallback 兜底处理。这样,虽然提供的是一个有损的服务,但却保证了整个系统的稳定性和可用性。现代微服务架构都是分布式的,由非常多的服务组成。不同服务之间相互调用,组成复杂的调用链路。

KIMTOU的博客 3062

Spring Cloud Hystrix的请求合并

在获取到批量请求结果之后,通过请求合并器再将批量结果拆分并分配给每个被合并的请求。所以在资源有效并且在短时间内会产生高并发请求的时候,为避免连接不够用而引起的延迟可以考虑使用请求合并器的方式来处理和优化。在上面的构造函数中,我们为请求合并器设置了时间延迟属性,合并器会在该时间窗内收集获取单个User的请求并在时间窗结束时进行合并组装成单个批量请求。接口的请求被请求合并器拦截下来,并在合并器中进行组合,然后将这些请求合并成一个请求发向。接下来,我们通过一个简单的示例来直观的理解实现请求合并的过程。

2401_89224931的博客 1012

Hystrix-请求合并

一)请求合并处理雪崩 1)下图为一个的Constomer调用Provider的图 下图为在同一时间下共有的6个Customer要消费的Provider,那么此时就要通过的TOmcat的线程池创建6个线程访问的Provider,此时是没什么问题的。但是如果是500、1000个呢?Tomcat线程池是有上限的这样的势必是对Provider一个的跳转,如果压力过大Provider肯定是要出现问题的。那么...

失忆๑的博客 1326

SpringCloud简介

个人博客网:www.lfuping.cn (你想要的多有) Spring Cloud是一系列框架的有序集合。它利用Spring Boot的开发便利性巧妙地简化了分布式系统基础设施的开发,如服务发现注册、配置中心、消息总线、负载均衡、断路器、数据监控等,都可以用Spring Boot的开发风格做到一键启动和部署。Spring Cloud并没有重复制造轮子,它只是将目前各家公司开发的比...

太年轻的博客 1270
上一篇: 玩转SpringCloud专题(十六)-SpringCloud之Hystrix缓存
下一篇: 玩转SpringCloud专题(十八)-SpringCloud之Hystrix隔离
熊猫IT技术
熊猫IT技术 优质创作者: Java技术领域 优质创作者: Java技术领域 领域专家: 后端开发技术领域 领域专家: 后端开发技术领域
博客等级 码龄10年 6021粉丝 1312原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

熊猫IT技术

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值