Guava RateLimiter在Web应用中的使用

guava之限流RateLimiter 常用的限流方式和场景有: 限制总并发数(比如数据库连接池、线程池) 限制瞬时并发数(如nginx的limitconn模块,用来限制瞬时并发连接数,Java的Semaphore也可以实现) 限制时间窗口内的平均速率(如Guava的RateLimiter、nginx的limitreq模块,限制每秒的平均速率) 其他:比如如限制远程接口调用速率、限制MQ的消费速率。另外还可以根据网络连接数、网络流量、CPU或内存负载等来限流。 我们常说的限流,其实更多的都是指时间窗口内的平均速率,所以往往这种限流方式成了 阅读详情

Google的Guava是JDK补充的一个神器,值得好好学习。
一般Web系统的访问限制都可以用容器本身来实现,比如tomcat就可以在connector上面配置connection数目的限制,servlet thread限制。
有时候系统复杂后希望对不同服务提供不同的RateLimiter,例如对数据库操作要求比较大的速率小些,在内存可以处理的速率大写,还有可能对集群提供rate limiter服务。
如何限速是一个公共话题,相关的算法和实现都有一大堆,有兴趣可以看看Calvin的springside4 wiki关于这个章节的描述,写的非常棒。
这里记录下实践过程中系统如何使用RateLimiter来限制所有spring访问的访问速率,简单版,没有注入化ratelimiter需要的输入参数。

1. 定义Filter

public class RateLimiterFilter implements Filter {

    private static Logger logger = Logger.getLogger(RateLimiterFilter.class);

    private RateLimiter limiter = null;

    public void init(FilterConfig config) throws ServletException {
        limiter = RateLimiter.create(100); //100 request per second
    }

    public void destroy() {
    }

    public void doFilter(ServletRequest request, ServletResponse response,
            FilterChain chain) throws IOException, ServletException {
        HttpServletRequest req = (HttpServletRequest) request;
        HttpServletResponse res = (HttpServletResponse) response;

        if(limiter.tryAcquire()) {
             if(logger.isTraceEnabled()){
                 logger.trace("get access: ");
             }
             chain.doFilter(request, response)
        } else {
             logger.info("system limitation reached!");
             req.getRequestDispatcher("/WEB-INF/jsp/error/429.jsp").forward(req,res);
        }
    }
}

2. 修改Web.xml

<filter> 
    <filter-name>ratelimiter</filter-name>
    <filter-class>RateLimiterFilter</filter-class> 
  </filter> 
  <filter-mapping> 
    <filter-name>ratelimiter</filter-name>
    <servlet-name>springmvc</servlet-name> 
  </filter-mapping> 

3. Maven中引入RateLimiter包

<dependency>
    <groupId>com.google.guava</groupId>
    <artifactId>guava</artifactId>
    <version>18.0</version>
</dependency>

大功告成!

guava限流器RateLimiter使用简介(Springboot实现) 令牌产生的稳定速率,只是这里的速率是转换成了两个令牌生产之间的时间间隔(毫秒)。之所以是稳定速率,是因为SmoothWarmUp,在预热阶段产生令牌的速率会低于这个值。RateLimiter初始化的时候,传入的permitsPerSecond表示的是每秒产生的产生的令牌个数,也就是说令牌的生产速率的时间单位就给固定了,那么stableIntervalMicros = 1s/permitsPerSecond。 阅读详情

相关推荐

基于 AOP 实现的限流方案:Sentinel 与 Guava RateLimiter 对比分析

Sentinel 是阿里巴巴开源的一款流量控制组件,它提供了实时监控、限流、熔断等功能。结合 AOP 可以在不修改原有业务代码的前提下,对接口进行限流。Guava 是 Google 开源的 Java 工具库,其中的类可以实现简单的限流功能。结合 AOP 同样可以实现非侵入式的限流。Sentinel 功能丰富,除了限流外,还支持熔断、降级等多种流量控制策略,适用于复杂的业务场景。Guava RateLimiter 功能相对单一,主要用于简单的限流,适合对功能要求不高的场景。

weixin_43833540的博客 1289

Guava-RateLimiter秒杀限流技术详解

使用场景 系统使用下游资源时,需要考虑下游对资源受限、处理能力,在下游资源无法或者短时间内无法提升处理性能的情况下,可以使用限流器或者类似保护机制,避免下游服务崩溃造成整体服务的不可用。 常用算法 常见限流算法有两种:漏桶算法和令牌桶算法。 漏桶算法 具体问题 网站的访问ip中,找出进行频繁连接的ip,并对这些ip的访问频率进行限制。 解决方案 Leak Bucket / Token Bucket...

tuonioooo 3513

Guava——平滑限流

1.常用限流方法对于一个应用系统来说一定会有极限并发/请求数,即总有一个TPS/QPS阀值,如果超了阀值则系统就会不响应用户请求或响应的非常慢,因此我们最好进行过载保护,防止大量请求涌入击垮系统。常见的限流方法有:容器限流常见的web容器其实也具备限流的功能。以Tomcat容器为例,其Connector 其中一种配置有如下几个参数:acceptCount:如果Tomcat的线程都忙于响应,新来的连...

ShiXueTanLang的博客 4013

实战限流(guava的RateLimiter)

guava的RateLimiter使用的是令牌桶算法,也就是以固定的频率向桶中放入令牌,本文实战一下RateLimiter的用法。

程序员欣宸的博客 3万+

微信DAT图片恢复全攻略:从文件定位到批量解密(附最新路径变化)

本文提供了一份详尽的微信DAT图片恢复指南,涵盖新旧版本文件路径变化解析、DAT文件定位方法以及批量解密操作步骤。针对微信图片加密存储为DAT格式的痛点,文章介绍了高效易用的图形化解密工具,帮助用户将加密文件快速还原为JPG、PNG等可查看格式,并强调了数据安全与隐私保护的重要性。

p4q5r6s7t的博客 743

ANSYS FLUENT 超临界流体物性分段线性插值数据批量导入

使用fluent自带数据库进行超临界流体仿真时,时不时会出现计算错误,考虑是数据库不稳定引起,而使用自定义的分段线性插值物性则不会出现上述情况。 超临界流体在拟临界点附近物性变化剧烈,需要使用较多的数据点才能更准确的表述物性,如果是在对话框中修改,一次只能输入一个点,人工输入极其费时费力且容易失误。 数据批量导入方法为: 1.以CO2为例,使用REFREPRO等物性查询软件或数据资料,获得所需物性数据表。 2.在FLUENT材料Materia...

wind_rider的博客 1万+

限流-Guava-RateLimiter

转载声明 本文大量内容系转载自以下文章,有删改,并参考其他文档资料加入了一些内容: 使用Guava RateLimiter限流以及源码解析 作者:人在码途 转载仅为方便学习查看,一切权利属于原作者,本人只是做了整理和排版,如果带来不便请联系我删除。 1 前言 在开发高并发系统时有三把利器用来保护系统:缓存、降级和限流 缓存 缓存的目的是提升系统访问速度和增大系统处理容量。 降级 降级是当服务...

迷路剑客个人博客 3126

从命名玄学看单片机江湖:STC、STM32与ESP32的型号密码与设计哲学

本文解析了STC、STM32和ESP32三大主流单片机系列的型号命名规则,揭示了其背后的设计哲学与市场策略。通过详细解读STC89C52、STM32F103C8T6等具体型号,帮助开发者理解芯片核心特性、性能等级及适用场景,为嵌入式系统选型提供实用指南。

g5h6i的博客 761

亿级流量场景下如何为HTTP接口限流?看完我懂了!!

这里,我们实现Web接口限流,具体方式为:使用自定义注解封装基于令牌桶限流算法实现接口限流。不使用注解实现接口限流搭建项目这里,我们使用SpringBoot项目来搭建Http接口限流项目...

架构师小秘圈 519

机器学习算法 —— LightGBM

本次我们选择英雄联盟数据集进行LightGBM的场景体验。英雄联盟是2009年美国拳头游戏开发的MOBA竞技网游,在每局比赛中蓝队与红队在同一个地图进行作战,游戏的目标是破坏敌方队伍的防御塔,进而摧毁敌方的水晶枢纽,拿下比赛的胜利。现在共有9881场英雄联盟韩服钻石段位以上的排位比赛数据,数据提供了在十分钟时的游戏状态,包括击杀数、死亡数、金币数量、经验值、等级……参考项目:机器学习系列入门系列[七]:基于英雄联盟数据集的LightGBM的分类预测。

ZShiJ的博客 708

计算图像哈希SHA-512

上述需要将lena.jpg放在当前目录下。

计算机视觉之光 961

分布式环境下限流方案的实现redis RateLimiter Guava,Token Bucket, Leaky Bucket

业务背景介绍 对于web应用的限流,光看标题,似乎过于抽象,难以理解,那我们还是以具体的某一个应用场景来引入这个话题吧。在日常生活中,我们肯定收到过不少不少这样的短信,“双11约吗?,千款….”,“您有幸获得唱读卡,赶快戳链接…”。这种类型的短信是属于推广性质的短信。为什么我要说这个呢?听我慢慢道来。一般而言,对于推广营销类短信,它们针对某一群体(譬如注册会员)进行定点...

weixin_30612769的博客 117

如何在 SAPGUI 里显示上传到 ABAP 服务器的 PDF 文件

在 SAPGUI 里显示 PDF 文件是实际项目中一个很有用的需求。因为在 SAP 实际业务场景中,有大量的流程会生成 PDF 格式的数据。把这种类型的数据输出显示在 SAPGUI 里,方便最终用户查看。本教程后续步骤,还会向大家介绍如何使用 ABAP 代码生成 PDF 格式的数据。本步骤只是简单的将本地 PDF 文件,上传到 ABAP 系统并显示在 SAPGUI 里。

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 2686

rate limiter - system design

1 问题 Whenever you expose a web service / api endpoint, you need to implement a rate limiter to prevent abuse of the service (DOS attacks). Implement a RateLimiter Class with an isAllow method. E...

weixin_34257076的博客 176

【ArcGIS遇上Python】ArcGIS10.8 Python代码批量完美实现MODIS NDVI数据格式转换和投影变换

由于论文的需要,将MODIS NDVI数据进行投影变换和格式转换,具体操作可以参照:《ArcGIS10.8完美实现MODIS NDVI数据格式转换和投影变换》,但是该文章中的做法只能一次性实现一景影像的转换,没法批量,虽然ArcGIS中提供了Batch的方法但是需要挨个添加数据,确定输出路径等等,本文就实现以ArcGIS10.8 Python代码批量完美实现MODIS NDVI数据格式转换和投影变换。先来看投影后的效果: 在实现批量投影转换之前,需要两个投影文件:Sinusoidal.prj和MyAl

智慧空间实验室 3815

自学 ABAP 和自学 SAP 的差别

有朋友在我的 ABAP 学习教程里留言: > 自学SAP是不是都要搭建虚拟服务器,然后自己去官网下载新版本SAP就可以吗 对于初学者,我们要搞清楚 ABAP 和 SAP 的区别。 ABAP 是一门编程语言,SAP 首先是德国软件公司的名称,也代表这家公司开发的一系列软件。SAP 公司开发的软件,我们有时也称产品,其功能能满足客户一个或者多个领域的业务需求。这些不同领域,我们也称为不同的业务模块,比如 ERP,CRM,SRM,HR 等等。

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 6862

java web 限流_Javaweb应用使用限流处理大量的并发请求详解

在web应用中,同一时间有大量的客户端请求同时发送到服务器,例如抢购、秒杀等。这个时候如何避免将大量的请求同时发送到业务系统。第一种方法:在容器中配置最大请求数,如果大于改请求数,则客户端阻塞。该方法有效的阻止了大量的请求同时访问业务系统,但对用户不友好。第二种方法:使用过滤器,保证一定数量的请求能够正常访问系统,多余的请求先跳转到排队页面,由排队页面定时发起请求。过滤器实现如下:public c...

weixin_36087469的博客 454

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

Asian Beauty Z-Image Turbo 集成指南:在Java Web应用中调用图像生成API

本文介绍了如何在星图GPU平台上自动化部署Asian Beauty Z-Image Turbo镜像,并实现其在Java Web应用中的集成。通过SpringBoot项目调用该镜像的API,开发者可以快速为应用添加AI图像生成能力,典型应用于根据用户文本描述自动创建精美图片,提升内容创作效率。

weixin_30995917的博客 175

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

Guava系列之限流RateLimiter

限流方案,了解一下

果子爸聊技术 9596

java限流之Guava-RateLimiter学习

常用的限流算法有漏桶算法和令牌桶算法,guava的RateLimiter使用的是令牌桶算法,也就是以固定的频率向桶中放入令牌,例如一秒钟10枚令牌,实际业务在每次响应请求之前都从桶中获取令牌,只有取到令牌的请求才会被成功响应,获取的方式有两种:阻塞等待令牌或者取不到立即返回失败,下图来自网上: ratelimite原理图 实例 1、添加guava j...

qq_36697880的博客 2446

应用级限流 — Guava的RateLimiter

一、Guava Guava被Google的Java项目广泛依赖的核心库,是个工具包,集成集合、缓存、并发等相关工具。作为缓存,是全内存本地缓存且线程安全;作为并发,提供的RateLimiter限流是通过令牌桶算法实现限流。 本章使用限流工具类RateLimiter提供全局限流或平滑某接口的请求数。 二、RateLimiter 1. 测试SmoothBursty package com.common.instance.test.ratelimiter; imp...

爱我所爱0505 1333

Guava限流RateLimiter

在互联网高并发场景下,限流是用来保证系统稳定性的一种手段,当系统遭遇瞬时流量激增时,可能会由于系统资源耗尽导致宕机。而限流可以把一小部分流量拒绝掉,保证大部分流量可以正常访问,从而保证系统只接收承受范围以内的请求,多余的请求给拒绝掉。 举个例子,节假日很多人都会出去玩,我们知道每个地铁站单位时间内可承受的运输能力是有限的,也就是每趟车承载的人数是有上限的,当达到这个上限以后,上不去的人就只能排队等待,当排队等待的人已经到地铁站口了,此时保安就会限制再进入地铁站了。此时的保安就是起到限流的作用 常用的限流

taoy86的博客 442

限流原理解读之guava中的RateLimiter

RateLimiter有两种新建的方式1.创建Bursty方式2.创建WarmingUp方式> 以下源码来自 guava-17.0。

wangluoanquan111的博客 1537
上一篇: Log4j配置实践
下一篇: Web应用测试监控执行时间 -- JavaSimon
开心的D哥
博客等级 码龄22年 63粉丝 110原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值