redis实现网关限流(限制API调用次数1000次/分)

网关速率限制实践 速率限制 (Rate Limit) 通过限制调用 API 的频率防止 API 过度使用,保护 API 免受意外或恶意的使用,在诸多业务场景中得到广泛应用。日前,又拍云系统开发工程师陈卓受邀在 Open Talk 公开课上作了题为《又拍云网关速率限制实践》的分享,详细解读当前常用的算法以及基于网关 nginx/openresty 的实现和配置细节。以下是直播分享内容整理,查看视频请点击阅读原文。 网关速率限制是一种防御服务性措施,公共服务需要借其保护自己免受过度使用,使用速率限制主要有三个好处: 提升用. 阅读详情

1、添加maven依赖,使用springboot2.x版本

<dependency>
 <groupId>org.springframework.boot</groupId>
 <artifactId>spring-boot-starter-data-redis</artifactId>
</dependency>
<dependency>
 <groupId>org.apache.commons</groupId>
 <artifactId>commons-pool2</artifactId>
</dependency>

2、添加redis配置进application.yml,springboot2.x版本的redis是使用lettuce配置的

spring:
  redis:
    database: 0
    host: localhost
    port: 6379
    lettuce:                  # 这里标明使用lettuce配置
      pool:
        max-active: 8         # 连接池最大连接数
        max-wait: -1ms        # 连接池最大阻塞等待时间(使用负值表示没有限制
        max-idle: 5           # 连接池中的最大空闲连接
        min-idle: 0           # 连接池中的最小空闲连接
    timeout: 10000ms          # 连接超时时间

3、使用redis作限流器有两种写法

方法一:
Long size = redisTemplate.opsForList().size("apiRequest");
if (size < 1000) {
 redisTemplate.opsForList().leftPush("apiRequest", System.currentTimeMillis());
} else {
 Long start = (Long) redisTemplate.opsForList().index("apiRequest", -1);
 if ((System.currentTimeMillis() - start) < 60000) {
  throw new RuntimeException("超过限流阈值");
 } else {
  redisTemplate.opsForList().leftPush("apiRequest", System.currentTimeMillis());
  redisTemplate.opsForList().trim("apiRequest", -1, -1);
 }
}

核心思路:用一个list来存放一串值,每次请求都把当前时间放进,如果列表长度为1000,那么调用就是1000次。如果第1000次调用时的当前时间和最初的时间差小于60s,那么就是1分钟里调用超1000次。否则,就清空列表之前的值

方法二:
Integer count = (Integer) redisTemplate.opsForValue().get("apiKey");
Integer integer = Optional.ofNullable(count).orElse(0);
if (integer > 1000) {
 throw new RuntimeException("超过限流阈值");
}
if (redisTemplate.getExpire("apiKey", TimeUnit.SECONDS).longValue() < 0) {
 redisTemplate.multi();
 redisTemplate.opsForValue().increment("apiKey", 1);
 redisTemplate.expire("apiKey", 60, TimeUnit.SECONDS);
 redisTemplate.exec();
} else {
 redisTemplate.opsForValue().increment("apiKey", 1);
}

核心思路:设置key,过期时间为1分钟,其值是api这分钟内调用次数

对比:方法一耗内存,限流准确。方法二结果有部分误差,只限制key存在的这一分钟内调用次数低于1000次,不代表任意时间段的一分钟调用次数低于1000


太赞了,SpringBoot+Vue前后端分离完整入门教程!

分享一套SpringBoot开发博客系统源码,以及完整开发文档!速度保存!

Java进阶架构师之必须掌握的10款开源工具!

Git 从入门到精通,这篇包教包会!

微服务-API网关-限流 限流介绍 我们在API网关中已经介绍了,限流是保护网关的手段之一,和身份认证以及鉴权一起组成安全防御大闸。其目的是对并发请求进行限速或限制一个时间窗口内请求的数量, 一旦达到阈值就排队等待或降级甚至拒绝服务。 为啥要做限流 在API网关接受的请求量超过了最大处理能力后,网关就会出现问题,不能在正常提供服务,所以要限流。 为了防止其他人通过DDOS恶意攻击网关。 某些API处理时很消耗系统资源,频繁的调用会造成系统瘫痪,所以要控制这些API接口的调用频率。 在API网关是面对公司外部使用的情况下,通过限制A 阅读详情

相关推荐

AI系统API网关实战:基于FastAPI与Redis实现认证、限流与缓存

在微服务与云原生架构中,API网关作为核心基础设施,承担着流量入口、安全边界与协议转换的关键角色。其核心原理在于通过统一的接入点,将认证、限流、监控等横切关注点与业务逻辑解耦,从而提升系统的可维护性、安全性与可观测性。这一技术价值在于,它使得后端服务能够专注于业务能力交付,而网关则统一处理非功能性需求,是实现服务治理与高效运维的重要实践。在AI模型服务化、大语言模型应用等场景下,高并发调用与计算资源成本控制成为突出挑战,API网关的限流与缓存机制显得尤为重要。本文聚焦于AI时代的API管理,通过一个基于Fa

weixin_34268169的博客 387

如何实现限制用户 1 分钟内最多请求 1000 次?

通过上述的计数器 + 时间窗口方式,我们成功实现了对每个用户 1 分钟内最多请求 1000 次的限流功能。这个方案简单且易于理解,适用于大多数场景。在实际生产中,可能需要进一步优化限流策略,结合分布式存储和高效的算法来应对更高的并发需求。

每日一贴 974

springboot记录api的访问次数

springboot入门工程,可是开始计数,终止计数,清空计数.只保存最近一分钟以内的访问次数

系统设计面试题

公众号 系统之神与我同在 系统设计这个面试环节,首先当然是考察候选人的对系统(System)底层的了解,然后考察的是候选人的架构(Architect)能力,在各种工具和方案中组合出最合适的。最后,大部分系统设计题是开放型的题目,这时候沟通(Communication)很重要,要多问面试官,理解题意,给出一个能自圆其说的结论。 设计容量 1、给定一个公共API,限制每个用户每秒只能调用1000次,如何实现? redis实现网关限流(限制API调用次数1000次/分)_java思维导图-优快云博客​b

朝闻道 3486

C# WinForms实战:5分钟用ScottPlot打造专业级示波器界面(附完整代码)

本文详细介绍了如何在C# WinForms应用中,利用ScottPlot.WinForms库快速构建一个专业级的软件示波器界面。通过从环境配置、静态波形绘制到动态数据实时更新的完整实战演示,帮助开发者高效实现高性能的波形显示功能,适用于工业监控、信号分析等多种场景。

weixin_29198045的博客 831

Windows Server 域控搭建:AD DS 规划、部署与排障实战

活动目录(AD DS)是 Windows Server 中用于集中管理账号、计算机与策略的核心目录服务,其底层依赖 DNS、Kerberos 和 LDAP 完成身份认证与资源定位。通过域控制器统一身份、组策略和权限边界,企业可显著降低多机环境下账号维护、权限分配与审计成本。十几到上百台终端、有共享隔离与合规要求的局域网,通常适合部署域控;小规模环境则未必划算。围绕域名规划、DNS 指向、OU 设计、FSMO、备份恢复和常见加域故障,域控搭建与 AD 运维需要兼顾前期规划与长期排障,才能让 Windows S

weixin_33845881的博客 765

API调用次数限制实现

API调用次数限制实现 参考资料:     1. https://zhuanlan.zhihu.com/p/20872901?hmsr=toutiao.io&utm_medium=toutiao.io&utm_source=toutiao.io Token BucketRedis IncrRedis EvalBetter Rate Limiting Wit

chenglinhust的专栏 3万+

光致发光(Photoluminescence, PL)入门版

关于光致发光的实际应用做出一些解释。

sinat_40546227的博客 1万+

java redis 限流_redis实现网关限流(限制API调用次数1000次/分)

添加maven依赖,使用springboot2.x版本org.springframework.bootspring-boot-starter-data-redisorg.apache.commonscommons-pool2添加redis配置进application.yml,springboot2.x版本的redis是使用lettuce配置的spring:redis:database: 0host...

weixin_34738099的博客 1095

Megatron-LM深度解析:万亿参数大模型的3D并行训练之道

训练框架,采用创新的"层内模型并行"设计,通过将Transformer层的计算拆分到多个GPU上并行执行,显著提升训练效率。该系统支持3D并行策略(数据并行、张量并行、流水线并行)和序列并行等新技术,成功应用于训练5300亿参数的MT-NLG模型。相比DeepSpeed、TPU GSPMD等框架,Megatron-LM在NVIDIA GPU上展现出卓越性能,并与TensorRT等工具深度集成,形成从训练到部署的完整解决方案。该项目持续演进,已成为大模型训练的重要基准。

数据与算法架构提升之路专栏 2103

人形机器人硬件开发:骨架系统设计全攻略

本文以人形机器人骨架系统为核心研究对象,系统解析其从理论建模到工程实现的全流程设计方法。通过融合刚体力学、材料科学与机器人控制理论,构建"概念基础-理论框架-架构设计-实现机制-实际应用-高级考量-综合拓展"的七层分析体系。重点覆盖运动学/动力学建模、轻量化结构设计、关节模块集成、多物理场耦合优化等关键技术,结合波士顿动力Atlas、本田ASIMO等经典案例,提供从原型设计到量产验证的工程实践指南。

AI天才研究院 1881

DeOldify API速率限制:令牌桶算法实现每用户每小时1000次调用

本文介绍了如何在星图GPU平台上自动化部署DeOldify图像上色镜像,该镜像基于U-Net深度学习模型实现黑白图片上色功能。通过星图GPU平台,用户可快速搭建图像处理环境,应用于老照片修复、历史影像着色等场景,显著提升图像处理效率。

weixin_42603332的博客 135

告别手动连接!一键搞定Mumu模拟器与Android Studio的ADB配置

本文详细介绍了如何通过编写自动化脚本,一键完成Mumu模拟器与Android Studio的ADB连接配置。告别繁琐的手动命令输入,该脚本能智能检查环境、判断连接状态并自动处理端口转发,显著提升Android开发者的调试与测试效率。

yog99的博客 498

umi限流策略:API请求频率限制

在现代Web应用开发中,API请求频率限制(Rate Limiting)是保障系统稳定性和安全性的关键技术。umi作为React社区的主流框架,虽然没有内置的限流功能,但提供了灵活的扩展机制来实现各种限流策略。本文将深入探讨在umi项目中实现API请求频率限制的完整方案。 ## 为什么需要API限流? ### 系统保护 - **防止资源耗尽**:恶意用户通过高频请求耗尽服务器资源 - **避免...

gitblog_01018的博客 671

matlab液体湿润模拟,【水文模型】01 三水源新安江模型

目录一、概述1.1 流域概况1.2 产流方式论证1.3 设计基本任务1.4 设计原始资料二、新安江模型2.1 流域划分2.2 产汇流计算2.2.1 蒸散发计算2.2.2 产流计算2.2.3 水源划分2.2.4 汇流计算2.3 模型参数2.3.1 参数物理意义2.3.2 参数率定结果2.4 模拟结果2.4.1 精度统计表2.4.2 计算与实测流量过程线比较三、精度统计与误差分析3.1 精度统计3.2...

weixin_34173656的博客 5329

在 RAP 中把业务对象“搬到网口上”:service definition 与 service binding 的全流程、范式与实战

本文解析了SAP ABAP开发中service definition和service binding的关键作用。service definition负责选择要暴露的CDS实体和行为,形成服务模型;而service binding则将服务绑定到具体协议(如OData),生成可访问的端点。两者分离带来三大优势:支持同一模型多重发布、降低环境迁移耦合度、强化安全治理。文章通过预订业务对象的端到端示例,展示了如何从CDS建模到生成Fiori Elements预览。最后以售后工单业务为例,说明这种架构如何支持内外服务

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 394

Redis+Lua脚本实现限流

我们常见的组件中的限流原理底层有些是通过Redis+Lua脚本实现限流的,所以本文介绍一下如何使用Redis+Lua脚本实现常见的限流算法,例如固定窗口限流,互动窗口限流,漏桶限流,以及我们的Redisson中内置的令牌桶限流

LUCIAZZZ的博客 2077

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

限流方案——基于Redis实现限流

限流方案——基于Redis实现限流

xdx_dili的博客 2495

贝叶斯统计 [韦来生编]

贝叶斯(Bayes)统计是近几十年来迅速发展起来的数理统计的一个重要分支。贝叶斯方法与经典统计方法的主要不同之处是进行统计推断时除了利用样本信息外,还要利用参数的先验信息,因此可以提高统计推断或统计决策的效果。它在经济、金融、生物、医学、自然科学和社会科学等许多领域具有广泛的应用。贝叶斯方法的研究已渗透到了统计学的几乎所有领域。作者在给中国科学技术大学概率论与数理统计专业本科生开设的“数理统计”课程中有一章专门讲授“贝叶斯方法和统计决策理论”,近十年来也给中国科学技术大学概率统计专业研究生开设过几次“贝叶斯分析”课。本书是在对过去讲稿的内容作了适当的增减和调整的基础上完成的。  本书共分六章。第1章是绪论,介绍了贝叶斯统计的若干基本概念,同时对必要的数理统计的基础知识有重点地作了回顾。第二章介绍了确定先验分布的若干可供选择的方法。第三章介绍了几类常见统计模型参数的后验分布的主要结果和计算方法。第四章和第五章分别介绍了“贝叶斯统计推断”和“贝叶斯统计决策”的内容。第六章介绍了贝叶斯统计计算的若干方法,包括蒙特卡洛方法和马尔可夫链蒙特卡洛(MCMC)方法以及相关统计软件的简介。本书的每一章附右大量的例题和习题,书末附有常用的几个表格和部分习题解答供读者查用。  大约可在54学时内讲授本书的第1章至第六章的主要内容,教师可根据学时需要选讲本书第1章至第六章的部分内容。书中标“*”号的章节可略去不讲,留给读者作为阅读材料。第六章例题中的R代码和部分例题的数据文件等可从作者个人主页下载。  作者在编写本书的过程中参考了J.O.Berger教授的《统计决策论及贝叶斯分析》和茆诗松教授编写的《贝叶斯统计》等书中的一些内容,以及《贝叶斯分析》一书中由张伟平博士编写的有关贝叶斯统计计算的一些内容。在此表示衷心感谢。  本书编写准备过程中,中国科学技术大学统计与金融系的几个研究生帮助完成了本书部分中文的录入和排版,作者对他们的辛勤工作表示真诚的感谢。高等教育出版社为本书的出版给予了大力支持。在此一并致谢。

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

揭秘Dify API限流机制:如何突破QPS瓶颈实现稳定调用

轻松应对Dify API QPS 限制,掌握限流机制与优化策略。适用于高频调用场景,通过请求调度、缓存复用和批量处理突破性能瓶颈,保障调用稳定性。提升效率的同时降低错误率,实现高效集成,值得收藏。

PixelIsle的博客 803

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

基于Redis实现的Rate limiter (限流器)

首先建议大家好好阅读一下官方文章,如何利用incr命令实现一些应用模式(Pattern)。INCR命令的介绍与应用 本文不对原文进行大段翻译,主要讲下自己的理解。 模式:计数器 Redis原子性自增操作,最明显的应用就是计数器了,类似Java的AtomicInteger。 可以结合EXPIRE,INCRBY,GET,SET,DECR等操作做很多很多事情。 多命令的情况下要注意事务或者使用Lu...

Again yy 9812

大模型API限流策略全解析(从令牌桶到滑动窗口的工程实现)

掌握大模型API限流实现的关键方法,有效应对高并发场景下的请求控制难题。涵盖令牌桶、漏桶与滑动窗口等核心算法,解析适用场景与工程落地细节,提升系统稳定性与资源利用率,值得收藏。

CodeTrick的博客 970

Spring Cloud Zuul RateLimit实战教程:集成Redis实现分布式限流

Spring Cloud Zuul RateLimit是一个为Spring Cloud Netflix Zuul网关提供自动配置的**限流**解决方案,它能够帮助开发者在微服务架构中轻松实现**分布式限流**保护。这个开源项目提供了多种限流策略和存储后端支持,其中**Redis分布式限流**是最常用且功能强大的方案之一。本文将详细介绍如何使用Spring Cloud Zuul RateLimit集

gitblog_00420的博客 687

Tailwind Next.js Starter Blog的API限流实现方案

你是否曾因博客API接口被频繁请求导致服务器负载过高?是否担心恶意爬虫消耗宝贵的带宽资源?本文将详细介绍如何在Tailwind Next.js Starter Blog项目中实现高效的API限流方案,通过分步配置帮助你保护服务器资源,提升系统稳定性。读完本文你将掌握:固定窗口限流算法的实现、Next.js API路由集成方案、动态限流策略配置以及生产环境部署最佳实践。 ## API限流的核心价值...

gitblog_00765的博客 1032

Service Mesh 速率限制:本地限流与全局限流的架构组合

Service Mesh 的两层限流:全局(网关 + Envoy + Redis)保护集群整体容量,本地(Envoy local_rate_limit filter)保护单个实例。全局限流用滑动窗口算法(基于 Redis Sorted Set)避免固定窗口的边界突发问题。本地限流的值 = 全局限额 / 副本数 + buffer。两层同时生效——本地优先触发(低延迟),全局作为兜底。Redis 不可用时根据场景选择 deny(安全优先)或 allow(可用优先)。

2609_95049439的博客 5757

在大并发下,API 网关如何做“请求限流”?

想象幼儿园的“活动日”:传统方式:所有小朋友都可以随便进活动室,结果活动室挤爆了,老师管不过来。限流方式:这就是“请求限流”:画一个“幼儿园活动室限流系统”示意图: 3. 代码演示:API 网关请求限流 下面是几种常见的限流实现: 4. 请求限流背后做了哪些事情? 用“幼儿园活动室限流”比喻:固定窗口算法:滑动窗口算法:令牌桶算法: 流程图:请求限流流程 概念图:请求限流关系 总结:请求限流是 API 网关的“智能门卫” 固定窗口:简单粗暴,像每小时限制进入人数,但可能有流量突刺问题; 滑动窗口:更精

长风破浪会有时的博客 433
上一篇: Java进阶架构师之必须掌握的10款开源工具!
下一篇: 面试官:BigDecimal一定不会丢失精度吗?
Java思维导图
博客等级 码龄10年 306粉丝 71原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值