服务限流算法

在应对线上服务突发流量时,常用限流算法包括计数器法、漏斗算法和令牌桶算法。计数器法在时间切换点可能出现流量突增问题;漏斗算法允许请求排队处理;令牌桶算法通过恒定速率添加令牌来控制处理请求的速度,确保服务稳定性。

在线上启动服务作为server端的时候,我们经常会碰到突发流量,常用的限流算法如下:

计数器法

将时间划分为一个又一个的单位时间,在每个单位时间内,设置一个阈值,当请求数量超过阈值,开始限流(拒绝或者排队)

问题:在时间切换处,比如第5秒末和第6秒出,可能进来2倍流量,导致服务崩溃
在这里插入图片描述

漏斗算法

在请求没有达到阈值后,请求可以一直进入。但是需要排队处理
在这里插入图片描述

令牌桶算法

以恒定速率向令牌桶内放入令牌,令牌桶满则无法放入。请求到达后先获取令牌,若能拿到令牌则进行处理请求。

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值