- 博客(2)
- 收藏
- 关注
原创 [系统设计Alex Xu] 限流器 Rate Limiter 学习笔记-中
上图里面,每分钟最大请求设为5,2:00:58进来3个请求,2:00:59 进来2个。假设速率限制器允许每分钟最多7个请求,在前一分钟有5个请求,在当前分钟有3个请求。它是实际速率的近似值,因为它假设前一个窗口中的请求是均匀分布的。这个算法一个比较大的问题是,如果突发流量出现在 上一个窗口end和下一个窗口start,会导致超过limit的请求通过。同时移除掉过时的请求。• 一旦计数器达到预定义的阈值,新请求将被丢弃,直到一个新的时间窗口开始。在每秒的窗口中,如果收到超过3个请求,则会丢弃额外的请求。
2023-03-20 10:06:58
767
原创 [系统设计Alex Xu] 限流器 Rate Limiter 学习笔记-上
低延迟。速率限制器不应该减慢HTTP响应时间使用尽可能少的内存分布式速率限制,速率限制器可以在多个服务器或进程之间共享异常处理。当用户的请求被限制时,向用户显示清晰的异常信息高容错性。如果速率限制器出现任何问题(例如,缓存服务器离线),它不会影响整个系统。
2023-03-20 07:45:25
469
Distribute Systems
2023-03-20
Designing Data Intensive Applications
2023-03-20
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人