nginx限流

转载已于 2022-04-16 21:15:55 修改 · 380 阅读

0 ·

CC 4.0 BY-SA版权

原文链接：https://www.nginx.com/blog/rate-limiting-nginx/

文章标签：

#java

于 2022-04-16 21:07:15 首次发布

高并发专栏收录该内容

10 篇文章

订阅专栏

这篇博客探讨了NGINX的limit_req模块，特别是burst和nodelay参数如何影响速率限制策略。burst参数定义了超过限制时可排队的请求数量，而nodelay选项改变了请求处理的方式，允许立即转发请求而不等待间隔。通过示例，解释了这两个参数如何协同工作以实现更灵活的速率限制，以及如何影响超出限制时的请求处理。

location /login/ {
    limit_req zone=mylimit burst=20 nodelay;
 
    proxy_pass http://my_upstream;
}

该burst参数定义了客户端可以发出多少请求超过区域指定的速率（对于我们的示例mylimit区域，速率限制为每秒 10 个请求，或每 100 毫秒 1 个请求）。一个在前一个请求后 100 毫秒内到达的请求被放入队列，这里我们将队列大小设置为 20。

这意味着如果 21 个请求同时从给定 IP 地址到达，NGINX 会立即将第一个请求转发到上游服务器组，并将剩余的 20 个放入队列中。然后它每 100 毫秒转发一个排队的请求，并且503仅当传入请求使排队的请求数超过 20 时才返回客户端

使用该nodelay参数，NGINX 仍然根据参数分配队列中的槽burst并施加配置的速率限制，但不是通过间隔排队请求的转发。相反，当请求“过早”到达时，只要队列中有可用的插槽，NGINX 就会立即转发它。它将该槽标记为“已占用”，并且在经过适当的时间（在我们的示例中为 100 毫秒之后）之前，不会将其释放以供另一个请求使用。

和前面一样，假设 20 个插槽的队列是空的，并且来自给定 IP 地址的 21 个请求同时到达。NGINX 立即转发所有 21 个请求并将队列中的 20 个插槽标记为已占用，然后每 100 毫秒释放 1 个插槽。（如果有 25 个请求，NGINX 将立即转发其中的 21 个，将 20 个插槽标记为已占用，并拒绝 4 个状态为的请求 503。）

现在假设在第一组请求被转发后的 101 毫秒，另外 20 个请求同时到达。队列中只有 1 个插槽已被释放，因此 NGINX 转发 1 个请求并以 status 拒绝其他 19 个请求 503。如果在 20 个新请求到达之前已经过去了 501 毫秒，则 5 个插槽是空闲的，因此 NGINX 立即转发 5 个请求并拒绝 15 个。

效果相当于每秒 10 个请求的速率限制。如果您想在不限制请求之间允许的间距的情况下施加速率限制，该nodelay选项很有用。

http {
    # ...
 
    limit_req_zone $limit_key zone=req_zone:10m rate=5r/s;
    limit_req_zone $binary_remote_addr zone=req_zone_wl:10m rate=15r/s;
 
    server {
        # ...
        location / {
            limit_req zone=req_zone burst=10 nodelay;
            limit_req zone=req_zone_wl burst=20 nodelay;
            # ...
        }
    }
}

limit_req您可以在一个位置包含多个指令。应用与给定请求匹配的所有限制，这意味着使用最严格的限制。例如，如果多个指令强加了延迟，则使用最长的延迟。同样，如果这是任何指令的效果，请求也会被拒绝，即使其他指令允许它们通过。

location /login/ {
    limit_req zone=mylimit burst=20 nodelay;
    limit_req_status 444;   // 默认503
}