Java使用限流处理大量的并发请求

最新推荐文章于 2025-05-19 21:34:51 发布

在远行的路上

最新推荐文章于 2025-05-19 21:34:51 发布

阅读量1.6w

点赞数

CC 4.0 BY-SA版权

分类专栏： Java相关文章标签：并发 RateLimiter 限流

本文链接：https://blog.youkuaiyun.com/lzy_lizhiyang/article/details/47951423

Java相关专栏收录该内容

24 篇文章

订阅专栏

本文介绍了在处理大量并发请求时，如何利用Java的RateLimiter进行限流操作。对比了两种策略：一是通过配置容器限制最大请求数，但可能导致用户体验下降；二是采用过滤器结合限流算法，保证部分请求正常处理，超出部分进入排队，以更友好地控制流量。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

在web应用中，同一时间有大量的客户端请求同时发送到服务器，例如抢购、秒杀等。这个时候如何避免将大量的请求同时发送到业务系统。

第一种方法：在容器中配置最大请求数，如果大于改请求数，则客户端阻塞。该方法有效的阻止了大量的请求同时访问业务系统，但对用户不友好。

第二种方法：使用过滤器，保证一定数量的请求能够正常访问系统，多余的请求先跳转到排队页面，由排队页面定时发起请求。过滤器实现如下：

public class ServiceFilter implements Filter {
	
	private static final int MAX_COUNT = 20;
	
	private AtomicInteger filterCount = 0;

	public void doFilter(ServletRequest request, ServletResponse response,
			FilterChain chain) throws IOException, ServletException {
		System.out.println("before"+filterCount);
		if(filterCount > MAX_COUNT) {
			//请求个数太多，跳转到排队页面
			request.getRequestDispatcher("index.jsp").forward(request, response);
		} else {
			//请求个数加1
			filterCount.incrementAndGet();

			chain.doFilter(request, response);
			//访问结束，请求个数减1
			filterCount.decrementAndGet();
		}
	}

此种方式的实现就是限流。可以参考RateLimiter的令牌桶限流策略的实现。

public class RateLimiterUtils {
	
	private static Logger logger = LoggerFactory.getLogger(RateLimiterUtils.class);
	
	private static final ConcurrentHashMap<String, RateLimiter> resourceLimitMap = 
			new ConcurrentHashMap<String, RateLimiter>();
	
	
	/**
	 * 限流
	 * @param resource 需要限流的对象的标识
	 * @return true表示得到了许可，没有达到限流阀值，false表示得不到许可，达到了限流阀值。
	 * @author: hejinen
	 * @date:2016年10月19日 上午11:08:49
	 */
	public static boolean rateLimit(String resource) {
		RateLimiter limit = getRateLimit(resource);
		return limit.tryAcquire();
	}
        /**
	 * 获取某个需限流对象的RateLimiter，如不存在则创建新的
	 * @param resouce 需要限流的对象标识
	 */
	public static RateLimiter getRateLimit(String resource) {
		RateLimiter limit = resourceLimitMap.get(resource);	
		if(limit == null) {
			synchronized(RateLimiterUtils.class) {
				limit = resourceLimitMap.get(resource);
				double qps = getQpsByResource(resource);
				if(limit == null) {
					limit = RateLimiter.create(qps);
					resourceLimitMap.put(resource, limit);
					LoggerUtil.info(RateLimiterUtils.class, "create rate limiter for key:{0},QPS:{1}", resource,qps);
				}
			}
		}
		return resourceLimitMap.get(resource);
	}
}