Guava Cache特性：对于同一个key，只让一个请求回源load数据，其他线程阻塞等待结果

aitangyong

于 2016-12-06 19:48:44 发布

阅读量6.7k

点赞数

CC 4.0 BY-SA版权

分类专栏：分布式系统文章标签：防止大量请求穿透缓存

本文链接：https://blog.youkuaiyun.com/aitangyong/article/details/53491867

在高并发场景下，Guava Cache能确保只有一个线程在缓存过期时加载数据，其他线程则等待其返回结果，有效防止大量请求穿透缓存。然而，这可能导致部分线程被阻塞，理想情况下，当发现数据正在加载时，其他线程可直接读取旧数据以提高系统吞吐量。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

设想高并发下的一种场景：假设我们将name=aty存放到缓存中，并设置的有过期时间。当缓存过期后，恰好有10个客户端发起请求，需要读取name的值。使用Guava Cache可以保证只让一个线程去加载数据(比如从数据库中)，而其他线程则等待这个线程的返回结果。这样就能避免大量用户请求穿透缓存。

import com.google.common.base.Stopwatch;
import com.google.common.cache.CacheBuilder;
import com.google.common.cache.CacheLoader;
import com.google.common.cache.LoadingCache;

import java.util.UUID;
import java.util.concurrent.CountDownLatch;
import java.util.concurrent.TimeUnit;


public class Main {

    // 1s无访问则缓存过期, 每次加载一个key需要耗时2s
    private static LoadingCache<String, String> cache = CacheBuilder.newBuilder().expireAfterAccess(1, TimeUnit.SECONDS)
            .build(new CacheLoader<String, String>() {
                @Override
                public String load(String key) throws Exception {
                    System.out.println("begin to query db...");
                    Thread.sleep(2000);
                    System.out.println("success to q