Guava Cache特性:refreshAfterWrite只阻塞回源线程,其他线程返回旧值

Guava Cache的refreshAfterWrite特性允许在数据过期时,只阻塞加载数据的线程,其他线程则返回旧值,提高效率。当缓存无数据时,所有线程会被阻塞,因此建议系统启动时预加载数据。默认刷新是同步的,但可通过实现CacheLoader.reload()实现异步刷新。

上一篇文章"Guava Cache特性:对于同一个key,只让一个请求回源load数据,其他线程阻塞等待结果"提到:如果缓存过期,恰好有多个线程读取同一个key的值,那么guava只允许一个线程去加载数据,其余线程阻塞。这虽然可以防止大量请求穿透缓存,但是效率低下。使用refreshAfterWrite可以做到:只阻塞加载数据的线程,其余线程返回旧数据。

package net.aty.guava;

import com.google.common.base.Stopwatch;
import com.google.common.cache.CacheBuilder;
import com.google.common.cache.CacheLoader;
import com.google.common.cache.LoadingCache;

import java.util.UUID;
import java.util.concurrent.Callable;
import java.util.concurrent.CountDownLatch;
import java.util.concurrent.TimeUnit;


public class Main {

    // 模拟一个需要耗时2s的数据库查询任务
    private static Callable<String> callable = new Callable<String>() {
        @Override
        public String call() throws Exception {
            System.out.println("begin to mock query db...");
            Thread.sleep(2000);
            System.out.println("success to mock query db...");
            return UUID.randomUUID().toString();
        }
    };


    // 1s后刷新缓存
    private static LoadingCache<String, String> cache = CacheBuilder.newBuilder().refreshAfterWrite(1, TimeUnit.SECONDS)
            .build(new CacheLoader<String, String>() {
                @Override
                public String load(String key) throws Exception {
                    return callable.call();
                }
            });

    private static CountDownLatch latch = new CountDownLatch(1);


    public static void main(String[] args) throws Exception {

        // 手动添加一条缓存数据,睡眠1.5s让其过期
        cache.put("name", "aty");
        Thread.sleep(1500);

        for (int i = 0; i < 8; i++) {
            startThread(i);
        }

        // 让线程运行
        latch.countDown();

    }

    private static void startThread(int id) {
        Thread t = new Thread(new Runnable() {
            @Override
            public void run() {
                try {
                    System.out.println(Thread.currentThread().getName() + "...begin");
                    latch.await();
                    Stopwatch watch = Stopwatch.createStarted();
                    System.out.println(Thread.currentThread().getName() + "...value..." + cache.get("name"));
                    watch.stop();
                    System.out.println(Thread.currentThread().getName() + "...finish,cost time=" + watch.elapsed(TimeUnit.SECONDS));
                } catch (Exception e) {
                    e.printStackTrace();
                }
            }
        });

        t.setName("Thread-" + id);
        t.start();
    }


}


通过输出结果可以看出:当缓存数据过期的时候,真正去加载数据的线程会阻塞一段时间,其余线程立马返回过期的值,显然这种处理方式更符合实际的使用场景。


有一点需要注意:我们手动向缓存中添加了一条数据,并让其过期。如果没有这行代码,程序执行结果如下。


由于缓存没有数据,导致一个线程去加载数据的时候,别的线程都阻塞了(因为没有旧值可以返回)。所以一般系统启动的时候,我们需要将数据预先加载到缓存,不然就会出现这种情况。


还有一个问题不爽:真正加载数据的那个线程一定会阻塞,我们希望这个加载过程是异步的。这样就可以让所有线程立马返回旧值,在后台刷新缓存数据。refreshAfterWrite默认的刷新是同步的,会在调用者的线程中执行。我们可以改造成异步的,实现CacheLoader.reload()。

package net.aty.guava;

import com.google.common.base.Stopwatch;
import com.google.common.cache.CacheBuilder;
import com.google.common.cache.CacheLoader;
import com.google.common.cache.LoadingCache;
import com.google.common.util.concurrent.ListenableFuture;
import com.google.common.util.concurrent.ListeningExecutorService;
import com.google.common.util.concurrent.MoreExecutors;

import java.util.UUID;
import java.util.concurrent.Callable;
import java.util.concurrent.CountDownLatch;
import java.util.concurrent.Executors;
import java.util.concurrent.TimeUnit;


public class Main {

    // 模拟一个需要耗时2s的数据库查询任务
    private static Callable<String> callable = new Callable<String>() {
        @Override
        public String call() throws Exception {
            System.out.println("begin to mock query db...");
            Thread.sleep(2000);
            System.out.println("success to mock query db...");
            return UUID.randomUUID().toString();
        }
    };

    // guava线程池,用来产生ListenableFuture
    private static ListeningExecutorService service = MoreExecutors.listeningDecorator(Executors.newFixedThreadPool(10));

    private static LoadingCache<String, String> cache = CacheBuilder.newBuilder().refreshAfterWrite(1, TimeUnit.SECONDS)
            .build(new CacheLoader<String, String>() {
                @Override
                public String load(String key) throws Exception {
                    return callable.call();
                }

                @Override
                public ListenableFuture<String> reload(String key, String oldValue) throws Exception {
                    System.out.println("......后台线程池异步刷新:" + key);
                    return service.submit(callable);
                }
            });

    private static CountDownLatch latch = new CountDownLatch(1);


    public static void main(String[] args) throws Exception {
        cache.put("name", "aty");
        Thread.sleep(1500);

        for (int i = 0; i < 8; i++) {
            startThread(i);
        }

        // 让线程运行
        latch.countDown();

    }

    private static void startThread(int id) {
        Thread t = new Thread(new Runnable() {
            @Override
            public void run() {
                try {
                    System.out.println(Thread.currentThread().getName() + "...begin");
                    latch.await();
                    Stopwatch watch = Stopwatch.createStarted();
                    System.out.println(Thread.currentThread().getName() + "...value..." + cache.get("name"));
                    watch.stop();
                    System.out.println(Thread.currentThread().getName() + "...finish,cost time=" + watch.elapsed(TimeUnit.SECONDS));
                } catch (Exception e) {
                    e.printStackTrace();
                }
            }
        });

        t.setName("Thread-" + id);
        t.start();
    }


}



Guava Cache中,可以通过监听器(`RemovalListener`)来监控缓存元素的加入和移除操作。以下是一些实现元素加入和移除监听的最佳实践: 1. **使用RemovalListener处理缓存失效后的清理逻辑**:当某个缓存项因过期、大小限制或显式删除而被移除时,可以通过`RemovalListener`执行自定义的清理操作。例如,可以将缓存内容同步到数据库或其他持久化存储中。 ```java RemovalListener<String, String> removalListener = notification -> { System.out.println("Removed key: " + notification.getKey() + ", value: " + notification.getValue()); }; ``` 2. **通过CacheBuilder配置监听器**:在构建缓存时,使用`CacheBuilder`的`removalListener()`方法添加监听器[^1]。这样可以在缓存初始化阶段就完成监听器的注册。 ```java Cache<String, String> cache = CacheBuilder.newBuilder() .maximumSize(100) .removalListener(removalListener) .build(); ``` 3. **避免在监听器中执行耗时操作**:由于`RemovalListener`默认是在缓存操作的线程中执行,因此应避免在监听器中执行阻塞或耗时较长的操作,以免影响缓存性能。可以考虑将耗时任务提交到异步线程池中执行。 4. **结合自动加载机制使用监听器**:如果使用了`CacheLoader`进行缓存的自动加载,则可以在监听器中记录或处理缓存项的更新行为,例如日志记录或统计信息的更新。 5. **利用RemovalCause分类处理不同类型的移除事件**:`RemovalNotification`对象提供了`getCause()`方法,可以区分缓存项是由于何种原因被移除(如`EXPLICIT`、`REPLACED`、`SIZE`等),从而实现更精细的控制逻辑。 ```java RemovalListener<String, String> removalListener = notification -> { if (notification.getCause() == RemovalCause.SIZE) { System.out.println("Entry was evicted due to size constraints."); } else if (notification.getCause() == RemovalCause.EXPIRED) { System.out.println("Entry expired."); } }; ``` 6. **确保监听器线程安全**:由于Guava Cache的监听器可能在多个线程中并发执行,因此需要确保监听器内部的状态管理是线程安全的。 7. **合理设置缓存大小与过期时间**:结合业务需求合理配置缓存的最大条目数和过期时间,以减少不必要的缓存项频繁创建和销毁,降低监听器的触发频率,提升系统整体性能[^1]。 ### 缓存元素加入的额外注意事项 - **手动添加元素时避免null**:Guava Cache不允许将`null`作为缓存插入,否则会抛出`NullPointerException`。因此,在调用`put()`或`putAll()`方法前,应确保所有不为`null`[^1]。 ```java try { cache.put("key", null); // This will throw NullPointerException } catch (NullPointerException e) { System.out.println("Cannot put null value into Guava Cache."); } ``` - **预热缓存**:为了防止系统启动后首次访问缓存未命中,可以在系统启动时手动填充一些常用数据到缓存中,提前触发监听器并建立初始缓存状态。 ---
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值