Caffeine 详解：Java 本地缓存的性能之王

最新推荐文章于 2025-10-07 14:45:43 发布

原创最新推荐文章于 2025-10-07 14:45:43 发布 · 1.1k 阅读

14 ·

CC 4.0 BY-SA版权

文章标签：

#java #缓存 #spring

分布式理论&实践专栏收录该内容

42 篇文章

订阅专栏

Caffeine 详解：Java 本地缓存的性能之王

Caffeine 是由 Google 开发的 Java 本地缓存库（Local Cache），专为解决单节点或小规模集群中高频数据访问的性能问题而设计。它通过内存存储数据，避免了网络开销，结合高效的缓存策略（如 LRU、LFU），成为 Java 生态中性能最优异的本地缓存解决方案之一。以下从核心特性、功能详解、适用场景、集成与使用等维度展开深度解析。

一、Caffeine 的核心定位与设计目标

1. 解决的问题

传统本地缓存（如 ConcurrentHashMap、Guava Cache）存在以下痛点：

性能不足：简单的 LRU 策略在高频访问下容易产生锁竞争，影响吞吐量。
功能单一：缺乏异步加载、过期策略优化、统计监控等高级能力。
线程不安全：需手动处理多线程并发访问问题（如 ConcurrentHashMap 需配合 ConcurrentLinkedQueue 实现 LRU）。

Caffeine 通过高效的数据结构（如 W-TinyLFU 算法）、无锁设计和丰富的功能扩展，解决了上述问题，目标是成为“Java 本地缓存的事实标准”。

2. 核心设计理念

本地内存存储：数据仅存储在 JVM 堆内存中，访问延迟极低（纳秒级）。
高性能策略：默认采用 W-TinyLFU 算法（结合 LRU 和 LFU 的优势），平衡缓存命中率和内存利用率。
灵活扩展：支持自定义缓存策略、过期规则、加载逻辑，适配多样化业务需求。

二、Caffeine 核心功能详解

1. 缓存策略：W-TinyLFU 算法

Caffeine 的核心优势在于其智能缓存淘汰策略。默认使用的 W-TinyLFU（Window Tiny Least Frequently Used）算法，结合了 LRU（最近最少使用）和 LFU（最不经常使用）的优点，解决了传统 LFU 在热点数据变化时的局限性。

W-TinyLFU 原理

窗口（Window）：维护一个小的 LRU 窗口（默认占总容量的 1%），用于快速淘汰最近最少使用的数据。
频率统计（Frequency）：对窗口外的数据按访问频率排序，淘汰频率最低的数据。
优势：相比传统 LFU，W-TinyLFU 更擅长处理“热点数据突然变化”的场景（如突发流量访问冷数据），同时保持 O(1) 时间复杂度的插入、删除和查询操作。

2. 异步加载（Async Loading）

Caffeine 支持异步加载数据，避免主线程因缓存未命中而阻塞。当缓存未命中时，可提交一个异步任务加载数据，主线程通过 CompletableFuture 获取结果。

代码示例：

Cache<Key, Value> cache = Caffeine.newBuilder()
    .maximumSize(10_000)
    .build(key -> {
        // 模拟耗时操作（如数据库查询）
        return fetchDataFromDatabase(key);
    });

// 异步获取（主线程不阻塞）
CompletableFuture<Value> future = cache.getAsync(key);
future.thenAccept(value -> {
    // 处理加载后的数据
});

3. 过期策略（Expiration）

Caffeine 支持基于时间和基于引用的过期策略，确保缓存数据不会无限期占用内存。

策略类型	说明
基于时间	- `expireAfterAccess`：最后一次访问后过期（如 5 分钟）。 - `expireAfterWrite`：最后一次写入后过期（如 10 分钟）。
基于引用	- `expireAfterCreate`：创建后过期（适用于一次性数据）。 - `expireAfterUpdate`：更新后过期（适用于需要定期刷新的数据）。

配置示例：

Cache<Key, Value> cache = Caffeine.newBuilder()
    .expireAfterAccess(5, TimeUnit.MINUTES) // 最后一次访问后 5 分钟过期
    .expireAfterWrite(10, TimeUnit.MINUTES) // 最后一次写入后 10 分钟过期（取较早的过期时间）
    .build();

4. 监听器（Removal Listener）

Caffeine 允许注册移除监听器，当缓存项被淘汰或手动移除时触发回调，用于日志记录、资源释放等操作。

代码示例：

Cache<Key, Value> cache = Caffeine.newBuilder()
    .removalListener((Key key, Value value, RemovalCause cause) -> {
        System.out.println("缓存项被移除：" + key + "，原因：" + cause);
        // 释放关联资源（如关闭文件句柄）
    })
    .build();

5. 统计信息（Statistics）

Caffeine 提供缓存命中率、加载耗时、内存占用等统计信息，方便监控和调优。

代码示例：

Cache<Key, Value> cache = Caffeine.newBuilder()
    .recordStats() // 启用统计
    .build();

// 获取统计信息
CacheStats stats = cache.stats();
System.out.println("命中次数：" + stats.hitCount());
System.out.println("未命中次数：" + stats.missCount());
System.out.println("平均加载耗时：" + stats.averageLoadPenalty() + "ms");

三、Caffeine 与其他缓存框架对比

特性	Caffeine	Guava Cache	Redis（分布式）
存储位置	本地 JVM 堆内存	本地 JVM 堆内存	分布式集群（内存/磁盘）
缓存策略	W-TinyLFU（默认）	LRU（默认）	LRU/LFU（需配置）
异步加载	支持（`getAsync`）	不支持（需手动实现）	不支持（需客户端异步）
过期策略	基于时间/引用（灵活配置）	基于时间（简单配置）	基于时间（`EXPIRE` 命令）
线程安全	无锁设计（CAS 操作）	需手动同步（`ConcurrentHashMap`）	分布式锁（如 Redlock）
适用场景	单节点/小集群高频数据访问	单节点简单缓存	分布式系统跨节点数据共享
性能	纳秒级延迟（内存访问）	微秒级延迟（内存访问）	毫秒级延迟（网络传输）
扩展能力	支持自定义策略、监听器、统计	支持自定义加载器、过期策略	支持插件（如 Redisson 分布式锁）

四、Caffeine 的适用场景

Caffeine 适合单节点或小规模集群中需要高频、低延迟数据访问的场景，典型场景包括：

1. 用户会话缓存

存储用户登录态、权限信息等高频访问的小数据（如用户 ID 到用户详情的映射），避免每次请求都查询数据库。

2. 热点配置缓存

缓存系统配置、字典数据等变更不频繁但访问频繁的信息（如商品分类、地区列表），减少对数据库的查询压力。

3. 临时计算结果

缓存中间计算结果（如报表聚合数据、实时统计指标），避免重复计算，提升响应速度。

4. 本地状态缓存

在分布式系统中，缓存本地的临时状态（如分布式锁的持有状态、任务执行进度），减少跨节点通信开销。

五、Caffeine 的集成与使用（以 Spring Boot 为例）

1. 添加依赖

在 pom.xml 中添加 Caffeine 依赖：

<dependency>
    <groupId>com.github.ben-manes.caffeine</groupId>
    <artifactId>caffeine</artifactId>
    <version>3.1.8</version> <!-- 最新稳定版 -->
</dependency>

2. 基础使用示例

import com.github.benmanes.caffeine.cache.Cache;
import com.github.benmanes.caffeine.cache.Caffeine;

public class CaffeineDemo {
    public static void main(String[] args) {
        // 构建缓存（最大容量 1000，5 分钟未访问过期）
        Cache<String, String> cache = Caffeine.newBuilder()
            .maximumSize(1000)
            .expireAfterAccess(5, TimeUnit.MINUTES)
            .build();

        // 写入缓存
        cache.put("user:1", "张三");

        // 读取缓存（命中）
        String value = cache.getIfPresent("user:1");
        System.out.println("用户信息：" + value); // 输出：张三

        // 读取缓存（未命中）
        String notExist = cache.getIfPresent("user:2");
        System.out.println("未命中：" + notExist); // 输出：null
    }
}

3. 与 Spring Boot 集成

Spring Boot 提供了对 Caffeine 的自动配置支持，可通过 @Cacheable 注解简化缓存操作。

步骤 1：配置缓存管理器

在 application.yml 中配置 Caffeine 参数：

spring:
  cache:
    type: caffeine
    caffeine:
      spec: maximumSize=1000,expireAfterAccess=5m

步骤 2：使用 `@Cacheable` 注解

在服务类中使用 @Cacheable 标记需要缓存的方法：

import org.springframework.cache.annotation.Cacheable;
import org.springframework.stereotype.Service;

@Service
public class UserService {
    @Cacheable(value = "userCache", key = "#userId")
    public String getUserById(String userId) {
        // 模拟数据库查询
        return "用户详情：" + userId;
    }
}