新一代缓存之王Caffeine,甩了Guava几条街!

Caffeine与Guava对比 Caffeine/Guava性能测试 处于性能优化考虑,项目准备将本地缓存从guava cache 转到caffeine cache,于是着手对caffeine进行了一波调研,首先通过一系列测试,通过caffeine和guava从结果来看,在相同cpu负载下,Caffeine Cache的读取和写入速度优于Guava Cache,差距在4倍以上。 但在内存占用方面来看,两者无明显区别。 测试环境: CPU:i7-8700 3.20GHz 6核 内存:16g 系统:Windows 10 JDK版本:8 ID 阅读详情

点击上方“芋道源码”,选择“设为星标”

管她前浪,还是后浪?

能浪的浪,才是好浪!

每天 10:33 更新文章,每天掉亿点点头发...

源码精品专栏

 

来源:juejin.cn/post/

7125674984562753572

d5a62aab9b2ca417054f4ed099223dc1.jpeg


我想把记忆缓存起来,等再次见到你,就能够很快认出你。

能够说出这么有哲理的话,得益于我对缓存的理解,以及对它的看重。没有了缓存,我的人生就没有了意义。

缓存是非常重要的,工作中大部分工作可以说是和缓存打交道。由于使用广泛,所以针对缓存系统的任何优化,如果能够提高一丁点儿性能,就会让人无比兴奋。

很长一段时间,我都在用Guava的LoadingCache。它和ConcurrentHashMap是非常像的,但在其上封装了一些好用的逐出策略和并发优化,就显得好用的多。

今天主要说的是Caffeine,中文名就是咖啡因,一种容易让人精神亢奋的物质。它可以说是Guava的重写,但是效率却非常的高,青出于蓝而胜于蓝。

下图是Caffeine的一张性能测试图。可以看到它的性能,甩了GuavaCache老远。

这是为什么呢?

615baca2a9201bb72955b07995c8a44c.jpeg

首先要从它的作者开始说起。作者的github是( github.com/ben-manes ),曾经写了ConcurrentLinkedHashMap这个类,而这个类又是GuavaCache的基础。Ben Manes 一拍脑袋,决定更上层楼。

为什么说Caffeine好?

后浪Caffeine一来,GuavaCache就已经OUT了。

Caffeine支持异步加载方式,直接返回CompletableFutures,相对于GuavaCache的同步方式,它不用阻塞等待数据的载入。另外,它的编程模型是友好的,省去了很多重复的工作。

GuavaCache是基于LRU的,而Caffeine是基于LRU和LFU的,结合了两者的优点。对这两个算法不太清楚的同学,可以参考xjjdog之前的文章:《3种堆内缓存算法,赠源码和设计思路》

两者合体之后,变成了新的W-TinyLFU算法,它的命中率非常高,内存占用更加的小,这是主要原因所在。

Caffeine另外一个比较快的原因,就是很多操作都使用了异步,把这些事件提交到队列里。队列使用的RingBuffer,看到这个名词,我不自觉的想到了lmax的Disruptor,它已经成了无锁高并发的代名词。

基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://gitee.com/zhijiantianya/ruoyi-vue-pro

  • 视频教程:https://doc.iocoder.cn/video/

测试命中率

我们决定拿线上的数据进行验证一下。事实上,大部分比较重要的Cache,我都已经使用Caffeine替换了,完成了骚气的升级。

由于它们的API长得非常像,这个过程是无痛的,连麻药都不需要打。

其中有个业务,有一个大的堆内缓存,缓存了用户数据。里面包含用户名、性别、地址、积分等属性,形成了一个JSON对象,但大小不超过1KB。通过灰度,根据不同的策略,我们测试了它的实际命中率。

策略1

  • 最大缓存1w用户

  • 数据进入缓存后,5分钟失效(需要重新读取)

命中率:

  • Caffeine 29.22 %

  • Guava 21.95%

策略2

  • 加大缓存数据量到6w用户

  • 数据进入缓存后,20分钟失效,这个和Session有的一拼了

命中率 (依然是高一筹):

  • Caffeine 56.04 %

  • Guava 50.01%

策略3

  • 直接加大缓存到15w用户

  • 数据进入缓存后,30分钟失效

此时的命中率 :

  • Caffeine 71.10 %

  • Guava 62.76%

Caffeine的命中率一直是领先的。命中率高,效率自然也就高。调整到50%以上,我们的缓存作用就很大了。

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://gitee.com/zhijiantianya/yudao-cloud

  • 视频教程:https://doc.iocoder.cn/video/

异步载入

再放上官方的两张测试图:

(1) Read (75%) / Write (25%)

f46c839622bf237ee1a0aac281315a8d.jpeg

(2)Write (100%)

0fa330b8b449cb9c8bb38d375fa97c84.jpeg

(3) Read (100%)

827cdf7562e4a255d2a7a349db0010c6.jpeg

我们一直在提Caffeine的异步加载。那代码到底长什么样子呢?异步加载缓存使用了响应式编程模型,返回的是CompletableFuture对象。说实话,代码长得和Guava很像。

public static void main(String[] args) {
        AsyncLoadingCache<String, String> asyncLoadingCache = Caffeine.newBuilder()
                .maximumSize(1000)
                .buildAsync(key -> slowMethod(key));

        CompletableFuture<String> g = loadingCache.get("test");
        String value = g.get();
    }

    static String slowMethod(String key) throws Exception {
        Thread.sleep(1000);
        return key + ".result";
    }

我记得前段时间翻Spring的源码时,也看到过它。

fb023ddee0c2b9640da658d09621f686.jpeg

在SpringBoot里,通过提供一个CacheManager的Bean,即可与Springboot-cache进行集成,可以说是很方便了。

关键代码

//bean生成
@Bean("caffeineCacheManager")
public CacheManager cacheManager() {
    CaffeineCacheManager cacheManager = new CaffeineCacheManager();
    cacheManager.setCaffeine(Caffeine.newBuilder() .maximumSize(1000));
    return cacheManager;
}

//使用注入
@CacheConfig(cacheNames = "caffeineCacheManager")

//信息缓存
@Cacheable(key = "#id")


欢迎加入我的知识星球,一起探讨架构,交流源码。加入方式,长按下方二维码噢:

610c2864b574eb58732bc6e87b8e6e5b.png

已在知识星球更新源码解析如下:

120fe7d0f53a5040a3016c921162f206.jpeg

398eb1258351cb853fc7115320f814e7.jpeg

9b318bffe9e121a164fdef3e677fb476.jpeg

96af64370d5d382418d43d785f14dd53.jpeg

最近更新《芋道 SpringBoot 2.X 入门》系列,已经 101 余篇,覆盖了 MyBatis、Redis、MongoDB、ES、分库分表、读写分离、SpringMVC、Webflux、权限、WebSocket、Dubbo、RabbitMQ、RocketMQ、Kafka、性能测试等等内容。

提供近 3W 行代码的 SpringBoot 示例,以及超 4W 行代码的电商微服务项目。

获取方式:点“在看”,关注公众号并回复 666 领取,更多内容陆续奉上。

文章有帮助的话,在看,转发吧。
谢谢支持哟 (*^__^*)
SpringBoot 集成 Caffeine 实现本地缓存 Caffeine 官网Caffeine 是基于Java 1.8 的高性能本地缓存库,同样是 Google 开发的,由 Guava 改进而来,底层设计思路、功能和使用方式与 Guava 非常类似,但是各方面的性能都要远远超过前者,可以看做是 Guava cache 的升级版。而且在 Spring5 开始的默认缓存实现就将 Caffeine 代替原来的 Google Guava,官方说明指出,其缓存命中率已经接近最优值@Data@Service@Autowired// 模拟数据库数据。 阅读详情

相关推荐

缓存之王Caffeine Cache,性能比Guava更强

一、前言 在项目开发中,为提升系统性能,减少 IO 开销,本地缓存是必不可少的。最常见的本地缓存是 Guava 和 Caffeine,本篇文章将为大家介绍 Caffeine。 Caffeine 是基于 Google Guava Cache 设计经验改进的结果,相较于 Guava 在性能和命中率上更具有效率,你可以认为其是 Guava Plus。 毋庸置疑的,你应该尽快将你的本地缓存从 Guava 迁移至 Caffeine,本文将重点和 Guava 对比二者性能占据,给出本地缓存的最佳实践,以及迁移策略

代码界的扛把子 1485

新一代缓存Caffeine,速度确实比Guava的Cache快

不羡鸳鸯不羡仙,一行代码调半天。原创:小姐姐味道(微信公众号ID:xjjdog),欢迎分享,转载请保留出处。我想把记忆缓存起来,等再次见到你,就能够很快认出你。能够说出这么有哲理的话,得...

小姐姐味道 1911

Caffeine vs Guava Cache:性能巅峰对决,谁才是 Java 本地缓存之王?

性能王者:Caffeine 在算法、并发、内存管理上全面领先。生态趋势:Spring Boot 5.x 已默认集成 Caffeine,Guava Cache 逐步退出主流。开发者体验:Caffeine 的异步 API 和灵活配置更符合现代应用需求。最后:如果你是性能极客或追求高吞吐的系统架构师,Caffeine 是毋庸置疑的选择!

z_play_du 1778

Caffeine 源码、架构、原理(史上最全,10W字 超级长文)

在某段时间内某个key收到的访问次数,显著高于其他key时,我们可以将其称之为热key。例如,某redis的每秒访问总量为10000,而其中某个key的每秒访问量达到了7000,这种情况下,我们称该key为热key。

架构师尼恩 1万+

Caffeine 与 Guava Cache

Caffeine 与 Guava Cache 一、概要 1.1 背景 在项目开发中,为提升系统性能,减少 IO 开销,本地缓存是必不可少的。最常见的本地缓存是 Guava 和 Caffeine,Caffeine 是基于 Google Guava Cache 设计经验改进的结果,相较于 Guava 在性能和命中率上更具有效率。 1.2 应用场景 愿意消耗一些内存空间来提升速度 预料到某些键会被多次查询 缓存中存放的数据总量不会超出内存容量 二、Guava Cache 2.1 Guava Cache缓存回收 (

weixin_44131265的博客 1812

WiFi信道状态信息 基于Intel 5300的CSI Tool 安装及使用(一)

经过半个月的坎坷安装过程,连Windows系统都没装过的本人终于颤颤巍巍把CSI TOOL装好了,下面记录一下适于我所使用设备的安装过程。设备:一台THINKPAD X201,一台师兄借的华硕主板的台式机首先,如果你和我一样对linux其实一窍不通的话,建议先反复看教程里的安装代码,照猫画虎很难一步实现的,中途一定会有这或那的问题需要解决,所以该了解的基础linux指令还是要了解,起码安装过程中的那些指令可以去查一查。.........

Silver_777的博客 2万+

本地缓存之王,Caffeine保姆级教程

发表于北京👉🐱 一对一交流/面试小册/简历优化/求职解惑,欢迎加入「」知识星球。下面是星球提供的部分资料::从书中学,往事中:面朝简历学习,春暖花开:摧枯拉朽,掌控面试高频场景题:系统学习,互联网主流技术栈:知其然,知其所以然👉国产 Star 破 10w+ 的开源项目,前端包括管理后台 + 微信小程序,后端支持单体和微服务架构。

竹林幽深 789

C#国产化技术路线(全栈落地指南,适配信创场景)

本文详细介绍了C#语言在信创产业中的国产化适配方案。核心方案基于.NET8框架,通过硬件架构适配、基础软件替换和打包部署优化三个层面进行改造,无需更换开发语言即可适配国产CPU和操作系统。文章系统讲解了开发工具选择、全栈适配层改造、数据库替换等技术要点,并提供了桌面应用和服务端应用的具体开发流程。针对政务、金融、能源等典型场景给出了可直接套用的技术组合,同时总结了10个关键避坑点。该方案可复用C#开发特性,实现低成本迁移,已在多个行业成功落地。

weilinc的专栏 1206

本地缓存之王,Caffeine 保姆级教程

???? 这是一个或许对你有用的社群???? 一对一交流/面试小册/简历优化/求职解惑,欢迎加入「芋道快速开发平台」知识星球。下面是星球提供的部分资料:《项目实战(视频)》:从书中学,往事上“练”《互联网高频面试题》:面朝简历学习,春暖花开《架构 x 系统设计》:摧枯拉朽,掌控面试高频场景题《精进 Java 学习指南》:系统学习,互联网主流技术栈《必读 Java 源码专栏》:知其然,知其所以然????这是一个或许...

芋艿V 512

从CLIP到AnomalyCLIP:零样本异常检测的跨领域进化之路

本文探讨了从CLIP到AnomalyCLIP的技术演进,重点介绍了零样本异常检测在跨领域应用中的突破。AnomalyCLIP通过对象无关提示学习和多尺度特征提取,显著提升了工业质检、医疗影像等领域的检测精度,实现了高达96.4%的金属螺母划痕检测精度和85.7%的皮肤癌敏感度。这一技术为多模态模型在异常检测中的应用开辟了新路径。

r2s3t4的博客 112

Python金融数据获取工具库之baostock使用详解

在金融数据分析和量化交易中,获取准确及时的市场数据是非常重要的。baostock是一个专门为中国股市数据提供支持的 Python 库,它提供了免费的股票数据接口,用户可以方便地获取股票、指数、基金等各种金融数据。本文将详细介绍baostock库,包括其安装方法、主要特性、基本和高级功能,以及实际应用场景,帮助全面了解并掌握该库的使用。

Rocky006的博客 5349

Redis+Caffeine缓存实战:应用性能瞬间提升

核心是get方法与put方法。/** * 默认key超时时间 3600s */ private long defaultExpiration = 3600;if (value!} //key在redis和缓存中均不存在 ReentrantLock lock = keyLockMap.get(key.toString());if (value!

资料免费分享,点击名片 515

机器学习笔记:估算模型训练所需的样本量的方法

相反,如果训练得分高而交叉验证得分低,那么模型可能存在过拟合问题,需要更多的样本来提高泛化能力。本文将介绍一些常用的方法来估算模型训练所需的样本量,并提供相应的源代码。除了经验法则和学习曲线法,还有一些统计学方法可以用于估算模型训练所需的样本量。学习曲线是一种通过绘制模型性能与样本量之间的关系曲线来估算样本量的方法。需要注意的是,这些方法仅提供了估算样本量的指导,具体的样本量仍然需要根据实际情况进行调整和优化。通过合理估算样本量,可以提高机器学习模型的性能和泛化能力,从而更好地应用于实际问题中。

HnrzLinux的博客 2734

本地缓存之王-Caffeine

引言 随着业务体量的增长,使用的缓存方案一般会经过:1)无缓存直接查DB;2)数据同步+Redis;3)多级缓存 三个阶段。 第1阶段直接查DB只能用于小流量场景,随着QPS升高,需要引入缓存来减轻DB压力。 第2阶段一般会通过消息队列将数据同步到Redis,并在数据发生变更时同步更新Redis,业务查询时直接查Redis,如果Redis无数据再去查DB。该方案的缺点是如果Redis发生故障,缓存雪崩会直接将流量打到DB,可能会进一步将DB打挂,导致业务事故。 第3阶段将Redis缓存作为二级缓存,在其上再

诗酒年华 2万+

(第100天)Oracle GoldenGate 常见故障处理指南

OGG 运维的核心在于细致的配置管理和主动的问题排查。熟悉常见错误、掌握关键操作流程、并善用日志和调试工具,是保障数据同步任务稳定运行的关键。希望这份指南能帮助您更高效地解决 OGG 同步中遇到的问题。祝您运维顺利!

LuciferLiu_DBA 304

移动支付APP(仿支付宝)

Toast.makeText(PayActivity.this, "支付失败:" + payResponse.getMsg(), Toast.LENGTH_SHORT).show();Toast.makeText(PayActivity.this, "支付失败:" + t.getMessage(), Toast.LENGTH_SHORT).show();Toast.makeText(PayActivity.this, "支付失败", Toast.LENGTH_SHORT).show();

寒寒豆豆软件公司的博客 137

新一代缓存之王Caffeine,甩了Guava几条街

我想把记忆缓存起来,等再次见到你,就能够很快认出你。能够说出这么有哲理的话,得益于我对缓存的理解,以及对它的看重。没有了缓存,我的人生就没有了意义。缓存是非常重要的,工作中大部分工作可以说是和缓存打交道。由于使用广泛,所以针对缓存系统的任何优化,如果能够提高一丁点儿性能,就会让人无比兴奋。很长一段时间,我都在用Guava的LoadingCache。它和ConcurrentHashMap是非常像的,但在其上封装了一些好用的逐出策略和并发优化,就显得好用的多。今天主要说的是Caffeine,中文名就是咖啡因,一

知识分享官 361

UDF学习(二)基础数据类型与常见宏

thread_loop_c (t,d) 必须与begin_c_loop (c,t)同时使用,但begin_c_loop (c,t)不一定与thread_loop_c (t,d)同时使用。同理thread_loop_f(t,d)必须与begin_f_loop (c,t)同时使用,但begin_f_loop (c,t)不一定与thread_loop_f(t,d)同时使用。begin_c_loop (c,t) 在计算域内对网格单元进行循环。c_face_loop (c,t)遍历网格单元上的所有网格面。

weixin_44386973的博客 857

新一代缓存之王?Caffeine甩了Guava几条街

我想把记忆缓存起来,等再次见到你,就能够很快认出你。能够说出这么有哲理的话,得益于我对缓存的理解,以及对它的看重。没有了缓存,我的人生就没有了意义。缓存是非常重要的,工作中大部分工作可以说是和缓存打交道。由于使用广泛,所以针对缓存系统的任何优化,如果能够提高一丁点儿性能,就会让人无比兴奋。很长一段时间,我都在用Guava的LoadingCache。它和ConcurrentHashMap是非常像的,但在其上封装了一些好用的逐出策略和并发优化,就显得好用的多。今天主要说的是Caffeine,中文名就是咖啡因,一

jjc4261的博客 275

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

新一代缓存之王:Caffeine,足足甩了Guava几条街

我想把记忆缓存起来,等再次见到你,就能够很快认出你。能够说出这么有哲理的话,得益于我对缓存的理解,以及对它的看重。没有了缓存,我的人生就没有了意义。缓存是非常重要的,工作中大部分工作可以说是和缓存打交道。由于使用广泛,所以针对缓存系统的任何优化,如果能够提高一丁点儿性能,就会让人无比兴奋。很长一段时间,我都在用Guava的LoadingCache。它和ConcurrentHashMap是非常像的,但在其上封装了一些好用的逐出策略和并发优化,就显得好用的多。今天主要说的是Caffeine,中文名就是咖啡因,一

资料免费分享,点击名片 291

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

甩了Guava几条街的新一代缓存之王?Caffeine到底有多牛?

我想把记忆缓存起来,等再次见到你,就能够很快认出你。能够说出这么有哲理的话,得益于我对缓存的理解,以及对它的看重。没有了缓存,我的人生就没有了意义。缓存是非常重要的,工作中大部分工作可以说是和缓存打交道。由于使用广泛,所以针对缓存系统的任何优化,如果能够提高一丁点儿性能,就会让人无比兴奋。很长一段时间,我都在用Guava的LoadingCache。它和ConcurrentHashMap是非常像的,但在其上封装了一些好用的逐出策略和并发优化,就显得好用的多。今天主要说的是Caffeine,中文名就是咖啡因,一

chenxuyuana的博客 203

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

为什么Caffeine比Guava好?

目录 1.缓存淘汰算法 1.1.FIFO 1.2.LRU 1.3.LFU 2.几种缓存的实现 2.1.原生Java 2.2.Guava 2.3.Caffeine 3.参考资料 1.缓存淘汰算法 1.1.FIFO 先进先出:最先进入的缓存被最先淘汰掉,这个基本不会有人用来做缓存 1.2.LRU 最近最少未使用:每次访问就把这个元素放到队列头部...

Aaron_涛 1万+

Caffeine、ConcurrentHashMap 与 Guava Cache:Java 本地缓存三剑客深度对比

维度Caffeine是否缓存否是是性能⭐⭐⭐⭐⭐(Map 场景)⭐⭐⭐⭐⭐⭐⭐功能丰富度⭐⭐⭐⭐⭐⭐⭐⭐⭐⭐淘汰算法无LRU推荐程度仅用于 Map不推荐新项目✅ 强烈推荐在 Java 缓存领域,Caffeine已经成为事实上的标准。它不仅继承了的优秀设计,更在性能、算法、API 上实现了全面超越。而依然是并发编程的基石,但它不是缓存。选型建议若你只需要一个线程安全的Map→ 用若你需要一个高性能、功能完整的本地缓存 →毫不犹豫选择Caffeine。

用文字记录技术,用分享回馈社区,用坚持见证成长 3013
上一篇: RedisJson 横空出世,比 ES 快7 倍,惊爆了!
下一篇: 使用 Docker 高效搭建本地开发环境(详细教程)
公众号-芋道源码
博客等级 码龄10年 1638粉丝 377原创
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值