常见内存缓存

目录

一、了解内存缓存

二、实现简单内存缓存

三、常见开源内存缓存工具

1、Guava Cache

1.1、Guava Cache加载

1.2、Guava Cache缓存回收

1.3、Guava Cache显示清除

1.4、Guava Cache统计

2、Ehcache

3、Caffeine

3.1、常用淘汰算法：

3.2、Caffeine淘汰算法

3.3、Caffeine操作的原子性

四、内存缓存对比

---

一、了解内存缓存

1、缓存使用场景
高并发查询/写入、热点数据、大对象初始化

2、使用缓存好处
提示应用程序性能、降低数据库成本、减少后端负载、性能可预测、消除数据库热点、提高读取吞吐量(IOPS)

3、缓存常用类型
内存缓存(进程内缓存)、分布式缓存、组合缓存(多级缓存)

4、缓存特点
设置存活时间、空间使用有限(淘汰策略:FIFO|LRU|LFU)、支持并发读取写入

5、缓存使用中的常见问题
缓存穿透：请求数据库中不存在的数据，导致每次都无法从缓存中命中，继而请求访问到了数据库
缓存击穿：缓存失效的同时大量并发请求访问到了数据库
缓存雪崩：由于大量缓存同时失效，导致大量请求穿过缓存全部访问到数据库

6、常用内存缓存实现方式
Java容器：JDK自带的Map容器类 HashMap、ConcurrentHashMap
Guava Cache:Google提供的Java增强工具包
Ehcache：重量级、支持二级缓存、Hibernate中默认的缓存架构
Caffeine：基于Guava API开发的高性能内存缓存，Spring5默认的内存缓存架构

二、实现简单内存缓存

1、基于ConcurrentHashMap实现并发读写
2、基于定时器实现缓存定时定期清除 ScheduledThreadPoolExecutor
3、基于队列实现缓存的FIFO淘汰策略 LinkedHashMap

三、常见开源内存缓存工具

1、Guava Cache

运行在JVM的本地缓存，提供了基于容量、时间和引用的缓存回收方式。基于容量的方式内部实现采用LRU算法，基于引用回收很好的利用了Java虚拟机的垃圾回收机制。

1.1、Guava Cache加载

加载方式一：CacheLoader
加载方式二：Callable

1.2、Guava Cache缓存回收

▶回收方式一：基于容量回收
  maximumSize(long)：当缓存中的元素数量超过指定值时便会回收。回收最早写入的元素。
▶回收方式二：定时回收
  expireAfterAccess/Write(long,TimeUnit):缓存项在给定时间内没有被读/写访问，则回收。
▶回收方式三：基于引用回收
  CacheBuilder.weakKeys()：使用弱引用存储键。当key没有其它引用时，缓存项可以被垃圾回收。
  CacheBuilder.weakValues()：使用弱引用存储值。当value没有其它引用时，缓存项可以被垃圾回收。
  CacheBuilder.softValues()：使用软引用存储值。按照全局最近最少使用的顺序回收。

1.3、Guava Cache显示清除

个别清除：Cache.invalidate(key)
批量清除：Cache.invalidateAll(keys)
全部清除：Cache.invalidate()。清除所有缓存项。
Guava Cache缓存中数据存在就读取，不存在就加载数据源写入。可以利用清除，实现缓存一致性。

1.4、Guava Cache统计

2、Ehcache

是一个纯Java的进程内缓存框架，具有快速、精干等特点，是Hibernate中默认的CacheProvider。线程安全。
主要特性：

适用场景：

3、Caffeine

是Google基于Java8对GuavaCache的重写升级版本，支持丰富的缓存过期策略，采用TinyLfu淘汰算法，提供近乎最佳的命中率。(读写)性能上也足以秒杀其他一堆进程内缓存框架。Spring5放弃了Guava，采用了Caffeine。

3.1、常用淘汰算法：

3.2、Caffeine淘汰算法

3.3、Caffeine操作的原子性

GuavaCache操作是不阻塞的。

四、内存缓存对比