In-memory cache设计总结 - 前言

在日常业务开发中，我们通常使用redis等外部中间件作为cache，但依赖外部cache的IO开销在部分高性能计算场景中带来的影响不可忽略。

在上述场景中，基于内存的cache得到了广泛的应用。常见的高性能in-memory cache主要有以下如下几种：

1. Guava cache(java)
2. Caffine(java)
3. ChronicleMap(java)
4. BigCache(golang)

通常此类in-memory cache需要满足如下需求：

1. 实现基本的get/set接口
2. 容量控制机制
3. eviction机制

以下，我们将对Caffeine/ChronicleMap/BigCache的设计进行分析，尝试总结出高性能in-memory设计的一般原则。