分布式本地缓存的一种实现

已于 2025-04-16 09:41:53 修改
阅读量6.7k 收藏 6
点赞数 3
文章标签： 分布式 缓存 java
于 2017-08-11 22:18:57 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/tq02h2a/article/details/77103762
版权

  • 源代码

  • 背景

过去一年公司核心系统重构中，有些应用场景是需要使用到本地缓存的，当本地缓存的数据发生更新（删除/增加/修改/全量刷新），如何通知到同一个集群中其他进程更新本地副本，确保同一个集群中，每一个进程实例的地址空间的数据是一致，保证实效性。现在市面上可选用的开源的本地缓存也非常之多，比如Guava的LoadingCache等。这些数据的有效性一般是通过过期-回源的方式来实现的，并不是跨进程的数据增量复制来保证各个业务进程的本地缓存数据一致。在这里，我们实现了后一种方式的数据同步，也是一种去中心化的架构。

  • 设计思想

分为两大核心层：

  1. 第一层为数据缓存层，原则上可以选用任意第三方本地缓存组件，这一块不是我们的重点，在我们的实现中，选用了Guava的LoadingCache。
  2. 第二层为数据复制层，这一层是我们的重点，我们要解决跨进程的数据复制，确保同一集群中各个进程实例地址空间数据副本的一致性，网络节点监控以及服务发现等能力。
采用JAVA实现本地缓存的SDK，因为在实际应用中，我们的所有业务系统都是Java编写的。确保JAVA SDK尽可能少的和应用争抢资源，尽可能少的占用系统资源。JAVA SDK在缓存层对第三方缓存组件做了简单的封装，将二进制日志通过SDK写入本地共享内存，共享内存被建模为一个基于PROTOBUF 3协议的本地小型数据库。JAVA SDK只会负责向数据库中写入BINGLOG。
本地Agent进程，负责消费共享内存数据库中的数据，并对日志进行跨进程复制和重放。Agent同其他节点的业务进程（JAVA SDK）之间建立TCP长连接，用于数据复制，当业务进程（JAVA SDK）接收到请求之后，直接更新本地缓存。共享内存中的数据是持久化到磁盘的，应用可以从任何一个db文件以及该db文件的offset开始重放，能够确保数据不丢。
Agent进程之间，使用组播实现自适应网络，任何Agent或者第三方节点都可以join&leave这个网络而不需要额外的配置，任何第三方系统也可以加入并监听组播网络中的消息实现网络管理功能。当有新的Agent节点加入后，集群中的Agent节点将自动感知到，并且能自动获取即将加入节点的地址，其他节点的Agent可以自动增加到即将加入节点的业务进程TCP长连接（Agent到JAVA SDK的TCP长连接）。当有节点退出，组播网络也能广而告之，该节点将自动从集群中移除，从而实现自管理。
在数据复制过程中，如果一条数据通道（TCP长连接）发生异常，本地的Agent将通知到本地的JAVA SDK，通过回调告知应用（Agent通知JAVA SDK，带上无法复制的key&value），某台服务器的本地缓存可能没法同步到，数据不一致即将发生，应用可以采取一些措施。同时，Agent也会通过组播网络告知集群中的其他节点或者第三方监控节点，数据一致性可能存在问题并发出alarming。
在这套体系中的所有IPC统一采用PROTOBUF 3二进制编码（包括：共享内存，复制协议，服务发现协议等）。同时，Agent到各个业务进程（JAVA SDK）的TCP长连接有重连机制。当TCP因为网络问题闪断，能保证2秒内重连恢复。
  • 共享内存数据结构
包括：索引和数据两部分。
  • 下一步演进

数据复制只会在Agent之间进行，由本地的Agent通过UDP实现回调通知到本地的JAVA SDK。

清风1981
关注
基于C++的分布式缓存系统-KV型
qq_40259429的博客
03-10 2367
Gitee 在云计算时代，全球的数据存储量以平均每年30%的速度不断增长，如何有效提高数据的访问速度成为研究的热点内容。缓存系统作为应对热数据访问的有效补充，能够及时保存最近上传的热数据，从而大大提升系统的响应速度，在数据存储方面的重要性逐渐增大。 本项目旨在实现一款基于C++的分布式缓存系统，能够具有基础的数据读写、分布获取、状态上报功能，同时具备容灾能力，使系统长时稳定工作。为此，项目组设计了多Master、多Cache Server以及若干Client并存的分布式缓存架构，并具备以下功能： （1）单个
Java 源码剖析(09)--如何实现本地缓存和分布式缓存
姜皓的博客
07-09 963
如何实现本地缓存和分布式缓存1）本地缓存和分布式缓存1.1）本地缓存1.1）分布式缓存2）知识扩展2.1）EhCache 和 Guava 的使用及特点分析2.2）LRU 和 LFU 的区别3）EhCache 基础使用4）手动实现一个缓存系统5）小结 缓存（Cache） 是指将程序或系统中常用的数据对象存储在像内存这样特定的介质中，以避免在每次程序调用时，重新创建或组织数据所带来的性能损耗，从而提高了系统的整体运行速度。 以目前的系统架构来说，用户的请求一般会先经过缓存系统，如果缓存中没有相关的数据，就会在其
c++实现lru lfu页面置换算法_SpringBoot2.x系列教程｜SpringBoot整合Hazelcast实现分布式缓存...
weixin_35600779的博客
12-16 136
SpringBoot2.x系列教程|SpringBoot整合Hazelcast实现分布式缓存作者：一一哥一. 分布式缓存代码实现步骤1. 创建web项目我们按照之前的经验，创建一个web程序，并将之改造成Spring Boot项目，具体过程略。2. 添加依赖包 com.hazelcast hazelcast com.hazelcast hazelcast-spring3. ...
如何设计一个本地缓存
最新发布
u013257321的博客
04-05 732
本地缓存（Local Cache）是一种用于提升应用程序性能的优化技术，它通过在应用程序的本地内存中存储数据，减少对外部数据源（如数据库、远程服务等）的访问频率，从而加快数据的读取速度，降低网络延迟和资源消耗。缓存一致性（Cache Consistency）是指缓存中的数据和源数据（如数据库）保持同步的状态，确保客户端从缓存读取的数据是最新的、正确的。这一问题的解决关系到系统的性能、数据的正确性以及用户体验。双向链表维护数据的使用顺序，最近访问的数据被移到链表的头部，而最不常使用的数据位于链表的尾部。
服务器本地缓存
weixin_30701575的博客
07-30 215
1.简介 　　服务器本地缓存是使用一个静态字典，根据唯一准确描述缓存的key来将值存入内存中 　　新建一个CustomCache类，用来保存缓存 　　代码如下： using System; using System.Collections.Generic; namespace ceshi { class CustomCache { priva...
c++ 哈希_分布式数据缓存中的一致性哈希算法
weixin_39725193的博客
11-22 311
一致性哈希算法在分布式缓存领域的 MemCache，负载均衡领域的 Nginx 以及各类 RPC 框架中都有广泛的应用，它主要是为了解决传统哈希函数添加哈希表槽位数后要将关键字重新映射的问题。本文会介绍一致性哈希算法的原理及其实现，并给出其不同哈希函数实现的性能数据对比，探讨Redis 集群的数据分片实现等，文末会给出实现的具体 github 地址。Memcached 与客户端分布式缓存Memca...
本地缓存与分布式缓存优缺点，使用
07-27
本地缓存与分布式缓存优缺点、使用场景 缓存是计算机系统中的一种优化技术，通过将频繁访问的数据存储在内存中，以减少对外部存储设备的访问次数，提高系统的响应速度和性能。本文将详细介绍本地缓存与分布式缓存的...
分布式多级缓存（本地缓存，redis缓存）
lingshengxiyou的博客
04-06 532
log.info("多级缓存 清除失败 {}-->{}:{}",updateKey,key,e);log.info("多级缓存 清除 {}-->{}",updateKey,key);5、基于HybridLevel接口的可扩展式缓存处理，目前已实现：本地缓存、redis缓存。2、热缓存（高频访问持续缓存）+快速过期（本地缓存2秒，redis缓存10秒）4、基于HybridType接口的可扩展式作用域，目前已实现：全局、token。1、基本并发的本地缓存，基于分布式轻量级锁的redis缓存。
Redis分布式缓存的实现（一）
weixin_43711204的博客
08-09 524
利用mybatis自身本地缓存结合redis实现分布式缓存 首先mybatis的二级缓存存在应用服务器上，这种缓存也叫本地缓存，但是本地缓存占用了这台服务器jvm的内存，而且，本地缓存会随着jvm的结束而消失，同时，他只是存在于当前的应用服务器本身，那么日后在集群分布式系统下面它不能做到共享，如果我们用了分布式缓存，任意一个请求在任意一台服务器上查询了相应的操作，都会把它放入redis中，日后所有的查询都会从我们的redis中获取，那么日后缓存的丢失与我们当前应用服务器的重启和断电没有任何影响。...
一种新型分布式代理缓存系统一双层集群缓存.pdf
08-11
【分布式代理缓存系统】是一种优化网络访问性能的技术，它通过在多个节点上分散存储数据，减少对远程服务器的依赖，提高数据访问速度。本文提到的“双层集群缓存”是这种系统的一种新型实现方式。 双层集群缓存系统...
掌握分布式环境缓存更新策略,提高缓存与数据库双写一致性！
m0_71777195的博客
11-27 402
三种缓存模式优缺点：Cache Aside 更新模式实现起来比较简单，但是需要维护两个数据存储，一个是缓存（Cache），一个是数据库（Repository）。Read/Write Through 更新模式只需要维护一个数据存储（缓存），但是实现起来要复杂一些。
使用Go语言实现的分布式缓存
09-23
使用Go语言实现的分布式缓存，纯go语言项目，并非对已有的分布式缓存数据库的封装，内部使用map存储数据，并且实现了持久化与动态增删服务器节点的功能。
c++实现的常见缓存算法和LRU
01-01
前言 对于web开发而言，缓存必不可少，也是提高性能最常用的方式。无论是浏览器缓存(如果是chrome浏览器，可以通过chrome:://cache查看)，还是服务端的缓存(通过memcached或者redis等内存数据库)。缓存不仅可以加速用户的访问，同时也可以降低服务器的负载和压力。那么，了解常见的缓存淘汰算法的策略和原理就显得特别重要。 常见的缓存算法 LRU (Least recently used) 最近最少使用，如果数据最近被访问过，那么将来被访问的几率也更高。 LFU (Least frequently used) 最不经常使用，如果一个数据在最近一段时间内使用次数很少，
分布式缓存平台方案
Roda的博客
01-03 1万+
目录   1、总体说明 1.1、采取redis的原因 1.2、平台总体架构 2、多协议支持方案 3、高可用（HA）方案 3.1、基础设施 3.2、故障检测 3.3、故障切换 4、分布式方案 4.1、垂直扩展 4.2、水平扩展 5、容量管理 6、安全 6.1、配置安全 6.2、访问安全 6.3、内置安全机制 7、运维和管理平台 7.1、集群和实例管理 7.2、...
缓存学习总结2（服务器本地缓存）
每天学习一点点
07-04 327
.Net程序中使用本地缓存，基于System.Web.Caching类。 提供了对缓存数据的新增、查询、清除操作。 新增缓存 实例一：缓存的值为字符串类型 { Cache cache = HttpRuntime.Cache; cache.Insert("我是key", "我是缓存的字符串内容"); var enumerator1 = cache.GetEnumerator();
Java实现本地缓存、分布式缓存及多级缓存
热门推荐
Mr.Cui的Java学习之路
09-25 2万+
Java实现本地缓存、分布式缓存及多级缓存
服务器缓存(Cache)
龚韬的专栏
06-21 1万+
缓存指的是将需要频繁访问的网络内容存放在离用户较近、访问速度更快的系统中，以提高内容访问速度的一种技术。服务器缓存工作原理大纲如下：缓存模式 缓存淘汰 缓存击穿 缓存穿透 缓存雪崩缓存模式比较常见的模式有分为两大类： Cache-aside 以及 Cache-as-SoR。其中 Cache-as-SoR(System of Record, 即直接存储数据的DB) 又包括 Read-through、...
本地缓存、服务器缓存、分布式缓存介绍
Playepineapple的博客
03-18 1053
缓存存在的1.减轻数据库压力2.提升接口的性能3.缓解服务器压力(不用每次去请求资源)；4.提升性能(打开本地资源速度当然比请求回来再打开要快得多)；5.减少带宽消耗例如：我有1000个参数相同的请求，如果没有缓存，就会对访问1000次数据库，会给数据库造成很大的压力，如果用缓存，会减轻数据库的负担，提高程序的性能。
Redis复制与可扩展集群搭建
竹叶青 的专栏
02-09 1147
转载自NoSQLFan：原文链接 Redis的主从复制策略是通过其持久化的rdb文件来实现的，其过程是先dump出rdb文件，将rdb文件全量传输给slave，然后再将dump后的操作实时同步到slave中。下面是一篇介绍Redis复制原理的文章，文章作者为新浪微博的田琪同学（@摇摆巴赫）。 本文会讨论一下Redis的复制功能以及Redis复制机制本身的优缺点以及集群搭建问题。 Re
java分布式本地缓存
03-19
### Java 中实现分布式本地缓存的方式或工具 在 Java 开发领域，分布式本地缓存是一种常见的优化手段，用于提升系统的性能和可扩展性。以下是几种主流的实现方式及其特点： #### 1. **Ehcache** Ehcache 是一种广泛使用的缓存框架，最初设计为本地缓存，但在分布式场景下也提供了强大的支持。通过特定的配置，它可以将本地缓存升级为分布式集群缓存，从而解决多个节点间数据一致性的问题[^3]。 - Ehcache 支持多种分布模式，例如基于 RMI 的复制机制以及 Terracotta 集群方案。 - 数据存储于进程内存中，减少了网络交互带来的延迟。 代码示例： ```java import org.ehcache.Cache; import org.ehcache.CacheManager; import org.ehcache.config.builders.CacheConfigurationBuilder; import org.ehcache.config.builders.CacheManagerBuilder; public class EhcacheExample { public static void main(String[] args) { CacheManager cacheManager = CacheManagerBuilder.newCacheManagerBuilder().build(); cacheManager.init(); Cache<String, String> cache = cacheManager.createCache("myCache", CacheConfigurationBuilder.newCacheConfigurationBuilder( String.class, String.class, ResourcePoolsBuilder.heap(10))); cache.put("key", "value"); System.out.println(cache.get("key")); } } ``` #### 2. **Caffeine** 虽然 Caffeine 主要被定义为单机版的高效缓存库，但它可以通过与其他中间件（如 Redis 或 Hazelcast）集成来实现分布式能力。其高性能特性和易用性使其成为许多开发者的选择。 - 提供近似 LRU 和 LFU 的淘汰算法，适合高频访问的数据缓存需求。 - 可以作为本地缓存层，在分布式环境中配合其他组件完成复杂任务。 代码示例： ```java import com.github.benmanes.caffeine.cache.Caffeine; import java.util.concurrent.TimeUnit; public class CaffeineExample { public static void main(String[] args) { var caffeineCache = Caffeine.newBuilder() .maximumSize(10_000) .expireAfterWrite(5, TimeUnit.MINUTES) .build((k) -> computeValue(k)); System.out.println(caffeineCache.get("exampleKey")); } private static Object computeValue(Object key) { return "Computed-" + key.toString(); } } ``` #### 3. **Hazelcast** Hazelcast 是一款开源的 In-Memory Data Grid (IMDG)，它不仅能够提供高效的分布式缓存服务，还具备内置的消息队列、锁等功能。它的特点是完全去中心化的设计，使得整个系统更加健壮可靠[^2]。 - 支持自动分区与备份功能，即使部分节点失效也不会丢失重要信息。 - API 设计友好，易于上手并快速融入现有应用程序之中。 代码示例： ```java import com.hazelcast.core.Hazelcast; import com.hazelcast.core.HazelcastInstance; import com.hazelcast.map.IMap; public class HazelcastExample { public static void main(String[] args) { HazelcastInstance hazelcastInstance = Hazelcast.newHazelcastInstance(); IMap<Integer, String> map = hazelcastInstance.getMap("distributed-map"); map.put(1, "One"); System.out.println(map.get(1)); } } ``` #### 4. **Redisson** Redisson 是一个针对 Redis 的 Java 客户端封装库，除了常规的操作外，还可以轻松构建起一套完整的分布式对象结构体系，其中包括但不限于 Map、Set、List 等容器形式的支持。借助 Redis 的持久化能力和高可用特性，Redisson 成为了连接传统关系型数据库同现代 NoSQL 技术之间的桥梁之一[^1]。 - 利用 Redis Cluster 架构下的分片技术实现了水平扩容的能力。 - 对 Spring Framework 用户特别友好，几乎零侵入即可享受全套解决方案。 代码示例： ```java import org.redisson.Redisson; import org.redisson.api.RBucket; import org.redisson.api.RedissonClient; import org.redisson.config.Config; public class RedissonExample { public static void main(String[] args) throws InterruptedException { Config config = new Config(); config.useSingleServer().setAddress("redis://127.0.0.1:6379"); RedissonClient redisson = Redisson.create(config); RBucket<String> bucket = redisson.getBucket("test-key"); bucket.set("Hello World!"); Thread.sleep(1000); // Simulate some work delay. System.out.println(bucket.get()); redisson.shutdown(); } } ``` --- ### 总结 每种工具都有自己的优势所在，具体选用哪款取决于实际应用场景的需求分析结果。如果追求简单部署且注重成本控制，则可以选择像 Ehcache 这样的产品；而对于那些希望获得更高灵活性及额外附加价值的企业来说，可能更倾向于采用 Hazelcast 或者 Redisson 方案。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值