06:缓存篇(6)

本文探讨了缓存使用的原因,详细解释了缓存穿透、击穿和雪崩问题及其解决方案。同时,讨论了如何保证Redis与MySQL数据的一致性,以及如何设计和优化分布式锁。此外,还介绍了Redis中Key过期时间的配置及其原理,并针对海量数据场景下的快速查询给出了思路。

目录

一、为什么使用缓存?

二、什么是缓存穿透?缓存击穿?缓存雪崩? 怎么解决?

三、如何保证Redis与数据库的数据一致?

四、如何设计一个分布式锁?如何对锁性能进行优化?

五、Redis如何配置Key的过期时间?他的实现原理是什么?

六、海量数据下,如何快速查找一条记录?


一、为什么使用缓存?

1、高性能
2、高可用

二、什么是缓存穿透?缓存击穿?缓存雪崩? 怎么解决?

1. 缓存穿透: 缓存中查不到,数据库中也查不到。
解决方案:
1)对参数进行合法性校验。
2)将数据库中没有查到结果的数据也写入到缓存。这时要注意为了防止Redis被无用的Key占满,这一类缓存的有效期要设置得短一点。
3) 引入布隆过滤器,在访问Redis之前判断数据是否存在。 要注意布隆过滤器存在一定的误判率,并且,布隆过滤器只能加数据不能减数据。
2. 缓存击穿:缓存中没有,数据库中有。一般是出现在存数数据初始化以及key过期了的情况。他的问题在于,重新写入缓存需要一定的时间,如果是在高并发场景下,过多的请求就会瞬间写到DB上,给DB造成很大的压力。
解决方案:
1)设置这个热点缓存永不过期。这时要注意在value当中包含一个逻辑上的过期时间,然后另起一个线程,定期重建这些缓存。
2)加载DB的时候,要防止并发。
3.缓存雪崩: 缓存大面积过期,导致请求都被转发到DB。
解决方案:
1)把缓存的时效时间分散开。例如,在原有的统一失效时间基础上,增加一个随机值。
2)对热点数据设置永不过期。

三、如何保证Redis与数据库的数据一致?

当我们对数据进行修改的时候,到底是先删缓存,还是先写数据库?
1、如果先删缓存,再写数据库: 在高并发场景下,当第一个线程删除了缓存,还没有来得及写数据库,第二个线程来读取数据,会发现缓存中的数据为空,那就会去读数据库中的数据(旧值,脏数据),读完之后,把读到的结果写入缓存(此时,第一个线程已经将新的值写到缓存里面了),这样缓存中的值就会被覆盖为修改前的脏数据。
总结:在这种方式下,通常要求写操作不会太频繁。
解决方案:
1)先操作缓存,但是不删除缓存。将缓存修改为一个特殊值(-999)。客户端读缓存时,发现是默认值,就休眠一小会,再去查一次Redis。 特殊值对业务有侵入。 休眠时间,可能会多次重复,对性能有影响。
2)延时双删。 先删除缓存,然后再写数据库,休眠一小会,再次删除缓存。如果数据写操作很频繁,同样还是会有脏数据的问题。
2、先写数据库,再删缓存: 如果数据库写完了之后,缓存删除失败,数据就会不一致。
总结: 始终只能保证一定时间内的最终一致性。
解决方案:
1)给缓存设置一个过期时间 问题:过期时间内,缓存数据不会更新。
2)引入MQ,保证原子操作。
解决方案:
将热点数据缓存设置为永不过期,但是在value当中写入一个逻辑上的过期时间,另外起一个后台线程,扫描这些key,对于已逻辑上过期的缓存,进行删除。

四、如何设计一个分布式锁?如何对锁性能进行优化?

分布式锁的本质:就是在所有进程都能访问到的一个地方,设置一个锁资源,让这些进程都来竞争锁资源。通常对于分布式锁,会要求响应快、性能高、与业务无关。
Redis实现分布式锁:SETNX key value:当key不存在时,就将key设置为value,并返回1。如果key存在,就返回0。EXPIRE key locktime: 设置key的有效时长。 DEL key: 删除。 GETSET key value: 先GET,再SET,先返回key对应的值,如果没有就返回空。然后再将key设置value。
1)最简单的分布式锁: SETNX 加锁, DEL解锁。
问题: 如果获取到锁的进程执行失败,他就永远不会主动解锁,那这个锁就被锁死了。
2)给锁设置过期时长:
问题: SETNX 和EXPIRE并不是原子性的,所以获取到锁的进程有可能还没有执行EXPIRE指令,就挂了,这时锁还是会被锁死。
3)将锁的内容设置为过期时间(客户端时间+过期时长)
SETNX获取锁失败时,拿这个时间跟当前时间比对,如果是过期的锁,就先删除锁,再重新上锁。
问题: 在高并发场景下,会产生多个进程同时拿到锁的情况。
4)setNX失败后,获取锁上的时间戳,然后用getset,将自己的过期时间更新上去,并获取旧值。如果这个旧值,跟之前获得的时间戳是不一致的,就表示这个锁已经被其他进程占用了,自己就要放弃竞争锁。如下代码:
public boolean tryLock(RedisnConnection conn) {
    long nowTime = System.currnetTimeMillis();
    12
    long expireTIme = nowTime + 1000;
    if (conn.SETNX("mykey", expireTIme) == 1) {
        conn.EXPIRE("mykey", 1000);
        return true;
    } else {
        long oldVal = conn.get("mykey");
        if (oldVal != null && oldVal < nowTime) {
            long currentVal = conn.GETSET("mykey", expireTime);
            if (oldVal == curentVal) {
                conn.EXPIRE("mykey", 1000);
                return true;
            }
            return false;
        }
        return false;
    }
}

上面就形成了一个比较高效的分布式锁。分析一下,上面各种优化的根本问题在于SETNX和EXPIRE两个指令无法保证原子性。Redis2.6提供了直接执行lua脚本的方式,通过Lua脚本来保证原子性。redission。

五、Redis如何配置Key的过期时间?他的实现原理是什么?

redis设置key的过期时间: 1、 EXPIRE 。 2 SETEX
实现原理:
1)定期删除: 每隔一段时间,执行一次删除过期key的操作。
2)懒汉式删除: 当使用get、getset等指令去获取数据时,判断key是否过期。过期后,就先把key删除,再执行后面的操作。 Redis是将两种方式结合来使用。
懒汉式删除定期删除:平衡执行频率和执行时长。
定期删除时会遍历每个database(默认16个),检查当前库中指定个数的key(默认是20个)。随机抽查这些key,如果有过期的,就删除。 程序中有一个全局变量记录到秒到了哪个数据库。

六、海量数据下,如何快速查找一条记录?

1、使用布隆过滤器:快速过滤不存在的记录。 使用Redis的bitmap结构来实现布隆过滤器。
2、在Redis中建立数据缓存:将我们对Redis使用场景的理解尽量表达出来。
以普通字符串的形式来存储,(userId -> user.json)。 以一个hash来存储一条记录 (userId key-> username field-> , userAge->)。 以一个整的hash来存储所有的数据,UserInfo-> field就用userId , value就用user.json。一个hash最多能支持 2^32-1(40多个亿)个键值对。
缓存击穿:对不存在的数据也建立key。这些key都是经过布隆过滤器过滤的,所以一般不会太多。
缓存过期:将热点数据设置成永不过期,定期重建缓存。 使用分布式锁重建缓存。
查询优化:按槽位分配数据,自己实现槽位计算,找到记录应该分配在哪台机器上,然后直接去目标机器上找。

基础-0-Java虚拟机导学课程 11:33 基础-1-初识JVM 22:27 基础-2-Java虚拟机的组成 04:47 基础-3-字节码文件的组成-以正确的姿势打开字节码文件 10:41 基础(补)-3.5-字节码文件的组成-基础信息 15:54 基础-4-字节码文件的组成-常量池和方法 25:51 基础-5-字节码文件常见工具的使用1 11:43 基础-6-字节码文件常见工具的使用2 22:20 基础-7-类的生命周期加载阶段 22:09 基础-8-类的生命周期2连接阶段 19:58 基础-9-类的生命周期3初始化阶段 26:27 基础-10-类加载器的分类 13:56 基础-11-启动类加载器 13:36 基础-12-扩展和应用程序类加载器 16:26 基础-13-双亲委派机制 18:43 基础-14-打破类的双亲委派机制-自定义类加载器 25:16 基础-15-打破双亲委派机制2-线程上下文类加载器 20:17 基础-16-打破双亲委派机制3-osgi和类的热部署 11:53 基础-17-JDK9之后的类加载器 09:05 基础-18-运行数据区-程序计数器 15:42 基础-19-栈-局部变量表 19:20 基础-20-栈-操作数栈和帧数据 12:08 基础-21-栈-内存溢出 15:28 基础-22-堆内存 25:56 基础-23-方法区的实现 16:25 基础-24-方法区-字符串常量池 20:40 基础-25-直接内存 12:39 基础-26-自动垃圾回收 11:32 基础-27-方法区的回收 11:32 基础-28-引用计数法 15:41 基础-29-可达性分析法 20:25 基础-30-软引用 24:40 基础-31-弱虚终结器引用 12:08 基础-32-垃圾回收算法的评价标准 13:31 基础-33-垃圾回收算法1 10:05 基础-34-垃圾回收算法-分代GC 20:19 基础-35-垃圾回收器1 15:54 基础-36-垃圾回收器2 11:44 基础-37-垃圾回收器3 15:51 基础-38-g1垃圾回收器 26:23 实战-1-内存泄漏和内存溢出 21:25 实战-2-解决内存泄漏-监控-top命令 12:16 实战-3-解决内存泄漏-监控-visualvm 12:50 实战-4-解决内存泄漏-监控-arthas tunnel 15:18 实战-5-解决内存泄漏-监控-prometheus-grafana 17:53 实战-6-解决内存泄漏-堆内存状况对比 08:39 实战-7-解决内存泄漏-内存泄漏产生的几大原因 16:01 实战-8-内存泄漏产生的原因2 13:30 实战-9-内存泄漏产生的原因3 10:43 实战-10-内存泄漏产生的原因4 10:04 实战-11-内存泄漏产生原因2-并发请求问题 17:30 实战-12-导出堆内存快照并使用MAT分析 08:38 实战-13-MAT内存泄漏检测原理 17:23 实战-14-服务器导出内存快照和MAT使用小技巧 13:31 实战-15-实战1-查询大数据量导致的内存溢出 26:24 实战-16-实战2-mybatis导致的内存溢出 10:34 实战-17-实战3-k8s容器环境导出大文件内存溢出 26:13 实战-18-系统不处理业务也占用大量的内存 14:13 实战-19-文章审核接口的内存问题 18:28 实战-20-btrace和arthas在线定位问题 20:15 实战-21-GC调优的核心目标 11:23 实战-22-GC调优的常用工具 12:05 实战-23-GC调优的常见工具2 14:25 实战-24-常见的GC模式 13:38 实战-25-基础JVM参数的设置 28:31 实战-26-垃圾回收器的选择 18:04 实战-27-垃圾回收参数调优 07:56 实战-28-实战-GC调优和内存调优 30:43 实战-29-性能问题的现象和解决思路 10:49 实战-30-定位进程CPU占用率高的问题 18:52 实战-31-接口响应间很长问题的定位 14:44 实战-32-火焰图定位接口响应间长的问题 12:03 实战-33-死锁问题的检测 14:37 实战-34-基准测试框架JMH的使用 28:24 实战-35-实战-性能调优 26:36 高级-01-GraalVM介绍 12:13 高级-02-GraalVM的两种运行模式 15:43 高级-03-使用SpringBoot3构建GraalVM应用 15:08 高级-04-将GraalVM应用部署到函数计算 25:13 高级-05-将GraalVM应用部署到Serverless 09:14 高级-06-参数优化和故障诊断 22:31 高级-07-垃圾回收器的技术演进 13:09 高级-08-ShenandoahGC 22:50 高级-09-ZGC 14:35 高级-10-实战案例-内存不足的垃圾回收测试 09:47 高级-11-JavaAgent技术 12:16 高级-12-JavaAgent环境搭建 15:24 高级-13-查看内存的使用情况 18:48 高级-14-生成内存快照 13:47 高级-15-获取类加载器的信息 16:26 高级-16-打印类的源码 18:00 高级-17-使用ASM增强方法 29:45 高级-18-使用ByteBuddy打印方法执行的参数和耗 21:55 高级-19-APM系统和数据采集 24:30 原理-01-栈上的数据存储 15:05 原理-02-boolean在栈上的存储方式 22:48 原理-03-对象在堆上的存储1 17:27 原理-04-对象在堆上的存储2 25:14 原理-05-方法调用的原理1-静态绑定 19:26 原理-06-方法调用的原理2-动态绑定 15:25 原理-07-异常捕获的原理 12:00 原理-08-JIT即编译器 14:49 原理-09-JIT即编译器优化手段1-方法内联 16:49 原理-10-JIT即编译器优化手段2-逃逸分析 09:03 原理-11-g1垃圾回收器原理-年轻代回收 27:57 原理-12-g1垃圾回收器原理-混合回收 17:24 原理-13-ZGC原理 26:27 原理-14-ShenandoahGC原理 09:39 面试-01-什么是JVM 16:38 面试-02-字节码文件的组成 15:02 面试-03-什么是运行数据区 20:09 面试-04-哪些区域会出现内存溢出 11:56 面试-05-JDK6-8内存区域上的不同 14:36 面试-06-类的生命周期 17:17 面试-07-什么是类加载器 17:05 面试-08-什么是双亲委派机制 12:15 面试-09-如何打破双亲委派机制 18:10 面试-10-tomcat的自定义类加载器 31:18 面试-11-如何判断堆上的对象有没有被引用 10:05 面试-12-JVM中都有哪些引用类型 16:58 面试-13-theadlocal中为什么要使用弱引用 12:16 面试-14-有哪些垃圾回收算法 24:54 面试-15-有哪些常用的垃圾回收器 18:55 面试-16-如何解决内存泄漏问题 23:52 面试-17-常见的JVM参数 11:11 这是目前我学习的视频集合,要不要全看,或者少了什么,有哪些重要内容需要进行学习汇总或刷题或通过小实例验证
10-02
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Thomas.Sir

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值