如何解决Redis雪崩、穿透、并发等5大难题

本文详述了缓存雪崩现象,包括其形成原因、对系统性能的影响及预防措施,如高可用性设计、缓存降级、快速预热和备份方案,以及缓存穿透和并发问题的解决方案。

缓存雪崩

数据未加载到缓存中,或者缓存同一时间大面积的失效,从而导致所有请求都去查数据库,导致数据库CPU和内存负载过高,甚至宕机。
比如一个雪崩的简单过程:
1、redis集群大面积故障
2、缓存失效,但依然大量请求访问缓存服务redis
3、redis大量失效后,大量请求转向到mysql数据库
4、mysql的调用量暴增,很快就扛不住了,甚至直接宕机
5、由于大量的应用服务依赖mysql和redis的服务,这个时候很快会演变成各服务器集群的雪崩,最后网站彻底崩溃。

如何预防缓存雪崩:

1.缓存的高可用性
缓存层设计成高可用,防止缓存大面积故障。即使个别节点、个别机器、甚至是机房宕掉,依然可以提供服务,例如 Redis Sentinel 和 Redis Cluster 都实现了高可用。
2.缓存降级
可以利用ehcache等本地缓存(暂时支持),但主要还是对源服务访问进行限流、资源隔离(熔断)、降级等。
当访问量剧增、服务出现问题仍然需要保证服务还是可用的。系统可以根据一些关键数据进行自动降级,也可以配置开关实现人工降级,这里会涉及到运维的配合。
降级的最终目的是保证核心服务可用,即使是有损的。
比如推荐服务中,很多都是个性化的需求,假如个性化需求不能提供服务了,可以降级补充热点数据,不至于造成前端页面是个大空白。
在进行降级之前要对系统进行梳理,比如:哪些业务是核心(必须保证),哪些业务可以容许暂时不提供服务(利用静态页面替换)等,以及配合服务器核心指标,来后设置整体预案,比如:
(1)一般:比如有些服务偶尔因为网络抖动或者服务正在上线而超时,可以自动降级;
(2)警告:有些服务在一段时间内成功率有波动(如在95~100%之间),可以自动降级或人工降级,并发送告警;
(3)错误:比如可用率低于90%,或者数据库连接池被打爆了,或者访问量突然猛增到系统能承受的最大阀值,此时可以根据情况自动降级或者人工降级;
(4)严重错误:比如因为特殊原因数据错误了,此时需要紧急人工降级。
3.Redis备份和快速预热
1)Redis数据备份和恢复
2)快速缓存预热
4.提前演练
最后,建议还是在项目上线前,演练缓存层宕掉后,应用以及后端的负载情况以及可能出现的问题,对高可用提前预演,提前发现问题。

缓存穿透

缓存穿透是指查询一个一不存在的数据。例如:从缓存redis没有命中,需要从mysql数据库查询,查不到数据则不写入缓存,这将导致这个不存在的数据每次请求都要到数据库去查询,造成缓存穿透。
解决思路:
如果查询数据库也为空,直接设置一个默认值存放到缓存,这样第二次到缓冲中获取就有值了,而不会继续访问数据库。设置一个过期时间或者当有值的时候将缓存中的值替换掉即可。
可以给key设置一些格式规则,然后查询之前先过滤掉不符合规则的Key。

缓存并发

这里的并发指的是多个redis的client同时set key引起的并发问题。其实redis自身就是单线程操作,多个client并发操作,按照先到先执行的原则,先到的先执行,其余的阻塞。当然,另外的解决方案是把redis.set操作放在队列中使其串行化,必须的一个一个执行。

缓存预热

缓存预热就是系统上线后,将相关的缓存数据直接加载到缓存系统。
这样就可以避免在用户请求的时候,先查询数据库,然后再将数据缓存的问题!用户直接查询事先被预热的缓存数据!
解决思路:
1、直接写个缓存刷新页面,上线时手工操作下;
2、数据量不大,可以在项目启动的时候自动进行加载;
目的就是在系统上线前,将数据加载到缓存中。
以上就是缓存雪崩、预热、降级等的介绍。
转载至知乎;
原网址:https://zhuanlan.zhihu.com/p/58331707
### 解决Redis雪崩、击穿和穿透问题的最佳实践 #### 1. 缓存雪崩解决方案 缓存雪崩是指量缓存同时失效,导致请求直接打到数据库上,造成数据库压力过。以下是几种常见的解决方案: - **设置随机过期时间**:为每个缓存键设置不同的过期时间,避免所有缓存同时失效[^2]。 - **使用布隆过滤器预判**:在缓存和数据库之间加入布隆过滤器,提前判断数据是否存在,减少无效查询[^3]。 - **引入互斥锁(Mutex)**:当某个缓存失效时,通过分布式锁确保只有一个线程去加载数据,其他线程等待加载完成后再使用新数据[^1]。 ```python import redis import threading def get_data_with_mutex(key): r = redis.Redis() if r.exists(key): return r.get(key) lock_key = f"lock:{key}" with threading.Lock(): if not r.exists(lock_key): r.set(lock_key, "1", ex=5) # 设置锁并设置超时时间 data = fetch_data_from_db(key) # 从数据库获取数据 r.set(key, data, ex=60) # 将数据写入缓存 r.delete(lock_key) # 删除锁 return r.get(key) ``` #### 2. 缓存击穿的解决方案 缓存击穿是指某个热点数据恰好在缓存中失效,并发请求直接访问数据库。以下是解决方法: - **加锁机制**:如前所述,使用分布式锁确保只有一个线程负责加载数据,其他线程等待[^2]。 - **永不过期策略**:对于极热的数据,可以考虑设置永不过期,并通过后台任务定期更新缓存[^1]。 ```python def update_hot_data_periodically(key, interval=60): while True: data = fetch_data_from_db(key) r = redis.Redis() r.set(key, data) # 不设置过期时间 time.sleep(interval) ``` #### 3. 缓存穿透解决方案 缓存穿透是指请求的数据既不在缓存中,也不在数据库中,导致每次请求都直接访问数据库。以下是应对措施: - **返回空值缓存**:当发现数据库中不存在对应数据时,在缓存中存储一个特殊的标志(如 `None`),并设置较短的过期时间,防止后续相同请求再次查询数据库[^3]。 - **布隆过滤器**:在缓存层之前引入布隆过滤器,快速判断请求的数据是否可能存在,从而拦截无效请求[^3]。 ```python def handle_cache_miss(key): r = redis.Redis() if not r.exists(key): data = fetch_data_from_db(key) if data is None: r.set(key, "NULL", ex=60) # 缓存空值 else: r.set(key, data, ex=300) return r.get(key) ``` ### 总结 通过合理设置缓存过期时间、引入布隆过滤器、使用分布式锁以及缓存空值等方法,可以有效缓解 Redis 雪崩、击穿和穿透带来的问题。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值