缓存是Web应用中重要的工具,基于最终一致性原理的缓存机制避免了Web应用中耗时操作的调用,比如数据库操作,Rest Http Service调用等。缓存提高了接口响应速度,提高了Web应用的并发量和吞吐量。
目前常用的缓存工具有缓存中间件(Redis和Memcached)和本地缓存(Google Guava),虽然工具各异,但是都需要调整一些类似的缓存参数。本文讨论这些参数和cache命中率之间的公式关系,以便在调整这些参数时能够有所依据。
假设与推导
我们希望请求尽量被Cache所处理,而尽量少的通过复杂业务逻辑,因此有了缓存命中率r的概念,并希望r越大越好:
缓存命中率r=被Cache处理的请求数/总请求数
在讨论r之前做两个基本假设:
- 假设Cache是Key-Value类型的,每个Key对应一个Value,并且Key都是离散值
- 假设每个请求到达Cache对应唯一的key,并且请求是完全随机的
在各种Cache工具中,可能影响r的主要参数包括两个:
- Cache所允许的最大key数量(设为n)
- Cache中Key-Value的过期

本文探讨了Web应用中缓存参数与命中率的关系,建立了数学模型,并提出优化建议。首先,通过分析缓存命中率公式,强调了缓存空间、Key取值空间和过期时间的影响。然后,指出压缩Key取值空间和合理设置缓存大小、过期时间的重要性。最后,建议先降低Key取值空间,再增大缓存容量,若Key取值范围过大,推荐使用集群缓存。
最低0.47元/天 解锁文章

被折叠的 条评论
为什么被折叠?



