Cache Replacement Policy: Cache 替换策略

本文介绍了缓存系统中的几种关键替换策略,包括真实的LRU算法及其简化版本PLRU,以及BIP/DIP等动态插入策略。这些策略对于提高缓存命中率、降低延迟有着重要作用。

cache 是 CPU和memory中间的缓存,如果访问时选中的set已经满了,就需要从set中选择一个way

Least recently used (LRU)

replace最近最少使用的block。算法记录访问的cache block以及时间顺序,完整的实现这个方式代价比较大。实现时需要为每个cache line记录“age bit”,基于age bit 记录“Least Recently Used” 。

每次访问cache-line,所有的其他的cachline的age都需要修改。

如果访问顺序是A B C D E D F,那么访问的顺序如下:
在这里插入图片描述
比较有意思的是很多面试题都会实现LRU Cache,一般的做法是实现

  • 双向list,最近访问的放在list head,如果list内部已经有,就移到头部;如果list内部没有,就在head新建立插入一个,并删除末尾的
  • Map 用于在list中索引,以log(n)的复杂度找到match的节点

Pseudo-LRU (LRU)

因为LRU的代价较大,实际上并不需要严格的替换掉最近最少访问的那一个,只需要实现从最近最少访问的几个中挑选出一个作为victim,因此很多CPU实际上采用了PLRU的方式,每个cac

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值