13、深入解析缓存组织：从原理到实践

深入解析缓存组织：从原理到实践

1. 多级缓存的发展与优势

随着芯片上可用于缓存的面积不断增加，现代微处理器的缓存组织发生了显著变化。如今，大多数微处理器将二级缓存（L2）集成到处理器芯片上，并增加了三级缓存（L3）。最初，L3 缓存通过外部总线访问，现在多数微处理器已采用片上 L3 缓存。增加第三级缓存能带来性能优势，像 IBM 大型机 zEnterprise 系统，已采用三级片上缓存和跨多芯片共享的四级缓存。

2. 统一缓存与分离缓存

• 统一缓存 ：早期的片上缓存设计多采用单一缓存来存储数据和指令引用。统一缓存有两个潜在优势：
  • 对于给定的缓存大小，统一缓存的命中率比分离缓存高，因为它能自动平衡指令和数据读取的负载。例如，若执行模式中指令读取远多于数据读取，缓存会倾向于被指令填满；反之亦然。
  • 只需设计和实现一个缓存。
• 分离缓存 ：现在常见的做法是将缓存分为两个，一个专门用于指令，另一个专门用于数据，通常作为两个一级缓存（L1）。分离缓存的关键优势在于消除了指令获取/解码单元和执行单元之间对缓存的争用。在依赖指令流水线的设计中，这一点尤为重要。例如，处理器通常会提前获取指令并填充到缓冲区或流水线中。若使用统一的指令/数据缓存，当执行单元进行内存访问以加载和存储数据时，请求会提交到统一缓存。若此时指令预取器也向缓存发出读取指令的请求，该请求会被暂时阻塞，直到缓存先处理执行单元的请求，这会干扰指令流水线的高效使用，降低性能。而分离缓存结构可克服这一难题。

<