14、计算机内存系统性能与组织解析

计算机内存系统性能与组织解析

1. 缓存与二级内存性能基础

在计算机系统中，缓存作为主存与处理器之间的缓冲，构建了二级内部内存架构。这种架构利用局部性原理，相比单级内存能显著提升性能。局部性原理指出，内存引用倾向于聚类。在较长时间内，使用的聚类会发生变化，但在短时间内，处理器主要处理固定的内存引用聚类。

以下是体现局部性原理的几个原因：
1. 除了分支和调用指令（仅占所有程序指令的一小部分），程序执行是顺序的。因此，在大多数情况下，下一条要获取的指令紧跟在上一条获取的指令之后。
2. 很少会有长时间不间断的过程调用序列，随后是相应的返回序列。程序通常局限在一个较窄的过程调用深度窗口内。因此，在短时间内，对指令的引用往往局限于少数几个过程。
3. 大多数迭代结构由相对较少的指令重复多次组成。在迭代期间，计算因此局限于程序的一个小的连续部分。
4. 在许多程序中，大部分计算涉及处理数据结构，如数组或记录序列。在许多情况下，对这些数据结构的连续引用将指向紧密相邻的数据项。

类型	典型访问时间比	内存管理系统	典型块或页面大小	处理器对二级的访问
主存缓存	5:1（主存 vs. 缓存）	由特殊硬件实现	4 到 128 字节（缓存块）	直接访问