33、使用近似DRAM实现高效能、高性能的神经网络推理

使用近似DRAM实现高效能、高性能的神经网络推理

1. DRAM参数调整

DRAM的性能和功耗与多个参数密切相关，对这些参数进行调整可以在一定程度上实现节能和提高性能的目的，但同时也可能引入错误。
- 电压降低 ：功率与电源电压的平方成正比，降低电压能显著降低功耗。然而，降低电压会增加信号传播延迟，使用未修改的时序参数时可能导致错误。以往的研究通过增加tRCD和tRP延迟来避免错误，而现在的目标是同时降低电源电压和时序参数，虽会使DRAM中最弱的单元出现位翻转错误，但由此产生的错误模式通常具有局部性。
- 访问延迟降低 ：降低延迟对于提高系统性能至关重要。先前的研究发现，实际DRAM设备的最小可靠行激活（tRCD）和预充电（tRP）延迟值比数据表中报告的值小得多，这是因为制造商引入了保守的保护带。进一步降低这些延迟值会导致弱或不稳定的DRAM单元出现位翻转。
- 刷新速率降低 ：降低DRAM芯片的刷新速率可以提高性能并降低能耗，但会引入一些错误，不过许多能容忍位错误的工作负载可以接受这些错误。

常见DRAM DDR4时序参数的标称值如下表所示：
| 参数 | 标称值（ns） |
| ---- | ---- |
| tRCD | 12.5 |
| tRAS | 32 |
| tRP | 12.5 |
| CL | 12.5 |

2. EDEN框架概述

为了解决片外DRAM在神经网络工作负载中的能源和延迟问题，提出了EDEN框架。它是第一个通过使用近似DRAM