17、低功耗计算机视觉与高效神经网络架构

低功耗计算机视觉与高效神经网络架构

1. 低功耗设备中的AI算法实现挑战

随着AI技术逐渐渗透到各个领域，系统设计者面临的一个重大问题是如何在不同的硬件设备上实现AI算法，以充分发挥其在实际问题中的作用。特别是对于广泛使用的低功耗和移动设备，这些设备采用了异构处理器架构和硬件专业化技术来提高系统能源效率。因此，如何分析、分解并将AI算法映射到底层硬件上，对任务的实现成本有着显著影响。

2. 手动调度神经网络计算机视觉任务

通过研究相关解决方案，我们可以手动将基于神经网络的计算机视觉任务调度到典型的移动片上系统（SoC）上，从而实现计算资源和能源的高效利用。手动调度方法能够根据具体的硬件特性和任务需求，对任务进行合理的分配和安排。

3. 细粒度神经网络调度问题建模

除了手动调度方法，我们还引入并建模了处理器上的细粒度神经网络调度问题。研究证明，基于该模型和任务图的调度器能够在流行的神经网络处理器上实现内存级别的最优调度。这意味着可以更有效地利用处理器的内存资源，减少内存访问开销，提高计算效率。

4. 调度友好型网络量化器

除了调度器本身，还介绍了一种调度友好型网络量化器。这表明对神经网络进行算法级别的优化时，必须与硬件架构相协调。只有这样，才能充分发挥硬件的性能，实现算法和硬件的最佳匹配。

5. 高效神经网络架构设计的重要性

设计高效的神经网络架构是提高效率的一种广泛采用的方法，除了压缩现有的深度神经网络之外。卷积神经网络（CNN）模型通常由卷积层、池化层和全连接层组成，其中大部分计算量来自卷积层。例如，在ResNet - 50中，超过99%的乘加