20、低功耗计算机视觉与图像识别系统设计

低功耗计算机视觉与图像识别系统设计

高效神经网络架构

在计算机视觉领域，高效的神经网络架构对于实现低功耗计算至关重要。不同的硬件平台对神经网络架构有着不同的偏好。

不同硬件平台的高效模型

ProxylessNAS 搜索出了适用于不同硬件的高效模型，如 GPU 模型和移动模型。
- GPU 模型 ：通常更浅且更宽，尤其在特征图分辨率较高的早期阶段。它偏好大的 MBConv 操作，例如 7×7 MBConv6。这是因为 GPU 具有更高的并行性，可以充分利用大的 MBConv 操作。
- 移动模型 ：倾向于更深且更窄的模型，并且采用较晚的池化操作。它会选择较小的 MBConv 操作。

以下是不同模型的结构示例：

(a) 高效 GPU 模型
MB1 3x3
MB3 5x5
MB3 7x7
MB6 7x7
MB3 5x5
MB6 5x5
MB3 3x3
MB3 5x5
MB6 7x7
MB6 7x7
MB6 7x7
MB6 5x5
MB6 7x7
Conv 3x3
Pooling FC
MB3 3x3
40x112x112
24x112x112
3x224x224
32x56x56
56x28x28
56x28x28
112x14x14
112x14x14
128x14x14
128x14x14
128x14x14
256x7x7
256x7x7
256x7x7
256x7x7
432x7x7
...

不同平台的模型偏好总结如下：
|