28、硬件感知系统级成本：在边缘设备中实现资源高效概率模型

硬件感知系统级成本：在边缘设备中实现资源高效概率模型

1. 引言

随着物联网（IoT）的迅速发展，越来越多的智能设备被部署在边缘计算环境中。这些设备通常依赖电池供电，计算和存储资源有限，因此在这些设备上实现机器学习模型面临着严峻的资源挑战。为了在资源受限的环境中高效地部署概率模型，硬件感知系统级成本的概念应运而生。本篇文章将探讨如何将嵌入式感知/推理管道不同阶段的能量消耗贡献映射到硬件感知成本度量中，从而识别出系统全局配置的帕累托最优集。

2. 硬件感知成本的定义

硬件感知成本（Hardware-Aware Cost, CHA）是一种系统级的度量，旨在评估嵌入式设备在不同配置下的资源消耗与任务性能之间的权衡。具体来说，CHA由以下几个部分组成：

• 传感器接口和特征提取成本（CSI） ：这部分成本涵盖了传感器及其前端电路的能量消耗，以及从这些传感器中提取特征的成本。
• 推理成本（CM） ：这部分成本涉及在模型上执行推理操作所需的能量消耗。
• 动态调整模块成本（CT） ：这部分成本涉及在运行时调整设备配置所需的能量消耗。

硬件感知成本的定义如下：

$$
CHA(\kappa, S, F) = \sum_{S \in S} CSI(S, FS) + CM(\kappa)
$$

其中：
- $\kappa$ 是一个编码了从传感器接口集合 $S$ 中提取的特征集 $F$ 上的联合概率分布的概率电路