17、动态调整运行时策略的成本

动态调整运行时策略的成本

1. 引言

在资源受限的嵌入式系统中，实现高效的机器学习模型是一个重要的挑战。为了在这些系统中实现始终在线的功能，需要在准确度和成本之间找到最佳的权衡。动态调整运行时策略是一种有效的方法，可以在运行时根据实际情况调整系统配置，以实现最佳性能和最低成本。本章将讨论实现这些策略的控制块在数字硬件中的实现及其硬件感知成本 ( CT )，以及如何在运行时提取帕累托最优权衡。

2. 动态调整策略的硬件实现及其成本 ( CT )

2.1 动态调整策略的硬件实现

在嵌入式系统中，控制块用于实现运行时调整策略。这些控制块在数字硬件中实现，主要负责根据当前系统的状态调整特征提取前端的配置。图 3.1展示了这种实现的框图，其中控制块负责管理传感器接口、特征提取和推理模块之间的交互。

graph TD
    A[嵌入式系统] --> B[传感器接口]
    A --> C[特征提取模块]
    A --> D[推理模块]
    A --> E[控制块]
    E --> B
    E --> C
    E --> D

控制块的主要功能包括：
- 根据当前的硬件状态调整传感器接口的配置。
- 动态选择特征提取模块的特征子集。
- 调整推理模块的复杂度。

2.2 硬件感知成本 ( CT )

硬件感知成本 ( CT ) 是控制块在运行时调整策略时产生的成本。这部分成本是基本操作的数量和类型以及位数的函数。具