15、运行时策略：实现资源受限设备上的机器学习优化

运行时策略：实现资源受限设备上的机器学习优化

一、模型选择与超参数设置

1.1 模型选择

在进行模型选择时，会考虑每种情况下训练集的最高和最低准确率，以及处于两者成本中点的模型。通过选择特定的模型对，可以跨越接近原始帕累托最优前沿的区域。例如，选择的两对模型（如绿色和蓝色所示的 κ1 和 κ2）能够在有限数量的模型（当前为三个）下接近帕累托最优权衡前沿。

1.2 超参数选择

策略的行为由两个超参数决定：
- TPolicy ：策略评估的频率，同时影响 Stable 变量。
- accmin ：设置从简单模型切换到复杂模型的阈值 StoC,cpred。

对于实验，通过网格搜索为每个活动持续时间选择超参数 TPolicy 和 accmin。具体操作步骤如下：
1. 对验证集应用具有可用超参数值的切换策略。
2. 选择成本与准确率的帕累托最优集。

考虑的超参数值为：
- TPolicy = {2, 5, 10, 15, 20, 25}
- accmin = {70%, 80%, 90%}

超参数的影响如下表所示：
| 超参数值 | 对成本和准确率的影响 |
| ---- | ---- |
| TPolicy = 2 或 5 | 可到达权衡空间的低成本区域，能实现超越静态帕累托最优的权衡，与活动长度无关。原因是 Stable 变量监控过去 TPolicy 时间段内的预测变化，TPolicy = 2 时，策略更倾向于切换到简单模型 κ(S)