12、软件架构设计中的不确定性建模与形式验证

软件架构设计中的不确定性建模与形式验证

1. 不确定性对任务的影响

不同来源的随机不确定性（SU）会对三个任务产生影响。因为操作环境中的一个随机事件可能影响分割任务，但不影响检测或深度估计任务，反之亦然。所以，每个组件都有不同的随机不确定性变量。在图2b的第二种场景中，各组件独立处理来自相机的原始数据，因此它们会受到不同的认知不确定性和随机不确定性的影响。需要注意的是，这些情况并非特定于某个应用或上下文，所有机器学习组件都会受到这些类型的不确定性影响。

2. 定量架构评估

MUDD使用贝叶斯网络（BNs）来处理关于不确定性的定量数据。填充网络所需的概率可以由专家定义，也可以通过模拟推断得出。贝叶斯网络中的随机变量可以取连续值或离散值。
- 连续值情况 ：系统设计者在看到任何数据之前，为每个变量选择一个先验分布，一旦有新的观测数据，就更新其参数。
- 离散值情况 ：变量取离散值，并由其概率质量函数描述。

为了简化，我们选择用具有两个离散值（低不确定性或高不确定性）的概率质量函数来建模所有变量。当不确定性较低时，系统可能满足其预期功能，反之则不然。基于这两个不确定性值，我们有兴趣评估网络中不同节点对规划的影响，并为之前的定性评估获得定量结果。概率和阈值可以由领域专家或通过模拟来确定。

对于示例，我们使用一个测试数据集从深度学习组件中提取不确定性估计值，通过对该数据集中的样本进行平均计算。低和高不确定性之间的阈值代表测试数据集中错误分类示例的最低不确定性估计值。一个组件具有高（认知或随机）不确定性的概率，是不确定性高于阈值的测试示例总数除以测试示例