15、动态保证的置信度监测与组合

动态保证的置信度监测与组合

在当今的科技领域，对于自主系统安全性的保障是至关重要的。特别是在一些复杂的任务场景中，如水下管道检查，如何确保系统在运行过程中始终满足安全要求，是一个极具挑战性的问题。本文将围绕如何动态估计自主系统运行的置信度展开讨论，以水下自主航行器（AUV）执行管道检查任务为例进行详细分析。

1. AUV 系统概述

AUV 在执行水下管道检查任务时，需要在保持对管道跟踪的同时，避免与障碍物发生碰撞。为了实现这一目标，AUV 配备了多种设备和组件：
- 传感器 ：
- 前视声纳：用于检测前方障碍物。
- 侧视合成孔径声纳：用于跟踪管道。
- 学习组件 ：
- 障碍物检测器：从声纳图像中发现障碍物，计算到最近障碍物的距离和大小。
- 感知组件：检测侧视声纳图像中的管道，计算到管道的距离和相对于管道的航向。
- 神经网络控制器：根据相对航向、到管道的距离和障碍物信息，计算车辆执行器的控制命令。

在设计阶段，通常会使用形式化闭环验证来为任务提供保证。例如，将 AUV 及其环境建模为混合系统，并使用工具进行可达性分析，以验证任务要求是否得到满足。然而，这种验证依赖于一些假设，如 AUV 的物理动力学准确地被模型捕获，感知组件能提供准确的读数等。这些假设在运行时很可能会被违反。

2. 问题陈述与挑战

我们的目标是根据系统运行的实时观测，确定设计阶段建立的安全要求满足保证仍然有效的置信度水平。低置信度并不一定意味着安全要求即将被违反，但可以将其概率解释作为任务安全概率的下限。为了使这个置信度