33、基于人工智能的网络物理系统安全分析的认证博弈

基于人工智能的网络物理系统安全分析的认证博弈

1. 引言

近年来，安全关键网络物理系统（CPS）的致命故障案例重新引发了对认证过程的讨论。当前的认证程序要求制造商在整个系统工程过程中遵循安全工程标准和法规来设计系统。食品药品监督管理局（FDA）推出了数字健康软件预认证（Pre - Cert）途径的行动计划，旨在建立对人工智能/机器学习（AI/ML）医疗设备制造商的信任，该途径可扩展到自动驾驶等其他领域。

不过，制造商可能会因商业秘密限制或无法保证某些组件的安全性而隐瞒系统的部分组件。因此，确保指定的实时性能分析（RWPA）、系统规格和实时性能数据（RWPD）与运行系统一致至关重要。本文提出了一种基于制造商和认证者之间合作博弈的附加认证层，可在运营阶段定期执行，以验证运营CPS与指定CPS的一致性，即运营安全。其优势包括：
- 保护制造商的竞争优势，允许制造商和认证者仅使用部分系统规格分析系统认证的可能性。
- 在致命事故发生前检测CPS的损坏情况以及指定系统与运营系统之间的差异。
- 在事故分析阶段确定事故的根本原因。

2. 定义和预备知识

2.1 网络物理系统模型

CPS模型表示控制器模型、用户行为模型和物理系统模型之间的交互，可建模为混合自动机（HA），其受控物理系统变量的动态由一组常微分方程（ODE）表示。HA模型包含一组操作上下文（即控制模式），其中满足预定义的初始和瞬态条件。在实际操作中，部分系统变量会被观察和采样，数据可用于认证过程。制造商通常会透露CPS模型某些组件的详细信息，而对其他组件的信息进行隐瞒。

例如，美敦力为Minimed 670的自调整组件提供了一个模型，