39、动态风险管理与安全机器学习生命周期的ESG考量

动态风险管理与安全机器学习生命周期的ESG考量

在当今科技快速发展的时代，动态风险管理（DRM）和安全的机器学习（ML）生命周期变得愈发重要。下面我们将深入探讨这两个领域的关键内容。

动态风险管理相关研究

动态风险管理在许多领域都有着重要的应用，特别是在自主系统（AS）中。它具有一些关键特性，例如系统或组件可以在无需耗时重新认证的情况下进入和离开组合。这就需要一种被广泛接受的格式来动态交换安全相关信息，如对信息的置信水平。

目前已经有一些研究提出了相关格式，但要在行业中广泛采用仍有很长的路要走。例如，ConSerts方法使用基于安全完整性等级（SILs）安全要求的简单保证 - 需求接口；开放可靠性交换（ODE）元模型及其数字可靠性身份（DDI）实例则提供了更灵活的方法。

以下是动态风险管理的几个重要概念：
1. 增强安全声明的置信度 ：在复杂环境和不成熟技术的情况下，要在整个AS产品生命周期内实现高置信度非常具有挑战性。因此，通过现场反馈来增强安全声明的置信度是一个相关的DRM概念。其思路是利用现场数据生成额外的证据，以创建更有力的论据。在初始部署时，安全论据和证据可能仅足以支持有限的任务时间、有限数量的AS以及有人在环的情况。在这个有限的任务时间内收集现场数据，以证实支持性证据，从而为下一个操作/证据收集周期提供支持，可能会涉及更多的AS或减少操作员的参与。
2. 持续安全保证 ：即使在初始部署足够安全之后，不可预见的变化（如情况分布的改变或新的交通参与者及其新行为）可能会增加操作风险，因为AS并非专门为这些变化而设计。此外，部署后发现的安全漏洞和新的监管要求也需