3、以人类为中心的基于人工智能系统的可靠集成概念与规则驱动的汽车领域威胁分析及缓解策略

以人类为中心的基于人工智能系统的可靠集成概念与规则驱动的汽车领域威胁分析及缓解策略

汽车系统面临的安全与网络安全挑战

随着汽车系统与网络（如车联网V2X）的深度融合、自动驾驶等新功能的出现以及在线软件更新的普及，远程网络攻击能够直接影响车辆的安全相关功能。因此，需要一种综合的方法来进行安全和网络安全分析。

预期功能安全（SotIF）

在进行危害分析和风险评估之后，需要根据安全目标进行触发条件分析。确定最适合定义SotIF要求的方法十分有用，这样可以在系统开发的第一阶段就发现系统设计的弱点，并将风险降低到可接受的水平，而无需等待驾驶测试、模拟或耐久性测试等。

基于人工智能系统的可靠性工程方法

其目标是管理和评估神经网络性能不足带来的风险。考虑到先进车辆功能数量的大幅增加，道路车辆要达到可接受的安全水平，就必须避免与预期功能及其实现相关的各种危害所导致的不合理风险，特别是那些由于性能限制而产生的风险。

然而，对于依赖感知外部或内部环境的系统，ISO 26262并未充分解决由预期功能或无故障系统的性能限制所导致的潜在危险行为，例如机器学习算法和基于人工智能的系统。因此，在开发安全关键型人工智能时，安全案例被用作确定安全要求的关键工具，以涵盖人工智能的所有安全论证。该安全案例基于SotIF标准，证明所有必要的安全措施都已适当地应用于人工智能。所以，需要同时考虑ISO 26262和SotIF来评估可能影响车辆安全的潜在风险。将这两个可靠性领域结合起来，将有助于定义安全功能，意味着既考虑了技术的弱点（SotIF），又能通过系统或其他措施控制可能的电气/电子故障（ISO 26262）。

确保基于人工智能系