25、数字化行业中人工智能标准化的现状与挑战

数字化行业中人工智能标准化的现状与挑战

在数字化行业蓬勃发展的当下，人工智能（AI）技术的应用日益广泛，其标准化问题也变得愈发重要。接下来，我们将深入探讨AI标准化面临的挑战，以及全球范围内的相关标准制定活动。

AI系统安全与安全标准化面临的挑战

随着工业AI和机器学习（ML）在关键系统中的深度集成，它们承担着支持或做出决策的重要职责，这些决策可能会对人员、资产和环境的安全产生重大影响。因此，AI系统的安全与安全标准化面临着一系列新的挑战。

• 现有标准不兼容 ：目前，各工业领域现有的安全标准与AI方法（如机器学习和计算机视觉）并不兼容，这些标准未涵盖AI系统安全与保障的标准，也缺乏验证合规性的手段。所以，要么对现有标准进行调整，要么制定新的安全标准，或者两者兼而有之。
• 安全与保障相互交织 ：在自主系统和工业物联网（IIoT）设备中，安全与保障紧密相连。针对基于AI的系统和服务的攻击，需要采取不同的应对策略。适用于IIoT系统的端到端和设计即安全原则，也应应用于AI技术和应用。设计即安全模型可能是解决与AI相关的额外问题（如安全、保障、隐私和包容性）的最佳选择。
• 能力测试与监控 ：确保AI系统（如自主工业系统和无人驾驶车辆）的能力在使用前得到测试，并在运行过程中进行监控，是一项重大挑战。物理和虚拟安全验证对于保证系统在特定环境中的正确和安全运行至关重要，在基于AI的自主系统中起着关键作用。
• 安全问题 ：基于AI的系统中的信息保护至关重要，需防止未经授