13、可靠的人工智能系统集成概念与系统保障工作坊

可靠的人工智能系统集成概念与系统保障工作坊

人工智能系统集成面临的挑战

随着人工智能在各个领域的广泛应用，其集成到自主和可信嵌入式系统的讨论日益热烈。然而，人工智能的独特特性引发了对其在安全关键领域应用的可靠性和成熟度的质疑。目前，虽然有许多关于人工智能与安全的调查和综述文章，但对于如何保护系统免受错误决策和环境危害、确定基于人工智能系统的安全措施，以及通用的应用模式，尚无通用方法。

在可靠的系统集成中，确定性和非确定性函数面临不同挑战：
- 确定性函数 ：对于给定输入，总是产生相同输出。因此，可以设计一个系统，使其在所有考虑的情况下的行为都能被预测和确定。这是构建足够安全产品和基于设计、开发、实施和测试过程中适当工艺工程证据进行安全论证的基础。
- 非确定性函数 ：在不同运行中，相同输入可能产生不同输出。因此，传统的流程和工程方法无法设计出能预测系统在所有情况下行为的系统。

此外，还需提及弹性工程的概念。弹性工程专注于建立能够在运行期间管理出现的问题，并以可靠方式应对这些问题的系统。弹性是系统稳定性与适应特定环境变化需求之间的平衡，同时也涉及在经历异常情况后恢复正常运行的能力。

研讨会展望

TEACHING项目专注于为关键任务自主系统中的人文人工智能概念创建技术构建模块。讨论将围绕PESTEL分析展开，该分析考察政治、环境、社会、技术、经济和法律因素，有助于形成适用于开发可靠的基于人工智能的自主系统的工程方法和概念的最新共识。

此次研讨会为商业领袖、学者和决策者提供了一个平台，共同探讨如何应对挑战并探索潜在解决方案，为开