26、人工智能与开放数据生态系统的融合发展

人工智能与开放数据生态系统的融合发展

1. 人工智能应用的可靠性与挑战

在当今科技发展中，智能设备和软件的设计有时过于便捷，导致用户过度依赖它们，从而丧失了一些重要能力。特别是智能设备和机器人，它们被设计得极为拟人化，使用户过度依赖。

嵌入式软件对可靠性起着重要作用。其操作步骤如下：
- 模型调用 ：仅在应用上下文与训练数据匹配时调用模型。
- 输出覆盖 ：当模型置信度较低时，覆盖模型的输出。
- 故障安全程序 ：在最坏情况下，启动故障安全程序。
- 数据日志记录 ：记录应用程序的故障，以便进行调查，提高透明度。

然而，值得信赖的人工智能的各项要求可能相互冲突。当提高透明度、隐私性和公平性时，可靠性可能会受到影响。而且，创建值得信赖的人工智能应用成本高昂。因此，对于每个可信度原则，都必须评估忽视它的风险，改进措施的有效性应与风险相关，低风险情况可能无需采取措施。

2. 欧洲人工智能审计标准的意义

欧洲制定人工智能应用审计标准，对欧洲人工智能软件提供商而言可能是一项竞争优势。该标准需平衡成本与风险，使人工智能证书成为竞争优势，推动创新且值得信赖的解决方案，同时避免设置过高的市场准入门槛。北莱茵 - 威斯特法伦州正在支持弗劳恩霍夫及其合作伙伴的相关努力，所谓的“波恩目录”将基于相关原则提供认证框架。

3. 联邦数据生态系统推动人工智能发展

现代联邦数据生态系统的出现推动了人工智能和机器学习技术在各个应用领域的