11、AI系统不透明性分类与自主机器人语义属性验证

AI系统不透明性分类与自主机器人语义属性验证

1. AI系统不透明性分类

1.1 不透明性的关键观察

用户称AI系统在特定情境下不透明，这取决于他们的目的性质、程度、特点，背景知识以及认知能力。基于此，我们确定了不透明性的三个概念和逻辑上独立的宏观维度：访问不透明性、链接不透明性和语义不透明性，并分析了它们可能的具体实例和依赖关系。

1.2 不透明性分类

不透明性维度	描述
访问不透明性	可能涉及用户难以获取AI系统的某些信息或资源
链接不透明性	关于AI系统内部各部分之间的连接和交互难以理解
语义不透明性	与AI系统输出的语义理解困难相关

1.3 分类的意义

我们为AI系统的不透明性提供了一个初步的分类，将其视为一个情境化、多元化的概念。这个分类超越了仅关注AI系统内部结构和功能的传统观点。

1.4 未来发展方向

• 拓宽所提出的分类，并深化其分析。
• 将相关的现有可解释人工智能（XAI）方法和工具与分类中的每个成员及特定情境关联起来。
• 应用该分类来阐明机器学习在以数据为中心的科学