3、机器人与自主系统的透明度探讨

机器人与自主系统的透明度探讨

1. 机器人透明度的提出

目前，我们对人工智能和机器人技术在个人层面以及人类社会整体层面的影响还缺乏全面理解，不同国家和组织的相关报告也存在差异。在此背景下，引入了机器人透明度的概念，并探讨将其作为机器人基本设计标准的依据。

当人类遇到并与完全透明的机器人互动时，能够全面了解机器人的行为、意图、目标、能力和最终用途。研究假设是可以设计出透明度更高的机器人系统，这有助于人类形成更准确的机器人心理模型。不过，要使透明度在制定自主机器人系统的制造和运行建议、原则、标准及法规时具有说服力，还需要进行实证检验。

为了研究人类如何感知和理解机器人，进行了一系列实验，使用非人形移动机器人，通过在线视频和直接物理接触的方式展开。为提高透明度，采取了以下操作步骤：
1. 使用视觉实时透明度工具，以图形化方式呈现机器人的内部状态和处理过程。
2. 部署用于提高透明度的发声算法。
3. 用简单的蜜蜂外形外壳改变机器人的外观，研究外观对透明度的影响。

实验结果表明，增加机器人内部处理和状态的视觉或发声呈现，能显著提高透明度，即让普通观察者更准确地理解机器人的能力、意图和目的。这一结果在不同国家和人群样本中都得到了验证，说明人类在生物和文化层面尚未适应处理人工自主智能体，不能依靠进化过程中形成的偏见和心理模型来理解机器人。

2. 引发关注的因素

引发相关研究工作的因素众多，涵盖了从机器人制造商对人类认知偏差和拟人化的利用，到自主系统在社交网络中操纵选民行为等方面。以下将详细探讨这些因素。

2.1 人类认知偏差

认知偏差有助于动物在信息不确定