10、未来 IT 环境中的信任

未来 IT 环境中的信任

1. 信任的基础与现状

在社会交往中，“默认信任”起着重要作用。我们会感知到“默认信任区”，在这些空间和情境里，信任成为我们与他人合作时的便捷方式。就像人们提及“社区”时，无论是指人际关系网络还是地理位置，都体现出一种相对安全的感觉。这并非意味着人们觉得自己完全受到保护，而是清楚知道会遇到什么情况、该期待谁，明白什么是正常的、什么是不合时宜的，简而言之，就是知道该期待什么以及该信任谁。

信任一直是社会系统正常运转的重要组成部分，很多人天生就有信任他人的倾向。然而，信任也存在风险，可能会被辜负。随着机器从工程师的设想和媒体分析师的想象走进现实世界，我们可能会遇到不值得信任的机器。机器常常无法按照我们的预期运行，也不一定会以我们的最佳利益行事，甚至可能违背我们明确或隐含的偏好，就如同某些机器人场景所描述的那样。一些学者认为，我们正在面临一场“可信度危机”。尽管有些人指出我们在日常生活中对技术的依赖程度很高，但实际上，依赖机器和真正“信任”机器是有区别的。工程师必须深入理解这种区别，才能打造出值得信赖的机器。

2. 信任的定义

在未来场景中，许多机器的应用都需要人们的信任。例如，若要让政府派遣类人 Alpha1 机器人巡逻街道，人们需要极大的信任，相信这些机器人不会误伤人，并且会以善意而非危险的方式行动。在工作场所系统中，也需要大量的信任。像机器人制造商 Future Lab 的 Agent Hal，它几乎管理着所有运营，包括制造和部分销售业务，还决定着向公司员工和高层管理人员通报公司运营情况的内容和时间。此外，United Games 和 Halloville Mall 在数据处理方面承诺可靠。United Games 承诺仅在员工同