13、警惕人工智能的“眼镜蛇效应”

警惕人工智能的“眼镜蛇效应”

1. 人工智能背后的隐藏危机

在如今科技飞速发展的时代，人工智能（AI）正以前所未有的速度融入我们生活的方方面面。它被开发和应用的初衷是为了在效率、效果和便利性这三个主要领域带来提升。然而，我们不能忽视其背后隐藏的“眼镜蛇效应”。

所谓“眼镜蛇效应”，指的是无摩擦的环境可能会产生相反的结果。就像智能设备和智能助手虽然采取了各种预防措施让我们处于一个看似良好的环境中，但一旦出现问题，反而会带来额外的焦虑和不安。这种现象被社会学家和哲学家齐格蒙特·鲍曼称为“流动的恐惧”，其最强烈和危险的表现形式就是“惊吓效应”。

惊吓效应在航空领域表现得尤为明显。当飞机自动驾驶断开时，经验丰富的飞行员可能会在短时间内变得像新手一样迷失方向，甚至可能犯下严重错误。在著名的法航447号航班事故中，两名飞行员都受到这种效应的影响，最终导致了悲剧的发生。

在自动驾驶汽车的模拟实验中，也观察到了类似的轻微惊吓效应。在自动驾驶大约二十分钟后，当要求驾驶员手动接管方向盘时，他们往往表现得漫不经心，接下来十秒的驾驶表现也很差，出现了较高的横向不稳定性和较低的接管性能。

此外，当我们过度信任某项技术时，就可能会出现自动化自满和自动化偏差。我们可能会不合理地认为一切都正常，而忽略了系统可能存在的危险状况，从而过度依赖技术来做决策。

2. 不同人群对AI的期望差异

不同人群对AI的期望和关注点各不相同，具体如下表所示：
|人群类型|关注重点|原因|
| ---- | ---- | ---- |
|政策制定者、股东和管理决策者|效率，其次是效果|更注重成本节约和决策准确性，以实现整