17、哎呀！我们本不想这样！——意外后果如何破坏良好的隐私和安全政策

哎呀！我们本不想这样！——意外后果如何破坏良好的隐私和安全政策

1. 引言：意外后果问题

先来看一些虚构但基于现实案例的新闻标题：
- 加拿大空白媒体税引发跨境购物热潮
- 美国患者隐私法让医院无法自卫
- 网页浏览器漏洞让狡猾之人猜出你的身份
- 新赌博法让美国人受骗
- 友好信用卡公司误将卡寄给他人

这些案例都体现了一种或多种意外后果。有些是技术方面的，如网页浏览器漏洞；有些则是企业和政府政策决策时考虑不周导致的。

在技术领域，关于“意外后果定律”（LUC）有大量的理论文献，很多是从工程角度出发的。Healy 讨论了意外后果，即“那些在出现之前未被预见和处理的后果”。他提醒我们不要把意外后果与不良或不太可能发生的后果混淆。以海边的核电站为例，预期和期望的目标或后果是发电，不希望但常见且可预期的后果是核电站附近海水升温，而不希望且不太可能发生的后果则是重大爆炸。从切尔诺贝利到三里岛的例子告诉我们，在这类项目的风险分析中，确实应该考虑不太可能发生的后果。

Perrow 在相关书籍中也讨论了核电站的意外后果定律，指出“典型的预防措施可能会增加复杂性，从而催生新的事故类型”。具有讽刺意味的是，“在切尔诺贝利，新安全系统的测试反而导致了堆芯熔毁和随后的火灾”。

Tenner 将这种情况称为“报复效应”。他以汽车警报器为例，汽车警报器旨在保护车辆免受盗窃和破坏，但有时会出现故障，发出烦人的误报，闪烁灯光、鸣响喇叭。“在最需要警报器的城市，邻居们会通过破坏汽车来让故障的警报系统安静下来”，也就是说，原本旨在防止汽车破坏的技术反而可能导致这种情况发生。

Taleb 在关于极不可能事件