9、迈向繁荣未来的人工智能治理

迈向繁荣未来的人工智能治理

1. 人工智能与网络安全治理

随着智能程度的提升，机器和基础设施的生产效率也会提高。这意味着人工智能将主导运营技术（OT），并成为网络攻击的主要目标。因此，网络安全治理必须与人工智能的发展同步，成为每个数字治理框架的重要组成部分。而人工智能治理的一个重要方面就是决策治理。

2. 人工智能决策治理

2.1 决策风险

部署人工智能的风险程度不一，从微不足道到危及生存都有可能。人工智能的生产力越高，它所拥有的“自由”就越多，这使得其行为难以精确预测。具有交易或物理行动自由的人工智能可能会造成实际的物理损害，在某些情况下，这种损害甚至可能是无限的，例如核弹头控制。

企业需要认识到，人工智能故障可能会在不知不觉中从低影响风险转变为高影响风险。复杂的人工智能层级或网络可能导致大规模的功能失调，因此对于具有决策能力的人工智能，需要全面了解其网络情况并进行复杂的风险评估。

2.2 风险评估矩阵

Katharina Zweig 在算法决策系统的风险评估方面做了重要工作。决策应根据其可能造成的损害程度、是否可纠正或可逆以及可纠正或可逆的程度进行分类，形成风险矩阵。我们对Zweig的原始风险评估矩阵进行了一些改进，考虑了平均损害，并将纵轴指定为“决策可逆性”。

此外，在风险评估矩阵之上还有效用/风险矩阵，它决定了人工智能的效益。在进行全面风险评估时，必须考虑这一点。例如，自动驾驶车辆可以挽救超过90%的交通事故死亡人数，但可能会增加1%的伤亡。那么，实际增加的净平均风险是多少呢？将“人类驾驶”作为一种伪人工智能解决方案加入风险矩阵，我们可以发现，人类驾驶员作为基准