10、AI治理：迈向繁荣未来的关键

AI治理：迈向繁荣未来的关键

1. AI网络安全

在当今时代，AI在网络安全领域正发挥着至关重要的作用，这已然形成了一场激烈的军备竞赛，更智能的攻击会遭遇更强大的防御。传统头戴兜帽、背着背包且打字飞快的人类黑客形象，正逐渐被速度极快且无惧牢狱之灾、在网络中无处不在又无迹可寻的AI所取代。

如今，AI带来的危险并非源于潜藏在虚拟暗处的恶意AI，尽管暗网对于完善的网络防御策略而言十分重要，但这些危险更多地源于人类为实现各种不同目标的动机。网络战斗将越来越多地由AI进行，人类负责制定战略，而AI则分析攻击或防御模式并采取相应行动。

AI网络防御系统已展现出卓越的检测能力，下一步将是进行主动防御、减轻危害和预防活动，同时还承担着监督监督者的角色。不同行业的AI风险差异巨大，例如运输公司最大的风险在于物理运输安全，而食品加工、公用事业和金融行业的风险性质各不相同。总体而言，风险可分为两类：
|风险类型|相关技术|
| ---- | ---- |
|物理风险|运营技术（OT）|
|非物质风险|纯信息技术（IT），包括资金相关风险|

过去几年，应对OT风险造成更大潜在损失的主要策略是将OT系统的数据转移到安全的存储库，供IT系统分析，并设置强大的防火墙。然而，这种方法未考虑到AI最终会存在于所有系统中，尤其是高生产率的OT系统。工业4.0、自主机器和建筑都需要AI并与IT集成，新的趋势是IT - OT融合，这意味着所有数字系统将相互连接，对网络安全的要求也将迅速提高。

出于明显的原因，网络安全的AI治理必须与常规的AI治理框架区分开来，并且还应涵盖供应链网络风险，即了解所采购产品和解决方案组件的网络弱点。这一领域虽