超越人工智能驱动的网络攻击：现代防御者的策略

如今，网络安全正处于一个令人着迷的十字路口，人工智能 (AI) 正在彻底改变这一领域，既是强大的盟友，也是强大的对手。Copilot 和 DeepSeek AI 等工具可能对组织有益，但它们也使网络犯罪分子能够发动更复杂、更难以捉摸的攻击。 

预计到 2025 年，澳大利亚组织将在信息安全和风险管理产品和服务上花费近 62 亿澳元，比 2024 年增长 14.4%（Gartner），这清楚地表明了网络安全对于保护数字资产和维持日益数字化的世界中的业务连续性至关重要。

人工智能将对安全战略产生重大影响，要求领导者适应不断变化的威胁、人才缺口和监管挑战。”因此，安全领导者必须了解人工智能在威胁形势中的作用，以制定智能、自适应的战略，并领先于复杂的攻击。

了解身份攻击和云的作用

AI工具不仅使攻击者能够编写恶意代码，而且还加速了整个攻击过程。攻击者现在可以通过自动侦察收集信息并比以前更快地绕过防护措施。这在身份攻击和跨境AI风险中很明显。

Push Security 研究重点介绍了一种绕过身份验证控制的新方法——跨 IDP 冒充。此方法允许攻击者利用 SaaS 应用程序和身份提供商 (IDP)，冒充用户而不触发安全警报。

此问题在云环境中尤为普遍，攻击者可以模仿域，绕过多因素身份验证 (MFA)，并在未被发现的情况下访问敏感系统。这些攻击极难检测，传统甚至现代 CNAP 安全工具通常都无法发现，导致组织不知道发生了入侵。

这凸显了对强大的身份和访问管理系统的需求，尤其是对于依赖云的组织而言。作为防御者，我们必须保持警惕，不断重新评估我们的安全控制措施，以应对新出现的威胁。公司越依赖云，风险就越大，因此不断调整和加强安全措施至关重要。

跨境人工智能风险担忧加剧

领导者必须意识到的另一个问题是跨境数据和人工智能工具使用的风险。随着生成式人工智能 (GenAI) 融入业务运营，人们对数据泄露以及平衡监管要求和道德使用的担忧日益增加。

各国政府，尤其是欧盟各国政府，正在起草人工智能法规，美国、澳大利亚和新西兰等其他国家也可能效仿。挑战在于管理数据管辖权和居住权，因为人工智能工具通常跨境运作，没有明确的界限。

组织需要数据屏蔽等控制措施以及在正确区域保护数据的政策。然而，仅靠法规无法解决这个问题。教育和意识对于确保组织及其员工安全管理这些工具至关重要。

影子人工智能的崛起及其对组织的影响

同样，DeepSeek AI 等 GenAI 工具的兴起也带来了“影子 AI”的独特挑战。考虑到这些工具带来的风险，许多公司正在努力解决如何有效地管理这些工具的问题。虽然彻底禁止这些工具似乎是一种解决方案，但它往往会导致这些工具在组织不知情的情况下被“影子 AI”使用。

GenAI 工具促使人们重新思考其安全和道德使用。挑战不仅在于技术本身，还在于人们如何使用它。安全和业务领导者必须教育员工了解 GenAI 的好处和风险，就像过去对网络钓鱼的教育一样——人们需要意识到风险以及如何负责任地使用它们，而不仅仅是发布一刀切的禁令。 

除了意识之外，组织还必须积极主动地开发安全的人工智能框架，以确保数据保护、保留和安全共享。

了解威胁形势：CISO 需要知道什么

鉴于人工智能攻击的兴起，首席信息安全官 (CISO) 必须相应地调整其策略。防御这些威胁的关键是了解攻击者的运作方式。人工智能只是攻击者用来加快攻击速度的另一种工具。如果您的平均修复时间 (MTTR) 仍为几天，那么您就有问题了。

现实情况是，攻击者的目标始终是相同的——数据或破坏。人工智能不会改变他们的目标——它只会让目标更近。尽早识别威胁并在其造成危害之前阻止它们，可以让您处于最有利的位置来捍卫您的目标线。 

预防这些威胁的最佳方法之一是专注于早期检测。持续测试安全环境是一个强大的起点——无论是通过漏洞扫描、红队还是模拟攻击。这是为了识别攻击媒介并尽快关闭它们。您越快关闭攻击路径，您的安全状况就会越好。

人工智能在网络安全领域的未来：自动化和道德考量

人工智能驱动的自动化将不断增强威胁检测和响应能力，但许多组织由于担心错误和中断而犹豫是否全面采用它。自动响应可能很强大，但可能会停止关键业务流程或触发误报。

GenAI 具有极大的改善决策能力的潜力，随着 AI 变得越来越复杂，自动威胁响应将更加可靠。但建立对 AI 系统的信任并确保它们不会破坏重要的业务运营需要时间，我们需要采取行动。

不可否认，人工智能与网络安全的交汇正在重塑国防战略，既带来机遇，也带来风险。通过专注于教育、协作、持续测试和早期检测，组织可以加强对不断变化的威胁形势的防御。