快手惊魂夜，为何 AI 审核挡不住一场传统的饱和式攻击？-优快云博客

2025 年 12 月 22 日晚 22 点，对于大多数快手用户而言，原本应是结束一天忙碌、刷刷短视频的放松时刻。但对于快手总部的安全技术团队来说，这却是一个漫长而黑暗的至暗瞬间。

一场毫无征兆的涉黄风暴突然席卷了平台。不是零星的违规内容，而是如同洪水决堤般的集中爆发。短短几分钟内，大量色情、低俗内容直播攻占了同城页、关注页甚至推荐流。

这一夜，不仅击穿了快手的内容防线，导致其股价在次日开盘后一度暴跌近 6%，更留下了一个令人背脊发凉的拷问：在 AI 技术高度成熟的今天，为何我们的互联网安全系统在面对老掉牙的黑产攻击时，依然会脆弱得不堪一击？

并非漏网，而是决堤

我们需要先纠正一个认知误区，这次事件并非快手的审核系统出了识别故障，而是它被“挤爆了”。

根据快手官方披露的信息，此次攻击源于黑灰产团伙的恶意破坏。攻击者在极短时间内，操控了约1.7 万个僵尸账号同时开启直播。

在普通的非技术视角看，1.7 万相对于快手日活用户（DAU）而言似乎九牛一毛。但在系统架构层面，这 1.7 万个账号并非普通用户，它们是经过特殊伪装的高并发攻击源。

这就好比高速公路收费站（审核系统）设计了 100 个闸口，足以应对日常甚至高峰期的车流。但攻击者并没有排队，而是集结了 1.7 万辆满载违禁品的卡车，在同一秒钟冲向收费站。

这就是饱和式攻击。

根据网络安全专家的分析，现代内容平台的风控逻辑通常是机器审核过滤 99% + 人工审核兜底 1%。机器模型（CV 计算机视觉、NLP 自然语言处理）虽然处理速度快，但面对突发性的、特征高度同质化且带有对抗样本属性（比如通过滤镜、噪点干扰机器识别）的视频流时，算力分配会出现巨大的迟滞。

当1.7 万个直播流在瞬间涌入，审核队列瞬间积压。为了保证直播的实时性（低延迟是直播的核心体验），系统架构在即时分发和安全阻断之间发生了逻辑冲突。黑产正是抓住了这个时间差，让大量违规内容在审核系统做出封禁决策前的几分钟甚至十几分钟内，流向了用户端。

这解释了为什么很多用户在 12 月 22 日晚看到的乱象——明明内容违规得如此明显，却能在直播间里存在数十分钟之久。因为那时候，审核系统的大脑已经过载瘫痪了。

从人肉工厂到AI 军团

此次快手事件，不仅暴露了防御端的软肋，更揭示了攻击端的进化。

以往我们印象中的刷单工厂或涉黄团伙，往往是廉价劳动力在阴暗的房间里操作手机墙。但在 2025 年，这种情况正在发生质变。

虽然目前快手官方尚未公布攻击者的具体技术细节，但结合近期奇安信、360 等安全厂商发布的年度安全报告，我们可以合理推测：这是一次高度自动化的攻击。

那1.7 万个账号从何而来？大概率不是当晚注册的。它们可能早已通过脚本批量注册，甚至通过盗取老旧账号（撞库），在平台上潜伏了数月，拥有正常的浏览记录和标签，以此骗过平台的新号风控模型。一旦攻击指令下达，这些账号便如丧尸般集体唤醒。

同时，AIGC可能正在成为黑产的弹药库。这也是最让人担忧的一点。以往黑产生产违规内容需要盗录、剪辑，成本较高。而在 AIGC 工具普及的今天，生成数万张不同面孔、不同背景、甚至能实时互动的数字人涉黄直播流，成本几乎为零。攻击者利用 AI 生成对抗网络（GANs）制作的内容，不仅量大，而且专门针对平台的审核算法进行了优化。他们知道什么样的人体肤色比例会触发报警，于是利用 AI 调整参数，刚好卡在违规与正常的边缘，诱导审核算法犹豫，从而争取到传播时间。

正如《证券时报》在评论此次事件时隐喻的那样：这是一场不对称的战争。平台在明处，由于合规要求，必须为每一个字节的传输支付算力和审核成本；而黑产在暗处，利用廉价的自动化工具，以极低的成本制造出指数级增长的垃圾数据，试图压垮平台的算力防线。

消失的熔断机制

技术对抗之外，此次事件还暴露了快手在应急响应机制上的迟钝。

从12 月 22 日 22:00 攻击开始，到次日凌晨事态平息，中间存在一个显著的混乱窗口期。在社交媒体上，大量用户反馈举报无门或举报无果。

这引出了一个关键的商业伦理与技术取舍问题：为什么没有“一键熔断”？

在金融证券领域，当股市波动超过阈值时，交易所会自动暂停交易以防止崩盘。对于坐拥亿级日活的内容平台，当涉黄或违法内容的瞬时检出量超过安全阈值（例如正常每分钟检出 50 个，突然飙升至 5000 个）时，理论上系统应该自动触发熔断。宁可错杀，停止所有新开播功能，也要切断毒瘤的传播。

但快手似乎没有，或者不敢这么做。