从AI风控大会看数美科技博弈黑产之道：用AI对抗AI、用魔法打败魔法

原创于 2025-12-23 13:21:11 发布 · 184 阅读

3 ·

CC 4.0 BY-SA版权

文章标签：

#人工智能 #大模型 #智能体 #安全

众所周知，风险与风控如影随形，一直在共同进化。AI时代的到来，让风险的形态、规模和复杂度都发生了颠覆性变化，传统风控体系正面临前所未有的挑战，风控领域已然“变天”。

从规模上看，AI技术的普及让数字内容和账号数量呈指数级增长，每天都有海量文本、图片、音频、视频在网络中流转，风险传播的速度和范围远超以往，同时，风险类型也愈发多元：

AI生成错误知识、不良价值观引导、AI生成侵权内容等新型风险暴涨，迪士尼、环球影业起诉Midjourney的版权纠纷案例，正是AI侵权风险的典型体现；
语义复杂度的提升更是让风控难上加难，长上下文理解、语义反转、多模态信息协同等场景，要求风控系统不仅能识别表面信息，更要读懂背后的潜台词和逻辑关联；
黑产利用AI技术发起的对抗也愈发激烈，从直接攻击AI模型、诱导输出不良内容，到利用AI换脸、模拟人类行为批量养号、实施诈骗，风控与黑产的博弈进入了更高维度。

如何控制AI时代的风险？在12月11日举行的“AI向善，智创未来”数美2025 AI风控大会上，我们看到了一套针对内容安全和账号安全的体系化解法。

AI既是技术革命，也是风险革命

在AI重塑世界的当下，未来5-10年，人类每天接触的信息将有超过50%来自AI。因此，在数美科技CTO梁堃看来，“AI既是技术革命，也是风险革命。风控是确保AI行稳致远、向善发展的‘道’。唯有将‘向善’价值观内化为技术底座，AI才能真正造福人类”。

面对规模更大、语义更复杂、对抗更激烈的挑战，传统的“机审+人审”范式效率低、标准不一致、影响审核员身心健康等诸多问题日益凸显。为此，梁堃在现场重磅发布了以“大模型审核Agent”为核心驱动的“AI风控新范式”。

据梁堃介绍，不同于传统风控往往停留在识别违规关键词或图片的表层，新范式强调对“意图”与“潜台词”的深度理解。以枪械相关画面为例，新范式会判断是包含暴力、售卖意图，还是属于博物馆展览、射击场娱乐等合法场景。面对AI的错误、AI的侵权及对AI的“攻击”等新型挑战，数美重构了“人机协同”模式——引入基于大模型的审核Agent。

“Agent不再是辅助工具，而是能够像人类一样思考的‘数字员工’。” 这一变革将风控体系升级为“AI机器审核+大模型审核Agent+专家决策”的三角链路，大幅提升了对复杂风险的研判能力。依托大模型的语义理解、意图理解、逻辑思考能力以及“少样本学习”能力，结合审核规则Prompt和审核判例库，新范式实现了更高的识别准确率、更快的效果迭代和新审核需求响应速度。

不止于内容安全，账号安全也能打

在账号安全领域，黑产已利用AI技术实现了“降维打击”。一方面，黑产利用AI模拟人类行为，通过AI换脸绕过人脸认证，模拟操作完成领券、下单、支付等行为，自动生成评论和内容进行刷榜、养号，即便是空间推理验证也能轻易绕过；另一方面，AI成为“网络欺诈”的帮手，黑产利用AI包装难辨真伪的“人设”，生成大量符合人设的头像、旅游照片、视频、证件等，自动与目标对象交流聊天，还能一键生成钓鱼网站，实施“杀猪盘”诈骗。

对此，数美给出了应对之策——“新一代设备指纹”与“深度行为分析”。通过全面引入微行为分析与LLM技术，数美能够基于账号的行为序列与团伙特征，精准揪出伪装在屏幕背后的“AI幽灵”。同时，数美构建“AI蓝军”开展攻防演习，基于已有攻防路径构造多样化攻击序列，并探索新的攻击模式与路径，真正实现“用AI对抗AI”、以AI全序行为分析对抗“AI造人”。

可以说，这套集“账号到内容”产品矩阵、“模型策略体系”于一体的AI风控产品矩阵，势必将帮助风控行业迈向体系化、智能化的动态防御新时代。

风控不仅是工具，更是一套复杂的运营体系

只有产品，就够了吗？

在数美科技创始人兼CEO唐会军看来，“风险的解决绝非依赖单一的工具或模型，而是一套持续进化的复杂运营体系。”在这套体系中，除了涵盖AI内容风控、AI内容标注、AI账号风控等多个维度的全场景AI风控矩阵外，还应该包括运营体系、组织体系的升级。

在运营体系方面，数美科技打造了从风险洞察、分析，规律挖掘，模型算法升级到上线处置的“效果飞轮”。只有飞轮转得越来越快，才能跑赢快速变化的黑产，在与风险的持续博弈中占据主动。

而在组织体系上，数美科技建立了连接政府监管、数字平台与安全伙伴的协同网络。唐会军强调：“只有政府、企业与服务商紧密协同，才能让数据效果飞轮持续落地，形成全生态的治理合力。”

特别要提的是，在这套体系里面，数美科技还构建了全球化的风控引擎，覆盖全球AI风控云服务集群，支持中文、英语、日语、西班牙语、韩语等多种语言，满足全球合规与高效响应需求；同时，全面适配国产化环境，支持多种国产信创数据库、操作系统及CPU、GPU，实现安全、自主、可控；此外，还将AI风控能力部署至端侧设备，可在弱网环境和高度隐私场景下离线运行，全方位守护数字安全。