Deepfake横行，企业和普通用户如何应对？

今年2月份，香港爆发了一起Deepfake诈骗案，诈骗金额高达1.8亿人民币。诈骗分子利用Deepfake技术换脸总部CFO，骗取下属公司财务人员信任，从而转走巨额资金。该事件引起了社会的广泛关注。

5月份，据韩联社报道，首尔大学毕业生朴某和姜某涉嫌利用“深度伪造”技术换脸合成色情照片和视频，并在“电报”上私密传播，受害女性多达61人，包括12名首尔大学学生。

类似这些利用Deepfake技术伪造身份或信息完成诈骗的事件还有很多，普通人极难辨别。这种行为不仅严重侵犯了企业的合法权益，也极大地损害了广大民众的切身利益。

Deepfake的分类

Deepfake（深度合成）技术包括视频合成、语音伪造与文本生成。

视频合成主要通过深度合成方法或是图像篡改技术，将其他人物或虚构角色替换为受害者的面部特征，制造出虚假的视频内容。

语音伪造是指通过深度学习模型，模拟特定人的声音和语调，生成逼真的虚假语音信息。诈骗者可能利用此技术冒充他人进行通话实施欺诈。

文本生成是一种基于深度学习的自然语言处理模型，能够自动生成看似真实的文章、对话等。可能制造虚假的新闻报道误导公众。

企业如何应对Deepfake涉诈风险

不法分子通过深度伪造技术制作虚假的图片、音视频等内容，成功绕过线上实人认证系统，非法获取号卡，或在多媒体短信、网页等平台散布伪造信息，导致直接或间接的诈骗事件频发，给电信企业带来了日益严峻的治理挑战。为应对此类风险，企业可从以下几个方面着手，有效规避这类诈骗风险。

01 针对Deepfake的涉诈识别技术

利用人工智能算法进行高效识别。这些检测技术结合了深度学习、计算机视觉和音频分析等领域的最新成果，能够精准地识别出经过深度伪造的图片、视频和音频内容。

1．基于模拟对抗生成网络识别伪造人脸图片或视频的算法。

2．基于增强自注意力机制网络识别伪造图片或视频的算法。

3．基于傅里叶变换的边缘检测算子识别伪造图片或视频的算法。

4．通过1对1相似度分析进行实人验证。

5．通过1对N相似度分析识别仿冒名人政要。

02 构架配套处置能力

企业还需要构建一套完整的Deepfake诈骗处置闭环设计，以确保在发现风险后能够迅速、有效地采取措施，保护用户的安全和权益。

企业可以立即启动内部卡号拓展处置流程，对涉及的风险卡号进行限制使用、冻结，甚至注销，以防止诈骗资金被进一步转移。同时，企业还可利用短信拦截技术，对包含诈骗信息的短信进行实时过滤和拦截，确保用户不会接收到这些有害信息。此外，对于诈骗网站，企业可采取网站封堵措施，防止用户访问受到欺骗。

针对低风险情况，企业可在用户上网时弹出弹窗提醒，告知用户当前访问的内容可能包含Deepfake合成信息，提醒用户保持警惕。其次，企业可以在合成的图片、视频或音频等多媒体内容中添加可视化水印，明确标注这些内容已经经过处理或合成，提升用户对业务的信任度。

普通人如何识别Deepfake

Deepfake技术的日益精进使得伪造视频或音频变得越来越难以分辨。以下是一些实用的方法，能够帮助普通人提高对Deepfake内容的警觉性和识别能力：

1.仔细观察脸部的边缘、面部的肤色是否与头部或身体其他部位相匹配？脸部的边缘是锐利还是模糊？脖子和下巴周围是否有不自然的痕迹？这些都可以作为判断Deepfake的依据。

2.观察嘴唇动作是否与音频完美匹配？由于比如某个文字发音需要闭嘴，但Deepfake中的嘴巴却没有完全闭合；如果无法同步匹配，那很可能就是Deepfake。

3.牙齿是否清晰可见，如果模糊不清并且与现实生活中的外观不一致，很可能为伪造视频。目前的算法可能还不足以生成单个牙齿的清晰轮廓。

4.眨眼动作是否不自然，过于频繁或过于稀少的眨眼都可能表明视频被篡改，眨眼动作可能会显得过于机械或缺乏变化，眨眼动作是否与其他动作和表情协调一致，也是判断的依据之一。

5.人脸转到 90 度时会出现漏洞，这些深度伪造模型由于没有足够多的数据做人脸轮廓数据训练，因而不能转换面部的不同边界，或者执行必要的修复，针对视频通话，可通过该方式来识别。

6.视频通话中，我们可以问一些只有对方知道的私人问题，如家庭地址、生日、宠物名字等。如果对方在回答时表现出犹豫或无法准确回答，那么这很可能是一个诈骗行为。

7.在视频电话时，挥手会干扰面部的数据，导致伪造的人脸出现抖动、闪现或其他异常情况，因此我们可以要求对方在脸部前面挥手进行识别。还可以让对方尝试按压鼻子或脸部，观察其面部变化。真人的鼻子在被按压时会发生变形，但AI生成的鼻子则不会。

8.关注信息的来源和可靠性。如果视频或音频来自一个不受信任或可疑的来源，那么其真实性就值得怀疑。通过验证信息的发布渠道、查看其他权威来源的报道或分析，可以帮助判断其真实性。

当我们踏入AI以假乱真的时代，确保真实性的挑战似乎比任何时候都更加艰巨。在面对Deepfake诈骗横行的当下，无论是企业还是普通人，都需时刻保持警惕，不断提升自身的防范意识与能力。企业应当加强技术研发，利用先进技术手段筑起坚实的防线，同时要完善内部管理，确保流程无懈可击。而普通人则要提高辨别真伪的能力，不轻易相信未经核实的信息，学会从多个角度、多个渠道进行验证。只有这样，我们才能在Deepfake技术带来的挑战中立于不败之地，共同营造一个更加安全、可信的社会环境。