概述
ChatGPT是一种基于神经网络的自然语言处理模型,可以生成自然流畅的文本或对话。在钓鱼攻击中,攻击者可以使用ChatGPT生成虚假电子邮件或消息,更好地伪装成受害者所信任的个人或组织,从而获取受害者的个人信息。这种行为对个人和组织的信息安全构成威胁。因此防止ChatGPT被滥用以进行网络钓鱼攻击是非常重要的。
在反钓鱼方面,需要ChatGPT有对应文本检测能力,可以用于监控电子邮件和消息,以检测语言模式的异常,并警示用户注意避免钓鱼攻击,并提示用户不要输入任何敏感信息。如果使用ChatGPT文本生成检测的专用工具可以大大提高钓鱼攻击的识别率和准确性,更好地保护用户的信息和隐私。
尽管ChatGPT在钓鱼攻击中有危险性,但在反钓鱼方面的应用可以提高网络安全性。在当今数字时代,个人和组织都存储着大量敏感信息,如个人身份密码、企业财务信息和知识产权。因此,保护这些信息对于个人和组织来说至关重要。ChatGPT可以用于监控文本和消息内容本身,自动化检测机器生成内容,保护用户的信息和隐私,采取措施来限制ChatGPT的滥用,以确保其在网络安全领域的积极作用。
ChatGPT被用于社工攻击
威胁者不仅将ChatGPT作为编写恶意代码的一种简单方法,他们也在利用它进行社会工程攻击。ChatGPT模型可以用于生成虚假的信息,由于模仿人类语言,区分人工智能社论和人类撰写的内容面临挑战。大学生用ChatGPT写学期论文最担心的是抄袭和造假,ChatGPT可以写学术论文,那么创建一个钓鱼邮件就会容易得多。事实上,ChatGPT制作的邮件将比现在充斥我们收件箱的大多数钓鱼邮件更有说服力,这将使骗局更难被发现。
ChaGPT被用来编写巧妙的网络钓鱼邮件。钓鱼本就是一种非常危险的社交工程攻击,欺骗受害者提供个人信息,如密码、信用卡号码等。我们从钓鱼攻击的准备过程的不同阶段来测试分析。
情报分析
攻击者通过伪装成可信的来源,例如银行、社交媒体、在线零售商等,向受害者发送欺诈性信息。攻击者首先需要进行情报的获取和分析。ChatGPT可以通过自然语言处理技术从大量文本中提取有用的信息,包括关键字、短语、命名实体等,并将它们整理成结构化数据以供进一步分析。
ChatGPT对文本内容进行实体识别、关系抽取、关系对称,辅助筛选可用的情报信息,并进行格式化输出、密码组合猜测。如下图给出对姓名的信息分析处理过程。
图 1 姓名信息提取
图 2 姓名信息的格式化