THE WORLD OF GENERATIVE AI: DEEPFAKES AND LARGE LANGUAGE MODELS

摘要

我们生活在生成式人工智能（GenAI）时代。深度伪造（Deepfakes）和大语言模型（LLMs）是生成式人工智能的两个例子。特别是深度伪造，它对社会构成了令人担忧的威胁，因为它们能够传播错误信息并篡改事实。大语言模型是强大的语言模型，能够生成通用语言。然而，由于其生成特性，如果被恶意使用，对人们来说也可能是一种风险。这些技术的合乎伦理的使用是一个重大问题。这篇短文试图探究它们之间的相互关系。

关键词：深度伪造；生成式人工智能；大语言模型（LLMs）

引言

人工智能（AI）的最新发展成果——聊天机器人，作为生成式人工智能的产物，在过去两年中吸引了公众的关注。但它同样带来了前所未有的挑战，并可能对我们的生活产生潜在的不良影响。2022年11月30日，OpenAI发布了聊天机器人ChatGPT。公众对ChatGPT的大量使用促使谷歌发布了其竞争对手Bard，微软也推出了集成人工智能的必应（Bing）。但最近的GPT-4因其比其他任何现有聊天机器人都具备更多功能而名列前茅。这些基于大语言模型的聊天机器人旨在通过创建合成媒体来生成更好的内容、提升质量或提供专业的语音。这类聊天机器人的能力引发了人们对人工智能合理使用的质疑。

与此同时，高质量的人工智能生成的虚假视频——深度伪造，一直在网上传播。合成生成的深度伪造视频在扭曲现实方面已经超出了可接受的限度。这种颠覆性的技术发展对真相产生了重大影响。由于生成式人工智能模型易于获取，这项技术被滥用的可能性急剧增加。尽管深度伪造技术于2017年出现，但像ChatGPT、Bing、Bard、GPT-4等大语言模型为这种情况增添了全新的维度。特别是政治人物