AIGC 后下一个巨大的风口：AI生成检测

---

简介

如何知道一段以假乱真的文本内容、惟妙惟肖的图形图像，栩栩如生的视频是由AI 生成的呢？

高效生成文本的能力也引起了人们对检测和防止大型语言模型在网络钓鱼、虚假信息 和学术造假等任务中滥用的担忧。例如，由于担心学生利用 ChatGPT 写作业，纽约公立学校全面禁止了 ChatGPT 的使用，媒体也对大型语言模型产生的假新闻发出警告。这些对大型语言模型 滥用的担忧严重阻碍了自然语言生成在媒体和教育等重要领域的应用。

研究人员尝试了多种方法来检测人工智能生成的文本。一种常见的方法是使用软件分析文本的不同特征，例如，文本阅读的流畅程度，某些单词出现的频率，或标点符号或句子长度是否存在模式。

现有的方法大致可分为两类：黑盒检测和白盒检测。

http://aclanthology.lst.uni-saarland.de/2020.acl-main.164.pdf
Automatic Detection of Gen