「ChatGPT克星」升级:老师可以把全班作业丢进去检测了!华人作者:免费用

金磊 发自 凹非寺
量子位 | 公众号 QbitAI

「ChatGPT克星」,升级了!

没错,就是之前华人小哥Edward Tian所打造出来的那个GPTZero,几秒内就能摸清文字是人类还是AI写的。

71ac1c39104e100d8fa8abac8ca21517.png

而时隔近一个月,小哥所推出的版本名叫GPTZeroX,并且他还说:

这是专门为教育工作者打造的AI模型。

3ceae0e6284c7b67e4aeaabd9738b09a.jpeg

消息一出,立即吸引了大批网友涌入,一天之内便有40万的访问量和220万的服务请求。

0280ed1ddfb87b72993fb222df3e3e53.png

那么这一次,这位「ChatGPT克星」又带来了哪些新能力?

混写也能测,还支持Word等格式

升级的一大特点,就是GPTZeroX可以检测出来“人类+AI”混写的文字内容。

例如我们先把一段人类写的新闻丢进去检测:

a76ee32400891e0aa619c4c8d2f9b4e8.gif

GPTZeroX在短短几秒钟时间内,非常迅速的给出了答案:

Your text is likely to be written entirely by a human.

你的文本很可能完全是由人写的。

接下来,我们再把一段ChatGPT写的文字,丢进刚才那段新闻的后边,来一场混合检测:

70f5e7ef92c888287f3aa03587b8f400.gif

这一次,GPTZero给出的回答是:

Your text includes parts written by AI.

你的文本一部分是由AI编写的。

并且ChatGPT生成的内容还会用黄色高亮标记出来。

f5f6afb7bcde3d117f002c7f415812e8.png

小哥对此表示:

这是教育工作者一直想要的一个关键功能。

但老师们检查学生作业的时候,一段一段的把文字复制粘贴进来也相当繁琐的工作了。

于是乎,这位小哥还贴心地推出了另一个新功能——可批量导入文件,支持Word、PDF和TXT等格式。

并且网站在介绍这个功能时,是这么描述的bda2ca6fb7da393f29f7614f2564baf5.png

fa9a91d707a8ad453e9c292ce7ba1915.png

除此之外,为了防止服务发生崩溃,小哥还搞了一个Python API,是已经完成压力测试的那种。

a8f724ecbad65cbc8ba6e39e8ab6a888.png

最后,小哥还贴心地说了一句:

我承诺,本网站对个体教师和教育工作者,保持免费

069ec7e6a389202df1bbc23b7e67b0b3.png

怎么做到的?

它主要靠“perplexity”,即文本的“困惑度”作为指标来判断所给内容到底是谁写的。

NLP领域的朋友们都知道,这个指标就是用来评价一个语言模型的好坏的。

在这里,每当你喂给GPTZero一段测试内容,它就会分别计算出:

1、文字总困惑度

这个值越高,就越可能出自人类之手。

979e458563f313239c89290d56fe06db.png

2、所有句子的平均困惑度

句子越长,这个值通常就越低。

c2f492fb936fd15a258223fcc3de43a3.png

3、每个句子的困惑度

通过条形图的方式呈现,鼠标悬浮到各个方块就可以查看相应的句子是什么(这里就两块,因为我此时输入的测试内容就俩句子)。

0c657bbcf2966180472da6fa9fd23dce.png

之所以要绘制这样的条形图,作者也作出了解释:

根据最新的一些研究:人类书写的一些句子可能具有较低的困惑度(前面说过,人类的困惑度是比较高的),但随着继续写,困惑度势必会出现峰值。

相反,用机器生成的文本,其困惑度是均匀分布的,并且总是很低。

除此之外,GPTZero还会挑出困惑度最高的那个句子(也就是最像人写的):

3b796846f00398d56502c270eb83d30f.png

反ChatGPT之风正盛

正所谓道高一尺魔高一丈,在ChatGPT尽显十八般武艺之际,诸如小哥GPTZero一样“用魔法打败魔法”的工具、研究也在层出不穷。

例如最近斯坦福大学为了不让学生借助ChatGPT之力来写论文或作弊,推出了“反侦察”神器——DetectGPT

28648819de80f5eb2def4269fff80be7.png

这种方法既不需要训练单独的分类器,也不需要收集真实或生成的段落的数据集,是一种基于概率曲率的零样本方法。

5d98071804b04119baf3bc67904bb35f.png

除此之外,就连OpenAI自己也联合哈佛等高校机构联合打造了一款检测器:GPT-2 Output Detector

91097d9d640290d50f2c41c6846b0f69.png

作者们先是发布了一个“GPT-2生成内容”和WebText(专门从国外贴吧Reddit上扒下来的)数据集,让AI理解“AI语言”和“人话”之间的差异。

随后,用这个数据集对RoBERTa模型进行微调,就得到了这个AI检测器。其中人话一律被识别为True,AI生成的内容则一律被识别为Fake。

(RoBERTa是BERT的改进版。原始的BERT使用了13GB大小的数据集,但RoBERTa使用了包含6300万条英文新闻的160GB数据集。)

……

嗯,看来ChatGPT在大步向前迈的同时,顺便还推动了“反ChatGPT”研究的发展。

参考链接:

[1] https://twitter.com/edward_the6/status/1619874139954905090
[2] https://arxiv.org/abs/2301.11305

百度研究院、阿里达摩院、量子位智库

年度十大科技报告

总结2022,预见2023。来自百度研究院、阿里达摩院和量子位智库的年度十大科技报告均已发布,点击下方图片即可跳转查看。

百度研究院

7afc393534995e9bb72ed9031f0b9c2b.jpeg

阿里达摩院

66ab424dacfb09c4a8bcd70849bd1aa8.jpeg

量子位智库

396be3973a0c95e2c4b5804d9a5044d9.png

点这里👇关注我,记得标星哦~

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值