刚刚,为对抗哥大退学生开发的AI作弊器,哥大学生造了个AI照妖镜

哥伦比亚大学 Antonio Li 和 Patrick Shen(没有退学)开发了一个反 Cluely 工具 Truely,它可以帮助检测与用户通话的是否是真人。

Cluely 和 Roy Lee,想必大家对这两个名字已经不陌生了。

简单来说,后者与 Neel Shanmugam 共同创办了名为 Cluely 的创业公司,而他们目前的主要业务就是一款堪称「人生作弊器」的同样名为「Cluely」的 AI 工具 —— 这是一款 AI 桌面助手,它能够看你所看、听你所听。Cluely 会以一个透明窗口的形式出现在你屏幕上的所有其他应用程序上。当你在开会时,按下「监听」或「录制」按钮,Cluely 就能捕捉麦克风和系统的声音,然后代替使用者接受采访或参加会议等。

毫无疑问,这款 AI 应用备受争议,但也同时为其赚尽了眼球 ——Roy Lee 扬言「杀死了 9 个行业」的宣传推文足足收获了超过 293 万查看次数。

图片

现在,看到 Cluely 这样的作弊工具如此成功,终于有人坐不住了。

哥伦比亚大学 Antonio Li 和 Patrick Shen(没有退学)开发了一个反 Cluely 工具 Truely,它可以帮助检测与用户通话的是否是真人。

图片

  • 官网:https://www.true-ly.com/
  • 代码库:https://github.com/HasflarSonto/Truely

根据其介绍视频,这款工具的原理其实并不复杂。

如果用户希望知道正与自己视频通话的人是否「作弊」,需要先打包一个应用发送给对方并且让对方安装在自己的设备上。这个应用会检测对方设备上的 PID(进程标识符)会回传相关信息,而一旦检测到 Cluely 进程,Truely 就会发送警报信号。

更具体而言,其核心功能包括:

  • 实时进程监控:持续监控可疑进程(在 config.py 中设置);
  • 双人加入 Zoom 会议:自动以机器人身份加入会议并为用户打开 Zoom 应用;
  • 自动聊天警报:检测到可疑进程时,向会议聊天发送实时警报;
  • 自动介绍消息:机器人向会议聊天发送一系列介绍消息,包括监控密钥和受监控应用程序列表;
  • 基于聊天的远程关机:监控聊天中的「Truely End」命令,以允许远程终止监控;
  • 正常关机:使用统一关机系统正常离开会议并在退出时清理资源。

很显然,这个过程过于繁琐了,而且还必须要求对方安装软件 —— 随便安装别人发送的软件也并不安全(即便该软件宣称会在退出时自动清理)。

图片

当然,也自然有不少人称赞这是个好应用。

图片

开发这个应用的开发者也很棒。

图片

也有人打趣地问他们是否退学:

图片

总体而言,这款刚刚诞生的应用可能体验还不太好,但至少针对 Cluely 这样的作弊工具,我们已经有了可行的反制手段。

图片

有意思的是,就在 Truely 诞生的几乎同一时间,CorridorSecure CEO 和联合创始人、「有道德的黑客」Jack Cable 发推称被 Cluely 告了。

图片

具体来说,Cluely 向 𝕏 提交了一份 DMCA(数字千年版权法)申请,要求其删除 Jack Cable 之前发布的一条推文 —— 在该推文中,他公布了逆向工程得到的 Cluely 的提示词。Cluely 方面给出的理由是其中包含「专有源代码」。

Jack Cable 愤怒地表示:「对安全研究者发出法律威胁并不是什么好事,我希望 Cluely 反思这一点,并向研究人员敞开大门。」

现在 Jack Cable 公布的这些提示词已经在 𝕏 上不可见。

图片

不过,幸运的是,在 GitHub 上还有备份:

https://gist.github.com/cablej/ccfe7fe097d8bbb05519bacfeb910038

想要研究学习的可以赶紧保存一份。

你是 Cluely 用户吗?或者是否会尝试使用 Truely 来对抗 Cluely?

图片

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值