直播预告|AAAI 2022:通过验证嵌入的外源特征防止模型窃取

AI Drive 邀请清华大学博士生李一鸣解析其在AAAI 2022的最新研究,探讨如何通过验证嵌入的外源特征来防御模型偷盗攻击。该方法既能保持模型精度,又能有效检测攻击,对AI安全领域有重要意义。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

「AI Drive」是由 biendata 和 PaperWeekly 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果。我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和交流可能会让知识的传播更加有意义,从而产生更大的价值。

本期 AI Drive,我们邀请到清华大学四年级在读博士生-李一鸣,为大家在线解读其发表在 AAAI 2022的最新研究成果:通过验证嵌入的外源特征防止模型窃取。对本期主题感兴趣的小伙伴,3 月 17 日(周四)晚 7 点,我们准时相约 AI_Drive  B 站直播间。

一、直播信息

演讲摘要:

模型偷盗攻击试图逆向出一个和被部署的受害者模型具有相似功能的替代模型。训练一个具有良好表现的模型费时费力,因此模型偷盗会对模型所有者带来巨额损失,造成巨大威胁。在本次报告中,我们将从所有权验证的角度讨论如何防御模型偷盗攻击。具体的,我们从原理上揭示了现有方法的缺陷,并提出了一种通过验证嵌入外源特征的防御方法。该方法在保证模型精度的同时,能成功验证模型偷盗攻击的存在,且不会引入新的安全威胁。

论文名称:

Defending against Model Stealing via Verifying Embedded External Features

论文链接:

https://www.researchgate.net/publication/356717751_Defending_against_Model_Stealing_via_Verifying_Embedded_External_Featur

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值