研究提出了一种新的对抗性纹理AdvTexture，通过Toroidal-Cropping-basedExpandableGenerativeAttack(TC-EGA)生成，能在物理世界中欺骗人体检测系统。文章详细介绍了生成过程，包括全卷积网络、环形裁剪技术及在实际衣物上的验证。
Adversarial Texture for Fooling Person Detectors in the Physical World
1.引言
这项研究的背景建立在对抗性攻击的概念上，这种攻击通过修改输入数据来误导机器学习模型。人体检测系统在安全监控、自动驾驶汽车等领域中至关重要，因此研究其潜在的脆弱性对于提高这些系统的鲁棒性和安全性至关重要。论文通过实际测试证明了对抗性纹理在物理世界中对人体检测器的欺骗效果，这不仅对理论研究有重要意义，也为实际应用中的安全措施提供了重要见解。
对抗性示例在人体检测系统中的应用主要涉及测试和提高这些系统的鲁棒性。它们可以用来：
-
揭示弱点：通过创建能够欺骗人体检测系统的对抗性示例，研究人员可以识别并解决这些系统的脆弱性。
-
安全测试：在关键应用中，如自动驾驶车辆或安全监控系统，对抗性示例用于测试系统的抵抗能力，确保它们在面对未预料到的或恶意篡改的输入时仍能准确运作。
-
模型改进：通过分析对抗性示例对检测系统的影响，可以发展更强大和准确的算法。
2. Toroidal-Cropping-based Expandable Generative Attack，TC-EGA具体工作过程
什么是AdvTexture？
AdvTexture（对抗性纹理）是一种特殊的纹理，用于在物理世界中欺骗人体检测系统。具体来说，AdvTexture可以覆盖服装的任意形状，使得穿着这种服装的人在不同的视角下能够从人体检测系统中隐藏。
2.1 Adversarial Patch Generator 的工作原理
Adversarial Patch Generator 的工作原理涉及以下关键步骤和公式：
- 生成对抗性纹理：使用全卷积网络（FCN）生成对抗性纹理（AdvTexture），旨在欺骗人体检测系统。
- 对抗性分布：
- 公式： p a d v ( τ ~ ) = e − U ( τ ~ ) Z U p_{adv}(\tilde{\tau}) = \frac{e^{-U(\tilde{\tau})}}{Z_U} padv(τ~)=ZUe−U(τ~)
- 解释：这个公式描述了对抗性贴片（ τ ~ \tilde{\tau} τ~）的概率分布。 U ( τ ~ ) U(\tilde{\tau}) U(τ~)是一个能量函数，用于模拟对抗性贴片的分布。分布的高概率对应于具有更显著对抗性效果的贴片。
- 生成分布：
- 公式： q φ ( τ ~ ) = ∫ δ ( τ ~ − G φ ( z ) ) p z ( z ) d z q_{\varphi}(\tilde{\tau}) = \int \delta (\tilde{\tau} - G_{\varphi}(z)) p_z(z) dz qφ(τ~)=∫δ(τ~−Gφ(z))pz(z)dz
- 解释：这个公式表示由生成器 G φ G_{\varphi} Gφ 生成的对抗性贴片的分布。其中 z z z 是从标准正态分布中抽取的随机变量。
- 优化目标：
- 公式： min φ , ω E τ ~ ∼ q φ ( τ ~ ) [ U ( τ ~ ) ] − I φ , ω J S D ( τ ~ , z ) \min_{\varphi, \omega} \mathbb{E}_{\tilde{\tau} \sim q_{\varphi}(\tilde{\tau})}[U(\tilde{\tau})] - I_{\varphi, \omega}^{\mathrm{JSD}(\tilde{\tau}, z)} minφ,ω
最低0.47元/天 解锁文章
扫一扫
981
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
