Porkia的博客

原创 【论文阅读】Black-box Adversarial Attacks on Commercial Speech Platforms with Minimal Information

直到最近几年，针对商业黑盒语音平台（包括云语音 API 和语音控制设备）的对抗性攻击才受到关注。构建此类攻击很困难，主要是由于时域语音信号的独特特性和声学系统结构复杂得多。当前的“黑盒”攻击都严重依赖于预测/置信度分数或其他概率信息的知识来制作有效的对抗性示例（AE），服务提供商可以直观地进行防御而无需返回这些消息。在本文中，我们更进一步，在更实际和更严格的场景中提出了两种新颖的对抗性攻击。对于商业云语音 API，我们提出了 Occam，这是一种仅决策的黑盒对抗性攻击，对手只有最终决策可用。