分布式黑盒攻击对图像分类云服务
摘要：物理攻击下的黑盒子攻击会使图像分类器误分类，而无需访问模型结构和权重。最近的研究报告显示，攻击成功率超过95\%，查询次数不到1000次。那么问题来了，是否黑盒子攻击已经成为依赖云API进行图像分类的物联网设备面临的真正威胁？为了解开这个问题，需要注意的是，先前的研究主要集中在提高成功率和减少查询次数上。然而，对于针对云API的黑盒子攻击来说，另一个关键因素是执行攻击所需的时间。本文直接将黑盒子攻击应用于云API，而不是本地模型，从而避免了先前研究中在图像编码和预处理之前应用扰动的错误。此外，我们利用负载均衡来实现分布式黑盒子攻击，可以将攻击时间减少约五倍，适用于本地搜索和梯度估计方法。
作者：Han Wu, Sareh Rowlands, Johan Wahlstrom
论文ID：2210.16371
分类：Machine Learning
分类简称：cs.LG
提交时间：2023-08-23