标题：基于询问的集成目标攻击算法
作者：姬亚鹏1，2
作者单位：1 广东工业大学自动化学院，广东 广州 510006；2 广东省物联网信息技术重点实验室，广东 广州 510006
关键字：深度神经网络；黑盒攻击；对抗样本；目标攻击
摘要：深度神经网络已经应用于解决各种各样的问题并且在各种视觉任务实现了惊人的性能。但是，深度网络也很容易受到对抗攻击。攻击者在原始图像上加上细微人为设计的扰动，就能使深度网络做出错误的分类结果。然而，在不知道模型参数和结构的黑盒情况下，现有的大多数对抗攻击方法只能在非目标攻击方面取得不错的效果，在造成更加严重后果的目标攻击方面的成功率却很低。在目标攻击中，使用集成攻击并利用未知黑盒模型和已知白盒模型的输出衡量模型间的相似度，根据相似度动态调整白盒模型在集成攻击中的权重，提升黑盒攻击下目标攻击生成的对抗样本攻击效果。