Adversarial Attack and Defense in Deep Ranking

题目：深度排序中的对抗性攻击与防御

作者：Mo Zhou; Le Wang; Zhenxing Niu; Qilin Zhang; Nanning Zheng; Gang Hua
源码：https://cdluminate.github.io/robrank

摘要

深度神经网络分类器容易受到对抗性攻击的影响，其中不可感知的扰动可能导致误分类。然而，基于DNN的图像排名系统的脆弱性尚未充分探索。在本文中，我们提出了两种针对深度排名系统的攻击，即候选人攻击和查询攻击，它们可以通过对抗性扰动提高或降低选定候选人的排名。具体来说，预期的排名顺序首先表示为一组不等式。然后设计了一个类似三元组的目标函数，以获得最优扰动。相反，我们提出了一种抗崩溃三元组防御方法，以提高排名模型对所有提出的攻击的鲁棒性，其中模型学习防止对抗性攻击将正样本和负样本拉近。为了全面衡量具有我们防御的排名模型的经验对抗性鲁棒性，我们提出了一个经验鲁棒性得分，涉及一组代表性的针对排名模型的攻击。我们在MNIST、Fashion-MNIST、CUB200-2011、