测试时间中毒攻击对测试时间适应模型的影响
摘要：测试时毒化攻击对四种主流的测试时适应（TTA）方法进行了攻击，包括TTT、DUA、TENT和RPL。具体地说，我们基于替代模型生成毒化样本，并将其输入到目标TTA模型中。实验结果显示，TTA方法普遍容易受到测试时毒化攻击。例如，攻击者只需输入少于10个毒化样本，就可以将目标模型的性能从76.20％降低到41.83％。我们的结果表明，缺乏严格的安全评估的TTA算法不适合在现实场景中部署。因此，我们主张在TTA方法的设计中整合对抗测试时毒化攻击的防御措施。
作者：Tianshuo Cong and Xinlei He and Yun Shen and Yang Zhang
论文ID：2308.08505
分类：Cryptography and Security
分类简称：cs.CR
提交时间：2023-08-17