操纵联邦推荐系统：用合成用户进行攻击及其对策
摘要：联邦推荐系统（FedRecs）被认为是保护隐私的技术，可以在不共享用户数据的情况下共同学习推荐模型。由于所有参与者都可以通过上传梯度直接影响系统，因此FedRecs容易受到恶意客户端的投毒攻击。然而，现有的大多数针对FedRecs的投毒攻击要么基于某些先前的知识，要么效果较差。为了揭示FedRecs的真正漏洞，本文提出了一种新的投毒攻击方法，在不依赖于任何先前知识的情况下有效地操纵目标物品在排名为前K的推荐中的暴露率。具体而言，我们的攻击通过一群合成的恶意用户来上传被毒害的梯度，从而操纵目标物品的暴露率，并考虑到目标物品的替代产品。我们在两个真实推荐数据集上使用了两个广泛使用的FedRecs（Fed-NCF和Fed-LightGCN）进行了大量实验。实验结果显示，我们的攻击可以显著提高不受欢迎目标物品的暴露率，而且所需的恶意用户数量和全局轮数远少于现有攻击方法。除了揭示安全漏洞，我们还设计了一种针对FedRecs的投毒攻击的新型对策。具体而言，我们提出了一种分级梯度剪辑与稀疏更新的防御方法，以抵御现有的投毒攻击。实证结果表明，所提出的防御机制提高了FedRecs的鲁棒性。
作者：Wei Yuan, Quoc Viet Hung Nguyen, Tieke He, Liang Chen, Hongzhi Yin
论文ID：2304.03054
分类：Information Retrieval
分类简称：cs.IR
提交时间：2023-04-18