联邦学习与遗忘的激励机制设计
摘要：保护用户在联邦学习中被遗忘权益的目标是消除用户数据对全局学习模型的影响。目前联邦遗忘的研究主要集中在开发有效和高效的遗忘技术。然而，激励有价值的用户保持参与并防止他们的数据被遗忘的问题仍未得到充分探讨，但对于遗忘模型的性能非常重要。本文专注于激励问题，并开发了一种联邦学习和遗忘的激励机制。我们首先描述了用户离开对全局模型准确性和遗忘所需通信轮数的影响。在这些结果基础上，我们提出了一个四阶段博弈来捕捉学习和遗忘过程中的相互作用和信息更新。一个重要的贡献是将用户的多维私密信息总结为一维指标，以指导激励设计。我们表明，承担高成本并遭受重大训练损失的用户更有可能通过联邦遗忘来中止他们的参与。服务器倾向于保留对模型做出实质贡献的用户，但在用户的训练损失上存在权衡，因为保留用户的大训练损失会增加隐私成本，但减少遗忘成本。 数值结果证明了激励有价值的离开用户保持参与的必要性，并且还显示我们提出的机制将服务器成本与最先进的基准相比降低了高达53.91\%。
作者：Ningning Ding, Zhenyu Sun, Ermin Wei, Randall Berry
论文ID：2308.12502
分类：Computer Science and Game Theory
分类简称：cs.GT
提交时间：2023-08-25