联邦学习中的公平性和隐私保护：一项调查
摘要：联邦学习（FL）作为分布式机器学习在隐私感知的机器学习系统中的流行，已成为一种通过构建全局模型并在分散的边缘客户端上进行个性化训练来防止隐私泄露的技术。然而，现有的研究采用的隐私机制（如安全多方计算（SMC），差分隐私（DP）等）极易受到干扰、计算开销大、准确度低等问题。随着FL系统的广泛部署，确保公平性和保持活跃客户端参与FL系统变得具有挑战性。很少有工作能够为众多不同的客户端提供令人满意的性能，也未能防止FL系统中对特定人群的潜在偏差。当前的努力未能在FL系统中在隐私、公平性和模型性能之间做出折中，并容易受到其他问题的攻击。本文提供了一份全面的调查报告，阐明了FL的基本概念、现有隐私挑战、技术和涉及FL隐私的相关工作。我们还对越来越多的公平挑战、现有的公平观念以及试图在FL中同时考虑隐私和公平的有限工作进行了广泛概述。通过全面描述现有的FL系统，我们提出了与保护隐私和考虑公平性的FL系统的挑战相关的潜在未来方向。
作者：Taki Hasan Rafi, Faiza Anan Noor, Tahmid Hussain, Dong-Kyu Chae
论文ID：2306.08402
分类：Cryptography and Security
分类简称：cs.CR
提交时间：2023-07-17