CSMAAFL：异步联邦学习中的客户端调度和模型聚合
摘要：异步联邦学习在异构环境中解决了延迟问题，即客户端的计算能力较弱导致聚合延迟。异步联邦学习的原则是，一旦服务器收到任何客户端的更新，就可以聚合模型，而不必等待多个客户端的更新或在同步模式下等待指定的时间。由于异步设置，可能会出现过时模型问题，即慢速客户端可能会使用过时的本地模型进行本地数据训练。因此，当这些经过本地训练的模型上传到服务器时，它们可能会阻碍全局训练的收敛。因此，有效的模型聚合策略在更新全局模型时起着重要作用。此外，当参与联邦学习过程的客户端具有不同的计算能力时，客户端调度也至关重要。本文首先调查了在采用同步模式下的聚合系数时，异步联邦学习模式的收敛性的影响。然后提出了能够实现与同步模式相同收敛结果的有效聚合解决方案，随后是具有客户端调度的改进聚合方法。各种情景下的模拟结果表明，所提出的算法与传统的同步联邦学习算法具有接近的准确性水平，但在学习过程中能够有效加快学习速度，尤其是在早期阶段。
作者：Xiang Ma, Qun Wang, Haijian Sun, Rose Qingyang Hu, and Yi Qian
论文ID：2306.01207
分类：Distributed, Parallel, and Cluster Computing
分类简称：cs.DC
提交时间：2023-06-05