时变D2D网络上的连接感知半去中心化联邦学习
摘要：半分散的联邦学习将传统的设备对服务器(D2S)交互结构与本地设备对设备(D2D)通信相结合。我们研究了在多个D2D集群建模为时变和有向通信图的实际边缘网络上的这种架构。我们的研究结果是一个算法，它控制了模型训练过程朝着全局最优化器的收敛速度和全局聚合所需的D2S传输数量之间的基本权衡。具体而言，在我们的半分散方法中，基于列随机权重矩阵将D2D一致性更新注入到联合平均框架中，该矩阵封装了集群内的连接。为了得到我们的算法，我们展示了当前全局模型期望最优间隙如何取决于D2D集群的加权邻接矩阵(因此取决于密度)的最大两个奇异值。然后，我们推导出这些奇异值与D2D集群的节点度数之间的紧密界限，并使用结果表达式设计了一个阈值，以便在任何给定的全局聚合回合中确保所需的收敛速度。在真实数据集上进行的模拟显示，与依赖于连接结构和学习任务的基准相比，我们的连接感知算法显著减少了达到目标准确度所需的总通信成本。
作者：Rohit Parasnis, Seyyedali Hosseinalipour, Yun-Wei Chu, Mung Chiang, Christopher G. Brinton
论文ID：2303.08988
分类：Distributed, Parallel, and Cluster Computing
分类简称：cs.DC
提交时间：2023-07-24