地域感知的稀疏动态数据交换

摘要:并行架构的性能和规模不断增加,而底层算法基础设施往往无法充分利用可用的计算能力。在MPI的背景下,不规则的通信模式在并行应用中会造成瓶颈。例如,稀疏矩阵操作及其依赖的应用程序受到所需的稀疏动态数据交换的限制。假设每个进程都持有稀疏矩阵的一部分行和相应的向量值,每个进程可以轻松确定它必须从其他进程接收哪些值。然而,进程没有足够的信息确定要发送给其他进程的值。形成这种通信模式的过程需要动态数据交换。当前的稀疏动态数据交换算法在点对点通信约束处存在瓶颈,特别是在大规模情况下。本文提出了一种新颖的局部感知稀疏动态数据交换方法,减少了昂贵的通信量,如节点间通信,以换取更少成本的消息,并降低了方法的成本并提高了可扩展性。

作者:Andrew Geyko and Amanda Bienz

论文ID:2308.13869

分类:Distributed, Parallel, and Cluster Computing

分类简称:cs.DC

提交时间:2023-08-29

PDF 下载: 英文版 中文版pdf翻译中