MPI中分区通信的性能优势量化
摘要:MPI 4.0中引入了分区通信,作为一种用户友好的接口,支持管道通信模式,在MPI+线程的情况下特别常见。它使用户能够将全局缓冲区划分为较小的独立块,称为分区,然后可以独立通信。在这项工作中,我们首先建模了使用分区通信时可以预期的性能增益。接下来,我们描述了我们对mpich{}所做的改进,以实现这些增益并提供高质量的MPI分区通信实现。然后,我们通过与其他MPI点对点和单边方法进行比较,评估在各种常见用例中分区通信的性能。具体而言,我们首先研究了在多线程环境中遇到的两种常见情况:线程竞争和使用多个分区的开销。我们提出了两种解决方案来减轻测得的惩罚并展示它们的用途。然后,我们关注大型消息以及利用计算延迟或负载不平衡所产生的收益。最后,我们对分区通信的好处和各种结果给出了我们的展望。
作者:Thomas Gillis, Ken Raffenetti, Hui Zhou, Yanfei Guo, Rajeev Thakur
论文ID:2308.03930
分类:Distributed, Parallel, and Cluster Computing
分类简称:cs.DC
提交时间:2023-08-15