通信隐藏流水线共轭梯度方法的数值稳定递推关系
摘要：流水线化Krylov子空间方法（也称为隐藏通信方法）已在文献中提出，作为在并行计算中迭代求解大型线性系统的经典Krylov子空间算法的可伸缩替代方案。对于对称和正定的系统矩阵，流水线共轭梯度法在大规模分布式存储硬件上优于其经典的共轭梯度法，通过将全局通信与矩阵-向量乘积等重要计算重叠，从而隐藏了全局通信。流水线化技术的一个众所周知的缺点是（可能显著的）数值稳定性的损失。本文提出了一种数值稳定的流水线共轭梯度算法的变种，它避免了在构建Krylov子空间基的有限精度递归关系中传播局部舍入误差。基向量的多项递归关系被替换为两项递归关系，提高了稳定性，同时不增加算法的总计算成本。所提出的修改确保了流水线共轭梯度法能够独立地获得高精度的解，无论管道长度如何。数值实验证明了新的流水线共轭梯度算法具有出色的并行性能和改进的最大可达精度。因此，本研究解决了流水线化Krylov子空间方法使用的一个主要实际限制。
作者：Siegfried Cools, Jeffrey Cornelis, Wim Vanroose
论文ID：1902.03100
分类：Numerical Analysis
分类简称：cs.NA
提交时间：2019-05-16