加速和非精确软阈值补全用于大规模矩阵和张量的

摘要:矩阵和张量的补全旨在从有限观测中恢复低秩的矩阵/张量,并广泛应用于推荐系统和多关系数据挖掘等领域。一种最先进的矩阵补全算法是Soft-Impute,该算法利用矩阵迭代的“稀疏加低秩”结构,在每次迭代中高效地进行奇异值分解。尽管Soft-Impute是一种邻近算法,但通常认为加速会破坏这种特殊结构,因此是没有用的。在本文中,我们展示了Soft-Impute确实可以在不损害结构的情况下进行加速。为了进一步降低迭代时间复杂度,我们提出了一种基于幂法的近似奇异值阈值化方案。理论分析表明,所提算法仍然享有加速邻近算法的快速O(1/T^2)收敛速度。我们还将所提算法扩展到具有缩放潜在核范数约束项的张量补全问题。我们展示了类似的“稀疏加低秩”结构也存在于张量补全问题中,从而导致低迭代复杂度和快速O(1/T^2)收敛速度。大量实验表明,所提算法比Soft-Impute和其他最先进的矩阵和张量补全算法要快得多。

作者:Quanming Yao and James T. Kwok

论文ID:1703.05487

分类:Numerical Analysis

分类简称:cs.NA

提交时间:2018-08-28

PDF 下载: 英文版 中文版pdf翻译中