稀疏广义特征值问题的连续两阶段方法
摘要：稀疏广义特征值问题（sGEP）在包括稀疏主成分分析、稀疏Fisher判别分析和稀疏规范相关分析在内的统计学习方法中具有普遍挑战，由于其NP难度，它具有显著的计算复杂性。 sGEP的主要目标是推导出最大广义特征向量的稀疏向量逼近，将其有效地构造为稀疏优化问题。然而，传统的sGEP算法往往会陷入局部最优解，并且在初始点上表现出显著的依赖性。这个困境需要一种更精细的方法来避免局部最优解，并在sGEP的目标值方面实现改进的解决方案，本文通过一种新的连续两阶段方法来解决这个问题。这种方法的第一阶段包括了一个能够从任意初始点得到一个稳定点的sGEP算法。随后的阶段通过调整支持来改进这个稳定点，从而得到一个相对于原始稳定点具有改进目标值的点。这种支持调整是通过我们称之为支持改动的新程序实现的。从第二阶段得到的最终点然后作为第一阶段算法的初始点，创建一个循环过程，直到满足预定的停止准则。我们还对这个过程进行了全面的收敛性分析。通过在各种设置下进行广泛的实验，我们的方法在sGEP的目标值方面表现出显著的改进，突显其作为统计学习和优化中的有价值工具的潜力。
作者：Qia Li, Jianmin Liao, Lixin Shen, Na Zhang
论文ID：2308.11904
分类：Optimization and Control
分类简称：math.OC
提交时间：2023-08-24