低维邻域表示的LLE
摘要：局部线性嵌入算法（LLE）是一种非线性降维技术，由于其计算简单和直观的方法而被广泛使用。LLE首先从最近邻点线性重构每个输入点，然后在低维嵌入中保持这些邻域关系。我们表明，LLE计算的重构权重捕捉到了邻域的高维结构，而不是低维流形结构。因此，权重向量对噪声非常敏感。此外，这导致LLE收敛到输入的线性投影，而不是非线性嵌入目标。为了克服这两个问题，我们提出使用低维邻域表示计算权重向量。我们理论上证明了这种对LLE的简单修改降低了对噪声的敏感性。当邻居数大于输入的维度时，这种修改也消除了正则化的需求。我们提供了数值例子，展示了扰动和线性投影问题，以及使用低维邻域表示改进的输出。
作者：Yair Goldberg and Ya'acov Ritov
论文ID：0808.0780
分类：Machine Learning
分类简称：stat.ML
提交时间：2008-08-07