k-NN分类器在高维空间中受到维度诅咒的影响吗？
摘要：高维空间中精确的最近邻搜索受到维数之诅咒的影响是一种日益增多的证据。那么，对于基于k最近邻的学习算法（如k-NN分类器），是否必然存在相同的情况？我们在各个层面分析了这个问题，结果表明每个层面的答案是不同的。作为我们的第一主要观察结果，我们展示了k近似最近邻分类器的一致性。然而，分类器在非常高维度下的性能是可以证明的不稳定的。作为我们的第二主要观察结果，我们指出现有的统计学习模型对于域的维数是无视的，因此每个学习问题都可以通过Borel同构的方式被一致地确定性地减少到一维情况。
作者：Vladimir Pestov
论文ID：1110.4347
分类：Machine Learning
分类简称：stat.ML
提交时间：2021-02-18