利用高斯回归器提升高维非线性模型
摘要：基于高维数据mathbf{y}_i和非线性（可能是未知的）链函数f，我们研究从结构化信号mathbf{x}_0中恢复的问题。当回归器mathbf{a}_i是iid高斯时，Brillinger（1982）证明了普通最小二乘估计mathbf{x}_0与比例常数mu_ell成正比，其中mu_ell取决于f。最近，Plan＆Vershynin（2015）在高维设置下推广了这个结果，为广义Lasso导出了尖锐的误差界。不幸的是，当mu_ell = 0时，最小二乘估计和Lasso都无法恢复mathbf{x}_0。例如，这包括所有偶数链函数。我们通过提出和分析一种备选的凸恢复方法来解决这个问题。简而言之，我们的方法将这种链函数视为在更高维度的抬升空间中线性处理。有趣的是，我们的误差分析以几个简单的摘要参数捕捉了非线性和问题几何的影响。
作者：Christos Thrampoulidis and Ankit Singh Rawat
论文ID：1712.03638
分类：Machine Learning
分类简称：stat.ML
提交时间：2018-10-30