稀疏高维线性回归模型中的鲁棒信息准则用于模型选择
摘要：高维数据的线性回归模型中的模型选择是一个主要的挑战。传统的模型选择方法，如阿卡奇克信息准则、贝叶斯信息准则（BIC）和最小描述长度，在高维场景中容易出现过拟合问题。在这方面，扩展的BIC（EBIC）是原始BIC的扩展版本，扩展的费舍尔信息准则（EFIC）结合了EBIC和费舍尔信息准则，它们在测量数量增长非常大的情况下是真实模型的一致估计量。然而，在高信噪比（SNR）场景下，EBIC不一致，样本量固定，EFIC对数据缩放不变，结果不稳定。在本文中，我们提出了一种新形式的EBIC准则，称为EBIC-Robust，它对数据缩放不变，在大样本量和高SNR场景下都是一致的。通过分析证明了其一致性。模拟结果表明，EBIC-Robust的性能优于EBIC和EFIC。
作者：Prakash B. Gohain and Magnus Jansson
论文ID：2206.08731
分类：Signal Processing
分类简称：eess.SP
提交时间：2023-07-05