多元线性回归的子集选择优化
摘要：多元线性回归的子集选择旨在选择一组候选解释变量，平衡拟合误差（解释能力）和模型复杂度（选择的变量数量）。我们基于均方差和绝对误差、最小冗余最大相关性标准构建了回归子集选择的数学规划模型。我们使用基于线性规划的分支定界算法测试了提出的模型，并与文献中的算法进行了比较。对于高维情况，提出了一种基于数学规划模型和核心集概念的迭代启发式算法，并派生出一种随机化版本的算法，以确保收敛到全局最优解。从计算实验中，我们发现我们的模型快速找到了高质量的解，而其余时间用于证明最优性；迭代算法在相对较短的时间内找到了解，并且与最先进的算法相竞争；不推荐使用临时的大M值。
作者：Young Woong Park, Diego Klabjan
论文ID：1701.07920
分类：Machine Learning
分类简称：stat.ML
提交时间：2020-09-04