分段线性二次问题的形状参数估计
摘要：分段线性-二次（PLQ）惩罚广泛用于统计推断、信号处理和机器学习中的模型开发。PLQ惩罚的常见例子包括最小二乘法、Huber、Vapnik、1-范数及其不对称的推广。这些估计器的特性取决于惩罚的选择和其形状参数，例如分位数损失函数的不对称程度以及Huber函数的线性和二次分段之间的转折点。在本文中，我们开发了一个统计框架，可以在确定了惩罚的形状后，帮助模型师自动调整形状参数。参数的选择是基于每个QS惩罚应该对应一个真实的统计密度的基本概念。这个要求中的归一化常数有助于指导对形状参数的优化，从而得到一个关于这些参数以及感兴趣的主要参数的联合优化问题。第二个贡献是考虑这些联合问题的优化方法。我们展示了基本的一阶方法可以立即加以应用，并设计了针对PLQ问题的内点（IP）方法的专门扩展，可以快速高效地解决这个联合问题。合成问题和更大规模的实际示例说明了该方法的潜力。
作者：Peng Zheng, Aleksandr Y. Aravkin and Karthikeyan Natesan Ramamurthy
论文ID：1706.01865
分类：Machine Learning
分类简称：stat.ML
提交时间：2021-01-01