具有趋势滤波的加法模型
摘要:用趋势滤波方法构建的加法模型,即每个分量都通过其第$k$(离散)导数的(离散)总变差进行正则化。这导致了第$k$阶的分段多项式分量(例如,$k=0$给出分段常数分量,$k=1$给出分段线性分量,$k=2$给出分段二次分量等)。类似于在一元情况下的优势,加法趋势滤波具有有利的理论和计算性质,这主要归功于其使用的(离散)总变差正则化子的局部特性。在理论上,我们为加法趋势滤波估计推导了快速的误差率,并且当底层函数是可加的且其分量函数的导数具有有界变差时,这些率是极小化最优的。我们还证明加法平滑样条(和一般线性平滑子构建的加法模型)无法达到这些率。在计算方面,与加法模型中的标准方法相同,反馈是一种有吸引力的优化方法,但对于加法趋势滤波来说尤其有吸引力,因为我们可以利用几个高效的一元趋势滤波求解器。更进一步,我们描述了一种新的可并行运行迭代的反馈算法,这是我们所知道的第一种。最后,我们进行实验来考察加法趋势滤波的实证表现。
作者:Veeranjaneyulu Sadhanala and Ryan J. Tibshirani
论文ID:1702.05037
分类:Machine Learning
分类简称:stat.ML
提交时间:2018-11-26