随机森林中重采样和递归分割方法在利用无穷小Jackknife估计渐近方差中的比较
摘要:基于条件推断树和子抽样的随机森林中的无穷小Jackknife(IJ)最近已被应用于估计其预测方差。这些定理在传统的随机森林框架下进行了验证,该框架使用分类回归树(CART)和自助重采样。然而,已发现使用条件推断树和子抽样的随机森林不容易出现变量选择偏倚。在这里,我们使用一种新方法进行模拟实验,探索了在随机森林中应用IJ的适用性,该方法通过改变重采样方法和基学习器进行训练数据点的模拟和训练。使用条件推断树而不是传统的CART树以及使用子抽样而不是自助重采样,在使用IJ时可以更准确地估计预测方差。在这里的随机森林变体已被纳入到R编程语言的开源软件包中。
作者:Cole Brokamp, MB Rao, Patrick Ryan, Roman Jandarov
论文ID:1706.06150
分类:Machine Learning
分类简称:stat.ML
提交时间:2021-08-05