PAC-Bayes与域自适应
摘要:PAC-Bayesian理论在领域适应中提供了两个主要的贡献:目标是从源分布中学习一个在不同但相关的目标分布上表现良好的多数投票。首先,我们提出了改进我们在Germain et al. (2013)中提出的先前方法,该方法依赖于基于争议平均的新颖分布伪距离,使我们能够推导出一个更紧密的目标风险的新的领域适应界限。虽然这个界限处于常见领域适应工作的精神状态中,我们推导出了第二个界限(在Germain et al., 2016中介绍),通过导出一个上界限制了目标风险,其中分布的差异性-表示为比例-控制了源误差度量和目标选民不一致之间的权衡。我们讨论并比较了这两个结果,从中得到了PAC-Bayesian广义界限。此外,从PAC-Bayesian专门应用于线性分类器,我们推断出两个学习算法,并在实际数据上评估它们。
作者:Pascal Germain (MODAL), Amaury Habrard (LHC), Franc{c}ois Laviolette, Emilie Morvant (LHC)
论文ID:1707.05712
分类:Machine Learning
分类简称:stat.ML
提交时间:2019-11-19