通过软到硬标签转移的特权信息高斯过程分类
摘要：使用特权信息进行学习是一个吸引人的问题设置，它在现实世界中有助于许多学习场景。高斯过程分类（GPC）与特权信息的最先进方法是GPC +，它将特权信息合并到似然的噪声项中。GPC + 的一个缺点是它需要数值积分来计算潜在函数的后验分布，这非常耗时。为了克服这个限制，我们提出了一种基于高斯过程的具有特权信息的新分类方法，称为“软标签转移高斯过程（SLT-GP）”。我们的基本思想是构造另一个学习任务，预测从特权信息中获得的软标签（连续值），并从这个任务中进行迁移学习，用于预测硬标签的目标任务。我们推导出了我们提出的方法的PAC-Bayesian界限，这证明了通过经验贝叶斯方法优化超参数的合理性。我们还通过实验证明了我们的方法与GPC和GPC +相比的有用性。
作者：Ryosuke Kamesawa, Issei Sato, and Masashi Sugiyama
论文ID：1802.03877
分类：Machine Learning
分类简称：stat.ML
提交时间：2018-02-13