因果传递学习的不变模型
摘要：迁移学习方法试图将来自多个相关任务（或领域）的知识结合起来，以提高在测试任务上的性能。受因果方法的启发，我们放松了通常的协变量偏移假设，并假设它对于一些预测变量子集成立：给定这个预测变量子集，目标变量的条件分布在所有任务上都是不变的。我们展示了这个假设如何可以从因果领域的思想中得到证明。我们重点关注领域泛化问题，其中没有观察到来自测试任务的样本。我们证明，在对抗环境中，在领域泛化中使用这个子集进行预测是最优的；我们进一步提供了一些例子，在这些例子中，任务足够多样化，因此估计器的性能优于数据汇集，即使是在平均情况下也是如此。如果测试任务的样本可用，我们还提供了一种方法，可以从训练任务中转移知识并利用所有可用的特征进行预测。然而，我们对这种方法不提供任何保证。我们引入了一种实用的方法，可以自动推断上述子集并提供相应的代码。我们在合成数据集和基因删除数据集上呈现了结果。
作者：Mateo Rojas-Carulla, Bernhard Sch"olkopf, Richard Turner, Jonas Peters
论文ID：1507.05333
分类：Machine Learning
分类简称：stat.ML
提交时间：2018-09-25