公平感知因果模型的自适应速度分析
摘要：机器翻译任务中，为了实现两种语言之间的双向翻译，通常会将源语料库用作目标语料库，这涉及到使用相反方向的两个模型进行训练。在许多领域中，哪个模型可以最快地适应领域变化是非常重要的问题。具体而言，考虑一个原始分布p，由于未知干预而发生改变，导致修改后的分布p*。在将p与p*对齐时，有几个因素可以影响适应速度，包括p中变量之间的因果依赖关系。然而，在现实场景中，我们必须考虑训练过程的公平性，尤其是涉及到一个敏感变量（偏差）存在于原因变量和效应变量之间，这一点尤为关键。为了探索这种情况，我们考虑了一个简单的结构性因果模型（SCM），其中变量A在原因（X）和效应（Y）之间作为一个敏感变量。这两个模型分别在原因-偏差-效应SCM中呈现一致和相反的因果方向。在对SCM中的变量进行未知干预后，我们可以模拟一些领域变化进行分析。然后，我们比较了四种转变情景下两个模型的适应速度。此外，我们证明了所有干预情况下两个模型适应速度之间的联系。
作者：Yujie Lin, Chen Zhao, Minglai Shao, Xujiang Zhao, Haifeng Chen
论文ID：2308.16879
分类：Artificial Intelligence
分类简称：cs.AI
提交时间：2023-09-01