群组成员偏见
摘要：用户交互学习排名时，搜索和推荐系统必须解决用户行为中的偏见，以提供高质量的排名。最近在排名文献中研究的一种偏见类型是敏感属性，如性别，对用户对项目效用的判断产生影响。例如，在寻找专业领域的搜索中，一些用户可能在男性候选人和女性候选人之间有偏见。我们将这种偏见称为团体成员偏见或团体偏见。越来越多地，我们寻求不仅具有高效用性，而且对个人和敏感群体公平的排名。基于优势的公平性度量依赖于项目的估计优势或效用。对于团体偏见，敏感群体的效用被低估，因此，如果不纠正这种偏见，所谓的公平排名就不是真正公平的。在本文中，我们首先分析了团体偏见对排名质量以及两个众所周知的基于优势的公平性度量的影响，并表明团体偏见可以同时对排名和公平性造成伤害。然后，我们提供了一种基于假设的团体偏见纠正方法，即不同群体中项目的效用分数来自同一分布的假设。这个假设有两个潜在问题，即稀疏性和平等而非公平性，我们使用摊销方法来解决这些问题。我们展示了我们的纠正方法可以始终补偿团体偏见对排名质量和公平性度量的负面影响。
作者：Ali Vardasbi, Maarten de Rijke, Fernando Diaz, Mostafa Dehghani
论文ID：2308.02887
分类：Information Retrieval
分类简称：cs.IR
提交时间：2023-08-08