推荐系统中的放大悖论
摘要：推荐系统的自动化审计发现，盲目遵循推荐会导致用户越来越偏向党派、阴谋论或虚假内容。与此同时，使用真实用户轨迹的研究表明，推荐系统并不是引导注意力转向极端内容的主要驱动力；相反，这种内容主要通过其他方式，例如其他网站来到达。本文解释了以下明显的矛盾：如果推荐算法偏向极端内容，为什么它不促使该内容的消耗？通过一个简单的基于代理的模型，其中用户对推荐系统中的项目赋予不同的效用，我们通过模拟展示了协作过滤的推荐系统和极端内容的利基性如何解决这个明显的矛盾：尽管盲目地遵循推荐的确会导致用户接触到利基内容，但是当给用户选择时，他们很少消费利基内容，因为这对他们的效用来说是低的，这会导致推荐系统减弱这种内容。我们的结果呼吁对“算法放大”的细致解释，并强调在审计推荐系统时对用户对内容的效用进行建模的重要性。代码可在https://github.com/epfl-dlab/amplification\_paradox找到。
作者：Manoel Horta Ribeiro, Veniamin Veselovsky, Robert West
论文ID：2302.11225
分类：Computers and Society
分类简称：cs.CY
提交时间：2023-04-06