自动内容审核增加对社区准则的遵守程度
摘要：在线社交媒体平台使用自动化的管理系统来删除违规内容或减少其可见性。虽然之前的研究已经证明了手动内容管理的重要性，但自动化内容管理的影响还不为人所知。在这项针对Facebook评论的大规模研究中（n = 412M），我们使用模糊回归断点设计来衡量自动化内容管理对后续违规行为（隐藏/删除的评论数）和参与程度（发布的额外评论数）的影响。我们发现，在较短的对话线程（20条或更少的评论）中，评论删除减少了后续的违规行为，甚至包括其他参与者，这表明该干预措施阻止了对话的脱轨。此外，删除对受影响用户的后续违规行为的影响比对减少评论的影响更持久，这表明用户被吓阻了违规行为但没有停止评论。相比之下，隐藏（而不是删除）内容具有微小且统计上不显著的效果。我们的结果表明，自动化内容管理能够增加用户对社区准则的遵守。
作者：Manoel Horta Ribeiro, Justin Cheng, Robert West
论文ID：2210.10454
分类：Computers and Society
分类简称：cs.CY
提交时间：2023-02-17