生成式文本到图像模型风险的类型学
摘要：现代文本到图像生成模型（例如DALL-E和Midjourney）带来的直接风险和危害通过综合文献回顾进行了调查。尽管这些模型在生成图像方面具有前所未有的能力，但它们的开发和使用引入了需要仔细考虑的新类型风险。我们的回顾揭示了对这些风险的理解和处理存在重大知识空白，尽管其中一些已经得到了解决。我们提供了六个关键利益相关方群体的风险分类，包括未被探索的问题，并提出了未来的研究方向。我们确定了22种不同的风险类型，涵盖了从数据偏见到恶意使用的问题。本研究的调查旨在加强关于负责任的模型开发和部署的持续讨论。通过强调之前被忽视的风险和空白，它旨在塑造随后的研究和治理倡议，引导它们朝着负责任、安全和伦理意识的文本到图像模型演进。
作者：Charlotte Bird and Eddie L. Ungless and Atoosa Kasirzadeh
论文ID：2307.05543
分类：Computers and Society
分类简称：cs.CY
提交时间：2023-07-13