国际高级人工智能机构
摘要：国际机构在确保先进人工智能系统造福人类方面可能发挥重要作用。国际合作可以释放人工智能进一步促进可持续发展的能力，调节努力的协调可以减少创新障碍和利益传播。相反，强大且通用的人工智能系统的潜在危险能力在其开发和部署方面产生全球性外部性，进一步推进负责任的人工智能实践的国际努力可以帮助管理它们带来的风险。本文确定了一组可在国际层面开展的治理功能，以应对这些挑战，这些功能包括支持获取前沿人工智能系统和制定国际安全标准。它将这些功能分为四个机构模型，这些模型内部具有协同效应，并在现有组织中有先例：1）一个前沿人工智能委员会，促进有关先进人工智能的机遇和风险的专家共识。2）一个高级人工智能治理组织，制定国际标准来管理来自先进模型的全球威胁，支持其实施，并可能监督与未来治理机制的遵守情况。3）一个前沿人工智能合作机构，推广获得尖端人工智能。4）一个人工智能安全项目，将领先的研究人员和工程师聚集起来，推进人工智能安全研究。我们探讨了这些模型的实用性，并确定了它们可行性方面的问题。
作者：Lewis Ho, Joslyn Barnhart, Robert Trager, Yoshua Bengio, Miles Brundage, Allison Carnegie, Rumman Chowdhury, Allan Dafoe, Gillian Hadfield, Margaret Levi, Duncan Snidal
论文ID：2307.04699
分类：Computers and Society
分类简称：cs.CY
提交时间：2023-07-12