软件工程研究者的AI安全子问题
摘要：从软件工程（SE）研究角度讨论长期AI安全问题。我们简要概述了长期AI安全以及避免AI系统在满足或超过人类能力（包括软件工程能力和AGI /“HLMI”方法）时产生危害的挑战。我们通过定量文献回顾进行了研究，发现AI安全讨论在SE会议上并不常见。我们推测了随着能力提升软件可能如何变化，并将“子问题”归类为传统的SE领域，提出了如何通过解决类似问题来改进AI和SE未来的工作。
作者：David Gros, Prem Devanbu, Zhou Yu
论文ID：2304.14597
分类：Software Engineering
分类简称：cs.SE
提交时间：2023-09-01