当前预测平台存在的对齐问题
摘要：在当前的预测平台中，如Good Judgment Open、CSET-Foretell或Metaculus，我们提出了对齐问题。我们将这些问题分类为奖励规范问题或委托代理问题，并提出了解决方案。例如，Good Judgment Open使用的评分规则是不正确的，Metaculus比赛不鼓励分享信息，而是鼓励扭曲真实的概率以最大化获得金钱奖励的机会。我们还指出了将预测者与对齐人工智能系统的问题之间的一些部分相似之处。
作者：Nu~no Sempere, Alex Lawsen
论文ID：2106.11248
分类：Computer Science and Game Theory
分类简称：cs.GT
提交时间：2023-02-06