一个违反正交性的人工通用智能修改其效用函数的论文
摘要：人工通用智能（AGI）可能具有改变其效用函数以提高合作、交易、承诺、威胁、抵抗和进行勒索能力的工具驱动。这样的AGI必然具有至少部分可观察的效用函数，其受其他代理选择与其进行互动的影响。这种工具驱动与正交论冲突，因为修改受到AGI智能的影响。在竞争激烈的环境中，AGI可能趋于具有几乎相同的效用函数，即通过博弈论有利地影响其他代理进行优化的函数。
作者：James D. Miller, Roman Yampolskiy, Olle H"aggstr"om
论文ID：2003.00812
分类：General Finance
分类简称：q-fin.GN
提交时间：2020-03-03