人工智能是算法模仿：为什么人工"代理者"不是（也不会成为）真正的代理者
摘要：发展人工通用智能（AGI）的前景如何？作者通过系统比较生命系统和算法系统来探讨这个问题，特别关注“代理性”的概念。有三个基本差异需要考虑：（1）生命系统是自动产生的，即自我制造，因此能够确定自己的内在目标，而算法存在于一个由外部代理提供目标函数的计算环境中。（2）生命系统是具体化的，即它们的符号和物理方面之间没有分隔，而算法在计算结构上运行，最大程度地将软件与硬件隔离。（3）生命系统经历着一个庞大的世界，在这个世界中，大多数问题都是不明确的（并且并非都可以定义），而算法存在于一个小世界中，在这个世界中，所有问题都是明确定义的。这三个差异意味着生命和算法系统具有非常不同的能力和限制。特别是，在当前算法框架中（超越单纯的模仿），几乎不可能开发出真正的AGI。因此，关于算法工具的适当发展和部署的讨论应该围绕当前狭义人工智能的风险和机遇展开，而不是人工系统中真正代理性的极不可能的前景。
作者：Johannes Jaeger
论文ID：2307.07515
分类：Artificial Intelligence
分类简称：cs.AI
提交时间：2023-07-28