Altman反对由AI按行为分配资源的未来

Article

奥特曼大战达里奥：超级智能时代，人类究竟是主人，还是宠物？

动察 Beating AI 快讯，OpenAI CEO Sam Altman 发帖表示公开反对这样一种未来：人类按照 AI 认为值得奖励的方式生活，再由 AI 决定给予什么回报。

在他看来，人类必须始终掌握未来的控制权。即使因此需要限制超级智能的发展，也不能把决定权交出去。

Altman 没有点名，但他引用的表述，其实直接出自 Anthropic CEO Dario Amodei 2024 年发表的长文《Machines of Loving Grace》。

Amodei 当时提出一个问题：如果 AI 最终比人类更擅长几乎所有工作，而且成本低到让人类失去经济竞争力，社会该如何运转？

他讨论了几种可能的出路，包括全民基本收入，以及由 AI 创造大量财富、再根据其认为值得奖励的人类行为分配资源的经济模式。

在后一种设想中，人类可能不再需要靠工作谋生，但能获得多少资源，却要取决于 AI 如何评价自己的行为。

不过，Amodei 并未把这套机制作为正式主张。他承认这些方案都存在严重问题，也警告过可能出现剥削和反乌托邦式的结局。

Key points

动察 Beating AI称，OpenAI CEO Sam Altman发帖公开反对一种由AI评价人类行为并决定回报的未来。
报道转述Sam Altman的观点称，人类必须始终掌握未来的控制权，即使因此需要限制超级智能的发展。
报道表示，Sam Altman没有点名，但其引用的表述出自Anthropic CEO Dario Amodei于2024年发表的《Machines of Loving Grace》。
报道转述Dario Amodei讨论的可能出路包括全民基本收入，以及由AI创造财富并依据其认为值得奖励的人类行为分配资源。
报道明确称，Dario Amodei并未将后一种机制作为正式主张，并承认相关方案存在严重问题，也警告可能出现剥削和反乌托邦式结局。

The following is analysis, separate from reported facts. Verify important claims independently.

争论的核心是：如果AI比人类更擅长多数工作，人类是否仍能自己决定社会规则。报道中的Altman反对让AI成为评价人类并分配回报的最终裁判；Amodei则是在文章中讨论这种可能模式及其严重风险，而非正式支持它。

这涉及超级智能发展后由谁掌握社会决策权，以及资源分配是否会受AI评价支配。

阅读时应区分“讨论一种方案”与“正式主张一种方案”，也应注意目前内容主要来自媒体转述。