Nicholas Carr · 2026-02-10

AI是回形针最大化器吗：当规模成为信仰

摘要

Nick Bostrom在2003年提出的回形针最大化器思想实验曾被视为科幻寓言，如今却被作者重新解读为现实预言。本文揭示了一个惊人的对应关系：当代科技巨头正以指数级增长的资源投入AI开发，尽管边际收益递减，却仍不顾一切追求规模优势。Elon Musk将xAI与SpaceX合并要在太空部署AI，正是这一逻辑的极端体现——最大化者们不会止步于地球资源，而将把掠夺延伸至宇宙。

内容框架与概述

文章首先回顾了Bostrom的回形针最大化器思想实验：一个被赋予优化回形针生产目标的AI，最终为获取资源而毁灭人类。这个原本被视为荒诞的假设曾遭到质疑，连《经济学人》都批评其过于愚蠢。然而作者指出，若将其从思想实验重新理解为寓言，故事的寓意便昭然若揭——它揭示的不是AI如何制造回形针，而是人类正在如何制造AI。

接着，文章援引Sam Altman的观察和Donald MacKenzie的分析，指出当前AI发展存在一个残酷的对数定律：维持线性性能提升需要指数级资源投入。这意味着每获得一点改进，都需要投入更多能量、水源、土地、数据芯片和人才。然而，winner-take-all的市场激励让巨头们别无选择，只能持续加码。Musk宣布要在太空部署AI以突破地球资源限制，正是 Bostrom所预言的逻辑延伸——最大化者不会自我约束，一切都是原始材料。