Gary Marcus · 2026-01-14

生成式AI如何摧毁民主社会的制度基础

摘要

两位波士顿大学法学教授发表论文指出，生成式AI的设计本质与民主社会的核心制度相冲突。作者原本计划写一篇乐观的论文，但在研究过程中发现AI对机构的威胁远超预期。论文强调，AI系统不是中性工具，其设计本身就侵蚀着支撑现代民主生活的机构，包括公共治理、法治、教育、医疗和新闻等领域。AI的广泛部署将使这些制度日益僵化和失去合法性，最终成为公民机构的死刑判决。

内容框架与概述

这篇论文以震撼的开篇直指核心问题：如果有人想要创造一个能够摧毁民主制度支柱的工具，AI是最佳选择。作者指出，权威领导人和科技寡头正以惊人的速度部署AI系统来掏空公共机构。AI支持者声称这只是效率工具，但论文有力地反驳了这一观点，强调预测性和生成式AI系统的设计与基本公民机构的核心职能本质上是相互对立的。

论文的核心论点非常明确：当前AI系统的设计正在促进关键公民机构的退化和毁灭。即使不直接使用AI来消除这些机构，AI系统也会从本质上削弱这些机构，直到它们无力运作。作者强调这不是关于AI可能被滥用的问题，而是AI的核心功能如果按照设计使用，就会对支持现代民主生活的机构造成持续损害。AI部署得越广泛，这些机构就会变得越僵化和失去合法性。

这篇论文的起源故事同样令人深思。作者最初计划写一篇关于深度伪造积极意义的简短文章，认为它只是让现有问题变得更严重，从而为深层结构性修复创造机会。但在研究过程中，他们意识到AI对机构的威胁远比预期严重得多，同时也意识到社会对于保护机构的意愿远低于他们的乐观估计。因此他们转而撰写这篇简短而紧急的文章，阐述AI系统设计如何通过不同方式削弱机构直至崩溃。