OpenAI五角大楼合同模糊监控红线

摘要

OpenAI与五角大楼签订AI供应合同引发隐私争议。Anthropic此前拒绝该合同，担心AI被用于大规模监控。OpenAI最初合同引用FISA等有争议法律框架，引发公众强烈反对和ChatGPT卸载潮。Sam Altman随后修改合同，增加更明确的国内监控禁令，但AI结合商业数据源带来的前所未有的监控能力仍引发担忧。

内容框架与概述

文章围绕OpenAI与五角大楼的AI合同展开。Anthropic CEO Dario Amodei周四发表博客，解释拒绝签署合同的原因：担心AI被用于创建美国公民私人生活的详细画像，通过连接大型数据集而无需搜查令。周五谈判破裂后，美国政府将Anthropic指定为供应链威胁，切断其联邦合同。OpenAI迅速填补空缺，但最初合同引用FISA法案和12333行政令，这些法律因允许广泛监控美国公民而备受争议。

公众反应迅速而激烈。AI政策和法律专家指出，OpenAI实际上采用了情报社区的词典，其中普通英语词汇被重新定义为允许它们表面上禁止的行为。SensorTower数据显示，周六ChatGPT移动应用卸载量猛增295%，而Anthropic则跃居AI应用排行榜榜首。面对舆论海啸，Altman周一晚在推特发布内部消息，承诺修改合同，增加明确规定禁止将AI故意用于对美国个人和公民的国内监控，并限制战争部情报机构如NSA使用OpenAI工具。

文章深入分析了AI与商业数据结合带来的隐私威胁。战争部从Babel Street、LexisNexis等公司购买大量美国人的个人信息，包括社交媒体数据、手机定位记录、互联网活动足迹等。当强大的AI系统在这些数据上运行时，可以在几秒钟内梳理出个人居住地、工作地、访问地点、是否参加特定政治集会、宗教场所或堕胎诊所，以及移民身份等信息。这种规模的大规模监控在人类分析员需要手工操作的时代几乎不可能实现，但AI带来了全新的监控范式。

尽管五角大楼和OpenAI承诺在法律范围内使用AI，但美国法规是在AI时代之前制定的，当时没有人对今天前沿模型的侵入性潜力有任何概念。Amodei指出，这种监控目前合法只是因为法律还没有跟上AI快速增长的能力。专家警告，美国政府购买个人数据并在没有任何监督的情况下用于无搜查令的监控已经极其危险，而将这些数据输入不透明且经常有缺陷的AI系统，错误、偏见和缺乏问责制会放大伤害。

核心概念及解读

大规模监控（Mass Surveillance）：指政府通过连接多个大型数据集，使用AI技术创建公民私人生活的详细画像，无需搜查令即可推断个人敏感信息，构成前所未有的隐私威胁。

FISA法案（Foreign Intelligence Surveillance Act）：允许五角大楼内有争议的国家安全局收集美国公民与外国个人和实体通信的广泛授权法律，因允许广泛监控美国公民而备受批评。

12333行政令（Executive Order 12333）：允许从外国目标进行批量数据收集的行政命令，无论他们是否与美国人交谈，为情报机构提供广泛的数据收集权限。

附带收集（Incidental Collection）：指政府可以合法使用的非故意或偶然收集的数据。专家担忧美国人会被卷入这些数据，但政府可以声称任何附带收集都是合法的，实际上形成AI大范围监控。

商业数据源（Commercially-Acquired Data）：指五角大楼从Babel Street、LexisNexis、Accurint等数据经纪人购买的大量个人数据，包括社交媒体信息、手机定位历史、互联网足迹等，AI可以连接这些数据源进行大规模推断。

原文信息

此摘要卡片由 AI 自动生成