Anthropic负责任扩展政策3.0版发布

摘要

Anthropic发布负责任扩展政策（RSP）3.0版本，这是他们两年多来用于减轻AI系统灾难性风险的自愿框架。文章回顾了原始RSP的理论基础，包括条件性承诺和AI安全级别（ASL）体系，评估了政策实施的成功与不足，并介绍了新版本的更新内容。成功之处包括推动了更强大的安全保障措施、促使其他AI公司采用类似框架，以及为政府政策提供参考；不足之处在于利用阈值创建行业共识未能充分实现，政府行动进展缓慢。文章强调了透明度与问责制的重要性。

内容框架与概述

文章首先介绍RSP 3.0版本的发布背景和更新目的。然后详细阐述了原始RSP的理论基础，即通过条件性承诺和AI安全级别体系来应对AI能力快速提升带来的风险。作者将其理论变革机制归纳为内部强制函数、向上竞争、创建风险共识和面向未来四个方面。接着，文章诚实评估了过去两年多政策实施的效果：成功激励了更强大的安全保障开发，其他AI公司也采纳了类似框架并影响了政府政策；但同时也承认预设能力水平存在模糊性，政府层面的安全行动进展缓慢。最后，文章指出新版本将强化已生效的措施、改进不足之处，并提高决策透明度。

核心概念及解读

AI安全级别（ASL）：Anthropic提出的AI风险分级体系，不同级别对应不同强度的安全保障措施，ASL-3针对生物武器相关风险。

条件性承诺：RSP的核心原则，即“如果AI模型超过特定能力阈值，则必须实施相应更严格的安全防护措施”。

RSP理论变革机制：包括内部强制、促进行业竞争、创建风险共识和面向未来协调四个推动AI安全发展的途径。

向上竞争：希望发布RSP能鼓励其他AI公司采用类似政策，形成行业安全标准不断提升的正向竞争局面。

前沿合规框架：Anthropic为满足欧盟AI法案等监管要求而创建的文档，用以展示其AI风险评估和管理方法。

原文信息

此摘要卡片由 AI 自动生成