微软发布验证网络内容真实性的蓝图

摘要

微软近日向 MIT Technology Review 分享了一份蓝图，旨在验证网络内容的真实性。该方案评估了 60 种技术组合，涵盖 provenance（来源追溯）、watermark（水印）和 fingerprint（数字指纹）三种方法。微软首席科学官 Eric Horvitz 表示，此举部分受加州 AI 透明度法案推动，但未承诺在自家平台实施该标准。专家认为，若业界采用该方案，将显著增加 AI 操纵内容的传播难度，但无法完全解决问题。

内容框架与概述

文章开篇指出 AI 虚假信息已渗透日常网络生活，从白宫官员分享篡改图像到俄罗斯影响力活动散播伪造视频，均表明问题严峻。主体部分详细介绍微软的验证蓝图，将内容认证类比为验证 Rembrandt 画作真伪，需要结合来源记录、不可见水印和数字签名三种手段，并评估了不同方案在各种失败场景下的表现。后续讨论了技术局限——这些工具只能检测是否被操纵，无法判断内容准确性；同时指出，若平台急于部署不成熟工具，可能适得其反。最后，文章审视了监管前景，加州 AI 透明度法案将成为首次大考，但特朗普政府的政策倾向为执行带来不确定性。

核心概念及解读

来源追溯（Provenance）：记录数字内容的创建和传播历史，类似于艺术品的来源清单，可追踪内容从产生到传播的完整链条。

数字水印（Watermark）：一种不可见但机器可读的技术标记，嵌入 AI 生成的内容中，帮助平台识别内容来源。

数字指纹（Fingerprint）：基于内容特征生成的数学签名，如同为数字内容建立唯一身份标识，可用于验证内容完整性。

C2PA 标准：内容来源和真实性联盟推出的 provenance 标准，微软于 2021 年参与发起，旨在建立统一的 AI 内容标识规范。

社会技术攻击（Sociotechnical Attack）：结合技术手段和社会工程学的攻击方式，通过微小改动内容并利用标签系统的漏洞制造误导性分类。

原文信息

此摘要卡片由 AI 自动生成