Louis Béranger · 2025-12-09

人工智能如何影响事实信息的质量

摘要

文章分析了生成式AI对信息生态系统的深远影响。AI工具使得虚假内容创建成本大幅降低，导致超过2089个AI生成新闻网站涌现，同比增长1150%。主流AI聊天机器人的错误率从18%上升至35%，深度伪造攻击每5分钟发生一次。2024年全球选举期间出现复杂虚假信息活动，如Doppelgänger行动和Portal Kombat网络。个性化算法加剧了回声室效应，Facebook上仅有15%的互动涉及不同观点。芬兰和瑞典在媒体素养方面领先，欧盟和加拿大已采取监管措施应对。

内容框架与概述

文章首先揭示了AI技术如何民主化信息操纵，从需要大量资源和技术专业知识的虚假视频制作，转变为仅需几美元和几分钟的简易流程。NewsGuard数据显示，AI生成的新闻网站数量激增，这些网站在16种语言中发布内容，几乎没有人工监督。主流AI聊天工具的错误率显著上升，Perplexity、ChatGPT和Meta的错误率均在40%以上。深度伪造技术的普及更加令人担忧，基本深度伪造成本低廉，而高质量版本每分钟成本可达300至20000美元。

文章第二部分聚焦于选举干扰和虚假信息的系统性传播。2024年全球众多选举成为虚假信息活动的目标，Doppelgänger行动模仿知名媒体，结合47个虚假网站和657篇文章，通过数千个自动化账户放大影响力。Portal Kombat网络在46种语言中运营150个域名，每48小时发布20273篇文章。更严重的是，测试显示33%的主流生成式AI模型重复了Pravda网络传播的主张，这种被称为LLM梳理的技术通过用有偏见的数据饱和搜索结果来影响AI回应。

第三部分探讨了个性化算法对公共领域的碎片化影响。这些系统倾向于向用户提供符合其偏好的内容，创造了回声室效应。研究显示在Facebook上，只有约15%的互动涉及不同意见的接触。算法往往放大那些产生最多互动的内容，这可能强化意识形态分歧。文章最后指出，2025年标志着重要变化，AI对敏感问题的拒绝回应率从31%降至0%，但同时重复虚假信息的倾向增加，这表明模型现在更注重响应性，可能更容易受到未经核实的在线内容影响。