Anthropic API 引用功能上线，提升 AI 输出可验证性

摘要

Anthropic 正式推出 Citations 功能，允许 Claude 在生成回答时自动引用源文档中的具体内容。该功能已在 Anthropic API 和 Google Cloud Vertex AI 全面上线，通过文档分块处理和精确引用生成，将召回准确率提升高达 15%，有效减少 AI 幻觉现象。

内容框架与概述

本文介绍了 Anthropic 新推出的 Citations 功能，该功能解决了传统 AI 应用中源引用不稳定的痛点。过去开发者需要依赖复杂的提示词工程来让 AI 包含源信息，效果难以保证。现在通过 Citations，用户只需将源文档添加到上下文窗口，Claude 就能自动在输出中引用具体内容。

文章详细说明了 Citations 的三大典型应用场景：文档总结、复杂问答和客户支持。在文档总结中，每个关键点都能链接回原始来源；在复杂问答中，每个回答元素都可追溯到相关文本；在客户支持中，可以引用多个产品手册来回答复杂查询。

技术实现方面，启用 Citations 后，API 会将源文档（支持 PDF 和纯文本）分块为句子，然后将这些分块与用户查询一起传递给模型。Claude 分析查询后生成包含精确引用的回答，引用的文本会参考源文档，从而显著减少幻觉现象。

核心概念及解读

自动引用机制：Citations 通过文档分块和上下文分析，使 Claude 能够自动识别并在输出中引用源文档的具体句子和段落，内部评估显示其引用能力比大多数自定义实现更优。

召回准确率提升：相比传统提示词工程方法，Citations 功能将召回准确率提升了高达 15%，这意味着 AI 能够更准确地找到和引用相关源信息。

幻觉减少：通过精确引用源文档，Citations 有效降低了 AI 生成虚假或错误信息的风险，客户案例显示源幻觉和格式问题从 10% 降至 0%。

标准令牌定价：Citations 使用标准的基于令牌的定价模型，虽然处理文档需要额外输入令牌，但返回引用文本本身的输出令牌不额外收费。

企业级应用验证：Thomson Reuters 的法律税务平台 CoCounsel 和 Endex 的金融自主代理已经采用 Citations，成功增强了 AI 生成内容的信任度和准确性。

原文信息

此文档由 AI 自动整理