不同AI模型似乎趋同于对现实的相同编码方式

摘要

文章介绍了MIT研究团队提出的柏拉图表征假说，该假说认为不同的AI模型（包括语言模型和视觉模型）在训练过程中会逐渐趋同，形成对现实世界的共享表征。这一现象在模型变得更强大时更为明显，引发了学界对AI内部表征本质的深入讨论。

内容框架与概述

柏拉图表征假说源自古希腊哲学家柏拉图的洞穴寓言。在这个现代版本中，真实世界位于洞穴之外，而数据流则是投射进洞穴的影子。AI模型就像洞穴中的囚徒，只能接触数据流，但不同模型正在逐渐发现这些影子背后共同的现实结构。研究团队认为，这解释了为什么语言模型和视觉模型对相似概念会有相近的内部表征。

研究通过分析神经网络的激活向量来比较不同模型的表征。虽然不能直接对比不同网络的向量，但可以通过测量相似性的相似性来间接比较。例如比较两个语言模型对动物词汇的表征集群形状。研究发现，更强大的模型往往在表征上更相似，这被称为安娜·卡列尼娜场景：成功的模型都是相似的，而不成功的模型各有各的不成功之处。

这一假说在AI研究领域引发了激烈辩论。支持者认为这是显而易见的，而怀疑者则质疑如何选择有代表性的表征进行比较、在模型的哪些层级寻找相似性等问题。尽管如此，这一假说已经激发了大量后续研究工作，推动人们更深入地思考AI系统如何理解和表征世界。

核心概念及解读

柏拉图表征假说：不同AI模型在训练过程中会逐渐趋同，形成对现实世界共享的内部表征，就像柏拉图洞穴中的囚徒看到同一组外部物体的影子。

表征相似性分析：通过比较神经网络中概念的向量集群形状来评估不同模型的相似程度，而非直接对比激活向量。

安娜·卡列尼娜场景：指成功的AI模型在表征上趋于相似，而不成功的模型各有各的差异这一现象。

神经网络的激活向量：AI模型用高维向量来表征概念，相似概念的向量在抽象空间中指向相近方向。

多模态趋同：语言模型和视觉模型等不同类型的AI系统，尽管训练数据类型完全不同，却可能发展出对世界相似的内部理解。

原文信息

此摘要卡片由 AI 自动生成