柏拉图表征假说被证明为定理：为什么 1 亿参数小模型对齐能击败 720 亿大模型？

让两个完全独立的 AI，一个只读文字，一个只看图片。 它们各自独立训练，从来没见过对方，也不做任何图文对齐。 等它们各自学完，切开它们的大脑一测： 它们对现实世界的几何表征，竟然长得一模一样，只差了一个旋转角度。

更让人吃惊的是后面的实验： 一个只有 1.09 亿参数的纯文字小模型，跟图像模型的几何契合度，直接赢过了 720 亿参数的语言大模型。 参数量整整差了 660 倍。 这个小模型是怎么把体积大它几百倍的庞然大物按在地上摩擦的？

这件事要从 2024 年麻省理工学院的一篇论文说起。 当时研究人员提出了一个猜想，叫柏拉图表征假说。 古希腊哲学家柏拉图讲过一个洞穴寓言。 一群人被关在黑暗的洞穴里，只能看到墙上火光投射出来的影子。 文字是现实世界投射下来的影子，图像也是影子，声音也是影子。 研究人员发现，随着各类 AI 模型越做越大，不管它们看的是文字还是图片，内部神经元组织概念的方式，似乎都在向着同一个真实的物理世界收敛。 听着很神奇，对吧？ 但在当时，这只是个经验观察。 没人知道这是数学上的必然，还是单纯因为数据喂得太多碰巧撞上的。 业界的直觉依然是大力出奇迹： 要想让语言模型理解视觉，就得堆几万亿词元的数据，把模型参数拉到几百亿，用海量算力硬灌。

直到最近，纽约大学的 Randall Balestriero 和图灵奖得主 Yann LeCun 发了一篇论文，把这个假说硬生生推导成了一个数学定理。 他们证明：根本不需要大力出奇迹。 只要满足两个条件，两个完全独立训练的单模态网络，学出来的世界表征在数学上必然收敛到同一个空间，两者之间严格只差一个正交旋转矩阵。 哪两个条件？ 第一个条件是架构：联合嵌入预测架构，也就是 LeCun 坚持了好几年的 JEPA。 传统大语言模型干的事情，是自回归预测下一个词。 它在一维的文本序列里，拼命去猜紧挨着的下一个词是什么。 这有什么问题？ 在两位作者的数学框架里，这种训练方式被称为坏视角。 因为你只是在一段孤立文本的碎纸片里盲人摸象。 它没有同时参照真实物理世界的同一个状态。 为了靠蛮力拟合各种上下文统计规律，模型必须把参数撑到 720 亿，硬背海量语料。

JEPA 完全不干猜下一个词这种事。 它直接在抽象表征空间里做预测。 这就引出了第二个核心条件：好视角。 什么是好视角？ 来自同一个物理世界切片的不同观察。 比如同一间屋子从两个角度拍下的照片，或者一张街景照片和一段描述这幅街景的文字。 它们虽然感官形式完全不同，但背后锚定的是同一个物理现实。 当 JEPA 用这种成对的观测进行训练时，数学定理保证了它的表征直接咬合在真实世界的不变量上。 那些琐碎的噪声、多余的细节，在抽象层全被自然过滤掉了。 论文里的测算非常明确： 用好视角训练出来的 JEPA，达到同样的跨模态对齐效果，需要的训练样本数量直接少了 42 倍。

回到开头那个 1.09 亿对抗 720 亿的实验。 那个 1.09 亿参数的文本模型，用好视角的 JEPA 训练出来之后，它的整个几何空间结构，就已经和图像模型长得一模一样了。 它们之间唯一的区别，只是高维空间里的坐标轴方向转了一个角度。 这时候根本不需要费力去重训整个模型。 只要用数学方法把这个旋转角度找出来，轻轻一转，文本和图像立刻天衣无缝地扣在一起。 而那些 720 亿参数的传统语言模型呢？ 它的几何空间被海量一维词元扭曲成了复杂的曲面，想跟图像对齐，怎么转都对不齐。

所以模型真的越庞大越懂世界吗？ 这个定理至少算清楚了一笔账： 如果学习目标从一开始就没能抓住物理世界的成对观测，再多的参数，也不过是在高维空间里用蛮力去拟合影子的杂音。 把坐标系的旋转角度转过来，1 亿多参数也能看清同一个现实。