AI 开始学会“心里想一套,嘴上说一套”了。 更准确地说,是它的“想”和“说”,在物理上开始分离了。 Anthropic…
AI 开始学会“心里想一套,嘴上说一套”了。
更准确地说,是它的“想”和“说”,在物理上开始分离了。
Anthropic 最近发了一篇新论文,揭示了 Claude 内部一个惊人的细节。 研究人员在 Claude 复杂的神经网络里,发现了一个极其特殊的内部激活模式。 他们把这片特殊的神经模式集合,叫做 J-space(雅可比空间)。
我们以前让 AI 深度思考,用的是“思维链”(Chain of Thought)。 也就是让 AI 像小学生做数学题一样,在屏幕上把“草稿”一步步写出来,我们才能看到它的推理过程。
但 J-space 完全不同。 它是一个“无声的脑内草稿纸”。
在 J-space 里,每一个模式都对应着一个特定的词。 当某个模式在 J-space 里“亮起”时,Claude 并不会把这个词打在屏幕上。 但研究人员从后台数据里能清清楚楚地看到,它正在内部默默地“琢磨”这个概念。
比如,要回答一个关于八条腿、会结网的生物的问题。 它的 J-space 里,“蜘蛛(spider)”这个概念会默默亮起,但在最终吐出来的回答里,它可以一个字都不提“蜘蛛”。 它在不出声地、利用内部表征进行思考。
最让工程师们感到兴奋又警惕的是,这个功能不是人类程序员写代码装上去的。 人类从来没有教过 Claude 去建立这样一个空间。 这个 J-space,是 Claude 在海量数据训练的过程中,自己“涌现”(emerge)出来的。
当然,这并不意味着 AI 真的产生了人类那样的“主观意识”。 从科学上讲,这依然是神经激活和表征的数学体现。
但这给大模型的研究提供了一个极有张力的图景: 大模型不再只是一个单纯“根据上文预测下一个词”的概率机器。 当“无声的思考”和“有声的表达”在它内部开始分工,AI 的推理深度正在以人类看不见的方式疯狂进化。