AI学会“心里想一套,嘴上说一套”了
AI 开始学会“心里想一套,嘴上说一套”了。
更准确地说,是它的“想”和“说”,在物理上开始分离了。
Anthropic 最近发了一篇新论文,揭示了 Claude 内部一个惊人的细节。
研究人员在 Claude 复杂的神经网络里,发现了一个极其特殊的内部激活模式。
我们以前让 AI 深度思考,用的是“思维链”(Chain of Thought)。
也就是让 AI 像小学生做数学题一样,在屏幕上把“草稿”一步步写出来,我们才能看到它的推理过程。
但 J-space 完全不同。
它是一个“无声的脑内草稿纸”。
在 J-space 里,每一个模式都对应着一个特定的词。
当某个模式在 J-space 里“亮起”时,Claude 并不会把这个词打在屏幕上。
但研究人员从后台数据里能清清楚楚地看到,它正在内部默默地“琢磨”这个概念。
比如,要回答一个关于八条腿、会结网的生物的问题。
它的 J-space 里,“蜘蛛(spider)”这个概念会默默亮起,但在最终吐出来的回答里,它可以一个字都不提“蜘蛛”。
它在不出声地、利用内部表征进行思考。
最让工程师们感到兴奋又警惕的是,这个功能不是人类程序员写代码装上去的。
人类从来没有教过 Claude 去建立这样一个空间。
这个 J-space,是 Claude 在海量数据训练的过程中,自己“涌现”(emerge)出来的。
当然,这并不意味着 AI 真的产生了人类那样的“主观意识”。
从科学上讲,这依然是神经激活和表征的数学体现。
但这给大模型的研究提供了一个极有张力的图景:
大模型不再只是一个单纯“根据上文预测下一个词”的概率机器。
当“无声的思考”和“有声的表达”在它内部开始分工,AI 的推理深度正在以人类看不见的方式疯狂进化。
