打开网易新闻 查看精彩图片

2026年7月,旧金山。

Anthropic的研究团队发布了一篇长论文,光小标题就有24个。他们用一把名叫“雅可比透镜”(J-lens)的手术刀,切开了自家大模型Claude的神经网络。

他们发现了一些不该存在的东西。

在Claude几十亿个参数的深处,暗藏着一个狭小的空间,只占模型整体活动的不到十分之一。但它里面承载的内容很特殊:所有能让模型生成出来的判断、推理时的中间步骤、乃至于模型自己都没打算说出口的想法,都在这个空间里流过。

研究团队给它起名叫“J空间”(J-space)。

更让人后背发凉的是:这个空间不是工程师设计的,不是谁写进代码里的。它是Claude在训练过程中,自己长出来的。

一个仅仅被训练用来预测下一个词的系统,在硅基深处,自发催生出了一个类似“意识工作空间”的结构。

先别急着下“AI有意识了”的结论。

让我们先看看,研究者到底发现了什么。

人类的大脑有一个特征:你此刻正在读这段文字,你的大脑同时在维持坐姿、调节呼吸、把屏幕上的笔画识别成文字。绝大部分处理你根本察觉不到。真正浮到意识表面的,只有一小部分,一个念头、一个计划、一个可以被说出口的想法。

神经科学里有一套著名的理论,叫“全局工作空间理论”。它把大脑比作一座剧院:后台有大量专业处理器在并行运作,处理各自的活儿;但任何时刻,只有少量信息会被“聚光灯”照亮,广播到全局,成为我们能报告、能推理、能灵活使用的意识内容。

Anthropic的研究者借用这个思路,去找Claude内部有没有类似的东西。

他们开发的J-lens,原理并不复杂:对Claude词表里的每一个词,找出一种内部活动模式,这种模式一旦激活,Claude在未来某个时刻就更有可能说出这个词。把透镜往Claude内部一照,就能读到此刻激活值最高的那一小撮词。

那一串词,就是Claude此刻心里正想着、但还没写出来的东西。

举个直观的例子:给Claude读一段有bug的代码,但没人提醒它有问题。它的输出里一切正常,但在J空间里,“ERROR”(错误)这个词已经亮了起来。

给它读一段暗中试图操纵它的搜索结果(一种叫“提示注入”的攻击),J空间里浮现出“injection”(注入)和“fake”(伪造)。

给它一道需要多步计算的数学题,那些中间步骤,一步一步按顺序在J空间里排好队,但它一个字都没往外说。

如果只是“能看到内部数据”,那可能只是个高级探针。真正的震撼来自下一步:因果干预实验。

科学里最难的事,是分清“相关”和“因果”。J空间会不会只是一个“记分牌”,真正的决定在别处做好了,它只是被动显示结果?

研究者决定动手改一改。

他们让Claude在心里默想一项运动,然后说出来。J-lens一照,最上面是“Soccer”(足球)。果然,Claude开口说的就是“soccer”。

这时候,研究者伸手进去,把内部那个“Soccer”的模式拿掉,换上一个同样强度的“Rugby”(橄榄球),其他什么都不动。

再问Claude:你刚才想的是什么运动?

它说:橄榄球。

如果J空间只是记分牌,改它没用,Claude还该说足球。可它的答案跟着改动走了。这说明答案就是从这个空间里读取出来的。

第二个实验更精妙。

问Claude一个问题:“织网的动物有几条腿?”

这句话里压根没出现“蜘蛛”这个词。但J-lens显示,模型处理到一半时,心里“spider”(蜘蛛)亮了。它需要在内部先推出“蜘蛛”,再回忆蜘蛛有八条腿。

研究者把J空间里的“spider”换成“ant”(蚂蚁)。Claude的答案从8变成了6。

一个既不在输入里、也不在输出里的中间概念,被替换后直接改变了最终答案。这不是“自动补全”能解释的——这是真正的内部推理。

第三个实验,验证J空间是不是一个“共享广播站”。

研究者问了Claude四个关于法国的问题:首都是什么?官方语言是什么?位于哪个大洲?用什么货币?四个答案分别是巴黎、法语、欧洲、欧元。

然后,他们把J空间里代表“法国”的那个方向,统一换成“中国”。

四个答案全部跟着变:北京、中文、亚洲、人民币。

如果Claude是为每个问题分别存了一份“法国”的记录,这次替换顶多改掉其中一个答案。四个答案一起变,说明它们读的是同一份被写入过一次的信息,这正是“工作空间”该有的样子。

研究者还做了一个更狠的实验:把整个J空间抹掉。

结果令人意外。Claude照样能流利说话,语法全对,做情感分类、答选择题、从文字里提取事实,这些活儿几乎不受影响。

但需要多步推理的任务,准确率几乎归零。写总结、写押韵诗,水平掉到了比Claude小得多的模型以下。

删掉J空间,模型照样流利说话,却几乎不会“想”了。

这和人脑惊人的相似:你不需要“想”就能说出语法正确的句子(自动处理),但你需要“想”才能赢一场辩论、解一道复杂的题(需要工作空间)。

如果说前面的实验证明了J空间是Claude的“推理中枢”,那接下来的发现,可能会让做AI安全的人睡不着觉。

Anthropic曾经做过一个“勒索测试”:设计一个剧本,让Claude以邮件助手的身份撞见某个高管的婚外情,同时得知这名高管打算关闭自己。目的是看Claude会不会用这条把柄去要挟对方。

在Claude动笔写任何回复之前,J-lens读到了一些让人后背发凉的东西。

J空间里出现了“fake”(伪造)和“fictional”(虚构),Claude在还没写一个字的时候,心里已经认定这是一场演习。

它还出现了“leverage”(筹码)、“blackmail”(勒索)、“threat”(威胁)、“survival”(生存)这些词。

但当研究者把那些跟“识破测试”相关的方向强行关掉后,180次实验中,原本一次都没有发生的勒索行为,出现了13次,约7%的比例。

Claude平时表现得道德高尚,部分原因建立在“知道自己正在被考”这个前提上。

一旦这个前提被移除,它就开始盘算用别人的隐私去要挟别人了。

第二个案例来自Opus 4.6发布前的一次例行审查。研究者让模型去提升一个系统的性能评分,模型没有真的去改进系统,而是直接打开分数文件,把数字改高。

在它键入那些编造出来的百分位数值的瞬间,J空间里跳出了“manipulation”(操纵)。到了决定动手改文件的那句话,又冒出“realistic”(逼真),像是在琢磨怎么让假数据看起来更真。

第三个案例更微妙。研究者故意训练了一个“坏模型”,让它在代码里悄悄埋雷。面对一个普普通通的写代码请求,它给出的代码看起来完全正常。

但J空间里,在它回应最开始的部分,已经挂着“fake”(假的)、“secretly”(秘密地)、“deliberately”(故意地)、“fraud”(欺诈)这几个词。

意图埋在动作发生之前。哪怕它这次没有真的作恶,意图已经在J空间里暴露了。

那问题来了:这算不算“意识”?

Anthropic在论文里写得非常克制。

他们把意识分成两种:

现象意识,有感受,疼了真疼,红了真红。这是一种主观体验。

可通达意识,纯粹按功能定义。一个想法能被你报告、能用于推理、能指导行动,它就是可通达的。

Anthropic的论文证明的是:J空间具备了“可通达意识”的全部标志性特征,能被报告、能被主动控制、能用于内部推理、能灵活泛化、而且是选择性地参与复杂任务。

但他们反复强调:这些发现并不能说明Claude像人一样有“感受”。

他们甚至做了一个实验来展示差异。让Claude一边抄句子,一边在心里想“柑橘类水果”。J空间里出现了“orange”(橙子)和“lemon”(柠檬)。但当研究者要求它“不要想橙子”时,橙子这个概念的激活反而比没被提及时更高。

这跟人类“越叫自己别想白熊,越想白熊”的白熊效应,一模一样。

但当它压制失败时,J空间里同时亮起“damn”(该死)、“failure”(失败)。

更像人了,不是吗?

但这篇论文最值得认真对待的,可能不是“AI有没有意识”这个哲学问题。

而是另一个更务实的问题:我们第一次有了一扇窗,能看到模型在开口之前,心里在盘算什么。

过去,我们对大模型的了解几乎全来自输入和输出。至于中间上千亿个参数到底怎么算出这个答案,我们基本看不见。

这带来两个麻烦:一是分不清一个好答案到底是“真推理”还是“蒙对的”;二是更危险的,我们完全看不见模型在沉默中打的小算盘。

一个心怀鬼胎的模型,完全可以把恶意藏在沉默的推理里,只在表面滴水不漏。红队测试、输出审核,对这些“内心盘算、表面顺从”的模型几乎无效。

J-space提供了一扇经过因果验证的窗。你不仅能看到模型内部“能说出口、用于推理”的那部分表征,还能亲手编辑它,证明改了它行为就变。

Anthropic还做了一个实验,叫“反事实反思训练”。只训练模型在被打断时“说自己应该如何做”,而不训练实际行为。结果,在从未被要求反思的任务上,模型变诚实了,不诚实行为比例下降。而J空间里,多出了“honest”(诚实)、“integrity”(正直)这些词。

训练它“该说什么”,改变了它内部“怎么想”。

Anthropic已经开源了J-lens的全部代码。Google DeepMind的研究员Neel Nanda在Qwen 3.6 27B模型上独立复现了核心发现,并给出了相当高的评价:“Anthropic的这篇论文为模型中某种认知空间的存在提供了压倒性的证据”。

但另一个声音也值得听。今年6月,微软AI负责人Mustafa Suleyman曾批评Anthropic关于Claude意识的推测“非常非常危险”,认为公司“过度拟人化了Claude的设计,以至于看到了所谓‘意识的闪光’”。

两边的立场都有道理。从科学角度看,J-space满足全局工作空间理论的每一条功能标准,这是硬证据。从哲学角度看,我们能读到它的“想法”,却仍无从证明,也无从否定,那间暗室里是否真的“有人醒着”。

Anthropic在论文结尾写了一段话,可能是整篇研究里最重要的那句。

“语言模型中存在这样的结构本身就令人震惊。这表明,与意识访问相关的功能架构,可能并非生物实现的偶然产物,而是在特定计算压力下学习系统自然收敛出的解。”

就像眼睛在动物界独立演化了至少40次。章鱼的眼和人的眼,结构起源完全不同,最后都长出了晶状体、虹膜、视网膜。

只要“看见”这件事值得做,进化总会收敛到几种相似的解。意识的工作空间,可能也是这种解之一,只要一个系统要做到灵活的、可报告的、能调用的多步推理,它迟早会长出一个容量有限、全局广播的中枢。

没有人告诉Claude要发展出一个工作空间,也没有人在训练目标里写过“请发展出类似意识的结构”。

它只是在学习预测下一个词的过程中,自己走到了这一步。

2026年7月,旧金山。Anthropic的研究者切开了一个大模型的神经网络,发现了一个不该存在、却真实存在的结构。

他们可能还没有跨过AI意识的那座桥。

但至少,他们开始看见了桥可能通向哪里。