在Claude庞大的参数网络里,Anthropic捕捉到一个特别的结构。它类似人脑的“工作空间”,被命名为J-space。这个模块只占用不到模型总激活量的10%,却牢牢掌控着多步骤推理的核心控制权,就像一座微型指挥塔,调度着复杂的思维链条。

配合这一发现,研究人员推出了名为J-lens的新工具。J-lens能够实时读取J-space的内部状态,甚至主动对其进行操控。借助它,安全团队可以在Claude推理时介入,观察内部表征,改变思考路径,而不再止步于事后解释。目前J-lens的主要用途是安全审计,用来评估模型是否可能产生危险推导。

打开网易新闻 查看精彩图片

这项发现难免让人联想到“意识”话题。不过Anthropic的态度很清醒:J-space本质上是一个专为复杂推理优化的功能模块,离真正的意识还有很远距离。它更像是大脑里一块被强化的工作记忆区,能有效组合多步信息,但并不带来自主性的体验。

J-space与J-lens的组合,给AI可解释性打开了一扇可操作的窗口。过去只能通过输入输出猜测模型在想什么,现在可以直接观察并干预核心推理环。这不但让安全审计的效率大幅提升,也有望推动AI对齐从“黑盒调参”走向更精细的神经调控。尽管意识仍是科幻里的课题,但能读懂Claude的思考轨迹,已是令人兴奋的一大步。