我们习惯把大模型输出的思维链当成它的“内心独白”,一步步看着它推理,仿佛窥见了机器的思考过程。Anthropic 研究员 Emmanuel Ameisen 给出的判断恰恰相反:这些可见的思维链,可能只是事后补上的解释,而不是模型真正的计算路径。
打开网易新闻 查看精彩图片
他的核心观点有两层。第一,大模型具备隐式的规划和概念表征,也就是说,真正驱动输出的那部分计算,并不以人类可读的文字形式存在。第二,模型并非逐行“写成”思维链,它是在训练过程中“长出来”的。
这个说法之所以值得留意,是因为它动摇了很多人对思维链的默认理解。我们看到的推理步骤条理清晰,就自然认为模型是照着这条路径算出来的。但按 Ameisen 的表述,可见的链条和实际的计算路径之间,未必是一一对应的关系。
对做产品和做运营的人来说,这里有一层现实含义:把思维链当作可观测的“思考过程”来展示、来评估、来调优,前提本身就需要打个问号。展示出来的内容,和模型内部真正发生了什么,可能是两件事。
隐式规划、概念表征、事后解释——这几个词指向同一个方向:模型的计算发生在文字之外。思维链是结果的一种呈现,不是过程的实录。
热门跟贴