一场全英文的访谈,中途出了岔子。英国AI虚拟演员Tilly Naughton在对话过程中突然切换成粤语,现场主持人和嘉宾一时没反应过来。这段画面随后引发讨论。
一个设定为英文环境的虚拟演员,为什么会在没有提示的情况下换语言?这个问题把话题引向了另一个方向:大模型内部的语言机制。
打开网易新闻 查看精彩图片
英语和中文,被当作推理中枢
围绕这次意外,有学术研究被拿出来讨论。研究的核心结论是,大模型在推理过程中会把英语和中文当作"推理中枢语言"来使用。也就是说,这两种语言在模型内部承担的不只是交流功能,还参与思考过程本身。
这解释了一个现象:即便是一个以英文为主要交互语言的AI角色,它的底层推理路径里也可能跑着中文。
中文数据的分量
讨论的另一半指向训练数据。相关观点认为,中文数据对西方大模型存在实际影响。当模型在推理阶段调用中文作为中枢语言之一,这种影响就不再是隐性的,而会在输出层面露出痕迹。
Tilly Naughton的这次语言切换,恰好成了一个可见的样本。它不只是一次技术故障,也让外界看到语言在模型内部的实际权重分布。
热门跟贴