过去十年，机器翻译完成了从“机械直译”到理解语义的飞跃。早前的系统面对“bank”这类多义词时往往只认一个固定译法，而现在，它们能清晰分辨“河岸”与“银行存款”的语境差异。这场变革的起点，要追溯到2017年6月——谷歌8位研究员（被AI圈称为“八武士”）发表了一篇名为《Attention Is All You Need》的论文。

这篇论文提出的Transformer架构，直接成了此后ChatGPT等大语言模型的底座。那么，为什么一个框架就能让机器真正“读懂”句子？要回答这个问题，得先回顾一下神经机器翻译（NMT）之前的挣扎。

打开网易新闻 查看精彩图片

在NMT出现前，计算机翻译靠的是规则——一本巨大的双语词典和一套语法规则。机器逐词翻译，再按模板调整词序，处理语言就像解数学题。结果就是译文僵硬、毫无人味。NMT用神经网络改变了思路：不再依赖死板的规则，而是让系统通过学习海量的人工翻译样本，自己捕捉词语在真实语境中的互动模式。

但早期NMT有一个硬伤：它们按顺序从左到右读句子。句子一长，读到末尾时已经把开头忘得一干二净。谷歌团队的突破，正是用Transformer一举解决了这个记忆难题。与逐词阅读不同，Transformer会一次性摄入整个句子，并把它拆成两个协作模块：编码器和解码器。

编码器就像一位极度细致的读者。它收到一个句子后，会借助一种叫做“自注意力”的机制，为每个词构建一张相互关联的语义地图。你可以把自注意力想象成一组聚光灯——当机器看到某个词时，它会同时照亮句子里所有其他相关的词，从而判断当前词在语境中的真实含义。正是这种并行的、全局的“注视”，让系统不再丢失长句的开头信息，也才有了后来那些自然、贴切的翻译结果。