当你向AI提问，几秒后，回答便开始逐字浮现。那种流畅感，很容易让你误以为它理解了你的问题，搜索了记忆，形成观点后写下了答复。但真正的过程并不是这样——理解它，能让你更好地使用AI。 大语言模型的底层是一个预测系统。它读取你的输入，预测下一个token（标记）应该是什么，然后不断重复这个过程，直到生成完整回答。听起来很简单，但支撑预测的机制并不简单。 第一步：你的提示被切分为token。模型并不像人一样直接读文字，而是先把文本拆成更小的单元。具体如何切分取决于模型及其分词器，所以一个短句消耗的token，可能比它肉眼可见的单词数还多。为什么要关心这个？因为模型的上下文窗口按token计算，token化方式直接影响对话能容纳多少信息，也解释了为什么特殊拼写、长文档和高度专业的内容有时会让模型“卡壳”。 第二步：模型利用上下文。它将token转化为数字向量，并分析它们之间的关系。其中，注意力机制会判断当前上下文里哪些部分对下一步预测更重要。比如你要求“用三个要点向10岁孩子解释光合作用”，清晰的描述会提供更多有效信号；反之，提示越模糊，模型可用的线索就越少，答案范围也就越不可控。 第三步：预测下一个token。模型根据全部上下文，为每个可能的token打一个概率分，然后选出最合适的那一个。比如，在“法国的首都”之后，“巴黎”显然会拿到高分。选定一个token后，再把它拼回上下文，继续预测下一个，如此循环，直到回答终止。 明白了这几点，你就会发现：让AI“表现得好”的关键，是给出更明确的上下文和边界。它并不是魔法，而是一场基于概率的语言接力赛。下一次看到回答逐字出现时，请记住，它其实正在一步步预测你的意图。

打开网易新闻 查看精彩图片