最近，随着龙虾OpenClaw的爆火，token也成了高频词。“养龙虾”并不是免费的，OpenClaw需要接入大模型，平时各种操作都要消耗token。
网上有一个很有趣的梗：“用自己的脑子思考不会消耗token。”
那么token究竟是什么？OpenAI的官网给出了一个比较容易理解的解释：
Tokens are the building blocks of text that OpenAI models process. They can be as short as a single character or as long as a full word, depending on the language and context.
简单来讲，token就是大语言模型处理文本的最小单位。我们可以把大语言模型想象成一个正在阅读的人，但这个人不是逐字阅读，而是把文本切成小块，每一个这样的小块就是一个token。
根据语言和文本的不同，一个token可能代表一个字符，也可能代表一整个单词。对于英语来说，一个token大约相当于4个字符，100个token约等于75个单词。
对于中文来说，一个token约等于1.67个中文字符。
Token应该怎样翻译呢？有人把它翻译成“令牌”，还有人翻译成“字符量”，但以上表述给人的感觉都没有特别贴切，无法传达出token的本质含义。
人民日报1月发布的一篇科普文章中，token被翻译成“词元”：
“词元”可以比较准确地体现出token所代表的文本数据内容和类型。首先，token代表的是一个有意义的语言片段，这一语言片段不能用“字”或者“字符”来表示，用“词”来表示刚刚好；而汉语中的“元”字可以表示“最小、基本”的含义，比如“元件”指的是构成电子设备的最小、最基本的功能单元。“词元”就代表着大模型处理语言的基本单位。
这个翻译也很直观，即使你不懂技术，看到这个词也能大致猜到它指的是语言的最小单位。
Token这个词除了用在人工智能语境里面，它在其他专业领域也有出现，我们需要学会区分。
在信息安全领域，token指的是“身份验证令牌”。用户输入用户名和密码后，服务器会生成一个加密的token返回给客户端，后续请求只需携带这个token即可证明身份，无需重复输入密码。
我们在用网银的时候，有些银行会要求你使用“动态口令牌”，英文对应的说法是hardware tokens：
在加密货币中，token指的是区块链平台上发行的代表某种资产或权益的数字化凭证。比如NFT（非同质化代币）英文全称是Non-Fungible Token。
另外，token还可以指“代币，专用辅币”，比如我们坐地铁用的一次性小圆片对应的说法就是subway/metro tokens：
单词的含义虽然很多，不过都是从一个核心意思衍生出来的：能代表某物的东西。它可以代表你的身份（安全令牌），代表你的资产（代币），还可以代表文本的片段（词元）。
只要理解了这条主线，单词在不同语境下的意思就不难理解。
来源：英文悦读
跟着China Daily
精读英语新闻
“无痛”学英语，每天20分钟就够！
热门跟贴