“Token”or“词元”相信大家都不陌生,早在3月25日,全国科学技术名次审定委员会发布《关于发布试用人工智能领域名词token中文名“词元”的公告》,决定在综合考量社会各界意见建议的基础上,优先推荐“词元”作为人工智能领域名词token的中文名,并面向全社会发布试用。

打开网易新闻 查看精彩图片

一个天天见的“Token”,为什么会成为令人揪心的隐忧?

从日常使用AI聊天、文案生成,到企业布局AI产业、测算技术成本,再到学术领域开展人工智能研究、交流技术成果,token无处不在,却因长期缺乏统一规范的中文定名,出现了译法混乱、概念混淆、沟通成本居高不下等问题,不仅困扰着行业从业者与科研人员,也让普通民众在接触AI相关知识时频频产生认知障碍。

来自国家数据局的数据显示,2024年初,中国日均词元(Token)调用量为1000亿;至2025年底,跃升至100万亿;今年3月,已突破140万亿,两年增长超千倍。

众所周知,我国汉语包罗万象,随着“电脑”“互联网”“软件”这些外来概念的融入,都经历了精心的本土化翻译。Token、Agent、LLM这些英文符号大量涌入公共传播和日常交流,字母缩写频繁替代汉语表达。它们不具备汉语形音义统一的特质,既无法望文知义,也缺乏文化底蕴。长此以往,科技话语权旁落、母语体系被消解的风险,绝非危言耸听。

“Token”十几种译法争来争去,为什么最后定下了“词元”?

“token”一词源于古英语tācen,意为“符号”或“标记”。在语言模型中,token是文本经过切分或字节级编码后得到的最小离散单元。其基础含义包含了“令牌、记号、标记”“代币、通证”“语元、词符、字元”等。

  • “词元”好在哪里?

专家解读说,词元(token)是人工智能时代智能设备中信息存储、处理和交换的具有一定语义的基本符号单元,特别是在大模型中作为模型处理和交换信息的最小单位。“词元”的定名准确捕捉了其在人工智能语言模型中作为“基本离散符号单元”的本质,又可以通过类比自然延伸至多模态领域。

在“词元”这一定名中,“词”点明其在语言场景下的根源,体现出token与表达对象语义的密切关联;“元”传达出“基本单元”之意,与“元素”等术语中的“元”保持一致的语义脉络。“词元”一词可以将“作为语言基本语义单元”这一最初本质清晰表达出来,更贴合其在人工智能中的初始角色。

“Token”还是用“词元”,看似无聊的话题,其背后到底在争什么?

  • 在日常表达中,将“词元”定为“Token”的中文名,网友们怎么看?

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片

也有网友认为:

打开网易新闻 查看精彩图片

  • 随着“Token”的大量使用,在表述中用“Token”还是“词元”也随之成为热议话题,其背后究竟在争什么?

用“Token”还是“词元”?争得是自主科技话语体系。当语言塑造思维,长期依附外来术语、照搬西方语言逻辑时,会让我们的科技认知局限于既定框架中,难以孕育贴合中国实践的原创科技理论。术语是科技叙事的基础单元,若核心概念的定义权、阐释权始终掌握在他人手中,中国特色科技话语体系便无从建立。这种认知层面的依附,比技术差距更隐蔽,也更影响我国科技自立自强的长远发展。

  • 在人工智能重塑一切的时代,我们到底该用什么语言去思考、去创造、去定义未来?

守住母语根基,做好科技术语的本土化转化,守护的不仅是一个词的准确译法,更是中国人自主定义科技、自主叙事未来的能力与底气。

“词元”定名,看似小事一桩,实则是中国科技发展道路上文化自信与技术创新双向奔赴的一个微小却坚实的注脚。

来源:中国吉林网综合人民网、光明日报、每日经济新闻、全国科学技术名词审定委员会官网、央广网、中国新闻网、新浪微博

编辑:张楠   审校:刘怡彤

主编:曲翱   监制:陈尤欣

打开网易新闻 查看精彩图片

点喜欢