打开网易新闻 查看精彩图片

来源:混沌巡洋舰

导读:近日的arXiv论文,提出“LLM形态化 (LLMorphism)”的新概念:认为人类的认知运作方式,会由于AI的普及,变得越来越像大语言模型。

打开网易新闻 查看精彩图片

https://arxiv.org/pdf/2605.05419

过去,人们因机器说话像人而赋予机器心智(拟人化,Anthropomorphism);现在,随着LLM的普及,人们可能进行反向推断:如果LLM能像人一样流畅地说话,那么人类思考的方式可能也像LLM(如“下一个token预测”或“模式补全”)。

1 LLMorphism源自两种核心传播机制

1类比迁移 (Analogical transfer):因语言输出的表面相似性,人们将LLM的运作特征投射到人类认知上。

2 隐喻可用性 (Metaphorical availability) :LLM的技术词汇(如“提示词”、“幻觉”、“训练数据”、“微调”)正成为文化中描述人类思想、创造力、记忆和解释的流行隐喻。

人类有一个强大的启发式规则——流畅、有意义的语言通常意味着背后有心智。这导致了对LLM的拟人化。然而,从“输出相似”推导到“架构相似”在逻辑上是无效的。人类语言是具身生物为了沟通、情感、社会义务和承担后果而发展的工具;而LLM只是对语言中的统计规律进行建模,缺乏具身性、真实意图和对所说内容的责任。

为了确立该概念的独特性,作者将LLMorphism与相邻概念严格区分:

  • 不同于机械形态化 (Mechanomorphism):LLMorphism 是机械形态化的一种更具体、更聚焦于语言生成的形式。
  • 不同于计算主义 (Computationalism):计算主义强调符号操作和逻辑规则,而 LLMorphism 强调基于统计的流畅生成。
  • 不同于去人性化 (Dehumanization):去人性化通常带有敌意或道德排斥,而 LLMorphism 可能是无恶意的,甚至适用于人类的自我认知。

2 LLMorphism可能导致:

① 人类被视为“可替代的输出生成器”;

② 将“语言流利度”错误等同于“专业知识或理解力”;

③ 削弱人类的“能动性 (agency)”与道德责任;

④ 在医疗等领域导致“去具身化 (disembodiment)”,忽视非语言线索;

⑤ 引发认识论危机,用“看似合理的生成”取代“有根据的理解”。

具体来看

  1. 医疗领域的“去具身化”风险(Healthcare Disembodiment): 在临床沟通中,医生不仅听患者“说什么”,还要观察患者“看起来怎样”(如面部表情、肢体语言、痛苦状态)。如果受 LLMorphism 影响,患者可能仅仅被视为“产生临床相关文本的生成器”。这会导致双向误诊:表达流利的患者即使病情恶化也可能被低估;而焦虑、认知受损或非母语患者,其碎片化、模糊的语言报告可能被系统或医生误读。
  2. 职场中的“可替代性”机制(Replaceability Mechanism): 组织通常通过输出来评估员工(如文档、报告、代码)。如果人类被视为类似 LLM 的“输出生成器”,那么用自动化取代人类不仅在经济上显得高效,在概念上也显得“合理”。这会加剧算法管理的风险,使人类显得更缺乏根基、更缺乏能动性,从而更容易被替代。
  3. 教育领域的“流利度”陷阱(Fluency Mechanism): 如果流畅的回答被视为理解的充分证据,学习就可能被等同于生成格式良好的文本。然而,真正的专家判断依赖于隐性知识、情境解释、不确定性管理和责任感。LLMorphism 会让“流利度”看起来足以代表“理解力”,从而贬低真正的专业知识并削弱教育规范。
  4. 如果人的行为被视为“概率分布的采样结果”,那么个人道德责任将被削弱。“我只是根据我的训练数据(成长环境)做出了最大概率的反应”,这可能成为推卸道德和法律责任的借口。
  5. 心理治疗可能变成单纯的“上下文重写”或“提示词优化”,忽视人类情感的真实具身性(Embodiment)和复杂的社会关系网络。人际交往可能变得像“多轮对话测试”,人们会过度分析对方话语中的“逻辑漏洞”或“幻觉”,而不是去共情其背后的情感诉求。真正的创新往往源于对规则的打破和非理性的直觉。如果人类用 LLM 的“插值(Interpolation)”逻辑来要求自己,将扼杀那些偏离统计常态的、颠覆性的艺术和科学突破。

当前关于AI的公共辩论可能只看到了一半的问题:我们不仅在担忧是否赋予了机器过多的心智,更危险的是,我们可能正在开始赋予人类太少的心智。

3 该研究目前没有直接的实证证据

这是一篇理论性/概念性论文(Theoretical/Conceptual Paper),其核心贡献是提出并定义了一个新的认知偏差概念——“LLMorphism”(LLM形态化,即人们错误地认为人类的认知方式像大型语言模型)。作者在文中明确指出,目前尚无直接的实证证据来证明这一现象的普遍性或其实际影响。

作者在“潜在社会影响”章节中明确声明:以下潜在影响应被理解为假设而非既定事实。由于 LLMorphism 在这里是作为一个新构建提出的,目前还没有关于其普遍性或影响的直接实证证据

虽然论文没有直接证明“LLMorphism”的实证数据,但它引用了现有的实证研究来支持其理论推导的前提,主要包括:

  • 人们对AI的拟人化倾向:引用实证研究(如 Chen et al., 2026; Cohn et al., 2024; Colombatto et al., 2025)证明,用户确实倾向于将心理状态和认知能力归因于大型语言模型。
  • 语言流畅性触发“心智”启发式:引用经典和现代研究(如 Weizenbaum, 1966; Nass & Moon, 2000)证明,人类倾向于将流畅、有意义的语言输出等同于背后存在“心智”,这是 LLMorphism 产生的心理基础。
  • 人类与LLM在认知架构上的本质差异:引用认知科学和语言学实证研究(如 Mahowald et al., 2024; Fedorenko et al., 2024),证明人类的语言是基于具身认知、社会互动和真实世界经验的,而 LLM 仅是统计规律的建模,从而论证“输出相似不等于认知架构相似”。
为了弥补当前缺乏实证证据的局限,作者在“讨论(Discussion)”部分详细规划了未来验证该理论的实证研究路径,表明该框架是可被实证检验的
  1. 构念测量(Construct Measurement):未来研究需要开发心理测量量表(Psychometric scale),以验证 LLMorphism 是否是一个多维度的信念集群(例如:认为人类思维只是“下一个token预测”、认为人类创造力只是“数据重组”等)。
  2. 个体差异研究(Individual Differences):通过实证调查,检验哪些人群更容易受到 LLMorphism 的影响(例如:LLM暴露程度、技术理解深度、性别、教育背景或职业差异)。
  3. 实验验证社会后果(Experimental Studies):通过实验操纵(如让参与者接触不同类型的 LLM 交互),测量这是否会导致参与者更倾向于用 LLM 的术语来描述人类认知,并检验其是否会增加对人类工作者“可替代性”的感知,或削弱对人类能动性和道德责任的归因。
总结

该研究的价值不在于提供现成的实证数据,而在于敏锐地捕捉到了一种新兴的文化与认知趋势,并为其建立了严谨的理论框架和概念边界。它明确指出了当前公众讨论的盲区(我们不仅在过度赋予机器心智,也可能在过度剥夺人类心智),并为未来的实证心理学、社会学和人机交互(HCI)研究提供了清晰的假设和检验方向。

阅读最新前沿科技趋势报告,请访问21世纪关键技术研究院的“未来知识库”

打开网易新闻 查看精彩图片

未来知识库是 “21世纪关键技术研究院”建 立的在线知识库平台,收藏的资料范围包括人工智能、脑科学、互联网、超级智能,数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。 欢迎扫描二维码或访问https://wx.zsxq.com/group/454854145828进入。

截止到2月28日 ”未来知识库”精选的百部前沿科技趋势报告

(加入未来知识库,全部资料免费阅读和下载)