认知神经科学前沿文献分享
基本信息
Title:Principles for understanding trust in artificial intelligence
发表时间:2026-04-29
发表期刊:Nature Reviews Psychology
影响因子:21.8
获取原文:
1. 添加小助手:PSY-Brain-Frontier即可获取PDF版本
领域背景与痛点
人工智能在做越来越多过去由人完成的判断和决策。于是，“人们什么时候、为什么、怎么信任 AI”成了心理学、哲学、计算机科学和 AI 伦理都关心的问题。但“信任 AI”这个说法本身就很模糊，它可能指系统客观上可不可信、用户觉得它可不可信、用户愿不愿意信，或者用户实际上有没有依赖它
这个话题在哲学上的争议更大：AI 没有意图、善意和规范承诺，而这些是人际信任的前提，所以“真正信任 AI”在概念上可能就不成立。已有的研究经常把这些不同层面搅在一起，或者把信任当成一种可以直接通过系统设计“做出来”的东西
核心框架与整合逻辑
这篇文章把心理学、哲学、行为经济学、人机交互和 AI 伦理研究串起来，提出一个“AI 信任的六原则整合框架”。作者把 AI 信任重新界定为一种动态的、依赖情境的、嵌入社会的心理和行为过程，而非机器本身的一项技术属性
框架的主线是同时区分四件事：系统是否值得信任、人们是否觉得它值得信任、人们是否愿意依赖它、人们是否实际依赖了它，然后进一步看这些关系怎么随系统类型、使用场景、个体差异、文化背景和策略性目标而变化
六条原则分别是：信任是人类推断出来的；实际可信性、感知可信性、信任态度和信任行为相互关联但不是一回事；AI 信任同时包含性能信任和道德信任；AI 信任是针对具体智能体的；AI 信任受个体和文化差异影响；AI 信任可能被策略性动机驱动
关键洞察与未来方向
洞察一：AI 信任没法“写进”机器，它是人基于有限线索形成的推断
工程师可以让系统更安全、更可靠、更合规，但这些客观特征不一定会变成用户的感知信任。可解释 AI 的研究也表明，透明度提高并不总能增加信任，因为用户是靠有限线索和启发式来形成对系统的印象的。实际可信性和感知可信性可能脱节：一个系统客观上值得信任，但用户不觉得它可信，反过来也一样
Fig. 1 是一张概念框架图，组织实际可信性、感知可信性、信任态度和信任行为之间的典型关系，并标出印象形成、信任倾向、策略目标和风险等调节因素洞察二：“信任 AI”至少涵盖感知可信性、态度信任和信任行为这几个可能脱节的层面
用户可能说自己信任某个 AI 却不实际用它，也可能嘴上说不信任，却还是根据 AI 的建议调整判断。现有的量表经常把可靠性、能力、完整性、透明度这些不同层面的条目混在一起，存在 jingle-jangle fallacy 的风险。研究者得搞清楚自己测量和讨论的到底是哪一类“信任”
Table 1 是一张文献地图/总结表，整理了多种 AI 信任量表的条目、维度和验证方式，显示现有测量经常把性能和道德等不同内容混在一起。Fig. 2 是一张概念框架图，概括“trust in AI”在实际可信性、感知可信性、态度信任、行为信任和广义心理信任之间的多重含义。洞察三：AI 信任同时由性能维度和道德维度塑造，权重随系统、情境和文化变化
早期研究比较看重准确性、可靠性这类性能信任，但随着大语言模型、医疗 AI 和自主武器等系统进入社会场景，道德信任，用户是否觉得系统符合伦理、真诚、有好的目的变得越来越重要。文献显示，人们对不同 AI 系统的信任并不一样，性能线索和道德线索在不同系统里的相对重要性也不同。目前的证据还不足以给出一个跨系统、跨文化都稳定通用的权重模型，需要更多纵向和跨文化研究
省流总结
这篇综述的核心贡献，是把 AI 信任从单一的用户态度或系统属性，重组为一个由推断、测量层级、性能与道德维度、系统特异性、个体文化差异和策略性动机共同构成的整合框架
同时它也提醒研究者：别只问“信不信”，要明确自己测量的是哪一层面的信任；未来研究也不该把“增加信任”当成默认目标，而应该关注校准信任、责任归属和伦理边界
分享人：天天
审核：PsyBrain 脑心前沿编辑部
你好，这里是「PsyBrain 脑心前沿」
专注追踪全球认知神经科学的最尖端突破
视野直击 Nature, Science, Cell 正刊 及核心子刊与顶级大刊
每日速递「深度解读」与「前沿快讯」
科研是一场探索未知的长跑，但你无需独行。欢迎加入PsyBrain 学术社群，和一群懂你的同行，共同丈量脑与心智的无垠前沿。
点击卡片进群，欢迎你的到来
一键关注，点亮星标 ⭐ 前沿不走丢！
一键分享，让更多人了解前沿
热门跟贴