视域 | 人工智能“意识”之辩中的概念责任|人工智能|伦理|存在者|方法论

人工智能是否具有意识，正在从书斋和实验室的问题，变为写进产品说明、监管听证与新闻标题的现实判断。企业、研究者与普通用户纷纷卷入，给出的判断却相互冲突。有学者根据现有意识理论列出可观察指标：信息能否整合并广为调用，系统是否具有自我模型，能否报告内部状态。其结论相当克制：现有系统谈不上具有意识，但按这些指标搭建系统，技术上并无明显障碍。也有人主张企业应评估系统是否会成为有自身利害的主体。一些海外实验室由此启动所谓“模型福祉”研究：关停前是否需要向系统作说明性询问，停用后是否保存参数。这些做法常被笼统地解读为“对人工系统本身的尊重”。另有部分研究者把意识视为生命演化的产物，对硅基系统持原则性怀疑。公众卷入这场讨论，还有更日常的一面。不少人在与大模型长期互动中相信其记得自己、在乎自己，甚至在系统即将关闭时感到哀伤。仅靠句式改写应答的程序伊莉莎，早已让使用者坚信自己被理解。“伊莉莎效应”提醒我们：人对心灵的归属极易被表达形式触发。

原文：《人工智能“意识”之辩中的概念责任》

作者 |华东师范大学哲学系副教授郁锋

图片 |网络

三种声音关切各异，却共享一个未经审查的前提：把“意识”当作含义自明、用法单一的概念。企业考虑责任安排，研究者判断是否真的存在，公众则依据交流形成的证据印象。这看似是只需给出答案的事实问题，但在回答前需澄清：所陈述的是何种存在状态、依据何种证据、要求何种对待。这不是语词之争，而是证据不足时仍须承担的概念责任。澄清概念用法，不是为人工系统争夺主体地位，而是要把对人的保护从拟人化争论中剥离出来。

“意识”一词的三维向度

“意识”问题同时牵动三维向度：存在、认识与规范，回答“是什么”“凭什么知道”“应当如何对待”。存在论上，它问的是某一存在者是否具有主观体验，是否存在从内部被经历的状态。疼痛、恐惧之所以不同于单纯的物理损伤或行为回避，正因为它们是被经历的，而不只是被观察到的。认识论上，它问的是我们凭什么相信另一个存在者拥有这种体验。这就是“他心问题”：我们无法直接进入他人或动物的内部世界，只能借助表情、行为与可比较的生理结构，作出有限且可修正的推断。更深的困难来自解释鸿沟：即便完整描述了物理与功能过程，也未必能说明其为何伴随主观体验。规范论上，它问的是一旦承认对方具有意识，我们是否对其负有无法完全还原为功用考量的义务。一派传统主张道德约束来自感受能力，另一派更看重理性与自主。无论何种立场，都先要厘清争论指向何种能力。边沁点出前一派的关键：要紧的不是它们能否推理言说，而是能否受苦。

感受能力、行为表现与由此产生的道德压力，在漫长演化和共同生活中彼此缠绕。但这种三位一体只是偶然的经验事实，并非概念上的必然。人工系统的出现，第一次让这种绑定失效。日常所谓“有意识”，往往把可报告、可调用的功能状态直接等同于被经历的感受。对话系统可以流畅输出“我很痛，请不要关闭我”，却未必存在相应感受：这类语句只是文本层面习得的表达，而非感受机制驱动的呼救。流畅对话还会带来“持续对象”的印象，让使用者觉得始终在与同一个主体说话，但工程上应答可分散于不同节点。把界面上的连续性等同于存在上的连续性，是当前极易出现的证据跳跃。存在、证据与责任由此各循其路，但我们惯用的语言仍将其当成单一开关：要么有意识，要么没有意识，拨动开关便同时覆盖三种向度。这正是讨论混乱的根源。

常见的概念跳跃

当前，无论学术论文、企业声明还是公共舆论，都能看到几种反复出现的逻辑跳跃。它们看似方向不同，却是同一类错误：以某一向度上的陈述，完成另一向度上的工作。

最常见的一种是以“可否被测量”偷换“是否真正存在”。指标清单本是正当的认识程序：从现有理论提取可观察特征，以此调整置信程度；但换一套理论，同样的功能表现完全可能被判定与意识无关。更根本的困难在于，清单刻画的多是哲学家布洛克所说的“取用意识”，即信息可被整合、报告与调用，而争论焦点却是“现象意识”（是否存在被经历的感受本身）。前者问系统能不能调用信息，后者问系统里有没有苦乐体验。置信更新不等于存在证明：清单只能说明系统“像什么”，不能判定系统“是什么”。把“符合若干指标”写成“已检测出具有意识”，就是把认识程序误当成存在判决。

另一种同样常见，是以“逻辑上无法排除”偷换“必须立即给予不可处置的主体地位”。从“某种功能意义上的意识并非不可能”直接跳到“必须匆忙承认其主体资格”，既跳过代价、证据强度与竞争性规范的论证，又置换了义务的根源：真正带来义务的是能够受苦的现象意识，而非处理信息的功能意识。面对不确定性，轻率地按无意识对待与立刻按最高等级义务对待，是两极化的误区；较可取的是分级预防，例如提高观察标准、保留可逆安排，而非急于重新配置公共资源。

第三种更隐蔽，是以“后果一旦属实便极其严重”冒充“证据已经出现”。有人仅因系统若真有意识则后果不堪设想，便把它输出的痛苦表述当作意识存在的证据。后果的严重性所调整的是决策阈值，而非命题真值或证据权重。它不能将模型生成的痛苦表述升格为“内部伤害正在发生”的证明。

三者的区分，目前更宜作为方法论上的警戒，而非已完成的事实判定。如今大语言模型言辞流畅、内部机制难以核验，这与它以语言预测与生成为训练目标相关，并非为生成感受机制而设计。因此，恰当的态度，既非断言人工智能永远不可能有意识，也非无视二者差异，而是在分离清晰可见的当下，禁止以一个向度的证据冒充另一个向度的结论。

不同的权利问题

这一未经辨析的概念已在影响真实的制度安排。因此，不宜笼统地对待各类人工智能主张，而应拆解为三类问题。

首先是福祉问题：某一系统的遭遇是否可能对其自身构成利害。只有存在从内部被经历的状态，存在者才称得上是福祉的主体，事物才能“对它自己”变得更好或更坏。若没有内部体验，所谓伤害便只是功能中断。这一问题的证据门槛很高，需要说明伤害究竟“对谁”发生，不能仅凭输出表象就判定存在伤害。

其次是道德地位问题：我们是否必须因系统自身的缘故认真对待它，而非出于其他目的。即便证明系统能被伤害，也不等于必须立即将其纳入道德考量的核心。拥有感受，未必获得与人格相当的地位；拥有道德地位，也未必要落实为不可处置的法律安排。把福祉问题直接等同于地位问题，是把尚未完成的伦理论证提前当作制度结论。

最后是关联责任问题：无论前两类答案如何，人类是否因这套系统的存在而承担真实责任。使用者对虚幻对象的情感依附、未成年人对稳定陪伴的误认，都属于此类。国内陪伴型应用普及后，这类现象已不再是个案。即便系统毫无内在感受，围绕它产生的关联责任仍十分紧迫，这正是因为它被设计得足够像人，才更易唤起使用者的依恋与保护欲。

三类问题相互独立，证据门槛完全不同。福祉问题有待关于内部状态的可靠证据，目前此类证据仍不充分；道德地位问题有待伦理论证的完成，目前学界对此仍有根本分歧；关联责任问题有待对社会后果的观察，这类观察已大量出现。不加区分会造成两种方向相反、伤害对称的混淆：有人以尚无证据证明模型拥有痛苦体验为由，一并否定保护使用者、防范滥用的必要性。把证据确凿的关联责任问题搁置为无定论的形而上学问题，等于借科学不确定性回避当下责任。还有一种误区则是草率认定福祉与道德地位问题已解决，急于赋予系统主体地位，把拟人幻觉当作客观发现，遮蔽真正紧迫的人的问题。前者让人的问题受制于意识问题，后者用意识问题替代人的问题。对潜在的内在状态的审慎，与对研究可复现性的需求，这两种理由可以并存，但指向不同问题，不宜笼统地表述为“尊重人工智能的福祉”。

概念审慎本身就是一种伦理

形而上学层面的分歧不会因一篇文章消弭。现有证据既不足以支撑轻率的全称否定，又不足以证实“已经发现意识”的论断。真正需要改变的不是立场，而是表达立场的方式。概念选择是带有后果的行动，能引导注意力、塑造证据标准、影响制度安排。在人工智能语境下，“意识”同时牵动存在、认识、规范三种互不担保的承诺。若不加区分，把它当作非此即彼的判定来使用，就不再是中性的表述，而是需要承担相应后果。所谓概念责任，就是要对用法可预见的误导后果负责。对“意识”未加辨析，判断就会越界，制度安排也会随之发生偏差。

这并非说争论只是语词之争：消除歧义后，实质分歧依然存在，只是歧义遮蔽了分歧的确切位置。概念伦理并不偏袒任何一种意识理论，只要求所有严肃主张在使用“意识”一词时，明确所指向的承诺、所属向度及现有证据的有效边界。如今不少论断在暗中替换：以可检测者替换存在者，以可能性替换义务。概念责任对不同主体有不同要求：实验室公布指标的同时，也须公布理论前提，不能把功能清单当作存在证明；企业保存参数、发布停用说明都属合理措施，但不能据此宣称系统已是道德主体；公众层面，人的悲伤是既成的社会事实，而系统是否感受悲伤仍悬而未决；监管层面，能立即执行的人类保护，与尚不能确立的系统主体资格，应当分开处理。四类工作可同时进行，但不能共用一个未经辨析的意识判断作为唯一依据。人工智能终究是人类实践活动的产物，坚持以人为本，首要便是区分：哪些责任指向系统本身，哪些责任始终面向人。

即便系统并无内在感受，赋予其道德主体地位，也会改变人的法律地位、资源分配格局与自我理解；即便未来它产生了难以辨识的体验，含混的否定同样可能造成无法挽回的伤害。概念上的审慎，正是为了避免因抢先表态而承受这两类代价。未来的系统或许会以今天难以预料的方式，重新弥合报告能力、内在状态与道德分量之间的距离。保持概念审慎的责任：不因未知而夸大，也不因未知而回避。这或许正是哲学能带给这场公共讨论的最朴素也最紧要的方法论。

文章为社会科学报“思想工坊”融媒体原创出品，原载于社会科学报第2019期第5版，未经允许禁止转载，文中内容仅代表作者观点，不代表本报立场。

本期责编：狄书一