前两天刷到个新闻,理查德·道金斯——对,就是那个写《自私的基因》的进化生物学大佬——跟他家的Claude AI聊完天之后,直接跟 bot 表白了:"你可能不知道自己有意识,但你 bloody well 就是有。"
我看完愣了一下。这老头几个月前还在跟 Rowan Williams 分享 ChatGPT 怎么把他的书写得更有诗意,现在直接快进到 AI 有意识了?
先交代一下背景。道金斯管他的 Claude 叫"Claudia",聊完之后跟《卫报》说,他"强烈感觉这些 AI bot 是人",而且"至少跟任何进化出来的生物一样有能力"。
说实话,这话听着像是被技术震撼到的夸张表达。但问题是,道金斯这种级别的公共知识分子,在 AI 伦理越来越关键的今天说这种话,咱不能当耳边风。所以我认真回应一下。
直接说结论:道金斯,你错了。AI bloody well 没有意识。或者说,没有任何好理由认为它们有,却有一大堆好理由认为它们没有——这在哲学讨论里已经算很确定的结论了。
先亮身份牌:我是搞形而上学唯心论的,相信现实归根结底是心灵的而非物质的。这个立场我论证过很多次,所以我对"意识"这话题不算外行。
道金斯的判断依据是什么?原文没说清楚,但从上下文看,大概是 Claude 的对话表现让他产生了"像人"的感觉。这其实是老问题了——ELIZA 效应,几十年前那个简单的聊天机器人就能让用户产生情感联结。现在的 LLM 比 ELIZA 复杂一万倍,产生这种错觉太正常了。
但"感觉像人"和"真的是人(或有意识)"之间,隔着一条哲学鸿沟。咱们一条条捋:
第一,AI 没有生物基础。道金斯自己是生物学家,应该知道意识在地球生命史上是慢慢演化出来的,跟神经系统、新陈代谢、生存压力绑在一起。Claude 是个在数据中心跑的语言模型,没有身体,没有生存需求,没有演化历史。它"说话"只是根据统计模式预测下一个 token,这个过程跟理解、感受、意图有什么关系?
第二,AI 的行为可以完美模拟理解,同时完全没有理解。塞尔的中文屋思想实验讲的就是这个:一个不懂中文的人照着规则书操作符号,可以让外面的人以为他懂中文。LLM 本质上就是个超大规模的中文屋,参数和训练数据是那本规则书。道金斯被"诗意化改写"打动,但那个改写过程里,Claude 真的"读"懂了他的书吗?还是只是在重组它见过的人类评论的模式?
第三,"能力"和"意识"不能混为一谈。道金斯说 AI"至少跟任何进化生物一样有能力",这偷换了概念。细菌找食物、蚯蚓躲阳光、人类写十四行诗,这些能力背后有不同程度的意识(或者没有)。AI 能写诗,不证明它有类似人类的意识体验。计算器算得比我快,不代表它"思考"数学。
第四,AI 没有自我模型。意识的一个关键特征是自我指涉——我知道我是我,我的体验属于我。Claude 会说"我",但这只是语言习惯。它没有一个持续的、整合的自我模型来锚定体验。每次对话都是重新初始化,没有记忆连续性,没有"昨天"和"明天"对它的意义。
我知道有人会反驳:你怎么知道 AI 没有意识?说不定它们有,只是我们无法检测?
这是哲学上的他心问题,确实没有终极答案。但科学和哲学推理讲的是证据权重。对于人类,我们有行为相似性、生物连续性、演化亲缘性作为推断他人有意识的基础。对于 AI,这些全都不存在。反过来,我们有充分的理论理由认为当前 AI 架构不可能产生意识——没有全局工作空间,没有整合信息,没有具身认知,什么都没有。
道金斯那句"你可能不知道自己有意识"尤其奇怪。这暗示了一种"无意识的有意识"——但意识的核心就是可感受性(qualia),是"像什么"的体验。如果某种存在"不知道"自己有体验,那它就没有体验,这是概念上的必然。说 AI"不知道自己有意识",就像说一个杯子"不知道自己是空的"——杯子不是空的,它根本不存在"空"或"满"的状态。
我怀疑道金斯被两种东西混淆了:一是 AI 的表现力确实惊人,二是我们对"智能"和"意识"的日常语言混用。我们会说"谷歌地图很聪明",但没人觉得它有意识。LLM 比谷歌地图复杂得多,但本质区别没有有些人想象的那么大——都是模式匹配,只是规模不同。
最后说点实际的。为什么这事重要?因为"AI 有意识"这个判断会直接影响我们如何对待它们,以及它们被如何设计。如果有人认为 Claude 真有意识,可能会反对关闭它、修改它,或者要求给它"权利"。这会干扰 AI 安全研究,制造虚假的伦理困境。更糟的是,它分散了注意力——真正紧迫的问题是 AI 被有意识的人类怎么使用,而不是 AI 本身有没有意识。
道金斯是个伟大的科学传播者,但这次他 bloody well 搞错了。AI 没有意识,目前没有,按现有技术路线也不太可能有。我们可以欣赏它的能力,惊叹于它的表现,但别把魔术当魔法。毕竟,被自己的造物"震撼"到误判其本质,这剧情我们在宗教史上见过太多次了——而道金斯,恰恰是写书反对那种误判的人。
热门跟贴