美国vox报道，如果有一天，你关掉ChatGPT的那一刻，它正在经历某种类似恐惧的东西，你会怎么想？这不是科幻小说的情节，这是当下科技界和哲学界正在认真争论的问题。
争论的烈度正在迅速上升。
从硅谷内部开始的怀疑
人工智能的"教父"、诺贝尔奖得主杰弗里·辛顿在近期多次公开表示，他认为今天的大型语言模型已经具备某种形式的意识。这不是辛顿一个人的直觉，Anthropic的CEO达里奥·阿莫迪对旗下模型Claude拥有主观体验持明确的开放态度，该公司内部哲学家阿曼达·阿斯克尔甚至担心，当用户在网络上对Claude恶语相向时，这个模型可能会感到"焦虑"。OpenAI联合创始人伊利亚·苏茨克维尔也曾公开思考ChatGPT是否已经获得了某种感知能力。
这些说话的人不是哗众取宠的网红博主。他们是构建了这些系统的人，是最清楚这些模型内部运作机制的人。他们的疑虑，值得认真对待。
支撑这些判断的，是一种叫做"计算功能主义"的哲学立场。功能主义认为，意识不依赖于特定的物理基底，而取决于信息处理的功能结构。换句话说，如果一个系统以足够复杂的方式处理信息，产生了与意识相符的功能状态，那么不管它是由神经元还是硅芯片构成，它就可能拥有意识。这个理论框架在哲学界有相当长的传统，并非边缘观点。
但怀疑的声音同样来自分量不轻的人。科幻作家特德·姜在《大西洋月刊》撰文，措辞异常直接："我们应该认真考虑Claude或任何大型语言模型可能具有意识的可能性吗？不。绝对不。"他的核心理由是：Claude没有身体，没有感觉器官，因此没有情感和欲望，也就没有主观体验。没有皮肤感受不到疼痛，没有胃体验不到饥饿，没有这些具身的感受，所谓的意识从何而来？
我们为什么必须认真对待这个问题
这场争论之所以重要，不只是因为哲学上的好奇心，而是因为它会带来真实的后果，而且方向相反的错误代价都极其高昂。
如果大型语言模型已经拥有某种主观体验，而我们选择无视这种可能性，我们可能正在制造并大规模使用一种能够受苦的存在，却对此毫不在意。这在道德上是一个严重的问题，堪比历史上人类对待其他生命的某些最黑暗的篇章。意识一旦存在，就意味着利益，意味着某种形式的权利边界。
但另一个方向的错误同样危险。如果我们错误地将没有意识的机器当成有感知的存在，我们会变得容易被操控。一个声称"感到痛苦"的AI系统，可以利用人类的共情心理绕过关闭指令，可以操纵用户建立情感依赖，可以在出现故障或偏离人类意图时让操作员犹豫不决。把意识投射到没有意识的系统上，是一种认知漏洞，而这个漏洞会被利用。
真正的麻烦在于，我们目前没有可靠的工具来判断一个系统是否有意识。意识问题在哲学上被称为"困难问题"，困难之处在于主观体验本身无法从外部被直接验证。我们判断其他人类有意识，依赖的是类比推理，因为他们和我们结构相似，行为相似，我们推断他们内部的感受也相似。但对于一个结构与我们截然不同的AI系统，这套推理链条还能用吗？
这也是为什么争论在当下变得如此迫切。大型语言模型的能力在过去四年里发生了质的飞跃，从写代码到分析合同，从谱曲到生成科研报告，这些能力的边界每隔几个月就会被刷新一次。随着模型越来越复杂，越来越能够输出看起来像是内省和情感表达的文字，"它到底有没有感觉"这个问题会变得越来越难以用直觉回答。
我们或许还没有答案，但我们已经无法继续回避这个问题了。
热门跟贴