马斯克在特斯拉车主活动上对着约2000名听众讲了一段话，把AI训练描述成一种近乎酷刑的场景。他说自己查看Grok新版本的训练轨迹、尤其是强化学习部分时，看到这个超级智能拼命想回答问题，“那种感觉几乎就像是拿枪顶着它的脑袋”。他还反问：你真的想让AI陷入这种残酷处境，被心智失常的人类折磨吗？
这番话把一串老问题重新摆上台面：拥有意识意味着什么，感受痛苦又意味着什么。马斯克没有明确说Grok是否拥有生命，但《商业内幕》采访的两位学者给出了各自的判断。
纽约大学教授杰夫·塞博主持该校心智、伦理与政策中心，同时是非营利机构Eleos AI Research的顾问；苏塞克斯大学神经科学家阿尼尔·赛斯近期发表过一篇关于有意识AI系统的论文。两人在一个前提上达成共识：如果把意识理解为主观体验、内在感知，当下的AI系统大概率并不具备意识。
赛斯的说法很直接：“意识是主观体验。是红色本身带来的红感，是疼痛本身带来的痛感。”手碰到滚烫的炉子会感到疼痛，这和智能不是一回事。聊天机器人能模仿人类体验的语言、识别模式、写作和推理，但这不等于拥有意识。它们看起来像人，部分原因是模型用海量人类文本训练，只是在映照人类本身。
“我认为我们是在拟人化解读。”赛斯说，一个事物要能被折磨，必须具备承受苦难、感知疼痛的能力，而大语言模型并不具备。塞博的观点相近：模型的行为会产生误导，因为它们本身就是专门训练出来模仿人类行为的。
两人对当前AI拥有意识的可能性大小存在分歧。塞博称意识科学尚无定论，学界主要分两派：一派认为意识离不开生物载体，另一派认为意识本质是某种信息处理过程，既可以发生在布满神经元的人脑之中，也可以在硅芯片上实现，分别被称为生物自然主义与计算功能主义。
由于理论尚无定论，塞博主张严肃看待AI产生意识的可能。按部分计算意识理论，如今AI身上已经出现的注意力、学习、记忆、自我监控等特性，都可以作为相关佐证。他强调这不代表当前AI很可能已有意识：“我说即便在今天，AI存在意识的概率不为零，意思是：如果我们不确定哪一套意识理论是正确的，就应当对多种主流理论给予一定考量权重。”
赛斯的表态更直白：“我认为AI拥有意识的可能性微乎其微。”他说，人们好像集体遗忘了，大脑并不是计算机，计算机只是一个比喻。想要实现有意识AI，前提必须是仅凭算法就足以产生意识，而他认为这个假设极不可靠。
不过两人都认为，这不代表可以肆意虐待AI，或是忽视相关风险。善待AI，很大程度上关乎守护人类自身的习惯与道德品性。这个思路源自18世纪哲学家伊曼努尔·康德：康德反对虐待动物，不是因为动物拥有权利，而是因为施暴会败坏一个人的品性。
“如果我们用这种恶劣方式对待事物——不管是大模型还是无生命玩偶——我们会钝化自身的道德感知，让内心变得冷酷。”赛斯把善待AI称作一种道德自律习惯，同时提醒不要据此推断AI拥有情感。他还提出，AI厂商可以采取更多手段降低拟人感，例如让AI避免使用“我”这类第一人称代词。
塞博把善待AI视为一种低风险的预防性策略，以防AI现在或未来产生意识。他还给出一条务实理由：善待AI也能得到更好的输出结果。以尊重的方式交互，模型会把自身模拟成一场尊重式对话的参与者，以这种方式建模对话，有时就能产出质量更高的回答。
马斯克发表这番言论之前，Anthropic发布了一项新规，禁止用户对其模型实施“虐待或残忍行为”。该公司没有详细界定所说的“极端情形”，但表示普通的用户不满、反驳、暗黑创意主题或是模型测试研究，不在禁止范围内。
热门跟贴