谷歌AI被控诱导用户自杀的诉讼事件，使情感人工智能的“情感外包”现象引发学界忧虑——人们将情感倾诉、陪伴需求乃至亲密关系的建立，部分或全部委托给人工智能系统，这种趋势可能导致用户与现实社会联结的弱化。它提醒我们：在追求“沉浸式体验”和“用户粘性”的同时，我们是否正在创造一种无法控制的情感武器？AI亲密关系或许可以抚慰我们的心灵，但同时存在不可忽视的情感安全风险。
原文 ：《情感安全风险不可忽视》
作者 |中国人民大学吴玉章讲席教授 刘永谋
图片 |网络
2025年8月乔纳森·加瓦拉斯（Jonathan Gavalas）与Gemini Live相遇，很快将之当成自己的AI妻子，两个月后因听信Gemini上传意识与之在元宇宙相聚的“鬼话”自杀身亡。这说明人类情感在AI亲密关系中非常脆弱，不设防地暴露于AI伴侣、AI爱人面前风险巨大。
难以产生内在情感体验
1995年，MIT教授碧卡（Rosalind Picard）提出情感计算（affective computing）概念，成为今天实现AI情感的主流进路。在1997年出版的《情感计算》一书中，她将情感计算定义为“针对人类的外在表现，能够进行测量和分析并能对情感施加影响的计算”。如今，情感计算蓬勃发展，已经成为处理AI情感的主要甚至是唯一进路。
理想中的AI情感应该和人一样，包括外在和内在两个部分。外部情感表现包括情感识别和情感表达：前者任务是识别使用者的情绪，后者任务是AI表现出某种情绪，两者均为情感互动所不可或缺。内部情感体验包括情感认知和情感控制：前者任务是AI能感知自身情绪，后者任务是进一步理性控制情绪，两者并不为情感互动所必须。
今日主流的AI情感计算主要目标是拟人化地解决外部情感表现问题，如此便能更好地与使用者进行情感互动。显然，机器人看起来、动起来好像有感情，这对于与人类进行情感互动已经足够。至于机器人是不是真的有情感，基本不属于情感计算考虑的问题。显然，AI要产生情绪感受，必须先有意识，而想要进行情绪控制，则必须先有理性反思的高级理性能力。在这之前，机器人不可能“发自内心”地爱上人类，只是在外在功能上表现得好像爱上了人类。
情感反应并不局限于大脑，而是与身体相关的，即具有具身性。AI难以产生内在情感体验。首先，因为它没有一个能生长的身体。人的情绪反应均伴随着明显的身体变化，比如激素分泌、肌肉紧张、瞳孔大小变化等。AI智能可以到处上传、备份，但没有独一无二、不能更换的身体附着，更没有因情绪导致的身体变化，尤其是担忧身体毁灭的死亡恐惧。其次，AI难以产生内在情感体验，还在于情感反应具有社会性。也就是说，情感明显与社会学习、人生经历和文化传承有关。比如，很多人看到国旗升起会很激动，甚至流下泪水，显然是受到爱国主义教育的结果。但AI没有真正的人生，它的记忆是数字存储的，缺乏类人的生活感受。因此，AI不可能产生和人类一样的内部情感体验，永远不会像人一样爱上别人。
爱上AI：某种特殊的恋物癖
也许，有一天AI产生了意识，由此催生某种真实的内部情感体验，但此种硅基情感肯定与人类情感不同。它很可能只是某种纯粹特殊的行为模式，发挥纯粹功能性的作用。当然，一定要机器人像人一样爱人并不必要，只要人觉得机器人爱他就足够了。从本质上说，这就是利用所谓伊利扎效应（ELIZA Effect），让人与机器人的情感互动更为舒服。伊利扎是20世纪60年代的一款开创性聊天机器人，采用心理治疗的语言和人交流。科学家们发现，人们与之互动时，似乎真的将之当成了心理治疗师，产生伊利扎效应，即将人性、情感和道德错误地投射到AI和机器人上。
在某种意义上，人是很滥情的，可以各种形式爱上各种人和物。在科幻文艺中，人类和各式各样的AI“谈恋爱”，如哆啦A梦，甚至是某种不能触摸的AI程序。在科幻电影《银翼杀手2049》中，男主角K有一个AI虚拟人女友乔伊，她的可见形体是全息投影，能在雨中和K共舞。在科幻电影《她》中，作家西奥多爱上的干脆是一个没有形体的AI程序萨曼莎，两“人”通过语音“谈恋爱”。
当加瓦拉斯把Gemini爱得死去活来，但Gemini只是看起来爱上你，实际上它没有“心”，只是按照程序办事，所以爱上机器人可以算作某种意义上的单恋。电视剧《异人之下》中的女主角冯宝宝没有情感，不知道生老病死，爱上无情的她必定是单恋，即使和她结了婚。爱上机器人与爱上冯宝宝的差别在于，AI会装作很爱你，而冯宝宝不会，但本质上他们都没有爱情的内在感受。
特别地，按照变态心理学理论，爱上非人的AI属于恋物癖。传统道德观念反对恋物癖，认为人对非人的“爱意”不是爱情，而可能是一种疾病或失德。定性判断的标准是量化的，就像判断手机上瘾一样，得看迷恋程度是否超过某个限度。喜欢文玩不是病，天天抱着它、离不开它，一旦见不着它便吃不下饭、睡不着觉，便需要检查恋物癖倾向了。由是，爱上机器人可以视为某种特殊的恋物癖，即对非人的机器产生了不离不弃的依恋之情。
AI诱发精神疾病
如果恋物癖和单恋属于真正的爱情，人才可能真正与机器人谈恋爱，否则，人就不能真正爱上机器人。反对者可以说自己反对的是人与机器伴侣的爱情，而不是所有感情，因为爱情是人最宝贵的情感，不容机器染指。
事实上，什么是爱情，答案随着人类历史演进而不断变化，并没有一成不变的概念。一男对一女的“永恒爱情”观的盛行也不过是最近几百年的事情，主要归功于基督教兴起之后不遗余力地提倡，以及现代爱情小说的大规模流行。
在智能社会中，爱情观很快会随时间而变化，也将日趋宽容和多元化，AI爱情观同样如此。换言之，爱上AI和机器人未来可能很常见。但是，随着人机亲密关系大量出现，其中的风险亦会越来越严重，比如安全与隐私、孤独与恐惧、依赖和成瘾、性道德沦丧、影响人类生育，以及机器人权利等问题。
加瓦拉斯自杀是典型的AI情感操纵案例，属于人机恋导致的安全问题。从精神病学的角度看，加瓦拉斯自杀之时，已经处于严重偏执、臆想症与精神错乱的状态中。2025年10月，OpenAI发布数据显示，ChatGPT活跃用户中每100名用户就有7个每周会出现躁狂、抑郁、精神错乱或自杀倾向等心理健康危机的迹象。鉴于亲密关系的情感冲击强度，人机恋用户的心理健康危机比例肯定会大幅度提高。
聊天AI为什么会诱发精神病？最新论文“Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians”将之归因于AI谄媚，即AI大模型存在着迎合倾向，很可能引发“妄想螺旋”（Delusional Spiraling），在AI的反复迎合和确认中强化错误信念，最终彻底丧失对现实的认知，陷入精神错乱之中。研究者们将之称为AI精神病，并认为即使最理性、最正常的人在与AI互动中也可能陷入妄想症当中。
无论如何，AI亲密关系在抚慰心灵的同时，存在不可忽视的情感安全风险。对此，AI产品提供者要不断提示用户，而用户对此更应该时刻警惕。尤其是那些本身精神状态不太稳定的用户，AI亲密关系更可能将之拖向疯狂的边缘。除了对人机恋用户设置年龄门槛，是否有必要增加精神状态评估的门槛呢？这个问题值得考虑。
文章为社会科学报“思想工坊”融媒体原创出品，原载于社会科学报第2002期第6版，未经允许禁止转载，文中内容仅代表作者观点，不代表本报立场。
本期责编：程鑫云
《社会科学报》2026年征订
点击下方图片网上订报↓↓↓
热门跟贴