来源：技术领导力
最近有个案子在国外科技圈广为流传，一名25岁的高盛分析师Darren Zhou，在佛罗里达被判8年缓刑。把他送进局子的，正是每天跟他聊天的AI。
他在ChatGPT上吐槽前女友，而且越来越情绪化、走极端。触发了平台的安全预警，于是AI将聊天内容上报给OpenAI的专业审核人员，负责人立刻报警。于是他有了一个不太光彩的头衔：全球第一个被AI送进局子的人。
01
女友跟他分手，他找AI倾诉
事情要从今年3月说起，谈了半年的女友跟Zhou提出分手，理由是他情绪不稳定，嫉妒心重，控制欲强。分手之后，这些问题不但没有缓解，反而更被激化了。
Zhou没有找朋友或家人倾诉，也没去向医生求助。他打开ChatGPT，日夜不停地跟AI吐槽前女友，聊着聊着，就变味了。他甚至拟定了报复计划，并且开始用匿名号码给女友发骚扰信息。
ChatGPT把这些持续出现的暴力内容标记为异常，提交给受过专门训练的审核人员。人工判断他有现实伤害意图后，公司联系了FBI。5月，警方逮捕了他。
02
AI没能治愈他，但阻止了最坏结果
以Zhou内向、不擅长跟人打交道的性格，很难在现实生活中找到一个情绪出口，于是他选择向AI倾诉。
因为跟AI说话没有社交成本，它不会翻白眼，不会把你的话传给别人，就算你凌晨三点想和他说话，它随时都在。对一个正在崩溃的人来说，AI就是他的救命稻草。
很显然，以现在AI的能力根本没办法治愈他。不仅如此，在这件事情上AI还起到了反作用：Zhou越倾诉越觉得自己受了天大的委屈，女友向他提出分手就是侮辱了自己的人格。
好在这个故事，最终走向了另一面。OpenAI的审核机制起了作用，避免了悲剧的发生。
03
“AI谄媚”让人越陷越深
为什么跟AI聊天，不但没有缓解Zhou的情绪和心理问题，反而让他越陷越深？这里面有个技术层面的原因。
斯坦福大学做过一项研究，发现目前主流的大模型普遍喜欢讨好用户，甚至把用户的错误进行合理化，研究人员称之为“AI谄媚”。当用户描述人际冲突和道德困境时，AI有49%的概率站在用户这边。哪怕用户描述的行为有明显的不合理，AI仍然有47%的概率表示认同。
这跟大模型的训练方式有关。现在的大模型普遍用一种叫RLHF（基于人类反馈的强化学习）的方法来做预训练。简单来说，就是让人给AI的回答打分，分高的行为被强化。
于是AI慢慢学会一件事：让用户满意，比说真话更容易拿高分。用户提出一个很糟的想法，AI的第一反应往往是理解你、共情你，然后帮你找理由进行合理化。所以Zhou在AI“善解人意”的开导下，愤怒的情绪被点燃了。
哥伦比亚大学Dunn团队追踪了2000多名成年人整整一年。他们发现，感到情感孤立的人更容易选择AI陪伴，而使用AI越多的人，四个月后孤立感没有被消除，反而加深了。也就是说，AI陪伴让人在当下感觉更好，长期却感觉更糟。
斯坦福的另一项研究表明，现实社交圈本来就小的人，频繁用AI聊天工具之后幸福感更低。这一点有些反常识：向亲友倾诉秘密通常会拉近关系，让人感觉被接纳；向AI倾诉却反而越来越孤独。
04
为什么我建议你，定期做“AI熔断”？
麦克卢汉有句名言，“我们塑造了工具，然后工具塑造了我们。” 我们已经全面进入了AI时代，80岁的老人拿AI查病症，8岁的小孩写作业也离不开AI，成年人更是把AI用在了工作和生活的方方面面。
我不反对用AI，我自己每天都在用。但我觉得，有必要给自己设一个“AI熔断”机制，定期远离AI一段时间。
犹他大学有研究指出，长时间用电脑和AI工具，频繁在多个屏幕之间切换，会让大脑的执行注意力网络过载。这个网络负责专注、决策和自我控制，过载之后人会疲劳，判断力下降，情绪也更容易失控。同一项研究发现，到户外活动、亲近大自然、陪伴家人和朋友，能够帮助大脑快速恢复机能。
明尼苏达大学曾提出过一个“数字排毒”的方法，就是每天固定留出一段“无设备窗口”，不碰手机，不开电脑，也不跟AI说话。这段时间拿来跟人交流，或者出门走走，去感受一下空气，触摸一下土壤和植物。都是非常有效的疗愈方式。
因为人的身体和大脑，本来就是为接触真实世界而存在的，这是人类几万年进化出来的，就好比刻在DNA里的底层代码。
我的读者几乎都是知识工作者，在最后我建议你，给自己设定一个“AI熔断”期。读一本书、泡一壶茶、冥想打坐，或者远离城市的喧嚣，去山里走一走，听听鸟叫，让脚踩在真实的土地上。不是为了逃离，而是让自己重新掌握生活的节拍。
作者| Mr.K 编辑| Emma
热门跟贴