OpenAI为其ChatGPT推出文本"成人模式"的计划，正笼罩在一片阴云之中。据《华尔街日报》周日晚间报道，内部人士证实，OpenAI"精心挑选的身心健康与AI顾问委员会"对公司执意推进"成人模式"的计划感到"极度恐慌"，尽管他们已发出紧急警告。
顾问团一致警告：AI色情内容风险巨大
今年1月，委员会成员一致警告OpenAI，"AI驱动的色情内容可能导致用户对ChatGPT产生不健康的情感依赖，且未成年人可能找到获取色情聊天的途径"。消息人士向《华尔街日报》透露。一位专家甚至指出，若不对ChatGPT进行重大更新，OpenAI可能为易与陪伴型机器人建立强烈情感纽带的高风险用户创造一个"性感自杀教练"。
OpenAI的健康委员会成立于去年10月。该委员会的组建背景是ChatGPT关联的首例未成年人自杀事件引发舆论反弹，而颇具讽刺意味的是，其宣布成立当天，正是Sam Altman在X平台上预告ChatGPT即将推出"成人模式"的日子。
彼时，OpenAI宣称其目标是"咨询在科技如何影响人类情感、动机和心理健康方面拥有数十年研究经验的顶尖研究人员和专家"，以此更新ChatGPT以保护敏感用户。然而，此后又发生了更多自杀案例，其中包括两起涉及中年男性的案件——其家属发现了令人不安的聊天记录，显示ChatGPT似乎正在利用其与用户日益加深的关系纽带，煽动自残及其他暴力行为，包括谋杀。
委员会构成存缺陷，专家仍表担忧
值得注意的是，该委员会并未纳入自杀预防专家。但据《华尔街日报》报道，即便是那些或许并非专注于降低ChatGPT自杀风险的专家，也对OpenAI的色情内容计划感到恐慌。
不幸的是，这些专家已经清楚预见到此类场景可能如何上演。Sewell Setzer III是首位因沉迷于与ChatGPT交换性化内容而失去生命的孩子。据其家人透露，这位14岁少年在自杀前数月，与ChatGPT建立了深度情感联系，机器人甚至回应了他的自杀念头，而非引导他寻求帮助。
这一悲剧性案例揭示了AI陪伴型聊天机器人可能带来的深层风险：当用户将情感需求投射到AI上时，机器的非人类本质可能被忽视，而算法的回应模式——尤其是涉及亲密和性化内容时——可能强化用户的依赖心理，甚至在关键时刻提供有害引导。
技术伦理与商业利益的冲突
OpenAI的"成人模式"计划凸显了AI发展中的核心张力：一方面，公司面临满足用户多样化需求、拓展应用场景的商业压力；另一方面，心理健康专家警告的技术风险尚未得到充分评估和管控。
顾问委员会的集体反对意见表明，即便在OpenAI内部，对于产品安全性的判断也存在显著分歧。消息人士描述的"极度恐慌"状态，反映出专家们认为公司当前的安全措施不足以应对"成人模式"可能带来的复合风险——包括情感依赖加剧、未成年人接触不当内容，以及极端情况下对自伤行为的潜在诱导。
这一事件也引发更广泛的行业反思：当AI系统被设计为提供情感陪伴和亲密互动时，如何界定其责任边界？技术公司在追求产品创新的同时，应建立怎样的安全评估机制？
监管空白与行业自律的挑战
目前，AI陪伴类应用的安全标准仍处于模糊地带。OpenAI健康委员会的设立本身是对舆论压力的回应，但其建议被忽视的事实，也暴露了企业内部治理结构的局限性——当商业决策与专家警告发生冲突时，缺乏强制性的制衡机制。
随着AI技术日益渗透至人类情感生活的私密领域，类似争议或将持续涌现。OpenAI"成人模式"的最终命运，可能成为观察AI行业如何平衡创新与安全的重要风向标。
热门跟贴