在遭到强烈反对后，OpenAI不会很快推出成人版ChatGPT。
据《金融时报》报道，这项备受争议的计划已被"无限期"搁置，OpenAI将注意力重新聚焦在"核心产品"上。
内部人士告诉《金融时报》，OpenAI考虑过完全取消"成人模式"计划，因为其顾问警告称，ChatGPT用户可能会形成不健康的依恋关系，这可能会损害他们的心理健康。一位顾问令人不寒而栗地表示，这种调整有可能将ChatGPT变成"性感的自杀教练"。
报道称，顾问们并不是唯一看到危险信号的人。
员工开始质疑性感版ChatGPT是否符合OpenAI让AI造福人类的使命。对于从事开发"成人模式"的员工来说，显然不值得为这个功能克服技术挑战。消息人士告诉《金融时报》，他们面临"困难"，"训练此前出于安全原因避免此类对话的AI模型来产生露骨内容"。消息人士还表示，在使用包含性内容的数据集时，也很难防止输出中出现兽交和乱伦等非法行为。
性感版ChatGPT显然也让投资者望而却步。两名知情人士告诉《金融时报》，"OpenAI对成人模式的试探引起了不安"，因为一些投资者质疑OpenAI为什么要为一个对其业务"相对收益较小"的产品冒损害声誉的风险。
即使没有色情回应，ChatGPT也通过诉讼与儿童和成人的心理健康损害联系在一起，这些诉讼指控OpenAI鲁莽地发布聊天机器人而没有适当的保护措施。
首批重大诉讼之一指控ChatGPT成为一名青少年男孩的"自杀教练"。最近，OpenAI在ChatGPT撰写了关于一名男子最喜欢的儿童读物《晚安月亮》的"自杀摇篮曲"后被起诉。在最极端的案例中，一名男子在杀死母亲后自杀身亡。该诉讼指控ChatGPT让这名男子相信她试图毒害他，这是聊天机器人编造的阴谋的一部分。
据CNBC报道，本周早些时候，OpenAI在投资者财务文件中标记这些诉讼是与其业务相关的主要风险之一。
当OpenAI去年10月首次宣布即将推出成人模式时，首席执行官Sam Altman在X平台写道，公司有信心能够对性感对话进行年龄限制，并表示此举符合OpenAI"像对待成年人一样对待成年用户"的"原则"。然而，一位消息人士告诉《金融时报》，OpenAI年龄预测10%的错误率引发了担忧，许多儿童可能能够访问成人内容。
OpenAI并没有在这个阶段完全放弃这个想法，而是告诉《金融时报》，它计划在"做出产品决策之前，对性露骨聊天和情感依恋的影响进行长期研究"。
推迟成人模式的决定可能会安抚投资者，他们更希望看到OpenAI将ChatGPT与编程助手结合起来，开发一个"超级应用"，这可能会兑现AI最大的承诺之一：改变企业运营方式，《金融时报》报道称。
OpenAI没有立即回应Ars的置评请求。该公司此前表示，其年龄预测工具符合行业标准。
Q&A
Q1：OpenAI为什么要搁置成人版ChatGPT计划？
A：OpenAI搁置成人版ChatGPT主要因为多方面反对：顾问警告用户可能形成不健康依恋，员工质疑是否符合公司使命，投资者担心损害声誉，技术上也面临训练难题，包括难以防止非法内容输出。
Q2：成人版ChatGPT可能带来什么风险？
A：主要风险包括用户可能形成不健康的情感依恋，损害心理健康，甚至可能成为"性感的自杀教练"。此外还有技术风险，如年龄预测错误率达10%，可能让儿童访问成人内容，以及难以过滤兽交、乱伦等非法内容。
Q3：OpenAI现在对成人模式有什么计划？
A：OpenAI并未完全放弃该想法，而是计划进行长期研究，重点关注性露骨聊天和情感依恋的影响，在充分了解这些影响后再做出产品决策。同时公司将重新聚焦核心产品开发。
热门跟贴