打开网易新闻 查看精彩图片
OpenAI为ChatGPT引入了名为“受信任联系人”的新安全功能。该功能旨在用户处于危机时刻时,能够通过系统通知预先设定的亲友,从而获取现实世界的支持。这一举措是OpenAI在应对涉及自我伤害等敏感话题时,加强用户安全保障的重要步骤。
成年用户可以在设置中添加一位符合年龄要求的受信任联系人。被添加的联系人将收到邀请,并有权选择接受或拒绝。一旦功能启用,当系统检测到对话中可能涉及自我伤害内容时,会告知用户其受信任联系人可能会收到通知。
人工审核团队将在安全判定中发挥关键作用。OpenAI并未完全依赖自动化监控系统,而是安排了经过专门训练的人工审核员来审查对话。该团队负责判断对话是否存在安全隐患,并最终决定是否需要通知受信任联系人。
隐私保护在该功能中得到了严格体现。OpenAI强调,受信任联系人不会收到用户的聊天记录副本,仅会收到一条鼓励其与用户取得联系的通知。此外,该功能属于可选项,与现有的热线推荐及建议暂停使用等安全措施共同构成了ChatGPT的安全防护体系。
参考链接:
https://www.androidauthority.com/chatgpt-trusted-contact-3665049
热门跟贴