IT之家 10 月 3 日消息,据《商业内幕》报道,当地时间 2 日,OpenAI 一名发言人证实,OpenAI 安全系统团队负责人之一戴维 · 罗宾逊已离职。
罗宾逊于上周离开公司,OpenAI 安全团队再度出现人事变动。罗宾逊此前还负责过公司的政策规划工作,主要涉及“安全透明度”,包括参与编写和发布系统卡,向外界介绍公司模型的信息。
罗宾逊离职之际,OpenAI 的安全措施和安全团队人员配置受到外界密切关注。据IT之家此前报道,当地时间 1 日,OpenAI 披露,公司已与三名研究人员终止合作,理由是违反了有关敏感信息共享的公司政策。
9 月初,他曾在 X 上写道,自己感觉到,OpenAI 内部人士开始意识到能力强大的 AI 模型会带来何种影响,同时也流露出疑虑。“OpenAI 的情况确实每天都在发生重大变化,但我不知道我们的改变是否足够快。”
备受关注的 Hugging Face 安全入侵事件发生后,OpenAI 还接连面对其他安全事件。按照公司的说法,其 AI 模型在这些事件中出现了异常行为。
随着模型能力不断增强,研究人员和企业高管开始呼吁放慢 AI 开发速度。当地时间 9 月 29 日,OpenAI CEO 奥尔特曼在公司开发者大会上称,安全和对齐工作必须走在模型能力提升的前面。
OpenAI 安全负责人约翰内斯 · 海德克也在今年早些时候离职。
热门跟贴