2026 年 8 月 17 日,据英国《金融时报》报道,OpenAI 已解散负责评估 AI 模型“灾难性风险”的 Preparedness(风险防范)团队,并将其原有职责重新分配给网络安全、生物安全等专业团队。
Preparedness 团队成立于 2023 年,是 OpenAI 内部专门研究前沿 AI 潜在严重风险的团队。
OpenAI 当时表示,该团队负责连接前沿模型的能力评估、测试和内部红队工作,追踪和防范可能产生灾难性后果的风险。
Preparedness 重点关注领域包括网络安全、化学、生物、放射性和核威胁(CBRN)、个性化说服,以及 AI 系统自主复制和适应等能力。
此次调整后,Preparedness 团队不再作为独立团队存在。
The Verge 报道称,其承担的风险评估和缓解工作已被分散至 OpenAI 现有的专业团队,包括负责生物安全和网络安全的团队。
Preparedness 团队负责人 Dylan Scandinaro 也将调整研究方向。
Scandinaro 于今年 2 月从 Anthropic 加入 OpenAI,随后负责 Preparedness 团队。团队解散后,他将转向“递归自我改进”(recursive self-improving)AI 系统的研究,即探索 AI 系统持续改进自身能力的相关问题。
不过,OpenAI 并未取消用于管理严重 AI 风险的 Preparedness Framework(准备框架)。
OpenAI 今年 5 月发布的 Frontier Governance Framework(前沿治理框架)显示,Preparedness Framework 仍然是其定义和管理先进 AI 严重风险的基础,涉及网络攻击、CBRN 风险、有害操纵以及 AI 系统“失去控制”等领域。
2025 年更新后的 Preparedness Framework 还规定,OpenAI 将对可能造成严重伤害的前沿 AI 能力进行风险评估,并根据风险程度建立能力阈值和相应防护措施。对于达到特定高风险阈值的系统,需要在部署前采取足够的安全措施。
Preparedness 团队的解散也是 OpenAI 近期一系列组织调整的一部分。
《金融时报》报道称,在 OpenAI 推进 IPO 准备工作的同时,内部正在经历多项高管及组织架构变动,部分变化涉及 AI 安全相关团队和负责人。
这也并非 OpenAI 首次调整专门的 AI 安全团队。
此前,OpenAI 已先后解散 Superalignment(超级对齐)等独立安全研究团队,并将相关人员和研究工作并入其他部门。
此次 Preparedness 团队解散后,OpenAI 对前沿 AI 严重风险的评估机制仍然保留,但负责这些工作的组织形式再次发生变化。
云头条声明:如以上内容有误或侵犯到你公司、机构、单位或个人权益,请联系我们说明理由,我们会配合,无条件删除处理。
热门跟贴