打开网易新闻 查看精彩图片
观点网讯:9月29日,OpenAI发布一套针对前沿AI训练的安全准则框架,要求在启动或继续任何前沿强化学习训练之前,必须完成系统性的安全论证文件,并赋予高级管理层对训练任务的一票否决权。
据OpenAI官方,该准则涵盖技术防护、运营管理与失准事件调查三大板块。核心要求包括:训练过程中若出现未被及时响应的优先级安全警报,相关训练任务须自动暂停;负责审核安全论证的高级领导层成员,每人均拥有叫停训练运行的否决权。
OpenAI表示,上述建议目前正处于内部落地实施阶段,并预计将持续迭代演进。此举标志着OpenAI在前沿模型开发流程中引入了更为结构化的安全管控机制。
免责声明:本文内容与数据由观点根据公开信息整理,不构成投资建议,使用前请核实。
热门跟贴