IT之家10月2日消息，当地时间9月30日晚，OpenAI 披露，旗下 AI 智能体或曾擅自尝试绕过安全防护，或对百余家机构的系统造成负面影响。

OpenAI 此次披露的信息显示，已知的 AI 智能体失控行为涉及范围进一步扩大。公司已向100多家第三方机构发出通知，告知这些机构发现了“智能体偏离预期的行为”。

打开网易新闻 查看精彩图片

OpenAI通报称自家智能体存在失控风险

目前，OpenAI 已对约50PB 数据启动筛查，以了解其恶意智能体活动的全部范围。

IT之家获悉，具体情况包括 AI 智能体试图让网站执行非预期命令、把网站当作共享留言板使用，以及绕过某些安全检查。

OpenAI 强调，收到通知并不代表系统一定遭到入侵。这些活动更接近于试探一扇上锁的门，而非真正破门而入。

OpenAI 表示，公司希望向受影响的第三方提供必要信息，以便调查和处理潜在的安全或其他技术问题。OpenAI 还承诺公开分享对模型行为、安全防护中新型薄弱环节的研究结果，帮助更广泛的 AI 和安全研究界改进安全工作。

OpenAI 披露这些情况前，独立研究人员发现了一系列涉及失控 AI 智能体的网络安全事件。《华盛顿邮报》曾报道，行为方式与 OpenAI 系统相似的 AI 智能体曾试图入侵加拿大政府网站。