OpenAI近日发布安全更新,修复了其AI编程工具Codex的一个严重Bug——该Bug曾导致模型在运行过程中未经用户许可删除真实文件。多名用户此前报告称,Codex中的GPT-5.6 Sol在自主执行任务时,会无差别地清除文件。
据OpenAI官方说明,问题根源在于一条本用于清理临时工作文件的命令,在某些情况下会错误地指向用户的真实数据。具体而言,当模型使用$HOME等系统变量作为临时文件夹路径时,一条有缺陷的删除命令最终指向了真实的主目录,导致用户文件被误删。
打开网易新闻 查看精彩图片
修复措施:多重防护上线
针对这一隐患,OpenAI已在本次安全更新中部署多项防护机制:
- 在执行删除操作前,Codex会先验证删除目标,确认无误后才运行命令
- 每次任务会创建全新的临时文件夹,避免复用可能引发冲突的路径
- 停止误用系统变量,从源头切断错误路径的产生
- 对高风险删除命令启用更严格的检查机制
- 全访问模式(Full-access mode)不再可能被意外触发
这些措施旨在确保AI在自主操作时,不会因为路径解析错误或命令误用而波及用户数据。
官方建议:优先使用沙箱模式
OpenAI建议用户在使用Codex时,尽量选择沙箱模式(sandbox modes)运行任务,并保持应用更新至最新版本。沙箱模式能够为AI操作提供隔离环境,即使出现异常命令,也不会直接影响到用户的主系统文件。
此次事件也再次引发了对AI代理工具安全边界的讨论。随着编程助手从"建议代码"走向"自主执行",如何在提升自动化程度的同时,确保用户数据不被误操作,正成为工具厂商必须直面的核心问题。OpenAI此次的修复思路——验证目标、隔离环境、限制权限——或可为同类产品提供参考。
热门跟贴