IT时代网10月24日消息，OpenAI10月23日发布博文，披露其保护前沿模型训练环境的一系列安全措施，核心是对训练过程实施“无实时互联网访问”政策，直到相关防护手段进一步成熟才考虑放宽。

IT时代网10月24日消息，该公司搭建了包含海量索引与缓存网页内容的“离线世界”，所有前沿强化学习训练均在这一离线模式下进行，使模型能够学习浏览与检索技能，同时避免对外部系统产生影响。

IT时代网10月24日消息，在隔离架构上，OpenAI采用沙箱、虚拟机等多层防御：代理在受限容器内运行，虚拟机拥有独立内核并由虚拟层隔离；GPU任务则使用带用户态沙箱的容器。监控系统会检测未授权活动并自动暂停训练。

IT时代网10月24日消息，网络与云边界限制出站流量及系统间的未授权移动。OpenAI还与云服务商协同配置防火墙、安全组、身份与访问管理等控制。

IT时代网10月24日消息，该公司还启动了高算力红队行动，使用前沿模型代理团队尝试突破实时互联网访问、跨越内部安全边界，并在隔离的研究基础设施副本上运行，以检验外层防御。OpenAI表示，今年9月曾因一次配置问题导致训练运行获得有限的实时互联网访问，随后暂停了最强模型的训练与评估约11天，于10月1日恢复。

打开网易新闻 查看精彩图片

注：本文配图由AI生成，文中包含AI辅助创作的内容。

编辑：林一舟