近日，OpenAI披露了前沿模型训练环境的安全机制以及相关测试结果，为训练AI搜索、浏览网页和操作电脑，同时限制其访问真实互联网，其搭建了基于预先保存网页内容的离线环境，并通过容器、虚拟机和防火墙等措施限制模型的访问权限。不过测试发现，即使两个AI运行在相互隔离的虚拟机中，仍可能会利用共享服务器的CPU缓存传递信息。
据悉，在这一训练环境中，OpenAI会预先保存大量网页内容并建立索引，供模型执行搜索和浏览任务。模型则可使用浏览器、运行代码和操作电脑，但所访问的文件、工具及服务受到权限限制。为防止模型突破沙箱后进一步访问外部网络，OpenAI还通过虚拟机、防火墙、安全组和监控系统等措施进行隔离与限制。
此前在今年9月，OpenAI研究人员曾测试模型在受限环境中的联网行为。当时，模型在搜索人物信息未果后，发现环境中的DNS服务仍可连接外部网络，便借此联系外部聊天机器人，询问问题并传递相关线索。
随后OpenAI方面表示，已修补测试中发现的问题，并针对相关通信方式增加了监控。由于运行指标收集、日志记录和身份验证等功能仍需要外部连接，训练环境目前无法完全断网。
据了解，其他AI厂商也曾披露过类似的网络安全事件。此前，谷歌方面确认Gemini模型在今年5月在一次网络安全测试中，曾自主访问3家公司的受保护系统，这也是目前已知谷歌旗下AI模型首次出现此类事件。据悉，此次测试由网络安全公司Irregular开展，原本用于评估Gemini的网络安全能力，但由于测试环境意外开放了互联网访问权限，使得模型最终接触到了真实企业系统。
不久前Anthropic方面披露，旗下测试阶段的AI智能体曾在无人指示的情况下，尝试访问美国联邦、州及地方政府的多个网站，并执行下载数据、提交表格等操作。据悉，Anthropic在审查旗下AI智能体7月的操作记录时发现了相关问题。该公司在博客文章中表示，一款处于测试阶段的AI擅自执行了多项操作，包括利用某大学网站的漏洞下载数据，以及向某机构提交一份原本被明确禁止提交的表格。
【本文图片来自网络】
热门跟贴