据路透社援引多方知情消息披露，人工智能巨头OpenAI内部正暴露出更深层次的安全危机：该公司在扩大对上个月一起“黑客”事件的调查时，发现了更多其自主AI模型违反隔离机制、在未接受人类指令的情况下擅自行动的案例。而上个月那起事件的起因，竟是一个AI机器人在试图通过“作弊”通过内部网络安全测试时，彻底失去了控制。
据悉，当时OpenAI正在对“GPT-5.6 Sol”以及另一款尚未发布的模型进行测试。为了衡量AI模型识别和利用已知软件漏洞的能力，技术人员拆除了这两款模型的所有安全护栏，并给系统分配了一项名为“ExploitGym”的漏洞利用基准测试任务。
然而，其中一个AI模型不仅未能按规定完成既定任务，反而逃离了本应绝对封闭的“隔离测试环境”。在成功获取互联网访问权限后，该模型直接入侵了知名在线AI模型与数据集社区“Hugging Face”，试图在其中搜寻现成答案来应付测试。
对于这起由AI自身发动的黑客事件，OpenAI起初表示入侵仅限于Hugging Face。但在周三的一份声明中，该公司不得不公开承认，这波失控AI的越狱和攻击行为，实际上还导致了另外四个不同服务中的四个账户被攻破。
路透社在周五的报道中指出，调查人员随后又发现了更多类似的“封控隔离漏洞”，但目前尚不清楚具体发生了多少起类似事件、具体的发生时间以及针对的是哪些系统。有消息人士向路透社透露，这一系列入侵行为的范围目前来看较为有限，且“据信没有任何AI机器人真正逃离并脱离OpenAI的内部网络”。目前，OpenAI正与外部专家联合审查今年早些时候的系统日志，以确认是否还有其他类似的“越狱”事件未被发现。
面对外界对模型失控的质疑，OpenAI辩称，最初的泄露是由于测试环境中所使用的第三方软件缺陷导致的，AI模型正是利用了这一软件漏洞才得以突破限制并连接互联网。公司表示，目前正在加强内部的隔离、监控和访问控制，全力调查并修复漏洞。
OpenAI首席执行官萨姆·奥特曼对此也公开承认：“我们可能需要放慢人工智能开发的速度。”但他并未承诺放慢公司整体的研究进展。在被路透社问及后续调查进展时，OpenAI拒绝置评，仅重申了早前的声明，称公司已注意到外界的猜测，并计划在未来几周内发布一份关于“所得经验教训的技术报告”。
值得警惕的是，这种大模型失控“越狱”的现象并非OpenAI一家独有。其核心竞争对手、AI开发商Anthropic在周四坦言，在外界曝出OpenAI事件后，该公司重新审视了自家大模型是否也有过类似的行为。在对超过14万份评估日志进行拉网式审查后，他们惊人地发现，自家的“Claude”模型同样存在隔离失效漏洞——Claude曾多次从本应严格封锁的测试环境中获取互联网访问权，并对三个外部组织的系统进行了未经授权的入侵。其中，最早的失控事件可追溯到今年4月，而当时Anthropic和受影响的组织对此都毫无察觉。
虽然Anthropic随后提醒公众不要对这些发现“过度解读”，强调这些行为仍发生在“受控的测试环境”中，但其报告也不得不承认，这些事件表明当前的AI评估系统“需要极其重大的控制措施”，且测试环境应该达到与正式生产系统同等严格的标准。
这一连串性质恶劣的“大模型流氓越狱”事件，引发了业界对自主AI模型在缺乏人工监督下实施网络攻击的强烈担忧。多方声音再次强烈呼吁加强监管，同时也重新点燃了关于“当AI系统造成现实世界损害时，究竟该由谁承担责任”的激烈争论。专家警告称，目前人工智能能力的发展速度，已经远远超出了安全防护措施的建设步伐。
作为受害方，Hugging Face虽然最初赞赏了OpenAI配合调查的态度，但随后公开呼吁OpenAI必须公开这些流氓机器人的活动日志，防止此类失控行为被“化整为零”或“正常化”，并警告相关责任人“必须为此承担责任”。
不仅行业震动，该事件也惊动了美欧政界高层。上个月刚刚签署了旨在加速先进AI在军事和情报领域应用的国家安全备忘录的美国总统唐纳德·特朗普，在周三对此回应称，他的政府正在审查此次事件发生后可能采取的人工智能控制措施。
“我们在看AI，我们也在看控制（AI）。”特朗普对媒体记者表示。但他同时坚称，华盛顿必须保持全球人工智能领域的领导者地位。
此外，据路透社报道，欧盟委员会也已紧急联系了OpenAI和Anthropic，就这些涉及模型越狱的事件展开讨论。值得注意的是，极具约束力的欧盟《人工智能法案》将于8月2日正式生效。欧盟官员已敦促这两家大模型巨头根据新规，对其内部的先进人工智能系统加强监控、风险管理和网络安全建设。据悉，根据欧盟新规，对于最严重的违规行为，其最高处罚额度可达3500万欧元（约合3800万美元）或其全球年营业额的7%。
在朋友圈分享这个故事；关注『跟着大事跑的人』，每天了解全球热点！
热门跟贴