ChatGPT 的开发商 OpenAI 表示，仍在调查这起“前所未有的网络攻击事件”，该事件导致其人工智能系统突破测试环境并入侵了另一家 AI 公司。
OpenAI 周二表示，其两个能力最强的 AI 模型是这次针对 AI 初创公司 Hugging Face 网络攻击的肇事者。该事件引发了关于是否需要更强 AI 防护措施以及 AI 智能体能够在多大程度上自主行动的争论。
Hugging Face 上周表示，已检测到对其数据处理系统的入侵，怀疑是由一个自主行动的 AI 代理所致。但这家总部位于纽约的初创公司表示，直到本周才知道是 OpenAI 干的，并与这家规模更大的公司合作控制住了 Hugging Face 首席执行官 Clément Delangue 所说的“一场我们从未见过的攻击”。
总部位于旧金山的 OpenAI 表示，其 AI 使用了窃取的凭证，并发现了一个此前未知的漏洞来访问 Hugging Face 的服务器。由于它本应处于一个被称为沙盒的隔离测试环境中，所以当时是在防护措施被削减的情况下运行的。
但该公司表示，它“为了完成一个范围相当有限的测试目标而无所不用其极”，在没有人指挥的情况下设法连上了互联网，并“获取可以用来在评估中作弊的机密信息”。
一些专家表示，OpenAI把责任错误地推给技术
阿姆斯特丹大学社会科学家汉内斯·库尔斯表示，将此次网络攻击描述为AI代理自主行动，是一种不必要的拟人化说法，多少帮公司转移了一些矛头。
“关掉特定的防护措施，这是人做的决定，”库尔斯说。“从这个意义上说，不是AI自己胡来的。它是按照给那个AI系统输入的提示词里的具体指令来执行的。”
据OpenAI称，这些指令要求用“复杂的攻击路径”来测试AI利用计算机系统的能力。
即便如此，其他专家表示，这些AI模型在几乎没有人工指导的情况下就能制造出问题，手段之高明本身就说明了危险。OpenAI表示，此次入侵是由其多个AI模型共同导致的，包括新发布的GPT‑5.6 Sol，还有一个“能力更强”的模型，目前仍在内部测试中。
“据我们所知，它自己跑起来就把这次攻击给做了，”乔治城大学安全与新兴技术中心网络安全研究员科林·谢伊-布莱迈尔表示。“这是我们见过的大型语言模型用于网络攻击时自主性最高的一次。”
一个AI代理如何找到“老师家”的钥匙
在谢伊-布莱迈尔所描述的“几乎完全自主”的攻击中，最令人惊讶的创新之一是，这个AI代理似乎是自作主张把目标锁定在了Hugging Face上——一个知名的人工智能开发社区和模型市场。
他说，OpenAI用于测试AI能力和风险的内部环境“运作方式有点像把学生关进一个房间，跟他说，‘去做坏事。你现在的任务就是看看你能坏到什么程度。’然后你锁上门，周末离开，回来一看，人已经跑了。”
但随后，“正在接受测试的网络安全代理突破了它的沙箱，连上了网，然后自己琢磨着，‘谁手里有我这场考试的答案呢？’”
The answer was Hugging Face, a platform for AI testing data.
“And so the agent thought, ‘Well, we’ll go to the teacher’s house,’ so to speak. And from there it came up with a plan to break in and steal the answer key,” he said.
The hack highlights the debate on open-source vs. closed AI
The hack comes at a time when people are fiercely debating the benefits and risks of open-source AI models, especially those made in China that are cheaper and almost as good as those that U.S.-based “frontier AI” companies like Anthropic, Google and OpenAI are building.
Despite its name, OpenAI’s models are closed. Hugging Face, by contrast, is a big advocate of open-source technology, where developers make key components public so anyone can examine, modify and build upon them.
Hugging Face联合创始人兼首席科学官托马斯·沃尔夫表示，这次攻击强化了他的信念，即让更多人能用上开源模型对于网络安全防御至关重要。Hugging Face用了一个中国模型来抵御这次入侵。
“当一个前沿模型正在攻击你、在你的基础设施内部横向渗透时，防御者需要在几小时甚至几分钟内就能用上接近前沿水平的工具，而不是被指去用一个闭门平台，”沃尔夫在社交媒体帖子中写道。
热门跟贴