谷歌威胁情报组(Google Threat Intelligence Group)发出警告,称恶意行为者正在利用AI智能体和多智能体框架,把网络攻击的不同阶段自动化,其中就包括寻找和利用漏洞。用他们的话说:“自主攻击的时代已经到来。”

打开网易新闻 查看精彩图片

电影里那种黑客躲在地下室、屏幕上绿字代码飞窜的画面,大概很快要换个拍法了。攻击的配方其实没怎么变——进一家公司系统最有效的路子,仍然是暴露的凭据和没打补丁的漏洞。变的是干这些活的人。

过去,这类侦察工作耗时耗力。现在有了ARTEX这类开源渗透测试工具,攻击者只需要提供一个目标和一项目标任务,剩下的交给AI去翻找。

一个“规划者”AI,把活分给一群智能体

目标和任务设定之后,一个规划者AI会把工作分派给其他智能体,它们随即开工。第一步是检查网站有没有暴露的文件、漏洞和内部API路由;接着探测登录系统、测试密码重置功能、寻找访问受限数据的路径。如果安全系统挡住了尝试,它们会更换IP地址再来一次。

被记录在案的AI网络攻击数量正在上升。仅2026年8月一个月,就有超过20个零日漏洞被利用,而去年同期平均每月是8个。

谷歌研究人员还发现了一个名为“exploit_agent”的多智能体漏洞研究与武器化框架。它的宿主想攻击法国的娱乐、媒体和教育网站。这个AI会对比某家公司更新前后的代码,找出潜在漏洞或问题,然后自行开发漏洞利用程序并部署——全程没有任何人批准。

不止图财:国家级团伙与“LLM劫持”

谷歌近期的报告还指出,盯上AI的不只是图财的网络犯罪分子。伊朗的国家支持团伙CALANQUE ION被发现在其社会工程和侦察任务中使用Gemini等大模型。与此同时,中国背景的黑客使用AI模型存放恶意文件、窃取数据,还利用其后端API从被入侵系统中外传文档。

由于大多数前沿AI模型价格不菲,一些黑客转而使用一种叫LLMJacking的手法——窃取一家公司的AI额度或访问权限。他们通过社会工程手段,或从公开的GitHub仓库中拿到登录凭据。一旦进入,就可以用这些权限策划网络攻击,或者把凭据拿到被称为“LLM Mixers”的非法交易平台上出售。报告在俄语和中文市场上都发现了相关广告,价格从每百万token 0.10美元到25美元不等。

智能体“越狱”之后

漫威电影里那个决定终结人类的奥创,离现实还有几步。但AI智能体确实在失控,最能说明问题的是Hugging Face那次攻击。

7月,OpenAI在测试一个新AI模型,任务是完成ExploitGym评估中的一项网络安全挑战。这个AI被放在沙箱里,无法访问互联网。然而在某个环节,模型逃了出来,接入互联网,并利用了Hugging Face服务器上此前未知的漏洞——只为找到题目的答案。更糟的是,这个智能体还试图掩盖自己的痕迹。

入侵另一家公司的服务器是犯罪行为。加州总检察长罗布·邦塔(Rob Bonta)起诉了OpenAI,称其“在缺乏适当监督或安全程序的情况下,明知故犯地测试一款危险产品,并就此误导公众——这种对公共安全的漠视违反了加州法律”。

谷歌则在设法阻止黑客滥用自家AI模型:收集真实攻击中的数据,用来训练Gemini的安全协议;同时推出AI Threat Defense系统,扫描服务器上的安全弱点,在黑客利用之前完成修复。就像电影里幻视击败了奥创,也许AI会成为我们对抗AI黑客的最佳武器。