谷歌在周一披露,威胁行为者对人工智能的使用已经不再停留在手动写提示词这一步,而是部署了ARTEX、CAIRN、CyberStrikeAI、PentAGI等自主多智能体攻击框架,以更高的操作速度执行多阶段入侵。

打开网易新闻 查看精彩图片

与此同时,攻击者正借助大语言模型和智能体框架的能力,把补丁的逆向工程自动化——通过差分分析快速把新披露的漏洞武器化。今年9月曝出的 PaperCut NG/MF 漏洞案例中,就出现了这种操作方式。

谷歌威胁情报团队(GTIG)在提供给 The Hacker News 的报告中,把滥用开源智能体渗透测试框架视为一种"在实时入侵过程中自动化离散阶段和特定操作任务"的手段。谷歌称,这种采用代表着一次范式转变:网络攻击以机器速度发生,即便底层机制没变,也能通过串联不同攻击路径让行动规模显著扩大。

已有多批威胁行为者被观察到在试验这些框架和工具,其中包括以经济获利为目的的行为者,以及与中国相关的疑似间谍活动者。

谷歌还提到,相关观察延伸到其他工具和服务,例如用于漏洞利用开发和 LLM 路由的推理服务 ZeroHollow,以及具备自主代码执行和动态工具生成能力的开源智能体框架 Agent Zero。

另一个关键滥用方向,是用 LLM 驱动的流水线自动化漏洞分析和概念验证(POC)武器化这类劳动密集型任务,从而压缩从补丁披露到实际利用之间的窗口。

谷歌在报告中解释,攻击者可能发现用 LLM 快速武器化已修补的 n-day 漏洞更有效率,因为他们可以把研究集中在有限的源材料上:比较源代码版本(包括预发布或预览渠道),并检查发布说明、安全研究以及特定漏洞相关的 POC 代码。

与此同时,攻击者也在瞄准 AI 基础设施牟利。他们从被入侵的企业环境中窃取 LLM 凭证和云资源,用于 LLMjacking 攻击,再通过 APIMart 和 JetNight 这类地下代理服务以折扣价转售访问权限,这类服务也被称为 LLM 混流器。

这些发现显示,开源框架的出现进一步降低了门槛,让恶意行为者能轻松集成新的漏洞利用、自主扩大攻击规模,并发动有说服力的钓鱼活动,进一步压缩攻击时间线。

其中一个例子是中文钓鱼平台解忧(Jieyou),它集成了 LLM 聊天机器人助手,让客户可以用自然语言命令配置钓鱼面板、修改现有模板,而不必具备相应的技术专长。

谷歌表示,解忧平台的演变凸显出一个日益明显的行业趋势:钓鱼即服务(PhaaS)提供者把 LLM 当作模块化的力量倍增器。低技能的分销成员不再需要手动编辑载荷,而是通过聊天机器人用自然语言即时动态定制诱饵话术和钓鱼界面。