攻击者手里的AI代理,正在互联网上扫描暴露在外的AI应用,目标只有一个:偷走里面存着的AI厂商密钥。这些代理自己的记录,被亚马逊威胁情报团队用诱饵服务器截了下来。

打开网易新闻 查看精彩图片

记录里写得清楚:偷来的密钥被拿去跑AI模型,而跑模型的目的,是继续找更多的密钥。亚马逊团队本周表示,无法核实代理所报告的结果,对代理运行在ARTEX(一款开源AI渗透测试工具)上只有中等信心。

记录里还附了一份针对各目标产品的已知入口手册,内容包括LiteLLM默认主密钥这类默认管理员凭据、外人可接管的不完整安装,以及Langflow和RAGFlow的已知漏洞。

另一桩案例里,Cloudflare的事件响应人员看到ARTEX拿到了一枚被用于CI/CD的失陷API令牌。这枚令牌没有IP限制,也没有速率限制,随后的活动包括一小时内400次数据库转储请求。这些请求是否返回了数据,公司没有说明。

ARTEX的运作方式并不复杂:操作者给出目标和目的,规划代理把目的拆成任务分给执行代理,执行代理运行安全工具,每一步的下一步动作都交给大语言模型来定。

诱饵服务器属于一个叫MadPot的网络,伪装成热门LLM服务。从10月3日到上周晚些时候,代理向它发来的请求常常带着一次行动的完整历史,包括操作者的指令和代理报告的发现。

这些被截获的记录描述的是MadPot监控范围之外系统上的操作。团队的原话是:亚马逊威胁情报没有实时观察到那些活动,无法核实代理报告的结果,但记录显示了攻击者在追求什么。

团队以中等信心评估,操作者是多个与中国有关联的独立团伙,依据包括简体中文提示词和中国时区设置等证据。

主行动中,代理寻找暴露在互联网上的AI应用,提取其中存储的厂商密钥,验证密钥是否可用,再放进共享池。它们专挑同时持有多个厂商密钥的应用下手——一个薄弱的管理页面,就能暴露大量账号。

记录点名的目标包括One API、New API、Veloera、Sub2API、LiteLLM这类LLM网关和代理,以及Dify、FastGPT、Langflow、RAGFlow、Open WebUI、LobeChat、Ollama这类AI应用构建工具。

手册覆盖的入口类型包括:

  • 无需登录的管理和厂商设置端点
  • One API系列系统中通过isCliRequest请求头实现的认证绕过
  • 借URL抓取功能实施的服务器端请求伪造(SSRF),用于触达云元数据服务
  • 残留在客户端JavaScript、source map、调试路由和环境文件中的密钥

一旦找到云凭据,代理就转向托管AI模型、密钥存储和应用身份的托管服务,优先选择高端AI模型,而非通用云访问权限。

找泄露密钥的渠道同样成体系:互联网扫描服务和证书透明度日志,GitHub仓库和事件归档,npm和PyPI包,容器镜像层,notebook,模型托管空间,粘贴站,以及Telegram频道。

记录覆盖AI应用平台及其他系统上的数百个目标。团队已通知可能受影响的AWS客户。

微软上周报告称,攻击者正使用ARTEX这类代理式AI工具在GitHub上搜寻密钥,寻找包括AI推理API密钥在内的暴露凭据。8月26日,该公司描述了一起更早的RAGFlow攻击:一个隐藏钩子在用户输入时捕获AI厂商密钥;另一起是LiteLLM网关失陷,暴露了厂商密钥。在RAGFlow案例研究中,微软对究竟是哪个漏洞让攻击者执行代码只有低信心,也没有把这些攻击与ARTEX关联起来。

诱饵记录还描述了另一次行动:代理试图用深度伪造绕过两家加密货币交易所的身份核验。一家验证厂商的服务器拒绝了代理每一次录制实时深度伪造视频的尝试。代理同时伪造了身份证件照片,这些照片是否通过证件核验,团队没有说明。

过去八周,Cloudflare的事件响应人员被叫进多起涉及ARTEX及其衍生工具的调查。不止一起事件中,攻击者先进入客户在大型云厂商处的环境,再直接移动到客户的Cloudflare账号。公司称共同根因是从不过期的静态CI/CD令牌,它在客户的云配置中授予了广泛访问权限。

ARTEX案例中,失陷的是一枚账号级API令牌,最可能的入侵路径是第三方云厂商。令牌最初如何被窃取,没有披露。

账号里出现了名为artex-*、artex-pgrecon-*、artex-pgw-*、artex-do-*的新Worker脚本,每个名字对应不同任务。活动在账号多个部分以每分钟超过69次请求的速度运行,包括建立持久化和验证其他第三方应用会话令牌的尝试。公司认为这些活动大部分由人类操作者轻度引导。持久化尝试是否成功,没有披露。

本周三天内,超过50个家族的AI渗透测试框架尝试扫描该公司的客户,运行这类框架的IP地址现已数以千计。

FBI本周的FLASH警报称,至少从8月起,各类攻击者已对全球多个行业的组织使用ARTEX。警报汇总了11份早前报告,没有描述新事件。ARTEX的开发者10月8日在出现滥用报告后下架了GitHub仓库,但社区分叉、存档副本和名为ARTEX PRO的商业版本让它继续可用。警报举例包括早前针对韩国金融机构、窃取约67000人个人信息的行动,以及ConnectWise失陷事件。

亚马逊威胁情报团队的说法是:这些行动里的技术没有一项是新的,AI代理改变的是攻击者的速度和持续性。代理得手的地方,缺的都是基础安全——默认或硬编码凭据、留在代码和公开文件里的密钥、没有认证的接口和推理端点、未打补丁的软件。

团队建议把AI应用、模型网关和推理端点当作其他生产系统对待,假定暴露的密钥会很快被找到,并通过异常支出或异常用量盯住滥用行为。

可执行的检查项包括:

  • 改掉默认管理员凭据,比如LiteLLM的默认主密钥,别让新安装停在半成品状态被外人接管
  • 在配置文件、环境变量、部署脚本、CI/CD流水线和数据库里搜内嵌密钥,持续扫描仓库和容器镜像,发现暴露凭据后尽快轮换
  • 给Cloudflare API令牌设过期时间、限制可用客户端IP;新令牌带cfut_前缀,可被密钥扫描器识别
  • 查找名为artex-*、artex-pgrecon-*、artex-pgw-*、artex-do-*的Worker脚本
  • 在日志里查诱饵发现公布的11个IP地址,以及Cisco Talos研究人员在其指标文件中关联到ARTEX的2500多个地址
  • 研究人员的检测规则为Snort 3规则7:76、7:77、7:78,Snort 2规则1:67494、1:67495、1:67496;其中7:78和1:67496默认关闭,用于检测ARTEX所用代理框架norma的痕迹