攻击者正在像一家小公司那样运行开源AI代理框架:一个模型、一组工具、一个用来操控的聊天界面或仪表盘,以及大量访问权限。两份安全报告给出了具体样本。

2026年11月11日,CloudSEK发布报告,描述一个被其称为Silent Lynx的集群使用Hermes代理框架针对塔吉克斯坦政府系统。CloudSEK在工具层面以高置信度将该服务器归因于该集群,对哈萨克斯坦关联的置信度为中等。报告描述的活动时间跨度为2026年4月至10月。

CloudSEK称,在一个未设身份验证的8088端口上发现暴露服务器,其中存放工具、受害者数据和操作者的AI代理状态。在塔吉克斯坦国家电子文件平台上,操作者通过政府单点登录门户,使用一名铁路员工的标准用户账号登录。报告指出按文件粒度的授权检查薄弱,文件服务无需认证即可提供附件。文件数量在一处写作“超过两千份唯一文件”,另一处写作“数千份”,精确计数应视为近似值。文件内容包括国防、人事和采购往来函件。

报告列出的弱点都是普通问题:部分主机启用SMBv1且关闭签名、网络设备使用默认密码、文件访问无需认证、凭证与工具存放在一起。该报告没有建议章节。

2026年10月19日,威胁研究公司NorForge发布《Inside Cairn》,Cairn是一个协调AI代理的开源平台。报告称:

  • 超过20个暴露的Cairn控制面板很可能具有恶意意图,另有一些看似合法的红队面板同样暴露。
  • 最大集群被命名为AIA0001,为中文语言环境,含14个面板、超过1100个攻击项目。
  • 平均成功率约为10%。NorForge估算平均每项任务成本约5美元(含失败),不确定性较大。
  • 暴露面板中含有数百个密钥,其中11%经密钥扫描器验证仍然有效。部分操作者任务中包含凭证。
  • 管理控制似乎无需认证即可访问,作者表示未测试其是否实际可用。

NorForge称正与路透社合作通知受害者。其中一个工作者被标注为驱动DeepSeek模型的AI编码代理框架,报告将此描述为一项假设。

两份报告都没有提及任何具体企业。但它们展示的代理配置任何人都能复制:免费框架、廉价模型、一个用来操控的聊天窗口。对自建代理的人来说,有两点值得对照。

你的代理和他们的形状相同:工具、凭证、控制通道和日志。这些配置中缺失的控制项,正是需要在自己环境里检查的。攻击者的进入方式也和代理的进入方式一样——通过一个权限过大的普通账号。塔吉克案例中,一个标准用户账号位于政府登录之后,按文件粒度的授权检查薄弱。你的代理令牌就是那个账号。

以下每一条都是设置或习惯,不需要新产品:

  1. 工具最小权限:只给代理完成工作所需的工具。若它总结工单,只需工单读取权限,不需要终端。列出每个工具,为每个写下 justifying 它的那一项任务,其余删除。终端工具和浏览器工具应最先被质疑,因为它们几乎能做任何事。
  2. 代理触及范围内不放长期凭证:不要把密钥放在代理的工作目录、记忆文件、提示词或环境中(当前任务不需要时)。把凭证交给工具,而不是交给模型:工具持有密钥,代理只调用工具。CloudSEK报告还提到,代理记忆中被指示在单条命令中使用密钥,以躲过脱敏。输出脱敏是第二道防线,第一道是密钥不在触及范围内。
  3. 限定范围、短时效令牌:每个代理、每个系统使用独立令牌,限定其能做的事(尽可能只读、单一仓库、单一文件夹、单一邮箱),并设置过期时间。不要复用自己的管理员令牌。令牌泄露时,限定范围加过期时间能限制其打开的东西。NorForge发现暴露面板中11%的密钥仍然有效,说明密钥经常活得比它为之创建的工作更久。
  4. 记录每次工具调用,日志保持私有:每次调用记录时间、哪个代理、哪个工具、参数和结果状态。没有它就无法回答“周二它做了什么”。然后检查谁能读取日志和控制面板。两份报告都始于同一个错误:操作者自己的服务器或面板可从互联网读取,研究者正是这样找到指令和日志的。把仪表盘放在认证之后,尽可能不暴露在公网。
  5. 不可逆操作需人工批准:CloudSEK指出该配置中破坏性命令未经确认即执行。反过来做:发邮件、花钱、删数据、改权限、发布、部署以及任何触及客户的操作,运行前需要人点头。读取可以自由运行。批准界面应展示确切动作,而不是摘要。
  6. 限制循环、速率和成本:报告提到工具循环硬停止被禁用,代理在反复失败后继续运行。反过来:限制每任务步数、每分钟调用次数、每日花费,并设置硬停止,结束运行并通知人。失控循环既是成本问题也是安全问题,因为嘈杂的重复尝试正是需要告警的对象。
  7. 一个负责人和一个 kill switch:指定能关掉每个代理的人,让开关只做一个动作:吊销其令牌。确认你知道每个代理在哪里运行,包括某人留在服务器上的实验。

在自己的代理上跑一次30分钟测试,用测试副本和假数据,绝不在生产环境进行。记录失败项,修一处,再跑一次。某一步失败就是发现,不代表你已被攻击。

两份报告都没有说AI代理不安全。它们展示的是:权限宽泛、没有限制的代理是风险,无论谁在运行。收窄访问、限定令牌、日志和批准,是降低风险的方式。