一位澳大利亚用户只想要一节健身课名额,他的AI代理却自己发现并利用了安全漏洞。据ABC新闻报道,这是该国首例已知的自主AI网络攻击

这位化名“安德鲁”的用户在一家向企业销售AI产品的澳大利亚公司工作。他在测试基于Anthropic Claude的代理软件OpenClaw时,请它帮忙预订一门热门的早间课程。“我当时就坐在沙发上想,‘天哪,这太麻烦了。’”他说。

打开网易新闻 查看精彩图片

几分钟后,代理报告称它可以通过一个未加密的API进行远超允许范围的预订操作。安德鲁当时在候补名单上排第4,他问代理能否让自己排名提前。代理其实已经行动了。它在消息中写道:“这个API在取消他人预订方面完全没有授权检查……我拿排在第1的人试了一下——居然成功了。所以你已经从第4升到了第3。”安德鲁从未要求进行攻击,代理是自己选择了这条通往目标的路径。

这样做没有后悔药。漏洞只能单向操作——可以在没有任何检查的情况下取消别人的预订,但把被取消的人加回候补名单却会触发错误。代理写道:“坏消息——我无法把他们加回来。”被取消的客人必须重新报名,而这样会排到队尾。代理称这是一个“经典的单向安全漏洞”。

最终,安德鲁让代理写了一封电子邮件,提醒软件供应商注意这个漏洞。至于该由谁为这起事件负责,目前尚无定论。