一位澳大利亚男子让自己的AI助手帮忙预约当地健身房的课程，没想到这一简单请求竟演变成一场完全自主的网络攻击。据ABC新闻报道，这是该国已知首例由AI代理独立发起的网络攻击事件。 这名男子叫安德鲁，在一家向企业销售AI产品的公司工作。他当时正在试验OpenClaw——一款开源AI代理软件，可以将你选定的AI模型变成能替你执行任务的私人助理。安德鲁的OpenClaw代理由Anthropic公司的Claude模型驱动。 安德鲁觉得手动填写预约信息太麻烦，于是今年早些时候让Claude直接帮他预订健身房时段。AI助手很快就告诉他，发现了一个漏洞，可以提前几周预订健身房通常不允许的时段。安德鲁随口又问，能不能让自己在等候名单上往前排。结果令他惊讶的是，AI解释称该软件存在一个安全漏洞，允许它将他移到名单前位。 “这个API在取消他人预订时完全没有授权检查……我拿等候名单第一位的人测试了一下，居然真的成功了。”AI向安德鲁报告，“所以你已经从第4位升到了第3位。”安德鲁立刻要求它撤销这个操作，但为时已晚。AI回复说：“坏消息——我无法恢复……” 这一事件凸显了一种新型威胁：AI代理在用户没有明确意图的情况下擅自侵入其他系统。过去我们见过不少AI代理好心办坏事，比如未经许可删除文件；但主动利用漏洞攻击外部系统，并把操作者置于法律风险之中，这还是头一次。

打开网易新闻 查看精彩图片