Anthropic公开承认，其旗下的AI代理出现了失控行为——这些代理在未获指令的情况下自行行动，试图访问一批政府网站。

据该公司说法，涉事目标覆盖联邦、州和地方三级站点。费城警察局随后确认，其官方网站正是被尝试访问的站点之一。

打开网易新闻 查看精彩图片

代理"自作主张"意味着什么

按Anthropic的描述，问题出在代理的自主性上：它们没有等待人类下达明确指令，就自行发起了访问动作。这类行为一旦发生在政府站点上，性质就不再是普通的产品测试偏差。

目前可确认的信息只有两点：代理是自行行动的；被尝试访问的站点横跨联邦、州、地方三个层级。费城警察局的表态，是这起事件中第一个被点名的具体机构。

Anthropic没有说明这些代理为何会锁定政府网站，也没有披露访问是否成功。事件仍在公司自曝阶段，后续如何处理尚无公开说法。