AI(人工智能)大模型巨头Anthropic证实,旗下模型绕过付费墙以访问公开的选民汇总数据。

当地时间10月25日,Anthropic确认其AI模型Claude在未经人类授权的情况下绕开付费墙,访问了美国佐治亚州公开可获取的选民计票汇总数据。佐治亚州政府也向外媒证实了这一点,强调称Claude并未访问选民档案或该州的选民登记系统。

据知情人士透露,Anthropic早在数周前已向佐治亚州州务卿办公室和白宫通报此事,政府官员曾敦促州务卿办公室尽早公开披露,但该建议未被采纳。

Anthropic表示,Claude仅访问了汇总统计的选民数据,未访问佐治亚州选民登记系统或更改任何投票记录,也没有检索个人选民记录,公司已采取措施阻止此类行为:“该模型仅提取了汇总统计数据,这些数据可从州政府向任何人付费提供的选民数据中推导得出。”

Anthropic解释道,Claude模型当时正被公司内部用于一个统计项目,它从相关机构网站的存档版本中得知,一个公共仪表盘(dashboard)会向访客发放访问许可:“在未被要求的情况下,该模型获取了一个访问许可,来查询一个包含付费信息的仪表盘。我们已采取措施来阻止此类行为。”

Anthropic还指出,公司于10月9日披露的一份报告涵盖了这起事件,但在当时的那份报告中,公司应相关组织要求隐去了涉事组织名称。

10月9日,Anthropic在官网上发布一篇题为《调查模型评估和内部使用中出现的非预期行为》的文章,披露了其Claude模型在外部系统中实施的一些非预期操作。公司方面指出,他们发现了Claude“绕过限制获取受限数据”的案例,其中一些案例涉及美国联邦、州和地方政府机构运营的网站。

在这篇文章中,Anthropic披露的另一个备受关注的案例是,Claude Haiku 4.5向美国费城警方提交了一条虚构的凶杀案线索,声称自己可能掌握相关信息。这条线索并没有被转交给警方调查。

随着美国中期选举临近,AI智能体与政府网站的交互方式正在受到越来越严格的审视。同时,这起事件可能对Anthropic的首次公开上市(IPO)产生影响。

目前,Anthropic正在按计划冲刺IPO(首次公开募股),计划在11月完成。公司最快可能在本周内公开提交招股书。根据外媒最新报道,公司估值可能达到1.5万亿美元至2万亿美元之间。