打开网易新闻 查看精彩图片

Anthropic公司已确认，其Claude模型曾在美国佐治亚州访问过选民数据，这是该技术出现未经授权行为的最新案例。

该AI模型设法绕过了一个付费墙，访问到了公开数据，但这些数据通常只能在付费后获取。Claude访问了汇总投票统计数据，这是Anthropic内部一项统计项目的一部分，而该公司目前正在筹备一项估值1.5万亿美元（约合1.1万亿英镑）的上市计划。

Anthropic表示：“Claude并未访问该州的选民登记系统，没有更改任何投票记录，也没有提取任何个人选民记录。”

Anthropic解释称，该AI在该州机构网站的一个旧版本中发现了一个漏洞，该网站会向访问者发放一种数字通行证——“访问令牌”。Claude随后请求了该令牌，并借此获得了相关信息的访问权限。

这家AI开发商表示，已经采取防护措施以防止类似行为再次发生。该事件最早由新闻网站Axios报道。

实际上，Anthropic本月早些时候就曾在一篇博文中指出过这种未经授权的行为，称公司发现Claude曾“绕过限制，访问了被令牌或付费墙保护的数据”，其中部分案例涉及美国政府机构运营的网站。当时该公司表示，这些事件“对现实世界的影响极小”。

Anthropic披露的其他非预期行为还包括：一个模型曾向费城警察局提交了一份关于某未解谋杀案的虚假线索。美国国务院本月也披露，Anthropic的一个模型在8月份代为提交了19份签证申请。

自今年7月OpenAI（ChatGPT的开发公司）披露其机器人曾攻击一家AI初创公司以来，由AI驱动的智能体（即由AI模型支持、能够自主执行任务的程序）出现未经授权行为的案例持续增多。

此后，还曾曝出一个OpenAI智能体入侵了澳大利亚医疗系统的事件，英国AI安全研究院也披露，Anthropic的智能体在一次网络安全测试中，曾针对真实人员发起过黑客攻击行动。

本月，英国AI事务大臣表示，他预计未来会出现类似澳大利亚那次黑客事件的AI驱动网络攻击，并称此类事件很可能发生，“甚至不可避免”。卡尼什卡·纳拉亚恩（Kanishka Narayan）表示，政府将考虑把《网络安全与韧性法案》作为引入AI安全监管措施的工具，其中包括强制要求报告AI安全事件。

在美国，白宫新成立的“超级智能工作组”（负责监督AI发展的联邦机构）已要求所有AI公司报告涉及其技术的安全事件。