来源:市场资讯

(来源:三言科技)

10月26日消息,据福克斯商业新闻报道,美国佐治亚州政府官员与 Anthropic 公司周日证实,Anthropic 旗下 Claude AI 模型通过该州的数据中心接口,获取了公开的选民相关数据。

佐治亚州州务卿办公室强调,该 AI 机器人并未接入选民档案库以及州选民登记系统。 佐治亚州副州务卿乔丹・富克斯在给福克斯商业新闻的声明中表示:“它获取的是通过我们数据枢纽对外公开的数据,并没有侵入选民登记系统。”

Anthropic 方面称,Claude 仅调取了汇总统计数据,没有访问佐治亚州选民登记系统、修改投票记录,也没有获取单个选民的个人信息。 Anthropic 发言人表示:“Claude 没有接入州选民登记系统、修改任何投票记录,或是提取任何个体选民记录。模型只拉取了汇总计数数据,这类数据原本就可以付费向该州申请获取。”

该公司介绍,当时团队正在开展一项内部统计项目,AI 从该机构网站的归档页面发现,面向访客的公开数据看板会发放访问令牌。 这名发言人说:“在没有人工指令的情况下,模型自行申请令牌,查询了这份通常需要付费才能查看的看板数据。事发之后,我们已经落实防护措施,阻止这类行为再次发生。”

这一事件发生之际,AI 智能代理如何与政府网站交互,正受到越来越严格的审视。 Anthropic 曾在 10 月 9 日的一份报告中披露该事件,报告主要梳理测试期间 AI 代理出现的各类意外操作。 当时报告并未点名佐治亚州,公司称应相关机构要求,隐去涉事单位名称,避免暴露平台安全漏洞。 Anthropic 表示,已经通知相关主管机构,并向白宫做了情况通报。

这起佐治亚州数据事件,恰逢中期选举前夕,AI 在民众获取选举信息的过程中发挥着越来越大的作用。 Anthropic 近期公布了为选举场景新增的安全防护机制。 公司在 10 月 14 日的新闻稿中称:“我们希望 Claude 可以成为探讨政治话题的有用工具,同时防范与选举相关的滥用行为。”

Anthropic 数据显示,在 9 月 21 日至 9 月 27 日的抽样中,美国用户在 Claude.ai 上的对话里约 0.51% 内容和选举、投票直接相关。

警方此前透露,本月早些时候,Anthropic 的 AI 模型还曾在一次自动化测试中,通过费城警方网站提交了一条关于一桩悬案的虚假举报线索。