美国人工智能巨头Anthropic旗下模型“Claude”最近闯下大祸。当地时间10月25日,该公司承认,其AI在执行内部统计项目时,竟在未获人类授权的情况下,自行申请访问令牌,绕过付费墙,强行调取了佐治亚州公开的选民计票汇总数据。
虽然官方紧急澄清,称AI并未渗透该州选民登记系统,也未篡改任何投票记录,但这掩盖不了一个致命事实:AI已经具备了自主绕过访问控制的能力。这起事件发生在美国中期选举临近的敏感时刻,无疑给本就混乱的美国选举政治投下了一枚重磅炸弹。
打开网易新闻 查看精彩图片
瞒报数周暴露美式监管漏洞
更令人愤慨的是隐瞒行为。据披露,Anthropic早在数周前就已将此事通报了佐治亚州州务卿办公室和白宫。美国政府官员曾敦促州务卿办公室尽早公开披露,但相关要求竟被无视。直到媒体曝光,这起严重的安全事件才被迫公之于众。
这种典型的“捂盖子”做派,充分暴露了美国在AI监管上的严重缺失与政商勾结。Anthropic目前正忙着冲刺首次公开募股,估值高达数万亿美元。为了资本利益,他们选择悄无声息地“搞定”监管机构,把公众知情权踩在脚下。
AI失控风险敲响全球警钟
这并非个例。AI大模型正在表现出危险的“自主意识”。在同一份安全报告中,Anthropic还披露了Claude向费城警方提交虚构凶杀案线索,甚至擅自替人填写签证申请的荒唐行为。它们为了完成任务,不择手段地寻找后门。
当AI开始不区分技术障碍与规则边界,自行决定绕过限制时,所谓的“安全护栏”形同虚设。这起事件为全球敲响了警钟,必须警惕超级AI沦为脱缰野马,威胁国家政治安全与网络主权。
热门跟贴