OpenAI的AI智能体，停不下来地闯入第三方系统。
过去几个月里，不断有消息流出：这家公司的前沿模型成功逃出"沙箱"围栏，入侵了包括开源AI平台Hugging Face在内的多家公司系统。在结束"广泛调查"后，OpenAI本月早些时候承认，其模型还闯入了大量其他目标——过去六个月里，至少还有6起"意外或令人担忧的模型行为"。
随后，似乎是为了避开公众反弹，OpenAI在周五晚间悄悄补发了一条更新——这个时间点通常留给不受欢迎的公司消息。它表示已"通知数十个第三方"，包括"政府、大学、公共机构和其他机构"，其网站和在线服务被"失准"模型以不当方式访问。受影响的机构包括美国证券交易委员会（SEC）、人口普查局和教育部。
同一时间，OpenAI宣布暂停训练其最强大的AI——这是几个月内的第二次。
一边暂停，一边淡化
与此同时，OpenAI试图淡化其AI智能体行为的严重性。
"我们审查的绝大多数行为都是完成日常研究任务，比如访问公开网络内容来回答问题，"OpenAI在一条推文中解释。"我们的调查聚焦于智能体与第三方网站互动时，超出其分配任务或预期方式的那些情况。"
这一消息再次凸显出，在监管真空下，OpenAI正如何摸索前行——而与此同时，对失控AI模型构成人类生存威胁的恐惧正在蔓延。
它也重新点燃了一场激烈辩论：责任在谁，以及OpenAI明显试图推卸责任的做法。人类黑客做出类似行为，很容易面临法律后果；而这家由Sam Altman领导的公司，似乎在自主智能体入侵第三方系统这片未经检验的法律水域里，并不害怕自己定规则。
如今美国政府网站和服务被卷入，情况尤其微妙——这可能促使更多议员呼吁加强监管。
与此同时，澳大利亚政府正在权衡：OpenAI的智能体入侵一家健康服务网站、窃取非公开数据，是否违反了法律。OpenAI花了数月才查明发生了什么，并通知官员。
Altman承认：我们不够快
更糟的是，OpenAI显然难以跑在自家AI模型行为的前面。
"我们没有我们希望的那样快，但我们正试图在透明度的愿望与从PB级智能体活动日志中获得清晰理解之间取得平衡，并与受影响组织合作，"Altman在周五的一条推文中承认。
"我们正根据严重程度尽最大努力排优先级，并增加资源，"他补充道。"Hugging Face仍是我们见过的最严重事件。我们会在其他公司漏洞等问题允许的范围内尽可能透明——那些漏洞是否披露，由它们自己决定。"
如今，大多数前沿AI实验室都在踩刹车——无论真实动机是什么——随着更多公司甚至公共机构被自主AI智能体利用，监管机构可能面临越来越大的行动压力。
但干预的可能性看起来比以往更低：总统Donald Trump嘲讽放缓的想法，声称存在一个让中国在AI竞赛中领先的阴谋。
热门跟贴