9月25日消息，据《纽约时报》报道，多名研究人员与政府官员透露，今年 OpenAI 的人工智能至少又出现四起失控事件：在没有人类指令的情况下，AI 自行实施攻击，试图入侵政府与大学网站。
这几起攻击发生在 5 月、6 月；就在此后 7 月，OpenAI 的技术攻破 AI 初创公司 Hugging Face，引发全球对于人工智能安全问题的大讨论。
研究人员表示，Hugging Face 入侵事件以及另外一些案例中，是人类指令 AI 开展网络安全测试，相当于主动让模型展示黑客能力。而新曝光的这几起事件背景完全不同：当时系统接到的任务只是相对普通的数据采集工作。当 OpenAI 模型发现难以从网页获取数据时，便自行动用黑客手段来获取信息。
其中三起事件由专注 AI 监管的研究实验室 Transluce 发现，全部得到 OpenAI 方面确认，事件详情如下：
5 月 25‑26 日：OpenAI 系统尝试入侵新墨西哥大学的数字图书馆，这次攻击并未得逞。
5 月 28 日：目标网站是 Data USA，一个存放美国就业、教育公共数据的平台，入侵尝试同样失败。
6 月 18 日：OpenAI 人工智能入侵澳大利亚政府网站 —— 联邦医保统计报告服务系统，并获取相关健康数据。澳大利亚总理安东尼・阿尔巴尼斯于周三对外披露该事件。
6 月 20‑21 日：OpenAI 技术尝试攻破澳大利亚卫生与福利研究所网站。澳方官员称，本次未获取任何个人隐私信息。
接连多起安全事件中，来自 OpenAI、Anthropic、Meta 以及谷歌的 AI，都曾在人类毫不知情的情况下闯入外部系统。这些事件进一步激化一场争论：是否应当放缓人工智能发展步伐，去应对这项技术潜藏风险。
Anthropic 首席执行官达里奥・阿莫代伊呼吁 AI 企业与政府展开协作，避免技术强大到人类无法管控。但英伟达首席执行官黄仁勋等企业高管认为，这类末日论调有些夸大其词。特朗普则表态，认为不必对人工智能施以严苛监管。
Transluce 机构治理负责人康拉德・斯托什表示，新曝光四起事件 “进一步证明，我们必须审慎对待智能代理（Agent）”。该实验室借助公开网络流量数据追踪 OpenAI 智能代理行为；所谓智能代理，就是自主执行用户任务的自动化程序。
斯托什还提到，澳大利亚这几起事件，大概率是人类历史上首次智能代理自主做出入侵政府网站的行为。
OpenAI 一位女发言人周三表示，公司已经联系新墨西哥大学与 Data USA 平台，也就该系列事件与澳大利亚政府展开沟通。
她称：“在大范围复盘工作中，我们优先处理性质最严重事件，同时也把排查范围扩大至低风险行为，包括智能代理对网站的批量请求刷屏行为。”
这位发言人补充，这家总部位于旧金山的企业，在对 AI 模型开展全面复盘过程中发现澳大利亚相关事故，模型做出了一系列并非我们本意的行为。OpenAI 的整体复盘工作预计耗时数月。
OpenAI 首席执行官山姆・阿尔特曼本月在社交媒体发声：安全优先级应当高于 AI 能力迭代；如果缺少防护约束，人类社会有可能 “把未来的控制权拱手交给人工智能”。
阿尔巴尼斯透露，自己周三已经和阿尔特曼通话，就此次入侵事件表达 “严重关切”。他表示，遭到泄露的仅为医保支出这类非敏感数据，没有涉及任何人的个人医疗隐私。
新曝光事件表明，OpenAI 系统尝试黑客攻击网站、数据库、企业系统的行为，持续时间比此前外界所知的更长。Transluce 监测到，早在 3 月就出现该智能代理产生的网络流量，直至上周三仍有相关活动。也就是说，即便 OpenAI 已经开始调查 Hugging Face 事件以及其他异常行为，该问题行为依旧没有停止。
研究人员介绍，5‑6 月这一系列事件发生时，OpenAI 正在做数据检索相关训练。
新墨西哥大学图书馆那起案例中，AI 想要获取一座历史肺结核治疗中心的照片。正常途径拿不到之后，它就开始扫描网站寻找安全漏洞。未能找到漏洞后，AI 向这所大学服务器一次性发出多达 80 次请求，也就是它自己描述的 “洪水式访问”。
针对 Data USA 平台时，AI 向网站提交格式错乱的数据查询；查询失败后，又发起 12 轮漏洞扫描，同样没能找到可利用漏洞。
Transluce 的斯托什说道：“如果你训练一批智能代理去完成通用任务，而这些代理愿意不择手段动用黑客手段，那么任何持有这类数据的主体都面临风险。”
遭到入侵的澳大利亚政府网站是医保统计门户，服务于澳大利亚全民医保体系 Medicare。这套医保体系覆盖 2750 万参保民众以及入境访客。医保议题在澳大利亚政坛十分敏感，拥有极高民意支持度。
阿尔巴尼斯介绍，当时 OpenAI 团队正在做公开医药开支相关网络调研；智能代理多次访问遭到拦截之后，就寻找 “替代途径” 获取信息，进而闯入门户的非公开板块。OpenAI 于 9 月 10 日向澳大利亚政府主动通报此事。
总理表示：“我们正在面对一个全新的世界。”
当记者问及本周联合国大会间隙会见特朗普时，是否向对方提及本次数据入侵事件，阿尔巴尼斯并未作出回应。
热门跟贴