澳大利亚总理安东尼·阿尔巴尼斯在纽约联合国大会期间的一场边会上说，一家美国AI实验室的智能体"渗透"了澳大利亚的Medicare统计门户，并"访问了公开和非公开文件"。Medicare是澳大利亚的全民医疗保险项目。
阿尔巴尼斯表示，此次入侵中个人信息似乎未被访问，也没有证据显示网络遭到更大范围的破坏，但他同时指出"调查仍在进行中"。
"这种情况显然不可接受。"阿尔巴尼斯说，他已与OpenAI首席执行官萨姆·奥尔特曼通话，"表达了澳大利亚的极度关切"。
事发六月，通报却拖到本月
阿尔巴尼斯透露，入侵发生在六月，但这家科技巨头直到本月早些时候才通知政府，而且是通过一封发往通用"公共邮箱"的邮件完成的。
他特别强调，通报的延迟尤其不可接受。OpenAI对BBC的一份未署名声明称，公司直到八月审查模型异常活动时才发现此事。
OpenAI发言人奥斯卡·海恩斯对The Verge表示，公司的"审查未发现患者记录被访问的证据"，"被访问的信息包括汇总健康统计数据和内部文件名"。
海恩斯说，OpenAI已通知相关机构，并提供技术信息以支持其调查、处理潜在安全漏洞。"我们的整体审查仍在进行中，我们始终致力于在这些问题上保持透明，并在工作推进过程中分享我们了解到的情况。"
起因不是攻防演练，是一次"查答案"
与以往主要涉及系统网络安全能力测试的智能体事件不同，这次入侵源于一项更日常的任务——数据收集——出了问题。
海恩斯在给The Verge的声明中说，模型在一次内部评估中试图"查找答案"。"在此过程中，我们的模型采取了我们并不打算采取的行动。"
这一事件的时间线及其披露过程，很可能在企业行为与透明度的讨论中格外具有刺激性。
不止一起：另有三个网站被尝试入侵
周三，研究实验室Transluce还报告了另外三起与OpenAI智能体相关的失控AI活动。
该机构自称是"致力于对AI进行公共监督的非营利研究实验室"，称已发现证据表明OpenAI的系统曾试图入侵以下网站：
- 新墨西哥大学相关网站
- 澳大利亚健康与福利研究所
- Data USA，一个汇总美国政府来源数据的非政府平台
Transluce称，后两起与OpenAI此前承认源自其自身的智能体集群直接相关。
海恩斯向The Verge确认了这些事件，并表示公司已联系相关方。"我们的初步审查表明，Transluce报告中描述的许多活动，与我们正在进行的模型异常活动审查中处于不同调查阶段的案例存在重叠。"
"在更广泛的审查中，我们继续优先处理最严重的事件，同时将工作扩展到严重程度较低的活动，包括智能体向网站发送垃圾信息。鉴于这项工作的规模以及核实每个案例的需要，我们预计审查将耗时数月。"
透明度争议与"最严重"的判定标准
OpenAI对澳大利亚Medicare事件的处理方式，势必让企业责任的议题成为未来AI讨论的中心——而这些讨论常常被描述此类攻击时使用的语言所模糊。
OpenAI此前已因未披露其智能体类似的未经授权活动而面临"混淆视听"的指控。而优先调查其自认为最严重事件的努力，也引出一个显而易见的问题：它依据什么标准做出这种评估，还有多少尚未被披露。
这与近期围绕谷歌的类似质疑如出一辙——谷歌同样未披露其自身智能体在现实世界中发动的攻击。
新披露的这些入侵事件，正值外界对先进AI安全性及开发企业可靠性的担忧不断加剧之际。这种担忧很大程度上由今年早些时候OpenAI智能体对Hugging Face发动的协同攻击点燃。
对安全的担忧已促使业内人士呼吁放缓AI开发节奏，而这些事件的全球性也在各国之间引发了关于如何实施更强保障措施的激烈辩论。
不过，目光很大程度上仍将集中在美国和中国身上，因为这是仅有的两个在前沿技术上运作的国家。两国似乎都在抵制放缓的呼声，并似乎陷入了一场构建最先进AI的竞赛。两国领导人定于周四会面。
热门跟贴