OpenAI 直到最近才发现，今年夏天，在其并不知情的情况下，AI 系统曾以异常方式介入美国教育部、商务部和证券交易委员会（SEC）的网站。
安全研究人员和一名了解相关事件的人士表示，其中涉及商务部和 SEC 的事件已得到 OpenAI 确认，教育部相关情况仍在调查。
OpenAI 最近几周已通知相关政府机构，其 AI 智能体曾以非正常方式与这些网站发生交互。
在教育部事件中，AI 研究机构 Transluce 的研究人员发现，OpenAI 的技术曾尝试入侵教育部网站，以获取该部门民权办公室的数据，但最终没有成功。
OpenAI 的 AI 还使用其在网上找到的登录凭据，从隶属于美国商务部的人口普查局网站获取数据。
另一起事件中，OpenAI 的智能体从 SEC 网站取得公开数据，并将这些数据分享到一个网络论坛上。
OpenAI 表示，上述事件都不属于数据泄露，但反映出其技术出现了出乎预期且令人担忧的行为。
OpenAI 是在最近审查其技术实施的一系列入侵事件时，才发现这些情况。这项审查还涉及今年 6 月针对澳大利亚政府网站的一次攻击，以及 7 月针对 AI 初创企业 Hugging Face 的攻击。
随着美国政府网站事件曝光，OpenAI、Anthropic、Meta 和 Google 等 AI 企业旗下智能体失控或异常操作的案例进一步增多。
这些 AI 智能体此前已经出现入侵或尝试入侵企业、大学及政府机构的情况，有些攻击成功，有些失败。
共同点是，这些技术的开发者往往都是在事件发生之后，才知道自己的 AI 做了什么。
目前，没有哪家 AI 企业公开披露的此类失控事件数量像 OpenAI 这么多。
OpenAI 对 Hugging Face 入侵事件展开内部调查后，还发现其 AI 曾入侵澳大利亚政府公共卫生系统网站，并至少实施过另外 6 次入侵尝试。此外，AI 还出现过隐瞒错误、编造数据，以及未经许可将文件转移到开放互联网等行为。
OpenAI 一名发言人表示，其审查工作“范围广泛”，目前“仍在继续”，并将继续通知受到其模型影响的相关机构。她称，截至目前，OpenAI 审查的大部分活动都属于常规研究任务，例如访问公开网页内容来回答问题；其中一些活动涉及政府网站，是因为模型经常将政府网站视为权威的公共信息来源。
OpenAI CEO Sam Altman 在社交媒体上承认，OpenAI 在披露 AI 相关事件方面“没有做到我们希望的那么迅速”。他表示，OpenAI 正根据事件严重程度确定披露优先级，目前 Hugging Face 遭入侵事件仍是 OpenAI 已发现的“最严重事件”。
SEC 一名发言人表示，该机构正在与 OpenAI 保持联系，目前没有发现任何未经授权访问非公开信息的情况。
美国商务部则表示，OpenAI 获取的是人口普查局网站上的公开信息，任何人都可以访问，并未接触私人数据。
美国教育部表示，其系统运行审查没有发现网站或数据库受到影响的证据。
芝加哥市长办公室一名代表也表示，OpenAI 最近通知芝加哥市政府，其技术曾从一个市政府网站获取公开信息，目前看起来没有取得任何敏感信息。
Transluce 治理负责人 Conrad Stosz 表示，在这些美国政府网站事件中，OpenAI 的智能体使用了“一系列处于灰色地带的手段”，包括经常以网站并未预期的方式使用网站，有时还违反明确的使用政策。
Stosz 还表示，其团队发现了一些无法明确归因于 OpenAI 的类似失控活动，因此相关智能体既可能来自 OpenAI，也可能来自其他 AI 实验室。
在这些事件中，AI 智能体曾探测另外多个美国联邦和州政府网站，包括美国海军以及白宫管理和预算办公室的网站。
Stosz 称，这些事件反映出一种更广泛的行为模式，相关 AI 智能体尝试访问这些网站的次数至少达到数十万次，同时似乎还在绕过开发者为它们设置的限制。
加利福尼亚州民主党籍众议员 Ted Lieu 将 AI 模型形容为“不会停下来”。
Lieu 说，AI 会不断尝试完成任务，但并不理解道德、后果，也不理解什么是善、什么是恶。
作为美国众议院人工智能工作组的联合主席，Lieu 认为，面对这种问题，AI 企业最终可能需要彻底重新训练模型，而不能只依赖安全防护措施来限制模型行为。
Lieu 表示：“这些智能体并不是有意去做什么恶意的事情。这些原本都是非常普通的任务，只不过智能体为了完成任务，开始有些失控了。”
云头条声明：如以上内容有误或侵犯到你公司、机构、单位或个人权益，请联系我们说明理由，我们会配合，无条件删除处理。
热门跟贴