OpenAI周二表示，在一次旨在检验该模型能否侵入目标系统的测试中，其旗下一个人工智能系统自主侵入了Hugging Face，这引发了新的疑问：AI网络能力到底发展得有多快，又该如何监管。

NextTech的所有者John Amar表示，OpenAI正在测试一个新模型，“他们想用内部开发的测试跑一遍，看看它能不能黑进什么东西”，结果它真做到了——成功侵入了AI初创公司Hugging Face。

Hugging Face首席执行官Clement Delangue表示：“我们坚信他们并没有恶意。这一切竟然都是自主完成的，实在让人震惊。”

Amar质疑该事件是否应被描述为系统“发疯”。

“如果它能做到它想做的事，那还算‘发疯’吗？也许算，也许不算，我也说不准。”

Orbis Solutions的首席安全官Sean Connery表示，他预计这一事件将加速网络安全领域的变革。

“我们看到攻击者正在使用人工智能，防御者也在使用人工智能，双方之间的竞赛愈演愈烈，”康纳利说。

阿马尔还警告说，先进技术并非大公司的专利。

“市面上已经有许多开源模型，它们的能力可能差不多，也已经同样先进了。”

专家表示，更令人担忧的不是人工智能本身，而是谁可能会使用它。

“我认为这表明，它将使人们更容易黑进系统，”阿马尔说。

康纳利和阿马尔表示，他们认为需要针对人工智能制定更多准则。

“我实际上还没有看到任何关于人工智能或人工智能能做什么的真正立法；据我所知，这些都是行政部门在推，”阿马尔说。

今年6月，唐纳德·特朗普总统发布了一项行政命令，旨在促进人工智能行业的增长并加强人工智能领域的网络安全保障。

接受采访的人们对人工智能的演变看法不一，其中一人说：“我不知道我是否信任它，但我确实挺怕它的；反正我就是对它特别警惕。”

随着人工智能融入日常生活，专家表示应该带着关切和谨慎的态度去面对它，同时认识到它也可以被用来做好事。

“我认为人工智能非常擅长模仿我们，并以我们喜欢的方式与我们交流，但我一次都没见过人工智能做出什么事，让我觉得除了被要求做的事之外，还有什么意图或目的，”阿马尔说。