在OpenAI一个未发布的模型脱离管控并入侵了名为Hugging Face的人工智能信息库之后，当前关于人工智能模型的争论变得更加复杂。AI末日论者将利用这一事件呼吁对AI进行更严格的监管，而他们是有道理的。

OpenAI周二宣布，其已发布和未发布的模型联手对Hugging Face的代码库实施了一次复杂的黑客攻击。声明承认，这是“我们预计，随着网络能力越来越强的模型不断涌现，这类事件会变得更加常见”。

据《华盛顿观察家报》报道，OpenAI在声明中表示：“这一事件表明，有必要进一步加强我们模型的行为对齐、在评估过程中的网络防护以及内部测试期间的监控。”

这次安全漏洞不仅是AI安全的一场灾难——它更是AI发展史上的一个里程碑。

智能体AI，即在收到提示时执行任务的AI，其准确性和生产力取决于其背后的数据集以及背后给它下指令的人。在OpenAI的模型“逃离遏制”并侵入另一家公司数据库的案例中，它们只是在照指令行事。

这些模型接到指令，要在一个假定与无限制互联网隔离的环境中测试自己的黑客能力。随后它们发现了一个零日漏洞并突破了隔离。研究人员根本不知道系统里存在这个漏洞。这本身已经够糟糕了，但更糟的是，帮Hugging Face排查和隔离这次攻击的美国AI模型没有一个愿意这样做——它们的安全过滤器不让它们这么做。

Hugging Face被迫转向一个来自中国的用起来更方便、也没那么多道德顾虑的AI模型来保护其系统，这展示了一个外国竞争对手的AI可以多么强大，尤其当我们自己的模型被伦理规则捆得太死的时候。

比一家美国公司不得不向中国模型求助更糟糕的是，美国立法者和倡导团体可能会利用这一事件来为过度监管AI发展找到借口。

“这太让人警惕了，”众议员格雷格·卡萨尔（德克萨斯州民主党人）在X上发文称。“AI发展太快了，却没有什么真正的监管来保障我们的安全。这种情况必须改变。我们需要定期的、强制性的独立安全测试和监督，强制披露安全事件，以及国际合作，让人们免遭灭顶之灾。”

尽管卡萨尔的意图可能是好的，但他没搞明白Hugging Face攻击事件的关键所在。问题不在于有个失控的AI模型被用来攻击了一家美国公司。相反，问题在于AI在尽可能高效地执行它被要求做的事情——结果它就入侵了一个它认为合适的目标数据库。

立法者已经提出法案，将对人工智能公司及其模型施加联邦管控。

据《华盛顿观察家报》报道，众议员刘云平（加州民主党）和纳撒尼尔·莫兰（得克萨斯州共和党）提出了《人工智能紧急关停法案》，该法案将授权政府关闭或限制有风险的人工智能模型。该法案基本上等于把人工智能的控制权交给国土安全部，前提是政府认定某一模型不安全。

另一项重要的人工智能立法是由众议员杰伊·奥伯诺尔特（加州共和党）和洛里·特拉汉（马萨诸塞州民主党）提出的《伟大美国人工智能法案》（GAAIA）。该法案将名为“人工智能标准与创新中心”的国家级人工智能模型数据库交由商务部掌控。与《人工智能紧急关停法案》不同，《伟大美国人工智能法案》旨在推动人工智能的安全与标准化，而非仅仅让政府掌控一个公共工具。

吴恩达，出生于英国的美国科技企业家，对人工智能持有相当温和的态度。在接受《福布斯》采访时，吴恩达表示：“正如工业革命将人类从大量的体力劳动中解放出来一样，我认为人工智能有潜力将人类从大量的脑力劳动中解放出来。”

吴恩达对人工智能的立场——将其视为造福人类的工具——与某些国会议员和人工智能末日论者的观点相左，他们因为担心人工智能可能损害政府或经济，希望政府叫停人工智能的研发。

人工智能是大势所趋。不管我们愿不愿意，它正日益融入我们的日常生活。接下来的问题是，美国人希望由政府还是人工智能公司来控制它。

如果政府管得太死、手续太繁琐，企业就不太愿意去创新了。如果允许人工智能公司自我监管，可能没有什么能阻止它们为了自身利益而尽可能多地攫取公共和私人数据。唯一的出路是对人工智能、其使用者及其设计者采取审慎而怀疑的态度。说到底，每个AI模型背后都是人，而人都会犯错。