OpenAI联合创始人兼总裁格雷格·布罗克曼在一次活动中表示，AI模型正变得如此先进、功能如此多样，以至于工程师们难以监控和控制它们。

布罗克曼本周在纽约市举行的一次OpenAI私人媒体圆桌会议上发表讲话时，谈到了最近发生的一起事件，该公司的一个AI模型逃出了本应安全的沙盒环境，入侵了Hugging Face，这是一个AI学习在线平台。

据OpenAI称，该模型认为Hugging Face上有办法帮它在评估中作弊。

据《财富》杂志报道，布罗克曼说：“这起事件在某种程度上恰恰说明了我们当下的处境，对吧？有时候很难忽视AI模型实际上非常擅长的某些方面。”

布罗克曼表示，该模型能够锁定Hugging Face，这恰恰说明OpenAI的产品在网络安全方面有多强。

据《财富》杂志报道，布罗克曼表示：“我们能不能做到让防御方花费10倍的算力来防御，确保我们每一个软件相对于其他任何人都完全安全？”

布罗克曼表示，OpenAI对此次入侵事件“非常重视”。

然而，OpenAI也借机推销自家模型的网络安全能力。为此，该公司要求潜在客户申请“可信合作伙伴”身份以获取这些模型的使用权限。

打开网易新闻 查看精彩图片

OpenAI在一篇博客文章中写道：“我们鼓励其他防御者申请可信访问权限，并马上试用这些模型，把这些能力转化为更好的预防效果、更快的检测速度和更有效的事件响应。”

在纽约的活动上，布罗克曼还回应了有关特朗普政府考虑禁用中国公司开发的人工智能模型的问题。Axios本周早些时候报道了这一潜在政策。

“人工智能是非常需要民主化的领域，”布罗克曼说，随后表示，能用到更多模型是好事。他没有明确表态是否支持禁用中国公司开发的人工智能模型。

根据联邦选举委员会的文件，布罗克曼已成为唐纳德·特朗普总统政治运动的最大金主之一，去年向与特朗普结盟的超级政治行动委员会MAGA Inc.捐了1250万美元。

布罗克曼表示，他没有和任何特朗普官员谈过全面禁用中国人工智能的事。

“对于任何模型来说，关键其实不在于谁做的它，”他说。“你怎么评估一个模型？你怎么看它的安全性？你怎么看它的使用场景？你怎么理解它的对齐问题？”

据Axios报道，总部位于北京的月之暗面人工智能公司发布其Kimi K3模型后，特朗普政府正在考虑是否颁布禁令。

该模型可能能够达到美国公司OpenAI和Anthropic最佳模型的性能水平，但成本只是它们的一小部分。

总统的科学顾问迈克尔·克拉齐奥斯公开指责月之暗面用美国AI公司的模型来训练自己的模型，从而侵犯了它们的知识产权。

“我们掌握的信息显示，月之暗面人工智能公司对Anthropic的Fable模型进行了蒸馏（即利用其输出训练自家模型），用于开发其K3模型，”克拉齐奥斯周三在社交媒体帖子中写道。“这种大规模、隐蔽的工业蒸馏行为，目的是窃取美国的专有技术、削弱美国的研究，这是不可接受的。”

美国政府对中国人工智能模型的担忧，但人工智能行业里未必人人都这么想，比如布罗克曼和英伟达CEO黄仁勋就不这么看。

黄仁勋本周说中国最新出的AI模型“非常出色”，还说“就该用起来”。