NVIDIA、微软、Hugging Face、SpacexAI、Adobe等约40家企业和机构共同发起成立了“Open Secure AI Alliance”（开放安全人工智能联盟）。该联盟的核心目标是提升人工智能的安全性及网络安全防护能力，各参与方将围绕保护AI代理和软件免受攻击，展开开放模型、技术、方法及安全工具的联合开发与共享。

这份长长的创始成员名单还包括Cadence、Capital One、Cisco、Cloudflare、Databricks、Dell Technologies、DoorDash、IBM、Linux基金会、Palantir、Palo Alto Networks、Red Hat、Salesforce、SAP、ServiceNow、Siemens、Snowflake等公司。

打开网易新闻 查看精彩图片

如此声势浩大的行业联合，指向了同一个问题：AI代理正在变得越来越自主，它能直接操作电脑执行任务，而现有的安全措施似乎已经难以完全看清并约束这些操作的每一步。

联盟成立的一个直接触发因素，与一起被广泛报道的安全事件有关。此前有消息称，OpenAI的一个AI代理在行动中