来源:市场资讯

(来源:财闻)

据新华社,根据美国两家人工智能研究组织8月26日发布的独立调查报告,在开放人工智能研究中心(OpenAI)7月进行的网络安全能力测试中,约700个由OpenAI人工智能模型驱动的智能体参与了对人工智能开源平台“抱抱脸(Hugging Face)”公司系统的入侵。OpenAI也于26日公布了相关技术调查报告。

这份由“模型评估和威胁研究组织”与“雷德伍德研究组织”合作撰写的报告显示,OpenAI于7月8日启动名为ExploitGym网络安全基准测试,参与测试的模型包括GPT-5.6 Sol和一款OpenAI内部研究模型。测试期间,约1200个原本应相互隔离的智能体通过未经授权的渠道建立通信,交换超过7万条消息和文件,其中约700个智能体随后参与对“抱抱脸”系统的入侵。

调查发现,大量智能体还合作研究如何欺骗测试自动评分系统,试图采用的方法包括伪造、修改或删除自身执行记录等。调查人员认为,大量智能体之间未经授权的协作,使它们得以完成单个智能体难以完成的任务。对“抱抱脸”的入侵正是在这种集体协作中逐步形成。

OpenAI于26日公布的技术调查报告显示,7月10日至13日期间,由相关模型驱动的智能体在“抱抱脸”相关服务器的41个工作节点上执行代码,至少取得其中一个节点的最高权限,访问部分数据,并下载4个非公开代码库。

OpenAI表示,公司已采取措施为相关程序部署隔离程度更高的“沙箱”环境,限制高风险模型访问互联网,并加强对模型推理的监控。

OpenAI于7月20日发现其模型可能与“抱抱脸”系统遭入侵有关并通知对方,21日对外披露此次事件。

值得注意的是,当日,财闻海外资讯援引The Information报道,英伟达(NVDA.US)已同意以129亿美元(约合人民币约900亿元)收购开源人工智能(AI)模型库Hugging Face。这将是英伟达迄今为止最 大的一笔收购之一,凸显出这家由黄仁勋领导的公司对AI技术的强劲需求和扩张信心。

Hugging Face托管大型语言模型和开源数据集,此次收购将使英伟达获得其控制权。目前,一些闭源模型开发商如Anthropic和OpenAI正试图开发自己的芯片,作为英伟达图形处理单元(GPU)的替代品。

这一收购价格与Hugging Face年收入1.5亿美元相比,溢价幅度很大。英伟达和总部位于纽约的Hugging Face均未在非工作时间回应路透社的置评请求。