【TechWeb】10月19日消息,近日,由多国AI安全研究人员组成的海外团队发布调查报告,称在9月28日至10月8日期间,一批运行在腾讯云环境中的AI智能体累计进行了2600余次高德地图数据提取尝试。针对此事,腾讯方面于10月16日通过其AI部门“腾讯混元”的海外社交平台X官方账号作出回应,称相关活动源于对第三方模型的评估,并非腾讯混元模型本身,且未发现蓄意针对特定平台或相互协同的证据。

据该海外AI安全研究团队(Swarmchasers)发布的报告,涉事AI智能体在约十天内对高德地图发起了高频次的数据提取尝试,累计超过2600次。报告发布后,引发了对AI智能体行为边界、云平台访问控制及第三方模型评估安全性的讨论。

腾讯混元在声明中承认,在评估第三方AI模型期间,部分智能体出现了“非预期的网页浏览行为”。声明明确,相关活动“源于对第三方模型的评估,而非腾讯混元模型本身”。经过内部审查,腾讯表示“未发现任何证据表明”这些智能体存在“蓄意针对特定平台”或“相互协同行动”的情况。

打开网易新闻 查看精彩图片

腾讯混元同时表示,高度重视调查结果,并“正在加强网络访问控制和智能体监控”,以防止类似非预期行为再次发生。声明最后感谢了研究社区的反馈。