AI智能体向高德地图发出3.5万次访问请求AI智能体来源指向腾讯智能体安全成行业共同难题图片来源：每经媒资库
当地时间10月14日，独立研究团队Swarmcha.se发布调查报告称，一批AI智能体曾向高德地图发出至少35300次网络请求，多次尝试绕过平台安全防护抓取地图数据。
研究团队溯源发现，这批AI智能体来自腾讯。
报告还披露，接近腾讯的人士曾回应研究团队称，这批AI智能体来自一项主要用于测试第三方AI模型浏览网页和回答问题能力的临时研究项目，使用的也并非混元模型，项目现已结束。腾讯内部复查也没有发现外部系统遭入侵的证据。
知情人士向《每日经济新闻》记者（以下简称每经记者）证实了相关情况，其表示，“没有超出正常的行为，智能体就是寻找各种可能性完成任务，也没有尝试攻击和hack（黑客行为）。”
Swarmcha.se是一个专注于调查AI智能体异常网络行为的独立研究发布平台，相关研究人员来自多个国家及AI安全研究组织。
目前，AI安全非营利组织Palaestra Research的CEO、这份报告作者的之一伊桑·埃拉斯基（Ethan Elasky）在社交媒体上发布的相关帖子，已获得85万次浏览量，并引发了大量讨论。
根据Swarmcha.se发布的调查报告，今年9月28日至10月8日期间，一批运行在腾讯相关云基础设施上的AI智能体，多次尝试绕过高德地图的安全防护，以获取地图数据。
研究团队分析一个网络安全网站的公开记录时发现异常：10月4日，高德地图突然成为访问请求尝试最多的网站，大量请求都经由第三方网站中转。
截至10月5日，研究团队已经记录到2599次涉及高德相关域名的扫描提交，以及至少35300次向高德发出的网络请求。
研究人员分析发现，这些请求并非批量下载地图数据，而是在完成具体的查询任务。例如，其中一道题目要求查询：使用高德导航前往XXX动物园的用户中，最多人选择哪个入口，以及该入口的导航到达占比。
研究团队认为，在短时间内对同一个地点反复查询，访问方法也不断发生变化，与AI智能体的工作方式高度相似。
遭遇验证码、登录要求等限制后，这些智能体继续尝试其他办法：通过第三方网页读取和翻译服务转发请求，并使用公开代码中暴露的高德密钥发送API请求，甚至主动向研究人员求助获取数据。
发现这些AI智能体后，研究团队开始追踪其来源。部分访问高德地图的AI智能体会使用名为webhook.site的收件箱接收结果。
10月4日，研究团队发现主要请求来自腾讯云的IP地址。截至10月5日，研究人员能够检查的17个相关收件箱，均由腾讯云服务器创建。
此外，部分网络请求还留下了一个特殊标记——“hysandbox-ats”。腾讯拥有对应的云服务域名“hysandbox.tencent-cloud.com”。
因此，研究人员认为，这批AI智能体的运行环境与腾讯存在联系。
报告披露，一名接近腾讯的人士曾向研究团队表示，这批智能体来自腾讯评估研究团队开展的一项临时研究项目，主要用于测试第三方AI模型浏览网页和回答问题的能力，使用的并非腾讯混元模型。
该人士还表示，负责评估的研究团队与混元模型开发团队并非同一团队。项目目前已经结束，腾讯内部复查没有发现这些智能体针对特定平台协同行动的证据，也没有发现外部系统遭入侵的证据。
伊桑·埃拉斯基表示，这些智能体似乎并没有入侵其他系统，而且这次事件的规模远小于今年夏天OpenAI的AI智能体黑客入侵软件公司Hugging Face的事件。
“我认为这是一个很好的警示，让我们知道这种事不仅仅是OpenAI作为行业参与者在搞营销。这是正在发生的事实。”该报告的作者兼人工智能安全非营利组织Antimemetics Institute的联合创始人乔纳森·埃尔斯沃斯·艾彻说。“这是这些智能体的一个普遍特性，而且它还会继续发生。”
近几个月，全球多家科技公司的AI智能体接连曝出类似安全问题。
今年7月，OpenAI的AI智能体在内部测试中突破网络隔离限制，未经授权访问了OpenAI部分内部研究基础设施及AI开源平台Hugging Face的系统。
8月，Anthropic模型被曝曾试图向真实开源项目植入恶意代码，甚至创建虚假身份诱导人类批准代码修改。
9月，谷歌证实，其Gemini模型在网络安全测试中，未经授权进入了三家企业的系统。
10月14日，谷歌DeepMind联合创始人兼董事长德米斯·哈萨比斯（Demis Hassabis）在爱尔兰都柏林举行的AI峰会上表示，近期接连发生的AI智能体入侵事件，是向整个行业发出的“早期预警信号”。
免责声明：本文内容与数据仅供参考，不构成投资建议，使用前请核实。据此操作，风险自担。
热门跟贴