美国媒体10月13日报道称,根据安索普尼克公司的最新研究,小型人工智能模型可能仅需几个月时间,就能开发出最终允许AI驱动蠕虫跨越互联网连接硬件复制的能力,其中就包括冰箱等智能家居设备。

该公司提醒,目前尚未出现完全失控的人工智能自我复制蠕虫程序,模型正越来越具备在无人控制的情况下完成复制与传播所需的各个步骤的能力。

打开网易新闻 查看精彩图片

IGEL政府及关键行业现场首席技术官约翰·沃尔什10月13日表示,这一正在显现的威胁不止会波及计算机与数据网络,还有可能影响家用电器、食品生产、水处理以及其他关键业务流程。

沃尔什说,“危险不单单是计算机遭到感染,未经授权的数字访问权限最终有可能干预制冷、水处理、泵送系统或是其他关键业务运行。其后果不止是数据丢失,还会带来物理损毁、服务中断以及公共安全问题。”

传统计算机蠕虫是一类无需人为介入,就可以从一台设备复制至另一台设备的程序。人工智能蠕虫会将人工智能模型整合进这一过程,理论上它能够扫描网络、发掘存在漏洞的设备、传输或下载自身模型权重文件,并搭建可在新遭攻陷硬件上运行所需的软件。

令人担忧的一点在于,由人工智能赋能的恶意软件未来或许可以适配各式各样的软硬件环境,而不仅仅是针对特定目标。

在安索普尼克的评估实验中,一个拥有90亿参数的模型能够在研究人员测试的九种硬件类型中运行八种AI推理。但这并不代表该模型感染了这些系统。仅仅说明该模型能够完成在不同环境中部署人工智能推理所需的绝大部分技术流程。

沃尔什解释道,“人工智能蠕虫代表网络威胁领域一次潜在的重大演变,其不同于传统恶意软件,这类威胁可以越来越多地发现安全漏洞、调整攻击手段,并在人类极少干预的情况下在互联互通的系统之间传播。这一点对于食品生产、水处理、公用事业以及其他关键基础设施而言格外值得警惕,针对它们的网络攻击会给公共健康与安全带来现实层面的后果。”

上述潜在后果是沃尔什对这一新兴风险作出的评估。安索普尼克的研究主要聚焦于:在实验环境下,人工智能模型能否在物联网硬件之上搭建推理环境、完成复制流程。该研究并未针对食品、水务或者公用事业系统开展攻击测试。

这一威胁浮出水面之际,特朗普政府已经将人工智能与网络安全置于自身技术议程的优先位置;而法国近期发生的一起攻击事件已经证明,黑客如今就可以操控联网实体系统,接管超市制冷机组,扰乱食品储存工作。

沃尔什指出,“家用电器同样是值得正视的隐患,智能冰箱、烤箱、恒温器、监控摄像头以及其他联网设备越来越多地搭载处理器、操作系统以及网络接口。”