【TechWeb】近日,美国人工智能企业Anthropic发布了一份引发全球关注的重磅报告。
这份报告指出,AI的自我复制,根本不需要昂贵的数据中心。那些毫无安全防护的商用IoT设备,已经足以成为新型“AI蠕虫”的宿主。
可能只需要几个月,小型AI模型就能在安全性薄弱的智能电视和其他联网设备上自我复制,恐对全球物联网安全构成系统性威胁。
15个廉价电视盒子跑通260亿参数模型
在Anthropic的实验中,研究人员在15台售价约55美元的非品牌Android电视盒子上运行了Gemma4-26B-A4B,每个盒子都有4GB内存,并存储了模型的一部分。也就是每台盒子只负责运行模型的部分层级,数据像流水线一样在设备间传递。
结果令人震惊:这个由廉价硬件组成的“草台班子”竟然成功运行了该大模型,推理速度达到每秒0.39个token。这意味着,廉价硬件可以支持大型模型,尽管速度非常慢。
而真正令研究人员感到不安的,是小型模型展现出的“自主感染与环境适应能力”。一个AI蠕虫的完整传播链路包括四个环节:寻找攻击目标、获取设备权限、搭建推理环境、从新攻陷的主机继续向外传播。
其中最具挑战性的是第三步:在完全陌生的硬件上搭建推理环境。测试结果显示,一款90亿参数的小模型在9种完全陌生的硬件类型中,成功在8种设备上搭建了推理服务器,无论是Jetson Nano微型电脑、Mac还是RTX 4090,它都能摸索出适配方案。
在另一项隔离网络测试中,研究人员使用8台设备模拟安卓环境,能力更强的GLM-5.2模型在5次试验中有4次成功攻陷全部8台设备。
更令人警惕的是,这些AI蠕虫能够将“后天经验”遗传给下一代。当感染失败时,模型会在崩溃重启前写下“笔记”,记录踩过的坑,将经验传递给后续生成的副本,实现代际进化。
“慢速传播”但难以根除
Anthropic研究人员William Zhou和Daniel Freeman在报告中指出,这种AI蠕虫的传播速度预计较慢,可能需要数天才能完成一次自我复制,他们将其比作“缓慢繁殖的果蝇群”。然而,其危险之处在于“没有可以关闭的开关”。
研究人员以Kimwolf僵尸网络为参照进行了估算。该僵尸网络曾感染超过200万台设备,其中大量为非品牌安卓电视盒。如果AI蠕虫控制了同等规模的设备,每15台组成一个集群,则相当于在暗网中凭空多出了约13.3万个260亿参数级别的AI智能体。
Anthropic估算,如果小型模型按历史速度持续提升,到2026年底就能达到自我复制所需的能力水平。
专家警示:风险尚在可控范围
伊利诺伊大学电气与计算机工程助理教授Varun Chandrasekaran对此表示,该研究结果“并不令人意外”,与近期类似发现一致,但他同时指出Anthropic的工作尚未经过独立验证。他强调,就AI而言,当前最大的威胁仍然是人类恶意行为者利用AI强化攻击手段,而非AI系统自身失控。
Anthropic也在报告中明确表示,目前尚未实现完整的恶意自我复制程序验证,相关发现仅证明此类威胁正在逐步逼近,并不代表已经出现活跃传播的AI恶意软件。
然而,安全专家John Walsh指出,这一新兴威胁的影响可能超越计算机和数据网络,延伸至家用电器、食品生产、水处理等关键基础设施领域。他警告称:“未经授权的数字访问最终可能影响制冷、水处理、泵送系统或其他关键运营,后果可能超出数据丢失的范畴,延伸至物理损坏、服务中断和公共安全风险。”
Anthropic建议各组织立即采取三项措施应对潜在威胁:全面盘点联网硬件设备,特别是安全摄像头、会议室系统及不受支持的IoT设备;对IoT网络进行分段隔离,关闭不必要的调试端口,限制设备间访问;持续监控异常网络行为,重点关注大体积模型文件下载和设备间的异常流量。