据美国哥伦比亚广播公司、《财富》杂志网站等媒体报道，美国人工智能（AI）巨头Anthropic公司12日发布的一份报告显示，小型AI模型可能在未来几个月内像计算机蠕虫一样，获得自我复制并在智能设备间传播的能力，涉及的设备包括智能烤箱、电视和吸尘器等。
《财富》杂志报道截图
Anthropic公司的研究人员表示，他们测试了小型AI模型能否将自己安装到廉价设备上，并在没有人类帮助的情况下，从一台设备传播到另一台设备。研究发现，目前的小型模型已能独立完成其中许多步骤，但尚无法自主完成整个过程。不过，研究人员预计，这一差距将在今年年底前缩小。
英国《卫报》称，Anthropic公司提及的潜在受影响设备均配有小型内置AI芯片，包括智能烤箱、智能电视、自动割草机、安全摄像头等。
自我复制的AI系统长期以来一直是AI行业最受关注的安全风险之一。安全专家认为，这可能成为AI脱离人类控制的关键节点。一旦AI在创建者不知情的情况下生成副本并运行，人们将难以追踪或关闭这些系统。
近期，关于AI安全的讨论持续升温。过去几个月，包括Anthropic和OpenAI在内的美国AI巨头陆续发布报告，披露其智能体在自主行动和网络攻击方面的能力。不少美国AI公司高管呼吁行业放缓发展速度，并加强安全防护措施。
然而，也有观点认为，一些美国企业频频炒作AI安全风险，表面上以维护公共利益和所谓“国家安全”为由，实则受商业利益驱动，意在通过打压竞争对手，维护自身技术优势和市场地位。
对于Anthropic发布的这份报告，美国伊利诺伊大学电气与计算机工程助理教授钱德拉塞卡兰表示，相关研究结果并不令人意外，也与近期类似研究的发现相符。不过，他提醒说，Anthropic的研究结果尚未经过独立验证。此外，恒温器、家用摄像头等设备的安全防护历来较为薄弱。钱德拉塞卡兰强调，就AI而言，当前最大的威胁并非AI系统本身失控，而是有人利用AI提升网络攻击能力。
环球时报记者郑璇
热门跟贴