三个月前,AI驱动的网络攻击还只是初露苗头。现在,谷歌的威胁情报团队用了一份报告,把它定性为"工业化规模的威胁"。
这份报告正在加剧一场全球讨论:最新的AI模型极其擅长编程,也正成为攻击各类软件系统漏洞的强力工具。犯罪分子以及来自中国、朝鲜、俄罗斯的国家关联行为体,似乎都在广泛使用商业模型——包括Gemini、Claude和OpenAI的工具——来优化和扩大攻击规模。
谷歌威胁情报团队首席分析师John Hultquist说:"有一种误解认为AI漏洞竞赛即将到来。现实是,它已经开始。"他补充,威胁行为者正用AI提升攻击的速度、规模和复杂度,测试行动、持续渗透目标、构建更好的恶意软件。
上个月,AI公司Anthropic拒绝发布其最新模型Mythos,理由是它能力过强,若落入坏人之手,将对政府、金融机构乃至全球构成威胁。Anthropic具体指出,Mythos发现了"所有主流操作系统和所有主流网页浏览器"中的零日漏洞——即开发者此前未知的缺陷。公司称这些发现需要"整个行业进行大规模协调防御行动"。
但谷歌的报告发现,一个犯罪集团最近差点利用零日漏洞发动"大规模利用"行动,而该集团使用的AI大语言模型并非Mythos。
报告还提到,一些集团正在"试验"OpenClaw——这款AI工具今年2月因病毒式传播而知名,它让用户能把生活的大部分交给一个无护栏的AI代理,该代理有个不幸的倾向:批量删除邮件收件箱。
伦敦大学学院安全工程教授Steven Murdoch认为,AI工具既能帮助黑客,也能帮助防御方。"所以我不恐慌。总的来说,我们已经到了传统漏洞发现方式终结的阶段,今后都将由大语言模型辅助。这需要一段时间才能见分晓。"
不过,如果AI正在帮助野心勃勃的黑客达成他们的生产力目标,它是否在提振更广泛的经济,仍存在疑问。独立AI研究机构Ada Lovelace Institute(ALI)已警告,不要假设公共部门能从AI获得数十亿英镑的生产力提升。英国政府曾估计,公共部门投资数字工具和AI可节省450亿英镑并带来效益。
热门跟贴