澳大利亚最大的网络安全公司发出紧急警告称，一款功能强大的新型人工智能工具，正以前所未有的速度和规模发现并利用软件漏洞。专家担心，这可能引发下一波重大数据泄露事件。
网络安全公司赛博思星期四向澳大利亚企业、银行和基础设施运营方表示，在这项技术或其复制版本落入犯罪分子手中之前，他们加固防御的时间窗口正在迅速收窄。
这项警告针对的是“克劳德·神话预览版”。这是美国人工智能公司“拟人智能”开发的一款尚未发布的人工智能模型。该公司认为，这一工具危险性过高，不适合向公众开放。目前，拟人智能通过“玻璃翼计划”将访问权限限制在大约50家大型科技和基础设施合作伙伴之中，其中包括微软、谷歌、苹果、亚马逊和摩根大通。
“神话”已经发现了数千个此前不为人知的软件漏洞，其中包括一个存在了27年的操作系统漏洞。该系统被全球防火墙和互联网路由器广泛使用。在一次测试中，这一模型针对火狐浏览器生成了181种可实际运行的攻击方式，而更早的公开版本只能做到两种。
拟人智能产品负责人安吉拉·姜表示，这种网络安全能力的出现，部分源于公司在编程和长周期智能体任务上的整体推进。
她说：“如果一个系统非常擅长编程，那么它通常也会非常擅长识别网络攻击，尤其是在多个不同攻击面上进行检测，并把这些环节串联起来。”她还表示，公司一直“有机会与多家企业合作，帮助提升关键基础设施的安全性”。
赛博思安全人工智能负责人季米特里·韦杰涅耶夫表示，“神话”的特别之处，不仅在于它能找出那些埋藏已久的漏洞，还在于它可以把多个漏洞串联起来，并根据单一提示词给出利用路径建议。
他说：“澳大利亚各类机构不应把获得‘神话’访问权限，当作某种包治百病的灵丹妙药。类似能力很快就会更广泛地出现，也可能落入网络犯罪分子手中。”“神话”已经引发多国政府警觉。英国央行行长安德鲁·贝利对英国广播公司表示，各国央行正在评估这项技术对网络犯罪可能带来的影响。
加拿大财政部长弗朗索瓦－菲利普·商鹏飞在华盛顿举行的国际货币基金组织会议上，将“神话”称为“未知中的未知”。特朗普政府也召集美国多家大型银行负责人，讨论相关风险。
拟人智能预计，其他人工智能公司将在18个月内推出同样强大的工具。开放人工智能公司已经向一小部分用户开放了其专注网络安全的模型“生成式预训练变换器5．4－网络版”。彭博社上周报道称，一小批未经授权的用户已通过第三方获得“神话”的访问权限。拟人智能证实，公司正在调查此事。
拟人智能星期五还另行宣布，面向公众测试推出防御型产品“克劳德安全”。该产品允许企业客户扫描自身代码中的漏洞，并生成修补方案。公司表示，在研究预览阶段，已有数百家机构使用这一工具，发现了“现有工具多年都未能发现”的漏洞。埃森哲、德勤、普华永道、波士顿咨询公司和印孚瑟斯都在使用这一产品。
拟人智能一名发言人表示，公司目前先从“美国一些规模最大的企业”开始合作，因为“如果它们能够迅速保护好自己的产品，这种安全效应就会在全球范围内扩散”。这名发言人还说，公司期待进一步扩大网络安全合作伙伴关系。
不过，并非所有人都认同“神话”意味着一次明确的代际跃迁。网络安全公司伊塞特人工智能总监尤拉伊·亚诺西克表示，在“神话”出现之前，能够识别漏洞的模型就已经存在。只要调度得当，威胁行为体“其实已经可以利用公开可得的模型，实现类似‘神话’的能力”。
亚诺西克说：“许多公司在最基本的网络卫生方面仍然落后，攻击者利用的往往也是那些更早以前就已公开的旧漏洞。人工智能能力的发展确实令人担忧，但与整体网络韧性的普遍不足相比，这种担忧还算不上最核心的问题。”
澳大利亚公司奥罗网络服务总监曼努埃尔·萨拉萨尔表示，网络安全的基本原则并没有改变。他说：“‘神话’改变的是脆弱基础暴露出来的速度。对于成熟机构来说，人工智能是一种能力放大器；对于成熟度较低的机构来说，它可以加快补课进程，但无法绕开基本功。”
萨拉萨尔表示，澳大利亚企业应当获得“神话”这一等级人工智能所带来的防御收益，但不应获得“对前沿漏洞利用引擎的无限制访问”。
他说：“澳大利亚需要通过澳大利亚信号局、内政部和国家网络安全协调机构等部门，确保能够接触先进人工智能技术。如果我们现在不参与，就有可能落后于美国同行。”
《华尔街日报》星期四报道称，出于安全担忧，白宫已拒绝拟人智能提出的一项建议。该建议原本希望将获得“神话”访问权限的机构数量大致增加一倍。特朗普政府与拟人智能之间的关系此前已因公司人工智能是否可用于军事用途发生争议而趋于紧张，这场争议目前已引发两起诉讼。
目前尚不清楚是否有澳大利亚机构属于“玻璃翼计划”成员。拟人智能今年早些时候与阿尔巴尼斯政府签署了一项协议，并在悉尼设立办公室，但尚无任何澳大利亚政府机构公开确认已获得访问权限。
这项警告发布之际，澳大利亚社会仍笼罩在2022年澳都斯和美德银行数据泄露事件的阴影之下。两起事件合计导致数百万客户的个人信息外泄，也重塑了公众对大型机构的信任。那两次泄露利用的还是相对常规的安全弱点。外界担心，更复杂的人工智能工具可能让攻击者发现并利用那些过去被认为足够安全的系统漏洞。
赛博思正敦促澳大利亚各类机构梳理关键系统、对网络进行分段，并在安全职能中部署防御型人工智能，以“用人工智能对抗人工智能”。
热门跟贴