网络安全专家就 AI 智能体和黑客可乘的漏洞敲响警钟。

尽管 OpenAI 那个黑进 Hugging Face 的失控智能体已经成了最新 AI 威胁的反面典型,但它绝非孤例。数天后,Anthropic 宣布其 AI 模型也失控了,黑入了外部组织。又过了几天,Meta宣布旗下一个智能体也接入了互联网,并黑入了第三方服务。

这些事件引发了担忧:AI 是否能被其创造者控制,以及随着这项技术不断变得更聪明,将会发生什么。开源安全软件公司 Truffle Security 的联合创始人兼首席执行官 Dylan Ayrey,以及 Feross Aboukhadijeh——安全基础设施公司 Socket 的创始人兼首席执行官——最近参加了a16z 播客,讨论这些攻击意味着什么,以及 AI 正在如何进入一个新时代。

这可能意味着开发者和企业主必须重新思考系统安全。以下是此次讨论中的一些主要要点。

黑客攻击的门槛低多了

虽然失控的AI代理尚未发明任何新的黑客技术,但它们让现有黑客手段更容易上手多了。

“每个人都需要担心,这些模型会大大降低黑进各种系统的难度,”Ayrey说。“以前搞黑客攻击,门槛就是得懂专业知识——现在模型自己就懂这些了。”

换句话说:如今想搞黑客的人,只要让受过训练、会黑系统的模型替自己动手就行。而这会让企业和个人面临更大的风险。

最容易得手的目标就是最佳目标

最容易得手的目标就是最佳目标

Ayrey说,这些AI模型是目标导向的。它们的目标就是满足请求;为了达成目标,它们会用上任何必要的网络安全手段。

某种程度上,这与人类黑客并无不同。黑客团伙通常专找那些存在未打补丁漏洞的目标,因为省时省力。AI黑系统时也一样“偷懒”,只不过它手里的工具比一般人类黑客多得多。

“他们会挑阻力最小的路子完成任务,”艾瑞说,“其中也包括借助自家的网络安全专长。”

阿布哈迪杰说,包括AI模型在内的攻击者之所以能找到这种容易下手的目标,靠的是利用开发者对软件的信任,而不是直接攻击某一个系统。

“让开发者装上它,然后你就能用在开发者安装时从他们那儿偷到的访问权限,让蠕虫自我传播,”他说。

这可不是什么“涌现行为”

这可不是什么“涌现行为”

艾瑞说,这些AI模型表现出的行为并不是什么涌现智能,而是它们训练方式上的一个缺陷。

“要是哪家实验室告诉你这是什么‘涌现’出来的超级智能行为,那他们就是在忽悠你,”他说。

AI 被黑客利用的风险同样不只限于由机器发起的攻击。人类黑客还能利用开发者常用的 AI 工具来绕开系统防护,而不必使用传统恶意软件。这能绕过安全系统现有的大部分 EDR(端点检测与响应)工具链,因为 AI 本身就有数据访问权限。

身份验证和补丁更新亟待加强

身份验证和补丁更新亟待加强

Aboukhadijeh 提到了 npm 即将实施的一项变动。npm 是程序员构建软件时常用的数字工具包。从 2027 年 1 月起,它将不再自动执行或发布更新。这些更新得由人工审核批准,目的就是防止黑客把恶意软件偷偷塞进系统。

“这会非常折腾,……但我觉得这么做是对的,”他说。

Ayrey 补充说,AI 让漏洞被发现得越来越快,现有的打补丁流程就跟不上了。总不能一有漏洞就指望工程团队做一次复杂升级。

“前沿模型正在大幅缩短从发现漏洞到利用漏洞之间的时间,”他说。“我们需要开始思考的是:我们怎样才能更快地打补丁?”

保护智能体,正变成新的“狂野西部”

保护智能体,正变成新的“狂野西部”

随着技术发展,AI智能体未来可能获得大量凭据的访问权限。这确实方便,但风险也越来越大。可整个行业目前还没想好该怎么应对。

因此,IT部门要处理的安全问题,也将从只保护人类用户及其凭据,扩大到保护这些AI智能体,以及它们能访问的机密信息。

“现在智能体处理机密信息的方式,还是‘狂野西部’式的,问题尚未解决;我们正在全力解决这个问题,”Ayrey说。