人工智能公司不仅能打造出强大的产品，还擅长制造惊人的噱头。
上周，Anthropic发布了专注于网络安全领域的AI模型Claude Mythos，该模型声称具备极强的能力，在业界引发了广泛的期待与恐慌。然而有一个关键细节：公众根本无法直接使用它。OpenAI也在上周末宣布，其同样开发出了一款能力惊人的网络安全AI。
Anthropic将Mythos称为网络安全行业的"一次大清算"，理由是这款新工具在发现软件漏洞方面表现出极高的能力。据Anthropic介绍，Mythos在众多常用应用程序中发现了数千个尚无补丁可修复的安全漏洞，这促使该公司与多家网络安全专家机构组成了一个代号为"Glasswing计划"的联盟，以加强防御能力，并限制该模型的广泛分发——就像一部只在洛杉矶和纽约小范围上映的文艺片。
《卫报》专栏作者Shakeel Hashim写道：
Anthropic声称，Mythos已在所有主流浏览器和操作系统中发现了漏洞。换句话说，这款新AI模型可能会帮助黑客破坏全球最重要的大量软件系统。
如果这类技术被大范围普及，且其能力真如Anthropic所宣称的那样强大，后果将可能是灾难性的。网络攻击早已不只是数字层面的问题，我们在现实世界中依赖的几乎一切都与软件有关。近年来，机场、医院和交通网络已多次遭受网络攻击而陷入瘫痪。过去，发动此类规模的攻击需要相当深厚的专业技术背景，而Mythos将使这种能力触手可及，甚至连业余人士也能掌握，同时也会大幅提升专业攻击者造成破坏的能力。
然而，网络安全专家们已开始对Anthropic的说法提出质疑。记者Aisha Down报道：
目前尚不清楚Anthropic是否真的构建了一个"无所不能的神器"。但更为清晰的是，这家总部位于旧金山、长期以"负责任AI公司"自居的初创企业，在营销方面确实颇具天赋。
"Mythos是一项真实的进展，Anthropic认真对待它是正确的，"进攻性网络安全专家Jameison O'Reilly表示。但他也指出，Anthropic的部分说法，例如声称在主流操作系统中发现了数千个"零日漏洞"，对于现实世界的网络安全而言，其意义并没有那么重大。
2017年，BuzzFeed新闻的科技编辑曾撰文指出，"制造欲望"是苹果公司最大的核心竞争力。我深以为然，而Anthropic似乎也具备类似的天赋。这项技术本身确实强大，但对注意力的操控同样是一种强大的力量。就像苹果真正改变世界的iPhone一样，Claude也是货真价实的产品——众多企业对其编程能力趋之若鹜。苹果、英伟达、谷歌、摩根大通、亚马逊云服务、博通等重量级企业均已与Anthropic在"Glasswing计划"上展开合作。然而，宣称"这个东西太厉害了，不能公开给你用"，本身就是一种高明的营销策略。没有什么比"得不到"更能激发人的欲望。据彭博社报道，在上周于旧金山举办的HumanX AI大会上，Anthropic成为了全场最受关注的焦点。
自生成式AI诞生以来，夸大宣传就始终遮蔽着公众对这项技术的真实认知，而记者和清醒的观察者们也一直在努力戳穿这层迷雾。2019年，Slate曾发表文章，标题为《OpenAI称其文本生成算法GPT-2危险性太高，不宜公开发布》。如今的标题之所以如出一辙，或许并不令人意外——Anthropic的CEO达里奥·阿莫迪曾是OpenAI的研究副总裁，于2020年离职。OpenAI当年也曾将其视频生成器Sora压着不发布长达数月，但好莱坞和电影行业就此终结了吗？并没有。Sora甚至在上个月悄然下线。
相较于如今"数字安全将全面崩溃"的极端论调，2019年那些对简单文本生成危险性的担忧，如今看来不免有些可爱。但正是因为我们已经走过了那段恐慌，这也让我们有理由对当下保持乐观：对于今天这些关于网络安全崩溃的恐惧，我们同样终将走过，最终落脚于一个介于现状与夸大预言之间的现实世界。
Q&A
Q1：Anthropic发布的Claude Mythos是什么？有什么能力？
A：Claude Mythos是Anthropic发布的一款专注于网络安全的AI模型。Anthropic声称它能够发现主流浏览器和操作系统中数千个尚无补丁的安全漏洞，将高难度的网络攻击能力普及至业余人士，对现有网络安全体系构成重大威胁。不过，已有网络安全专家对其部分说法提出质疑，认为所谓"数千个零日漏洞"对实际网络安全的影响并没有Anthropic描述的那么严重。
Q2：为什么Claude Mythos不向公众开放使用？
A：Anthropic以该模型能力过于强大、可能被滥用于网络攻击为由，限制了其公开发布。该公司与多家网络安全机构组成了代号"Glasswing计划"的联盟，旨在加强防御并管控模型的分发。不过，文章也指出，这种"太强大、不能给你用"的说法，本身也是一种激发市场关注度的营销策略。
Q3：AI公司夸大宣传的情况普遍吗？有哪些历史先例？
A：这种情况在行业内相当普遍。早在2019年，OpenAI就曾以"危险性太高"为由拒绝公开发布文本生成模型GPT-2，此后又将视频生成器Sora压制数月才发布，而Sora最终也已下线。文章认为，生成式AI的夸大宣传自技术诞生之初便如影随形，公众对于当前的恐慌同样可能随时间消散，最终回归理性的认知。
热门跟贴