来源:市场资讯

(来源:AI信息Gap)

白宫给了 Anthropic 90 分钟。

「下架你的模型,不接受讨价还价。」

导火索,竟是 Anthropic 自己最大的金主亲手递交上去的一封举报信。

Claude Fable 5 出道即巅峰,又瞬间陨落。

这两天,幕后的故事正在逐渐浮出水面。

据多家媒体报道,整件事是亚马逊引爆的。

打开网易新闻 查看精彩图片

亚马逊 CEO Andy Jassy 亲自打电话给美国财政部长 Scott Bessent 等高层官员,转达了亚马逊安全研究团队的发现。亚马逊研究员用一系列特定提示词,让 Claude Fable 5 输出了本不该给的信息,涉及网络安全漏洞挖掘。

这份报告被直接送进了白宫

但亚马逊同时也是 Anthropic 最大的投资方。前前后后累积投了大约 130 亿美元,还拿下了 1000 亿美元的 AWS 基础设施合同。

自己亲手举报了自己投资的公司,导致其旗舰模型全球下架。这骚操作有点迷。

从亚马逊递交报告到出口管制令签发,不到 24 小时。

6 月 12 日下午,Anthropic CEO Dario Amodei 陆续接到商务部、财政部、白宫多个部门的电话。

Dario Amodei 辩解说,这个越狱技术是「小范围、非通用」的。本质上就是让模型读一段代码然后找漏洞,安全防御人员每天都在做同样的事。而且同样的技术对 GPT-5.5 等公开模型也有效。

然而对方不买账。

「先下架,后面再谈。」

Dario Amodei 一开始拒绝了。

前白宫 AI 政策顾问 David Sacks 在社交媒体发表了一篇长文,说白宫事先警告了 Anthropic,但 Dario Amodei 既不肯修复越狱漏洞,也不肯主动下架模型。

David Sacks 说,「一个高度可信的合作伙伴」报告了越狱问题,Dario Amodei 认为「不严重」,拒绝处理。

打开网易新闻 查看精彩图片

于是直接上行政手段了。

一位安全公司 CEO 看完亚马逊的研究报告后这样评价,「完全是过度反应。」

她说,亚马逊研究员发现的那些安全漏洞,本来就是防御人员每天在用 AI 做的事。你问 AI「这段代码有什么漏洞」,它回答了,这不叫越狱,这叫正常使用。

Anthropic 的立场也一样。他们说,「如果按这个标准下架一个商业模型,那行业里所有前沿模型都应该立即下线。」

Andrej Karpathy,OpenAI 联合创始人,前特斯拉自动驾驶 AI 总监。5 月 19 日刚加入 Anthropic 预训练团队。

Claude Fable 5 发布时他发帖称赞,「这是一次代际跃迁」。

打开网易新闻 查看精彩图片

然而管制令一出,网上立刻有人扒出,就连 Andrej Karpathy 自己也没有 Claude Fable 5 的访问权限了。

打开网易新闻 查看精彩图片

一个负责训练 Anthropic 下一代模型的人,有可能连自家当前最强模型都不被允许使用。

太魔幻了。

多位欧洲政界人士公开表态,说这件事敲响了「警钟」。

「依赖别人提供 AI 技术,一夜之间就可能被拔掉网线。」

欧盟委员会用这件事给自己的「技术主权」战略背书。你今天用的最强模型,明天就可能凭空消失。

Anthropic 的 IPO 也不好过。

6 月初刚提交了 S-1 注册草案,目标估值 9650 亿美元,直冲万亿。高盛、摩根士丹利、摩根大通联合承销,预计今年秋季上市。

结果自家旗舰模型全球下架了。

消息一出,Anthropic 在二级市场上的交易份额立刻下跌。预测市场上,Fable 5 在 7 月 1 日前恢复的概率为 68%。

Anthropic 高级技术团队已经飞往华盛顿,正在和白宫官员开会。

据报道,双方都表达了「想尽快解决问题」的意愿。但谈判仍在进行中。

Anthropic 次日原定的 Build Day 活动已经改用 Claude Opus 4.8。其他 Claude 模型不受影响。所有用户的 5 小时和周度使用限额已经重置作为补偿。

Claude Fable 5 发布第二天,Anthropic CEO Dario Amodei 公开发表长文,呼吁政府应该有权叫停高风险 AI 模型。

两天后,政府真的动手了。

只是没按他设想的方式。

我是木易,Top2 + 美国 Top10 CS 硕,现在是 AI 产品经理。
关注「AI信息Gap」,让 AI 成为你的外挂。