打开网易新闻 查看精彩图片

Anthropic一直以谨慎的AI公司形象示人。该公司发布详细的AI风险研究,聘用了该领域一些顶尖的研究人员,并一直在积极倡导构建如此强大技术所应承担的责任——如此积极,以至于目前正与国防部展开激烈争论。然而在周二,公司内部有人忘记了检查某个选项。

值得注意的是,这是一周内的第二次事故。上周四,《财富》杂志报道称,Anthropic意外地将近3000个内部文件公开,其中包括一篇描述公司尚未发布的强大新模型的博客草稿。

周二发生的具体情况如下:当Anthropic推出其Claude Code软件包的2.1.88版本时,意外包含了一个文件,暴露了近2000个源代码文件和超过51.2万行代码——基本上是其最重要产品之一的完整架构蓝图。安全研究员邹朝帆几乎立即发现了这一问题,并在X平台上发布了相关信息。Anthropic对多家媒体的声明相当平淡:这是由人为错误造成的发布打包问题,不是安全漏洞。我们猜测,在公司内部,情况可能没有这么平静。

Claude Code并非次要产品。它是一个命令行工具,让开发者能够使用Anthropic的AI来编写和编辑代码,已经变得足够强大,令竞争对手不安。据《华尔街日报》报道,OpenAI在向公众发布仅六个月后就停止了其视频生成产品Sora,将重点转向开发者和企业市场——部分原因正是为了应对Claude Code日益增长的势头。

泄露的内容并非AI模型本身,而是围绕模型的软件架构——告诉模型如何行为、使用什么工具以及限制在哪里的指令。开发者几乎立即开始发布详细分析,其中一位将该产品描述为生产级开发者体验,而不仅仅是API的包装器。

这次泄露是否会产生持久影响,最好留给开发者来判断。竞争对手可能会发现这些架构很有启发性;同时,这个领域发展迅速。

无论如何,在Anthropic的某个地方,你可以想象有一位非常有才华的工程师在这一天剩余的时间里静静地想知道自己是否还有工作。我们只能希望这不是上周末那位工程师或工程团队。

Q&A

Q1:Claude Code是什么产品?有什么重要性?

A:Claude Code是Anthropic开发的命令行工具,让开发者能够使用该公司的AI来编写和编辑代码。它已经变得足够强大,令竞争对手不安。据报道,OpenAI甚至因为Claude Code的竞争压力而停止了视频生成产品Sora,将重点转向开发者市场。

Q2:Anthropic这次泄露了什么内容?

A:当Anthropic推出Claude Code软件包的2.1.88版本时,意外暴露了近2000个源代码文件和超过51.2万行代码,基本上是其最重要产品之一的完整架构蓝图。泄露的是围绕AI模型的软件架构,包括告诉模型如何行为、使用什么工具以及限制条件的指令。

Q3:这是Anthropic第一次出现信息泄露事故吗?

A:不是的,这是一周内的第二次事故。上周四,《财富》杂志报道称Anthropic意外地将近3000个内部文件公开,其中包括一篇描述公司尚未发布的强大新模型的博客草稿。连续的泄露事件对这家以谨慎著称的AI公司来说确实不寻常。