一家成立仅数月的安全初创公司，用AI智能体在不到12小时内找到了进入Anthropic内部业务系统的路径。这次测试经由Anthropic面向外部研究者的项目开展，属于授权安全测试，而非犯罪攻击。
据《华盛顿邮报》报道，Cathedral的智能体没有攻破Anthropic的核心AI模型，也没有利用其自有代码。它们走的是为行政和销售工作提供支持的第三方软件中的弱点，这些软件的具体名称未被公开。
进入系统后，研究者触及了会议记录、薪资与录用通知细节，以及内部Slack中关于Anthropic先进AI模型的讨论。Anthropic向《华盛顿邮报》确认，Cathedral访问了一组有限的销售、人力资源和IT系统，其中包含部分客户与合作伙伴的业务联系信息，以及基础用户账户记录。
但客户提示词、Claude的回复、源代码和模型权重均未被访问。这一边界之所以关键，在于模型权重和源代码属于AI公司最敏感的资产。
Anthropic还表示，其监控工具在Cathedral上报之前就已标记了部分动作。公司在当天终止了访问权限，停用受影响的业务软件，直到供应商确认修复就绪后才恢复。Anthropic称未发现Cathedral之外的人利用过这些弱点。
双方对测试的部分环节存在分歧。Anthropic认为Cathedral未完全遵守其漏洞赏金规则，原因是未在公司系统内完整披露所有活动。Cathedral则表示已将数据访问控制在负责任研究所需的最低限度，供应商名称与具体漏洞细节被隐去，以降低被滥用的风险。
这起案例指向一个更普遍的问题：AI实验室可以守住模型基础设施，但相连的人力、销售、身份与协作工具会打开通往敏感业务数据的其他路径。对安全团队而言，需要梳理每一处软件连接、限制应用权限、审查OAuth令牌、监控异常账户行为，并及时清除不再需要的访问权限。
它同时显示AI智能体如何压缩安全测试的周期——扫描系统、测试路径、运行工具、复核结果，各步骤之间的等待被大幅削减。研究者仍在设定范围、判断发现和控制披露，人的角色没有被移除。
Cathedral成立仅数月，已获得关注。公司由Gavin Kliger、Luke Farritor、Marko Elez和Jack Stein共同创办，四人均为前DOGE staffers，Kliger曾担任五角大楼首席数据官。路透社7月报道，Cathedral以14亿美元估值完成1.6亿美元融资，由Andreessen Horowitz和红杉资本领投。一名特朗普政府高级官员向《华盛顿邮报》表示，已有三家联邦机构与Cathedral签约，政府正与该初创公司合作应对敌意AI场景。
热门跟贴