关键词

供应链安全

美国政府正计划授权主要联邦机构使用Anthropic公司Claude Mythos模型的修改版本。该AI模型能够快速识别网络安全漏洞并具备漏洞利用能力,引发了广泛关注。

白宫管理与预算办公室(OMB)联邦首席信息官Gregory Barbaccia周二向内阁部门官员表示,OMB正在建立防护措施,允许联邦机构开始使用该模型。备忘录未指定具体部署机构或提供时间表。

"我们正与模型供应商、行业合作伙伴及情报机构密切合作,确保在向各机构发布修改版模型前建立适当的防护栏和安全措施,"Barbaccia在邮件中写道。

防护措施界定

备忘录提及的"修改版本"引发了关于实际部署形态的疑问。Anthropic于4月7日通过"Glasswing项目"发布了Claude Mythos预览版,该项目是针对特定科技和金融机构的受控访问计划。该公司称该模型在内部测试中发现了各大操作系统和浏览器的数千个0Day漏洞,并表示不计划全面开放该模型。

"要使联邦部署具有防御性,修改必须涵盖特定的保障维度,"Counterpoint Research研究副总裁Neil Shah表示,"被扫描的软件代码库应在隔离的物理隔绝环境中保持主权,且数据不得用于重新训练基础模型。"他补充说,额外措施可能包括透明度要求和人工审核环节,以实现更可控的部署。

企业级影响

这些保障问题直接关系到企业采购决策。OMB的举措表明,联邦网络防御正转向能够比人工团队更快发现漏洞的前沿模型。Shah指出,五角大楼与白宫之间的分歧为私营领域买家提供了重要启示。

"两个政府实体间的分歧警示我们,控制可能被滥用的强大AI能力部署至关重要,"他呼吁建立涵盖发现、分类、安全、保障和行动的多层控制框架。

这种不对称性已超越美国国界。欧洲机构基本被排除在早期访问之外,仅英国AI安全研究所获准测试该模型。若OMB按Barbaccia所述条款推进授权,美国联邦政府的防御性AI能力将领先欧洲,而五角大楼对同一供应商的禁令仍在司法程序中。

绕过五角大楼禁令的民用方案

Shah表示,修改版方案是Anthropic在保持模型控制权的同时规避五角大楼立场的策略。"Anthropic修改版由此绕过了五角大楼非黑即白的做法,帮助其他实体在商定防护栏下将模型作为民用和企业主权的安全飞地采用。"他补充说,这种安排为Anthropic未来在其他政府实体和企业的采用开创了先例。

联邦对Anthropic的访问权限已波动数周。3月26日,加州联邦地区法院针对平行民用禁令向Anthropic授予初步禁令,该裁决为承包商重新评估AI供应链提供了缓冲期。目前Anthropic同时面临军事采购黑名单、民用系统保留令,以及通过OMB扩大访问的讨论。承包商在识别特定AI模型在其技术栈中的位置时面临操作困难,这一挑战重塑了联邦AI部署中的供应链风险格局。

打开网易新闻 查看精彩图片

安全圈

打开网易新闻 查看精彩图片

网罗圈内热点 专注网络安全

实时资讯一手掌握!

好看你就分享 有用就点个赞

支持「安全圈」就点个三连吧!