美国网络安全和基础设施安全局(CISA)目前尚未获得Anthropic旗下漏洞检测AI模型Claude Mythos的访问权限,尽管其他政府机构已经获批使用。这一消息由Axios于本周早些时候率先报道。
然而,更令这家国家网络防御机构难堪的是,根据彭博新闻的报道,已获得Mythos访问权限的名单中,竟然包含多名未经授权的用户。彭博援引一名匿名成员的说法称,一个专门收集未公开AI模型相关信息的私人Discord频道成员,已成功获取了Mythos的访问渠道。该人士表示:"该群体此后一直在定期使用Mythos,但并非用于网络安全目的。"并提供了相应截图作为佐证。
由于担心这一强大模型可能被用于识别和利用软件及在线服务中的安全漏洞,Anthropic通过其内部计划"Project Glasswing",将Mythos的预览访问权限严格限定在特定政府机构、行业团体及软件供应商的小范围群体内。
尽管CISA被拒之门外,但仍有部分政府机构已获准使用Mythos,包括美国商务部AI标准与创新中心以及美国国家安全局。据Axios报道,上述机构目前正对Mythos展开评估工作。
Q&A
Q1:Claude Mythos是什么模型?它的主要用途是什么?
A:Claude Mythos是Anthropic开发的一款专注于漏洞检测的AI模型,主要用于识别软件和在线服务中的安全缺陷。由于该模型功能强大,存在被滥用于挖掘和利用安全漏洞的风险,Anthropic目前通过"Project Glasswing"计划,仅向特定政府机构、行业团体和软件供应商提供有限预览访问权限,尚未对外公开发布。
Q2:Project Glasswing是什么?它如何管控Mythos的访问权限?
A:Project Glasswing是Anthropic为管控Claude Mythos访问权限而设立的专项计划。鉴于Mythos在漏洞识别方面的强大能力,Anthropic担心其被恶意利用,因此通过该计划严格限制访问范围,仅允许经过审核的政府机构、行业组织和软件供应商参与预览测试,以降低模型被滥用的安全风险。
Q3:哪些机构已获得Mythos的访问权限?
A:根据目前报道,已获得Claude Mythos访问权限的机构包括美国商务部AI标准与创新中心和美国国家安全局,两者均已开始对该模型进行评估。值得注意的是,CISA这一核心网络安全机构反而尚未获得访问资格,而一个专注于收集未公开AI模型信息的私人Discord群体,却已在未经授权的情况下获取并使用了该模型。
热门跟贴