来源:@第一财经日报微博
【#大模型厂商从网络安全颠覆者到派单员#】#AI正在重塑网络安全行业#当地时间9月1日,Anthropic新模型Fable 5.1发布不到几小时,匿名安全研究员Pliny the Liberator公开了一份声称从模型运行环境中提取出的系统提示词——超过27万字符,包含核心行为逻辑、记忆系统、版权规则、插件路由,以及全部46个内置工具的JSON架构(用来定义模型与外部世界交互的接口)。这并非模型权重的泄露,也没有证据显示Anthropic后台或用户数据因此遭到入侵。但它让外界得以近距离观察一个前沿AI系统如何通过系统指令、工具权限和安全规则来控制自身行为,并暴露了一个更根本的问题:当AI操作手册不再是秘密,企业该如何信任一个可以被解构的AI体系?近段时间,AI行业的安全事件密集发生,越狱、提示注入、零日漏洞挖掘,前沿模型的攻击面正以远超预期的速度暴露。大模型厂商一度被视作网络安全行业的“颠覆者”,如今却成了安全市场最大的“派单员”。这一角色转变也被近期密集出炉的财报数据所验证。
热门跟贴