9月15日消息,针对前沿AI技术快速发展带来的安全风险,360近日表示,放缓AI技术迭代只能为安全治理争取时间,无法从根本上解决风险,AI安全不能仅依赖厂商自我审查,还需要引入独立第三方攻防力量进行安全校验。
360认为,随着大模型和自主智能体能力提升,AI正在获得网络访问、跨系统调用等更多权限,一旦出现失控、越权或数据泄露,可能进一步放大网络安全风险。传统由厂商自行建设、自行检测和验证的安全模式存在检测盲区,需要通过外部攻防测试补充安全验证。
在技术方案方面,360提出“以模治模”的AI安全思路,即通过AI对AI进行检查和约束。在大模型安全领域,其安全体系覆盖训练、推理、应用和运营等环节,包括风险评测、内容安全防护、数据保护和运行动态监测等能力。
针对智能体安全,360则建立覆盖事前风险评估、事中动态拦截和事后溯源审计的管控体系。公司披露,旗下“图龙锋”可用于主动发现未知漏洞,自上线以来已累计挖掘AI相关漏洞超过万个。
360集团创始人周鸿祎此前表示,随着AI能力增强,其失控后的潜在破坏力也会提高,因此AI安全治理需要进一步前置。360认为,在AI技术持续迭代的背景下,第三方独立攻防校验有望成为AI安全体系的重要组成部分。(定西)
热门跟贴