中国青年报客户端北京6月24日电(中青报·中青网记者卢健)第十四届互联网安全大会今日在京召开。大会以“智能体颠覆安全”为主题,汇聚邬贺铨、赵春江等院士,全国工商联、中国互联网协会的相关领导,以及信创、安全、云计算、大模型和算力等产业龙头企业代表参会,围绕智能体全新安全风险、自主技术攻关、产业协同共治、全球AI安全治理展开深度交流,研判AI时代网络攻防全新格局。
“智能体的攻击正在呈现出自主决策、集群协同与持续进化的技术特征。”大会现场,中国工程院院士邬贺铨提出,安全范式必须从被动防御转向主动免疫,必须利用人工智能构建覆盖预测防御、检测、响应、恢复全生命周期的体系化安全运营框架。
中国互联网协会副理事长赵志国强调,当前的智能体技术由于具备自主决策能力,其安全风险被放大,同时传统基于身份的信任机制面临失效风险。此外,随着智能体加速向制造、金融、能源等关键领域渗透,任何一处安全隐患,都可能借助智能体的自主调度能力,在短时间内引发跨网络、跨行业的连锁反应,这对风险防范和应急处置提出了新的更高的要求。
中国工程院院士赵春江指出,AI系统存在多层次的安全风险,未来应在数据层实现数据可用不可见;在模型层强化模型鲁棒性;在应用层摒弃默认可信的传统防护逻辑;在检测层实现风险可追溯;在基础设施层重点保障智算云平台的底层安全。
“过去发现漏洞难度大、成本高、周期长、结果不确定,需要有一批有特殊才能的专业黑客,长期对代码做分析、做研究、做测试。”360集团创始人周鸿祎表示,当下某些先进大模型已经彻底改变了网络安全格局,能够大幅提升高价值漏洞发现效率、成倍挖掘系统漏洞、显著降低漏洞挖掘成本,同时大幅拉低网络攻击技术的使用门槛。
“随着大模型、智能体等技术全面走进真实应用场景,网络安全、数据安全、算法安全的重要性愈发凸显,发展与安全一体两面、不可偏废。”全国工商联党组成员李冰说。
热门跟贴