2026年以来，人工智能技术发展持续突破，但与此同时，自主攻击行动等新型安全事件频发。为增强应对人工智能安全风险的能力，提升人工智能安全风险的治理效能，人工智能安全治理框架亟须进行系统性深化调整与结构性优化升级。
《框架3.0》出台的必要性
首先，《人工智能安全治理框架3.0》（以下简称《框架3.0》）是中国人工智能安全治理经验的系统凝结与升华。《框架3.0》并非在以往的基础上简单修补或是局部更新，而是基于对技术发展新趋势的前瞻性回应和对现实治理实践的全面把握所进行的系统性升级。通过“梳理更新风险分类，优化调整技术应对和综合治理措施”，形成从风险识别到举措落地的治理闭环。同时，坚持以人为本、向上向善的治理理念，确保人工智能发展始终服务人类、造福人类，使得中国方案兼具治理效能与人文关怀。
其次，《框架3.0》是中国人工智能安全风险认知的又一次全面升级。在风险类别上，《框架3.0》将原本零散或尚未出现的风险单独归类，设立专节列出智能体风险、具身智能风险、冲击网络安全风险等新类别；在具体风险点上，新增数据投毒污染、合成数据缺陷等，尤其设置非预期自主行为风险、自主实施网络攻击威胁等专栏，这些新增内容不再局限于模型出错或被人滥用，而是指向人工智能自身的深层风险，意味着中国人工智能安全风险认知更加升级，风险图谱更加完整，推动后续应对措施更加闭环。
最后，相较于域外治理框架，《框架3.0》契合技术发展趋势，提供了面向未来的前沿治理思路。聚焦具身智能、智能体治理，极大地拓展了治理视野，从让“大模型不要说错话”的数字世界安全层面转向让“智能体不要做错事”的物理世界安全层面，回应了人工智能从被动产出向主动执行演进所带来的新型风险挑战。针对技术发展趋势作出治理布局，将治理对象从模型输出拓展至具身智能、智能体行为，将治理边界从内容安全延伸至行为安全与系统安全，不仅具有前瞻性，也为全球人工智能治理提供了新的议题框架与讨论基础，体现出中国方案在治理对象与治理边界上的引领性。
《框架3.0》的内容优化
相较于前两版《框架》，《框架3.0》在以下三个关键方面作出了显著优化：
一是全面整合综合治理措施，形成系统性的治理方案。《框架3.0》舍弃将治理措施作为条目列举的做法，而是从顶层设计、能力建设、管理举措、共识基础四个层面进行系统性整合，并加入构建柔性、动态、可控的沙箱监管环境。深化顶层设计，完善人工智能安全治理的总体架构与制度安排；增强具体的能力建设，包括提升风险监测能力、评估能力、处置能力与协同能力；强化人工智能安全管理的具体措施，将治理要求转化为管理规范与工作流程。同时，在基础共识方面，推动政府、企业、学界、社会多方参与，为治理体系的持续运行提供广泛的社会基础与价值认同。可见，《框架3.0》治理体系的系统性、整体性、协同性显著增强。
二是新增风险类别，提出应对人工智能驱动网络攻击。《框架3.0》新增“冲击网络安全风险”类别，明确列出网络攻击能力扩散、网络防御能力滞后、自主化网络攻击威胁、溯源和追责困难四类风险，并设置“自主实施网络攻击威胁”专栏。同时，在技术应对上，提出设置网络安全护栏、加强自主网络攻击意图识别、建立服务降级机制、加强人工智能赋能网络防御等要求，覆盖事前、事中、事后全过程。此外，提出“完善人工智能驱动的网络安全防护体系”，要求利用人工智能加速代码审计、漏洞挖掘与修复、攻击检测，推动安全风险防范从被动转向主动，体现出“风险导向、敏捷治理”的原则要求。
三是立足技术发展前沿，形成前瞻性的风险管理方案。智能体实现了人工智能从“回答问题”向“执行任务”的本质跨越，具身智能则推动人工智能从数字空间走向物理世界。而传统的风险管理主要围绕大模型的内容输出展开，难以覆盖具身智能与智能体行为所带来的新型风险。《框架3.0》从全生命周期入手，聚焦智能体的设计研发、安装部署、指令输入、推理规划、调用执行、记忆存储、结果输出、停用下线等环节，重视具身智能带来的环境感知、物理执行、人机交互、群体协同风险，尽可能精准地把握新型风险点，提出针对性的风险防范措施。同时，在附件2中列出了智能体风险管理框架，给出了面向未来的前瞻性风险管理方案，回应了人工智能新形态风险对治理提出的挑战。
《框架3.0》的发布，标志着我国在人工智能治理方面迈入更为系统的新发展新阶段。《框架3.0》全面整合了各项综合治理措施，转化为治理体系方案，兼顾了新兴治理议题，推动了监管机制的创新与具体落地。这正说明《框架3.0》不是简单地提出原则性倡议，而是给出具体的制度设计，以回应全球人工智能治理面临的共同困境。这也体现出《框架3.0》是中国参与并推动全球人工智能治理进程的重要一步，展现了我国人工智能安全治理框架不断走深走实。
作者张凌寒，系中国政法大学人工智能法研究院院长、教授。本文内容来自"中国网信杂志"公众号，本文章仅限学习交流使用，版权归原作者所有。
⚖️
Serving national strategies, focusing on university research and the transformation of scientific and technological achievements
热门跟贴