郑志明
中国科学院院士，未来区块链与隐私计算高精尖创新中心主任
2026年《政府工作报告》提出，打造智能经济新形态，强调深化拓展“人工智能+”、建设高质量数据集、完善人工智能治理，要求加强网络内容建设和管理、深化网络综合治理。“十五五”规划纲要进一步提出，完善人工智能领域法律法规、政策制度、应用规范、伦理准则，健全算法备案、透明度管理、安全评估等制度，推动建立人工智能全生命周期风险管理制度。修改后的《中华人民共和国网络安全法》新增人工智能相关条款，明确国家支持人工智能基础理论研究和算法等关键技术研发。生成式人工智能正在推动内容治理对象、治理重点和治理方式发生深刻变化，生成式人工智能内容治理由局部规范进入系统部署阶段。加快形成可信能力，已经成为提升内容治理效能的重要方向。
内容治理对象由信息内容转向动态链路
从应用规模看，内容治理对象发生了明显变化。第57次《中国互联网络发展状况统计报告》显示，截至2025年12月，我国生成式人工智能用户规模达6.02亿人，普及率达42.8%。国家网信办2026年7月发布公告显示，2026年5月至6月新增120款生成式人工智能服务完成备案；截至6月30日，累计有988款生成式人工智能服务完成备案，598款生成式人工智能应用或功能完成登记。生成式人工智能已经从技术探索走向规模化应用，内容治理面对的是社会化嵌入、平台化运行和场景化扩展的新情况。针对单条信息、单个平台、单一场景的治理方式，越来越难以适应跨模态、跨平台、跨主体耦合运行的复杂系统，内容治理对象转向动态链路。
内容生成方式的变化带来内容治理逻辑的调整。生成环节可能出现失真、虚构和深度伪造，编辑环节可能带来来源漂白和责任模糊，发布环节可能因标识缺失造成真假混杂，推荐环节则可能放大情绪、误导扩散。深层次问题集中表现为来源不可证、边界不可控、责任不可归、过程不可审。内容治理如果仍停留在末端，则只能在问题形成并扩散后被动应对。因此，生成式人工智能内容治理的重点，须前移到源头治理、过程治理和系统治理。
2025年3月，国家网信办等四部门联合印发《人工智能生成合成内容标识办法》，明确人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。2026年3月，国家网信办指导网站平台将内容标注设为短视频发布的必经环节，并推动对存量内容分批回溯和补充标注。同年4月，《数字虚拟人信息服务管理办法（征求意见稿）》提出，自数字虚拟人服务开始，数字虚拟人服务提供者、服务使用者及提供网络信息内容传播服务的服务提供者应当在数字虚拟人展示区域全程持续显示含有“数字人”字样的显著提示标识。当前内容治理的重点已经转向溯源。
随着人工智能生成内容快速发展，真实性已成为来源可证、事实可核、关系可辨、责任可追的全过程要求，而真实性越被嵌入系统能力，内容治理就越能从被动纠偏转向主动塑形。生成式人工智能内容治理要夯实的正是可信能力。
以可信智能进一步夯实内容治理底座
提升内容治理效能，关键在于把可信能力变成系统能力，让可信成为贯穿数据、模型、执行、传播、反馈全链路的底层能力结构。一方面，高置信输出、可修正纠错、可问责运行，都离不开可验证、可控制、可审计、可追溯的能力支撑；另一方面，区块链、隐私计算等技术为构建可信智能的底座提供了解决方案。
区块链的重要价值，在于把责任固化为能够核验、能够追溯、能够归责的制度化能力。上链的是内容生成和传播形成的身份信息、时间信息、指纹信息、版本信息和链路信息。由此形成证据链、责任链和追溯链，使“谁产生、谁修改、谁传播、谁负责”具备稳定的技术基础。与此同时，“十五五”规划纲要部署“实施国家区块链网络建设工程”，区块链成为国家数智基础设施的重要组成部分。区块链在内容生成和传播中的应用越靠前，责任边界就越清晰；链路留痕越完整，追责基础就越扎实。
隐私计算的重要价值，在于为可信协同划定清晰边界。《国家数据基础设施建设指引》明确，在数据流通利用安全层面，综合利用隐私保护计算、区块链、数据使用控制等技术手段，保证数据的可信采集、加密传输、可靠存储、受控交换共享、销毁确认及存证溯源等，规避数据隐私泄露、违规滥用等风险。加强算法、模型、数据的安全审计，增强模型鲁棒性和安全性，保证高价值、高敏感数据“可用不可见”“可控可计量”“可溯可审计”，确保安全防护贯穿数据全生命周期各环节。《可信数据空间发展行动计划（2024—2028年）》则把可信数据空间界定为基于共识规则、联接多方主体、实现数据资源共享共用的数据流通利用基础设施，并提出到2028年，可信数据空间运营、技术、生态、标准、安全等体系取得突破。
区块链解决的是协同过程中的身份确认、规则约束和责任留痕，隐私计算解决的是数据在不裸露条件下如何安全协同，两者结合才可能形成可信流通和可信治理的一体化能力。
可信能力最终还要落实到高置信输出。对于主流媒体、政务问答、教育服务、医疗咨询等高公共性场景，需要“准而专、稳而可控”的能力形态。生成式人工智能越深入真实场景运行，可信能力建设的重要性就越凸显。
把可信要求贯穿生成、传播、审计全过程
生成式人工智能内容治理要形成覆盖数据、模型、执行、传播、审计全过程的技术与制度体系。数据层重在采集、分级分类、授权管理和质量控制；模型层重在对齐、评估、版本迭代和鲁棒控制；执行层重在推理约束、权限控制、工具调用和流程编排；传播层重在内容标识、平台审核、跨域识别和分发控制；审计层重在过程记录、存证核验、异常预警和反馈修正。
治理要求需要嵌入内容生产链路的每一个关键节点。在生成之前，要做好语料分级、脱敏去标识、知识校核和版权权限确认；在生成之中，要做好安全对齐、提示词防护、工具调用限权和策略路由；在生成之后，要做好事实核验、相似性检测、语义指纹提取和标识注入。越早把治理要求嵌入流程，越能减少后端被动处置的压力，越能降低系统性风险在传播链上的累积和放大。
传播层治理需要从“可见”走向“可识、可核、可归因”。显式标识面向用户感知，隐式标识面向机器识别，短视频内容标注面向平台分发规则，数字虚拟人管理则把显著提示标识、日志留存、算法备案和安全评估进一步延伸到新场景。传播层治理的核心在于让平台和监管系统能够识别内容来源、核验传播路径、追踪责任主体。越复杂的传播链越需要稳定、统一、可追踪的标识与核验机制。
生成式人工智能内容治理范式正在由工程治理走向系统治理，工程治理解决的是怎么把原则转化为规则、把要求转化为接口、把责任转化为流程，而系统治理解决的是如何在跨模态、跨平台、跨主体耦合的复杂环境中形成持续有效的治理能力。
立足分类分级治理对重点场景和关键环节精准施策
生成式人工智能内容治理面临的不是单一风险，而是数据风险、模型风险、内容风险、传播风险、智能体风险相互交织、多维耦合的风险体系。风险高一档，自动化权限就要降一档；公共影响大一层，人工把关责任就要加一层。“十五五”规划纲要提出，推动建立人工智能全生命周期风险管理制度，并明确依法打击数据滥用、深度伪造、泄露隐私等行为。这表明，内容治理不能依赖“一刀切”的静态规则，而要形成分层分类、动态调整、精准施策的治理机制。
要把重点场景当作检验治理效能的关键。“十五五”规划纲要明确提出，充分发挥数智技术和数据要素对丰富人民生活、改善民生福祉的作用，拓展教育、医疗、养老、文旅、就业、消费等领域融合应用。促进人工智能助力教育模式变革，有序推动数智技术在辅助诊疗、精准医疗、健康管理、医保服务、养老助残等场景的应用；同时提出安全稳妥有序推进政务领域人工智能大模型部署应用。这些场景具有高公共性、高敏感性和高责任性，使内容治理必须把真实性、可解释性、可追责性摆在更加突出的位置。
要把规则、技术和责任组织成一个可运行系统，加快建设可信智能中台。在规则层建立禁限用清单、权限矩阵、审批流程和应急预案；在能力层完善模型注册、标识服务、链上存证、联邦协同、风控引擎和审计引擎；在编排层强化策略路由、风险分级、日志管理和反馈闭环；在应用层支撑采编、审核、分发、政务、知识服务、客服、舆情治理等业务，把治理要求沉淀为基础能力。
立足国情构建可信智能生态
我国可信智能发展的突出优势在于能够把可信流通、可信计算、可信治理联成一体。《国家数据基础设施建设指引》提出，支持建设企业可信数据空间、行业可信数据空间、城市可信数据空间，探索建设个人可信数据空间、跨境可信数据空间。支持基础好、有条件、意愿强的行业和城市，先行先试数场建设。鼓励行业、地方积极探索建设区块链网络、隐私保护计算平台等新技术设施。“十五五”规划纲要则把国家区块链网络建设工程、数据资源开发利用、人工智能治理和风险防控体系放到同一发展框架中统筹部署。因此，可信智能并不是脱离数据基础设施另起炉灶，而是在可信数据空间和国家数据基础设施之上，继续向模型协同、内容标识、风险控制和安全审计等更高层级延伸。
这样的发展路径也意味着生成式人工智能内容治理不能停留在单点突破和碎片部署上。推动区块链、隐私计算、精准智能与内容标识机制协同落地，建立全链路治理框架和合理治理机制，强化公共利益保护，推动平台、监管部门协同共治，都是可信智能生态不可或缺的。形成多主体参与、多层次协同、多环节贯通的内容治理共同体，既是治理能力现代化的要求，也是网络强国建设的题中之义。
生成式人工智能向纵深发展，更需要把制度优势、场景优势和市场优势更好转化为治理优势。一方面，我国具有超大规模市场、丰富应用场景和较强制度组织能力，在可信数据流通、智能治理规则、基础设施建设和重点场景落地方面具备形成体系化优势的条件；另一方面，推动可信智能生态加快成形，要坚持促进发展和规范管理相统筹，技术创新和底线安全相统一，在发展中固安全、在治理中促发展。
生成式人工智能内容治理是一项系统工程，也是一项长期工程。越是技术迭代加快，越要保持战略定力；越是应用场景扩展，越要守住安全底线；越是内容生产便利，越要夯实可信基础。我们要沿着这一方向，把可信能力建设摆在更加突出的位置，把源头治理、过程治理、系统治理统一起来，把规则建设、技术建设、平台责任和社会协同贯通起来，为健全网络综合治理体系、营造清朗网络空间、加快建设网络强国提供更加坚实的支撑。
原标题：以可信智能提升生成式人工智能内容治理效能
作者：郑志明系中国科学院院士，未来区块链与隐私计算高精尖创新中心主任：吴发国系未来区块链与隐私计算高精尖创新中心副主任
来源：《中国网信》2026年第7期
投稿：zhongguowangxin@vip.sina.com
热门跟贴