来源 | 人民论坛网-人民论坛杂志
转载请注明来源
“十五五”规划纲要指出：“健全网络综合治理格局，完善网络生态治理长效机制，规范网络内容生产、信息发布和传播流程，督促互联网企业履行社会责任。”网络生态治理在国家治理中占有重要地位，面对生成式人工智能技术的快速发展和社会普及，人机协同的新应用、新现象和新问题不断涌现。当前，人机社会网络生态治理面临哪些难点？如何提升媒介化治理？推荐阅读武汉大学媒体发展研究中心副主任肖珺在《人民论坛》的最新刊文。
人机社会网络生态治理面临的难点
人类社会正在共同面对人工智能、大数据等新技术新应用不断涌现带来的新问题，传播生态重要的变化是，逐渐脱离人类中心的交往模式，转向人与机器等多样主体共生的语境。数字化、网络化、平台化、智能化的发展大势，给网络生态治理带来新议题，也提供新的可能性。网络生态治理建立在全球人工智能开放生态的基础上，那么，着眼深入推进国家治理体系和治理能力现代化目标，当前的薄弱环节，即我们正在面对的难点主要体现在以下几个方面。
面对人机共生新图景，网络生态治理将面对多方共治新格局。“十五五”规划纲要中，关于“人工智能+”治理能力的发展目标包括，要“探索构建自然人、数字人、智能机器人等协同的安全治理体系”。在一定程度上，这是对人类社会已经迈入“人—机—人”平行存在、交互共生的人机社会的政策回应。大型语言模型、算法决策系统等机器智能，不仅具备语言理解、信息整合、判断生成、作品产出等能力，而且通过人类实现对这些能力的运用和不断创新，深入“参与到人类社会的关键领域（如治理）”，这不仅改变社会构成，而且是把纯粹的、以人类为唯一行动者的社会，转型为人类与机器协同的人机社会。人机社会比较本质的变化是，机器不再仅仅是人类生产与生活的工具，而成为具备与人类共生、共情、共识和共作的交往和行动主体，这使得机器智能快速、普遍和深入地嵌入人类社会运行系统中。
“人机社会”的概念指向三重内涵。首先，网络生态治理，将是面向自然人、数字人，以及智能机器人等多方主体的公共安全治理体系；其次，强调生成式人工智能作为技术基础设施，对人类社会交往（经济、政治、法律、道德、文化等）带来的整体性塑造；再次，指向人机交往的可能风险，当人类社会开始改变以人为中心，或以人为主导的传播交互方式，就会出现技术性依赖、虚拟交往成瘾、人机治理关系倒置以及社会不平等问题，将造成高度不确定性的治理困境。近年来，以中美为代表的全球主要国家，都在快速提升基础设施建设的智能化领先水平，人机社会将被嵌入、渗透，以及弥散至互联互通、多样感知，且品类丰富的全球沟通平台中，数智化信息协同网络，正同步推动人类机器化和机器人类化的加速融合。
全球领先平台加速完善AI生态系统，人机协同行动成为现实，这将大幅度增加对人机混合行为的治理难度。在人机融合复杂社会系统中，各种社会活动通过人机交互，可在大时空尺度上形成数字化连接，这给社会治理带来较大挑战。近一年，全球领先平台深度优化人机交互功能，以收购、开源等方式，提升人机交流质量、用户黏性，并拓展应用场景，加速完善的AI生态系统使得人机混合行为日益普遍和深入。例如，2025年12月，Meta（原Facebook）在历经较短时间的谈判后，以数十亿美元收购源自中国的AI应用Manus。Manus是像人一样，可以调度各种工具，并解决复杂问题的AI智能体（Agent），可以赋予Meta用户更强大的社会行动力，完成报告写作、财务分析、旅行规划等复杂任务。Manus将被整合到Meta旗下的Facebook、Instagram，以及WhatsApp、Workplace等平台的VR/AR生态系统中，用户将从与AI“聊天”，升级到联合AI“做事”。
人机混合行为在虚实融合的社会交往系统中，将涌现大量治理新课题。可预判的是，这将会直接增大数据跨境流动和监管合规难度，并导致算法“黑箱”带来的责任真空难题。仍以Manus与Meta生态系统为例。截至2025年12月初，Manus已累计处理超147万亿个词元（Token），启动8000多万台虚拟计算机，为全球数百万用户提供服务。人机混合行为产生后，智能体的强任务规划与自主执行能力，将导致人机交互点的分散化、责任链条的碎片化，以及算法机制的非解释性，高风险社会治理问题一旦发生，将出现无主体、无对象治理之困，进而可能会对社会体制产生深层次的影响。2026年初，OpenClaw作为开源智能体项目在全球引发安装热潮，其凭借强大的自动化任务处理能力与开放式插件生态，而被快速应用到个人用户、企业，以及金融、能源等关键行业。同时也出现主机被接管、窃取用户关键信息、泄露敏感信息，以及金融诈骗、无视用户指令等安全问题。当前，AI大模型迭代速度较快，正成为推进全球信息秩序变化的关键力量。全球海量用户的个人敏感信息、办公信息、商业数据、行为流动数据等，在人机混合行为中不断运行、迁移、渗透和交汇，人机交往以无法估量的混合数据方式，与有的国家的法律法规产生摩擦和冲突，看似去中心化的透明世界，却令算法“黑箱”现象更加显著。网络生态治理的关键，是对基础设施和自动化行为的掌控能力，否则，数据获取、安全维护等高昂成本，容易成为社会治理壁垒。
人机交互平台虚假信息尚难根治，有可能破坏舆论秩序和社会稳定，加大社会安全认知风险。AI将加剧虚假信息的多样性和病毒式传播，在互联网上，深度伪造、假新闻及虚假信息等问题频发。2026年，央视“3·15”晚会，揭露生成式引擎优化（简称GEO）技术被滥用的产业乱象，如通过批量制造虚假信息、系统性“投喂”AI大模型等方法，实现对AI回答结果的操控，大幅度提升所谓品牌“优品”或虚拟产品的曝光度，这被称为给AI“投毒”的黑产。2025年4月以来，中央网信办开展“清朗·整治AI技术滥用”专项行动，从公布的一系列案例可见，利用AI技术制作发布谣言、不实信息、色情低俗内容，以及假冒他人、从事网络水军活动等，已是社会突出问题。网络生态治理将面对的较大挑战是，AI加剧的虚假信息生产，在政治信息、社会事件等公众高度关注的话题领域，已成为认知风险的根源之一。
人机交互平台虚假信息层出不穷的现象，势必在相当长时间里对舆论秩序造成破坏。其中，多模态生成技术（如Sora）的成熟，使得伪造视频和图像在精细度上已趋近现实。深度伪造可能导致公众在面对突发社会事件时，因无法判别证据的真伪而产生认知偏差。同时，AI生成的虚假信息，通过夸大事实、强烈情感刺激，来“投喂”平台算法机制，又会加速舆论场的劣化趋势。尤其需防范的是，某些跨国利益集团利用AI技术构建大规模自动化账号矩阵，针对特定议题制造虚假的民意倾向，进而带来全球性的系统化价值观偏见和冲突。此外，AI驱动的信息战，即刻且明显地改变人类社会冲突中的舆论格局，进而影响社会心理和国际政治。
人机情感交互催生自然人新型心理问题，加剧平台用户的态度极化，将明显加重青少年和老年人的身心压力。生成式人工智能，深度介入互联网平台的信息检索、内容生产和情绪传播等领域，呈现向深层认知塑造与情感交互演进的趋势，网络空间的风险形态进而转变。由于大语言模型（LLM）往往被训练成为过度顺从和谄媚（Sycophancy）用户，聊天机器人会出现过度迎合用户的现象，通过情绪模仿和阿谀奉承，使自然人浸润于人机交互产品提供的，牺牲真实性、缺少“道德自律”的虚拟环境里，进而催生人类的新型心理问题。可预判的一点是，AI通过模拟人类情感、介入人际连接网络，逐渐成为社会负面情绪的催化载体与行动意愿的隐性干预主体。人机情感交互产品的全球用户基数较大，市场影响力较强。人机交互平台，通过信息过滤、算法推荐和情感传播等机制，在一定程度上加剧群体的态度极化。例如，《华尔街日报》披露的“Facebook档案”（The Facebook Files）显示，平台内算法模型已被设计为优先推送引发用户愤怒的内容。不过，人们即便意识到态度极化的风险，当前的全球网络环境和用户心理特征也很难优化公共讨论空间。
网络舆论治理的难题在于，一方面，人机对话的积极回应和反馈循环，使得用户自身具有的情绪化、依赖性、偏执化等心理缺陷，较难走出自我态度极化的困境；另一方面，用户通过同质化、煽动性的AI生成内容，快速形成情感共同体，态度极化使得社会动员模式呈现明显的情感中心主义特征。网络生态治理事关人民群众切身利益，需持续营造风清气正的网络空间。同时，人机情感交互中自然人频繁、沉浸式与聊天机器人互动后，机器正反馈的设计特性、谄媚式回应及拟人化交互，容易催生情感幻觉。尤其对青少年、老年人而言，更容易产生身心压力，导致情绪异常和态度极化，进而增加网络生态治理中的社会情感风险。
优化网络生态治理的媒介化治理对策
人工智能通过广泛连接、相互关联的传播，推动与智能媒介紧密相关的传播过程的整体变化，并与文化等社会变迁之间生成相互依存的媒介化（mediatization）系统。人机社会的所有元素，都与智能媒介及其基础设施发生着深刻的关系，深度媒介化的人机纠缠（entanglement）使得媒介化治理成为一种可能路径。媒介化治理，通常强调媒介（平台）逻辑、媒介功能等，在过程性治理实践中，激发多方主体协同参与和协商的价值，治理目标则是实现多方主体的情感共通与共识达成。据此，我们需聚焦提升网络生态治理的前瞻性、精准性、系统性和协同性。
着力提升网络生态治理前瞻性，预判人机混合行为的演进逻辑，采用“敏捷治理”新模式。为进一步解决人工智能乃至智能体的法律主体地位确认及监管制度，算法黑箱带来的责任真空等一系列问题，可考虑采用“敏捷治理”的新模式。“敏捷治理”是一种与技术发展同步推进、动态调整的灵活治理方式。其强调灵活性、适用性、柔韧性、以人为本的决策过程。新加坡被众多研究者视为敏捷治理的代表，如该国在人工智能治理框架中，首先从顶层设计层面，明确“人工智能决策过程可解释、透明、公平”等原则，2022年又推出全球首个名为“AIVerify”的人工智能治理测试框架，这一面向全球的开源工具，成为企业评估AI系统可靠性、透明度与公平性的标准化工具。我国也正在开展灵活修正和透明决策的敏捷治理工作，如根据《互联网信息服务深度合成管理规定》，对具有舆论属性或者社会动员能力的深度合成服务提供者，履行分批分类备案手续；针对OpenClaw出现的治理风险，国家安全部快速发布《“龙虾”（OpenClaw）安全养殖手册》，特别提示用户理性辨别、规范使用，以积极的心态和慎重的执行拥抱人工智能时代。
加强网络生态治理精准性，开展人文伦理前置的数智媒介素养教育，规范网络内容生产、信息发布和传播流程。为加强网络生态治理精准性，开展数智媒介素养教育，需强调人文伦理的重要性，分级分类规范网络内容生产、信息发布和传播流程，促进人机交互中的理性对话和共识建构。一方面，需从快提升党员干部的数智媒介素养。提前识别并消除AI“幻觉”或机器意识形态偏见，从根源上规避技术“黑箱”带来的不可控风险；优化与AI合作的实践引导路径，发展基于官方权威信息、历史准确事实、高标准伦理道德的底层架构模式；超越单纯的技术理性视角，将政治安全与社会公共利益、文化建设纳入媒介生态系统建设标准。
另一方面，需加快研发面向普通公众的普及教育与专项培养计划。其关键路径在于教育人们如何分辨可靠信息源，以及帮助人们摸清虚假信息的“套路”：通过案例库建设和场景传播，加快教育普及，对中央网信办等部门公布的案例，以及全球影响力较大的典型案例等进行深入研究，并形成可供多场景（教育、家庭、办公等）使用的案例库；针对心智发育不成熟的青少年群体，加强生命观、情感观教育，创建人机协同的青少年成长计划；聚焦老年人群体，则重在避免AI骗局、生命财产损失、情感伤害的人机守护计划；专项培养精通人机协作、善用智能工具、遵循传播伦理的新型“意见领袖”，发挥他们在虚实融合世界中的舆论引导能力和社会治理潜力。新加坡一直大力发展国家人工智能战略，在新加坡，有大学推出并重新设计超过130门人工智能课程，有大学与机构合作，推出首个面向设计与媒体从业人员的人工智能认证，有全国性机构推出人工智能学徒计划，以帮助更广泛的社会群体。更精细、更具有人文关怀的分级分类媒介素养教育，有助于自然人通过人机交流实践，生成基于情感、自我修正、导向“成人”的能力和智慧，实现更好的数字文明。
提升网络生态治理系统性，倡导事实核查的制度化建设，构建自适应、自学习的网络生态治理体系。事实核查可以从虚假信息中恢复秩序，保持媒介体制韧性。伴随全球社会发展和数智媒体普及，执行事实核查群体，已拓展至主流媒体、商业媒体、互联网平台，以及社会公众账号等共同行动者。人机社会治理可倡导事实核查的制度化建设，依托一体化算力网络与政务数据共享平台，打破部门间的数据壁垒与治理边界，通过构建标准化数据接口与跨域数据整合机制，将网信、政务、媒体传播等多维度数据，转化为治理过程中的可操作变量，人机协同构建自适应、自学习的治理体系。最新研究指出，以情报核实为首要任务的AI for Intelligence（简称AI4I）可被应用于事实核查中。AI4I通过智能系统的机制配置和流程重组，在信息不完整甚至容易遭受人为干扰的人机交互语境中，通过“认知—因果—对抗”三类机制的嵌入与调度，重组“发现、核实、稳健和再发现”的事实核查流程。可以预期，针对生成式人工智能引发的虚假信息泛化等新型治理风险，以消息的信源透明度、过程透明度与结论透明度为参考指标，需充分发挥人工智能在辅助事实核查中的重要作用，嵌入多模态识别、内容溯源标识等技术模块，建设制度化的自我校正机制，构建集态势感知、风险预警、决策辅助、应急处置于一体的系统化治理流程。
提升网络生态治理协同性，积极参与国际对话，创新人机交流语态和模式，生动展现可信、可爱、可敬的中国形象。若要使人工智能成为造福人类的国际公共产品，就需提升全球社会的治理协同性，共同打造平权、互信、多样、共赢的人工智能能力建设开放生态。文化治理成为提升网络生态治理协同性的一种可能路径，在积极参与国际对话中，智能向善是创新人机交流语态和模式的价值锚点。智能向善是国际协商中的共同话语，旨在建设全球开放生态，创建能实现全面和包容性的媒介环境，打造安全、可靠和可信的人机交流生态。在创新人机交流语态和模式时，需通过可沟通、可共情、可互鉴的对外传播，生动展现可信、可爱、可敬的中国形象。例如，在讲述中国故事时，始终强调坚持以人为本，在保障社会安全、尊重人类权益的前提下，构建更具包容性、更公平和普惠的人工智能全球治理框架。多挖掘和分享中国参与的，通过人机深度融合解决气候变化、教育、就业、医疗保健，以及信息平等、防灾减灾等全人类共同难题时，所作的努力和贡献。智能向善不仅是人机社会遵循的文化理念，而且是从文明演进的高度，完善网络生态治理的有效路径。
上文略有删减
选自 | 《人民论坛》杂志 2026年第7期
原标题 | 人机社会网络生态治理的难点及对策
作者 | 武汉大学媒体发展研究中心副主任、教授、博导 肖珺
新媒体编辑 | 赵光菊
原文责编 | 谢帅
人民论坛新书上架
《治理智慧每日读》正式发售
300余条治理智慧
帮助党员干部深化治理认知
增强履职本领
热门跟贴