王振宇、季丹、刘慧晖：人工智能时代的科研诚信：挑战与治理|中国科学院|人工智能|刘慧晖|季丹|王振宇|顶尖科学家榜单

人工智能时代的科研诚信：挑战与治理

王振宇1 季丹2,3

刘慧晖1

(1 中国科学院科技战略咨询研究院;2 上海交通大学人文学院；3上海交通大学中国城市治理研究院)

DOI:10.19524/j.cnki.10-1009/g3.2026.02.028

在人工智能（AI）技术的赋能下，传统的科研不端行为，如抄袭、伪造、篡改等，呈现出隐蔽性更强、规模更大、成本更低的“智能化”新特征。生成式人工智能能够制造以假乱真的实验数据、科学图像乃至虚构学术文献；智能改写工具可轻易规避传统查重系统的检测；甚至同行评议这一诚信控制的核心环节，也可能因AI的介入而面临失效风险。这些新的失范行为不仅动摇了科学知识的可信根基，可能引发“垃圾进、垃圾出”的恶性循环，误导科研方向、浪费宝贵资源，更深层次地侵蚀着科研人员的批判性思维与创新能力，对国家科技创新生态的健康发展构成长期威胁。在此背景下，系统审视人工智能时代科研诚信面临的新挑战，并加快构建与之相适应的综合治理体系具有紧迫性与必要性。

对此，本文首先深入分析AI技术滥用给科研诚信带来的多维冲击，将其归纳为四个相互关联的维度：数据与图像的智能化伪造、论文代写与抄袭的规模化、同行评议机制的异化与操纵、成果归属与责任界定的模糊化。这四个维度覆盖了从研究输入、产出、评价到归属的整个科研活动的核心环节，共同指向一个根本性问题，即当智能机器深度介入人类科研活动，传统上以主体意图与智力劳动为基础的诚信框架，正面临严峻挑战与重构压力。

人工智能引发的科研诚信危机之所以难以应对，根源在于现行治理体系在制度规范适配性、技术识别能力、伦理认知水平以及国际协同机制上，均与“人机协同”的科研新现实存在显著错配。在制度层面，以“人类作者”为中心构建的现行科研诚信制度体系，在面对人机协同乃至机器主导的新型科研行为时，呈现出系统性不适应。在技术层面，生成技术迭代速度远超过检测技术发展节奏，且多模态场景下的溯源体系尚未形成标准化构建。在认知层面，科研共同体对AI带来的伦理风险与能力侵蚀警惕不足，相应的教育体系严重滞后。在国际协作层面，AI科研诚信的全球治理面临难以形成共识、标准不一、话语权争夺等障碍。

针对上述挑战，本文提出“制度-技术-教育-协同”四维治理路径，强调以制度规范为基石、技术创新为支撑、教育赋能为根本、国际协同为保障。一是构建“责任明晰、分类指导”的刚性约束体系，包括：确立“人类主体负责制”与专业化审查机制，制定“分类分层、场景适配”的AI使用规范指南，将利用AI实施的各类学术不端行为全面纳入科研诚信惩戒体系并加大惩戒威慑力度。二是发展“主动防御、全程可溯”的智能治理技术，包括：集中力量研发并部署国家级的科研内容智能检测与溯源平台，推动鲁棒数字水印与区块链存证技术的标准化应用。三是实施“分层覆盖、知行合一”的AI伦理素养提升计划，包括：构建贯穿科研生涯全周期的分层培训体系，创新情景沉浸式教育模式，将伦理素养纳入人才评价与机构考核。四是倡导“开放对话、标准互认”的全球共建机制，包括：主动发起并参与多边对话、凝聚治理共识，推动技术标准与评估框架的互认与对接，贡献中国方案、提供全球公共产品。