近日，安徽某高校通报了一起引发学界关注的学术不端事件：一篇论文注释中判决书序号被质疑编造，校方调查后认定，作者“误信”了AI的检索结果，属于AI使用不当行为，相关责任人受到相应处罚。

实验结束，进入成文阶段。这是AI介入最普遍、争议最集中的环节。某高校化学方向博士生向光明日报记者坦言，课题组使用AI的频率“近乎100%”，从选题、初稿到润色都已渗入。

“100%”的高频使用也放大了两个问题：代笔界限模糊，虚假参考文献泛滥。

中国环境科学研究院研究员阳平坚就发现，一些学生有了AI后自己不再认真读英文文献，“这对学生科研能力伤害非常大”。他现在要求学生文献必须自己读，读完后可以用AI翻译和总结。

阳平坚举了一个例子：AI在一次内容梳理中输出“中国的碳市场即将启动”，课题组成员没有发现问题。“中国碳市场2021年就已经启动了。AI调取的资料库版本比较旧，没有收录最新的数据。”在他看来，如果研究者对自己领域的常识和前沿缺乏专业敏感，AI输出的错误就会悄无声息地进入正式文本。

前不久，学术预印本平台arXiv发布了一项对250万篇论文、1.11亿条参考文献的系统性审核，结果显示：仅2025年，arXiv、bioRxiv、SSRN和PubMed Central四大平台中就存在近15万条由AI编造的虚假参考文献。

专家分析，其根源在于生成式AI的运作方式——它倾向于生成“看起来像文献”的内容，而非检索真实存在的数据。

学术期刊审稿人伍群芳以自身领域为例佐证了阳平坚的观点：“电力电子学科高度依赖IEEE、IET等专业数据库，但这些数据库‘有权限、要版权’，很多内容没有接入通用大模型。好的东西AI够不着，所以生成的内容也流于大众，没有真正创新可言。”

这也提示，解决AI虚假输出的关键或许不在模型本身，而在数据源的可控性——如果科研人员能够将经过审核的专业文献和自有数据“喂”给AI，而非任由它从开放网络随意抓取，虚假引文的风险将大为降低。

原文标题：《AI当“科研搭子”，你真的放心吗？》。

来源：《光明日报》，有删节。

☞ ☞ ☞ ☞ ☞ ☞ ☞ ☞

打开网易新闻 查看精彩图片

声明：麦可思研究转载此文，是出于传递更多信息之目的。若有来源标注错误或侵犯了您的合法权益，请及时与我们联系（18602824882），我们将及时更正、删除或依法处理。