来源:滚动播报
(来源:千龙网)
近日,一篇题为《数据资产出资的风险类型及制度因应》的论文引发质疑,论文注释中的民事判决书分别来自不同省份,序号尾号却是1234、3456、4567等。
对此,论文作者所在高校发布情况通报称,该论文中部分案例相关问题系作者对人工智能(AI)检索结果的误信,对AI生成的内容缺乏应有的警惕性与严谨性。根据认定结果,对责任人作出相应处理。
论文研究水平有高低,但数据真实、引用准确等应当是最起码的要求。这篇论文为师生共同创作,按说该有一定专业度。如今却闹出被AI欺骗的笑话,实在令人唏嘘。更值得追问的是,如果AI没有出现这种“连号式”低级错误,该论文是否会一直流传于公共视野中?又是否会被大模型当作可信内容继续采纳,进而“反刍发酵”,输出更多学术赝品?
从AI代写论文成为灰产,到拿着AI工具降低AI率,这些年,AI在学术领域的存在感越来越高。客观来说,AI工具确实可以提高文献收集、数据整理等工作的效率。然而,用工具辅助完成流程性工作,与全盘采信照搬AI生成内容,完全不是一回事。众所周知,大模型的训练数据来源本就复杂,且“AI幻觉”问题一直未能有效解决,AI“一本正经胡说八道”相当常见。用拼凑出来的文献作为考据,拿编出来的数据印证观点,无异于问道于盲。这也提醒相关机构、高校等,应该有更严格、更细致的审核机制,少些“被AI骗出学术不端”的笑话。
以更大视野来看,误信AI又何止发生在学术界?有人让AI识别野生蘑菇,只看答案不看提醒,误食后头晕目眩;有人爬山向AI问路,结果越走越偏、力竭被困……随着AI产品深入工作生活各个维度,“AI幻觉”可能会给人们带来某种程度上的“认知幻觉”,值得高度警惕。
思考没有捷径。正如网友吐槽,“动不动就‘AI说的’,简直太荒唐!”从专业领域到日常生活,工具固然能高效集纳各类内容,但终究无法代替人的求证与判断。
热门跟贴