人工智能正从科研辅助工具演变为科研诚信的系统性威胁。据IEEE Spectrum报道,到2025年,估计有57%的已发表学术文章呈现出可检测的大语言模型影响痕迹,而2023年这一比例仅为12%。与此同时,2025年《Nature Communications》超过12%的审稿意见被判定为完全由AI生成。由于2025年每40篇显示AI使用统计证据的论文中仅有一篇正式披露,实际涉及程度可能被严重低估。

学术出版遭遇“AI垃圾”冲击

IEEE Spectrum将当前局面描述为学术出版正被“AI slop”——低质量、大批量生产的AI生成内容——所淹没。有估算认为,如今每年产生的虚假出版物(其中许多由AI生成)可达数十万篇。需要说明的是,检测到AI使用痕迹并不必然意味着论文质量低劣,但大规模、未披露的AI参与已引发对科研记录可靠性的普遍担忧。

“受到威胁的不只是(科学)记录,而是整个科学,”IEEE科研诚信经理Amanda Sulicz警告说,“AI垃圾正在彻底侵蚀人们对科学以及我们花费数百年建立起来的每一个科学流程的信任。”

为验证造假门槛,IEEE Spectrum记者亲测使用AI伪造了一篇科学论文,相关过程与结果被用于说明:在不增加志愿审稿人负担的前提下,出版商现有的识别工具是否足以应对此类内容。报道指出,统计数字和“问题严重”的声明尚不足以传达危机的真实程度。

教育评估环节同步失守

科研端的诚信压力之外,AI作弊也在冲击高校教学评估。据Tom's Hardware报道,菲尔兹奖得主、加州大学伯克利分校数学家Richard Brocherds已停止使用计分家庭作业,原因是AI作弊现象普遍。他表示,批改AI生成的答案是浪费时间和金钱,因此现在仅通过线下考试来评估学生的学习情况。

Brocherds将线下考试视为“唯一剩下的解决方案”,以应对AI的广泛使用。这一做法反映出,当作业和论文等传统评估方式难以确认学生真实参与时,教育者正被迫转向受控的现场考核。

检测与判断工具仍待检验

在识别环节,AI能否可靠判断研究想法的新颖性也受到关注。Hugging Face博客发布的一篇题为《我们能否信任大语言模型判断研究想法是否新颖?》的文章,介绍了相关基准测试工作,但素材未提供具体结论。该线索表明,业界正在探索用自动化工具辅助科研评价,但其可靠性尚未有定论。

后续关注

综合多条线索,AI滥用对科研诚信的冲击已从论文写作蔓延至同行评审、教育评估和科研评价工具。后续值得关注的方向包括:出版商能否推出有效的AI内容识别与披露机制;高校如何调整评估方式以平衡教学效果与防作弊需求;以及自动化新颖性判断等工具能否在科研流程中承担可信赖的角色。