规范使用生成式人工智能开展科研工作,是守护学术公正、保障科研质量的关键。生成式人工智能在提升科研效率的同时,也催生了新型学术失信行为。这类失信行为隐蔽性强、传播速度快,严重破坏了学术生态。当前,各级科研管理部门已查处多起依托生成式人工智能实施的学术失信案件,本文集中梳理生成式人工智能领域科研失信典型案例,为科研工作者敲响警钟。
一、典型案例汇总
(一)直接复制AI输出
直接照搬AI生成内容而不做原创加工与审核,本质是学术懒惰与不端,既无法体现研究的学术价值,更违反了学术成果原创性要求,终将受到学术惩戒。
典型案例:2023年9月,《Physica Scripta》刊登的一篇论文中,正文残留“Regenerate Response”等ChatGPT特有提示词,最终该论文被认定为ChatGPT生成内容而遭撤稿,成为首例涉嫌AI代写而被撤稿的SCI论文。
(二)AI虚构参考文献
部分科研人员直接照搬AI生成的参考文献、引文及观点出处,未逐一核验原文真伪,甚至刻意利用该漏洞编造不存在的文献、著作、学术观点,以此拼凑文献综述、支撑研究论点。
典型案例:香港大学社会科学学院副院长叶兆辉(Paul Yip)在研究香港生育率下跌的论文中,因涉嫌用AI伪造大量文献与引用引发争议,其中多达24篇为AI虚构内容。香港大学调查核实后,已对涉事人员作出纪律处分及相关处理。
(三)AI伪造实验图像
在医学、生物、材料科学等实验类科研领域,部分人员利用AI篡改原始实验图片,或直接使用AI编造虚假实验数据与图表结果,虚构实验结论,刻意规避实验重复性验证。
典型案例:西安红会医院作者在《Frontiers in Cell and Developmental Biology》发表精原干细胞论文,被查实多张配图为AI生成。论文中不仅有Midjourney制作的、长有四个睾丸的畸形大鼠解剖图,还有AI生成的无意义信号通路图。该论文发表仅三天,就被期刊正式撤稿。
广东省水电医院研究人员在《Medicine》杂志发表题为《Assessment of the efficacy of alkaline water in conjunction with conventional medication for the treatment of chronic gouty arthritis: A randomized controlled study》的论文,被发现文中某图表存在“小腿和手臂骨骼数量明显错误”,并附有“chlsinkestead atlvs no active greedis”等无意义标注。因作者未对AI生成内容进行科核查,期刊以“数据完整性存疑及插图不准确”为由将论文撤回。
(四)AI辅助数据造假
部分科研人员通过AI编造虚假数据支撑研究结论,完全背离科研求真务实的核心准则,不仅导致研究成果毫无学术价值,更严重损害学术共同体的信任根基。
典型案例:麻省理工学院经济学博士生Aidan Toner-Rodgers发表题为《Artificial Intelligence, Scientific Discovery, and Product Innovation》的论文,宣称研究数据源自3M、康宁等知名公司。经核查确认,论文中所有数据均为AI辅助编造,涉事企业否认曾提供任何数据。最终,该论文被撤回,作者本人也已从MIT退学。
二、规范生成式人工智能的使用警示与建议
生成式人工智能是科研工作的辅助工具,绝不能成为学术失信、投机取巧的手段。科研工作者要明晰生成式人工智能的使用边界,在论文撰写、项目申报、成果发布、材料报送等全流程中,如实标注AI使用范围、场景与内容,杜绝AI代写、编造文献、伪造图像数据等行为。对AI生成的文本、文献、图表、数据必须逐项审核、溯源核验,摒弃走捷径的侥幸心理。希望科研工作者引以为戒,依规使用AI工具,恪守学术诚信与科研规范,共同维护纯净、公正、有序的科研环境。