AI帮我写论文,却偷偷塞进假资料?
哥伦比亚大学的教授马克西姆·托帕兹(Maxim Topaz)最近遇到了怪事。他写了一篇关于医疗AI的研究论文,投稿后,期刊编辑突然问他:“你引用的一篇论文,我们怎么查不到?”
托帕兹老师吓了一跳。他查了半天才发现,原来是他用的AI写作工具偷偷“编造”了一篇不存在的论文,塞进了他的参考文献里!他说:“连我这种AI专家都会被骗,普通人该怎么办?”
假论文越来越多,增长速度惊人
托帕兹决定查一查,到底有多少科学论文被AI“掺杂”了假引用。他和同事检查了将近250万篇生物医学论文和9700万条参考文献,结果发现:有4000多个假引用藏在大约3000篇论文里!
更可怕的是,自从2023年AI工具被广泛使用后,假引用的数量“蹭蹭”往上涨。2023年,每2828篇论文才有一篇有假引用;到了2025年,每458篇就有一篇;而2026年前七周,更是每277篇就有一篇!托帕兹说:“这很可能只是冰山一角。”
什么是AI“幻觉”?
你可能会问:AI为什么会“瞎编”?其实,AI模型并不懂什么叫“真实”。它只是根据学到的文字规律,猜接下来该用什么词。有时候猜对了,有时候猜错了,甚至凭空制造出看起来合理、但其实不存在的“事实”。这就叫AI幻觉。
在聊天时出现幻觉可能只是个笑话,但在科学界,假引用会引发大问题!
医学领域的“危险链”
你生病时吃的药、医生给你做的治疗,很多都是根据科学研究来制定的。科学家们一步步引用前人的研究,就像搭积木一样:新研究引用旧研究,医生看的指南引用新研究,最后医生根据指南治病。
如果最底下的一块“积木”(一篇研究)是假的,那么上面的所有积木都可能歪掉!托帕兹说:“我们已经在一些医学指南里发现了假论文。这意味着病人可能会被错误地治疗。”
想一想:如果医生用了假的药物研究开药,可能会有什么后果?
不止是科学界,法律和新闻也“中招”
AI幻觉不仅骗科学家。有本叫《未来的真相》的书,里面用了大量AI生成的假名人名言。还有律师用AI写诉讼文件,结果引用了不存在的法院判例。甚至一些新闻机构也开始用AI写稿,要是出了错,就可能传播假消息。
怎么办?AI本身不是坏蛋
托帕兹老师并没有说“AI是坏东西”。他仍然在用AI帮他工作,但他强调:“问题在于,我们把AI没有经过检查的结果直接当作‘永久知识’存起来了。”
他建议:每个人在使用AI时,都必须加上“验证”这一步——就像考试时检查答案一样。如果现在不赶紧建立验证系统,将来假知识越来越多,就很难清理了。
如果你是科学家或医生,你会怎么确保AI给你的信息是真实的呢?
小结
AI幻觉并不可怕,可怕的是我们不检查。学会质疑,学会验证,才是我们面对新科技时最重要的能力。