为对抗AI生成的垃圾文章:预印本平台开始限制投稿数量

刚刚 来源:医咖会

DRPP科研工作台上新科研工具,从文献检索到参考文献格式调整:去使用科研工作台>>

为了应对收到的海量稿件,预印本服务器arXiv宣布对每位提交论文的研究者实行每月最多提交两篇论文的上限,该规定已于10月1日开始实施。

arXiv 科学主任 Steinn Sigurðsson 表示,此举主要是为了应对由人工智能(AI)工具生成的低质内容所引发的提交量激增。9月份,上传至arXiv的稿件数量达到4万篇,而 3月至7月期间的这一数字约为3万篇。

遏制稿件数量激增的问题

Sigurðsson 表示,这项上限规定是arXiv为防止近 300 名志愿审核员被海量稿件压垮而采取的最新措施。他们目前每天需要集体审核约 1,000 篇稿件。Sigurðsson 指出,这一步骤“导致太多论文被积压”,目前已有近4,000份稿件在等待发布。

一些人认为该限制完全合理。纽约哥伦比亚大学流行病学家 Siddhesh Zādéy 表示,这并不会“阻碍任何人的生产力”,因为每月发布两篇预印本文章本身就需要大量工作。

另一些人则认为arXiv的新政策应该更严格。马里兰大学帕克分校理论物理学家Victor Galitski表示,当前的限制可以通过共同作者轮流提交稿件来规避。

另一家预印本服务器、社会科学资料库 SocArXiv 现在也制定了每位作者每周一篇的提交上限。SocArXiv 主任 Philip Cohen 指出:“有时确实有正当理由需要一次性上传三篇论文,例如学位论文的各个章节。” 但他表示,大多数情况下,连续快速提交多篇文章是“AI 生成低质内容的一个迹象”。

其他平台也在应对提交量的快速激增,一些AI相关会议和期刊也采取了类似的提交限制。

清理学术垃圾

一些人表示,拒绝更多文章并不能解决 AI 生成低质内容的问题。利用AI辅助研究者进行同行评审的平台 Reviewer3 的创始人 Natalie Khalil 表示:“如果 arXiv 拒收这些论文,它们只会流向别处,成为别人的问题”。

Khalil 认为,预印本服务器需要找到扩大验证流程规模的方法。例如,工具可以检查研究的代码是否可复现、验证参考文献以及检查稿件的元数据。

arXiv的管理者也同意AI技术有助于打击 AI 生成的低质内容。arXiv 计算机科学部主任 Thomas Dietterich 指出:“目前,我们正在测试一些基于大语言模型的技术,但距离部署系统还有很长的路要走。”

其他措施

在过去一年,arXiv 的管理者已采取措施控制提交量。Sigurðsson 表示,去年 10 月,该网站停止接收计算机科学领域的文献综述,因为它们成了相当明显的引用欺诈的渠道”。1 月份,该平台收紧了作者上传预印本的前提条件,要求提供以往的作者身份或现有arXiv贡献者的直接背书,以及机构电子邮件地址。

5 月份,arXiv 开始对论文中包含虚构参考文献的研究人员实施为期一年的发布禁令,包含虚构文献是过度使用AI且作者缺乏审查的典型迹象。Sigurðsson 拒绝透露自 5 月以来该网站封禁了多少研究人员,但确认已有部分人员被封禁,并表示此举促使研究人员更仔细地检查其参考文献。

本文整理自:https://www.nature.com/articles/d41586-026-03194-w

 

评论
请先登录后再发表评论
发表评论
下载附件需认证
为保证平台的学术氛围,请先完成认证,认证可享受以下权益
基础课程券2张
200积分
确认
取消
APP下载 领课程券
扫码下载APP
领基础课程券
公众号
论文辅导
扫码添加小咖微信,为你定制一对一论文辅导方案!
AI小咖
会员服务
DRPP
积分商城
意见反馈