ArXiv Bans Papers with Undisclosed AI Content for One Year

Imaginez qu’un article scientifique, censé présenter des découvertes valables, se retrouve disqualifié parce que ses auteurs ont ignoré les dérives d’une IA. Cette situation n’est plus hypothétique chez arXiv, la plateforme ouverte où les chercheurs partagent leurs prépublications avant la revue par les pairs. Depuis plusieurs mois, la fuite d’articles générés par des modèles de langage alimente les débats sur la qualité des publications.

Une sanction qui mise sur la responsabilité des auteurs Thomas Dietterich, chair de la section informatique de arXiv, a annoncé jeudi une règle ferme : si une soumission comporte des références hallucinées, des métacommentaires typiques d’un LLM ou tout autre indice que les auteurs n’ont pas vérifié le contenu généré, « nous ne pouvons faire confiance à rien du papier ». La sanction ? Un bannissement d’un an de la plateforme, suivi d’une condition stricte : toute future soumission devra d’abord être acceptée par une revue à comité de lecture. « Cette mesure n’interdit pas l’usage des IA, mais impose aux auteurs une responsabilité totale, quelles que soient les origines du texte », précise-t-il.

« Si une soumission contient une preuve incontestable que les auteurs n’ont pas contrôlé les résultats de la génération par LLM, cela signifie que nous ne pouvons faire confiance à rien du papier. »

Les critères d’alerte et les recours

Les modérateurs sont chargés de signaler ces indices, les directeurs de section de les confirmer, et les auteurs peuvent contester la décision. Des études récentes montrent que les citations fabriquées prolifèrent, notamment en biomédecine, ce qui renforce l’urgence d’une vigilance accrue. arXiv, qui fait figure de pilier du Open Science, devient désormais une organisation à but non lucratif afin de lever des fonds supplémentaires pour faire face à ces défis.

En somme, arXiv transforme une fuite technologique en une nouvelle règle de discipline, où la transparence devient la clé de la crédibilité scientifique.