概要
プレプリントサーバーのarXivは、AI生成による明らかな誤りやハルシネーションを含む論文を投稿した著者に対し、共著者全員を対象とした1年間の投稿禁止処分を課すと発表しました。
詳細内容
主要な学術論文プレプリントプラットフォームであるarXivは、AI（人工知能）によって生成された誤り（ハルシネーション）をそのまま放置して投稿した研究者に対し、厳しい罰則を導入することを明らかにしました。具体的には、実在しない参考文献の引用など、LLM（大規模言語モデル）を使用したチェック不足の証拠が認められた場合、論文に名前が記載されているすべての著者が1年間の投稿禁止処分となります。
背景には、ChatGPT登場以降のAI生成論文の急増と、それに伴う査読システムの負荷増大、そして研究の質の低下があります。ある推定では、生物医学分野の論文の8本に1本にAI生成テキストが含まれているとされています。arXiv側は「結果を検証していない不当な投稿は信頼を損なう」と主張していますが、一方でこの「連帯責任」的な処分には批判の声も上がっています。現代の科学研究は数百人規模のチームで行われることも多く、一人のミスで全員を処罰するのは過酷であり、共同研究の性質にそぐわないという指摘です。
著者は、罰則による抑止だけでなく、AIそのものを活用した参考文献の自動照合や統計チェックなど、技術的なスクリーニングを強化することで研究の質を担保する道も検討すべきだと提案しています。