概要
生成AIが不適切に使用された査読によって論文が不当なリジェクトを受けかけた体験談を紹介し、学術界におけるAI利用の倫理的・技術的課題を考察した記事。
詳細内容
本記事は、化学ポータルサイト「Chem-Station」に寄稿された、論文査読における生成AIの不適切な使用に関する体験談です。執筆者の知人が、AIによる「ハルーシネーション（もっともらしい嘘）」に基づいた的外れな酷評を受け、一度は論文がリジェクトされかけた事例が詳しく語られています。具体的には、存在しない分析データへの言及や、化学的にあり得ない解釈が査読コメントに含まれていました。著者はエディターに対し、指摘がAI特有の誤りであることを論理的に説明して異議を申し立て、再審査の結果、無事に受理されました。記事では、ScienceやNature、ACSといった主要出版社のAI利用に関する現行指針（多くは機密保持の観点から原稿の入力やAIによる査読を禁止）も整理されています。AIによる低品質な論文の増加（AIスロップ）に対するスクリーニング手段としての期待と、査読の公平性維持という課題の両面から、科学コミュニティにおける今後のあり方を提起しています。