手動審査なしにAI生成論文を投稿した著者を1年間禁止するArXiv

BitcoinWorld

ArXiv、人間によるレビューなしにAI生成論文を投稿した著者を1年間投稿禁止へ

プレプリント研究の広く利用されているオープンアクセスリポジトリであるArXivは、未確認のAI生成コンテンツの明確な証拠を含む論文を投稿した著者に対し、1年間の投稿禁止処分を科す可能性のある新しいポリシーを発表しました。この方針は、ArXivのコンピュータサイエンス部門の責任者であるThomas Dietterichが木曜日に概説したもので、科学出版への信頼を損なう低品質なAI生成研究の増加という問題に対処するものです。

新ルールが研究者に意味すること

改定されたガイドラインのもと、モデレーターが投稿前に著者が大規模言語モデル（LLM）の出力を検証しなかった「反駁不可能な証拠」を発見した場合、論文は却下され、著者はArXivへの1年間の投稿停止処分を受けることになります。禁止期間終了後、著者はプラットフォームに復帰する前に、信頼性の高い査読付き媒体にその後の投稿を受理させる必要があります。

Dietterichは、そのような証拠として、架空の参考文献、意味をなさない引用、またはLLMからの直接コピー＆ペーストのエラーが含まれると具体的に示しました。このポリシーはAIツールの使用を全面的に禁止するものではなく、むしろ生成方法に関わらず、すべてのコンテンツに対して著者が「全責任を負う」とするものです。これには、AIによって導入された剽窃、偏った記述、事実の不正確さも含まれます。

科学的誠実性にとっての重要性

ArXivは長らく、特にコンピュータサイエンス、数学、物理学における迅速な研究発信の要となってきました。しかし、生成AIの台頭により、人間による監督が最小限で作成されたと思われる投稿が急増しています。最近の査読済み研究では、LMの使用に関連していると考えられる生物医学文献における架空の引用の増加が記録されています。

このワンストライクルールを施行することで、ArXivはリポジトリの信頼性を維持することを目指しています。このポリシーには不服申し立てプロセスも含まれており、著者が決定に異議を唱えることができます。処分が適用される前に、モデレーターがまず問題を指摘し、部門責任者が証拠を確認する必要があります。

研究コミュニティへのより広い影響

このポリシーは、AIツールは研究における人間の監督を補助すべきであり、代替すべきではないという学術界全体の高まるコンセンサスを反映しています。ArXivが20年以上にわたってコーネル大学にホストされた後、独立した非営利組織へと移行したことで、こうした措置を施行するより大きな柔軟性が得られました。リポジトリはすでに、初回投稿者に推薦状を求めるなど、AI生成投稿を抑制するための措置を講じています。

研究者へのメッセージは明確です。AIを使って文章を下書きしたり磨き上げたりすることは許容されますが、厳密なファクトチェックや引用の検証なしに研究を投稿することは許されません。これは科学出版における広範な編集基準と一致しており、説明責任が最重要視されています。

まとめ

ArXivの新しい投稿禁止ポリシーは、AIが広く普及した時代におけるプレプリント研究の完全性を維持するための重要な一歩を表しています。AI生成コンテンツのレビューを怠った著者に対してペナルティを科すことで、リポジトリは人間の研究者が自らの研究に対して最終的な責任を負うという原則を強化しています。AIツールが研究プロセスにより深く統合されるにつれて、このような保護措置は学術出版全体で標準となる可能性が高いです。

よくある質問

Q1: ArXivの新しいポリシーは、論文執筆におけるAIの使用を禁止しますか？
いいえ、AIの使用を禁止するものではありません。架空の参考文献や意味をなさないテキストなど、著者がAI生成コンテンツのエラーを確認しなかった明確な証拠がある論文の投稿を禁止するものです。

Q2: AIの不正使用の「反駁不可能な証拠」とは何ですか？
例としては、幻覚的な引用、存在しない出典への参照、および人間によるレビューが行われなかったことを示すLLMからの直接コピー＆ペーストのエラーが挙げられます。

Q3: 著者は投稿禁止処分に異議を申し立てることができますか？
はい、ポリシーには不服申し立てプロセスが含まれています。モデレーターが問題を指摘し、部門責任者が証拠を確認し、著者は決定に異議を唱えることができます。

この投稿「ArXiv、人間によるレビューなしにAI生成論文を投稿した著者を1年間投稿禁止へ」はBitcoinWorldに最初に掲載されました。