LLMの幻覚が現実世界に：存在しない引用文献から大規模な証拠
LLM hallucinations in the wild: Large-scale evidence from non-existent citations
記事のポイント
📰ニュース
大規模言語モデル（LLM）が生成する幻覚が、科学論文の引用文献に大規模に浸透していることが判明しました。
🔍注目ポイント
arXivなど250万件の論文から1億1100万件の引用文献を監査し、LLM普及後に存在しない引用が急増していることを明らかにしました。
🔮これからどうなる
科学論文の信頼性が低下し、既存の学術的格差が拡大する可能性があり、研究者や学生の文献調査に影響が出そうです。
2025年には14万件以上の幻覚引用が推定され、AI利用が盛んな分野やAI支援執筆の論文で顕著です。
幻覚引用は著名な男性学者に偏ってクレジットを割り当て、学術界の不平等を助長する可能性も指摘されています。
既存の審査プロセスではこれらのエラーを十分に捕捉できていません。
幻覚引用は著名な男性学者に偏ってクレジットを割り当て、学術界の不平等を助長する可能性も指摘されています。
既存の審査プロセスではこれらのエラーを十分に捕捉できていません。
LLMの幻覚が科学論文にまで影響を及ぼしているのは驚きですね。論文の信頼性が問われる事態で、今後の研究活動に大きな課題を投げかけています。