AIが生成した幻覚引用が臨床ガイドラインを形成する論文に忍び寄る、研究者が警鐘
AI-hallucinated citations are creeping into papers that shape clinical guidelines, researchers warn
記事のポイント
📰ニュース
AIが生成した偽の引用文献が、臨床ガイドラインに影響を与える可能性のある生物医学論文に急増しています。
🔍注目ポイント
AIが生成する偽引用は、論文の主題に合致し、書式も正しく、人間には見分けがつきにくい点が技術的課題です。
🔮これからどうなる
医療従事者や患者は、誤った情報に基づいた臨床ガイドラインによって、不適切な治療を受けるリスクに直面するかもしれません。
コロンビア大学などの調査によると、2023年以降、偽の引用文献の発生率が12倍以上に増加しました。
これは大規模言語モデルの普及と関連していると疑われています。
影響を受けた論文の98%は出版社からの対応がない状況です。
これは大規模言語モデルの普及と関連していると疑われています。
影響を受けた論文の98%は出版社からの対応がない状況です。
概要
An audit of 2.5 million biomedical papers by Columbia University and other institutions shows that the rate of fabricated references has increased more than twelvefold since 2023. The researchers suspect a link to the widespread use of language models - the fake references match their paper's topic…
AIが生成する偽情報が医療分野にまで影響を及ぼし始めているのは深刻ですね。論文の信頼性が揺らぐと、私たちの健康にも関わるので、早急な対策が必要になりそうです。