医療教科書における大規模言語モデルのハルシネーションの定量化
Quantifying Hallucinations in Language Language Models on Medical Textbooks
記事のポイント
📰ニュース
医療分野の質問応答において、大規模言語モデルが事実と異なる情報を生成するハルシネーションの発生率が調査されました。
🔍注目ポイント
LLaMA-70B-Instructが医療QAで約20%のハルシネーションを起こし、専門家による評価で有用性とハルシネーション率の負の相関が示されました。
🔮これからどうなる
医療現場でのAI活用には人間の専門家による厳格な監視が不可欠であり、AIの信頼性向上が急務であることが明確になりました。
本研究では、オープンソースモデル（LLaMA-70B-Instruct）と他のモデルを対象に、医療教科書に基づいた質問応答でのハルシネーションを評価しました。
LLaMA-70B-Instructは、与えられた情報源があるにもかかわらず約20%のハルシネーションを示し、回答の98.8%がもっともらしいと評価されました。
臨床医による評価では、ハルシネーション率が低いモデルほど有用性が高いという結果が出ています。
LLaMA-70B-Instructは、与えられた情報源があるにもかかわらず約20%のハルシネーションを示し、回答の98.8%がもっともらしいと評価されました。
臨床医による評価では、ハルシネーション率が低いモデルほど有用性が高いという結果が出ています。
医療分野でのAI活用は期待が大きいですが、ハルシネーションの問題は深刻ですね。患者さんの安全を考えると、AIの単独運用はまだ難しそうです。人間の専門家との連携が重要になりますね。