Rethinking Vacuity for OOD Detection in Evidential Deep Learning
記事のポイント
📰ニュース
Evidential Deep LearningにおけるOOD検出の評価指標「Vacuity」の課題が指摘されました。
🔍注目ポイント
クラス数の違いがOOD検出の評価指標AUROC/AUPRに不正確な影響を与えることを実証しました。
🔮これからどうなる
信頼性の高いAIシステム開発において、OOD検出の評価方法がより厳密になる可能性があります。
Evidential Deep Learning (EDL)では、モデルの不確実性を示すVacuityがOOD検出に用いられます。
しかし、このVacuityはクラス数Kに依存するため、評価対象のクラス数が異なる場合にAUROCやAUPRが不自然に変動することが示されました。
特に、IDとOODでクラス数が1つ異なるだけで、AUROCが最大0.360、AUPRが最大0.683も変化する可能性があり、これはモデルの予測とは無関係な評価上のアーティファクトです。
この研究は、EDLを用いたLLMのOOD検出評価において、クラス数の定義を明確にすることの重要性を強調しています。
しかし、このVacuityはクラス数Kに依存するため、評価対象のクラス数が異なる場合にAUROCやAUPRが不自然に変動することが示されました。
特に、IDとOODでクラス数が1つ異なるだけで、AUROCが最大0.360、AUPRが最大0.683も変化する可能性があり、これはモデルの予測とは無関係な評価上のアーティファクトです。
この研究は、EDLを用いたLLMのOOD検出評価において、クラス数の定義を明確にすることの重要性を強調しています。
AIの信頼性向上は重要課題ですよね。この研究は、LLMのOOD検出評価の落とし穴を指摘しており、今後のAIシステム開発に影響を与えそうです。特に、医療や金融など高信頼性が求められる分野では、評価指標の厳密な理解が不可欠になりますね。