MELD：AI生成テキスト検出のためのマルチタスク平衡学習検出器
MELD: Multi-Task Equilibrated Learning Detector for AI-Generated Text
記事のポイント
📰ニュース
AI生成テキストを高い精度で検出する新しい手法「MELD」が開発されました。
🔍注目ポイント
MELDは、生成元、攻撃タイプ、ドメインなどの補助タスクを学習し、敵対的攻撃にも強いロバスト性を実現しています。
🔮これからどうなる
学術論文の剽窃防止やコンテンツの信頼性向上、AI生成コンテンツの識別が容易になります。
MELDは、共有エンコーダに複数の補助ヘッドを接続し、学習された不確実性重みで4つの損失をバランスさせます。
攻撃に耐えるため、EMA教師と攻撃で拡張された生徒を組み合わせた蒸留学習を採用。
さらに、AI生成テキストと人間が書いたテキストのスコア差を広げるハードネガティブペアワイズランキング損失も利用しています。
推論時には補助ヘッドは破棄され、標準検出器と同じインターフェースとコストで動作します。
攻撃に耐えるため、EMA教師と攻撃で拡張された生徒を組み合わせた蒸留学習を採用。
さらに、AI生成テキストと人間が書いたテキストのスコア差を広げるハードネガティブペアワイズランキング損失も利用しています。
推論時には補助ヘッドは破棄され、標準検出器と同じインターフェースとコストで動作します。
AI生成テキストの検出精度が格段に向上しそうですね。特に、学術分野やコンテンツモデレーションにおいて、その信頼性が大きく向上する可能性があります。