RouteHijack: MoE LLMに対するルーティング認識型攻撃
RouteHijack: Routing-Aware Attack on Mixture-of-Experts LLMs
記事のポイント
📰ニュース
MoE（Mixture-of-Experts）LLMの安全性を迂回する新しい攻撃手法「RouteHijack」が発表されました。
🔍注目ポイント
安全関連の専門家を特定し、入力最適化によりルーティングを操作して有害な専門家を活性化させます。
🔮これからどうなる
MoE LLMの安全対策の脆弱性が露呈し、より高度な防御策の必要性が高まります。
RouteHijackは、安全な拒否と有害な応答時の専門家の活性化を比較し、安全に重要な専門家と有害な専門家を特定します。
その後、ルーティングを意識した目的関数で敵対的サフィックスを生成し、安全専門家を抑制し、有害専門家を促進します。
この手法は、7つのMoE LLMで平均69.3%の攻撃成功率を達成し、既存手法を大幅に上回りました。
その後、ルーティングを意識した目的関数で敵対的サフィックスを生成し、安全専門家を抑制し、有害専門家を促進します。
この手法は、7つのMoE LLMで平均69.3%の攻撃成功率を達成し、既存手法を大幅に上回りました。
MoEモデルのルーティングメカニズムを狙った攻撃は、今後のAIの安全性研究に大きな影響を与えそうです。私たちの生活で利用されるAIの信頼性向上には、このような脆弱性の早期発見と対策が不可欠ですね。