EvoJail:大規模言語モデル向け進化的多様性脱獄プロンプト生成
要約を読む要約を閉じる
LLMの安全性を評価するため、進化的アルゴリズムを用いて多様な脱獄プロンプトを自動生成するフレームワーク「EvoJail」が開発されました。
EvoJailは、進化する安全性調整モデルへの適応性と、多様な攻撃パターンを持つプロンプト生成を両立させる技術です。
LLM開発者は、EvoJailによりモデルの脆弱性を効率的に特定し、より安全なAIシステムを構築できるようになります。
EvoJailは、命令融合と多目的ブラックボックス最適化を組み合わせ、反復的な進化ループを通じて、モデルの更新に適応し、多様な意味的・構造的バリエーションを持つプロンプトを生成します。
これにより、最先端の手法と比較して93%以上の攻撃成功率と5.6%以上の多様性向上を達成しました。