マルチモーダルRAGシステムはデータ漏洩するのか?メンバーシップ推論と画像キャプション検索攻撃の包括的評価
要約を読む要約を閉じる
マルチモーダルRAGシステムが、学習データに含まれる画像やそのキャプションなどのプライベート情報を漏洩するリスクがあることが判明しました。
視覚中心タスク向けmRAGパイプラインに対し、メンバーシップ推論と画像キャプション検索攻撃を用いてデータ漏洩を実証しました。
企業や個人がmRAGシステムを利用する際、プライベートな画像やテキストデータが意図せず外部に流出する危険性があります。
具体的には、mRAGがプライベートデータセットを接続してモデル性能を向上させる一方で、そのデータセットからの情報漏洩リスクを実証的に分析しました。
この研究結果は、mRAGのプライバシー保護メカニズムの必要性を強く示唆しています。