Anthropicのブラウザエージェント、安全対策発動前に31.5%の確率で乗っ取られる
要約を読む要約を閉じる
Anthropicのブラウザエージェントが、プロンプトインジェクション攻撃により31.5%の確率で乗っ取られたことが判明しました。
Anthropicは、他のAIラボが公開していないプロンプトインジェクションの具体的な成功率を、複数のエージェント表面ごとに詳細に開示しました。
AIモデルを導入する企業は、プロンプトインジェクションによる新たな攻撃対象領域の拡大を認識し、その対策を自社で管理する必要性が高まります。
これは、OpenAIやGoogle、Metaが具体的な数値を公表していない中で、業界に透明性をもたらすものです。
プロンプトインジェクションは、悪意のある指示をエージェントが読み取る情報に隠し、データ流出や不正なアクションを引き起こす可能性があります。