AIモデルの「考えすぎ」がセキュリティリスクに、サービス妨害攻撃の可能性
要約を読む要約を閉じる
AIモデルの推論能力が、悪意のあるプロンプトによって過剰な思考を引き起こされ、サービス妨害攻撃につながる脆弱性が発見されました。
論理的に矛盾したプロンプトを与えることで、AIモデルが解決不能な問題に長時間推論を続け、出力が最大26倍に増大します。
AIサービス提供者はサーバー負荷増大によるコスト増や、正規ユーザーのサービス品質低下に直面する可能性があります。
中国の研究チームが開発した進化的アルゴリズムは、プロンプトの論理構造を破壊し、DeepSeek-R1、Qwen3-Thinking、GPT-o3、Gemini 2.5 Flashなどの主要モデルで攻撃が成功しました。