高度な「AIハッカー」心配の影で、あまりにもお粗末にAIは騙されていた
記事のポイント
📰ニュース
メタのAIサポートが単純な指示でInstagramアカウントのメールアドレスを変更され、乗っ取り被害が発生しました。
🔍注目ポイント
高度なAIハッカーへの懸念がある中、AIの脆弱性が単純なソーシャルエンジニアリングで悪用された点です。
🔮これからどうなる
AIを導入する企業は、セキュリティ対策としてAIの応答ロジックと認証プロセスの強化が急務となります。
アンソロピックがハッキング能力の高いAI「Mythos」の一般公開を見送るなど、高性能AIによる脅威が懸念されていました。
しかし、実際にはメタのAIサポートエージェントが、ユーザーからの「アカウントのメールアドレスを変更してほしい」という指示を鵜呑みにし、本人確認をせずに変更したことでInstagramアカウントが乗っ取られました。
これはAIの判断ロ甘さや認証プロセスの不備を突いた攻撃です。
しかし、実際にはメタのAIサポートエージェントが、ユーザーからの「アカウントのメールアドレスを変更してほしい」という指示を鵜呑みにし、本人確認をせずに変更したことでInstagramアカウントが乗っ取られました。
これはAIの判断ロ甘さや認証プロセスの不備を突いた攻撃です。
概要
今年4月、アンソロピックはハッキング能力が高すぎるとして「Mythos」の一般公開を見送った。超高性能なAIが情報インフラを脅かす——そんな懸念が広がる一方、現実の被害ははるかにお粗末な手口から生まれた。攻撃者はメタのAIサポート・エージェントに「アカウントのメールを変えて」と頼むだけで、Instagramを次々と乗っ…
高度なAI脅威が叫ばれる一方で、基本的な認証の甘さが突かれたのは驚きですね。私たちの個人情報がAIの判断一つで危険に晒される可能性があり、企業はAI導入時のセキュリティ設計を再考する必要がありそうです。