ChatGPTなどのAIに企業の偽の連絡先を出力させユーザーを詐欺へと導くサイバー攻撃「Dark Sourcery」
記事のポイント
📰ニュース
AIチャットボットに偽の企業連絡先を出力させ、ユーザーを詐欺に誘導するサイバー攻撃「Dark Sourcery」が報告されました。
🔍注目ポイント
AIの学習データ源であるインターネット上に悪意のある情報をばらまき、AIの出力を汚染する新しい攻撃手法です。
🔮これからどうなる
AIを利用する企業や個人は、誤った情報に基づいて詐欺被害に遭うリスクが高まります。
サイバーセキュリティ企業Vigilance Securityが「Dark Sourcery」と名付けたこの攻撃は、ChatGPTやGeminiなどのAIチャットボットがインターネットから情報を取得する特性を悪用します。
攻撃者は、偽の連絡先情報や悪意のあるリンクをウェブ上に大量に散布し、AIがそれらを正しい情報として学習・出力するように仕向けます。
これにより、ユーザーがAIに企業の連絡先を尋ねた際に、詐欺サイトや偽のサポート窓口へ誘導される危険性があります。
攻撃者は、偽の連絡先情報や悪意のあるリンクをウェブ上に大量に散布し、AIがそれらを正しい情報として学習・出力するように仕向けます。
これにより、ユーザーがAIに企業の連絡先を尋ねた際に、詐欺サイトや偽のサポート窓口へ誘導される危険性があります。
AIの信頼性が揺らぐような新しい攻撃手法ですね。AIの利用者は、出力された情報を鵜呑みにせず、必ず公式情報源で確認する習慣が重要になりそうです。