堅牢な敵対的入力
Robust adversarial inputs
記事のポイント
📰ニュース
OpenAIが様々な視点やスケールから見てもAIを騙せる画像を開発しました。
🔍注目ポイント
複数の視点からでもAIを欺く、より汎用性の高い敵対的サンプル生成技術が示されました。
🔮これからどうなる
自動運転車など、多角的な視覚情報を用いるAIシステムのセキュリティリスクが高まる可能性があります。
これは、先週「自動運転車は複数のスケールや角度から画像を捉えるため、悪意を持って騙すのは難しい」という主張があったことへの反論です。
OpenAIの研究は、AIの堅牢性に関する既存の認識に疑問を投げかけるものです。
OpenAIの研究は、AIの堅牢性に関する既存の認識に疑問を投げかけるものです。
概要
We’ve created images that reliably fool neural network classifiers when viewed from varied scales and perspectives. This challenges a claim from last week that self-driving cars would be hard to trick maliciously since they capture images from multiple scales, angles, perspectives, and the like.
これはすごいね！自動運転車が多角的に見ても騙されちゃうってことは、AIのセキュリティ対策を根本から見直す必要がありそうだね。