敵対的攻撃下における自律システムのリアルタイム評価
Real-Time Evaluation of Autonomous Systems under Adversarial Attacks
記事のポイント
📰ニュース
実世界の交差点運転データに基づき、自律走行システムの敵対的攻撃に対するロバスト性を評価するフレームワークが開発されました。
🔍注目ポイント
シミュレーションだけでなく実データを用いることで、AIモデルの構造的矛盾や実世界特有のロバスト性への影響を詳細に分析できます。
🔮これからどうなる
自動運転車の安全性と信頼性が向上し、悪意ある攻撃に対する防御策の強化に繋がる可能性があります。
この研究では、MLP、Transformer、GAILを用いた3つの軌道学習モデルを比較し、ADEとFDEで評価しました。
勾配ベースの敵対的摂動を加えて推論時のロバスト性を評価した結果、モデルの構造設計がロバスト性に大きく影響することが判明しました。
攻撃により最大約8メートルの最終変位誤差が発生しています。
勾配ベースの敵対的摂動を加えて推論時のロバスト性を評価した結果、モデルの構造設計がロバスト性に大きく影響することが判明しました。
攻撃により最大約8メートルの最終変位誤差が発生しています。
自動運転車の安全性を高める上で、実データでの敵対的攻撃評価は非常に重要ですね。この研究は、将来の自動運転技術の信頼性向上に大きく貢献しそうです。