推論時の計算と敵対的ロバスト性のトレードオフ
要約を読む要約を閉じる
OpenAIが、推論時の計算量を増やすことでAIモデルの敵対的ロバスト性を向上させる研究を発表しました。
モデルの予測を多数の摂動入力で平均化する「アンサンブル推論」により、敵対的攻撃への耐性を高めます。
AIシステムのセキュリティが強化され、自動運転や医療診断など、安全性が求められる分野でのAI活用が進むでしょう。
計算コストは増加しますが、その分、モデルが誤った判断を下すリスクを低減できます。
特に、微細な入力変化で誤動作するAIの脆弱性への対策として注目されます。