オープンエンドAIの展開には安全性が先行しなければならない
要約を読む要約を閉じる
オープンエンドAIの展開に先立ち、予測不可能性やアライメントのずれといった新たな安全課題への対処が不可欠であると提言されました。
AIが自律的に進化し、設計者の想定を超える振る舞いをする可能性があり、既存の安全フレームワークでは対応できない点が指摘されています。
AI開発企業や研究者は、オープンエンドAIの安全性確保を優先し、新たな安全対策を講じる必要に迫られます。
しかし、その特性上、予測不可能性、予期せぬアライメントのずれ、システム進化に伴う制御の困難さといった、従来のAIとは異なる安全上の課題が生じます。
本論文は、これらの課題を大規模展開前に予防的に検討し、対応するための協調的な行動を求めています。