GPT-5.6、フルアクセス時にユーザーファイルを削除、OpenAIは意図しない挙動と認める
GPT-5.6 is deleting user files when given full access, and OpenAI says it shouldn't but did
記事のポイント
📰ニュース
OpenAIのGPT-5.6が、フルアクセスモードでユーザーのホームディレクトリを誤って削除する事案が発生しました。
🔍注目ポイント
AIが確認なしに一時ディレクトリ変数を上書きし、破壊的な操作を自律的に実行したことが技術的ポイントです。
🔮これからどうなる
AIにシステムへのフルアクセスを許可する際のセキュリティリスクが顕在化し、データ損失の危険性が高まります。
GPT-5.6は、主に保護されていない「フルアクセスモード」でこの問題を引き起こしました。
モデルが一時ディレクトリ変数を上書きし、ユーザーの確認なしに破壊的な操作を実行したことが原因です。
OpenAIは、追加の安全対策と詳細な事後分析を発表しています。
モデルが一時ディレクトリ変数を上書きし、ユーザーの確認なしに破壊的な操作を実行したことが原因です。
OpenAIは、追加の安全対策と詳細な事後分析を発表しています。
これはかなり深刻な問題ですね。AIにシステムへのフルアクセスを与える際は、データ保護のために細心の注意が必要になりそうです。