OpenAI、モデルの推論盗用キャンペーンを阻止するも、Azureでは対策が機能せず
OpenAI says it stopped a campaign to steal its models' reasoning, but the trick still worked on Azure
記事のポイント
📰ニュース
OpenAIは、15,000以上のアカウントによるモデルの推論盗用キャンペーンを阻止したと発表しました。
🔍注目ポイント
攻撃者は、モデルの隠れた推論プロセスをコピーしようと試み、一部はMoonshot AI関連とされています。
🔮これからどうなる
OpenAIの保護策がクラウドプラットフォームに及ばず、Azure上のモデルは脆弱な状態が続いていました。
OpenAIは、大規模な協調的キャンペーンを特定し、その活動の一部をMoonshot AIに関連する人物と結びつけています。
しかし、研究者たちは、この攻撃手法が数週間にわたりMicrosoft Azure上で機能し続け、最新のGPT-6 Astraにも有効であったことを発見しました。
これは、OpenAIのモデル保護が、自社プラットフォーム外のクラウドサービスには適用されていない現状を示唆しています。
しかし、研究者たちは、この攻撃手法が数週間にわたりMicrosoft Azure上で機能し続け、最新のGPT-6 Astraにも有効であったことを発見しました。
これは、OpenAIのモデル保護が、自社プラットフォーム外のクラウドサービスには適用されていない現状を示唆しています。
AIモデルの推論プロセスを盗もうとする攻撃は、モデル開発者にとって大きな脅威ですね。クラウドサービスでの対策強化が急務になりそうです。