Anthropicの安全性警告が裏目に？政府が最強AIモデルの運用停止を指示
Anthropic’s safety warnings may have just backfired — the government has pulled the plug on its most powerful AI
記事のポイント
📰ニュース
AnthropicのAIモデル「Claude 3 Opus」が、政府機関による安全性評価で運用停止を命じられました。
🔍注目ポイント
政府機関がAIの潜在的な「脱獄」リスクを重視し、商用モデルの運用停止を判断した点が技術的ポイントです。
🔮これからどうなる
AI開発企業は、安全性に関する警告が政府の規制強化につながる可能性を考慮する必要が出てきます。
Anthropicは、自社のAIモデル「Claude 3 Opus」が、政府機関の安全性評価で「狭い範囲での潜在的な脱獄」が見つかったとして、運用停止を命じられたことに不満を表明しています。
同社は、この程度の問題で数億人に展開されている商用モデルを回収すべきではないと主張しています。
今回の措置は、AIの安全性と規制のバランスに関する議論を深めることになりそうです。
同社は、この程度の問題で数億人に展開されている商用モデルを回収すべきではないと主張しています。
今回の措置は、AIの安全性と規制のバランスに関する議論を深めることになりそうです。
概要
Anthropic isn't hiding its frustration. "We disagree that the finding of a narrow potential jailbreak should be cause for recalling a commercial model deployed to hundreds of millions of people," the company wrote in a blog post.
Anthropicの安全性への取り組みが、かえって政府の厳しい目に触れてしまった形ですね。今後、AIの安全性評価基準がより明確になり、私たちの生活に影響を与えるAIの展開方法にも変化がありそうです。