Anthropic、サイバー機能を持たない「Mythos」類似モデルを公開
Anthropic Releases Mythos-Like Model Without Cyber Capabilities
記事のポイント
📰ニュース
Anthropicが、サイバーセキュリティタスクを実行できないバージョンのAIモデルを一般公開しました。
🔍注目ポイント
強力なAIモデル「Mythos」の能力を制限し、サイバー攻撃への悪用リスクを低減しています。
🔮これからどうなる
AIの悪用リスクを懸念する企業や政府機関に、より安全なAI利用の選択肢を提供します。
Anthropicは以前、同社の強力なAIモデルがソフトウェアの脆弱性を発見・悪用する可能性を警告していました。
今回のリリースは、その懸念に対応し、サイバーセキュリティ関連の機能がブロックされたモデルを提供することで、安全性を確保しようとするものです。
今回のリリースは、その懸念に対応し、サイバーセキュリティ関連の機能がブロックされたモデルを提供することで、安全性を確保しようとするものです。
概要
Anthropic PBC is widely releasing a version of Mythos that will be blocked from carrying out cybersecurity tasks, months after warning that the powerful artificial intelligence model could spot and exploit vulnerabilities in critical software.
AIの悪用リスクを考慮したモデルリリースは、今後のAI開発の方向性を示す重要な一歩ですね。私たちの生活の安全にも関わってきそうです。