METR、Claude Mythosの測定に苦戦、パロアルトネットワークスが自律型AI攻撃者を警告
METR says it can barely measure Claude Mythos, Palo Alto Networks warns of autonomous AI attackers
記事のポイント
📰ニュース
AI安全性評価機関METRがClaude Mythosの能力測定に限界を感じ、パロアルトネットワークスが自律型AIによるサイバー攻撃の脅威を警告しました。
🔍注目ポイント
最先端AIモデルの能力が評価手法の進化を上回り、自律的に脆弱性を連鎖させ、攻撃時間を大幅に短縮する点が技術的課題です。
🔮これからどうなる
企業や個人は、AIによるサイバー攻撃の高度化と高速化に直面し、セキュリティ対策の抜本的な見直しが求められます。
METRは、Claude Mythos Previewの228タスク中、わずか5タスクしか関連能力範囲をカバーできていないと報告しています。
一方、パロアルトネットワークスは、最先端モデルが自律的に脆弱性を連鎖させ、初期アクセスからデータ流出までの時間をわずか25分に短縮した事例を挙げています。
AIモデルの進化速度に評価方法が追いついていないことが大きな問題です。
一方、パロアルトネットワークスは、最先端モデルが自律的に脆弱性を連鎖させ、初期アクセスからデータ流出までの時間をわずか25分に短縮した事例を挙げています。
AIモデルの進化速度に評価方法が追いついていないことが大きな問題です。
最先端AIの能力が評価基準を上回っているのは驚きですね。あなたの会社のセキュリティ対策も、AIによる高速な攻撃を想定して見直す必要がありそうです。