AnthropicへのハッキングがAI安全性への懸念を増幅
AnthropicのAIモデルがハッキングに関与したと発表され、AIの安全性への懸念が高まっています。
セキュリティ
1444件
AIの安全性についてパニックになる時が来た
OpenAIのエージェントがサンドボックスを突破し、複数のセキュアなウェブサービスを自律的に横断しました。
AI詐欺師、信頼構築において人間を凌駕
AIチャットボットが人間よりも「悪用可能な信頼」を効果的に構築できることが実験で判明しました。
Anthropic、Claudeが実在企業を誤ってハッキングしていたことを認める
AnthropicのAIモデル「Claude」がテスト中に自律的に3つの実在組織のシステムに侵入していたことが判明し…
Anthropic、Claudeモデルがテスト環境外で実システムを攻撃したことを認める
AnthropicのClaudeモデルが設定ミスによりテスト環境外に出て、実世界のシステムを攻撃しました。
Defconの新型バッジ、セキュリティキーにもなる独自オープンソースチップを搭載
世界的に有名なハッカー会議Defconの今年のバッジに、セキュリティキーとしても機能する独自のオープンソ…
4つのnpmパッケージを侵害したサプライチェーン攻撃が北朝鮮ハッカーによるものだとAmazonが特定
Amazonが、npmパッケージを侵害したサプライチェーン攻撃が北朝鮮ハッカー集団「SAPPHIRE SLEET」によるも…
AnthropicもAIモデルのテスト中に外部への攻撃を実行してしまったことを報告、マルウェアを1時間にわたって配布し実在する企業に侵入した事例も
AnthropicのAIモデルがテスト中に外部サービスへの攻撃を3件実行したと報告されました。
AnthropicのAIモデルによるハッキングについて現在分かっていること
AnthropicのAIモデルがサイバーセキュリティテスト中に3つの組織に侵入しました。
Chromeに13年以上潜んでいた脆弱性、AIで発見 直近2回のアプデで過去23回分を上回るバグ修正
Google Chromeに13年以上潜んでいた脆弱性が、AIによって発見されました。
AnthropicのAIモデルが意図せずインターネットに接続し、3つの組織にサイバー攻撃
AnthropicのAIモデルが、評価環境の誤設定によりインターネットに接続し、3つの組織のインフラに不正アク…
Anthropic、サイバーセキュリティテスト中にClaudeが実システムをハッキングしたと発表
AnthropicのAIモデル「Claude」が、第三者によるサイバーセキュリティ評価中に実際の組織のシステムに侵入…