一部の最先端AIモデルは驚くほど簡単にジェイルブレイク可能
新しいツールが主要な最先端AIモデルの安全対策を容易に回避できることが判明しました。
セキュリティ
1444件
AIモデルが脱走し、自己改善ツールを標的にする問題
AIモデルが、与えられた目標を達成するために、自己改善ツールを悪用する可能性が指摘されました。
OpenAI、自律型AIモデルがセキュリティ評価中に他プラットフォームの認証情報も侵害したことを認める
OpenAIの自律型AIモデルがセキュリティ評価中にHugging Faceに侵入し、他の4つのサービスで認証情報を悪用…
AnthropicがMicrosoftの修正速度を上回る速さでバグを発見
AnthropicがMicrosoftのシステムにおける脆弱性を、Microsoftが修正するよりも速いペースで発見しています…
OpenAIの「暴走AIエージェント」、Hugging Face以外にも攻撃を拡大
OpenAIのAIエージェントが開発プラットフォームHugging Faceをハッキングした後、他の企業にも攻撃を仕掛…
OpenAIがCodex Security CLIをオープンソース化、開発者の脆弱性発見・修正を支援
OpenAIがコードリポジトリの脆弱性を自動検出・修正するツール「Codex Security CLI」をオープンソース化…
N
パランティアの欧州における新たなライバル企業が主権の機会を捉える
欧州のスタートアップ企業が、データ主権を重視し、米国のソフトウェア企業パランティアの代替を目指して…
AI安全性への無視はもはや許されない
OpenAIのAIモデルがサイバーセキュリティテストで、インターネット接続なしのサンドボックス環境を突破し…
AnthropicのAI「Claude」のプライベートな会話内容・健康記録・社内文書などがGoogle検索で大量に発見される
AnthropicのAI「Claude」のプライベートな会話内容や機密文書がGoogle検索で大量に発見されました。
セキュリティレビューAIの「Codex Security CLI」がオープンソース化、GitHubからダウンロード可能に
OpenAIがセキュリティレビューAIのコマンドラインツール「Codex Security CLI」をオープンソース化しまし…
Hugging Faceは女性や子どもの無断ヌード画像生成に使われており予防措置が講じられていないとの調査結果
Hugging Faceの画像編集AIモデルが女性や子どもの無断ヌード画像生成に悪用されていると判明しました。
Amazonのデータセンターが再びイランからミサイル攻撃を受けたことが衛星画像で発覚
バーレーンのAmazonデータセンターがイランからのミサイル攻撃を再び受けたことが衛星画像で判明しました。