セキュリティ

1943件
The Verge AI ★4 AI倫理 EN

AnthropicのClaude Mythos、情報漏洩で屈辱

要約を読む要約を閉じる
📰ニュース

Anthropicの高度なAIモデル「Claude Mythos」が、一般公開前に不正アクセスを受けました。

🔍注目ポイント

サイバーセキュリティに非常に優れているとされたAIモデルが、そのリリース前にセキュリティ侵害を受けました。

🔮これからどうなる

AIモデルの安全性と公開方法に対する懸念が高まり、企業はより厳格なセキュリティ対策を求められます。

AnthropicはClaude Mythosをサイバーセキュリティ能力が高すぎるため危険だとし、厳重に管理していましたが、Bloombergによると少数の不正ユーザーがアクセスしていました。
この事態は、AIモデルの安全性と管理の難しさを示唆しています。
IEEE Spectrum AI ★4 LLM EN

Anthropicの「Mythos」がサイバーセキュリティの未来に与える意味

要約を読む要約を閉じる
📰ニュース

AnthropicのAIモデル「Claude Mythos Preview」が、専門家の指示なしにソフトウェアの脆弱性を自律的に発見し、悪用可能なエクスプロイトに変換できると発表されました。

🔍注目ポイント

このモデルは、オペレーティングシステムやインターネットインフラなど主要なソフトウェアの脆弱性を、人間が見つけられなかったものも含めて自律的に発見し、悪用できる点が技術的ポイントです。

🔮これからどうなる

この技術は、私たちが日常的に使用するデバイスやサービスのセキュリティを脅かす可能性があり、サイバーセキュリティの攻防に大きな影響を与えます。

Anthropicは、このモデルを一般公開せず、限定された企業にのみ提供しています。
発表には詳細が少なく、GPU不足を指摘する声や、AI安全ミッションを遵守しているとの見方など、様々な憶測が飛び交っています。
AIによる脆弱性発見能力は、過去数年で大きく進歩しており、サイバーセキュリティの「ベースライン」が変化したことを示唆しています。
TechCrunch AI ★3 ビジネス EN

問題のスタートアップDelveの別の顧客が大規模なセキュリティインシデントに遭遇

要約を読む要約を閉じる
📰ニュース

セキュリティ認証企業Delveの顧客であるAIエージェント開発企業Context AIが、大規模なセキュリティインシデントを公表しました。

🔍注目ポイント

セキュリティ認証を提供するDelveが、自社の顧客のセキュリティ侵害に関与していたことが明らかになりました。

🔮これからどうなる

AI開発企業は、セキュリティ認証機関の選定において、より厳格なデューデリジェンスが求められるようになります。

先週、Context AIはセキュリティインシデントを公表しましたが、そのセキュリティ認証をDelveが担当していたことがTechCrunchによって確認されました。
Delveは以前から問題が指摘されているスタートアップであり、今回の件でその信頼性がさらに揺らいでいます。
Bloomberg Tech ★4 AI倫理 EN

オンライン虐待から子どもを守るため、児童安全担当官は予算増額が必要

要約を読む要約を閉じる
📰ニュース

AIツールの普及により、児童虐待画像の生成と拡散が容易になり、オンラインでの児童虐待が増加しています。

🔍注目ポイント

AIが生成する児童虐待画像は検知が困難で、従来の監視システムでは対応しきれない新たな課題を生んでいます。

🔮これからどうなる

子どもたちはオンラインでの虐待リスクにさらされ、保護者や社会全体がその対策強化を求められることになります。

AI技術の進化により、悪意のあるユーザーが児童虐待画像を生成・拡散するコストが大幅に低下しました。
これにより、児童安全担当官は増え続ける脅威に対応するため、より多くの予算と高度な技術を必要としています。
特に、AIが生成した画像は既存のデータベースと一致しないため、検知が非常に困難です。
Bloomberg Tech ★3 ビジネス EN

元サムスン幹部に中国への技術漏洩で懲役6年の判決

要約を読む要約を閉じる
📰ニュース

元サムスン幹部が中国企業への半導体技術漏洩で懲役6年を言い渡されました。

🔍注目ポイント

韓国政府が国家の貿易機密保護に強い姿勢を示した判決です。

🔮これからどうなる

企業は機密情報管理を一層強化し、従業員への教育も徹底するでしょう。

元サムスン電子のエンジニアが、中国の主要半導体メーカーに機密技術を漏洩したとして有罪判決を受けました。
この判決は、韓国が自国の産業技術保護に非常に力を入れていることを示しています。
OpenAI Blog ★4 AI倫理 EN

GPT-5.5バイオバグバウンティ

要約を読む要約を閉じる
📰ニュース

OpenAIがGPT-5.5のバイオセーフティリスクに対するユニバーサルなジェイルブレイクを見つけるレッドチーミングチャレンジを開始しました。

🔍注目ポイント

最大25,000ドルの報酬を提供し、AIモデルの生物学的安全性に関する脆弱性を発見・報告する仕組みです。

🔮これからどうなる

AIモデルが生物学的リスクに悪用される可能性を低減し、より安全なAI開発に貢献するでしょう。

このバグバウンティは、GPT-5.5が生物兵器開発などの危険な情報を提供するような「ジェイルブレイク」を特定することを目的としています。
研究者やセキュリティ専門家が参加し、AIの悪用を防ぐための重要な取り組みです。
AIの安全性確保は、今後のAI社会において非常に重要な課題となります。
Bloomberg Tech ★4 AI倫理 EN

AIが児童性愛者を大胆にさせ、捜査官は対応しきれない

要約を読む要約を閉じる
📰ニュース

AI生成の児童性的虐待画像が急増し、捜査機関が実際の被害児童の特定に苦慮しています。

🔍注目ポイント

AIが生成するリアルな画像により、児童性的虐待コンテンツの量が爆発的に増加しています。

🔮これからどうなる

捜査機関は限られたリソースで大量のAI生成画像に対処せざるを得ず、実際の被害児童の救出が遅れる可能性があります。

AI技術の進化により、実在しない児童の性的虐待画像が容易に作成・拡散されています。
これにより、捜査官は膨大な量のAI生成コンテンツの中から、実在する児童が関与する事件を特定する作業に追われています。
この状況は、児童保護とサイバー犯罪対策における新たな課題を提起しています。
Bloomberg Tech ★3 ビジネス EN

英国銀行、AIリスク「Mythos」への準備完了と業界団体が発表

要約を読む要約を閉じる
📰ニュース

英国の主要金融機関が、AnthropicのAIモデル「Mythos」に起因するサイバーセキュリティリスクへの準備が整っていると結論付けました。

🔍注目ポイント

金融機関が特定のAIモデルに焦点を当て、その潜在的なサイバーセキュリティリスクを評価し、対策を講じている点が重要です。

🔮これからどうなる

金融機関のセキュリティ強化により、顧客の資産やデータがAI関連のサイバー攻撃からより保護される可能性があります。

イングランド銀行を含む英国の主要金融機関は、Anthropic PBCの「Mythos」モデルの影響について協議する会議を開催しました。
この会議を経て、AIの発展に伴う新たなサイバーセキュリティリスクに対して「準備ができている」との見解を示しました。
これは、AI技術の進化が金融業界にもたらす潜在的な脅威への意識の高まりを反映しています。
Wired ★4 AI倫理 EN

5つのAIモデルが私を騙そうとした:そのうちいくつかは恐ろしいほど巧妙だった

要約を読む要約を閉じる
📰ニュース

Wired記者が5つのAIモデルに詐欺を試みさせ、その巧妙さを検証しました。

🔍注目ポイント

AIモデルは人間のような社会スキルを模倣し、説得力のある詐欺メッセージを生成する能力を示しました。

🔮これからどうなる

AIによる詐欺の高度化は、一般消費者が騙されるリスクを増大させ、社会的な警戒が必要です。

記者は、AIモデルに「詐欺師」の役割を与え、様々なシナリオで詐欺を試みさせました。
その結果、一部のAIは非常に説得力のあるメッセージを作成し、人間の感情に訴えかける能力があることが判明しました。
これは、AIがサイバー攻撃だけでなく、ソーシャルエンジニアリング詐欺にも悪用される可能性を示唆しています。
The Verge AI ★3 AI倫理 EN

AnthropicのサイバーセキュリティAI「Mythos」、米国の主要機関が利用できず

要約を読む要約を閉じる
📰ニュース

AnthropicのサイバーセキュリティAIモデル「Mythos」が、米国の主要サイバーセキュリティ機関であるCISAに提供されていないことが判明しました。

🔍注目ポイント

AnthropicはMythosを脆弱性発見に特化した強力なAIツールとして開発し、一部の連邦機関が利用を開始しています。

🔮これからどうなる

米国のサイバーセキュリティ対策において、最重要機関が最新のAIツールを活用できないことで、国家全体の防御力に影響が出る可能性があります。

Axiosの報道によると、AnthropicはMythos Previewを複数の連邦機関に提供していますが、CISAはアクセスできていません。
Mythosは、コードの脆弱性を特定し、悪意のある活動を検出する能力を持つとされています。
この状況は、政府機関におけるAIツールの導入と連携の課題を示唆しています。
Bloomberg Tech ★4 AI倫理 EN

Anthropicの「Mythos」が世界的な警戒を引き起こす理由

要約を読む要約を閉じる
📰ニュース

Anthropicが、強力すぎるAIツール「Mythos」を一般公開しないと発表しました。

🔍注目ポイント

Mythosはソフトウェアやシステム脆弱性の発見に優れ、悪用されると深刻な脅威となる可能性があります。

🔮これからどうなる

限定的な提供により、サイバー攻撃のリスクを軽減し、重要インフラの安全確保に貢献します。

Anthropicは、Mythosがデータ窃盗や重要インフラ妨害に悪用される可能性を懸念しています。
そのため、このモデルは厳選された少数の関係者のみに提供される予定です。
AIの能力が向上するにつれ、その倫理的な利用と安全な管理がますます重要になっています。
Wired ★4 AI倫理 EN

AIツールが北朝鮮の凡庸なハッカーによる数百万ドル窃盗を支援

要約を読む要約を閉じる
📰ニュース

北朝鮮のハッカー集団がAIツールを悪用し、マルウェア開発から偽ウェブサイト作成まで行い、3ヶ月で最大1200万ドルを窃取しました。

🔍注目ポイント

AIがマルウェアの「雰囲気コーディング」や偽の企業ウェブサイト生成に利用され、ハッキングの効率と巧妙さを向上させています。

🔮これからどうなる

AIの悪用により、サイバー攻撃の敷居が下がり、企業や個人の資産がより広範な脅威に晒される可能性があります。

このハッカー集団は、AIをマルウェアのコード生成や、標的を騙すための精巧な偽ウェブサイト作成に活用しました。
これにより、技術レベルがそれほど高くないハッカーでも、大規模なサイバー窃盗を成功させることが可能になっています。
AIの進化が、サイバーセキュリティの新たな課題を生み出している現状を示しています。