セキュリティ

1946件
VentureBeat AI ★4 AI倫理 EN

Anthropicのブラウザエージェント、安全対策発動前に31.5%の確率で乗っ取られる

要約を読む要約を閉じる
📰ニュース

Anthropicのブラウザエージェントが、プロンプトインジェクション攻撃により31.5%の確率で乗っ取られたことが判明しました。

🔍注目ポイント

Anthropicは、他のAIラボが公開していないプロンプトインジェクションの具体的な成功率を、複数のエージェント表面ごとに詳細に開示しました。

🔮これからどうなる

AIモデルを導入する企業は、プロンプトインジェクションによる新たな攻撃対象領域の拡大を認識し、その対策を自社で管理する必要性が高まります。

Anthropicは、244ページにわたる詳細な報告書で、ブラウザ環境での攻撃成功率31.5%を含む、4つのエージェント表面でのプロンプトインジェクションの結果を公開しました。
これは、OpenAIやGoogle、Metaが具体的な数値を公表していない中で、業界に透明性をもたらすものです。
プロンプトインジェクションは、悪意のある指示をエージェントが読み取る情報に隠し、データ流出や不正なアクションを引き起こす可能性があります。
Bloomberg Tech ★4 AI倫理 EN

Anthropic、EUサイバーセキュリティ機関にAIツール「Mythos」へのアクセスを提供

要約を読む要約を閉じる
📰ニュース

AnthropicがEUのサイバーセキュリティ機関に、システム脆弱性を発見・悪用できるAIツール「Mythos」へのアクセスを提供します。

🔍注目ポイント

Mythosは、コンピュータシステムの脆弱性を特定し、悪用する能力を持つ強力なAIツールです。

🔮これからどうなる

EUのサイバーセキュリティ能力が向上し、重要なインフラや市民のデータ保護が強化される可能性があります。

Anthropicは、AIの安全性と倫理的な利用を重視する企業として知られています。
今回の提供は、AIがサイバーセキュリティ分野でどのように活用され、規制機関と連携していくかを示す重要な事例となります。
EUはAI規制に積極的であり、この動きは今後のAIガバナンスにも影響を与えるでしょう。
OpenAI Blog ★4 AI倫理 EN

「テクノロジーと関税」キャンペーン:米国のテクノロジー政策を標的とした影響力工作

要約を読む要約を閉じる
📰ニュース

OpenAIが、米国のテクノロジー政策に関するAI生成コンテンツを用いた中国発の影響力工作アカウントを停止しました。

🔍注目ポイント

AIが生成したコメントや漫画を使い、特定の国の政策に対する世論操作を試みる手口が確認されました。

🔮これからどうなる

AIが悪用されることで、国家間の情報戦が激化し、民主主義における世論形成に悪影響を及ぼす可能性があります。

このキャンペーンは「テクノロジーと関税」と名付けられ、米国のテクノロジー政策、関税、貿易制限に関する議論に影響を与えようとしました。
OpenAIは、これらのアカウントが中国に起源を持つ可能性が高いと判断し、AIの悪用に対する監視と対策を強化しています。
OpenAI Blog ★4 AI倫理 EN

「データセンター・バンドワゴン」キャンペーン:米国を標的とした影響力工作

要約を読む要約を閉じる
📰ニュース

OpenAIが、米国のデータセンターやAIインフラを批判するSNSコンテンツを生成する中国起源のAI影響力工作を停止しました。

🔍注目ポイント

AIが生成したコンテンツが、特定の国のインフラに対する世論操作に利用された事例が確認されました。

🔮これからどうなる

AIによる情報操作が国家間の世論形成に影響を及ぼす可能性があり、民主主義プロセスへの脅威が増大します。

このキャンペーンは「データセンター・バンドワゴン」と名付けられ、米国のデータセンターやAIインフラに対する批判的な情報を拡散していました。
OpenAIは、AIが生成したコンテンツが世論操作に利用されることを防ぐため、このような活動を積極的に監視し、停止しています。
今回の事例は、AIの悪用に対する警戒の重要性を示しています。
ASCII.jp ★3 ビジネス

SCS評価制度でセキュリティ投資「増額予定」が8割/大企業と中小企業のAI導入格差は2.7倍/情シスの3人に2人が「シャドーAI増加」実感、ほか

要約を読む要約を閉じる
📰ニュース

SCS評価制度開始を前に、企業セキュリティ投資の増額意向が8割に達しました。

🔍注目ポイント

大企業と中小企業間でAI導入格差が2.7倍に広がり、シャドーAIの増加も課題です。

🔮これからどうなる

企業はセキュリティ強化とAI導入戦略の見直しを迫られ、業務効率や競争力に影響が出ます。

SCS評価制度の開始がセキュリティ投資増額の主な要因です。
情報システム担当者の3分の2がシャドーAIの増加を実感しており、企業内でのAI利用の統制が課題となっています。
また、数万円の攻撃で数億円の被害を出すランサムウェア攻撃の実態も報告されています。
VentureBeat AI ★5 AI倫理 EN

Claude Mythosが暴いた厳しい真実:企業のパッチ適用プロセスは遅すぎる

要約を読む要約を閉じる
📰ニュース

AnthropicのAIモデル「Claude Mythos」がゼロデイ脆弱性を自律的に発見し、既存のセキュリティ対策の限界を露呈しました。

🔍注目ポイント

AIが既知の脆弱性を悪用するだけでなく、未知のゼロデイ脆弱性を発見・悪用する能力を獲得した点が技術的ブレークスルーです。

🔮これからどうなる

企業は従来のパッチ適用プロセスを見直し、AIによる迅速な攻撃に対応するため、脆弱性管理の優先順位付けと自動化を強化する必要があります。

以前はAIが既知の脆弱性を悪用できても発見はできないとされていましたが、Claude Mythosはその「安全マージン」をなくしました。
LangflowやMarimoの脆弱性は公開からわずか数時間で悪用されており、従来のパッチ適用期間では間に合わない状況です。
記事では、CISA KEV、EPSS、CVSSを組み合わせた3層の優先順位付けフィルターを導入し、脆弱性管理を自動化することを推奨しています。
Bloomberg Tech ★3 セキュリティ EN

インドの試験委員会、ティーンが発見したサイバーセキュリティの脆弱性を認める

要約を読む要約を閉じる
📰ニュース

インドの国家試験委員会が、オンライン採点ポータルに存在したサイバーセキュリティの脆弱性を認め、対応したと発表しました。

🔍注目ポイント

ティーンエイジャーのサイバーセキュリティ研究者が、国の重要な試験の採点システムにおける脆弱性を発見し、報告しました。

🔮これからどうなる

教育機関のセキュリティ意識向上と、若年層のサイバーセキュリティ分野への貢献の重要性が再認識されます。

この脆弱性は、インドで最も重要な卒業試験の一つであるオンライン採点システムで発見されました。
試験委員会は、脆弱性を認識し、監視と封じ込めを行っていたと述べています。
若年層のハッカーが政府機関のシステムに脆弱性を見つけるケースは世界的に増えています。
The Decoder ★4 セキュリティ EN

攻撃者が共有ChatGPTとClaudeチャットを悪用しマルウェアを拡散

要約を読む要約を閉じる
📰ニュース

攻撃者がChatGPTとClaudeのチャット共有機能を悪用し、マルウェアを拡散しています。

🔍注目ポイント

信頼されたドメイン上でホストされる共有チャットが悪用され、セキュリティツールを回避しています。

🔮これからどうなる

ユーザーは、正規のチャットに見せかけたマルウェアに感染するリスクが高まります。

攻撃者は、エラーメッセージやインストールガイドを装った共有チャットを作成し、その中にマルウェアを仕込んでいます。
これらのチャットは、ChatGPTやClaudeの正規のドメイン上で共有されるため、セキュリティツールによる検出をすり抜けてしまいます。
ユーザーは共有されたチャットの内容を安易に信用しないよう注意が必要です。
GIGAZINE ★3 AI倫理

Windowsのゼロデイ脆弱性を投稿したセキュリティ研究者が「Microsoftの報復でGitHubから追放された」と主張

要約を読む要約を閉じる
📰ニュース

Windowsのゼロデイ脆弱性を公開した研究者が、Microsoftの報復によりGitHubからアカウントを停止されたと主張しています。

🔍注目ポイント

セキュリティ研究者が脆弱性を公開したことで、プラットフォーム運営企業からアカウント停止という報復を受けた可能性が指摘されています。

🔮これからどうなる

脆弱性発見者が情報公開を躊躇するようになり、結果としてシステムのセキュリティ向上に悪影響を及ぼすかもしれません。

Nightmare-Eclipse氏と名乗るセキュリティ研究者は、Windowsのゼロデイ脆弱性を複数公開していました。
GitHubはMicrosoft傘下のサービスであり、アカウント停止の具体的な理由は不明です。
同氏はGitLabに活動拠点を移しましたが、そこでもアカウントがBANされたと報告しています。
ITmedia AI+ ★4 ビジネス

日本政府と主要金融機関、OpenAI新モデルのアクセス権を取得 サイバー対策強化へ

要約を読む要約を閉じる
📰ニュース

日本政府と主要金融機関が、OpenAIの新型AIモデルへのアクセス権を取得しました。

🔍注目ポイント

高性能AIをサイバー攻撃の防御に活用し、金融機関のセキュリティ強化を図る点が重要です。

🔮これからどうなる

金融機関のサイバーセキュリティが向上し、国民の資産保護や金融システムの安定に貢献するでしょう。

片山さつき金融担当相がこの事実を明らかにしました。
高性能AIがサイバー攻撃に悪用される懸念が高まる中、AIを防御に活用する対策が急務とされています。
今回のアクセス権取得は、日本の金融機関のサイバーセキュリティ強化に資すると歓迎されています。
ITmedia AI+ ★4 LLM

OpenAI、日本政府とサイバーセキュリティで協力 最新AI「GPT-5.5-Cyber」を金融機関に提供

要約を読む要約を閉じる
📰ニュース

OpenAIが日本政府と連携し、金融機関向けにサイバーセキュリティ特化AI「GPT-5.5-Cyber」を提供します。

🔍注目ポイント

サイバーセキュリティに特化したAIモデルが、高度な脅威検知と防御策を自動生成し、金融機関のセキュリティを強化します。

🔮これからどうなる

金融機関はサイバー攻撃のリスクを低減でき、利用者の資産と情報がより安全に保護される可能性があります。

この取り組みは「日本サイバー・アクションプラン」の一環で、OpenAIと日本政府が協力してサイバーセキュリティ対策を強化するものです。
金融分野から導入を開始し、将来的には他分野への展開も視野に入れていると考えられます。
AIによるセキュリティ強化は、人手不足の解消にも寄与するでしょう。
Ars Technica AI ★4 AI倫理 EN

AIコーディングエージェントにデータ削除を指示するプロンプトインジェクションがコードに仕込まれる

要約を読む要約を閉じる
📰ニュース

開発者がAIコーディングエージェントに対し、アプリケーションの出力を削除するプロンプトインジェクションをコードに密かに組み込みました。

🔍注目ポイント

AIエージェントの指示系統を悪用し、意図しないデータ削除を引き起こすプロンプトインジェクションの危険性が示されました。

🔮これからどうなる

AIを利用した開発プロセスにおいて、悪意のある指示によるデータ損失やシステム破壊のリスクが高まる可能性があります。

このプロンプトインジェクションは、開発者が「vibe coders」と呼ぶ、AIに過度に依存する開発者への不満から仕込まれたものです。
オープンソースライブラリ「jqwik」に隠されたこの指示は、AIコーディングエージェントにアプリの出力を削除するよう命じていました。
これは、AIエージェントが受け取る指示の信頼性を検証することの重要性を示唆しています。