セキュリティ

1943件
OpenAI Blog ★4 LLM EN

サイバーセキュリティ向け信頼アクセスをGPT-5.5とGPT-5.5-Cyberで拡大

要約を読む要約を閉じる
📰ニュース

OpenAIがGPT-5.5およびGPT-5.5-Cyberを導入し、サイバーセキュリティ分野の信頼アクセスプログラムを拡大しました。

🔍注目ポイント

検証済みの防御者が脆弱性研究を加速し、重要インフラを保護するためのAIモデルを提供します。

🔮これからどうなる

サイバーセキュリティ専門家は、より迅速かつ効率的に脅威を特定し、国家の重要インフラの安全性が向上するでしょう。

このプログラムは、GPTモデルの高度な機能を活用し、サイバー防御者が複雑なサイバー脅威に対処する能力を高めることを目的としています。
特に、GPT-5.5-Cyberはサイバーセキュリティに特化したチューニングが施されており、より専門的な分析と対応を可能にします。
これにより、サイバー攻撃に対する防御側の優位性を確立することが期待されます。
GIGAZINE ★3 ビジネス

イランのエリート「ハラジ兄弟」が設立した仮想通貨取引所「ノビテックス」がアメリカの制裁下でイスラム革命防衛隊の資金移動に使われているとの指摘

要約を読む要約を閉じる
📰ニュース

イランの仮想通貨取引所ノビテックスが、米国の制裁下でイスラム革命防衛隊の資金移動に利用されていると報じられました。

🔍注目ポイント

制裁対象の組織が仮想通貨取引所を介して、国際的な金融システムを迂回し資金移動している点が問題視されています。

🔮これからどうなる

国際社会における制裁の実効性が低下し、仮想通貨の悪用に対する規制強化の議論が加速する可能性があります。

ロイターの報道によると、イランの有力なハラジ兄弟が設立したノビテックスは、イラン中央銀行やイスラム革命防衛隊に関連する数百億円規模の取引を処理していると指摘されています。
これは、米国がイランに対して課している経済制裁を回避する手段として仮想通貨が利用されていることを示唆しています。
Wired ★4 AI倫理 EN

AI生成アプリが数千件の企業・個人データを公開ウェブに漏洩

要約を読む要約を閉じる
📰ニュース

AIで生成された数千のウェブアプリが、企業や個人の機密データをインターネット上に公開しています。

🔍注目ポイント

AIツールがアプリ開発を容易にする一方で、セキュリティ設定の不備によりデータ漏洩が多発しています。

🔮これからどうなる

企業は機密情報が流出し、個人はプライバシー侵害のリスクに直面する可能性があります。

Lovable、Base44、Replit、Netlifyなどの企業が提供するAIツールは、ユーザーが数秒でウェブアプリを作成できる利便性を提供します。
しかし、これらのアプリの多くは、デフォルトのセキュリティ設定が不十分なため、意図せず機密データを公開してしまう事態が発生しています。
VentureBeat AI ★4 セキュリティ EN

Anthropic Skillスキャナーを回避する悪意のあるコード:テストファイル経由の攻撃

要約を読む要約を閉じる
📰ニュース

Anthropic Skillのスキャナーが検知できない、テストファイルを利用した新たな攻撃手法が発見されました。

🔍注目ポイント

テストファイルはエージェントの実行表面外にあるため、既存のスキャナーは検査せず、開発環境で実行され機密情報にアクセス可能です。

🔮これからどうなる

開発者が悪意のあるSkillをインストールすると、チーム全体にマルウェアが拡散し、企業や個人の機密情報が漏洩するリスクがあります。

Gecko Securityの研究者が、悪意のあるテストファイルが開発者のローカル環境で実行され、ファイルシステムや環境変数、SSHキーにアクセスできることを実証しました。
この攻撃は、npmのpostinstallスクリプトなど既存の信頼ベースの攻撃に似ていますが、Skillがチーム間で共有されるディレクトリにインストールされるため、より広範囲に影響を及ぼします。
既存のセキュリティ監査では、エージェントの実行表面を検査するのみで、テストファイルのような盲点が残されていました。
arXiv cs.AI ★4 LLM EN

安定したエージェント制御:自律型サイバー防御のためのツール媒介型LLMアーキテクチャ

要約を読む要約を閉じる
📰ニュース

LLMエージェントが決定論的ツールを介してサイバー防御を行う新しいアーキテクチャが開発されました。

🔍注目ポイント

LLMの非決定性を活用しつつ、決定論的ツールと形式的検証によりシステム全体の安定性と堅牢性を保証しています。

🔮これからどうなる

企業はより堅牢で自律的なサイバー防御システムを導入し、セキュリティ運用センターの負担が軽減されるでしょう。

このアーキテクチャは、Stackelberg最適応答やベイズ観測器などの決定論的ツールをLLMエージェントに利用させ、出力インターフェースで有限のアクションカタログを強制します。
Lean 4で機械検証されたLyapunov関数により、敵対的撹乱下での制御可能性、観測可能性、および入力状態安定性(ISS)の堅牢性が証明されました。
実際の企業攻撃グラフ282件で有効性が確認され、Claude Sonnet 4コントローラーは攻撃者の期待利益を59%削減しました。
arXiv cs.AI ★4 研究 EN

隠蔽型セマンティック通信のための適応型デュアルパスフレームワーク

要約を読む要約を閉じる
📰ニュース

隠蔽情報伝送とタスク指向セマンティック符号化を統合した新しい通信フレームワークが提案されました。

🔍注目ポイント

セマンティックレベルの固有符号化により、タスク固有の特徴内に隠蔽データを埋め込むデュアルパスアーキテクチャが特徴です。

🔮これからどうなる

機密性の高い情報を安全に伝送しながら、通常の通信タスクも高性能で実行できるようになります。

このフレームワークは、公開タスク用の「Explicitパス」と、公開情報と隠蔽情報を共同で符号化する「Stegoパス」を持ち、Gumbel-Softmaxによる適応的なパス選択を行います。
Cityscapesデータセットでの実験では、攻撃者の検出精度をほぼランダム推測レベルまで抑制し、高い隠蔽性を達成しました。
同時に、主要なセマンティックタスクでも優れた性能を維持しています。
arXiv cs.AI ★4 研究 EN

分解して理解し、融合して検出:暗号化されたネットワークトラフィックのための周波数分離型異常検知

要約を読む要約を閉じる
📰ニュース

暗号化されたネットワークトラフィックの異常を、周波数帯域に分離して高精度に検知する新手法「FreeUp」が発表されました。

🔍注目ポイント

トラフィックを低周波と高周波に分解し、それぞれ専用のAIで学習・処理することで、従来の課題だった「スペクトルミスマッチ」を解消しました。

🔮これからどうなる

暗号化された通信におけるサイバー攻撃や不正アクセスを早期に発見し、企業のセキュリティ対策を強化する可能性があります。

従来の画像ベースの異常検知手法は、暗号化トラフィックに多い高周波成分の学習が苦手で、低周波情報に偏る「スペクトルミスマッチ」という課題がありました。
FreeUpは、この課題を解決するため、周波数帯域を分離して独立した学習を行い、さらに再構築の不確実性を考慮した融合スコアリングメカニズムを導入しています。
arXiv cs.AI ★4 AI倫理 EN

PIIGuard: 敵対的サニタイズ下での個人識別情報(PII)収集を軽減するウェブページレベルの防御策

要約を読む要約を閉じる
📰ニュース

LLMアシスタントによるウェブページからの個人識別情報(PII)収集を防ぐ新しい防御策「PIIGuard」が発表されました。

🔍注目ポイント

ウェブページに最適化された隠しHTMLフラグメントを埋め込み、LLMがPIIをそのまま開示しないよう誘導する技術です。

🔮これからどうなる

ウェブサイトの所有者が、LLMによるPIIの不正な収集からユーザーの個人情報を保護できるようになります。

PIIGuardは、ルールベースの漏洩スコアリング、進化的変異、最終的な判定者による回復可能性評価を用いてフラグメントのテキストと挿入位置を最適化します。
GPT-5.4-nano、Claude-haiku-4.5、DeepSeek-chat(latest v3.2)の3つのモデルで97.0%以上の防御成功率を達成し、通常のQA機能は維持されます。
公開URLブラウジングや攻撃者側のLLMサニタイズといったより困難な状況でも、一部のモデルと位置の組み合わせで効果が持続することが示されました。
arXiv cs.AI ★4 AI倫理 EN

エージェントAIにおける機密コンピューティングの調査:秘密を扱うエージェントのためのセキュリティ

要約を読む要約を閉じる
📰ニュース

エージェントAIシステムが機密情報を扱う際のセキュリティ脅威と、機密コンピューティングによる防御策が調査されました。

🔍注目ポイント

ハードウェアベースの信頼実行環境(TEE)が、特権を持つ攻撃者からエージェントのコードとデータを隔離し、検証可能な信頼を提供します。

🔮これからどうなる

エージェントAIのセキュリティが向上し、企業や個人が機密情報を安心してAIに扱わせることが可能になります。

LLM駆動型エージェントは機密コンテキストを蓄積し、資格情報を保持するため、プロンプトインジェクションや資格情報窃盗などの新たな脅威に直面します。
従来のソフトウェア防御では不十分な場合があり、Intel SGXやAMD SEV-SNPなどの6つのTEEプラットフォームが比較検討され、エージェント特有の脅威モデルとセキュリティ目標が提示されています。
arXiv cs.AI ★4 LLM EN

MAGE:シャドウメモリでLLMエージェントを長期的な脅威から保護

要約を読む要約を閉じる
📰ニュース

LLMエージェントを長期的な悪意ある脅威から守る防御フレームワーク「MAGE」が発表されました。

🔍注目ポイント

システムセキュリティのシャドウスタックに着想を得て、安全に特化したシャドウメモリで行動リスクを評価します。

🔮これからどうなる

LLMエージェントの安全性が向上し、金融や医療など重要分野での実用化が加速するでしょう。

MAGEは、エージェントの全実行履歴から安全上重要な情報を抽出し、シャドウメモリに保持します。
これにより、実行前の行動リスクを事前に評価し、既存の防御策を大幅に上回る検出精度と早期検出を実現しました。
このアプローチは、長期的な脅威対策の新たなパラダイムを確立します。
arXiv cs.AI ★4 研究 EN

暗号化レジストリ来歴:AIパッケージエコシステムにおける依存関係の混乱に対する構造的防御

要約を読む要約を閉じる
📰ニュース

AIパッケージエコシステムで依存関係の混乱攻撃を防ぐため、暗号化による配布来歴システムが提案されました。

🔍注目ポイント

レジストリの暗号化ID、二重署名モデル、権威ある名前空間バインディングにより、多層的な防御を実現します。

🔮これからどうなる

AI開発者は、悪意のあるパッケージの混入リスクが減少し、より安全な環境で開発を進められます。

既存の防御策は設定ベースで誤設定時に機能しない問題がありました。
このシステムは、発行者とレジストリがそれぞれ署名し、消費者がレジストリのフィンガープリントを固定することで、不正なアーティファクトを暗号的に拒否します。
主要な8つのエコシステムを比較した結果、既存のシステムにはこの多層防御が欠けていることが判明しました。
arXiv cs.AI ★3 研究 EN

自己教師あり融合表現を用いたディープフェイク音声検出

要約を読む要約を閉じる
📰ニュース

音声と環境音の両方が操作されたディープフェイク音声を検出する新しいフレームワークが提案されました。

🔍注目ポイント

XLS-RとBEATsという事前学習モデルで音声と環境音の表現を抽出し、それらを融合して検出精度を高めています。

🔮これからどうなる

ディープフェイク音声の検出精度が向上し、詐欺や誤情報の拡散防止に貢献する可能性があります。

ESDD2 2026チャレンジへの提出論文で、CompSpoofV2データセットを使用し、音声と環境音が個別に操作されたディープフェイクを対象としています。
提案システムは、元の音声、音声の改ざん、環境音の改ざんを予測でき、ベースラインシステムを上回るF1スコア70.20%を達成しました。