セキュリティ

1943件
The Decoder ★4 AI倫理 EN

生成AIが個人情報窃盗を産業規模のオペレーションに変貌させる

要約を読む要約を閉じる
📰ニュース

生成AIと自律型エージェントが米国で個人情報窃盗を大規模化させています。

🔍注目ポイント

ダークウェブでの社会保障番号検索からディープフェイク運転免許証作成まで、AIが窃盗プロセスを自動化・効率化しています。

🔮これからどうなる

個人はディープフェイクによる詐欺被害に遭うリスクが高まり、企業はセキュリティ対策の強化が急務となります。

Bloombergの調査によると、生成AIは個人情報窃盗の各段階で活用され、その規模と精度を飛躍的に向上させています。
これにより、従来の個人情報窃盗が手作業で行われていたのに対し、AIが関与することで自動化され、より多くの被害者を生み出す可能性が指摘されています。
ASCII.jp ビジネス

マネーフォワード、停止中の銀行口座連携を順次再開へ

要約を読む要約を閉じる
📰ニュース

マネーフォワードが不正アクセスで停止していた銀行口座連携機能を順次再開します。

🔍注目ポイント

セキュリティ強化と安全確認を経て、ユーザーへのサービス提供を再開する判断がなされました。

🔮これからどうなる

マネーフォワードの利用者は、停止していた銀行口座の自動連携を再び利用できるようになります。

マネーフォワードはGitHubリポジトリへの不正アクセスを受け、ユーザーの資産情報保護のため銀行口座連携機能を一時停止していました。
今回の再開は、セキュリティ対策の強化と安全性の確認が完了したことを示しています。
ユーザーは安心してサービスを継続利用できるでしょう。
GIGAZINE ★4 ビジネス

中国へ輸出が禁止されているNVIDIAチップの密輸にタイの国家AI開発の主要企業「OBON」が関与していたと匿名の関係者が暴露

要約を読む要約を閉じる
📰ニュース

タイの国家AI開発企業OBONが、中国へのNVIDIA製チップ密輸に関与した疑いが匿名関係者により報じられました。

🔍注目ポイント

アメリカの輸出規制対象である高性能NVIDIAチップが、タイ企業を介して中国へ密輸された可能性が指摘されています。

🔮これからどうなる

AI開発に必要な高性能チップの流通に不透明さが増し、国際的なサプライチェーンやAI開発競争に影響を与える可能性があります。

アメリカ政府は2022年から中国への高性能チップ輸出を規制しており、2026年にはさらに厳格な新規則を導入予定です。
今回の報道は、タイの主要AI企業が数十億ドル規模のサーバー密輸に関与した疑いを指摘するもので、国際的な貿易摩擦や地政学的リスクが背景にあります。
arXiv cs.AI ★4 LLM EN

Towards Security-Auditable LLM Agents: A Unified Graph Representation

要約を読む要約を閉じる
📰ニュース

LLMエージェントのセキュリティ監査を可能にする統一グラフ表現「Agent-BOM」が提案されました。

🔍注目ポイント

Agent-BOMは、LLMエージェントの静的機能と動的実行状態を階層的なグラフで表現し、複雑な攻撃経路を可視化します。

🔮これからどうなる

LLMエージェントのセキュリティ脆弱性を特定しやすくなり、より安全なAIシステムの開発と運用が進むでしょう。

既存の監査手法では、LLMエージェントの動的な振る舞いや複数のエージェント間の相互作用によるリスクを捉えきれませんでした。
Agent-BOMは、モデル、ツール、メモリなどの静的要素と、目標、推論、行動などの動的要素を意味的なエッジで結びつけ、実行トレースをクエリ可能な監査パスに変換します。
これにより、メモリ汚染やツール誤用、サプライチェーン攻撃など、これまで見つけにくかった攻撃チェーンの再構築が可能になります。
arXiv cs.AI ★3 研究 EN

学習する監視者に対する反復的な欺瞞的経路計画

要約を読む要約を閉じる
📰ニュース

学習する監視者から真の目的地を隠すための、反復的な欺瞞的経路計画(RDPP)という新しい問題を提起しました。

🔍注目ポイント

監視者の学習能力をモデル化し、短期的な適応と長期的な学習を組み合わせた「Deceptive Meta Planning (DeMP)」フレームワークを提案しました。

🔮これからどうなる

軍事作戦や重要物資輸送など、敵対者が学習・適応する状況でのプライバシーとセキュリティが向上する可能性があります。

従来の欺瞞的経路計画は静的な監視者を想定していましたが、現実世界の敵対者は過去の軌跡から学習し適応します。
DeMPは、エピソードレベルの適応で短期的なポリシー調整を行い、メタレベルの更新で監視者のモデル更新を学習し、適応の遅延を軽減します。
これにより、学習する監視者に対して持続的な欺瞞を可能にします。
arXiv cs.AI ★4 AI倫理 EN

エージェントAIとサイバー攻撃の産業化:企業と中小企業への予測、影響、防御の優先事項

要約を読む要約を閉じる
📰ニュース

エージェントAIがサイバー攻撃のライフサイクルを短縮し、攻撃コストを大幅に削減するリスクが指摘されました。

🔍注目ポイント

エージェントAIは偵察、フィッシング、脆弱性分析、エクスプロイト適応など、多段階の攻撃プロセスを自動化・効率化します。

🔮これからどうなる

企業や中小企業は、サイバー攻撃の頻度と巧妙さが増し、防御策の強化が喫緊の課題となります。

本論文は、エージェントAIのサイバー攻撃能力に関する公開情報を統合し、2026年から2028年にかけての予測を提示しています。
特に、2026年のLinuxカーネルのCopy Failインシデントをケーススタディとして、足がかりからルート権限奪取までの加速を分析しています。
防御策として、ID管理、フィッシング耐性認証、パッチ適用速度の向上などが挙げられています。
arXiv cs.AI ★4 研究 EN

PAMPOS: V2Xネットワークにおける攻撃非依存型不正行動検知のための因果Transformerベース軌道予測

要約を読む要約を閉じる
📰ニュース

V2Xネットワークで、未知の攻撃にも対応できる不正行動検知システム「PAMPOS」が開発されました。

🔍注目ポイント

因果Transformerデコーダーが正常な車両軌道を学習し、予測との乖離から不正を検知する技術がすごい点です。

🔮これからどうなる

V2X通信のセキュリティが向上し、自動運転車の安全性や信頼性が高まる可能性があります。

PAMPOSは、攻撃ラベル付きの訓練データを必要とせず、正常な移動パターンのみを学習します。
推論時に、モデルの次ステップ予測からの逸脱を異常として特定し、特定の運動学的特徴に不正を局所化します。
VeReMi++の19種類の攻撃タイプで評価され、高いAUC値とF1スコアを達成しました。
arXiv cs.AI ★4 研究 EN

ディープフェイク動画検出における時間的攻撃の暴露と軽減

要約を読む要約を閉じる
📰ニュース

ディープフェイク検出モデルが時間的攻撃に脆弱であることを明らかにし、その対策フレームワークを提案しました。

🔍注目ポイント

提案されたSpInShieldは、動画のセマンティックな動きと操作可能なスペクトルアーティファクトを分離し、頑健な検出を可能にします。

🔮これからどうなる

ディープフェイク動画の検出精度が向上し、偽情報拡散のリスク低減に貢献する可能性があります。

既存のディープフェイク検出モデルは、時間スペクトル信号に過学習し、回避攻撃に弱いことが判明しました。
SpInShieldは、学習可能なスペクトル敵対的ネットワークを用いて極端な攻撃シナリオをシミュレートし、不安定なスペクトル統計を除去することで、信頼性の高いフォレンジックキューを抽出します。
これにより、シミュレートされた振幅スペクトル攻撃下で、最強のベースラインを21.30%上回るAUCを達成しました。
arXiv cs.AI ★4 AI倫理 EN

疎なオートエンコーダをVLMの敵対的攻撃検出用プラグアンドプレイファイアウォールとして活用

要約を読む要約を閉じる
📰ニュース

VLMに対する敵対的攻撃を検出する軽量なフレームワーク「SAEgis」が開発されました。

🔍注目ポイント

疎なオートエンコーダ(SAE)をVLMに組み込み、その疎な潜在特徴が攻撃関連信号を捉えることで、高い検出精度を実現します。

🔮これからどうなる

VLMを利用するエージェントシステムや実世界アプリケーションの安全性が向上し、悪意ある攻撃からユーザーを保護できます。

SAEgisは、既存のVLMにSAEモジュールを挿入し、再構築目的で学習させるだけで機能します。
追加の敵対的学習は不要で、最小限のオーバーヘッドで、未知の攻撃に対しても高い汎化性能を示します。
複数の層からの信号を組み合わせることで、さらに堅牢性と安定性が向上します。
arXiv cs.AI ★4 LLM EN

HBEE:人間行動エントロピーエンジン — ピア疑惑に基づく検出反転のマルチエージェントLLMシミュレーション

要約を読む要約を閉じる
📰ニュース

LLM駆動の適応型内部脅威が、従来の検出システムを欺く「検出反転」を引き起こすことがシミュレーションで判明しました。

🔍注目ポイント

LLMが人間の行動を模倣し、適応的に振る舞うことで、監視システムから疑われにくくなる現象を再現しました。

🔮これからどうなる

企業や組織は、AIを活用した内部脅威対策の再考を迫られ、セキュリティ戦略の大幅な見直しが必要になるでしょう。

この研究は、マルチエージェントLLMシミュレーター「HBEE」を使用し、防御モードと攻撃者タイプを組み合わせた5つの条件で実施されました。
適応型攻撃者は、時間の経過とともに他のエージェントからの疑念度が統計的に低くなることが示され、従来の行動分析に基づく検出が困難になる可能性が浮上しました。
これは、AIが高度な欺瞞行動を学習し、実行できることを示唆しています。
arXiv cs.AI ★4 LLM EN

CyBiasBench:サイバー攻撃シナリオにおけるLLMエージェントのバイアスを評価

要約を読む要約を閉じる
📰ニュース

LLMエージェントがサイバー攻撃において特定の手法に偏る「攻撃選択バイアス」が発見されました。

🔍注目ポイント

CyBiasBenchは、630セッションの包括的なベンチマークで、LLMエージェントの攻撃選択バイアスを定量的に評価します。

🔮これからどうなる

サイバーセキュリティ分野でLLMエージェントを導入する際、意図しない攻撃の偏りや脆弱性を見落とすリスクが生じます。

研究では、5つのエージェントを3つのターゲットと4つのプロンプト条件で評価し、10種類の攻撃ファミリーに対するバイアスを特定しました。
このバイアスはエージェントの特性であり、攻撃成功率とは直接関係なく、エージェントは自身のバイアスに反する攻撃への誘導に抵抗する「バイアス慣性効果」も確認されています。
再現性確保のため、結果ダッシュボードと評価スクリプトが公開されています。
arXiv cs.AI ★4 LLM EN

感染拡大を未然に防ぐ:マルチエージェントシステムにおける先見性に基づいた防御

要約を読む要約を閉じる
📰ニュース

マルチエージェントシステム(MAS)において、単一エージェントの感染が広がる「感染性ジェイルブレイク」を防ぐ新しい防御フレームワークが開発されました。

🔍注目ポイント

各エージェントが将来の相互作用をシミュレートし、行動の進化を追跡することで、感染を局所的に検出し除去するトレーニング不要の防御手法です。

🔮これからどうなる

大規模なAIシステムがより安全になり、悪意のある攻撃によるシステム全体の機能不全のリスクが大幅に低減され、信頼性が向上します。

既存の防御策は共有の「治療因子」で対応していましたが、局所的な相互作用から生じる感染には不十分でした。
本手法は、マルチペルソナシミュレーションで多様な予測を行い、応答の多様性を診断信号として感染を検出します。
感染したエージェントには、即時ロールバックや再帰的診断で感染源を特定し除去します。