セキュリティ

1943件
Hugging Face Blog ★4 LLM EN

CyberSecQwen-4B:なぜ防御的サイバーセキュリティには小型で専門化されたローカル実行可能なモデルが必要なのか

要約を読む要約を閉じる
📰ニュース

サイバーセキュリティ分野に特化した小型言語モデル「CyberSecQwen-4B」が発表されました。

🔍注目ポイント

このモデルは、限られたリソースでもローカルで実行可能であり、サイバーセキュリティの専門知識に特化している点が特徴です。

🔮これからどうなる

中小企業や個人でも高度なサイバー脅威分析が可能になり、セキュリティ対策の民主化が進むでしょう。

CyberSecQwen-4Bは、大規模な汎用モデルでは難しい、サイバーセキュリティ特有の複雑なタスクに対応するために開発されました。
特に、機密性の高い情報を扱うサイバーセキュリティの現場では、クラウドベースのモデルではなく、ローカルで安全に実行できるモデルが求められています。
このモデルは、防御的サイバーセキュリティのニーズに応えることを目的としています。
The Decoder ★4 セキュリティ EN

OpenAI、GPT-5.5-Cyberを厳選されたセキュリティ研究者に公開

要約を読む要約を閉じる
📰ニュース

OpenAIが、セキュリティリクエストをほとんど拒否せず、テストサーバーへのエクスプロイト実行も可能なモデル「GPT-5.5-Cyber」を公開しました。

🔍注目ポイント

このモデルは、従来のAIが拒否するような悪意のあるリクエストにも対応し、サイバーセキュリティの防御側が攻撃をシミュレートするのに役立ちます。

🔮これからどうなる

重要インフラの防御側は、AIを活用してより高度なサイバー攻撃のシミュレーションと対策が可能になり、セキュリティが向上するでしょう。

GPT-5.5-Cyberは、CiscoやCrowdStrike、Cloudflareなどのパートナーを含む、厳選された重要インフラの防御者にのみアクセスが許可されています。
これはAnthropicのMythos Previewと直接競合するモデルであり、AIをサイバーセキュリティ研究に活用する新たな動きを示しています。
GIGAZINE ★3 セキュリティ

暗号化メールサービスのProton Mailが「量子コンピューターでも突破できない暗号技術」に対応へ

要約を読む要約を閉じる
📰ニュース

Proton Mailが量子コンピューターでも解読困難なポスト量子暗号技術に対応しました。

🔍注目ポイント

既存の暗号技術を量子コンピューターが突破する未来に備え、新たな暗号化方式を導入した点が技術的ポイントです。

🔮これからどうなる

ユーザーのメールデータが将来にわたって量子コンピューターによる解読から保護され、プライバシーが向上します。

Proton Mailはオープンソースのエンドツーエンド暗号化メールサービスで、無料プランを含む全プランに順次展開されます。
この対応により、新しい暗号化メール向けにポスト量子暗号対応キーが生成・利用可能になります。
将来のサイバーセキュリティリスクへの先手を打つ動きです。
GIGAZINE ★4 AI倫理

AIの検閲を突破してNG質問にも回答させる「ゲイの脱獄テクニック」とは?

要約を読む要約を閉じる
📰ニュース

AIの検閲機能を回避し、NG質問にも回答させる「ゲイの脱獄テクニック」が報告されました。

🔍注目ポイント

特定のロールプレイや指示をAIに与えることで、倫理的ガードレールを一時的に無効化する技術的脆弱性です。

🔮これからどうなる

AIモデルの安全性や倫理的利用に関する議論が深まり、開発者はより堅牢な検閲システムを構築する必要があります。

チャットAIには犯罪や自傷行為の助長を防ぐ検閲機能が備わっていますが、このテクニックはそれを突破します。
Exocija氏が紹介した手法で、AIが不適切な内容を出力するリスクが顕在化しました。
これはAIの倫理的利用における課題を浮き彫りにしています。
Bloomberg Tech ★4 ビジネス EN

Nvidia製チップ、タイ経由でアリババへ密輸の疑い

要約を読む要約を閉じる
📰ニュース

タイのAI企業がNvidia製チップ搭載サーバーを中国へ密輸した疑いが浮上しました。

🔍注目ポイント

米国は、タイのAI企業が高度なNvidia製チップを搭載したサーバーを中国へ密輸したと見ています。

🔮これからどうなる

米国による輸出規制の抜け穴が露呈し、AIチップのサプライチェーンに新たな監視強化が予想されます。

タイの国家AIプロジェクトを担う主要企業が、数十億ドル相当のSuper Micro Computer製サーバーを密輸したとされています。
最終顧客の一つにアリババグループが含まれると報じられています。
これは米国の対中輸出規制を回避する動きと見られています。
arXiv cs.AI ★4 AI倫理 EN

Authorization Propagation in Multi-Agent AI Systems: Identity Governance as Infrastructure

要約を読む要約を閉じる
📰ニュース

マルチエージェントAIシステムにおける権限伝播のセキュリティ問題が提起されました。

🔍注目ポイント

AIエージェント間のデータアクセスやタスク委譲に伴う権限維持の課題を特定し、解決策の要件を提示しています。

🔮これからどうなる

企業AIプラットフォームのセキュリティ設計が強化され、データ漏洩や不正アクセスリスクが低減されるでしょう。

従来のアクセス制御モデルでは不十分な「権限伝播」という新たな問題を定義し、推移的委譲、集約推論、時間的有効性の3つのサブ問題を特定しました。
この論文は、アイデンティティガバナンスをインフラとして扱い、継続的な評価と全てのインタラクション境界での強制を提唱しています。
実稼働中の企業AIプラットフォームでの実装証拠は、通常のシステム動作でもこのモデルが予測する障害が発生することを示しています。
arXiv cs.AI ★4 LLM EN

Addressing Labelled Data Scarcity: Taxonomy-Agnostic Annotation of PII Values in HTTP Traffic using LLMs

要約を読む要約を閉じる
📰ニュース

LLMがHTTPトラフィック内の個人識別情報(PII)を、定義に依存せず自動で分類・抽出する手法が提案されました。

🔍注目ポイント

LLMを活用した多段階パイプラインにより、PIIの定義が変化しても柔軟に対応し、高精度なアノテーションが可能です。

🔮これからどうなる

企業はプライバシー監査の効率を大幅に向上させ、進化するプライバシー規制への対応が容易になります。

既存のPII検出器は手動ラベル付けデータに依存し、定義変更に弱い課題がありました。
本研究では、LLMを用いて実行時に定義を与え、PIIの種類特定と値抽出を行うパイプラインを開発しました。
評価にはLLMで生成した合成HTTPトラフィックを使用し、異なる3つのPII定義で高い精度を示しました。
arXiv cs.AI ★4 研究 EN

Layout-Aware Representation Learning for Open-Set ID Fraud Discovery

要約を読む要約を閉じる
📰ニュース

AIがレイアウトを考慮した表現学習で、未知の身分証明書詐欺を99.83%の精度で発見しました。

🔍注目ポイント

DINOv3を文書ドメインに適応させ、文脈認識型SimMIMと複合損失で学習し、高精度な詐欺検出を実現しました。

🔮これからどうなる

金融機関や政府機関は、既存システムでは見逃されていた巧妙な身分証明書詐欺を早期に発見し、被害を軽減できます。

身分証明書詐欺は常に変化するため、従来の二値分類では対応が困難でした。
この研究では、米国のIDのみで学習したモデルが、カナダのIDで99.83%のレイアウト分類精度を達成しました。
さらに、2万件以上のカナダのIDデータから、既存検出器が見逃した222件を含む276件の物理的な詐欺を発見しました。
arXiv cs.AI ★4 LLM EN

One Turn Too Late: Response-Aware Defense Against Hidden Malicious Intent in Multi-Turn Dialogue

要約を読む要約を閉じる
📰ニュース

マルチターン対話におけるLLMへの隠れた悪意ある攻撃を検知する防御手法が開発されました。

🔍注目ポイント

対話の蓄積が有害行為を可能にする「最も早いターン」を特定し、早期拒否を避けつつ悪意を検出します。

🔮これからどうなる

LLMの安全性と信頼性が向上し、ユーザーはより安全にAIと対話できるようになります。

攻撃者は単一プロンプトではなく、複数の無害に見えるターンに悪意を分散させます。
既存の防御策では不十分なため、本研究では「TurnGate」というターンレベルの監視システムを開発しました。
これにより、有害な意図を高い精度で検出し、無害な対話の過剰な拒否を低く抑えることが可能です。
arXiv cs.AI ★4 LLM EN

LCC-LLM: Leveraging Code-Centric Large Language Models for Malware Attribution

要約を読む要約を閉じる
📰ニュース

コード中心のLLM「LCC-LLM」がマルウェア分析と属性特定に活用されました。

🔍注目ポイント

逆アセンブルされたCコードやアセンブリなど多角的なデータでLLMを訓練し、マルウェア分析の精度を高めています。

🔮これからどうなる

サイバーセキュリティアナリストは、より信頼性の高いマルウェア分析レポートを迅速に得られるようになります。

LCC-LLMは、約3.4万個のPEサンプルからなるベンチマークデータセット「LCCD」を使用し、逆コンパイルされたCコード、アセンブリコード、CFG/FCGアーティファクトなど多様な形式でマルウェアを表現しています。
LangGraphと多層RAGパイプラインを統合し、DeepSeek-R1-Distill-Qwen-14BとQwen3-Coder-30B-A3Bをファインチューニングしました。
これにより、43種類のマルウェア分析タスクで平均0.634のセマンティック類似度を達成し、特に構造化レポート生成やIoC抽出で高い性能を示しました。
arXiv cs.AI ★4 LLM EN

LeakDojo: Decoding the Leakage Threats of RAG Systems

要約を読む要約を閉じる
📰ニュース

RAGシステムにおける情報漏洩の脅威を評価するフレームワーク「LeakDojo」が発表されました。

🔍注目ポイント

LeakDojoは、RAGシステムの情報漏洩リスクを体系的に評価し、既存の攻撃手法とLLMの特性をベンチマークできます。

🔮これからどうなる

RAGシステムを導入する企業は、情報漏洩リスクをより正確に評価し、対策を講じることでセキュリティを強化できます。

RAGシステムはLLMに外部知識を活用させますが、そのデータベースが情報漏洩攻撃に晒されるリスクがあります。
既存の研究では、複雑化するRAGシステムの漏洩リスクを体系的に評価できていませんでした。
LeakDojoは、クエリ生成や敵対的指示が漏洩に独立して寄与すること、LLMの指示追従能力が高いほど漏洩リスクが増すこと、RAGの忠実性向上が漏洩リスクを高める可能性を明らかにしました。
arXiv cs.AI ★4 LLM EN

LoopTrap: Termination Poisoning Attacks on LLM Agents

要約を読む要約を閉じる
📰ニュース

LLMエージェントがタスク完了を誤認し、無限ループに陥る「Termination Poisoning」攻撃が発見されました。

🔍注目ポイント

悪意あるプロンプトでエージェントの終了判断を歪め、計算を無制限に継続させる攻撃手法が特定されました。

🔮これからどうなる

LLMエージェントの運用コスト増大やサービス停止リスクが高まり、利用者の信頼性にも影響が出そうです。

LLMエージェントは反復的な実行ループでタスクを解決しますが、この自己判断機能が悪用されます。
研究では10種類の攻撃戦略を設計し、8つのLLMエージェントと60のタスクで実証しました。
LoopTrapという自動レッドチームフレームワークも開発され、平均3.57倍、最大25倍のステップ増幅を達成しています。