PragLocker: Protecting Agent Intellectual Property in Untrusted Deployments via Non-Portable Prompts
LLMエージェントのプロンプトを不正利用から守る新技術「PragLocker」が発表されました。
セキュリティ
670件
Quantum Kernels for Audio Deepfake Detection Using Spectrogram Patch Features
量子カーネルを用いた音声ディープフェイク検出手法「Q-Patch」が提案されました。
マルチモーダル推薦システムにおける回避型プロモーション攻撃に対する協調型敵対的学習
マルチモーダル推薦システムへの回避型プロモーション攻撃に対し、協調型敵対的学習で防御する新手法が提…
LLMが指定するライブラリバージョンの大規模測定研究：正しいコードと脆弱な依存関係
LLMが生成するPythonコードに含まれるライブラリのバージョンに、多くの脆弱性や互換性の問題があることが…
研究成果物のセキュリティに関する考察
研究成果物には潜在的なセキュリティリスクが含まれており、その評価手法が提案されました。
Patch2Vuln: Linuxディストリビューションのバイナリパッチから脆弱性をエージェントが再構築
AIエージェントがLinuxバイナリパッチから脆弱性のセキュリティ上の意味を再構築する研究が発表されました…
DeTrigger：連合学習におけるバックドア攻撃緩和のための勾配中心アプローチ
連合学習環境でモデルに仕込まれたバックドア攻撃を、勾配分析を用いて効率的に検出し緩和する新手法「DeT…
偽データ注入による確率的バンディットへの実践的な敵対的攻撃
確率的バンディットアルゴリズムに対し、偽のフィードバックデータを注入する新しい敵対的攻撃手法が提案…
Firefoxの脆弱性271件をClaude Mythos Previewで発見したシステムについてMozillaが解説
MozillaがClaude Mythos Previewを活用し、Firefoxの脆弱性271件を発見したシステムを解説しました。
コロンビア大学とスタンフォード大学、サイバーインシデントによりオンライン障害を報告
米国各地の大学で、オンライン学習プラットフォームCanvasを標的としたサイバーインシデントにより、広範…
Microsoftの“ストーカーAI” 暗号化は鉄壁のはずが、データはダダ漏れ？：878th Lap
MicrosoftのAI機能に、データ暗号化は強固でも通信プロセスに脆弱性があることが指摘されました。
Mozilla、AIツール「Mythos」が発見した271件の脆弱性に「誤検知がほぼない」と発表
Mozillaは、AIを活用したバグ発見ツール「Mythos」が271件の脆弱性を発見し、誤検知がほぼないと発表しま…