Conceal, Reconstruct, Jailbreak: Exploiting the Reconstruction-Concealment Tradeoff in MLLMs
マルチモーダルLLMの安全機構を回避する新しいジェイルブレイク攻撃手法が提案されました。
AI倫理
4191件
Evaluating Explainability in Safety-Critical ATR Systems: Limitations of Post-Hoc Methods and Paths Toward Robust XAI
安全性が重要な自動目標認識（ATR）システムにおける説明可能なAI（XAI）の限界が指摘されました。
ICU-Bench:Benchmarking Continual Unlearning in Multimodal Large Language Models
マルチモーダルLLMの継続的なアンラーニングを評価する新ベンチマーク「ICU-Bench」が発表されました。
From Coordinate Matching to Structural Alignment: Rethinking Prototype Alignment in Heterogeneous Federated Learning
異種混合型連合学習において、プロトタイプアライメントの新しい手法「構造アライメント」が提案されまし…
Pathways to AGI
現在の生成AI開発が社会経済状況と密接に結びついていること、およびAGIの概念的・定義的問題点を批判的に…
BehaviorGuard: Online Backdoor Defense for Deep Reinforcement Learning
深層強化学習におけるバックドア攻撃をオンラインで防御する新手法「BehaviorGuard」が発表されました。
Safety Certification is Classification
不確実な動的システムの安全性を、新しいカーネル埋め込みフレームワークで直接認証する研究が発表されま…
Beyond Accuracy: Policy Invariance as a Reliability Test for LLM Safety Judges
LLMによる安全評価の信頼性を測る「ポリシー不変性」という新たな評価基準が提案されました。
Price of Fairness in Short-Term and Long-Term Algorithmic Selections
アルゴリズムの短期・長期的な公平性と効用のトレードオフを研究する論文が発表されました。
Prediction and Empowerment: A Theory of Agency through Bridge Interfaces
部分観測下でのエージェントの行動原理を「ブリッジインターフェース」理論で分析する研究が発表されまし…
Debiased Multimodal Personality Understanding through Dual Causal Intervention
AIが動画から人物の性格を理解する際のバイアスを低減する新手法が開発されました。
Automated alignment is harder than you think
AIによるAIアライメント研究の自動化が、意図せず危険なAIを導入するリスクを指摘する論文が発表されまし…