Chain of Risk: Safety Failures in Large Reasoning Models and Mitigation via Adaptive Multi-Principle Steering
大規模推論モデルの思考過程に潜在する安全上のリスクが明らかになりました。
AI&Tech、もう追いかけなくていい。
30秒で読めるニュースダイジェスト
研究
2280件
Attractor Geometry of Transformer Memory: From Conflict Arbitration to Confident Hallucination
Transformerモデルにおける記憶の競合と幻覚が、隠れ状態空間の「アトラクター幾何学」で説明されました。
DataDignity: Training Data Attribution for Large Language Models
LLMの出力がどの学習データに基づいているかを特定する新手法「DataDignity」が発表されました。
GCCM: Enhancing Generative Graph Prediction via Contrastive Consistency Model
グラフ予測モデルGCCMが、対照学習と一貫性モデルを組み合わせ、既存手法の課題を克服しました。
Saliency-Aware Regularized Quantization Calibration for Large Language Models
LLMの推論効率を高める量子化手法において、汎化性能を向上させる新しいキャリブレーション手法が提案され…
Inference-Time Budget Control for LLM Search Agents
LLM検索エージェントが推論時にツール利用とトークン生成の予算を効率的に制御する新手法が提案されました…
Knowledge-Graph Paths as Intermediate Supervision for Self-Evolving Search Agents
自己進化型検索エージェントが知識グラフパスを中間教師として活用し、性能を向上させました。
Resolving the bias-precision paradox with stochastic causal representation learning for personalized medicine
個別化医療における治療効果予測の精度向上を目指し、バイアスと精度のトレードオフを解決する新AI手法が…
Conceal, Reconstruct, Jailbreak: Exploiting the Reconstruction-Concealment Tradeoff in MLLMs
マルチモーダルLLMの安全機構を回避する新しいジェイルブレイク攻撃手法が提案されました。
Decodable but Not Corrected by Fixed Residual-Stream Linear Steering: Evidence from Medical LLM Failure Regimes
LLMの隠れ状態から線形に検出可能な失敗信号が、その失敗を修正できないことが示されました。
More Is Not Always Better: Cross-Component Interference in LLM Agent Scaffolding
LLMエージェントシステムにおいて、多くのコンポーネントを組み合わせると性能が低下する「交差コンポーネ…
Detecting Time Series Anomalies Like an Expert: A Multi-Agent LLM Framework with Specialized Analyzers
時系列データ異常検知に特化したマルチエージェントLLMフレームワーク「SAGE」が開発されました。