制約の劣化：バックエンドコード生成におけるLLMエージェントの脆弱性
LLMエージェントがバックエンドコード生成において、構造的制約が増えると性能が著しく低下する「制約の劣…
LLM
2772件
消費者向けCPUでのLitespark推論：三値ニューラルネットワーク向けカスタムSIMDカーネル
三値ニューラルネットワークの推論を消費者向けCPUで高速化するLitespark-Inferenceが開発されました。
PACZero: 符号量子化による言語モデルのPACプライベートファインチューニング
言語モデルのファインチューニングにおいて、メンバーシップ推論攻撃に強い新しいプライバシー保護手法「P…
RLVRにおける暗黙的な報酬の過学習と低ランクダイナミクスについて
RLVR（検証可能な報酬による強化学習）が訓練データに暗黙的に過学習する現象が発見されました。
連続潜在拡散言語モデル「Cola DLM」
新しい言語モデル「Cola DLM」が、階層的な潜在拡散アプローチでテキスト生成の効率と品質を向上させまし…
グラフマッチングにおける距離忠実なニューラルネットワークの探求
グラフ構造の類似度を測るグラフ編集距離（GED）を、ニューラルネットワークでより正確に推定する研究が発…
DINORANKCLIP：高次ランキング一貫性による視覚言語事前学習のためのDINOv3蒸留と注入
DINORANKCLIPは、CLIPの弱点を克服し、視覚言語モデルの性能を向上させる新しい事前学習フレームワークで…
UniSD：大規模言語モデル向け統合自己蒸留フレームワーク
大規模言語モデル（LLM）の性能を向上させる自己蒸留の統合フレームワーク「UniSD」が提案されました。
アテンションシンクの構造的起源：分散の不一致、スーパーニューロン、次元の不均衡
LLMで初期トークンがアテンションを独占する「アテンションシンク」現象の構造的起源が解明されました。
SignSGDがSGDを上回る条件と理由：L1ノルム下限に基づく理論研究
SignSGDがSGDよりも優れた性能を発揮する条件と理由を理論的に解明しました。
再帰的エージェント最適化：自己複製するAIで複雑なタスクを解決
自己複製しサブタスクを委任する「再帰的エージェント」を強化学習で訓練する手法「RAO」が発表されました…
StraTA：戦略的軌道抽象化によるエージェント型強化学習のインセンティブ化
LLMエージェントの長期的な意思決定能力を向上させる新しい強化学習フレームワーク「StraTA」が発表されま…