MAVEN：段階的認識監査を備えたマルチエージェント検証・精緻化ネットワーク
LLMの推論能力を向上させるため、マルチエージェントによる検証・精緻化フレームワーク「MAVEN」が提案さ…
LLM
2762件
自動短文採点における品質条件付き一致度：中程度の回答での性能低下とタスク適応の影響
自動短文採点において、LLMは完璧な回答と誤った回答では高精度だが、中程度の回答で性能が低下することが…
DRIP-R: 小売分野における実世界のポリシー曖昧性下での意思決定と推論のためのベンチマーク
LLMエージェントが実世界の曖昧なポリシー下で意思決定する能力を評価する新しいベンチマーク「DRIP-R」が…
クロスアテンションとエンコーダー・デコーダー型トランスフォーマーの論理的特性評価
エンコーダー・デコーダー型トランスフォーマーの動作を新しい時相論理で特性評価する研究が発表されまし…
長文コンテキスト推論のためのCPU-GPU並列処理による効率的なハイブリッド疎行列アテンション
長文コンテキスト推論において、CPUとGPUを連携させ、効率的な疎行列アテンションを実現する新手法「Fluxi…
メモリ効率の高いループ型Transformer：ループ型言語モデルにおける計算とメモリの分離
ループ型LLMのメモリ消費を大幅に削減する新アーキテクチャ「MELT」が発表されました。
LLMの幻覚が現実世界に：存在しない引用文献から大規模な証拠
大規模言語モデル（LLM）が生成する幻覚が、科学論文の引用文献に大規模に浸透していることが判明しました…
厳選された合成データは崩壊しない：多元的選好による生成モデル再学習の理論的研究
生成モデルの再学習において、複数の報酬関数に基づく合成データの厳選がモデルの多様性崩壊を防ぐことが…
SOD：小規模言語モデルエージェント向け段階的オンポリシー蒸留
小規模言語モデルエージェントの推論能力を向上させる新しい蒸留フレームワーク「SOD」が開発されました。
EngGPT2-16B-A3B、イタリア語および国際的なオープンソースLLMとの性能比較
イタリアのエンジニアリング社が開発したLLM「EngGPT2-16B-A3B」が、競合モデルと比較評価されました。
損失が揃う時：効率的な事前学習のための勾配ベース複合損失重み付け
複数の損失項を持つモデルの事前学習において、勾配ベースの手法で損失の重みを効率的に調整する新技術が…
POETS: 計算効率の良いポリシーアンサンブルによる不確実性考慮型LLM最適化
POETSは、計算効率の高いポリシーアンサンブルを用いて、不確実性を考慮したLLM最適化フレームワークです。