RSAT：構造化された帰属が小型言語モデルを忠実な表推論器にする
RSAT: Structured Attribution Makes Small Language Models Faithful Table Reasoners
記事のポイント
📰ニュース
RSATは、小型言語モデルが表の質問に対して、根拠となるセルを引用しながら段階的な推論を生成する手法です。
🔍注目ポイント
NLIベースの忠実性報酬と引用の有効性を組み合わせた最適化により、小型モデルの推論の信頼性を大幅に向上させます。
🔮これからどうなる
ユーザーはAIの推論過程を検証できるようになり、AIの信頼性が向上し、ビジネスでのデータ分析活用が促進されます。
RSATは、検証済みの推論トレースから構造化されたJSON出力形式を学習するSFTフェーズと、NLIベースの忠実性、引用の有効性、簡潔性に基づいた複合報酬で最適化するGRPOフェーズの2段階で構成されます。
Qwen 2.5とLlama 3の複数のモデルで、RSATはSFT単独と比較して忠実性を3.7倍向上させ、引用の有効性はほぼ完璧な水準に達しました。
事後的な帰属付与では形式成功率が低く、推論に帰属を統合することの重要性が示されました。
Qwen 2.5とLlama 3の複数のモデルで、RSATはSFT単独と比較して忠実性を3.7倍向上させ、引用の有効性はほぼ完璧な水準に達しました。
事後的な帰属付与では形式成功率が低く、推論に帰属を統合することの重要性が示されました。
小型言語モデルが表データから根拠を明示して推論できるようになるのは画期的ですね。これにより、AIの回答に対する信頼性が高まり、データ分析業務での活用が広がりそうです。