LLMにおける感情の円環幾何学と多行動制御：感情価-覚醒度サブスペースの発見
Valence-Arousal Subspace in LLMs: Circular Emotion Geometry and Multi-Behavioral Control
記事のポイント
📰ニュース
LLMの感情ベクトルが、感情価と覚醒度からなる2次元の円環幾何学を持つサブスペースに組織されていることが示されました。
🔍注目ポイント
感情価-覚醒度軸に沿ってLLMを操作することで、生成テキストの感情特性を単調に制御し、複数の行動（拒否や追従）を双方向に制御できます。
🔮これからどうなる
LLMの感情表現と行動をより精密に制御できるようになり、ユーザー体験の向上や、より人間らしい対話システムの開発に繋がります。
研究では、主成分分解とリッジ回帰を用いて、44,728語の人間の感情評価と相関する感情価-覚醒度軸を特定しました。
この制御はLlama-3.1-8B、Qwen3-8B、Qwen3-14Bで再現され、拒否や追従といったトークンが感情価-覚醒度空間の異なる領域を占め、その放出確率が感情価-覚醒度制御によって直接変調されることが示唆されています。
この制御はLlama-3.1-8B、Qwen3-8B、Qwen3-14Bで再現され、拒否や追従といったトークンが感情価-覚醒度空間の異なる領域を占め、その放出確率が感情価-覚醒度制御によって直接変調されることが示唆されています。
LLMの感情を数値的に制御できるのはすごいですね。これによって、よりユーザーの感情に寄り添った応答や、特定の目的を持った対話が実現しそうです。