計画はどこに？軽量な機械的介入で言語モデルの潜在的計画を特定する
Where's the Plan? Locating Latent Planning in Language Models with Lightweight Mechanistic Interventions
記事のポイント
📰ニュース
言語モデルが将来のトークンを計画する内部表現をどこで形成し、それが生成を因果的に駆動するかを研究しました。
🔍注目ポイント
ライミングカプレットの補完タスクで、Gemma-3-27Bのみが将来の韻情報を因果的に利用し、その情報が生成の途中で引き継がれることを特定しました。
🔮これからどうなる
言語モデルの内部動作の理解が深まり、より予測可能で制御可能なAIの開発に貢献する可能性があります。
Qwen3、Gemma-3、Llama-3の複数のスケールで線形プロービングとアクティベーションパッチングを適用しました。
プロービングにより、将来の韻情報が線形にデコード可能であることが示されましたが、因果的に利用していたのはGemma-3-27Bのみでした。
Gemma-3-27Bでは、韻情報が約30層目で韻語から行境界へと因果的な駆動が移行する「ハンドオフ」が確認されました。
プロービングにより、将来の韻情報が線形にデコード可能であることが示されましたが、因果的に利用していたのはGemma-3-27Bのみでした。
Gemma-3-27Bでは、韻情報が約30層目で韻語から行境界へと因果的な駆動が移行する「ハンドオフ」が確認されました。
言語モデルがどうやって未来を「計画」しているのか、その内部メカニズムを解明する重要な一歩ですね。Gemma-3-27Bのユニークな挙動は、今後のモデル設計に大きなヒントを与えそうです。