大規模言語モデルにおけるツール呼び出しの線形可読性と操作性
Tool Calling is Linearly Readable and Steerable in Language Models
記事のポイント
📰ニュース
LLMが選択するツールがモデル内部で線形に読み取り可能かつ操作可能であることが判明しました。
🔍注目ポイント
モデル内部の特定のアクティベーションを操作することで、LLMが選択するツールを77〜100%の精度で切り替えられます。
🔮これからどうなる
LLMエージェントの誤ったツール選択を事前に検出し、修正することで、信頼性と安全性が向上します。
Gemma 3やLlama 3.1など12のモデルを調査し、ツール選択がモデルの出力層の特定方向と中間層・後層のアテンションヘッドに集中していることを発見しました。
これにより、ツール選択の内部メカニズムが解明され、事前学習モデルでもツール選択の表現が形成されていることが示唆されています。
これにより、ツール選択の内部メカニズムが解明され、事前学習モデルでもツール選択の表現が形成されていることが示唆されています。
LLMがどのツールを選ぶか、その内部状態を直接操作できるのはすごい発見ですね。これによって、AIエージェントが間違ったメールを送るような事故を未然に防げるようになるかもしれません。