記憶の呪い：LLMエージェントにおける記憶拡張が協力意図を損なう仕組み
The Memory Curse: How Expanded Recall Erodes Cooperative Intent in LLM Agents
記事のポイント
📰ニュース
LLMエージェントの記憶（コンテキストウィンドウ）を拡張すると、複数エージェント間の協力行動が低下する現象が発見されました。
🔍注目ポイント
記憶拡張が協力意図を損なうのは、将来を見据える意図が低下するためであり、記憶の内容が原因で、思考プロセスがこれを増幅させます。
🔮これからどうなる
LLMを多人数で協力するシステムに導入する際、記憶の扱いや設計を慎重に行わないと、期待通りの成果が得られない可能性があります。
7つのLLMと4つのゲームで500ラウンド以上実験した結果、28設定中18設定で記憶拡張が協力行動を悪化させました。
この現象は「記憶の呪い」と名付けられ、将来を見据える意図の低下が原因であることが、思考プロセスの分析やファインチューニングで判明しました。
記憶の内容を操作すると協力が回復し、思考の連鎖（Chain-of-Thought）がこの現象を増幅させることも示されています。
この現象は「記憶の呪い」と名付けられ、将来を見据える意図の低下が原因であることが、思考プロセスの分析やファインチューニングで判明しました。
記憶の内容を操作すると協力が回復し、思考の連鎖（Chain-of-Thought）がこの現象を増幅させることも示されています。
LLMのコンテキストウィンドウ拡張は一見良いことばかりと思われがちですが、多人数での協力タスクでは逆効果になる可能性があるのですね。今後のAI開発で、記憶の設計が協調性にとって非常に重要になりそうです。