CRAFT: Forgetting-Aware Intervention-Based Adaptation for Continual Learning
記事のポイント
📰ニュース
LLMの継続学習における壊滅的忘却を防ぐ新フレームワーク「CRAFT」が提案されました。
🔍注目ポイント
モデル重みを更新せず、隠れ表現への低ランク介入を学習し、KLダイバージェンスで忘却を制御します。
🔮これからどうなる
LLMが新しい知識を効率的に獲得しつつ、既存の知識を保持できるようになり、より賢いAIが実現します。
CRAFTは、タスクを類似タスク群にルーティングし、KLダイバージェンスを用いて忘却を制御しながらモデルを微調整します。
その後、更新された介入を共有表現に統合します。
この手法は、複数のベンチマークでLoRAベースの手法よりも優れた性能と忘却抑制を示し、タスク順序にも頑健です。
その後、更新された介入を共有表現に統合します。
この手法は、複数のベンチマークでLoRAベースの手法よりも優れた性能と忘却抑制を示し、タスク順序にも頑健です。
このCRAFTは、LLMが新しい情報を学び続ける際の「忘れる問題」を解決する重要な一歩になりそうです。私たちの生活で使うAIアシスタントの賢さがさらに向上するかもしれませんね。