OpenFugu×ローカルLLM群でマルチAI駆動を検証① Multi-Agent System as a Model の再現

概要

Sakana AIの「Fugu」の概念をOpenFuguで再現し、極小の線形ヘッドと進化戦略を用いることで、ローカル環境でもAIエージェントの適切な「采配」を高速に学習可能であることを実証した。

詳細内容

Sakana AIが提唱する「Multi-Agent System as a Model（Fugu）」の概念を、公開再実装の「OpenFugu」とOllama上のローカルLLM群を用いて検証した記録である。検証では、0.6BのバックボーンLLMの隠れ状態に対してわずか5,120パラメータの線形ヘッドを付与し、進化戦略（sep-CMA-ES）を用いることで、GPU不要かつCPUで2秒という極めて短時間の訓練を実現した。さらに、「英語はこのモデル、日本語はこのモデル」といった使い分けを、明示的なラベルなしに精度報酬のみから自律的に学習することに成功している。未見のheld-outデータに対しても訓練セットと同等の精度を維持しており、モデルの丸暗記ではない「采配の学習」が成立していることが確認された。一方で、精度のみを報酬に設定すると最終的に「常に最強のモデルを選択する」という解に収束してしまうため、今後はレイテンシやコストを報酬系に組み込んだ「使い分け」の最適化が焦点になるとしている。

元記事を読む他のサマリーを見る