概要
Google主催の「Tunix Hack」ハッカソンにおいて、開発者コミュニティがGemmaモデルに高度な推論能力（Chain-of-Thought）を低コストで付与するための革新的な手法を公開した。
詳細内容
Google Developers Blogは、軽量LLMであるGemmaに明示的な推論プロセスを学習させたハッカソン「Tunix Hack」の成果を報告しています。参加者はGoogleのポストトレーニングライブラリ「Tunix」とKaggle TPU v5e-8（9時間制限）という制約下で、Gemma-2-2BやGemma-3-1Bを強力な推論モデルへと進化させました。
主な優勝手法は以下の通りです：
- **1位 (G-RaR):** ルーブリックベースの報酬（Gemma-3-12Bを評価者に使用）とGRPOを組み合わせ、構造化された思考プロセスを学習。
- **2位 (Pinocchio-1B):** メモリ効率の高いSimPO（Simple Preference Optimization）とGRPOを採用し、厳格なXMLフォーマットと論理的一貫性を両立。
- **3位 (IDEA-E):** TF-IDF報酬を用いることで、LLMによる評価の遅延を回避しつつ、推論ステップの冗長性を抑制。
この取り組みは、オープンな学習レシピと限られた計算リソースでも、医療や法務などの特定ドメインにおいて高度な推論が可能なモデルを構築できることを実証しています。