概要
Cohereは、30BパラメータのMoEアーキテクチャを採用し、Apache 2.0で公開されたエージェント指向の軽量・高速なコーディング特化型モデル「North Mini Code」を発表しました。
詳細内容
Cohereが開発者向けに設計した初のオープンソースモデル「North Mini Code」を公開しました。このモデルはMixture-of-Experts (MoE) アーキテクチャを採用しており、総パラメータ数30Bのうち、推論時にアクティブなのは3Bのみという極めて効率的な設計が特徴です。主なポイントは以下の通りです。1. **高い性能と効率**: 単一のH100 GPU (FP8) で動作可能でありながら、SWE-benchやTerminal Benchなどのベンチマークで同等サイズのモデルを凌駕する性能を示します。2. **エージェント能力への最適化**: コード生成のみならず、サブエージェントのオーケストレーション、システムアーキテクチャの設計、コードレビューなどの自律的タスクに特化しています。3. **開発者の自由度**: Apache 2.0ライセンスにより、オンプレミスやローカル環境での展開が可能です。競合モデルと比較して最大2.8倍のスループットを実現しており、コスト効率と開発速度の向上に寄与します。256Kのロングコンテキストにも対応しています。