概要
Qwen3.5を基盤とし、Jevのアーキテクチャを採用した、ローカルでの訓練と実行が可能な小型意思決定モデルシリーズ。
詳細内容
Kevは、Jevのアーキテクチャに着想を得た、Qwen3.5ベースの小型意思決定モデル群(0.8B、4B、9B)です。従来のチャットモデルとは異なり、Yes/No判断(noul)、多肢選択(choice)、スコアリング(score)といった特定の意思決定タスクに特化しており、TypeSafeのSystem One APIと互換性があります。
主な特徴と機能:
- **効率的な推論**: 独自のアテンション制御により、同一の入力テキスト(State)に対して複数の質問を独立かつ効率的に処理できます。
- **ローカル動作**: CUDA、ROCmに加えてApple Silicon(Mac)での実行をサポートしており、プライバシーと低レイテンシを両立します。
- **カスタマイズ性**: LoRAを用いた少量のデータ(数百例程度)によるファインチューニングが可能で、独自の分類ルールやトーン判定に容易に適応できます。
- **信頼性の可視化**: 出力される確率はキャリブレーションされており、判断の自信度に基づいた自動化の閾値設定が可能です。
既存の汎用LLMではコストや速度が課題となる、サポートチケットのルーティングやコンテンツモデレーション、自動的な重要度判定などのタスクに最適なリソースです。