概要
TypeSafe AIが発表した、文章生成を行わずに定義済みの選択肢や確率を高速に返す「System One Model」Jevの概要と、活用事例、オープンな類似実装のまとめ。
詳細内容
### Jevの概要と「System One」アプローチ
Jevは、従来のLLMのように1トークンずつ文章を生成するのではなく、プログラムから与えられた選択肢（Choice）、尺度（Score）、真偽（Noul）に対する判断と確率分布を直接返す「賢いif文」のようなモデルです。文章生成とパースのプロセスを省くことで、70〜500msという低遅延かつ低コストな動作を実現しています。
### ユースケースと応用事例
ハルシネーションを構造的に抑制しつつ、高速な意思決定が必要な領域で活用されています。具体例として、要件定義書の多角的レビュー、ロボット（スタックチャン）の感情判断、ブラウザ拡張による意図検索、そしてマリオやVampire Survivorsといったリアルタイム性が求められるゲームの操作エージェントなどが挙げられています。
### オープンな代替実装の広がり
Jev自体はクローズドですが、既存のLLMのロジット（Logits）を利用したり、専用のエンコーダーヘッドを学習させたりすることで同様の機能を実現する「オープンな類似実装」が急速に増えています。LocalJev、System One Lite、Laya、typed-decisionsなど、ローカル実行や特定タスクに特化した多様なプロジェクトが紹介されており、この分野の関心の高さが伺えます。