掲載済み (2026-10-03号)
147 159文字 • 1分

Jeff: 0.8Bの軽量モデルでミリ秒単位の意思決定を実現するオープンな「システム1」モデル

原題: GitHub - firelex/jeff: Millisecond decisions, any domain: a 0.8B open "System 1" model that picks between your options with calibrated probabilities. One base, swappable LoRA adapters, on your own hardware.

英語

掲載情報

2026年10月3日土曜日号 メインジャーナル掲載

概要

0.8Bパラメータの軽量LLMを用い、LoRAアダプタの切り替えによって多様な分類・意思決定タスクをミリ秒単位で実行できる「System 1」思考モデルが登場しました。

詳細内容

Jeffは、迅速な意思決定(System 1思考)に特化した0.8BパラメータのオープンソースLLMです。一般的なLLMのようにテキストを生成するのではなく、与えられた選択肢から最適なものを単一のフォワードパスで確率的に算出します。LoRAアダプタを活用することで、ガードレールの適用、トリアージ、ツール選択、グラウンディング確認といった特定のタスクにおいて、Qwen 27Bのような大型モデルの約38倍の速度かつ高精度な判定が可能です。不確実な場合のみ大型モデル(System 2)に処理を渡すルーティング構成をとることで、システム全体のコストとレイテンシを大幅に削減できます。Apple M4 MaxやNVIDIA RTX 6000などのローカル環境での動作が最適化されており、チェスやDoomのプレイといったリアルタイム性が求められる用途でも性能が実証されています。