概要
Qwen3.8-27B-FP8は、思考プロセスを明示する推論能力と高度な視覚理解を兼ね備えた270億パラメータのオープンモデルで、FP8量子化により効率的なデプロイを実現しています。
詳細内容
Alibaba Qwenチームが公開した「Qwen3.8-27B-FP8」は、コーディング、エージェントタスク、および視覚・動画理解において大幅な進化を遂げた最新モデルです。
### 主な特徴と技術的詳細
- **思考モード（Thinking Mode）の搭載**: デフォルトで推論プロセスを出力する機能を備えており、`reasoning_effort`パラメータによって推論の深さを調整可能です。これにより、複雑なマルチステップのタスクにおいて高い信頼性を発揮します。
- **ネイティブな視覚理解**: 画像だけでなく、時間単位の動画やSTEM分野の図表、文書の解析に対応しています。
- **効率的なFP8量子化**: ブロックサイズ128の微細なFP8量子化を採用。オリジナルのBF16モデルと遜色ない性能を維持しながら、メモリ消費を抑え、vLLMやSGLangなどの推論エンジンで即座に利用可能です。
- **長大コンテキスト対応**: 標準で262,144トークン、YaRN技術を活用することで最大100万トークンまでの処理をサポートします。
- **先進的なアーキテクチャ**: Gated DeltaNetやGated Attention、Multi-Token Prediction（MTP）を組み合わせた設計により、高い推論効率と精度を両立しています。
ベンチマークでは、コーディング（SWE-bench）やエージェントタスク（OSWorld）において、同クラスのモデルや一部の巨大クローズドモデルを凌駕するスコアを記録しています。