概要
Krea 2は、多様なスタイルと高い制御性を両立させるため、独自のデータキュレーション、改良型DiTアーキテクチャ、および多段階の強化学習パイプラインを統合した画像生成基盤モデルです。
詳細内容
Krea 2は、既存の画像生成モデルが「特定の洗練されたデフォルトのスタイル」に収束しがちな課題を解決し、クリエイターが多様なスタイルや構図を探索できる「表現のエンジン」として設計されました。
主な技術的特徴は以下の通りです：
1. **アーキテクチャ**: SwiGLU、GQA、gated sigmoid attention、RMSNormを採用した改良型Diffusion Transformer (DiT)を構築。テキストエンコーダにはQwen 3 VLを採用し、レイヤー間特徴集約を行うことで高度な理解を実現しています。
2. **データパイプライン**: プリトレーニングからAI生成画像を完全に排除し、多様性と世界知識を重視したキュレーションを実施。独自のデータ管理システム「krablet」により、大規模な非同期処理を可能にしています。
3. **多段階学習**: プリトレーニング、ミッドトレーニング、SFT、選好最適化（STPO）、およびマルチリワードGRPOスタイルの強化学習（RL）を組み合わせた高度なポストトレーニングを実施しました。
4. **制御システム**: ユーザーの短い入力を詳細な視覚記述に拡張する「プロンプト・エキスパンダー」と、参照画像からスタイルを抽出・混合できる「スタイル・レファレンス・システム」を搭載しています。
また、報告書内ではWekaファイルシステムの活用や、FSDP2を用いた大規模分散学習におけるGPU・InfiniBandのトラブルシューティングなど、インフラ面での実践的な知見も詳細に公開されています。