トランスフォーマーに限界、次世代LLMを担う4つの最新アプローチ

概要

現在のLLMを支えるTransformerアーキテクチャの計算コストとスケーラビリティの限界を打破するため、疎アテンションや状態空間モデルなどの新しい4つのアプローチが台頭している。