概要
RTLからコンパイラ、プロファイラまでを統合した、AIエージェント設計によるKintex-7 FPGA対応のオープンソースAIアクセラレータ。
詳細内容
openTPUは、ハードウェア設計（SystemVerilog RTL）、命令セット（ISA）、ビット完全シミュレータ、カーネル言語/コンパイラ、プロファイラ、およびホストソフトウェアを一つのモノリポジトリに集約した野心的なプロジェクトです。AIエージェントがどこまでハードウェア設計を担えるか、そして自らの推論を走らせるチップを構築できるかという問いから誕生しました。
主な特徴は以下の通りです：
- **多様なモデルサポート:** Qwen3.5、Gemma 4、Phi-4-mini、SmolLM3など最新のLLMを実行可能。MoE（混合専門家）モデルのオフロード計算にも対応しています。
- **高いハードウェア効率:** Kintex-7 FPGA上でDRAM帯域幅の最大94%を利用する高いスループットを実現。int8および4ビット量子化をサポートします。
- **包括的な開発環境:** 「Lens」と呼ばれるプロファイラにより、ブラウザ上で命令単位の実行サイクルやボトルネックを視覚化可能。また、OpenAI互換のAPIサーバー機能も提供されています。
- **学習への適性:** Pythonからハードウェアの配線レベルまで一貫して読み解けるよう設計されており、AIアクセラレータの仕組みを学ぶリソースとしても極めて優秀です。