概要
https://tech-blog.abeja.asia/entry/vlm-ocr-202507
詳細内容
## H200 GPU x 8基で Qwen2.5-VL-72B-Instruct を使った OCR を試してみる
https://tech-blog.abeja.asia/entry/vlm-ocr-202507
ABEJAがH200 GPU 8基を使いQwen2.5-VL-72B-InstructによるOCR性能を検証し、複雑なレイアウトにおける課題とプロンプトエンジニアリングの重要性を報告しました。
**Content Type**: Research & Analysis
**Scores**: Signal:4/5 | Depth:4/5 | Unique:3/5 | Practical:4/5 | Anti-Hype:4/5
**Main Journal**: 76/100 | **Annex Potential**: 74/100 | **Overall**: 76/100
**Topics**: [[VLM, OCR, GPU Computing, Prompt Engineering, Model Evaluation]]
大規模なVLM（Visual Language Model）を実務で活用する上で、どのような環境構築と性能検証が求められるか、本記事は具体的な事例を提供します。ABEJAは、ハイレゾの「GPUSOROBAN」が提供するH200 GPU 8基搭載のシングルノードサーバ上で、Qwen2.5-VL-72B-Instructモデルを用いたOCR（光学文字認識）の性能検証を実施しました。
ウェブアプリケーションエンジニアにとって重要なのは、高機能VLMを実運用に乗せる際の具体的な手法と課題です。本検証では、vLLMを活用した推論環境の構築プロセスや、GPUメモリ使用率、バッチ処理による推論速度の最適化といった技術的詳細が共有されています。特に、float16とbfloat16の選択やflash-attnの導入など、高性能モデルを効率的に動かすための実践的な知見は、自社サービスでAI機能を実装する際に役立ちます。
OCRの結果としては、通常の文書においては高い精度でテキスト抽出が可能でした。しかし、「なぜ重要か」という点では、複雑なレイアウトの文書（例: スライド、パンフレット、フローチャート）や数式を含む画像では、意図した読み順にならない、あるいは表現形式が崩れるといった課題が浮き彫りになりました。これは、単にテキストを抽出するだけでなく、その構造や文脈を正確に保持する難しさを示唆しています。
この課題に対し、記事ではプロンプトエンジニアリングが非常に重要な役割を果たすことを強調しています。例えば、Markdown形式での出力指示や、複雑なレイアウトにおけるテキスト連結の具体的な指示によって、OCR品質が大きく改善されることが示されました。これは、VLMを使ったデータ抽出において、モデルの能力を最大限に引き出すためには、いかに適切に「対話」するかが鍵となることを示しています。将来的には、PDFからのデータ抽出やLLM学習用データ生成といった用途への応用が期待される中、こうした実践的な検証は、開発者が現実世界でVLMを導入する際の貴重な指針となるでしょう。