概要
OllamaがAppleのMLXフレームワークを統合し、Apple Silicon（特にM5チップ）上での推論速度を大幅に向上させ、NVFP4形式のサポートやキャッシュの最適化を実現しました。
詳細内容
Ollama 0.19のプレビュー版において、Appleの機械学習フレームワーク「MLX」の統合が発表されました。これにより、Apple Siliconのユニファイドメモリ・アーキテクチャを最大限に活用可能となり、特にM5/M5 Pro/M5 Maxチップでは新搭載のGPU Neural Acceleratorを通じて、Prefill（プロンプト処理）およびDecode（生成）速度が従来比で約2倍に向上しています。また、NVIDIAの「NVFP4」量子化フォーマットをサポートしたことで、高い推論精度を維持しつつメモリ帯域とストレージ使用量を削減し、商用推論環境とのパリティを確保しました。さらに、コーディングエージェント（Claude Code等）での利用を想定し、会話間でのキャッシュ再利用やインテリジェントなチェックポイント機能が追加され、メモリ効率とレスポンス性が大幅に改善されています。本リリースは、32GB以上のメモリを搭載したMac環境が推奨されています。