掲載済み (2026-09-26号)
095 145文字 • 1分

Laya-MLX: Apple Silicon向けネイティブMLXランタイムによる高速な型定義済み意思決定モデル

原題: GitHub - mizorewww/laya-mlx: Native MLX runtime for Laya typed decision models — 7–14 ms short decisions on M3 Max. No text generation, PyTorch, or cloud API.

英語
github.com/mizorewww

掲載情報

2026年9月26日土曜日号 未掲載

概要

Apple SiliconのMLXを活用し、生成AIではなく分類やスコアリングに特化した意思決定モデルをM3 Max上で最短7msという超低遅延で実行できるネイティブランタイム。

詳細内容

laya-mlxは、Convai Innovationsが提供する意思決定モデル「Laya」をApple Silicon環境（macOS）で最適に動作させるための、MLXベースのネイティブランタイムです。本ツールは従来のLLMのような逐次的なテキスト生成（Autoregressive decoding）を行わず、双方向エンコーダ（ModernBERTなど）と意思決定専用のヘッドを用いることで、テキストの分類、スコアリング、真偽値判定といった「型定義された意思決定（Typed Decisions）」を、M3 Max上で7ms〜14msという極めて低いレイテンシで処理します。PyTorchやTransformers、クラウドAPIを一切必要とせず、1GB以下のメモリ消費で完全にローカルで動作するのが特徴です。Python APIおよびCLIが提供されており、スネークゲームの自動操作デモなど、リアルタイム性が求められる用途への適用が示されています。
元記事を読む 他のサマリーを見る