mistral.rs v0.8.10 リリース：ローカルモデルで OpenAI 互換の Agent Skills を利用可能に

概要

Rust製推論エンジン mistral.rs が v0.8.10 にアップデートされ、OpenAI 互換の /v1/skills エンドポイントを介したローカル LLM でのエージェント機能に対応しました。

詳細内容

Rustで実装された高速な LLM 推論ライブラリである `mistral.rs` の最新バージョン v0.8.10 が公開されました。今回のアップデートの目玉は、OpenAI 互換の `/v1/skills` エンドポイントのサポートです。これにより、従来はクローズドなモデルに限定されがちだった「Agent Skills（エージェント・スキル）」機能を、プライバシーを確保したローカル環境のオープンモデル（Gemma、Llama等）で実行可能になります。また、ファイルの入出力を伴う `/v1/files` や `input_file` パラメータにも対応し、モデルへのファイル添付や、モデルが生成したファイルの受け取りが容易になりました。NVIDIA CUDA、Apple Silicon、CPU 向けのプリビルド・バイナリも提供が開始され、ワンライナーで環境構築ができるなど、導入のハードルも大幅に下がっています。

元記事を読む他のサマリーを見る