AIエージェント時代のPlatform Engineering：LLM基盤とプロダクトの責務境界線

概要

AIエージェント開発において、プラットフォームが「統制（守り）」と「評価（攻め）」を担い、プロダクトが「ドメインロジック」を担うという、試行錯誤に基づく最適な責務境界の設計指針。

詳細内容

株式会社ログラスにおける8ヶ月間のLLM基盤開発の変遷をまとめた資料です。AIエージェント時代におけるPlatform Engineeringの役割を「ドメインは任せ、統制を担い、評価を共創する」ことと定義しています。主な構成要素として、APIキー管理やコスト制限を行う『LLM Gateway』、ツールの認可と監査を担う『MCP Gateway』、そしてLangfuseを活用した『Eval（評価）基盤』の3軸を提示しています。当初はエージェントの実行機能まで基盤側で抱え込みましたが、ドメイン知識の密結合や技術の未成熟さを理由に、実行系はプロダクト側に返却するという意思決定プロセスが詳細に記されています。不確実性の高いAI領域において、あえて疎結合やプロキシといった「枯れた技術」を採用し、変化に対応し続けるアーキテクチャの重要性を説いています。

元記事を読む他のサマリーを見る