概要
主要LLMの推論制御パラメータの標準化に対応するため、OpenTelemetryのGenAI用セマンティックコンベンションに推論の深さを記録する新属性を追加した貢献の記録。
詳細内容
### 概要
OpenTelemetryのGenAI向け命名規則（Semantic Conventions）に、LLMリクエスト時の推論の深さを記録する属性 `gen_ai.request.reasoning.level` を追加した開発者による技術解説です。
### 背景と必要性
OpenAIの `reasoning.effort`、Geminiの `thinkingLevel`、Claudeの `effort` など、主要プロバイダーが「モデルがどれだけ深く考えるか」を制御する定性的なパラメータを導入しています。これらは従来のtemperature等とは直交する概念であり、コスト・レイテンシ・品質のトレードオフを制御する重要な要素ですが、OpenTelemetryの標準仕様にはリクエスト側の「要求レベル」を記録する項目が欠落していました。
### コントリビュートでの学び
PR作成の過程で、以下の設計思想が共有されています。
- **拡張性**: 将来のトークンベース制御（budget）等の追加を見据え、`reasoning.level` という階層構造を採用。
- **標準化の動向**: 各社が具体的なトークン数指定ではなく、「low/medium/high」といった抽象的な定性レベルへと収束しているトレンドを反映。
- **オブザーバビリティの向上**: この属性により、事後のレイテンシ調査において「推論の深さ設定」による影響を明確に切り分け可能になります。