Deepgram、推論サーバー拡張メトリクスを Amazon SageMaker AI に統合──CloudWatch 経由の課金突合と GPU 監視を実現
ネットワーク分離された AWS Marketplace 環境において、エージェントやサイドカーなしでカスタムメトリクスを CloudWatch へ出力し、AWS 請求金額と実トラフィックの突合を可能にする。
リリース: 2026-08-27 · 読了 3 分記事の要約
1. 核心（What）
- Deepgram は Amazon SageMaker AI デプロイ向けに、利用量・課金メトリクスを CloudWatch へ直接出力する「Deepgram Enhanced Metrics」の提供を開始した。
- AWS Marketplace のメータリング課金と同一の ConsumedUnits 値を用いた Namespace「Deepgram/SageMakerInference」により、AWS 請求金額と実トラフィックの精確な突合が可能になった。
- API サーバー側からはモデル層や機能別（ダイアライゼーション等）のトラフィックを破棄せず集計する「Deepgram/SelfHosted」名前空間のメトリクスがデフォルトで出力される。
- SageMaker AI の詳細観測性を有効にすることで、Prometheus および OpenTelemetry を介したコンテナ単位のメトリクスと GPU 稼働率の取得が実現した。
2. 影響（Why）
- ブラックボックスだったコンテナ内部の可視化: セルフホスト環境の課題であった「どの機能にコストがかかっているか」の不透明さを解消し、実トラフィックに基づいた適切な容量計画とコスト配賦を可能にする。
- 国内エンタープライズの監査・コスト管理への直結: 国内の音声データ処理システムを手がける開発チームは、ネットワーク分離を死守しながら監査可能なメトリクスを CloudWatch に集約できるため、セキュリティ要件と運用の効率性を両立できる。
3. 根拠・詳細（How）
- CloudWatch EMF レコードによるログ経由の転送: Deepgram コンテナが CloudWatch Embedded Metric Format (EMF) レコードを標準出力（stdout）へ書き出し、SageMaker AI の既存ログパスを介することで、ネットワーク分離を維持したまま追加エージェントなしでメトリクスを抽出する。
- Prometheus と OpenTelemetry による GPU 監視: SageMaker AI 詳細観測性が各インスタンス上の AWS マネージド OpenTelemetry Collector を通じて Prometheus メトリクスエンドポイントをスクレイピングし、engine_active_requests との比較による正確なスケーリング判断を提供する。
4. 展望・課題（Next）
- 監視設定と環境変数の制御: デフォルトで有効な利用量ストリームは環境変数（DEEPGRAM_API_01: emf.enabled=false）で無効化可能だが、課金ストリームはメータリング機構の一部として常時稼働する。