🛠Tools🔥🔥

AWS、推論サーバー構成ツール Amazon SageMaker Inference Components の Multi-AZ 可用性制御機能を公開

Salesforce の Agentforce 基盤導入を支えた SchedulingConfig API による跨 AZ 分散配置とコスト最適化の両立手法を解説。
リリース: 2026-08-28 · 読了 4

記事の要約

1. 核心(What)

  • Salesforce は、Agentforce 基盤の Multi-AZ 可用性(HA)を確保するため Amazon SageMaker Inference Components の新機能を活用した。
  • CreateInferenceComponent API の SchedulingConfig パラメータによって、インスタンスおよび AZ 間でのモデルコピーの配置を細かく制御できるようになった。
  • AvailabilityZoneBalance により AZ 間の不均衡を許容値内で均等に分散させ、MaxImbalance: 0 で厳密な 1 対 1 の AZ 間コピー配置を実現している。
  • ScaleInPolicy と CONSOLIDATION 戦略の組み合わせにより、スケールイン時の自動再バランスとアイドルインスタンスの解放がサポートされる。

2. 影響(Why)

  • コスト削減と可用性の背反を解消: 単一 GPU への複数モデル共存によるコスト 1/8 達成と、単一 AZ 障害に耐える 2-AZ コンプライアンス基準の両立が困難だった課題を、API レベルの配置制御で直接解決する。
  • 国内エンタープライズの要件適合: [国内 AI プラットフォーム運用企業] のような厳格な可用性 SLA を求められる事業者にとって、GPU コストを抑えつつマルチ AZ 冗長化を標準機能で組み込めるメリットが大きい。

3. 根拠・詳細(How)

  • SchedulingConfig API による配置制御: CreateInferenceComponent API の SchedulingConfig 内で AvailabilityZoneBalance と PlacementStrategy(SPREAD / BINPACK)を指定し、MaxImbalance で AZ 間の最大許容コピー数差を制限する。
  • SageMaker AI Insights によるメトリクス監視: AZ skew や IC コピー数、再バランスイベントなどのメトリクスを Amazon CloudWatch および SageMaker AI Insights ダッシュボードで追跡し、配置ドリフトを検知する。

4. 展望・課題(Next)

  • 詳細なオブザーバビリティの展開: AWS は、インファレンスコンポーネントベースのエンドポイントにおける監視体制に関する詳細なウォークスルーを今後のブログ記事で公開する予定である。