AWS、推論サーバー構成ツール Amazon SageMaker Inference Components の Multi-AZ 可用性制御機能を公開
Salesforce の Agentforce 基盤導入を支えた SchedulingConfig API による跨 AZ 分散配置とコスト最適化の両立手法を解説。
リリース: 2026-08-28 · 読了 4 分記事の要約
1. 核心(What)
- Salesforce は、Agentforce 基盤の Multi-AZ 可用性(HA)を確保するため Amazon SageMaker Inference Components の新機能を活用した。
- CreateInferenceComponent API の SchedulingConfig パラメータによって、インスタンスおよび AZ 間でのモデルコピーの配置を細かく制御できるようになった。
- AvailabilityZoneBalance により AZ 間の不均衡を許容値内で均等に分散させ、MaxImbalance: 0 で厳密な 1 対 1 の AZ 間コピー配置を実現している。
- ScaleInPolicy と CONSOLIDATION 戦略の組み合わせにより、スケールイン時の自動再バランスとアイドルインスタンスの解放がサポートされる。
2. 影響(Why)
- コスト削減と可用性の背反を解消: 単一 GPU への複数モデル共存によるコスト 1/8 達成と、単一 AZ 障害に耐える 2-AZ コンプライアンス基準の両立が困難だった課題を、API レベルの配置制御で直接解決する。
- 国内エンタープライズの要件適合: [国内 AI プラットフォーム運用企業] のような厳格な可用性 SLA を求められる事業者にとって、GPU コストを抑えつつマルチ AZ 冗長化を標準機能で組み込めるメリットが大きい。
3. 根拠・詳細(How)
- SchedulingConfig API による配置制御: CreateInferenceComponent API の SchedulingConfig 内で AvailabilityZoneBalance と PlacementStrategy(SPREAD / BINPACK)を指定し、MaxImbalance で AZ 間の最大許容コピー数差を制限する。
- SageMaker AI Insights によるメトリクス監視: AZ skew や IC コピー数、再バランスイベントなどのメトリクスを Amazon CloudWatch および SageMaker AI Insights ダッシュボードで追跡し、配置ドリフトを検知する。
4. 展望・課題(Next)
- 詳細なオブザーバビリティの展開: AWS は、インファレンスコンポーネントベースのエンドポイントにおける監視体制に関する詳細なウォークスルーを今後のブログ記事で公開する予定である。