AWS、プロンプトキャッシュ機能つき推論サーバー Amazon Bedrock Prompt Caching を公開──入力トークンコストを最大 90% 削減
Amazon Bedrock の Converse API にキャッシュ制御機能が統合され、同一の長文脈やツール定義を再利用するワークフローにおいて初回応答レイテンシ（TTFT）とコストを大幅に抑制可能になった。
リリース: 2026-09-15 · 読了 3 分記事の要約
1. 核心（What）
- Amazon Bedrock は、繰り返し送信される文脈情報を保持し計算をスキップするプロンプトキャッシュ機能をリリースした。
- メッセージ内容、システムプロンプト、ツール定義、混合 TTL、テナント分離など 6 つの実装シナリオが公開されている。
- キャッシュヒット時には、モデルの変更や品質低下なしに TTFT（Time-to-First-Token）の短縮と入力トークン費用の大幅削減を実現する。
- Anthropic Claude シリーズや Amazon Nova など対応モデルファミリー全体で統一された Converse API 構文を提供する。
2. 影響（Why）
- API コストとレイテンシの同時最適化: 50 回のユーザー質問に同一の 1 万トークン文脈を添付するようなエージェント処理において、重複するトークン処理を省きコストを 90% 削減できる。
- 国内エンタープライズ RAG の収益性改善: 大規模な法務文書やコードベースを毎回全読込していた国内の文書検索 SaaS は、運用コストを劇的に下げて利益率を確保できる。
3. 根拠・詳細（How）
- Converse API によるキャッシュ制御機構: リクエスト内の静的コンテンツと動的質問の間に `cachePoint` マーカーを挿入し、プレフィックスの一致を判定してキャッシュヒット時はモデル側で再計算をバイパスする。
- モデルごとのトークン閾値と TTL 設定: Anthropic Claude Sonnet 4.5 では 1,024 トークン以上のチェックポイントが必須となり、デフォルト 5 分から最大 1 時間までの TTL を指定可能。
4. 展望・課題（Next）
- 対応モデルとリージョンの拡大: クロスリージョン推論プロファイルを用いた際のキャッシュ書き込み頻度の変動に注意しつつ、対応モデルの追加を追従する必要がある。