2026年7月31日 (金)

今日の主軸は推論コストの再定義です。価格を下げた新モデルとクラウド側の対応が同時に並びました。要点だけ手短に見ていきます。

アマゾン ウェブ サービス が、オープンAI の最新モデル、ジーピーティー ファイブ ポイント シックス を アマゾン ベッドロック で一般公開しました。明示的なプロンプトキャッシュにより、キャッシュ済みの入力トークンを 九十 パーセント 割引で利用できます。ここでいうプロンプトキャッシュは、過去の入力を再利用して計算量を省く仕組みです。入力コストが下がることで、長い文脈を扱うエージェントの運用費を大きく抑えられます。チームでは定型的なプロンプトの設計を見直す具体的なきっかけになります。まず自社の Bedrock 利用環境におけるキャッシュの適用状況を確認してください。対象となるプレフィックスの長さを整えると、導入効果を最大化できます。

オープンAI が、ジーピーティー ファイブ ポイント シックス ルナ の エーピーアイ 料金を 八十 パーセント 引き下げました。百万トークンあたりの価格を大幅に改定し、コストを圧縮しています。ここでいう価格改定は、低価格帯のモデル提供を通じて利用量を増やす施策です。エージェント型ワークフローの単体コストが下がり、大規模な処理を回しやすくなります。コストの壁で断念していた自動化の検証を進められる状況に変わります。まず自社の月間トークン消費量とモデルの切り替え可否を確認してください。影響が大きいタスクから順に適用すると、費用対効果を素早く高められます。

アンスロピック が、クロード の エーピーアイ に ストラクチャード アウトプット などの新機能を追加しました。出力フォーマットの保証と、長文脈の圧縮機能を同時に導入しています。ここでいう出力保証は、指定したスキーマ通りのジェイソンを確実に戻す仕組みです。パースエラーを防ぐことで、後続の処理で発生していた例外処理や再送の手間をなくせます。開発現場では、API 連携部分のコードをシンプルに書き換える作業が発生します。まず自社のアプリケーションで JSON のパース失敗が起きている箇所を確認してください。新しい出力保証に切り替えると、エラーハンドリングの保守を大幅に減らせます。

詳細は元記事を確認し、まずは自社の環境で試してください。