🛠Tools🔥🔥

Vercel、推論サーバー Gemini 3.8 Live を AI Gateway で公開──リアルタイム音声対話と 97 言語に対応

Google の Gemini 3.8 Live と Extended Thinking が Vercel AI Gateway に統合され、AI SDK のリアルタイム API 経由で実装可能になった。
リリース: 2026-09-15 · 読了 2

記事の要約

1. 核心(What)

  • Vercel は Google の音声対話モデル「Gemini 3.8 Live」および「Gemini 3.8 Live Extended Thinking」を AI Gateway に追加した。
  • 両モデルは 97 言語の自動切り替え、視覚的グラウンディング、バックグラウンドでのツール呼び出しに対応する。
  • AI SDK の experimental_realtime API と WebSocket クライアントを使い、数行のコードでセッション初期化と音声ストリーミングを実装できる。
  • Extended Thinking モデルは、音声出力と並行してマルチステップ推論を実行し、対話を中断せずに進行状況を音声で伝達する。

2. 影響(Why)

  • 音声アシスタントの統合コストを削減: リアルタイム音声対話アプリを自社で一から構築する必要がなくなるため、音声アシスタントや対話型サービスのプロトタイプ開発工数を大幅に圧縮できる。
  • 国内音声 SaaS 企業への実装影響: 国内のコンタクトセンターやボイスボット開発を手がける中規模 SaaS 事業者は、自社サーバーでの WebSocket 接続基盤の運用を省略し、AI Gateway 経由で 97 言語対応の音声対話機能を即時組み込める。

3. 根拠・詳細(How)

  • AI SDK 経由の WebSocket 接続: パッケージ @ai-sdk/gateway をインストールし、experimental_realtime.getToken で取得した短期トークンを利用して WebSocket 接続を初期化する。
  • イベント駆動型の音声ストリーミング処理: serializeClientEvent でセッション設定やメッセージ作成イベントを送信し、ws.on('message') でパースした audio-transcript-delta イベントから音声テキストの差分を順次取得する。

4. 展望・課題(Next)

  • モデルプレイグラウンドでの検証: Vercel のモデルプレイグラウンド上で両モデルの応答挙動やツール呼び出しのレイテンシを事前にテスト可能。