Cohere、推論プラットフォームのセキュリティ強化ツール Model Vault Encrypted を公開──クラウド管理者からプロンプトを隠蔽
Intel TDX と NVIDIA GPU の TEE を用いた confidential computing により、インフラ管理者からプロンプトやモデル重みを隔離する。
リリース: 2026-09-16 · 読了 3 分記事の要約
1. 核心（What）
- Cohere は Model Vault に Encrypted モードを追加し、プロンプト、応答、モデル重み、中間活性化をハードウェアベースの TEE 内で保護する仕組みを公開した。
- Intel TDX などの confidential VM 技術と、confidential-computing モードで動作する NVIDIA GPU を組み合わせている。
- クライアントはリモートアテスト（検証）トークンを用いて、デプロイ環境の正当性を確認した後にのみリクエストを送信する。
- OHTTP プロキシ（スタンドアロンまたは Python パッケージ）を使用することで、既存のアプリケーションコードを変更せずに実装可能。
2. 影響（Why）
- インフラ管理者の特権アクセスからの完全なデータ隔離: 通常、メモリ上の処理データはハイパーバイザーやクラウド管理者から閲覧可能だが、TEE によるハードウェア暗号化により運用者すらデータにアクセスできない仕組みを実現している。
- 医療・金融など規制業界でのマネージド LLM 活用: データ主権やプライバシーに関する法的要件が厳しい領域において、自社インフラ構築を避けてマネージドサービスを利用するための現実的な選択肢を提供する。
3. 根拠・詳細（How）
- SPDM を用いた GPU と CPU 間の暗号化セッション: NVIDIA データセンター GPU と confidential VM 間を SPDM（Security Protocol and Data Model）ベースのセッションで認証し、プロセッサ間の通信路を暗号化。
- OHTTP プロキシによるクライアント側の検証と暗号化: クライアント側で動作する OHTTP プロキシが、CPU と GPU の信頼チェーン、デバッグ機能の無効化、ファームウェア測定値を検証してからリクエストを暗号化して送信。
4. 展望・課題（Next）
- 限定ベータからの適用範囲拡大と一般提供の計画: 初期段階では限定的なモデルと対応 NVIDIA GPU に絞った早期アクセスプログラムとして展開され、一般提供日や価格体系、対応モデルの全容は今後公開予定。