Perplexity、埋め込みモデル pplx-embed-v2-context-9b-preview を公開──ベクトルサイズを 1/8 に圧縮しつつ Voyage AI を凌駕
9B パラメータのコンテキスト埋め込みモデルにより、1KB/ベクトルの軽量性を維持しながら Answer recall で voyage-context-4 を 14.4 ポイント上回った。
リリース: 2026-09-30 · 読了 3 分記事の要約
1. 核心（What）
- Perplexity は 9B パラメータのプレビュー版コンテキスト埋め込みモデル pplx-embed-v2-context-9b-preview の重みを公開した
- 文書全体のコンテキストを考慮したレイトチャンキング方式を採用し、各チャンクのベクトルに文書内の他箇所の情報を反映させる
- 教師モデルとしてクエリ対応型圧縮モデルを用いたクエリ認識型トークンスコアリングにより、固定のゴールドチャンクに依存しない学習を実現した
- Matryoshka 学習と量子化対応学習により、ネイティブ int8 出力で 1,024 次元および 2,048 次元のネストされた表現をサポートする
2. 影響（Why）
- RAG ストレージコストの劇的な圧縮: 1M 件以上の文書を扱う大規模社内 RAG 基盤では、ベクトルインデックスのメモリ消費を 1/8 に落とせば、H100/A100 の VRAM 載せ替えやホスティング台数を削減できる。
- 国内ドキュメント検索における優位性: 国内の法務・金融系 SFA/RAG 開発現場（数千件の類似リース契約書などを扱う中規模テック企業）では、単語が重複する文書間での検索精度不足をこのモデルで解消できる可能性がある。
3. 根拠・詳細（How）
- 2段階の損失関数設計: クエリとバッチ内文書の類似度を最大化するドキュメントレベル InfoNCE と、教師モデルのトークン単位スコア分布を模倣するチャンクレベル KL 蒸留を組み合わせて学生モデルを最適化している。
- ColBERT ベースの初期化と投影: 社内の 9B パラメータ ColBERT 検索モデルをベースに初期化し、線形射影層を追加することで 2,048 次元埋め込みを生成、Matryoshka 学習で 1,024 次元を切り出す。
4. 展望・課題（Next）
- API 提供と商用評価の待機: 現時点ではセルフホスト用のプレビュー重みが公開されており、API アクセスや商用ライセンス、レイテンシ・スループットの詳細な検証は今後の公開を待つ必要がある。