AlexWortega、クロスエンコーダモデル openjev v5 を公開──Qwen3.5 をベースに NLI タスク特化でオプション順序の揺らぎを排除
Qwen3.5 をベースとしたクロスエンコーダにより、RAG のリランクや構造化された決定処理をオプション順序不変かつ決定論的に実行できる。
リリース: 2026-09-16 · 読了 3 分記事の要約
1. 核心（What）
- AlexWortega は 2026 年 9 月 16 日、Qwen3.5 をベースとしたクロスエンコーダモデル群 openjev v5 を公開した。
- 提供されるチェックポイントは 4B、2B、0.8B、および 35B-A3B (MoE) の各規模にわたる。
- 前提と仮説のペアを入力し、含意・矛盾・中立の 3 クラス分類をクロスエンコーダで直接出力する設計を採用している。
- JevBench の検証において、adversarial や routing_hard などの評価項目で高スコアを記録する一方、プロンプトインジェクションに対する脆弱性も報告されている。
2. 影響（Why）
- オプション順序への依存を排除: 各オプションを個別にスコア化するため、選択肢の提示順序によってモデルの出力が変動するバイアスを防ぎ、一貫したシステム判定を保証できる。
- 国内受託開発へのコスト削減効果: 商用 LLM の API を呼び出すことなく、ローカルの 4B 以下のモデルで高精度なリランクやガードレールを構築できるため、運用コストの大幅な削減につながる。
3. 根拠・詳細（How）
- アーキテクチャと実装仕様: Qwen3_5ForSequenceClassification をベースに最終トークンプライミングを行い、交差エントロピー損失で 3 クラス分類を学習している。
- 効率的なバッチ処理の実装: 共通のトークンプレフィックスを一度だけ計算し、複数の仮説に対するサフィックスをバッチ処理で評価する仕組みを実装している。
4. 展望・課題（Next）
- セキュリティ対策の強化: プロンプトインジェクションに対する脆弱性が指摘されているため、単体でのセキュリティガードとしての利用は避け、決定論的なチェック機構と併用する必要がある。