🧠Research🔥🔥

Cohere Labs、翻訳特化モデル North Small Translate を公開──218B MoE で WMT26 ベンチマーク 83.60 を記録

50 言語以上に対応する 218B 規模の翻訳専用 MoE モデルで、DeepL や Google Translate を上回る翻訳精度と 1.4x の高スループットを達成した。
リリース: 2026-09-10 · 読了 4

記事の要約

1. 核心(What)

  • Cohere Labs が 50 言語以上をサポートする 218B 総パラメータ(アクティブ 25B)の翻訳専用 MoE モデル North Small Translate を公開した
  • WMT26 ベンチマークの全言語平均で 83.60(エージェント型マルチパス版は 84.36)を記録し、DeepL NextGen や Google Translate を凌駕した
  • 長文脈評価において 48.9 を記録し、Google Translate の 21.3 や Gemma 4 31B の 19.4 の 2 倍以上のスコアを達成した
  • BF16、FP8、NVFP4 の 3 種の量子化モデルが提供され、NVFP4 版は 1x B200 または 2x H100 で実行可能である

2. 影響(Why)

  • API 従量課金コストからの脱却: 商用利用のライセンス条件を満たす必要があるものの、自社インフラへ 218B 規模の翻訳特化型 MoE をホストできるため、大量のドキュメント翻訳を抱えるテック企業の API コスト構造を大きく書き換える。
  • 国内多言語 SaaS における検証基盤: [国内 多言語展開 SaaS 業種] のような中規模事業者は、汎用 LLM の翻訳プロンプト運用から、特定言語の精度が担保された専用 MoE へのリプレイス検討フェーズに入る。

3. 根拠・詳細(How)

  • アーキテクチャとルーター設計: 128 エキスパートのうち 1 トークンあたり 8 個のエキスパートを発火させるスパース MoE 構造を採用し、ルーターには sigmoid 活性化と top-k 正規化を適用している。
  • アテンション層のインターリーブ構造: ウィンドウサイズ 4096 のスライディングウィンドウアテンションと位置埋め込みなしのグローバルアテンションを 3:1 の比率で交互に配置している。
  • 実行環境と推論フレームワーク対応: vLLM などの標準フレームワークに対応しており、NVFP4 量子化チェックポイントを利用することで 1x B200 または 2x H100 のハードウェア構成に収まる。

4. 展望・課題(Next)

  • 商用利用時のライセンス適用: Hugging Face 上の公開ウェイトは CC BY-NC 4.0 のため、商用プロダクトへの組み込みには Cohere または RWS Language Weaver 経由での契約が必要となる。