Tencent、MoE モデル Hy3 を公開──295B パラメータで 21B アクティブの推論効率を実現
256K の長文脈に対応し、50 以上の製品フィードバックを基に post-training を強化した Apache 2.0 ライセンスの MoE モデル。
リリース: 2026-07-06 · 読了 3 分記事の要約
1. 核心（What）
- Tencent がパラメータ数 295B、アクティブパラメータ数 21B の MoE モデル Hy3 を公開。
- MTP 層に 3.8B パラメータを搭載し、コンテキスト長 256K をサポート。
- モデルサイズはフルサイズで 598GB、FP8 量子化版で 300GB。
- 2026 年 7 月 21 日まで OpenRouter にて無料で利用可能。
2. 影響（Why）
- 推論コストと精度の両立: アクティブパラメータを 21B に抑制しつつ 295B 規模の知識を保持しており、推論コストを抑えたいプロダクトにとって、同等サイズのモデルより高いパフォーマンスを期待できる。
- 国内 SaaS における活用: 国内の Vertical SaaS や大規模な社内 RAG を運用する組織は、256K の長文脈とオープンなライセンスを活かし、商用 API からの移行先として検討する価値がある。
3. 根拠・詳細（How）
- MoE アーキテクチャの構成: 295B パラメータの MoE 構造を採用し、推論時には 21B のパラメータがアクティブに発火する設計。MTP 層に 3.8B パラメータを個別に割り当てている。
- 学習と検証のプロセス: 4 月のプレビュー版公開後、50 以上の製品から収集したフィードバックを基に post-training を実施。従来比で 2-5 倍のパラメータを持つフラッグシップモデルに匹敵する精度を達成。
4. 展望・課題（Next）
- 無料提供期間の終了: OpenRouter での無料利用は 2026 年 7 月 21 日までとなっており、以降は各プラットフォームの料金体系に従う必要がある。