Ant Group、推論特化モデル Ling 3.0 Flash を公開──アクティブ 5B で 1T モデル並みの性能を達成
アクティブパラメータを 5.1B に抑えながら総パラメータ 124B の MoE 構造とハイブリッド線形注意機構により、推論コストを大幅に削減しつつ上位モデルに匹敵するベンチマークスコアを実現した。
リリース: 2026-08-07 · 読了 3 分記事の要約
1. 核心（What）
- Ant Group の inclusionAI が Ling 3.0 Flash を発表、トークンあたりのアクティブパラメータが 5.1B の 124B MoE モデル。
- Artificial Analysis Intelligence Index で 38 を記録し、少アクティブパラメータながらMiMo-V2.5 や Qwen3 27B と同等のスコアを達成。
- KDA (線形注意) と MLA 層を 5:1 の比率で組み合わせたハイブリッドアーキテクチャを採用し、長文脈の効率性と状態メモリを両立。
- モデルウェイトは MIT ライセンスで Hugging Face に公開され、BF16 (255GB) と FP8 (128GB) が利用可能。
2. 影響（Why）
- 実用推論コストの劇的な低減: 1T 規模のフラッグシップと同等性能を 5.1B のアクティブパラメータで叩き出せるなら、月間数十万ドル規模に達する大規模 RAG やエージェント基盤のインフラ費用を数分の一に抑える現実解になる。
- 国内 SaaS のコスト構造転換: 国内の生成 AI アプリ開発企業（特にチャットボットやコード支援を手掛ける中堅ベンダー）は、商用 API 依存からローカル／セルフホスト OSS への切り替えにおいて、推論単価の壁を大きく引き下げる選択肢を得る。
3. 根拠・詳細（How）
- KDA と MLA のハイブリッドアテンション: 従来の二次的コストを持つトランスフォーマー注意機構を改め、KDA（Kimi Delta Attention）と MLA 層を 5:1 の比率で交互に配置することで、長文脈の処理速度を維持しつつ精度を確保する。
- MoE 活性化比率の最適化: 事前学習段階から MoE のエキスパート活性化比率を従来の 1/32 から 1/64 へ半減させ、総パラメータ 124B に対してトークンあたり 5.1B のアクティブ数に絞り込んでいる。
4. 展望・課題（Next）
- 出力トークン量の増加への対処: 同等モデルと比較して約 4 倍の出力トークンを生成する特性があり、タスクあたりの実効コストが押し上げられる課題に対してプロンプト側での制御が必要となる。