InclusionAI、ハイブリッド推論モデル Ling-3.0-tiny を公開──7.9B パラメータでアクティブ 1.3B の高効率 MoE
KDA と MLA を組み合わせた効率的ハイブリッド構造を採用し、1.3B のアクティブパラメータで高度な推論とエージェント機能を実現した。
リリース: 2026-08-11 · 読了 3 分記事の要約
1. 核心（What）
- InclusionAI は 2026 年 8 月 11 日、軽量ハイブリッド推論 MoE モデル Ling-3.0-tiny を公開した。
- 総パラメータ数 7.9B、トークンごとのアクティブパラメータ数が 1.3B の構成を持つ。
- KDA と MLA を組み合わせたハイブリッドリニアアテンションアーキテクチャを採用している。
- Artificial Analysis Intelligence Index v4.1.1 で 25、Agentic Index で 16 を記録した。
2. 影響（Why）
- ローカルエージェントのコスト最適解: 1.3B のアクティブパラメータで高度な推論を回せるため、エッジデバイスや社内 VPC 内での常時稼働エージェント構築コストを大幅に引き下げる。
- 国内エッジ AI 開発への実装メリット: オンプレミス環境や Apple Silicon を活用する国内の組み込み・エッジ AI 開発企業にとって、クラウド API に依存しない推論基盤の有力な選択肢になる。
3. 根拠・詳細（How）
- KDA と MLA の 3:1 交互スタッキング: 4 層ブロックごとに 3 つの Kimi Delta Attention 層と 1 つの Multi-Head Latent Attention 層を配置し、長文脈処理効率とパラメータ効率を両立する。
- 128 エキスパートのスパース MoE: 128 個のルーテッドエキスパートからトークンごとに 8 個のエキスパートと 1 個の共有エキスパートを発火させ、計算コストを抑制しつつ表現力を維持する。
4. 展望・課題（Next）
- エコシステムへの統合検証: SGLang や vLLM、Ollama での実行レシピが公開されており、今後は各推論バックエンドでの安定性とスループットの検証が進む見通し。