Ant Group、視覚推論モデル Ling-3.0-flash-VL を公開──124B MoE 構造で 256K コンテキストに対応
テキスト・画像・動画を入力可能な 124B モルタリティ推論モデルを MIT ライセンスで公開し、vLLM や SGLang による初日からのセルフホスト運用を可能にした。
リリース: 2026-09-11 · 読了 3 分記事の要約
1. 核心（What）
- Ant Group の InclusionAI ラボが、テキスト・画像・動画の入力を受け付けテキストを出力する 124B の MoE 推論モデル Ling-3.0-flash-VL をリリースした
- トークンごとに総パラメータ 124B のうち 5.5B をアクティブ化し、コンテキスト長は 256K トークンをサポート
- Artificial Analysis Intelligence Index v4.3 でスコア 25 を獲得し、同規模のオープンモデルの標準値 8 を大きく上回る
- AA-Omniscience ベンチマークで 14% の正確性と 22% のハルシネーション率を記録したが、Terminal-Bench v4.0 では 0% とエージェント作業に課題を残す
2. 影響（Why）
- ローカル環境での高度なマルチモーダル推論: 商用 API に依存せず、VPC 内で長文の図表や動画を含むマルチモーダル推論を自前で完結させたい組織にとって、MIT ライセンスの 124B モデルをセルフホストできる選択肢が増える。
- 国内テック企業・SaaS 事業者への影響: [金融・医療系 AI SaaS] 規模の企業は、既存のテキスト専用モデルから、256K コンテキストで文書画像や画面スクショを直接扱えるセルフホスト型推論基盤への移行検討を進める価値がある。
3. 根拠・詳細（How）
- MoE と Delta Attention の複合アーキテクチャ: ルーターにより 512 の専門家エキスパートのうち 8 エキスパートと 1 共有エキスパートを発火させる設計を採用。アテンション層には 35 の Kimi Delta Attention 層と 7 の Gated Multi-head Latent Attention 層を 5:1 の比率で配置し、長文脈でのメモリ肥大化を抑制している。
- メモリ要件と推論フレームワークの対応: BF16 チェックポイントが約 255GB、FP8 が約 128GB のメモリを消費し、ランタイムのオーバーヘッドやキャッシュを考慮すると複数基のサーバークラス GPU が必須となる。公式に SGLang および vLLM フォークがサポートされている。
4. 展望・課題（Next）
- 今後の量子化モデルの展開: 計画されている FP4 および INT4 の量子化バージョンがリリースされれば、メモリ要件が大幅に緩和される見込みだが、具体的な公開日は未定となっている。