Moonshot AI、推論高速化カーネル FlashKDA をオープンソース公開──Kimi Linear を GPU で 2 倍高速化
Kimi Linear の基盤である Kimi Delta Attention 向けに MIT ライセンスの専用 CUTLASS カーネルを公開し、モデル改変なしで推論スループットを 2 倍に引き上げた。
リリース: 2026-07-27 · 読了 3 分記事の要約
1. 核心（What）
- Moonshot AI は Kimi Delta Attention 用の高パフォーマンス CUDA カーネル FlashKDA を公開した
- ライセンスは MIT ライセンスで、商用利用や拡張が自由に可能となっている
- 従来の Triton ベースの実装から、統合された CUTLASS カーネルへと刷新された
2. 影響（Why）
- 推論コストの半減と実装の容易さ: モデル構造を変更せずにドロップインバックエンドとして差し替えられるため、長文脈 LLM の推論コストを即座に約半分へ圧縮できる。
- 国内エンタープライズ開発への影響: [国内 LLM 応用システム開発企業] のような中規模事業者にとって、線形アテンション系モデルを商用サーバーへ実投入する際のハードルが大きく下がる。
3. 根拠・詳細（How）
- CUTLASS カーネルの採用: 従来の flash-linear-attention 内の Triton 実装を置き換えるため、最適化されたカスタム CUTLASS カーネルを構築しハードウェア効率を最大化している。
- DPLR 遷移マトリクスの変種: 対角プラス低ランク行列の特殊な変種を用いることで、一般的な計算式と比較して演算量を大幅に削減する構造をとる。
4. 展望・課題（Next）
- 他モデルへの適用範囲の検証: Kimi Linear 以外のハイブリッド線形アテンション構造を持つモデルへの移植性や性能検証が今後の焦点となる。