Moonshot AI、エージェントモデル Kimi-K3 を公開──2.8T パラメータと 1M コンテキストで約 2.5 倍の効率化を実現
Kimi Delta Attention と Stable LatentMoE を採用し、2.8T パラメータながら 1M トークンコンテキストとネイティブマルチモーダルを両立したオープンウェイトモデル。
リリース: 2026-07-29 · 読了 3 分記事の要約
1. 核心（What）
- Kimi-K3 は総パラメータ数 2.8T のオープンウェイト・ネイティブマルチモーダルエージェントモデルである。
- Kimi Delta Attention（KDA）と Attention Residuals（AttnRes）を新規に採用している。
- Stable LatentMoE フレームワークにより、896 エキスパート中 16 エキスパートをアクティベートする高スパース設計。
- 100 万トークンのコンテキストウィンドウをサポートし、API は OpenAI および Anthropic 互換を提供する。
2. 影響（Why）
- オープンウェイトの限界突破: 3T クラスのフロンティア知性がオープンウェイトで提供されるため、セキュリティ要件の厳しい環境でも最高水準のエージェント開発が可能になる。
- 国内エンタープライズへの波及: [国内 SIer・テック企業] のような組織では、外部 API に依存せず社内インフラで高度なコード生成やマルチモーダル分析を完結させるための基盤として有力な選択肢になる。
3. 根拠・詳細（How）
- Kimi Delta Attention とスパース構造: Kimi Delta Attention（KDA）と Attention Residuals（AttnRes）を基盤に、Stable LatentMoE で 896 エキスパート中 16 エキスパートを発火させることでスケーリング効率を約 2.5 倍に向上。
- 量子化対応の学習手法: SFT 段階から quantization-aware training を適用し、MXFP4 ウェイトと MXFP8 アクティベーションを採用することで幅広いハードウェア互換性を確保。
4. 展望・課題（Next）
- 推論エンジン最適化の必要性: 2.8T パラメータの巨大モデルを効率的に運用するため、推奨される推論エンジン環境でのベンチマーク測定とデプロイ検証が当面の課題となる。