IFM、オープンウェイト言語モデル K2-Horizon-7B を公開──SWE-bench Verified で 70.6 を記録
36B MoVA と 7B dense モデル等を提供し、共通ボキャブラリによるルーティング制御と 512K コンテキストを実現する。
リリース: 2026-09-15 · 読了 4 分記事の要約
1. 核心(What)
- IFM は Apache 2.0 ライセンスの下で K2-Horizon モデルファミリー(36B-A4B MoE、7B dense、3.7B dense)を Hugging Face に公開した。
- K2-Horizon-7B は SWE-bench Verified で 70.6、BrowseComp で 59.0 のスコアを記録した。
- 全モデルで共通のボキャブラリとチャットテンプレートを採用し、プロンプトを変更せずにサービング層の切り替えが可能になっている。
- ネイティブコンテキストウィンドウとして 524,288 トークン(512K)をサポートしている。
2. 影響(Why)
- モデル切替のコスト削減: 共通テンプレートによりルーティング設計が容易になり、LLM アプリ開発における基盤モデルの乗せ換え負荷が大幅に下がる。
- 国内 SaaS における開発効率: [国内 AI エージェント開発企業] のような中規模開発チームは、タスクの難易度に応じて 7B と MoVA を動的に切り替えるコスト効率の高いルーティング構成を組む価値がある。
3. 根拠・詳細(How)
- アーキテクチャとパラメータ構成: MoVA-36B は 360 億の全体パラメータから 1 トークンあたり 40 億をアクティブ化し、 attention ブロックにもスパースルーティングを拡張している。
- 推論高速化アダプター: K2-Horizon-7B-Uno は拡散デコーディング(diffusion decoding)アプローチを採用し、品質劣化なしで最大 2.2 倍の高速化を実現する。
- サービング環境の設定: vLLM および SGLang で実行する際は専用の k2_horizon パーサー指定が必要であり、Transformers 読み込み時は trust_remote_code=True が要求される。
4. 展望・課題(Next)
- 追加アーティファクトの公開待ち: 中間チェックポイントや学習レシピ、トレーニングデータは今後 IFM のブログ等で順次公開される予定である。