🧠Research🔥🔥🔥

IFM、オープンウェイト言語モデル K2-Horizon-7B を公開──SWE-bench Verified で 70.6 を記録

36B MoVA と 7B dense モデル等を提供し、共通ボキャブラリによるルーティング制御と 512K コンテキストを実現する。
リリース: 2026-09-15 · 読了 4

記事の要約

1. 核心(What)

  • IFM は Apache 2.0 ライセンスの下で K2-Horizon モデルファミリー(36B-A4B MoE、7B dense、3.7B dense)を Hugging Face に公開した。
  • K2-Horizon-7B は SWE-bench Verified で 70.6、BrowseComp で 59.0 のスコアを記録した。
  • 全モデルで共通のボキャブラリとチャットテンプレートを採用し、プロンプトを変更せずにサービング層の切り替えが可能になっている。
  • ネイティブコンテキストウィンドウとして 524,288 トークン(512K)をサポートしている。

2. 影響(Why)

  • モデル切替のコスト削減: 共通テンプレートによりルーティング設計が容易になり、LLM アプリ開発における基盤モデルの乗せ換え負荷が大幅に下がる。
  • 国内 SaaS における開発効率: [国内 AI エージェント開発企業] のような中規模開発チームは、タスクの難易度に応じて 7B と MoVA を動的に切り替えるコスト効率の高いルーティング構成を組む価値がある。

3. 根拠・詳細(How)

  • アーキテクチャとパラメータ構成: MoVA-36B は 360 億の全体パラメータから 1 トークンあたり 40 億をアクティブ化し、 attention ブロックにもスパースルーティングを拡張している。
  • 推論高速化アダプター: K2-Horizon-7B-Uno は拡散デコーディング(diffusion decoding)アプローチを採用し、品質劣化なしで最大 2.2 倍の高速化を実現する。
  • サービング環境の設定: vLLM および SGLang で実行する際は専用の k2_horizon パーサー指定が必要であり、Transformers 読み込み時は trust_remote_code=True が要求される。

4. 展望・課題(Next)

  • 追加アーティファクトの公開待ち: 中間チェックポイントや学習レシピ、トレーニングデータは今後 IFM のブログ等で順次公開される予定である。