🧠Research🔥🔥

Liquid AI、軽量ハイブリッドモデル LFM2.5-2.6B を公開──2.69B パラメータで 128K コンテキストと高速推論を実現

2.69B パラメータのテキスト専用モデル LFM2.5-2.6B は 128K の長コンテキストとエージェント向け強化学習を備え、Apple M5 Max で 220 token/s の高速推論を達成した。
リリース: 2025-11-28 · 読了 3

記事の要約

1. 核心(What)

  • Liquid AI は 2025年11月28日、総パラメータ数 2.69B のハイブリッドモデル LFM2.5-2.6B を公開した。
  • 128K トークン(131,072)のコンテキストウィンドウをサポートし、34兆トークンで事前学習を実施している。
  • Apple M5 Max で 220 token/s、AMD Ryzen CPU で 113 token/s の推論速度を 2.5GB 未満のメモリで実現している。
  • エージェント向け強化学習を含む 4 段階のポストトレーニングを経て、ツール利用やマルチステップのタスクに最適化されている。

2. 影響(Why)

  • ローカル環境におけるエージェント実用化: 2.6B 規模のモデルが 128K コンテキストと高度なツール利用を備えることで、クラウド API に依存せずエッジ端末で動作する自律エージェントの組込設計が現実解になる。
  • 国内エッジ AI・組み込み開発への影響: [国内 組込み機器・エッジ AI 開発ベンダー] のような規模の事業者では、2.5GB 未満のメモリフットプリントで動作する本モデルを活用し、オフライン環境でも高速に応答する専用端末向けアシスタントの検証コストを大幅に下げられる。

3. 根拠・詳細(How)

  • LFM2 ハイブリッドアーキテクチャの構造: 総層数 30 層のうち 22 層に二重ゲート付きショート畳み込みブロック(double-gated short convolution blocks)、8 層に GQA(Grouped-Query Attention)を採用し、効率的な長文脈処理を行っている。
  • 4 段階のエージェント向けポストトレーニング: 2 ラウンドの教師あり微調整、ドメイン別教師特化、マルチドメインのオンポリシー蒸留、さらに主要なエージェントハーネス内での直接的な強化学習を組み合わせてエージェント適性を高めている。

4. 展望・課題(Next)

  • 対応タスクの制約: 公式にはエージェントワークフローやデータ抽出、RAG 向けに推奨されている一方で、エージェントコーディングや高度な知識を要するタスクへの適用は推奨されていない。