poolside、推論最適化モデル Laguna-S-2.1-NVFP4 を公開──117.6B パラメータでローカル環境でのエージェント開発を高速化
総パラメータ数 117.6B・アクティブ 8.5B の MoE 構造を採用し、単一の 128GB 環境でネイティブ NVFP4 による高速推論を実現した。
リリース: 2026-07-22 · 読了 3 分記事の要約
1. 核心（What）
- 総パラメータ数 117.6B、アクティブパラメータ数 8.5B の MoE モデル poolside/Laguna-S-2.1-NVFP4 が HuggingFace 上で公開された。
- Sliding Window Attention とグローバルアテンションを 3:1 の比率で混合した 48 層のアーキテクチャを採用している。
- KV キャッシュを FP8 に量子化し、標準で 256K（最大 1M）のコンテキストウィンドウをサポートする。
- vLLM 0.25.1、SGLang、Transformers、TRT-LLM などの推論エンジンをサポートする。
2. 影響（Why）
- ローカル環境での大規模エージェント実行: アクティブパラメータ数を 8.5B に抑えることで、128GB 構成のハードウェア上で高度な推論とツール利用を伴う長期タスクを単一マシンで処理できる。
- 国内エンタープライズでの自社運用性: オープンライセンス (OpenMDW-1.1) とローカル完結の推論仕様により、データガバナンスの厳しい国内金融や医療系システムの開発現場でそのまま導入検討できる。
3. 根拠・詳細（How）
- モデル構成とアテンション機構: 256 エキスパート（共有 1 エキスパート）を備えた MoE であり、48 層中 36 層に 512 トークンの Sliding Window Attention を適用して KV キャッシュを削減している。
- 推論最適化と speculative decoding: vLLM 0.25.1 と FlashInfer の組み合わせにより NVFP4 カーネルをネイティブ実行し、DFlash（poolside/Laguna-S-2.1-DFlash-NVFP4）を用いた予測的デコーディングでデコード速度を向上させる。
4. 展望・課題（Next）
- コンテキスト拡張時のパラメータ調整: デフォルトの 256K 設定を超える 1M コンテキストを利用する際は、config.json の書き換えと温度パラメータ（<= 0.7）の調整による品質低下への配慮が必要。