poolside、ローカルモデルランナー Laguna-S-2.1-GGUF を公開──256K コンテキストと DFlash 推論に対応
llama.cpp 向けに最適化された Laguna S 2.1 の GGUF 版が公開され、専用分岐と DFlash ドラフトモデルによる高速推論が可能になった。
リリース: 2026-07-22 · 読了 2 分記事の要約
1. 核心（What）
- poolside が Laguna S 2.1 モデルの GGUF 形式の変換ファイルを公開した
- llama.cpp の laguna ブランチを利用した DFlash スペキュラティブ・デコーディングに対応している
- デフォルトの推奨コンテキストは 256K トークンであり、RoPE スケーリングにより最大 1M トークンまで拡張できる
- yarn_attn_factor メタデータが 1.0 に修正され、llama.cpp 側で自動スケーリングされる
2. 影響（Why）
- ローカル環境での長文脈・高速推論の実現: 256K トークンを標準サポートしつつ DFlash ドラフトモデルによる高速化を組み合わせることで、単一ノードのローカル環境でも実用的な速度で長文脈モデルを運用できるようになる。
- 国内 SaaS におけるセキュアな RAG 設計の選択肢: 社内データを用いた大規模なドキュメント検索や解析を構築する国内 SaaS ベンダーは、API コストを抑えてオンプレミスや VPC 内で完結する推論基盤の選択肢として検証する価値がある。
3. 根拠・詳細（How）
- llama.cpp 専用分岐と DFlash による実装: poolsideai/llama.cpp の laguna ブランチをクローンし、cmake でビルドした上で --spec-type draft-dflash オプションとドラフトモデルを指定してサーバーを起動する。
- 最大 1M トークンへのコンテキスト拡張: ロード時に --ctx-size 1048576 --rope-scaling yarn --rope-scale 128 --yarn-orig-ctx 8192 の引数を付与することで、ネイティブ 1M の学習チェックポイントを有効化できる。
4. 展望・課題（Next）
- アップストリーム統合の動向: ベースとなる Laguna サポートは現在 ggml-org/llama.cpp#25165 としてアップストリームのレビュー待ちの状態にある。