🛠Tools🔥🔥

ローカルランナー、Ollama・llama.cpp・vLLM 更新まとめ──Mac での Laguna 実行と 3 系統の高速化

Ollama v0.32.5 や llama.cpp b10184 などの主要ランタイムが同時更新され、NVFP4 量子化モデルの品質修正や MTP による投機的デコード実装が進んだ。
リリース: 2026-07-31 · 読了 3

記事の要約

1. 核心(What)

  • Ollama v0.32.5 が公開され、前バージョン v0.32.4 で発生していた NVFP4 量子化モデルの出力品質低下バグが修正された。
  • llama.cpp b10184 がリリースされ、MiMo V2.5 などの内蔵 MTP 層を用いた投機的デコードが利用可能になった。
  • vLLM v0.26.0 は 411 コミットの大型版として公開され、マルチモーダルモデル Inkling や DeepSeek-V4 向けの最適化が追加された。

2. 影響(Why)

  • ローカル環境における推論コストの抑制: クラウド API のランニングコストを削減したい開発チームは、vLLM v0.26.0 や Ollama を用いた社内専用の高速推論基盤へ移行する選択肢が現実的になった。
  • 国内受託・SaaS 開発への影響: [国内 受託開発・SaaS 業種] のように機密データを扱う組織は、Claude Code などのエージェントと Ollama のローカルホスト連携により、定型処理の下請け構成を安全に構築できる。

3. 根拠・詳細(How)

  • MLX エンジンと Laguna 対応: Apple Silicon 向け MLX エンジンが Laguna に対応し、M5 Max 環境で一部射影処理が 4〜9% 高速化されたが、v0.32.4 の品質バグ回避のため v0.32.5 への一括更新が必須となる。
  • MTP 階層による投機的デコード: llama.cpp b10184 ではモデル自身が持つ下書き用の MTP 層を利用することで、Metal および CUDA 環境の両方で 9〜12% の高速化を実現している。

4. 展望・課題(Next)

  • 対応モデルの広がりと検証: MTP 型の投機的デコード対応が 8 月中に他のモデルファミリーへ波及するかどうかが、ランタイム選択の重要な分岐点となる。