Unified-Memory Apple Silicon における CPU+GPU 協調実行機構 FusionML──Llama 型プリフィルを 1.15〜1.38 倍に高速化
Apple Silicon の統一メモリを活用し、遅延グラフスケジューラの制約を回避したレイヤー単位の行分割により、Qwen2.5-7B の TTFT を最大 1.25 倍に高速化。
リリース: 2026-07-24 · 読了 5 分論文概要
Apple Silicon の統一メモリ（Unified Memory）環境下において、CPU と GPU の間で単一オペレータを分割処理する協調実行（Co-Execution）の可能性と限界を検証した論文である。従来、MLX の遅延グラフスケジューラ（Lazy-Graph Scheduler）に起因して失敗していたクロスストリームの並列化に対し、明示的な実体化境界（Eager Materialization Boundary）を導入することで直列化問題を解決した。提案手法である FusionML は、Llama 型デコーダーブロックのプリフィル（Prefill）処理を 1.15〜1.38 倍に高速化し、実際の Qwen2.5-7B チェックポイントにおいて Time-to-First-Token（TTFT）を 1.18〜1.25 倍短縮することに成功している。
関連研究
Apple Silicon のような統合メモリアーキテクチャにおける CPU・GPU・Neural Engine（ANE）の混載利用は、これまでにも多くの推論高速化の試みかなされてきた。しかし、メモリバスの競合やフレームワーク側のスケジューリング制約（特に MLX の遅延評価モデル）により、単一演算を複数プロセッサで分割しても、同期オーバーヘッドやシリアライゼーションによってかえって性能が低下するか、あるいは精度が担保できない事例が多かった。本研究は、この制約の根本原因を明確に切り分け、実用的な協調実行の境界を定めた点で先行研究と一線を画す。
新規性と貢献
本研究の最大の貢献は、MLX の遅延グラフ構造におけるストリーム直列化のボトルネックを特定し、それを解消する「実体化境界」の設計を提示したことにある。5 世代の Apple Silicon チップを網羅した評価により、プリフィル段階における CPU+GPU 協調実行が有効な領域と、デコード段階やトレーニング、ANE ディスパッチなどにおいて効果が得られない領域の境界線を実測データとともに明確化した。
提案手法の詳細
FusionML は、レイヤー単位でコンテンション（競合）を考慮した CPU+GPU の行分割（Row Split）をプリフィル時に実装する。MLX の遅延グラフ構造内では、CPU ストリームの演算が未実体化の GPU 結果を消費する場合にクロスストリームの処理が直列化される。このため、入力データを明示的に実体化する境界を挟むことで並行性を復元し、行分割された行列積算（MatMul）の高速化効果をそのまま引き出す設計となっている。
評価・考察
5 種類のチップと 3 世代の Apple Silicon で評価が行われており、Llama 型デコーダーブロックのプリフィルで 1.15〜1.38 倍の高速化を確認している。また、ストック状態の MLX-LM を用いた Qwen2.5-7B 実環境サービングでは、トークン同一の出力を維持したまま TTFT が 1.18〜1.25 倍向上した。一方で、デコード処理は共有帯域の制約から協調実行の恩恵を受けられないこと、精度一致型の学習では 0.86〜0.97 倍へと性能が低下することなど、適用範囲の限界（Boundaries）についても詳細に検証されている。
応用例と今後の展望
本手法は、Mac Studio や Mac mini などの Apple Silicon 環境で大規模言語モデルのローカル推論を行う際の初期応答遅延（TTFT）削減に直結する。特に、金融・医療分野などでプライバシー保護のためにオンデバイスで 7B クラスの LLM を運用する日本のテックリードやエッジ AI 開発者にとって、追加のハードウェアコストなしでスループットを改善する実用的な知見となる。今後の課題として、メモリ圧迫時に作動するレグレッション防止ランタイムゲートの効率化などが挙げられる。
結論
FusionML は、Apple Silicon の統一メモリにおける CPU+GPU 協調実行のメカニズムと限界を解明し、MLX の遅延評価スケジューリングの制約を克服することでプリフィル処理の明確な高速化を実証した。適用可能なワークロードの範囲は限定的であるものの、エッジ推論の最適化手法として確かな学術的・実用的価値を持つ。
注釈
- プリフィル（Prefill）: LLM において、入力プロンプトのトークン列を並列処理して KV キャッシュを構築する初期フェーズ。
- TTFT（Time-to-First-Token）: プロンプト投入から最初のトークンが出力されるまでの時間。