Hugging Face、PEFT 手法の比較ベンチマークを公開──LoRA 以外の選択肢と性能・メモリのトレードオフを検証
LoRA が 98% のシェアを占める現状に対し、BEFT や Lily など 40 種以上の手法を同一条件で比較。精度と VRAM 使用量のパレート最適解を明らかにした。
リリース: 2026-06-18 · 読了 5 分何が起きた
Hugging Face Hub 上の PEFT モデルの 98.4% が LoRA を採用しており、エコシステムにおいて圧倒的なデファクトスタンダードとなっている。
数学推論と画像生成の 2 領域でベンチマークを実施。LoRA、BEFT、Lily、LoHa、AdaLoRA 等を同一のハードウェア・学習コードで評価した。
LoRA は精度 53.2% / VRAM 22.6GB でパレート境界上に位置するが、省メモリ重視なら BEFT（20.2GB）、精度重視なら Lily（54.9%）が LoRA を上回る。
Hugging Face の PEFT ライブラリは 40 種類以上の手法を統合 API で提供しており、設定の変更のみで手法の比較検証が可能である。
なぜ重要
「とりあえず LoRA」という慣習から脱却し、VRAM 制約が厳しいエッジ環境や、1% の精度向上が求められる特化型モデル開発において、最適な手法を定量的に選定できる。
👁️ 開発者
PEFT ライブラリを利用する開発者は、既存の LoRA 実装を維持したまま設定ファイルを書き換えるだけで DoRA や LoHa 等を試行でき、計算リソース予算に合わせたモデル最適化が即座に実行できる。
🇯🇵 日本
[国内 AI 受託・SaaS 開発] のように、顧客の限られた GPU 予算内で特定ドメインへの適応を行う現場において、LoRA 以外の手法による VRAM 削減や精度向上の提案が具体的なコスト競争力に直結する。