8BモデルでKGQAを実現するSearch-on-Graph-R1──SPARQL教師学習で推論コストを削減

論文概要

Search-on-Graph-R1 (SOG-R1) は、知識グラフ質問応答（KGQA）において、巨大なLLMの推論能力に頼らず、8Bパラメータの軽量モデル単体でグラフ探索を完結させる手法である。SPARQLクエリを用いた教師あり微調整（SFT）と強化学習（RL）を組み合わせることで、外部ツール呼び出しの効率化と推論コストの劇的な削減を実現した。

関連研究

従来のKGQA手法は、 frontier-scale LLM（巨大なLLM）をプロンプトし、外部ツールを介してグラフを探索するアプローチが主流であった。しかし、これらの手法は推論コストが極めて高く、実運用におけるボトルネックとなっていた。本研究は、探索プロセスそのものをモデル内部に蒸留することで、この制約を打破する。

新規性と貢献

本研究の最大の貢献は、ゴールドSPARQLクエリを教師として活用し、モデルが探索の正解ルートを直接学習する仕組みを構築した点にある。これにより、推論時に追加のLLMジャッジや補助モジュールを一切必要としない、自己完結型の探索モデルが実現した。

提案手法の詳細

SOG-R1は以下の2段階で学習される。

1. SFTフェーズ: ゴールドSPARQLクエリをガイドに、教師モデルがライブ環境でグラフを探索し、その軌跡を学習データとして生成する。
2. RLフェーズ: 生成された軌跡をベースに強化学習を行い、モデルが少ない探索ステップで正解に到達するように最適化する。 この設計により、探索プロセスが知識グラフの構造に深く接地（grounded）されるため、ハルシネーションが抑制される。

評価・考察

WebQSP、CWQ、GrailQAの各ベンチマークにおいて、8BモデルであるSOG-R1は、既存の凍結された巨大LLMシステムを上回る性能を記録した。特にCWQにおいては、比較したすべてのシステムの中で最高の正解率を達成している。

応用例と今後の展望

本手法は、金融や医療など、構造化された知識グラフの正確な参照が求められる領域において、推論コストを抑えたエッジデバイスやオンプレミス環境でのKGQA実装を可能にする。日本の製造業におけるサプライチェーン管理や、社内のナレッジベース検索システムにおいて、推論コストを1/10以下に抑えつつ精度を維持する実用的な選択肢となる。

結論

SOG-R1は、KGQAにおける探索能力をモデル内部に統合することで、推論効率と精度の両立を証明した。今後は、より複雑なグラフ構造や動的な知識更新への対応が課題となる。

注釈

• KGQA (Knowledge Graph Question Answering): 知識グラフを用いて質問に回答するタスク。
• SPARQL: 知識グラフ（RDF形式）を検索するための標準的なクエリ言語。
• 8Bモデル: 80億パラメータを持つ比較的小規模なLLM。