拡散モデルの視覚推論を強化する Painter-Thinker：再帰的潜在推論で難問 Sudoku の正答率 92.5% を達成

論文概要

拡散モデルは写実的な画像生成において高い性能を示す一方で、Sudoku（数独）や迷路といった視覚的推論を伴うタスクの解決にはしばしば失敗する。本論文では、ピクセル空間での推論を可能にする新しい手法「Painter-Thinker（PaTh）」を提案している。PaThは、ノイズが乗った画像と条件付けを符号化する学習済みトークンのグリッド上で推論を行う小さな再帰的ネットワーク（Thinker）と、ControlNetアダプターを通じて凍結された拡散モデル（Painter）を制御する仕組みを組み合わせたものである。シンボルレベルのターゲットやソルバー、検証器を用いず、標準的な再構​​築損失のみで訓練される点に特徴がある。

関連研究

離散的なシンボル表現が利用可能な場合には、Tiny Recursive Model（TRM）などの再帰的手法により高難度のパズルを効率的に解くことが可能である。しかし、シンボル表現が存在しないピクセル空間において、どのように推論メカニズムを拡張するかについては十分に検討されていなかった。本研究は、シンボル処理で培われた再帰的推論の枠組みを、追加のシンボル教師データなしでピクセル空間の拡散モデルに統合する先駆的な試みである。

新規性と貢献

本研究の主要な貢献は、追加の明示的なシンボル教師データを一切使用せず、再構​​築損失のみでピクセル空間における推論ネットワークを学習可能であることを示した点にある。従来の拡散モデルが必要とした大規模なパラメータ数を 10M に抑制しながら、高難度の推論タスクにおいて圧倒的な精度向上を達成している。また、問題の複雑さが増すにつれて既存手法に対する性能優位性が拡大するスケーラビリティも確認されている。

提案手法の詳細

PaThの核心は、デノイジング（雑音除去）の各ステップ内で潜在状態を反復的に洗練させる「Thinker」と呼ばれる小さな再帰的ネットワークにある。なぜこの設計を採用したかといえば、生成プロセスと推論プロセスを分離しつつ、各デノイジング段階で試行錯誤を許容するためである。Thinkerはグリッド状のトークンを操作し、ControlNetアダプターを介して凍結されたPainterモデルの動作を動的にステアする。これにより、標準的な拡散モデルの重みを大きく改変することなく、空間的な制約を満たす画像生成が可能になる。

評価・考察

評価実験では、MNIST Sudoku、迷路、N-Queens、空間的関係を指定したCLEVRシーンなどが用いられた。MNIST Sudokuのハードな問題において、PaThは既存の最高性能（75%）を大きく上回る 92.5% の正答率を記録した。さらに、極限レベル（extreme）の問題では従来最高の 4.1% に対して 71.2% という劇的な改善を示している。パラメータ数は標準的な拡散モデルの 82M に対してわずか 10M でありながらこの性能を達成した。診断実験により、PaThは拡散モデル単体では修正しきれなかった途中の誤り（特に多数のセルが間違っているケース）から自律的に回復できることが実証されている。

応用例と今後の展望

本手法の応用により、複雑な物理的・論理的制約（CAD設計図の自動生成、制約付きレイアウトデザイン、論理パズルの画像出力など）を伴う生成AIの信頼性を高めることができる。日本の製造業やデザイン業における自動設計支援システムなどの実務分野において、厳格な制約条件を満たす画像・図面生成プロセスの信頼性向上に向けた実装基盤として、数カ月〜1年以内の検証価値がある。今後の課題としては、より高解像度な画像や、さらに多様な実世界ドメインへのスケーリング検証が挙げられる。

結論

本論文は、シンボルデータ向けに開発された再帰的推論メカニズムを、追加のシンボル監視なしでピクセル空間の拡散モデルに統合できることを示した。小規模な再帰的ネットワークの組み合わせにより、パラメータ数を抑えつつ複雑な視覚推論タスクを高い精度で解決できる点が実証されており、制約付き生成タスクの新たなアプローチとして重要な位置を占める。

注釈

• Diffusion Models: ノイズから徐々に画像を復元する生成モデルの一種。
• ControlNet: 拡散モデルに追加の条件（エッジや深度など）を与えて制御するアダプター技術。
• MMLU: 大規模言語モデルの総合的な知識・推論能力を測る代表的なベンチマーク。