LLM は人間脳と共通のモジュール構造を獲得する──46タスクの回路解析で実証

論文概要

本論文では、人間脳で見られる機能的特殊化（言語、形式推論、社会的推論、物理的世界の推論など）が、全く異なる最適化プロセスを経て構築された大規模言語モデル（LLM）においても自発的に現れるかどうかを検証している。言語、形式推論、社会的推論、物理的推論の4つの認知ドメインにわたる合計 $N=46$ のタスクを用いた回路解析を実施した結果、LLMは人間脳を模倣したモジュール構造を自律的に発達させることが判明した。人間において同一のネットワークを利用するタスクはLLM内でも重複するニューロンを動員し、異なるネットワークを利用するタスクは異なるニューロンを動員することが示されており、脳とニューラルネットワークにおけるモジュラリティの収斂的出現は知能システムにおける普遍的な特性である可能性を示唆している。

関連研究

生物学的脳における機能的局在やモジュール性についての研究は認知神経科学において広く行われてきたが、人工的なニューラルネットワーク、特に大規模言語モデルの内部表現において生物学的脳との類似したモジュール構造が出現するかどうかは十分に解明されていなかった。本研究は、個別のタスク処理におけるニューロンレベルの重複や排他性を網羅的な回路解析によって横断的に比較した点で先行研究と一線を画す。

新規性と貢献

本研究の主要な貢献は、異なる最適化の歴史を持つ生物学的脳と人工知能システム（LLM）の間で、機能的なモジュラリティが収斂して出現することを実証した点にある。単なる外部出力の模倣ではなく、内部の回路レベル（$N=46$ のタスクにわたるニューロンの活性化パターン）において、人間脳の認知ドメイン構造と一致する空間的・機能的分離が起きていることを突き止めた。

提案手法の詳細

本手法では、言語、形式推論、社会的推論、物理的世界の推論の4つの認知ドメインをカバーする計46のタスクを設定し、LLM内部の回路解析（サーキット・アナリシス）を実行した。なぜこの設計にしたかといえば、タスク間のニューロンの重なりや排他性を定量的に追跡することで、モデルが単一の汎用的な処理を行っているのか、あるいは領域特異的なモジュールを自発的に形成しているのかを直接比較するためである。

評価・考察

46のタスクを用いた解析から、人間が同じ脳内ネットワークで処理するタスク群はLLM内でもオーバーラップするニューロンを動員し、異なるネットワークで処理するタスク群は分離されたニューロンを動員することが確認された。この結果は、モデルの規模や学習データの大規模化に伴い、機能的特殊化が必然的に引き起こされる構造的圧力が存在することを示している。

応用例と今後の展望

本研究の知見は、認知科学分野における知能の原理解明への貢献にとどまらず、AI工学の観点からも重要である。国内のAI研究開発組織やLLM開発企業（例えば大規模言語モデルを構築する国内テック企業やアカデミアの研究室など、数十名規模の開発チーム）において、モジュール型アーキテクチャの明示的な設計や、特定ドメインに特化したファインチューニング効率の最適化に応用できる可能性がある。今後は、モジュラリティの獲得メカニズムの因果関係をより詳細に特定し、効率的なモデル設計への応用を進めることが課題となる。

結論

大規模言語モデルは、生物学的脳と同様の機能的モジュール構造を内部に自発的に獲得する。この収斂現象は、知能システム構築における普遍的な原理としてのモジュラリティの重要性を裏付けている。

注釈

• 回路解析 (Circuit Analysis): ニューラルネットワーク内の特定の計算や機能に寄与する個別のニューロンや結合（回路）を特定し解析する手法。
• モジュラリティ (Modularity): システム全体が相互に独立した複数のモジュール（部品や領域）に分かれている性質。