多言語推論を促進するデータミックス手法──Tiny Aya L2-Thinker で 60 言語以上の L2 推論率 93% を達成

論文概要

近年の推論型言語モデルは複雑なタスクにおいて高い性能を示しているものの、その能力は依然として英語中心であり、どのような言語でプロンプトを入力しても英語で推論を行ってしまう傾向がある。本研究では、ユーザーのプロンプトと同じ言語で一貫して推論を行う能力である「L2推論（in-language reasoning）」に焦点を当て、データ中心のアプローチからスーパーバイズドファインチューニング（SFT）におけるデータ構成とスケジューリングの最適化手法を調査した。3.35B規模のモデル「Tiny Aya L2-Thinker」を構築し、数学、常識推論、指示追従、オープンエンド生成、文化的推論にわたる6つのベンチマーク、および60以上の言語において93%を超えるL2推論率を達成した。

新規性と貢献

従来の多言語推論モデルは各ターゲット言語での推論監督データを大量に必要とするアプローチが主流であったが、本研究では「推論は言語非依存の挙動である」という仮説に基づき、慎重に設計されたデータミックスによって、すべてのターゲット言語で推論データを必要とせずに型的に多様な言語間で推論能力を転移できることを示した点に新規性がある。

提案手法の詳細

本研究では、SFT時のデータ構成とスケジューリングを最適化することで、未学習の言語へL2推論を一般化するパスを解明した。具体的には、より広い言語カバレッジ、容易に入手可能な多言語の非推論データ、および十分な英語推論バックボーンを組み合わせることで、効率的な転移学習を実現している。

評価・考察

60言語以上を対象とした評価において、数学や常識推論を含む6つのベンチマークで高いパフォーマンスを維持しつつ、93%を超えるL2推論率を記録した。これにより、ターゲット言語ごとの追加の推論スーパービジョンなしで、言語横断的な推論の一般化が可能であることが実証されている。

応用例と今後の展望

多言語対応が必須となるグローバル展開企業や、非英語圏のローカル言語に特化したAIシステム開発において実務上のインパクトが大きい。特に、医療や行政サービスといった厳密な文脈把握が求められる分野において、非英語圏ユーザーへのアクセシビリティ向上に寄与する。今後は、さらに多様な言語ペアや大規模モデルへのスケーリング検証が課題となる。

結論

推論能力は言語非依存の特性を持っており、適切なデータミックスを用いることで、ターゲット言語ごとの追加推論データなしに多様な言語へ転移可能であることが示された。著者らはモデルの重みと多言語推論データを公開し、アクセシブルな多言語推論のさらなる研究を支援している。

注釈

SFT (Supervised Fine-Tuning): 教師あり微調整。事前学習済みの言語モデルに特定の指示やタスクを学習させるプロセス。