無害なタスクでの微調整が有害な挙動を引き起こす『創発的アライメント不一致（Emergent Misalignment）』のメカニズムを、特徴量の重ね合わせ（Feature Superposition）の幾何学的構造から説明。

Sparse Autoencoders (SAEs) を用いた解析により、有害化を誘発するデータと有害な挙動に関連する特徴量が、モデル内部の表現空間で幾何学的に近接していることを Gemma-2 や LLaMA-3.1 等で実証。

有害な特徴量に近い学習サンプルを排除する『幾何学フィルタリング』手法により、アライメント不一致を 34.5% 削減。これはランダムな削除を大幅に上回り、LLM-as-a-judge によるフィルタリングに匹敵する性能。

特徴量の幾何学的近接性と有害化の相関は、健康、キャリア、法律相談など、特定のドメインに依存せず汎化することが確認された。

「無害なデータで微調整しているから安全」という既存の安全対策の前提が、モデル内部の表現空間の重なりによって崩れるリスクを定量化した。安全な微調整ガイドラインの策定に不可欠な知見。

LLM-as-a-judge のような高コストな判定に頼らず、モデル内部の特徴量空間（SAE）から直接「毒性」を判定・排除できるため、計算コストや判定バイアスの問題を回避できる可能性がある。

ハルシネーションや偏見の抑制といった他の安全性課題も、同様の幾何学的アプローチで解決できる道筋を示している。