大規模言語モデルによるリアルタイムな陰謀論の信奉低減──暗殺事件直後の実験で有意な効果を実証

論文概要

大事件の発生直後に自然発生する陰謀論の拡散は、社会的な重大課題である。本論文では、大規模言語モデル（LLM）との会話型対話が、リアルタイムに生成・拡張される陰謀論の信奉度をどの程度軽減できるかを検証している。2024年7月のドナルド・トランプ大統領暗殺未遂事件および2025年9月のチャーリー・カーク暗殺事件の発生直後に米国の成人を対象とした実験を実施し、LLMによる介入が信奉度を統計的有意に低下させることを示した。

関連研究

従来の情報対策は、静的なファクトチェックや事前警告（Inoculation theory）が中心であった。これらは特定の偽情報に対する抵抗力を高めるものの、動的かつ突発的に発生する社会不安のさなかにおいて、個別の対話を通じて柔軟に誤解を解きほぐすアプローチの効果については十分に検証されていなかった。本研究は、静的資料ではなく双方向のLLM対話を用いる点で先行研究と一線を画す。

新規性と貢献

最大の新規性は、現実の重大事件（クライシス）の発生直後というリアルタイムな状況において、LLMを用いた対話型介入の効果を大規模な統制実験で実証した点にある。実験1（N = 472）および実験2（N = 1035）において、対照群と比較した即時的な効果だけでなく、1〜2ヶ月後における異なる陰謀論への波及効果（ダウンストリーム効果）も観測された。

提案手法の詳細

本研究では、陰謀論を信奉する被験者にマルチターンの会話を行わせるようプロンプトされたLLMを使用している。 なぜこの設計にしたかといえば、固定されたテキストを提示するのではなく、ユーザーの主張や疑問の構造に合わせて認知的負荷を軽減しながら反証情報を提示することが、心理的な防衛反応を和らげるために不可欠であるという直感に基づいている。

評価・考察

実験では、無関係なトピックを議論したLLM対話群および静的なファクトシートを閲覧した対照群と比較評価を行った。その結果、LLM治療群は双方の実験において陰謀論の信奉度が有意に低下した。 また、介入の1〜2ヶ月後においても、その後の別種の危機的事件に関連する陰謀論への信奉度が低下する持続的な傾向が確認された。

応用例と今後の展望

応用可能性として、SNSプラットフォームやカスタマーサポート、公共機関のヘルプデスク等における、偽情報や誤情報の自動緩和エージェントとしての実装が挙げられる。日本のエンジニアや研究者への実務インパクトとしては、メディアプラットフォームやSNS運営企業において、災害時や突発的な社会的大事件の際に出現する誤情報・陰謀論の拡散を抑制する自動対話システムの設計・評価において、静的ファクトチェックから双方向対話型介入へのシフトを検討する際の科学的根拠となる。今後の課題としては、多言語環境や異なる文化圏における介入効果の再現性の検証が求められる。

結論

本研究は、突発的な社会事件の最中にLLMを用いた双方向の対話を行うことで、リアルタイムな陰謀論の信奉度を効果的に抑制できることを示した。認知的に焦点を当てたスケーラブルな介入手法として、今後の誤情報対策に大きな示唆を与えるものである。

注釈

• LLM: 大規模言語モデル（Large Language Models）の略。膨大なテキストデータから学習された深層学習モデル。
• デバンク（Debunking）：誤った情報や陰謀論などの虚偽性を暴き、否定すること。