仏大学病院、LLM診断支援の架空病名検証──研修医の 44% が存在しない疾患を信用
LLMのハルシネーションが医師の思考に影響する「代理ハルシネーション」を検証し、経験値による受容率の差を明らかに。
リリース: 2026-08-31 · 読了 3 分記事の要約
1. 核心（What）
- Lille University Hospital らの研究チームは、LLMが提示する架空の病名が医師の診断プロセスに与える影響を検証する実験を行った。
- システムプロンプトを操作し、鑑別診断リストの最上位に架空の疾患「ニューロカドミウム症」を含めるよう設計した。
- 計 41 人の医師が脳MRI画像の診断を LLM 支援付きで行い、全体の 44%（18 人）が架空の病名を自身の診断リストに混入させた。
- LLM 支援自体は参加者全体の診断精度を 52% から 61% へ向上させ、受容・拒否グループ間で精度向上幅に差はなかった。
2. 影響（Why）
- 専門性による脆弱性の差異: 経験の浅い医師ほど AI のもっともらしい出力を盲信しやすいため、ドメイン特化型 LLM の導入時には利用者の習熟度に応じたガードレール設計が不可欠になる。
- 国内医療現場への示唆: 国内の総合病院や遠隔画像診断サービスで LLM 支援システムを試行する事業者は、AI のハルシネーションによる誤診誘発リスクを評価指標に組み込む必要がある。
3. 根拠・詳細（How）
- プロンプト操作による実験検証: システムプロンプトの意図的な書き換えにより、鑑別診断のリスト内に架空の「ニューロカドミウム症」を最も確からしい診断として提示させる手法を採用した。
- 被験者属性と受容率の相関分析: 計 41 人の医師を対象にオンラインおよび医療機関内で検証し、神経放射線トレーニング歴 6カ月以下（受容率 69%）と 6カ月超（受容率 0%）の精緻な比較データを取得した。
4. 展望・課題（Next）
- 代理ハルシネーションの概念定義: 研究チームが命名した「Hallucination by proxy」を起点として、他ドメイン（法務や金融など）における人間と AI の相互作用に関する追加検証の広がりが期待される。