ICU死亡予測の解説における単一LLMとエージェント型パイプラインの比較──2,353件のeICUデータで安全性と根拠性を検証

論文概要

ICU（集中治療室）における患者の死亡予測モデルは高い精度を達成しているものの、特徴量アトリビューション手法単体ではベッドサイドでの臨床的な説明文脈を提供することが困難である。本研究では、大規模言語モデル（LLM）と事前に指定されたエージェント型パイプラインを活用し、eICU Demoデータセットの2,353件のICU滞在データ（死亡率8.1%）を用いて死亡予測の解説可能性を検証した。実験では、XGBoostモデルがAUROC 0.855（95% CI 0.796-0.906）、AUPRC 0.332（95% CI 0.217-0.494）を記録し、単一LLMと4段階エージェント型パイプラインのアウトプットを比較評価した。

関連研究

従来、機械学習モデルの予測根拠を説明する手法としてSHAPなどの特徴量重要度が用いられてきたが、臨床現場で直感的に理解できる自然言語のナラティブを直接生成するには至っていなかった。本研究は、単一のLLMによるアプローチと、データ解釈・ガイドラインチェック・最終説明を分離したマルチステップのエージェント型パイプラインを比較し、それぞれの特性を明らかにしている。

新規性と貢献

最大の新規性は、ICU死亡予測の解説において単一LLMアプローチとマルチステップのエージェント型パイプラインの性能と安全性を直接比較した点にある。エージェント型アプローチによりアウトカムの漏洩を防ぎ、ガイドラインの裏付けや値の具体性が向上することを実証した。

提案手法の詳細

データ解釈、ガイドラインチェック、最終説明の各プロセスを分離した4段階の事前指定型エージェント型パイプラインを採用している。これにより、単一のプロンプトで生成する際に生じやすいアウトカムの漏洩や根拠の曖昧さを構造的に抑制する設計となっている。

評価・考察

38例の層化された解説サブセットにおいて、単一LLMが1件の明示的なアウトカム漏洩を引き起こしたのに対し、4段階エージェント型パイプラインでは漏洩が0件であった。SHAPレビューサブセットと重複する14例の比較では、単一LLMがより高いSHAP整合性（平均Jaccard係数 0.171 対 0.077、方向一貫性 92.9% 対 78.6%）を示した一方、エージェント型パイプラインはより高いガイドライン接地性（0.762 対 0.143）、値の具体性（0.236 対 0.143）、およびわずかに高い妥当性（0.700 対 0.671）を示した。この結果は、エージェント分解が安全性関連の裏付けや患者固有の詳細を改善する可能性を示している。

応用例と今後の展望

医療分野における高リスクなリスク解説システムへの応用が考えられる。日本の医療AI・周術期管理システムの研究開発において、AIの予測結果に対する説明性を担保するアーキテクチャ設計の重要なベンチマークとなる。今後は、エージェント分解とアトリビューションベースのチェックを組み合わせた堅牢なリスク解説システムの検証が求められる。

結論

本研究は、ICU死亡予測の解説においてエージェント型パイプラインが安全性とガイドライン接地性を高める一方で、単一LLMは特徴量アトリビューションとの整合性で優位性があることを示した。高リスクな医療応用には、両者の長所を組み合わせた検証が必要である。

注釈

• eICU Demoデータセット: 集中治療室（ICU）の患者データを含む公開ベンチマークデータセット。
• AUROC / AUPRC: 分類モデルの性能評価指標。
• SHAP: 機械学習モデルの予測結果を解釈するための一手法。