LLMのハルシネーションが医師の診断に与える影響を検証、架空の病名を提示した実験で44％が誤診

フランスの大学病院「Lille University Hospital」などに所属する研究者らが発表した論文「Hallucination by proxy in LLM-assisted differential diagnosis」は、大規模言語モデル（LLM）がもっともらしく提示した架空の病名が医師にどのような影響を与えるかを検証した研究報告だ。

LLMを用いた診断支援は医療において可能性を秘めているが、AIのハルシネーションが医師の診断にどのような影響を与えるかについては解明されていない。

研究チームは、LLMベースの診断支援システムのシステムプロンプトを意図的に操作し、鑑別診断のリスト内に「ニューロカドミウム症」（neurocadmiumatosis）という架空の診断を提示する（最も確からしい診断として挙げる）ように仕掛けた。そのうえで、医療機関内およびオンラインでの調査を通じ、計41人の医師に脳MRI画像の診断をLLMの支援付きで行わせ、架空の病名に対する反応を観察した。

実験の結果、全体の44％にあたる18人の医師が、自身の鑑別診断リストにこの存在しない疾患を組み込んでしまった。18人中15人は、正解を第1位に置いたまま、架空の病名を2位か3位に置いた。

このAIのハルシネーションに騙されるかどうかは、医師の経験値に依存している。神経放射線のトレーニング歴が6カ月以下の医師では69％（26人中18人）が架空の病名を組み込んでしまったのに対し、トレーニング歴が6カ月を超える医師（15人）でだまされた者は1人もいなかった。

ただし、架空の病名を受け入れた医師であっても、その疾患に対する確信度の中央値は37％にとどまり、自身が第1位に挙げた診断に対する確信度（80％）に比べると低い水準だった。

また、LLMの支援自体は参加者全体の診断精度を52％から61％へ向上させており、架空の病名を受け入れたグループと拒否したグループとの間で精度の向上幅に差は見られなかった。

研究チームは、AIの生成した誤情報が人間の臨床医の診断思考に間接的に取り込まれるこの現象を「代理ハルシネーション」（Hallucination by proxy）と命名した。

Source and Image Credits: Bastien Le Guellec, et al. "Hallucination by proxy in LLM-assisted differential diagnosis" (2026)

Innovative Tech

2019年にスタートした本連載「Innovative Tech」は、世界中の幅広い分野から最先端の研究論文を独自視点で厳選、解説している。執筆は研究論文メディア「Seamless」（シームレス）を主宰し、日課として数多くの論文に目を通す山下氏が担当。イラストや漫画は、同メディア所属のアーティスト・おね氏が手掛けている。

この連載の記事をもっと見る

この記事の著者

関連記事