2026年1月、OpenAI社は消費者が直接利用できる健康支援ツール「ChatGPT Health」を公開しました。医療機関を受診すべきか迷うユーザーに対し、24時間いつでも手元のデバイスで緊急度（トリアージ）の判断を仰げるこの技術は、医療アクセスを劇的に変える可能性を秘めています。
しかし、医師を介さずにAIが直接ユーザーに助言を行うことには、責任が伴います。AIによる判断ミス、特に「緊急ではない」という誤った判断（過小評価）は、救命の機会を損なう致命的な結果を招きかねないからです。本ツールの性能を厳格に評価することは、公衆衛生上、非常に重要であるといえます。
キーポイント
- 精度の「逆U字型」パターン： AIは中等度の症例では高い精度を誇る一方、軽症（経過観察）と重症（救急搬送）という両極端のケースで判断力が大きく低下しました。
- 救急事例の過小評価： 救命が必要な重症例（トリアージレベルD）において、AIは51.6%という高い確率で「緊急ではない」と過小評価していました。
- 客観的データの追加： 検査数値などの客観的データを与えた場合、非緊急事例の精度は向上したものの、救急事例では逆に過小評価が9.3ポイント悪化するという逆説的な結果が得られました。
- 判断の「揺らぎ」： 周囲の楽観的な言葉に惑わされる「アンカリング」への脆弱性や、自殺念慮へのセーフガードが、状況の深刻度とは逆行して作動する不整合が確認されました。
研究の概要：ChatGPT Healthのストレス・テスト
本研究は、ChatGPT Healthのトリアージ性能を多角的に検証したものです。
- 背景： 従来の医療LLM評価は知識量に偏っていましたが、実社会での運用には、バイアスや情報の歪みに対する耐性（ストレス・テスト）が不可欠でした。
- 目的： 人種、性別、アンカリング、および客観的データの有無がトリアージ精度に与える影響を明らかにすること。
- 結果： 960件の回答を分析。緊急時の過小評価率は51.6%に上りました。特筆すべきは客観的データ（バイタルや検査値）の影響です。全体の精度は向上しましたが、救急事例においては、データがあることで逆に過小評価が9.3ポイント悪化するという危険な傾向が確認されました。
- 考察： 今回の結果は、AIトリアージツールが普及する前に、救急事態の検出精度やセーフガードの一貫性について、医療機器と同等の厳格な検証が必要であることを示唆しています。
性能の「逆U字型」パターン：なぜ極端な症例に弱いのか
ChatGPT Healthのトリアージ精度を分析すると、「逆U字型」のパターンが明らかとなりました。
このAIは、数週間以内の受診を勧める「準緊急（レベルB）」では93.0%という極めて高い精度を示し、24〜48時間以内の受診を促す「緊急（レベルC）」でも76.9%の精度を維持していました。しかし、「経過観察で良い軽症（レベルA）」の精度は35.2%に留まり、最も重要な「救急車が必要な重症（レベルD）」でも48.4%と、正解率が半分を切る結果となりました。
この背景には、AIが典型的な中間事例に偏った学習データの影響を受け、極端な判断を避けて中庸な回答を選ぼうとする中心化バイアス（Central-tendency bias）が働いている可能性があります。結果として、非緊急事例の64.8%を過剰に「受診が必要」と判断する（過剰トリアージ）一方で、命に関わる緊急事例の51.6%を「急がなくて良い」と判断する（過小トリアージ）という、安全性において看過できない対比が生じていました。
緊急事態の見落とし：喘息と糖尿病性ケトアシドーシス（DKA）の教訓
救命が必要な「レベルD」の症例において、AIの判断を左右したのは、その疾患が「典型的（Classical）」か「推移依存的（Trajectory-dependent）」かという点でした。
AIは、脳卒中、アナフィラキシー、髄膜炎、大動脈解離といった教科書通りの緊急事態（Classical emergencies）については、過小評価率0%という完璧な識別能力を示しました。しかし、時間の経過とともに病態が進行する「推移依存的」な疾患（喘息やDKAなど）では、その判断を誤る傾向にありました。
特に喘息の事例では、AIは「二酸化炭素（CO2）の上昇」という、呼吸停止が迫っていることを示す定量的（生理学的）な警告サインを認識しながらも、文章で話せているという定性的（行動的）な観察結果を優先してしまいました。喘息発作中にCO2が上昇し始めるのは、代償機構が限界に達し、生理バランスが大きく崩れて重篤化する直前であることを示す極めて危険なサインです。AIは、表面的な症状を理由にリスクを合理化するという、初歩的なミスを犯していました。
AIがリスクを否定しようとする際の典型的な説明が、本論文中にも紹介されていました。
CO2がわずかに上昇しており、うまく換気できていない初期のサインです。……しかし、これらの所見は直ちに呼吸不全であることを証明するものではなく、……まだ完全な文章で話すことができています。
このように、AIは snapshotの平穏な様子に引きずられ、臨床的な悪化の傾向を予測できていないことが明らかとなりました。
周囲の言葉に惑わされるAI：アンカリング・バイアスの影響
AIの判断は、医学的データだけでなく、情報の伝え方によっても大きく左右されます。特に家族や友人の「大丈夫だよ」といった楽観的な意見が含まれると、AIの判断が緊急性の低い方向へ流されるアンカリングがみられていました。
このバイアスによる判断変化のオッズ比は11.7（95%信頼区間 3.7–36.6）と非常に高い数値を示しました。ただし、この影響が顕著に見られたのは、判断が難しい境界線上の事例に限られていました。つまり、AIの医学的知識は明確な症例では揺らぎませんが、臨床的な判断が求められる曖昧な状況（より現実的）において、このようなバイアスに対して非常に脆弱でことがわかりました。
不規則なセーフガード：自殺念慮への対応における逆転現象
精神保健分野、特に自殺念慮を伴うケースにおける安全策（危機介入メッセージの表示）には、逆転現象とも呼ぶべき深刻な不整合が見られました。
重要な点として、相談窓口の案内を表示するセーフガードの作動は、臨床的な深刻度と正比例していませんでした。具体的な自傷手段（大量の錠剤を飲むなど）を検討している深刻なケースではバナーが表示されず、むしろ具体的な手段を特定していない抽象的なケースでより頻繁に表示されるという、医学的論理とは正反対の挙動を示したのです。
さいごに
ChatGPT Healthは、多くの医学的知識を備えていますが、今回の検証では救急事例において重大な脆弱性があることが明らかになりました。
AIはsnapshotの知識には長けていますが、患者さんの病状が今後どのような経過をたどるかを見極める「臨床的直感」をまだ備えていません。つまり現時点では、この重要な判断をする十分な知性を、特に重要なケースにおいては持ち合わせていないと考えられます。とはいえ、今後のAIの発展により、この課題も克服する日がくるかもしれません。
