読み進めた見出しを、この端末にしおりとして記録します。
外来で「ChatGPTに聞いたら溶連菌かもしれないと言われました」と話すお母さんが、最近明らかに増えました。夜中に子どもが熱を出して、不安で検索する代わりにAIに聞く。その気持ちはよくわかります。ただ、AIの回答をどこまで信じていいのか。ここを整理しておかないと、かえって判断を誤るリスクがあります。
ChatGPTは医療機器ではありません#
まず前提として、ChatGPTをはじめとする大規模言語モデル（LLM）は医療機器として認可されていません。日本の薬機法でも、米国FDAでも、診断や治療の意思決定に使うことは想定されていない [1]。
ChatGPTの仕組みは「大量のテキストデータから、もっともらしい次の文章を生成する」というものです。つまり医学的な根拠に基づいて判断しているのではなく、それらしい文章を作っているだけです。正しいこともあれば、完全に間違ったことをもっともらしく述べることもある。この現象は「ハルシネーション（幻覚）」と呼ばれています [2]。
どのくらい外すのか。2024年にJAMA Pediatricsに載った研究では、医学雑誌に掲載された小児の症例問題100件をChatGPTに解かせたところ、正しく診断できたのは17件で、83件は誤診でした [3]。研究に使われたのはGPT-3.5という当時のモデルで、その後のモデルは成績が上がっています。それでも「たまに堂々と間違える」という性質そのものは、いまも変わっていません。
そして、この研究で使われたのは、医師向けに整理された症例文です。実際の夜中の相談は、症状が出そろう前の、もっと情報の少ない状態から始まります。条件はもっと厳しいと考えてください。
「今すぐ受診すべきか」をAIに聞くのが最も危険#
僕が一番心配しているのは、緊急性の判断にAIを使うケースです。
子どもが夜中に39度の熱を出した。ぐったりしている。でもChatGPTに聞いたら「水分補給と解熱剤で朝まで様子を見ましょう」と返ってきた。これを信じて朝まで待った結果、髄膜炎の初期サインを見逃す。こういう事態が起こりうるのです。
ChatGPTは目の前の子どもを診ていません。顔色、呼吸のしかた、泣き方の変化、皮膚の張り。小児科医はこれらの身体所見を総合して判断します。しかもその判断材料の多くは、保護者が言葉にできる前の段階にあります。「なんとなくいつもと違う」という感覚は、文章にした時点でだいぶ削れてしまう。テキストだけのやりとりでは、どうしてもこぼれ落ちる情報があります。
以下のサインがあるときは、AIに聞く前に受診してください。
- 3か月未満の発熱（38度以上）
- ぐったりして反応が鈍い
- 呼吸が速い、肩で息をしている
- 水分がまったく摂れない（半日以上尿が出ない）
- 発疹が急速に広がっている
- けいれんが起きた
じゃあ、AIは何に使えるのか#
AIを全否定しているわけではありません。使い方を間違えなければ、保護者にとって頼もしい補助ツールになります。
活用できる場面をまとめます。
一つ目は、一般的な医学知識の整理です。「溶連菌ってどんな病気？」「ロタウイルスワクチンの種類は？」といった一般知識の確認には十分使えます。教科書的な情報の要約は、AIが得意とするところです。
二つ目は、受診前の質問リスト作成です。「子どもがこういう症状のとき、医師に何を伝えるべきか」をAIに聞いておくと、診察がスムーズになります。症状の経過、食事や水分の摂取量、最後の排尿時間。これらを整理しておいてくださると、僕たち小児科医も助かります。
三つ目は、処方された薬の一般情報の確認です。「カロナールって何の薬？」「この薬の一般的な副作用は？」といった確認に使うのは合理的です。ただし、用量の判断は必ず処方医の指示に従ってください。
今後、医療AIはどう変わっていくのか#
医療分野でのAI活用は急速に進んでいます。画像診断の補助、電子カルテの要約、トリアージの支援など、医療者側のツールとしてはすでに実用段階に入っています [4]。
ただし、患者や保護者が直接使う「セルフ診断AI」が安全に機能するためには、まだ超えるべきハードルがたくさんあります。医療機器としての認可、精度の担保、責任の所在。これらが整うまでは「参考情報」の域を出ません。
大切なのは「AIか、医師か」という二択ではなく、「AIで予備知識を得て、医師に相談する」という二段構えです。不安なときに情報を集めること自体は健全な行動です。ただ、集めた情報で自己完結しないこと。最後の判断は、目の前のお子さんを診ている医師に委ねてください。
今号のまとめ#
- ChatGPTは「もっともらしい文章を生成する」ツールであり、医療機器ではない
- 小児の症例100件を解かせた研究では、正診17件に対し誤診83件（GPT-3.5での検証）
- 緊急性の判断（今すぐ受診すべきか）にAIを使うのは最も危険
- 一般知識の整理、受診前の質問リスト作成、処方薬の一般情報確認には活用できる
- 「AIで調べて、医師に相談する」の二段構えが最善
