ある医療テック企業が、患者の入力テキストから病名候補を提示するチャットボットの開発を検討している。生成 AI の特性を踏まえた上で、このユースケースで最も注意すべきリスクはどれか。
- A. LLM のレスポンス速度が遅すぎて、緊急時に間に合わない可能性がある
- B. モデルが患者情報を外部のインターネットサービスに自動送信してしまう可能性がある
- C. LLM は医療用語を一切理解できないため、病名の提示が技術的に不可能である
- D. ハルシネーションにより、実在しない病名や誤った医療情報を自信をもって提示する可能性がある
解答と解説を見る
正解: D
医療診断支援での生成 AI の最大リスクはハルシネーションである。LLM は確率的テキスト生成を行うため、医学的根拠のない病名・治療法を自信を持って提示する可能性があり、患者の誤った自己診断につながりうる。これは規制・倫理・安全性の面で最も重大なリスクである。Aは誤り：現代の LLM は一般にサブ秒〜数秒のレスポンスタイムであり、レイテンシが最優先リスクではない。Cは誤り：LLM は大量の医療テキストで学習しており、医療用語を理解しないという前提は誤り。Bは誤り：API を適切に使用する限り入力データが外部送信されることは通常なく、これはシステム設計・セキュリティ設定で制御できる問題。