ある医療機器メーカーが、医師向けの診断支援 AI を Azure OpenAI Service で構築しています。本番展開前の評価として、Microsoft の責任ある AI フレームワークに基づいて実施すべき重要なアクティビティを2つ選択してください。
- A. モデルが異なる患者の年齢・性別・人種のグループに対して一貫した診断精度を示すか、公平性の観点から検証する
- B. Azure OpenAI Service の利用コストが競合他社と比較して最も低いかどうかのコスト比較分析のみを実施する
- C. 悪意あるユーザーによる誤用シナリオ（誤った診断情報の出力誘導など）を想定したレッドチームテストを実施し、リスク軽減策を検証する
- D. すべての医師ユーザーに AI の出力をそのまま採用するよう求め、人間の判断を排除することで効率性を最大化する
- E. AI の出力の根拠説明を省略し、診断結果のみを提供することで医師の作業効率を最大化する
解答と解説を見る
正解: A, C
医療診断支援 AI の本番展開前評価として、選択肢 A「異なる患者グループ間での公平性検証」は、特定の人口統計グループへのバイアスが命に関わる誤診につながるリスクを評価する上で不可欠です（公平性原則）。選択肢 C「レッドチームテスト」は、悪意ある入力によって誤った診断情報が出力される最悪ケースシナリオを事前に検証し対策するための安全性評価として必須です（安全性・信頼性原則）。選択肢 B は単純なコスト比較のみでは責任ある AI 評価になりません。選択肢 D は人間の判断を排除することであり、医療という高リスク領域では説明責任原則に反し、医師による最終確認は法的にも倫理的にも必須です。選択肢 E は根拠説明の省略であり、透明性・説明責任原則に反します。医療分野では意思決定の根拠を医師が理解できることが不可欠です。