ある病院が患者の入院中の生体データ（心拍数・血圧・体温の時系列）を監視するAIシステムを導入した。このAIは患者が6時間以内に重篤な状態（敗血症など）に移行するリスクを連続的にスコアリングする。Microsoftの責任あるAI原則の「信頼性と安全性」の観点から、このシステムで最も重要な設計要件はどれか。
- A. AIが高リスクと判定した場合でも誤検知率を管理し、システム障害時には人間が代替できる体制を整える
- B. 生体データの収集・利用について患者から同意を取得し、データへの不正アクセスを防止する
- C. AIのリスクスコア算出プロセスを医師が理解できるよう詳細な説明を提供する
- D. 患者の人種・年齢・性別によってリスクスコアに統計的格差が生じないか定期的に検証する
解答と解説を見る
正解: A
「信頼性と安全性（Reliability and Safety）」は、AIが設計通りに一貫して動作し、予期しない状況でも安全な動作を維持し、誤りが患者の命に影響する高リスク環境ではフェイルセーフ設計と人間によるバックアップ体制が不可欠であることを求める。誤検知率（偽陽性・偽陰性）の管理とシステム障害時のフォールバック体制はまさに信頼性と安全性の核心である。選択肢Cはリスクスコアの説明可能性に関するものであり、「透明性」の原則に対応する。選択肢Dはグループ間の格差検証であり「公平性」の実践である。選択肢Bは個人データの保護に関するものであり「プライバシーとセキュリティ」の実践である。