ある医療AI企業が患者の診断支援AIを開発し、AIが推奨した治療法で患者に重大な副作用が生じた。調査の結果、AIの判断が間違っていたが、誰が最終的な責任を負うべきかが不明確だった。Microsoftの責任あるAI原則において、このような問題に対処する原則はどれか。
- A. アカウンタビリティ：AI開発・運用に関わる人間が成果と結果に責任を持つ仕組みを構築する
- B. 透明性：AIがどのような根拠で治療法を推薦したかを医師に説明できるようにする
- C. 信頼性と安全性：AIが正確な診断を出せるよう継続的にモデルを改善する
- D. 公平性：AIが特定の患者グループに偏った診断を出さないようにする
解答と解説を見る
正解: A
AIの判断に起因する医療事故において責任の所在が不明確になる問題は「アカウンタビリティ（Accountability）」の原則が対処すべき課題である。アカウンタビリティは、AIシステムの開発・展開・運用に関わる人間（開発者・医療機関・医師等）が、AIの動作とその影響に対して明確な責任を持ち、適切な監視・管理・是正の仕組みを整えることを求める。選択肢Cの「信頼性と安全性」はモデルの性能改善には関係するが、責任の所在を明確にする仕組みそのものではない。選択肢Dの「公平性」は偏りに関するものであり、責任の所在とは別の問題である。選択肢Bの「透明性」は説明可能性に関するものであり、アカウンタビリティの仕組みとは別次元の原則である。