ある金融機関が、ローン審査に機械学習モデルを導入しました。規制当局から「なぜこの申請者が否決されたのかを申請者本人に説明できるようにせよ」と要求されました。この要件を満たすために最も直接的に役立つ責任ある AI の原則はどれですか？
- A. 堅牢性（Robustness）― 敵対的なサンプルに対してモデルが安定して動作する
- B. 公平性（Fairness）― モデルが特定の属性で差別していないことを確認する
- C. プライバシー（Privacy）― 申請者の個人情報を安全に保護する
- D. 説明可能性（Explainability）― モデルの予測理由を人間が理解できる形で提示できるようにする
解答と解説を見る
正解: D
規制当局が求める「なぜ否決されたか」の説明は、モデルの予測根拠を人間が理解できる形で提示する説明可能性（Explainability）の原則に直接対応します。Amazon SageMaker Clarify の SHAP 値などがこの目的に使われます。Bの公平性は差別の有無を確認するもので、個別判断の説明ではありません。Cのプライバシーはデータ保護の話であり、判断理由の説明とは別の概念です。Aの堅牢性はモデルの安定性に関する原則で、個別判断の透明性とは無関係です。