ある企業がAI採用スクリーニングシステムを導入した。システムは履歴書のテキストを解析して候補者をランク付けするが、訓練データに過去10年間の採用実績（男性優位の職場）が含まれていたため、女性候補者が低くランク付けされる傾向が検出された。この問題に対処するために、Microsoftの責任あるAI原則の「公平性」に基づいて最も適切な対策はどれか。
- A. 訓練データから性別に関連するバイアスを除去し、公平性メトリクスを用いてモデルを評価・改善する
- B. 候補者にシステムがどのような基準でランク付けを行うかを開示して説明する
- C. システムの判断ログをすべて記録し、問題発生時に誰が責任を持つかを明確にする
- D. AIの最終決定を人間の採用担当者が必ず確認するレビュープロセスを導入する
解答と解説を見る
正解: A
採用データの性別バイアスが原因でAIが不公平な判断を下す問題は「公平性（Fairness）」の核心課題であり、対処法はバイアスの源泉となる訓練データの修正とモデルの公平性評価・改善である。具体的には、性別に相関する特徴量の除去（公平性制約）、均衡データセットの構築、統計的公平性メトリクス（男女間の合格率差など）によるモデル評価が求められる。選択肢Cはアカウンタビリティ（責任の明確化）の実践であり、バイアスそのものを除去しない。選択肢Bは透明性（説明可能性）の実践であり、バイアス問題の開示にはなるが公平性の改善措置ではない。選択肢Dはアカウンタビリティ（人間による監視）の実践として有効だが、AIのバイアス自体を修正する公平性原則への直接的な対応ではない。