ある採用担当者が、履歴書スクリーニングに使っている機械学習モデルについて「女性候補者の採用推薦率が男性より著しく低い」という報告を受けました。この問題を調査するために最初に取るべきアクションとして、責任ある AI の観点から最も適切なものはどれですか？
- A. Amazon SageMaker Clarify でデータセットと予測結果のバイアス指標を測定・分析する
- B. 採用ターゲットを男女同数に固定するビジネスルールをアプリ層に追加する
- C. モデルのハイパーパラメータを調整して全体の精度を上げる
- D. モデルをすぐに廃止し、手動審査に完全に戻す
解答と解説を見る
正解: A
バイアスの疑いがある場合、まず客観的な指標でバイアスの有無と規模を測定・分析することが責任ある AI の正しい手順です。Amazon SageMaker Clarify はデータセットの偏り（クラス不均衡）や予測バイアス（差分選択率など）を定量化できます。Dのモデル廃止は原因不明のまま問題を放棄しており、根本解決になりません。Bのビジネスルール追加は根本原因（バイアス）を解消せず、別の公平性問題を引き起こす可能性があります。Cの精度向上はバイアス問題とは直接関係なく、精度が高くてもバイアスが残ることがあります。
📚 関連サービスの解説: Amazon SageMaker