ある企業が、住宅ローン審査モデルの公平性を改善するため、学習データの「後処理（Post-processing）」アプローチとして閾値最適化を導入しました。この手法について、責任ある AI の観点から最も正確な説明はどれですか？
- A. 閾値最適化を行うと、すべての公平性指標（DPPL・DI・等化オッズ）を同時に最適化できる
- B. 閾値最適化はモデルの重みを変更せず、グループごとに異なる判定しきい値を設定することで公平性指標を改善するが、精度とのトレードオフが発生する場合がある
- C. 後処理は規制上の観点から常に禁止されており、前処理のみが許容される
- D. 後処理は学習データのバイアスを根本から解消するため、前処理や学習中アプローチより常に優れた選択である
解答と解説を見る
正解: B
閾値最適化（後処理）は、学習済みモデルの出力確率に対してグループごとに異なる判定しきい値を設定し、特定の公平性指標（たとえば DPPL）を改善する手法です。モデルの重みは変更しないため実装が比較的容易ですが、精度・再現率とのトレードオフが生じることがあります。Dはバイアス軽減の方法論（前処理・学習中・後処理）それぞれにトレードオフがあるため誤りです。Aは公平性指標間には相互矛盾が存在し（例: 平等化機会と精度パリティを同時に完全満足できないことがある）、すべてを同時に最適化できるという記述は正確ではありません。Cは法域・規制によって扱いが異なり、「常に禁止」という一般化は誤りです。