ある金融サービス会社が、ローン審査の意思決定にMLモデルを活用することを計画しています。モデルが差別的な判断をしていないかを継続的に監視するために必要な概念として、最も適切なものはどれですか？
- A. バイアス監視は法律で禁止されているため、実施しないことが推奨されている
- B. MLモデルは数学的アルゴリズムに基づくため、人間のバイアスを含むことは原理的に不可能である
- C. AI公平性（Fairness）の観点から、性別・年齢・人種などの属性に基づく偏見（バイアス）をモデルが持っていないか、Vertex AI Model Monitoringなどを活用して継続的に評価する
- D. モデルの予測精度（Accuracy）のみを監視すれば、公平性は自動的に保証される
解答と解説を見る
正解: C
MLモデルは学習データに含まれる過去の偏見（歴史的な差別等）を反映したバイアスを持つ可能性がある。金融サービスではこのようなバイアスが差別的な融資判断につながるリスクがある。Vertex AI Model Monitoringや説明可能なAI（XAI）ツールを活用し、属性グループ間での予測の公平性を継続的に監視することが重要。精度（Accuracy）が高くても特定グループに対して不公平な判断をする場合がある。MLモデルは学習データのバイアスを学習するため、数学的でもバイアスを含む可能性がある。バイアス監視は推奨される（法的要件となる国もある）。
📚 関連サービスの解説: Vertex AI