ある組織が AI システムを開発しており、責任ある AI のフレームワークを実装したいと考えています。以下の取り組みのうち、「透明性（Transparency）」の原則に直接対応するものを2つ選択してください。
- A. モデルの学習データの来歴・既知の限界・意図するユースケースを記載したモデルカードを作成し、内外のステークホルダーに公開する
- B. モデルを Amazon S3 バケットに暗号化して保存し、不正アクセスを防ぐ
- C. SageMaker Clarify の SHAP 値を使って、個々の予測においてどの特徴量が最も影響したかを説明できるようにする
- D. 学習データのクラス不均衡を解消するためにオーバーサンプリング処理を行う
- E. モデルの推論エンドポイントに IAM ポリシーで最小権限アクセスを設定する
解答と解説を見る
正解: A, C
透明性（Transparency）は、AI システムの動作・判断根拠・限界をステークホルダーが理解できる形で開示する原則です。A のモデルカードは学習データ・性能・限界を文書化して公開するものであり、透明性の代表的な実践です。C の SHAP 値による説明は、個々の予測がどの特徴量によって導かれたかを明示する説明可能性（Explainability）の実践であり、透明性と密接に関連します。D のオーバーサンプリングは公平性（Fairness）対策であり透明性ではありません。B のS3 暗号化はセキュリティ（Security）の取り組みです。E の IAM 最小権限はセキュリティのベストプラクティスであり、透明性の原則には直接対応しません。
📚 関連サービスの解説: Amazon SageMaker