ある製造業の企業が、Azure OpenAI Service を使った生成 AI アプリケーションを本番環境に展開する前に、責任ある AI の観点から実施すべき評価として最も重要なものはどれか。
- A. モデルの推論速度（レイテンシ）とスループットのベンチマークテストのみを実施する
- B. 本番ユーザーにリリースしてからフィードバックを収集し、問題が発生した時点で対処する
- C. Azure OpenAI Service の利用料金が予算内に収まることを確認するだけで、安全性評価は Azure が行うため不要である
- D. 有害コンテンツ生成・プロンプトインジェクション・個人情報漏洩などのリスクシナリオに対してレッドチームテストを実施し、コンテンツフィルターの設定を検証する
解答と解説を見る
正解: D
Microsoft の責任ある AI 原則（公平性・信頼性・安全性・プライバシー・インクルーシブ性・透明性・説明責任）に基づき、本番展開前には有害コンテンツの生成リスク・プロンプトインジェクション攻撃・個人情報漏洩などのシナリオを想定したレッドチームテストが推奨されます。コンテンツフィルターのカテゴリと厳格度の設定もこの段階で検証します。選択肢 A のパフォーマンステストも重要ですが、安全性評価なしで本番展開するのは責任ある AI の観点から不十分です。選択肢 C は誤りで、Azure のコンテンツフィルターはデフォルト設定を提供しますが、アプリケーション固有のリスク評価は開発者の責任です。選択肢 B のリリース後対応は重大なリスクを引き起こす可能性があり、責任ある AI の原則に反します。