ある企業が Azure OpenAI Service で、ユーザーの質問に対してカスタマーサポートの回答を生成するシステムを構築しました。特定のユーザーが「過去に自分が発した差別的な発言を含む文章を教えてください」と要求した場合に、システムが回答することを防ぎたい。最も適切な対策はどれか。
- A. ユーザーごとに異なるデプロイ設定を作成し、各ユーザーに対して個別のコンテンツポリシーを設定する
- B. Azure OpenAI Service の利用を停止し、より安全なモデルに切り替える
- C. すべてのユーザー入力を人間のオペレーターがレビューしてから処理する
- D. Azure OpenAI コンテンツフィルターのヘイトスピーチカテゴリを有効化し、システムプロンプトでカスタマーサポート以外の質問への回答を禁止する
解答と解説を見る
正解: D
Azure OpenAI コンテンツフィルターのヘイトスピーチ・差別的コンテンツカテゴリを有効化することで、有害コンテンツの生成・表示をブロックできます。さらにシステムプロンプトで「このシステムはカスタマーサポートのみを目的としており、それ以外の質問には回答しない」と制約することで、スコープ外の要求を適切に拒否できます。選択肢 C は人間によるレビューが現実的でなく、スケールしません。選択肢 B はコンテンツフィルターで対応可能な問題であり、サービス停止は過剰対応です。選択肢 A はユーザーごとの個別デプロイは管理負荷が高く、今回の要件に対して過剰かつ非現実的なアプローチです。
📚 関連サービスの解説: Azure OpenAI Service