ある教育系スタートアップが、子ども向け AI チュータリングサービスを構築しています。Amazon Bedrock Guardrails を使用して未成年者に不適切なコンテンツが表示されないようにしたいです。設定すべきコンポーネントとして最も適切なものはどれですか？
- A. Amazon Rekognition の有害コンテンツ検出 API でモデル出力をスキャンする
- B. AWS Shield Advanced を有効化して DDoS からサービスを保護する
- C. コンテンツフィルタで「暴力」「性的コンテンツ」「ヘイトスピーチ」を HIGH 強度でブロックし、拒否トピックに年齢不適切なカテゴリを追加する
- D. モデルのシステムプロンプトに「子ども向けコンテンツのみ生成せよ」と記述するだけで十分である
解答と解説を見る
正解: C
Bedrock Guardrails のコンテンツフィルタは暴力・性的コンテンツ・ヘイトスピーチ等の有害カテゴリごとにブロック強度を NONE/LOW/MEDIUM/HIGH で設定でき、子ども向けサービスでは HIGH に設定するのが適切です。拒否トピックと組み合わせることで多層的な保護が実現できます。Dのシステムプロンプトだけでは、プロンプトインジェクション攻撃や意図しない生成を防ぐ技術的な安全装置がなく、信頼性が低い。AのRekognition は画像・動画の有害コンテンツ検出であり、テキストのリアルタイムフィルタには適していません。BのAWS Shield Advanced はDDoS防御サービスであり、コンテンツ安全性とは無関係です。