ある開発チームが、社内のFAQデータベースに基づいて正確な回答を生成するチャットボットを構築しています。モデルが学習データにない最新の社内情報を参照して回答できるようにするために最も適切な技術アプローチはどれか。
- A. 検索拡張生成（RAG）を使い、質問に関連する FAQ 文書を検索してプロンプトに含める
- B. プロンプトのテンプレートを工夫するだけで、モデルは自動的に社内データを参照できる
- C. GPT-4 モデルを最新の社内 FAQ データで追加学習（ファインチューニング）する
- D. モデルのコンテキストウィンドウを最大にして全 FAQ データをプロンプトに貼り付ける
解答と解説を見る
正解: A
検索拡張生成（RAG: Retrieval-Augmented Generation）は、ユーザーの質問に関連する文書を外部ストア（Azure AI Search など）から検索し、その内容をプロンプトに付加してモデルに送る手法です。これによりモデルは学習時には存在しなかった最新データにも基づいて回答できます。選択肢 C のファインチューニングはモデルの振る舞いや文体を調整するものであり、知識の最新化には不向きで高コストです。選択肢 D は FAQ が大量の場合コンテキスト上限を超え、コストも膨大になります。選択肢 B はプロンプトエンジニアリングだけではモデルが外部データを参照することは不可能で、事実に反します。