ある法律事務所が、過去の判例ドキュメントを PDF 形式で大量に保有しており、弁護士が自然言語で「〇〇事件に類似した過去の判例を教えて」と質問できるシステムを構築したいと考えています。Azure AI プラットフォームで最もコスト効率よく実現できる構成はどれか。
- A. Azure Blob Storage に PDF を格納し、Azure OpenAI Service のモデルにすべての PDF を毎回プロンプトとして渡す
- B. GPT-4 を全判例データでファインチューニングし、質問に直接回答させる
- C. Azure Form Recognizer で PDF を解析し、その結果を毎回 ChatGPT.com に貼り付けて質問する
- D. Azure AI Search でベクトル検索インデックスを構築し、RAG アーキテクチャで関連判例をコンテキストとして渡す
解答と解説を見る
正解: D
Azure AI Search のベクトル検索（セマンティック検索）を使って判例ドキュメントのエンベディングをインデックス化し、質問のエンベディングとのコサイン類似度で関連判例を取得、その内容を Azure OpenAI Service のモデルに渡す RAG アーキテクチャが最もコスト効率に優れた構成です。検索で絞り込むことでプロンプトに含める情報量を最小化できます。選択肢 A は毎回全 PDF をプロンプトに含めるためコンテキスト上限を超え、トークンコストも膨大になります。選択肢 B のファインチューニングは高コストで、新しい判例追加のたびに再トレーニングが必要なため運用負荷が高くなります。選択肢 C は企業データを外部サービスに送信することになりセキュリティ・コンプライアンス上問題があります。