ある企業が Azure OpenAI Service を使った文書要約システムを構築しました。テスト中に、モデルが実際には存在しない事実を自信満々に生成することを発見しました。この現象を正しく表す用語はどれか。
- A. オーバーフィッティング
- B. ハルシネーション(幻覚)
- C. プロンプトインジェクション
- D. データドリフト
解答と解説を見る
正解: B
ハルシネーション(幻覚)とは、生成 AI モデルが実際には正しくない情報や存在しない事実を、あたかも確かであるかのように生成してしまう現象です。LLM の特性上完全に排除することは難しく、責任ある AI 設計ではグラウンディングや RAG でこのリスクを軽減します。選択肢 A のオーバーフィッティングは訓練データに過度に適合し汎化性能が低下する現象で、今回の状況とは異なります。選択肢 C のプロンプトインジェクションは悪意ある入力でモデルを誘導する攻撃手法です。選択肢 D のデータドリフトは運用中にデータの分布が変化する問題で、ハルシネーションとは別の概念です。