ある金融機関が、大量の過去取引データを学習した生成AIモデルを使って新しい金融商品の説明文・リスク開示文書を自動作成するシステムを導入しようとしている。この生成AIの利用で最も懸念されるAIリスクはどれか。
- A. 生成AIが生成した文書が自然言語処理モデルによる感情分析で否定的に分類される
- B. 生成AIがリスク開示文書を画像として生成してしまい、テキスト検索ができなくなる
- C. 生成AIが事実と異なる情報や存在しない規制要件を自信をもって記述するハルシネーションが起きる
- D. 生成AIが過去の取引データのパターンを過学習して、将来の市場変動を正確に予測できなくなる
解答と解説を見る
正解: C
生成AIの最も重大なリスクの一つは「ハルシネーション（幻覚）」であり、モデルが事実と異なる情報・存在しない規制・架空の数値などを、まるで正確な情報であるかのように自信を持って生成することがある。金融商品のリスク開示文書に誤情報や架空の規制要件が含まれれば、顧客への誤った説明となり法的リスク・信頼失墜につながる。これはMicrosoftの責任あるAI原則の「信頼性と安全性」にも関係する重大な問題である。選択肢Bは技術的に不正確な説明であり、生成AIはテキスト形式での文書生成が主な用途である。選択肢Dは予測モデルの過学習の問題であり、文書生成AIのリスクとは異なる。選択肢Aは文書品質の懸念としては意味をなさない—感情分析の結果は文書の用途適合性とは無関係である。