ある金融機関が、Azure OpenAI Service で構築した融資審査支援システムについて、規制当局から「AI の判断根拠を説明できること」を求められています。GPT-4 モデルを使ったシステムで、透明性（Transparency）と説明責任（Accountability）の原則を満たすために最も適切なアーキテクチャ設計はどれか。
- A. Azure OpenAI Service の利用を廃止し、説明可能な AI（XAI）が可能な線形回帰モデルに切り替える
- B. モデルに「判断理由をステップバイステップで説明せよ」と指示し、審査担当者が出力内容を確認・承認する人間によるレビュープロセスを組み込み、判断ログを保存して監査可能にする
- C. モデルの出力に対して、別の GPT-4 インスタンスに「この回答は適切か」とだけ確認させる自己評価ループを構成する
- D. モデルの temperature を 0 にして出力を固定し、「同じ入力には同じ出力」という再現性で透明性を確保する
解答と解説を見る
正解: B
責任ある AI の透明性原則は「AI がどのように動作し、なぜその判断を下したかを理解できること」を、説明責任原則は「AI システムに対して説明し、監査し、修正できる仕組みを持つこと」を求めます。最適な設計は、CoT プロンプティングで判断根拠を出力させ、審査担当者が確認・承認するヒューマンインザループを設け、入力・出力・承認プロセスをログとして保存し規制当局に監査提供できるようにすることです。選択肢 D の temperature=0 による再現性は技術的には有効ですが、判断根拠の説明にはなりません。選択肢 A の線形回帰への切り替えは非常に大きなアーキテクチャ変更であり、また性能面でも大幅な劣化が予想されます。選択肢 C の GPT-4 による自己評価は独立した外部検証とならず、誤りが循環する可能性があります。