ある開発チームが Amazon Bedrock 上の基盤モデルを使って創作小説の文章生成ツールを開発している。テスト中にモデルの出力がほぼ毎回同じ表現になってしまい、多様な表現が得られないという問題が発生した。最も適切な対処法はどれか。
- A. 最大出力トークン数(maxTokens)を減らす
- B. temperature パラメータの値を下げる
- C. top-p パラメータの値を 0 に設定する
- D. temperature パラメータの値を上げる
解答と解説を見る
正解: D
temperature は出力のランダム性(多様性)を制御するパラメータで、値が高いほどモデルは確率分布のより広い範囲からトークンを選択し、多様な表現を生成する。創作小説のように表現の多様性が求められるユースケースでは temperature を高く(例: 0.8〜1.0)設定するのが適切。Bの temperature を下げると出力がより決定論的になり、同じ表現が繰り返される問題がさらに悪化する。Aの最大トークン数の削減は出力の長さに影響するが、多様性とは無関係。Cの top-p を 0 にすると最も確率の高いトークンのみが選ばれ、出力がさらに固定化してしまい逆効果。