あるチームが LLM の「コンテキストウィンドウ（Context Window）」の制約を考慮しながらアプリケーションを設計している。コンテキストウィンドウとは何を指すか。最も適切な説明はどれか。
- A. モデルをトレーニングする際に使用したデータセットのサイズ（バイト単位）
- B. LLM が1回の推論で参照できる入力と出力を合わせたトークンの最大数
- C. モデルが生成できる1トークンあたりの最大文字数
- D. ユーザーとモデルが同時に実行できる並行セッション数の上限
解答と解説を見る
正解: B
コンテキストウィンドウは、プロンプト（入力）と生成テキスト（出力）の合計トークン数の上限であり、この範囲内に収まる情報しかモデルは参照できない。長い会話履歴・長文ドキュメントを扱う際に制約となる。Aは誤り：それはトレーニングデータセットの規模であり、コンテキストウィンドウとは無関係。Dは誤り：並行セッション数はサービスレベルの制約（スロットリング・クォータ）であり、コンテキストウィンドウではない。Cは誤り：1トークンは平均4〜5文字（英語）であり固定値だが、コンテキストウィンドウはトークンの総数上限を示す概念。