概要

1リクエストでモデルが扱えるトークン数の上限。入力と生成出力が同じ予算を分け合う。
システム指示・履歴・ツール結果・画像などもすべてカウント対象になる。
大きいほど長い資料や会話を一度に見られるが、載せすぎると想起や精度が落ちることがある。

関連

Contents