概要

1回の推論でモデルに渡すトークン集合。会話履歴・指示・コード・文書・ツール定義と結果などを含む。
学習コーパスとは別で、その時点の「作業用メモリ」にあたる。
何を載せるかで応答の質が変わり、ウィンドウ上限に達すると切れたり要約が必要になる。

関連

Contents