概要
Strands でプロンプトキャッシュの置き方を指定する設定クラス。
strategy="auto" なら対応モデルを検出し、システムプロンプトなどにキャッシュポイントを自動挿入する。
Bedrock 上の Claude 系などで繰り返し同じ接頭辞を使うとき、入力トークン費用を下げやすい。
GPT 系などキャッシュ非対応のモデルでは auto では効かない(必要なら戦略やモデル側の制約を確認する)。
Strands でプロンプトキャッシュの置き方を指定する設定クラス。
strategy="auto" なら対応モデルを検出し、システムプロンプトなどにキャッシュポイントを自動挿入する。
Bedrock 上の Claude 系などで繰り返し同じ接頭辞を使うとき、入力トークン費用を下げやすい。
GPT 系などキャッシュ非対応のモデルでは auto では効かない(必要なら戦略やモデル側の制約を確認する)。