モデル
OpenAI互換またはAnthropicのエンドポイントを、ベースURLと必要なAPIキーで設定し、接続をテストします。ローカルのモデルサーバーは起動が必要です。リモートツールは別途データを送信する場合があります。
● ● ●ModelTrim●
ワークフロー · プロンプトのトークン予算 ×
const availableInput = contextLimit - outputReserve;
if (inputTokens > availableInput) return reduceContext();
return sendWithinBudget();✳モデルへの要求を組み立てる前に応答用トークンを確保します。
✓ 変更内容適用前に確認 ↗
ワークスペースのイメージ
プロジェクト
残りの上限ちょうどの入力を試し、確保量がコンテキスト枠を超えたら停止してください。
適用前に確認
実際の動作を期待する結果と比較します。検証に失敗した場合は、次の変更を加える前に原因を調べてください。
ワークフロー
const availableInput = contextLimit - outputReserve;
if (inputTokens > availableInput) return reduceContext();
return sendWithinBudget();