Modele
Configurează un endpoint compatibil OpenAI sau Anthropic cu URL-ul de bază și cheia API, dacă este necesară. Testează conexiunea. Serverul local trebuie să ruleze; instrumentele externe pot transmite date separat.
Rezervați tokenuri pentru răspuns înainte de construirea cererii.
const availableInput = contextLimit - outputReserve;
if (inputTokens > availableInput) return reduceContext();
return sendWithinBudget();Configurează un endpoint compatibil OpenAI sau Anthropic cu URL-ul de bază și cheia API, dacă este necesară. Testează conexiunea. Serverul local trebuie să ruleze; instrumentele externe pot transmite date separat.
Testați limita rămasă exactă și opriți cererea dacă rezerva depășește fereastra de context.
Compară comportamentul real cu rezultatul așteptat. Dacă o verificare eșuează, cercetează cauza înainte de alte modificări.
const availableInput = contextLimit - outputReserve;
if (inputTokens > availableInput) return reduceContext();
return sendWithinBudget();