Modellen
Stel een OpenAI-compatibel of Anthropic-endpoint in met de basis-URL en zo nodig een API-sleutel. Test de verbinding. Een lokale modelserver moet actief zijn; externe hulpmiddelen kunnen apart gegevens versturen.
AI-werkruimte voor code
Tokenbudget voor prompts
Reserveer antwoordtokens voordat je een modelverzoek samenstelt.
● ● ●ModelTrim●
Werkprocessen · Tokenbudget voor prompts ×
const availableInput = contextLimit - outputReserve;
if (inputTokens > availableInput) return reduceContext();
return sendWithinBudget();✳Reserveer antwoordtokens voordat je een modelverzoek samenstelt.
✓ WijzigingenControleer vóór het toepassen ↗
Illustratie van de werkruimte
Project
Test de exacte resterende grens en stop als de reserve groter is dan het contextvenster.
Controleer vóór het toepassen
Vergelijk het werkelijke gedrag met het verwachte resultaat. Onderzoek een mislukte controle voordat je verdergaat met wijzigingen.
Werkprocessen
const availableInput = contextLimit - outputReserve;
if (inputTokens > availableInput) return reduceContext();
return sendWithinBudget();