Modele
Dodaj endpoint zgodny z OpenAI lub Anthropic, podając bazowy URL i klucz API, jeśli jest wymagany. Sprawdź połączenie. Lokalny serwer modelu musi działać; zdalne narzędzia mogą przesyłać dane oddzielnie.
Środowisko programowania z AI
Budżet tokenów promptu
Zarezerwuj tokeny odpowiedzi przed złożeniem zapytania do modelu.
● ● ●ModelTrim●
Sposoby pracy · Budżet tokenów promptu ×
const availableInput = contextLimit - outputReserve;
if (inputTokens > availableInput) return reduceContext();
return sendWithinBudget();✳Zarezerwuj tokeny odpowiedzi przed złożeniem zapytania do modelu.
✓ ZmianySprawdź przed zastosowaniem ↗
Ilustracja środowiska
Projekt
Sprawdź dokładną pozostałą granicę i zatrzymaj zapytanie, gdy rezerwa przekracza okno kontekstu.
Sprawdź przed zastosowaniem
Porównaj rzeczywiste zachowanie z oczekiwanym wynikiem. Jeśli sprawdzenie się nie powiedzie, wyjaśnij przyczynę przed kolejnymi zmianami.
Sposoby pracy
const availableInput = contextLimit - outputReserve;
if (inputTokens > availableInput) return reduceContext();
return sendWithinBudget();