Modele
Dodaj endpoint zgodny z OpenAI lub Anthropic, podając bazowy URL i klucz API, jeśli jest wymagany. Sprawdź połączenie. Lokalny serwer modelu musi działać; zdalne narzędzia mogą przesyłać dane oddzielnie.
Produkt
Funkcje programu · Budżet tokenów promptu
01
Zarezerwuj tokeny odpowiedzi przed złożeniem zapytania do modelu. Sprawdź dokładną pozostałą granicę i zatrzymaj zapytanie, gdy rezerwa przekracza okno kontekstu.
Projekt
Wybierz folder i poproś asystenta o przeczytanie odpowiednich plików przed ich zmianą. Określ cel oraz granice zadania.
Zmiany
Sprawdzaj zmiany i wyniki poleceń. Uruchom testy projektu przed zaakceptowaniem rezultatu; wygenerowany kod nie jest automatycznie przetestowany.
Budżet tokenów promptu
● ● ●ModelTrim●
Sposoby pracy · Budżet tokenów promptu ×
const availableInput = contextLimit - outputReserve;
if (inputTokens > availableInput) return reduceContext();
return sendWithinBudget();✳Zarezerwuj tokeny odpowiedzi przed złożeniem zapytania do modelu.
✓ ZmianySprawdź przed zastosowaniem ↗
Ilustracja środowiska