Modellen
AI-modellen en API-instellingen · Tokenbudget voor prompts
02
Stel een OpenAI-compatibel of Anthropic-endpoint in met de basis-URL en zo nodig een API-sleutel. Test de verbinding. Een lokale modelserver moet actief zijn; externe hulpmiddelen kunnen apart gegevens versturen. Reserveer antwoordtokens voordat je een modelverzoek samenstelt. Test de exacte resterende grens en stop als de reserve groter is dan het contextvenster.
Uncensored, unfiltered en abliterated beschrijven modellen die je via een compatibel endpoint kunt verbinden. Niet elke aanbieder accepteert ieder verzoek. Controleer de licentie, serverinstellingen en hulpmiddelen.
ModelTrim→API endpoint→Modellen