MModelTrim
Espace de développement avec IA

Budget de tokens du prompt

Réservez les tokens de réponse avant de composer la requête du modèle.

● ● ●ModelTrim●
Méthodes de travail · Budget de tokens du prompt ×
const availableInput = contextLimit - outputReserve;
if (inputTokens > availableInput) return reduceContext();
return sendWithinBudget();
✳Réservez les tokens de réponse avant de composer la requête du modèle.
✓ ModificationsVérifiez avant d’appliquer ↗
Illustration de l’espace de travail
01

Modèles

Configurez un endpoint compatible OpenAI ou Anthropic avec son URL de base et une clé API si nécessaire. Testez la connexion. Un serveur local doit fonctionner ; les outils distants peuvent transmettre des données séparément.

02

Projet

Testez la limite restante exacte et arrêtez si la réserve dépasse la fenêtre de contexte.

03

Vérifiez avant d’appliquer

Comparez le comportement observé au résultat attendu. Si une vérification échoue, cherchez la cause avant de poursuivre les modifications.

Méthodes de travail

Budget de tokens du prompt

Méthodes de travail ↗
Méthodes de travail
const availableInput = contextLimit - outputReserve;
if (inputTokens > availableInput) return reduceContext();
return sendWithinBudget();
Espace de développement avec IA

Votre prochaine idée commence ici.

Télécharger pour Windows ↗