MModelTrim
Espacio de programación con IA

Presupuesto de tokens del prompt

Reserva tokens de respuesta antes de preparar la solicitud al modelo.

● ● ●ModelTrim●
Flujos de trabajo · Presupuesto de tokens del prompt ×
const availableInput = contextLimit - outputReserve;
if (inputTokens > availableInput) return reduceContext();
return sendWithinBudget();
✳Reserva tokens de respuesta antes de preparar la solicitud al modelo.
✓ CambiosRevisa antes de aplicar ↗
Vista ilustrativa
01

Modelos

Configura un endpoint compatible con OpenAI o Anthropic usando la URL base y, si hace falta, una clave API. Prueba la conexión. Un servidor local debe estar en ejecución; las herramientas remotas pueden enviar datos por separado.

02

Proyecto

Prueba el límite exacto restante y detén la solicitud si la reserva supera la ventana de contexto.

03

Revisa antes de aplicar

Compara el comportamiento real con el resultado esperado. Si una prueba falla, investiga la causa antes de hacer más cambios.

Flujos de trabajo

Presupuesto de tokens del prompt

Flujos de trabajo ↗
Flujos de trabajo
const availableInput = contextLimit - outputReserve;
if (inputTokens > availableInput) return reduceContext();
return sendWithinBudget();
Espacio de programación con IA

Tu próxima idea empieza aquí.

Descargar para Windows ↗