MModelTrim
Продукт

Можливості програми · Бюджет токенів запиту

01

Зарезервуйте токени відповіді до формування запиту моделі. Перевірте точну межу залишку та зупинку, коли резерв перевищує вікно контексту.

01

Моделі

Налаштуйте OpenAI-сумісний або Anthropic endpoint із базовою URL-адресою та API-ключем, якщо він потрібен. Перевірте з’єднання. Локальний сервер моделі має працювати; віддалені інструменти можуть окремо передавати дані.

02

Проєкт

Виберіть папку й попросіть помічника прочитати потрібні файли перед редагуванням. Визначте мету та межі завдання.

03

Зміни

Переглядайте зміни й результати команд. Перед прийняттям результату виконайте перевірки проєкту; створений код не тестується автоматично.

Бюджет токенів запиту

● ● ●ModelTrim●
Сценарії · Бюджет токенів запиту ×
const availableInput = contextLimit - outputReserve;
if (inputTokens > availableInput) return reduceContext();
return sendWithinBudget();
✳Зарезервуйте токени відповіді до формування запиту моделі.
✓ ЗміниПеревірте перед застосуванням ↗
Ілюстрація робочого середовища
Робоче середовище з ШІ для коду

Тут починається ваша наступна ідея.

Завантажити для Windows ↗