Mô hình
Cấu hình endpoint tương thích OpenAI hoặc Anthropic bằng URL cơ sở và khóa API nếu cần. Kiểm tra kết nối. Máy chủ mô hình cục bộ phải đang chạy; công cụ từ xa có thể truyền dữ liệu riêng.
Không gian lập trình với AI
Ngân sách token câu lệnh
Dành token trả lời trước khi ghép yêu cầu mô hình.
● ● ●ModelTrim●
Quy trình · Ngân sách token câu lệnh ×
const availableInput = contextLimit - outputReserve;
if (inputTokens > availableInput) return reduceContext();
return sendWithinBudget();✳Dành token trả lời trước khi ghép yêu cầu mô hình.
✓ Thay đổiKiểm tra trước khi áp dụng ↗
Minh họa không gian làm việc
Dự án
Thử đúng giới hạn còn lại và dừng nếu phần dành trước vượt cửa sổ ngữ cảnh.
Kiểm tra trước khi áp dụng
So sánh hành vi thực tế với kết quả mong đợi. Nếu kiểm tra thất bại, tìm nguyên nhân trước khi sửa tiếp.
Quy trình
const availableInput = contextLimit - outputReserve;
if (inputTokens > availableInput) return reduceContext();
return sendWithinBudget();