मॉडल
बेस URL और आवश्यक होने पर API कुंजी से OpenAI-संगत या Anthropic endpoint सेट करें। कनेक्शन जाँचें। स्थानीय मॉडल सर्वर चालू होना चाहिए; दूरस्थ उपकरण अलग से डेटा भेज सकते हैं।
AI के साथ कोड का कार्यक्षेत्र
प्रॉम्प्ट टोकन बजट
मॉडल अनुरोध बनाने से पहले उत्तर के टोकन आरक्षित करें।
● ● ●ModelTrim●
कार्यप्रवाह · प्रॉम्प्ट टोकन बजट ×
const availableInput = contextLimit - outputReserve;
if (inputTokens > availableInput) return reduceContext();
return sendWithinBudget();✳मॉडल अनुरोध बनाने से पहले उत्तर के टोकन आरक्षित करें।
✓ बदलावलागू करने से पहले समीक्षा करें ↗
कार्यक्षेत्र का चित्रण
प्रोजेक्ट
शेष सीमा के ठीक बराबर इनपुट जाँचें और आरक्षण संदर्भ सीमा से बड़ा हो तो रुकें।
लागू करने से पहले समीक्षा करें
वास्तविक व्यवहार की अपेक्षित परिणाम से तुलना करें। जाँच असफल हो तो अगले बदलाव से पहले कारण समझें।
कार्यप्रवाह
const availableInput = contextLimit - outputReserve;
if (inputTokens > availableInput) return reduceContext();
return sendWithinBudget();