تشغيل نصوصك البرمجية
يُنشئ الوكيل نصوص التحويل الخاصة بك ويشغّلها، ثم يعرض المخرجات.
المنتج
وكيل كمّنة الشبكات العصبية لنظام Windows
01
ModelTrim هو وكيل مستقل يساعدك في تنفيذ المهام مع نماذج الشبكات العصبية المكمّنة في مشاريعك الخاصة. يشغّل نصوصك البرمجية ويعرض نتائجها الفعلية مباشرة على نظامك.
إدارة الملفات
يقرأ ويكتب ويحرر ملفات بايثون وسجلاتك داخل مجلد الدردشة.
التحقق من النتائج
يشغّل أوامر التقييم الخاصة بك ويعرض رمز الخروج الفعلي والمخرجات.
مميزات تناسب سير عملك
- الملفاتقراءة، كتابة، تعديل، حذف، والبحث عن الملفات مباشرة في مجلد العمل.
- Shellتنفيذ أوامر الطرفية ورؤية رمز الخروج الفعلي والمخرجات.
- الويبالبحث في الإنترنت أو جلب صفحات التوثيق لمكتبتك.
- لقطات الشاشة والصوراستخدام التعرف الضوئي على الحروف (OCR) على لقطات الشاشة أو إنشاء ملفات الصور.
- التنسيقتشغيل وكلاء فرعيين متوازيين أو إرسال خطوات صعبة إلى نماذج أكبر.
- أوضاع الموافقةاستخدام Auto-run، Ask first، أو Plan only للتحكم.
- Cronجدولة المطالبات لتشغيلها تلقائياً وفق جدول زمني محدد.
- النماذجالاتصال بمزود سحابي أو نموذج محلي على جهازك.
كيف يساعد الوكيل
الوكيل لا يقوم بكمّنة النموذج بنفسه؛ بل تقوم بذلك نصوصك البرمجية أو المكتبة.
أنشئ نصاً برمجياً لتقدير حجم الأوزان عند عدد بتات مختلف.
- write_file
size_estimate.pyتم الحفظ - edit_file
size_estimate.pyتم التعديل - Shell
python size_estimate.pyexit 0 - read_file
size_estimate.pyتم القراءة - Shell
python size_estimate.pyexit 0
في انتظار موافقتك قبل الانتقال إلى الخطوة التاليةرفضموافقة
أدلة الاستخدام
تقدير حجم النموذج
تطلب من الوكيل تقدير حجم أوزاء نموذج افتراضي عند 32 و16 و8 و4 بتات، فيستخدم الوكيل write_file لإنشاء نص برمجي يعتمد على العمليات الحسابية البسيطة. يتم تشغيله. تراجع عن النص البرمجي في وضع Ask first قبل قبول التعديلات. يعد التقليم (Pruning) والتقطيع (Distillation) تقنيات منفصلة يمكن دمجها مع الكمّنة. يجب أن تقيس الجودة قبل اختيار مسار الضغط المناسب لنموذجك. يساعدك استكشاف الفرق بين التقليم والكمّنة المنخفضة جداً في تحديد أفضل مسار للضغط. توضح هذه العملية تقنيات كمّنة الشبكات العصبية لفريقك. يتعامل ضغط نماذج التعلم العميق مع مفاضلة بين فقدان بعض الجودة وصغر حجم الملف.
تشغيل نص التحويل
يكتب الوكيل نص التقييم الخاص بك باستخدام write_file، ويعرض وضع Ask first التغييرات (diff) لتراجعها قبل قبولها. Shell يشغّلها. ترى المخرجات الفعلية ورمز الخروج في الدردشة. يضمن ذلك تحكمك في عملية التقييم على نظامك الخاص. عندما تحتاج إلى إرشادات حول الكمّنة، يساعدك الوكيل في قياس الجودة والسرعة. يدعم هذا النهج ضغط نماذج التعلم العميق من خلال الحفاظ على ملف النموذج الأصلي دون تغيير. تظهر الإجراءات في الدردشة كبطاقات مع نتائجها. يمكنك قراءة السجلات باستخدام read_file وgrep للتحقق من البيانات.
ما لا يفعله ModelTrim
ModelTrim ليس خدمة مستضافة أو ملحقاً؛ هو مخصص فقط لملفاتك الخاصة، وجهاز الكمبيوتر والخوادم التي تخول لك استخدامها. لا يقوم بكمّنة النموذج بنفسه، بل يقوم بذلك نص التحويل الخاص بك، ولا يفرض نطاقاً محدداً، لذا تحتفظ بأعمالك الخاصة بنماذجك وأنظمتك، وهو ما قد يدفعك للسؤال عن أفضل نموذج للتدريب الدقيق مع الكمّنة.
