-->

⏱️ الوقت المقدر للقراءة: 12 دقيقة

الملخص Unsloth هي مكتبة مفتوحة المصدر تضبط النماذج اللغوية الكبيرة المتطورة بما في ذلك Qwen3 وLlama 4 وGemma 3 وPhi-4 بسرعات أسرع بـ 2x مع توفير يصل إلى 80% من VRAM. مبنية بنواة OpenAI Triton ومحركات الانتشار العكسي اليدوية، تعظم كفاءة الذاكرة بدون فقدان دقة. يوفر الإطار دفاتر مجانية ووثائق شاملة يمكن الوصول إليها للجميع من المبتدئين إلى الخبراء.

ما هو Unsloth؟

Unsloth يمثل مكتبة تحسين مبتكرة للضبط الدقيق للنماذج اللغوية الكبيرة (LLM). طُورت منذ 2023، حصلت على أكثر من 39,000 نجمة على GitHub وأصبحت واحدة من أبرز الإطارات في مجتمع النماذج اللغوية الكبيرة.

الميزات الأساسية

سرعة أسرع بـ 2x: تدريب أسرع بأكثر من 2x مقارنة بنهج Hugging Face + Flash Attention 2 الحالية توفير 80% من الذاكرة: يقلل استخدام VRAM بما يصل إلى 80% بدون فقدان دقة: يحافظ على الحسابات الدقيقة بدون طرق التقريب دعم واسع للنماذج: يدعم Qwen3 وLlama 4 وGemma 3 وPhi-4 وMistral والمزيد التوافق الكامل: يدعم جميع وحدات معالجة الرسوميات NVIDIA منذ 2018 (CUDA Capability 7.0+)

لماذا يجب عليك استخدام Unsloth؟

ابتكار الأداء

يقدم Unsloth أداءً يتجاوز قيود نهج الضبط الدقيق الحالية:

يُظهر الإطار تحسينات ملحوظة عبر أحجام وتكوينات نماذج مختلفة. بالنسبة لنماذج Llama 3.3 (70B)، يحقق Unsloth تحسن سرعة بـ 2x مع توفير أكثر من 75% من VRAM وتحسن 13x لمعالجة السياق الطويل مقارنة بتنفيذات Hugging Face القياسية مع Flash Attention 2. وبالمثل، تُظهر نماذج Llama 3.1 (8B) تحسن سرعة بـ 2x مع توفير أكثر من 70% من VRAM ومعالجة سياق طويل أفضل بـ 12x.

ابتكار طول السياق

يحدث Unsloth ثورة في قدرات طول السياق عبر تكوينات VRAM مختلفة. مع 8GB VRAM، يمكّن الإطار من سياقات 2,972 رمز حيث تواجه النهج القياسية أخطاء نفاد الذاكرة. عند 16GB VRAM، يدعم 40,724 رمز مقارنة بـ 2,551 مع الطرق التقليدية. التحسينات تتوسع بشكل كبير مع تكوينات VRAM أكبر، تصل إلى 342,733 رمز على أنظمة 80GB مقارنة بـ 28,454 مع النهج التقليدية.

النماذج المدعومة

يوفر Unsloth دعماً واسعاً للنماذج اللغوية الكبيرة المتطورة عبر فئات مختلفة:

دعم أحدث النماذج

سلسلة Qwen3: دعم كامل لمتغيرات 4B و14B بما في ذلك وظائف GRPO Llama 4: يتضمن متغيرات Scout وMaverick من Meta Gemma 3 (4B): أحدث جيل نماذج Google Phi-4 (14B): نموذج الجيل التالي من Microsoft DeepSeek-R1: نموذج التفكير المتخصص Mistral v0.3 (7B): متغير الأداء المحسن

الدعم متعدد الوسائط

Llama 3.2 Vision (11B): قدرات معالجة الصورة والنص نماذج TTS/STT: دعم لـ sesame/csm-1b وopenai/whisper-large-v3

طرق التثبيت

التثبيت الأساسي (موصى به)

pip install unsloth

تثبيت Windows

يتطلب مستخدمو Windows متطلبات مسبقة محددة بما في ذلك برامج تشغيل NVIDIA من المصادر الرسمية وVisual Studio C++ مع الخيارات المناسبة وWindows SDK وCUDA Toolkit باتباع الإرشادات الرسمية وPyTorch مع الإصدارات المتوافقة.

التثبيت المتقدم

يدعم الإطار تثبيتات متخصصة لإصدارات CUDA وPyTorch محددة، بما في ذلك تكوينات لـ CUDA 12.1 مع PyTorch 2.4 وCUDA 12.4 مع PyTorch 2.5 وبناءات محسنة لوحدات معالجة الرسوميات Ampere بما في ذلك A100 وH100 وسلسلة RTX 30/40.

دليل البداية السريعة

مثال الضبط الدقيق الأساسي

يوفر الإطار واجهة مبسطة بشكل لا يصدق لعمليات الضبط الدقيق. تتضمن العملية تحميل النماذج المكممة مسبقاً مع تحسين 4-بت وتكوين محولات LoRA مع المعاملات المناسبة وإعداد المدربين مع التكوينات المحسنة وتنفيذ التدريب مع المراقبة الشاملة.

مثال التعلم التعزيزي (DPO)

تقنيات التدريب المتقدمة بما في ذلك تحسين التفضيل المباشر متكاملة بسلاسة في الإطار. يتضمن التنفيذ تحميل النماذج مع التكوينات المناسبة وإعداد مدربي DPO مع بيانات التفضيل وتنفيذ التدريب مع معاملات متخصصة لتعلم التفضيل.

دعم التعلم التعزيزي

يوفر Unsloth دعماً شاملاً لخوارزميات التعلم التعزيزي المختلفة، مع الإدراج الرسمي في وثائق 🤗Hugging Face:

الخوارزميات المدعومة

يدعم الإطار مجموعة واسعة من تقنيات التدريب المتقدمة بما في ذلك تحسين التفضيل المباشر (DPO) وتحسين السياسة النسبية الجماعية (GRPO) وتحسين السياسة القريبة (PPO) وتحسين التفضيل بنسبة الاحتمالات (ORPO) وتحسين كانمان-تفيرسكي (KTO) وتحسين التفضيل البسيط (SimPO) ونمذجة المكافآت وDPO عبر الإنترنت.

دفاتر GRPO

GRPO يمثل طريقة مبتكرة لتدريب التفكير طويل السياق، مما يمكّن تدريب نماذج التفكير بـ 5GB VRAM فقط من خلال تحسين Unsloth.

الابتكار التقني

نواة قائمة على OpenAI Triton

جميع النواة مكتوبة بلغة OpenAI Triton للأداء الأمثل من خلال محركات الانتشار العكسي اليدوية التي تستبدل التفاضل التلقائي بتنفيذات دقيقة وتحسين الذاكرة الذي يلغي الموترات الوسطية غير الضرورية ودمج النواة الذي يجمع عمليات متعددة في نواة واحدة.

الأجهزة المدعومة

يوفر الإطار دعماً شاملاً للأجهزة بما في ذلك جميع وحدات معالجة الرسوميات NVIDIA منذ 2018 (CUDA Capability 7.0+) وأنظمة تشغيل Linux وWindows وتحسين خاص لتكوينات V100 وT4 وسلسلة RTX 20/30/40 وA100 وH100 وL40.

دعم الضبط الدقيق الكامل

بما يتجاوز LoRA، يدعم Unsloth قدرات الضبط الدقيق الكامل مع تفعيل تدريب المعاملات الكاملة والتكميم 8-بت لكفاءة الذاكرة.

الدفاتر والموارد المجانية

يوفر Unsloth مواد تعليمية واسعة للمبتدئين من خلال مجموعات دفاتر شاملة:

دفاتر خاصة بالمنصة

يقدم الإطار دفاتر جاهزة للاستخدام عبر منصات مختلفة مع قدرات البدء الفوري وتحسينات الأداء تتراوح من 1.6x إلى 2x وتوفير الذاكرة 60-80% ودعم معالجة السياق الطويل مع تحسينات تصل إلى 13x.

دفاتر الأغراض الخاصة

تتضمن التطبيقات المتخصصة TTS والرؤية لقدرات تحويل النص إلى كلام ومتعددة الوسائط ودفاتر محسنة لـ Kaggle لبيئات المسابقات وتعاون مجموعة البيانات الاصطناعية مع Meta لتوليد البيانات المتقدم.

الميزات المتقدمة

تصدير النموذج

يمكن تصدير النماذج المدربة إلى تنسيقات مختلفة بما في ذلك GGUF لتوافق llama.cpp وOllama للنشر المحلي وvLLM لخوادم الاستنتاج عالية الأداء وHugging Face لتحميلات مركز النماذج.

إدارة نقاط التفتيش

يوفر الإطار إدارة شاملة لنقاط التفتيش من خلال حفظ محول LoRA وقدرات التدريب المستمر وتحميل النماذج السلس لجلسات التدريب الممتدة.

قوالب المحادثة المخصصة

يمكن للمستخدمين تكوين قوالب محادثة مخصصة لتنسيقات محادثة متخصصة وتطبيقات خاصة بالمجال.

المجتمع والدعم

الموارد الرسمية

يوفر نظام Unsloth البيئي وثائق واسعة من خلال مستودعات GitHub ومواقع ويب رسمية ووثائق wiki شاملة للإرشادات التفصيلية للتنفيذ.

معايير الأداء

تتوفر نتائج معايير مفصلة من خلال منشورات مدونة Llama 3.3 الرسمية مع تحليل الأداء ومعايير 🤗Hugging Face المستقلة للتحقق.

الترخيص

يعمل الإطار تحت رخصة Apache-2.0 مع تراخيص النماذج الفردية التي تتطلب الامتثال لشروط وأحكام النماذج المحددة.

نصائح التنفيذ العملي

تحسين الذاكرة

يمكن تحقيق أقصى توفير للذاكرة من خلال نقاط تفتيش التدرج Unsloth لتوفير إضافي بنسبة 30% وإعدادات إسقاط LoRA المحسنة وتكوين التحيز للأداء المحسن.

معالجة السياق الطويل

تستخدم معالجة السياق الممتد تحجيم RoPE مع قدرات التحجيم التلقائي ودعم السياقات حتى 32,768 رمز مع التحسين الداخلي.

تكوين خاص بـ Windows

تستفيد بيئات Windows من تكوينات استقرار محددة بما في ذلك تحميل البيانات أحادي العملية لمنع تعارضات النظام وإعدادات المدرب المحسنة لتوافق Windows.

استراتيجيات التدريب المتقدمة

نهج التدريب التدريجي

تتضمن المنهجيات المتطورة عمليات تدريب متعددة المراحل تبدأ بالقدرات الأساسية وتعزز أداء النموذج تدريجياً من خلال مراحل تدريب منسقة بعناية. تمكّن هذه النهج من التطوير المنهجي لقدرات التفكير المعقدة مع الحفاظ على استقرار التدريب.

التحسين الخاص بالمجال

يدعم الإطار التحسين المتخصص لمجالات تطبيق مختلفة بما في ذلك تطوير الذكاء الاصطناعي المحادثي وتحسين توليد الكود ومساعدة الكتابة الإبداعية ومعالجة الوثائق التقنية. كل مجال يستفيد من التكوينات المصممة خصيصاً التي تعظم الأداء لحالات الاستخدام المحددة.

تقنيات تعظيم الكفاءة

تتضمن تقنيات الكفاءة المتقدمة الدمج الاستراتيجي لطرق التكميم واستراتيجيات تحسين التدرج ونهج إدارة الذاكرة وتخصيص الموارد الحاسوبية لتحقيق الأداء الأمثل للتدريب ضمن قيود الأجهزة.

اعتبارات النشر الإنتاجي

تخطيط القابلية للتوسع

يتطلب النشر الإنتاجي اعتباراً دقيقاً لمتطلبات الاستنتاج واستراتيجيات تخصيص الموارد وأنظمة مراقبة الأداء وبروتوكولات الصيانة لضمان تقديم الخدمة المتسق.

استراتيجيات التكامل

يتضمن التكامل الناجح الحفاظ على توافق API وتكامل النظام الحالي وتنفيذ المراقبة والتسجيل وبروتوكولات ضمان الجودة للحفاظ على معايير الإنتاج.

مراقبة الأداء

تتتبع أنظمة المراقبة الشاملة تقدم التدريب واستخدام الموارد ومقاييس أداء النموذج ومؤشرات صحة النظام لضمان التشغيل الأمثل طوال دورة حياة النشر.

الخلاصة

يمثل Unsloth أداة ثورية تحول نموذج الضبط الدقيق للنماذج اللغوية الكبيرة. بتحقيق سرعات أسرع بـ 2x وتوفير 80% من الذاكرة بدون فقدان دقة، يدعم المستخدمين عبر جميع مستويات المهارة من المبتدئين إلى الخبراء.

قدرة الإطار على تمكين الضبط الدقيق الفعال للنماذج الكبيرة المتطورة حتى في البيئات المحدودة الموارد لوحدة معالجة الرسوميات تقلل بشكل كبير من حواجز البحث والتطوير في الذكاء الاصطناعي، مما يساهم بشكل مفيد في دمقرطة الذكاء الاصطناعي. مع الدفاتر المجانية والوثائق الشاملة، يمكن لأي شخص مهتم بالضبط الدقيق للنماذج اللغوية الكبيرة البدء بسهولة.

بالنظر إلى أن الشركات التقنية الكبرى بما في ذلك OpenAI وGoogle وMeta قد اعتمدت بالفعل تقنيات PEFT بنشاط، يمثل Unsloth أداة أساسية لأي شخص يشارك في تطوير أو بحث النماذج اللغوية الكبيرة.

إذا كان هذا الدليل مفيداً، يرجى إعطاء Unsloth GitHub نجمة ⭐!

참고