الدليل الشامل لنماذج Llama 4: Scout وMaverick وBehemoth

أطلقت Meta مؤخرًا Llama 4، وهو جيل جديد من نماذج الذكاء الاصطناعي مفتوحة المصدر يعيد تعريف معايير القطاع. تضم هذه العائلة من النماذج كلًّا من Scout وMaverick وBehemoth، وقد صُمم كل منها لحالات استخدام محددة، وهي تمثل تقدمًا كبيرًا مقارنةً بـ Llama 3.

نظرة عامة على نماذج Llama 4

تشكّل نماذج Llama 4 من Meta مجموعة من النماذج المفتوحة ومتعددة الوسائط وعالية الكفاءة. والأكثر إثارة للإعجاب هو Llama 4 Maverick الذي تجاوز عتبة 1400 نقطة في معيار LMarena، متفوقًا على نماذج مثل GPT-4o وDeepSeek V3 وGemini 2.0 Flash وغيرها الكثير.

ومن أبرز ما يميز هذه النماذج قدرتها على التعامل مع سياقات تصل إلى 10 ملايين توكن، وهي أطول نافذة سياق بين جميع نماذج LLM مفتوحة المصدر حتى اليوم.

النماذج الثلاثة وخصائص كل منها

Llama 4 Scout: صغير وسريع وذكي

Scout هو النموذج الأكثر كفاءة في عائلة Llama 4. وهو نموذج خفيف وسريع، مثالي للمطورين والباحثين الذين لا يملكون إمكانية الوصول إلى موارد GPU كبيرة.

الخصائص الرئيسية:

• البنية: يعتمد Scout بنية Mixture of Experts (MoE) مع 16 خبيرًا، ولا يُفعّل منهم سوى خبيرين في كل مرة، مما ينتج عنه 17 مليار معامل نشط من أصل 109 مليارات. ويدعم نافذة سياق بحجم 10 ملايين توكن.
• الكفاءة: يعمل النموذج بكفاءة على وحدة GPU واحدة من طراز H100 بفضل التكميم Int4، مما يجعله خيارًا عالي الأداء وبتكلفة معقولة.
• الأداء: يتفوق Scout على منافسيه مثل Gemma 3 وGemini 2.0 Flash-Lite وMistral 3.1 في مختلف المعايير.
• التدريب: دُرّب مسبقًا على 200 لغة (منها 100 لغة بأكثر من مليار توكن لكل منها) وعلى بيانات متنوعة من الصور والفيديو، ويدعم ما يصل إلى 8 صور في كل prompt.
• التطبيقات: بفضل قدراته المتقدمة في الاستدلال البصري، يُعد Scout مثاليًا لروبوتات المحادثة ذات الذاكرة الطويلة، وأدوات تلخيص الشيفرة البرمجية، والروبوتات التعليمية، والمساعدات المحسّنة للأجهزة المحمولة أو المضمّنة.

Llama 4 Maverick: قوي وموثوق

Maverick هو النموذج الرائد مفتوح المصدر في العائلة. صُمم للاستدلال المتقدم والبرمجة والتطبيقات متعددة الوسائط. ورغم أنه أقوى من Scout، فإنه يحافظ على كفاءة جيدة بفضل استراتيجية MoE نفسها.

الخصائص الرئيسية:

• البنية: يعتمد Maverick بنية MoE مع 128 خبيرًا موجَّهًا وخبير مشترك واحد، ولا يُفعّل سوى 17 مليار معامل من أصل 400 مليار أثناء الاستدلال. دُرّب باستخدام دمج مبكر لمدخلات النص والصورة، ويدعم ما يصل إلى 8 صور كمدخلات.
• الكفاءة: يعمل النموذج بكفاءة على مضيف H100 DGX واحد، ويمكن أيضًا توزيعه على عدة وحدات GPU.
• الأداء: يحقق Maverick درجة ELO تبلغ 1417 في معيار LMSYS Chatbot Arena، متفوقًا على GPT-4o وGemini 2.0 Flash، ومعادلًا DeepSeek v3.1 في الاستدلال والبرمجة والقدرات متعددة اللغات.
• التدريب: بُني بتقنيات متطورة مثل تحجيم المعاملات الفائقة MetaP، والتدريب بدقة FP8، ومجموعة بيانات تضم 30 تريليون توكن. ويوفر فهمًا قويًا للصور، واستدلالًا متعدد اللغات، وأداءً مجديًا من حيث التكلفة يتفوق على نموذج Llama 3.3 70B.
• التطبيقات: تجعله نقاط قوته مثاليًا للبرمجة التعاونية بالذكاء الاصطناعي، وفهم المستندات على مستوى المؤسسات، وأنظمة التدريس التعليمية.

Llama 4 Behemoth: النموذج المعلّم

Behemoth هو أكبر نموذج من Meta حتى الآن. وهو غير متاح للاستخدام العام، لكنه لعب دورًا حاسمًا في تطوير Scout وMaverick.

الخصائص الرئيسية:

• البنية: يعتمد Behemoth بنية MoE مع 16 خبيرًا، ويُفعّل 288 مليار معامل من أصل ما يقارب 2 تريليون أثناء الاستدلال. وهو متعدد الوسائط بطبيعته، ويتفوق في الاستدلال والرياضيات والمهام التي تجمع بين الرؤية واللغة.
• الأداء: يتفوق Behemoth باستمرار على GPT-4.5 وClaude Sonnet 3.7 وGemini 2.0 Pro في معايير STEM مثل MATH-500 وGPQA Diamond وBIG-bench.
• الدور: يؤدي دورًا محوريًا بوصفه نموذجًا معلّمًا، إذ يوجّه Scout وMaverick عبر التقطير المشترك (co-distillation) باستخدام دالة خسارة مبتكرة توازن بين الإشراف الناعم والإشراف الصلب.
• التدريب: دُرّب النموذج بدقة FP8، مع توازٍ MoE محسّن يوفر مكاسب في السرعة تفوق Llama 3 بعشر مرات، واستراتيجية جديدة للتعلم المعزز. ويشمل ذلك أخذ عينات من prompts الصعبة، وبناء دفعات متعددة القدرات، وأخذ عينات من تعليمات نظام متنوعة.

الابتكارات التقنية في نماذج Llama 4

التدريب المسبق

يشكّل التدريب المسبق أساس معارف النموذج وقدراته. وقد قدمت Meta عدة ابتكارات في هذه المرحلة:

• البيانات متعددة الوسائط: دُرّبت نماذج Llama 4 على أكثر من 30 تريليون توكن من مجموعات بيانات متنوعة من النصوص والصور والفيديو. وهي متعددة الوسائط بطبيعتها، إذ تعالج اللغة والرؤية معًا منذ البداية.

• Mixture of Experts (MoE): لا يُفعَّل أثناء كل عملية استدلال سوى جزء من إجمالي معاملات النموذج. ويتيح هذا التوجيه الانتقائي للنماذج الضخمة مثل Maverick (400 مليار معامل) وBehemoth (~2 تريليون) أن تكون أكثر كفاءة.

• بنية الدمج المبكر: تُدرَّب مدخلات النص والرؤية معًا باستخدام الدمج المبكر، مما يدمجهما في بنية نموذج مشتركة.

• ضبط المعاملات الفائقة MetaP: تتيح هذه التقنية الجديدة لـ Meta تحديد معدلات تعلّم لكل طبقة ومقاييس تهيئة تنتقل بشكل جيد بين أحجام النماذج وإعدادات التدريب المختلفة.

• دقة FP8: تستخدم جميع النماذج FP8 في التدريب، مما يزيد كفاءة الحوسبة دون التضحية بجودة النموذج.

• بنية iRoPE: نهج جديد يستخدم طبقات انتباه متداخلة دون embeddings موضعية، مع تحجيم درجة الحرارة وقت الاستدلال، مما يساعد Scout على التعميم للمدخلات الطويلة جدًا (حتى 10 ملايين توكن).

ما بعد التدريب

بعد تدريب النماذج الأساسية، جرى صقلها وفق تسلسل مدروس بعناية:

• الضبط الدقيق الخفيف بالإشراف (SFT): رشّحت Meta الـ prompts السهلة باستخدام نماذج Llama كحَكَم، ولم تستخدم سوى الأمثلة الأصعب لتحسين الأداء في مهام الاستدلال المعقدة.

• التعلم المعزز (RL): نُفّذ تدريب RL مستمر باستخدام prompts صعبة، وترشيح تكيفي، وتصميم منهج تدريبي للحفاظ على قدرات الاستدلال والبرمجة والمحادثة.

• تحسين التفضيلات المباشر (DPO): بعد RL، طُبّق DPO خفيف لصقل الحالات الخاصة وجودة الإجابات، مع تحقيق التوازن بين الفائدة والأمان.

• التقطير المشترك من Behemoth: عمل Behemoth معلّمًا عبر توليد مخرجات لتدريب Scout وMaverick. بل قدمت Meta دالة خسارة مبتكرة لموازنة أهداف الإشراف الناعم والصلب ديناميكيًا.

أنتجت هذه المراحل نماذج ليست كبيرة فحسب، بل محسّنة بعمق، وأكثر أمانًا وقدرة في مختلف المهام.

الأداء والمعايير

حقق Llama 4 Maverick مؤخرًا المرتبة الثانية في الترتيب العام، ليصبح المؤسسة الرابعة التي تتجاوز 1400+ في Arena! وفيما يلي أبرز النقاط:

• نموذج مفتوح يتفوق على DeepSeek
• تعادل في المرتبة الأولى في الـ prompts الصعبة والبرمجة والرياضيات والكتابة الإبداعية
• قفزة هائلة مقارنةً بـ Llama 3 405B: من 1268 إلى 1417
• خاضع للتحكم في الأسلوب

في الرسم البياني الذي يقارن ELO بالتكلفة، يحتل Llama 4 Maverick موقعًا متميزًا، إذ يقدم أداءً من الطراز الأول بتكلفة استدلال تقديرية تتراوح بين $0.19 و$0.49 لكل مليون توكن، وهي أقل بكثير من البدائل المملوكة مثل GPT-4o وGPT-4.5.

حالات الاستخدام والتطبيقات العملية

بالنسبة إلى Llama 4 Scout:

• روبوتات محادثة ذات ذاكرة طويلة على الأجهزة المحمولة
• أدوات تلخيص الشيفرة البرمجية وتحليلها
• مساعدات تعليمية للمدارس ذات الموارد المحدودة
• التطبيقات المضمّنة التي تتطلب ذكاءً اصطناعيًا عالي الأداء وفعّالًا

بالنسبة إلى Llama 4 Maverick:

• البرمجة بمساعدة الذكاء الاصطناعي في المؤسسات
• تحليل المستندات الضخمة وفهمها
• أنظمة تدريس ذكية متعددة الوسائط
• التطبيقات متعددة اللغات التي تتطلب استدلالًا متطورًا

كيف تبدأ مع Llama 4

لاستخدام نماذج Llama 4، يمكنك:

1. تنزيل النماذج: متاحة على الموقع الرسمي لـ Meta AI وعلى Hugging Face
2. استخدام واجهة API: تقدم Meta واجهة API لاستدلال نماذج Llama 4
3. النشر محليًا: لمن يملكون الموارد الحاسوبية المناسبة، يمكن النشر على الأجهزة المحلية

بالنسبة إلى Scout يوصى بحد أدنى 24 غيغابايت من VRAM، بينما يعمل Maverick بشكل أفضل مع 48 غيغابايت على الأقل.

الخاتمة

تمثل نماذج Llama 4 تقدمًا كبيرًا في مجال نماذج LLM مفتوحة المصدر. فبفضل بنيتها المبتكرة MoE ونافذة سياقها البالغة 10 ملايين توكن وأدائها المبهر، يقدم Scout وMaverick بدائل منافسة للنماذج المملوكة مثل GPT-4o وClaude.

وما يميز Llama 4 بوجه خاص هو التوازن بين الأداء والكفاءة. إذ يُظهر Maverick أنه من الممكن بلوغ أداء من مستوى رفيع بتكلفة استدلال أقل بكثير من منافسيه المملوكين، مع بقائه مفتوح المصدر.

سواء كنت مطورًا أو باحثًا أو شركة، فإن نماذج Llama 4 تستحق اهتمامك لقدراتها المتقدمة متعددة الوسائط وكفاءتها وانفتاحها الذي يتيح الابتكار والتخصيص.