مقارنة نماذج Transformers في الرؤية الحاسوبية: دليل شامل

تحليل مقارن مفصّل لمختلف نماذج Transformers المستخدمة في الرؤية الحاسوبية.

جدول المقارنة

النموذج	السنة	التعقيد	الذاكرة	الدقة	السرعة	حالات الاستخدام
ViT	2020	O(n²)	متوسطة	جيدة	متوسطة	التصنيف
DeiT	2020	O(n²)	منخفضة	جيدة جدًا	سريع	التصنيف
Swin	2021	O(n)	متوسطة	ممتازة	سريع	التصنيف، الكشف
PVT	2021	O(n)	منخفضة	جيدة	سريع جدًا	التصنيف، التجزئة
ViTAE	2021	O(n)	متوسطة	ممتازة	متوسطة	التصنيف، الكشف
ViTPose	2022	O(n)	متوسطة	ممتازة	متوسطة	تقدير الوضعية
ViTPose++	2022	O(n)	متوسطة	ممتازة	سريع	تقدير الوضعية
DETR	2020	O(n²)	عالية	جيدة	بطيء	كشف الكائنات
YOLOS	2021	O(n²)	متوسطة	جيدة	متوسطة	كشف الكائنات

تحليل مفصّل

1. Vision Transformer (ViT)

المزايا:

• بنية بسيطة وفعّالة
• أداء جيد على مجموعات البيانات الكبيرة
• سهل التنفيذ

العيوب:

• تعقيد تربيعي
• يتطلب كمية كبيرة من بيانات التدريب
• أداء محدود على مجموعات البيانات الصغيرة

2. DeiT (Data-efficient Image Transformer)

المزايا:

• تدريب فعّال بكمية قليلة من البيانات
• تقطير المعرفة (Knowledge Distillation)
• أداء جيد على مجموعات البيانات الصغيرة

العيوب:

• يتطلب نموذجًا معلّمًا
• تعقيد أكبر في عملية التدريب
• وقت تدريب أطول

3. Swin Transformer

المزايا:

• تعقيد خطي
• أداء جيد في مهام الرؤية
• بنية هرمية فعّالة

العيوب:

• بنية أكثر تعقيدًا
• يتطلب ذاكرة أكبر
• وقت تنفيذ أطول

4. PVT (Pyramid Vision Transformer)

المزايا:

• بنية هرمية فعّالة
• أداء جيد في مهام التجزئة
• تعقيد خطي

العيوب:

• أداء محدود في بعض المهام
• يتطلب عددًا أكبر من المعاملات
• زمن استدلال متغيّر

5. ViTAE (Vision Transformer with Attention Efficiency)

المزايا:

• انتباه فعّال
• أداء عام جيد
• بنية معيارية

العيوب:

• تعقيد في التنفيذ
• يتطلب ذاكرة أكبر
• وقت تدريب أطول

6. ViTPose/ViTPose++

المزايا:

• أداء ممتاز في تقدير الوضعية
• بنية متعددة المقاييس
• إدارة جيدة للعلاقات المكانية

العيوب:

• متخصص في تقدير الوضعية
• تعقيد أكبر
• يتطلب موارد أكثر

مقارنة المقاييس

الأداء على ImageNet

النموذج	دقة Top-1	دقة Top-5	المعاملات (M)	FLOPs (G)
ViT-B	77.9%	93.5%	86	17.6
DeiT-B	81.8%	95.6%	86	17.6
Swin-B	83.5%	96.5%	88	15.4
PVT-L	81.7%	95.7%	61	9.8
ViTAE-B	82.3%	96.1%	86	17.6

الأداء على COCO

النموذج	mAP	AP50	AP75	FPS
DETR	42.0	62.4	44.2	12
YOLOS	42.3	63.0	44.9	15
Swin-T	43.7	66.6	47.7	18
PVT-L	44.1	66.7	48.1	20

توصيات الاستخدام

1. تصنيف الصور

   • لمجموعات البيانات الكبيرة: ViT أو Swin
   • لمجموعات البيانات الصغيرة: DeiT
   • للزمن الحقيقي: PVT

2. كشف الكائنات

   • للدقة: Swin
   • للسرعة: PVT
   • للتوازن: YOLOS

3. تقدير الوضعية

   • للدقة: ViTPose++
   • للزمن الحقيقي: ViTPose
   • للتوازن: Swin + Pose Head

4. التجزئة

   • للدقة: Swin
   • للسرعة: PVT
   • للتوازن: ViTAE

الخلاصة

يعتمد اختيار نموذج Transformer بشكل كبير على التطبيق والقيود الخاصة به. وفيما يلي دليل سريع:

• الأولوية للدقة: Swin أو ViTPose++
• الأولوية للسرعة: PVT
• الأولوية للكفاءة: DeiT
• الأولوية للمرونة: ViTAE

موارد إضافية

• Papers with Code - Vision Transformers
• GitHub - Awesome Vision Transformers
• Documentation PyTorch
• Vision Transformer Tutorial
• Transformer Zoo