نقل التعلّم

لديكم ثمانمائة صورة موسومة ومشكلة تصنيف تريدون حلّها. لقد بيّن الفصل الثاني ما سيحدث إذا درّبتم شبكة عميقة من الصفر: ستحفظ صوركم الثمانمائة عن ظهر قلب ولن تعمّم. وبيّن الفصل الثالث أن معماريات الرؤية الجادة تضم عشرات الملايين من المعاملات. ثمانمائة مثال مقابل عشرة ملايين معامل معركة خاسرة سلفًا، ولن تقلب أي طريقة تنظيم (regularization) هذه النسبة.

ومع ذلك يوجد مخرج، وهو الممارسة المعتادة في هذا المجال، لا اختصارًا يلجأ إليه الهواة. فقد سبق أن دقّب أحدهم شبكة على مليون صورة، ودفع ثمن آلاف ساعات الحوسبة، ونشر الأوزان. وقد تعلمت هذه الشبكة اكتشاف الحواف والملمس والأنماط المتكررة والأشكال المركّبة. وليس في ذلك كله ما يخص الفئات التي كان عليها التعرف إليها: إنها اللبنات الأولية لكل صورة طبيعية، وصوركم الثمانمائة مصنوعة منها أيضًا.

يقوم نقل التعلّم على استعادة هذه اللبنات وعدم تعلّم سوى المرحلة الأخيرة، أي التركيبة التي تجيب عن سؤالكم أنتم. فينخفض عدد المعاملات المطلوب تقديرها من عشرة ملايين إلى بضعة آلاف، وتصبح ثمانمائة عيّنة كافية فجأة. والمكسب هنا من رتبة المكسب الذي حققته الالتفاف (convolution) مقارنةً بالطبقة الكثيفة: لم نعثر على خوارزمية أفضل، وإنما تجنّبنا إعادة تعلّم ما هو معروف أصلًا.