الشبكات المتكررة والبيانات التسلسلية

«الفيلم لم يكن سيئًا» و«الفيلم كان سيئًا، ليس جيدًا» تحتويان تقريبًا على الكلمات نفسها وتقولان العكس. نموذج يعدّ الكلمات دون اعتبار ترتيبها لا يستطيع التمييز بين هاتين الجملتين: المعلومة ليست في المفردات، بل في التسلسل. المشكلة نفسها تظهر في مخطط كهربية القلب، أو سعر سهم، أو مسار GPS، أو أمر صوتي.

صعوبتان تظهران عندئذٍ، ولا تعالجهما أي بنية رأيناها حتى الآن. الأولى هي الطول المتغير: الجمل لا تملك كلها العدد نفسه من الكلمات، في حين أن nn.Linear يفرض حجم مدخل ثابت. الثانية هي الاعتماد على مسافة بعيدة: في «المفتاح الذي وضعته على طاولة المطبخ مساء أمس غير موجود»، يتوقف تطابق الفعل على كلمة تقع قبل إحدى عشرة موضعًا.

تجيب الشبكات المتكررة على الاثنتين بحركة واحدة: خلية واحدة، تُطبَّق عند كل خطوة زمنية، وتنقل حالة داخلية من خطوة إلى التالية. الطول لم يعد يهم، لأن الخلية تُطبَّق بقدر ما يلزم بالأوزان نفسها. والحالة تشكّل ذاكرة لكل ما سبق.

لهذا الأناقة عيب مرعب، سترقّمه هذه الدرس: التكرار نفسه الذي ينقل المعلومة يجعلها أيضًا تختفي بسرعة أسية. هذا ما دفع إلى LSTM، ثم، بعد عشرين عامًا، إلى الإحلال الواسع للشبكات المتكررة بالانتباه. فهم لماذا خسرت مفيد بقدر معرفة كيفية استخدامها — لأنها تبقى الخيار الصحيح في عدة حالات محددة.