Deep Torch

حابين نشارك معكم اول تقدم ل "سلافه محمود" .. أحد الطلاب يلي انقبلو بأحد المنح السابقة

سلافه خريجة من جامعة اللاذقية قسم الذكاء الصنعي قدمت عالمنح يلي قدمها فريقنا لحتى تحسن من مهاراتها العملية بالمجال و انقبلت بشكل جزئي بالتدريب بكورس ال ML يلي هو أول كورس أساسيات عنا

سلافه خلصت الكورس الأول و حاليًا تم تمديد المنحة للكورس التاني و يلي هو ال DL

منتمنى التوفيق لسلافه و تتابع بهالمستوى لحتى تكفي بالمراحل القادمة ❤️

المنحى الحالي يلي عميتم عن طريقو اختبار نماذج الذكاء الصنعي يلي عأساس هدفها توصل لل AGI بناقض مبدأ ال General Intelligence أو يلي عادة يسمى Fluid Intelligence.
اختبار النماذج عكتير تاسكات و محاولة زيادة صعوبة التاسكات عميعطي وهم انو النموذج صار Flexible لانو صار بيعرف يعمل كتير تاسكات بينما بالواقع كلشي عمنعملو انو عمنعطيه بيانات اكتر و اكتر ليصير هيك..بس اذا بشوف أي بيئة جديدة ما رح يعرف يتعامل معها .. على عكس الإنسان

هالشي فينا نتخيلو كشخص عندو معلومات كتيرة و قريان كتير كتب .. لما تسألو و تناقشو باللي بيعرفو غالبا تطلع باستنتاج انو هاد الشخص كتير ذكي .. بس ممكن اذا حاولت تناقشو بشي ما بيعرف فيه شي ما رح يعرف يناقش .. لانو معتمد عالمعلومات اكتر من مهارات التفكير نفسها

هاد الموضوع رح احكي عنو و عن ورقة مشهورة تطرقت الو .. بس بالمقالة الجاية
بهي المقالة رح احكي عن نموذج جديد جدًا (من 10 ايام طلعت الورقة) .. و هو نموذج بسيط لتعلم تاسكات جديدة ببيانات قليلة .. لمحاكاة البيئات الجديدة و قدرة النموذج عالتكيف السريع معها و اكتشافها (مبدأ ال Fluid Intelligence)

لما يكون عنا بيانات قليلة .. ما رح فينا نستعمل نماذج عملاقة لانو ال overfitting رح يكون مشكلة وضوحًا.. و بنفس الوقت بدنا نموذج عميق لانو ممكن التاسك تكون معقدة

أحد الحلول الجديدة لهالموضوع هو استعمال تابعين فقط بحيث ما يكون عدد بارامتراتهن كتير (مثلا كل تابع هو طبقتين تلاتة من trnasformer او اي نوع طبقات) .. و بيتم تطبيقهن بشكل تكراري كمحاكاة للتفكير التسلسلي و هاد منسميه Deep Supervision لانو بكل مرة عمنعطي المرحلة الجاية التضمينات يلي تم تحسينها بالمرحلة يلي قبلها لتبني عليهن.

لحتى وضح الفكرة اكتر .. رح احكي عن هالتابعين و شو الهدف منهن
التابع الأول الهدف منو انو يحسن التضمينات بشكل تكراري .. بحيث يصير عنا هاد التضمين هو تمثيل عن الفكرة أو الأفكار المجردة يلي عميتم تحسينها شوي شوي .. متل ما منفكر نحنا بفكرة أولية و منصير منحسنها تدريجيًا.
التابع التاني الهدف منو استخراج حل ضمن فضاء التضمينات (الأفكار) مناسب للمشكلة الحالية

كل تكرار من الخوارزمية بيطبق التابع أول n مرة .. و التابع التاني مرة وحدة (لحتى نتحقق هل بكفي و فينا نوقف او لازم نتابع تحسين التضمينات)

هل هون بيجي السؤال الجوهري .. ما هي ال RNNs كانت تعمل شي مشابه .. فشو الجديد؟؟
هون في فرق جوهري بين التنين .. الشبكة الحالية ما رح يتم حساب المشتقات الها عبر كل التكرارات و إنما فقط التكرار الأخير
هالشي بيشتغل لانو الشبكة عمتتعلم تحسن التضمينات بالتكرار الأخير .. بالتالي لما نطبقها بالتكرارات الأولى هيي رح تعمل يلي تعلمتو .. تحسن التضمينات!
بالتالي نحنا ما عمندرب شبكة لتستخرج شي محدد بكل timestep و إنما شبكة عامة قادرة تحسن التضمينات

السؤال التاني الجوهري .. شو الفائدة من هيك شي؟
أولًا بما انو ما عمنحسب المشتقات و نحدث إلا لآخر تكرار لشبكات صغيرة نسبيًا .. فنحنا كأنو عمنستعمل شبكة صغيرة .. و بالتالي منحصل عفوائد السرعة بالتدريب و الحجم الصغير للتخزين .. شوفو المقارنة يلي بالجدول بين هالطريقة و بعض النماذج اللغوية الضخمة يلي تم التسويق انو عندها reasoning.
ثانيًا .. نحنا عمنحصل ععمق فعلي كبير .. لانو لما نطبق تحسين التضمينات بشكل تكرار بصير كأنو عنا شبكة كبيرة عمتشتغل عهي التضمينات لتحسينها (في أرقام فعلية بالورقة للي بحب يطلع عليها)

طبعًا اسا في كتير تفاصيل تقنية بالورقة بس حاولت اذكر الأفكار و الورقة بسيطة للي بحب يطلع عليها.

fans

مرحبا جميعًا

الفورم للتسجيل عالمنحة صار متاح 😁 (الرابط بالتعليقات)

للتذكير .. فقط الأشخاص يلي حضرو الايفينت من حقهن يسجلو .. اذا ما فيك حضرت الايفينت لسبب خارج عن إرادتك فيك تتواصل معنا و ممكن تاخد فرصة

هي آخر منحة رح تكون خلال هالسنة (غالبًا) .. العدد يلي غالبًا نقبلو هو طالبين/طالبات .. بس هالشي ممكن يختلف حسب جودة الطلبات يلي رح توصل

يا ريت تهتمو بشكل كتير كبير برسالة الدافع خلال التقديم .. أهم معيارين بالقبول هنن دافعك لتعلم المجال + انو نكون قادرين نشوف انك شخص ملتزم و رح تلتزم لتحقق أهدافك

التسجيل مفتوح لمدة 20 يوم .. بعدها رح يكون في 10 أيام لحتى نحدد المقبولين و نتواصل معهن عبر الايميل و بعدها نعلن النتائج

بالتوفيق جميعًا ❤️

fans