Axies AI

ما هوا الفرق بين ال Encoder and Decoder؟

السلام عليكم ورحمه الله وبركاته.

اهلا بك يا صديقى دعنا نتحدث عن المصطلحين الاكثر اهميه فى ال Transformer

1. جهاز التشفيرEncoder :

يأخذ المشفر تسلسل الإدخال ويعالجها في تمثيل بحجم ثابت يسمى "السياق" أو "الذاكرة". يلتقط هذا السياق المعلومات المهمة من تسلسل الإدخال في شكل مضغوط يمكن لوحدة فك التشفير استخدامها لإنشاء تسلسل الإخراج. يتكون المشفر من عدة طبقات متطابقة ، تحتوي كل منها على مكونين رئيسيين:

الانتباه الذاتي متعدد الرؤوس Multi-headed self-attention: تسمح هذه الآلية للمشفّر بموازنة أهمية الكلمات المختلفة في تسلسل الإدخال فيما يتعلق ببعضها البعض. يحسب درجات الانتباه لكل كلمة في تسلسل الإدخال بناءً على جميع الكلمات الأخرى ، ويلتقط التبعيات والعلاقات داخل التسلسل.

Position-wise Feedforward Neural Network:
بعد آلية الانتباه self-attention ، يتم تطبيق شبكة عصبية تلقائية بشكل مستقل لكل موضع في التسلسل. هذا يقدم اللاخطية ويساعد على التقاط الأنماط المعقدة في البيانات.


بالإضافة إلى ذلك ، يتم تطبيق تسوية الطبقة والتوصيلات المتبقية بعد كل طبقة فرعية للمساعدة في استقرار التدريب وتدفق التدرج.

2. جهاز فك التشفيرDecoder:

يأخذ مفكك الشفرة السياق الذي تم إنشاؤه بواسطة المشفر ويقوم بإنشاء تسلسل الإخراج خطوة بخطوة. لها بنية مشابهة لجهاز التشفير ولكنها تتضمن آلية إضافية:

Multi-head masked self-attention: على غرار الاهتمام الذاتي لجهاز التشفير ، تمنع آلية الانتباه الذاتي في وحدة فك التشفير النموذج من الحضور إلى المواضع المستقبلية في تسلسل الإخراج أثناء التدريب. يضمن هذا الإخفاء أن النموذج يولد تسلسلات من اليسار إلى اليمين ، مع مراعاة خاصية الانحدار التلقائي لتوليد التسلسل.

يمكن لوحدة فك التشفير أيضًا الوصول إلى سياق المشفر من خلال "اهتمام وحدة فك التشفير". هذا يسمح لوحدة فك التشفير بالتركيز على الأجزاء ذات الصلة من تسلسل الإدخال أثناء توليد الإخراج.

3. المعلمات المشتركة Common parameters:
في حين أن المشفر وفك التشفير لهما أدوار منفصلة ، إلا أنهما يشتركان في نفس البنية الأساسية والمعلمات. تمكن هذه المشاركة النموذج من تعلم تمثيل مشترك لكل من بيانات الإدخال والإخراج ، مما يسمح له بالتعميم بشكل أفضل عبر التسلسلات المختلفة.

4.الترميزات الموضعية Positional Notations:
نظرًا لأن المحولات لا تفهم بطبيعتها ترتيب الكلمات في تسلسل ، تتم إضافة الترميزات الموضعية إلى تضمين الإدخال لتوفير معلومات حول مواقع الكلمات. يتم تلخيص هذه الترميزات مع التضمينات وتساعد النموذج على التقاط الطبيعة المتسلسلة للبيانات.

فقط هذا يا صديقى الاختلاف ما بين ال Encoder and Decoder.











Follow Axies AI

النهرضة بقا شركه جوجل عملت انجاز كبير هيغير فى المجال الطبي جدا تابعوا معانا...

قامت شركه جوجل Google بأطلاق نظام جديد للذكاء الاصطناعي يعم فى الجزء الخاص بالطب متعدد الوسائط يمكن أن يحدث ثورة في التصوير الطبي.

تستخدم أداة الذكاء الاصطناعي الأسلوب ، المسمى ELIXR ، وهو اختصار لـ Embeddings for Language/Image-aligned X-Rays.

إنه خفيف الوزن ومتعدد الوسائط ، مما يعني أنه يمكنه معالجة كل من الصور والنصوص. وهذا يجعلها مناسبة تمامًا لمهام مثل تصنيف المرض والبحث الدلالي والتحقق من تقرير الأشعة.

تتضمن مدخلات تدريب ELIXR مجموعة بيانات للصور الطبية وتقارير الأشعة ذات النص الحر المقابلة لها. يتيح ذلك للنماذج معرفة الفروق الدقيقة في التصوير الطبي التي يصعب التقاطها باستخدام الملصقات الثنائية التقليدية.

بالإضافة إلى تصنيف المرض القياسي ، يمكن لـ ELIXR أيضًا أداء مجموعة متنوعة من المهام الأخرى. على سبيل المثال ، يمكن استخدامه للبحث عن ميزات محددة داخل صورة الصدر بالأشعة السينية (CXR) ، والرد على استفسارات اللغة الطبيعية ، وحتى التحقق من دقة تقارير الأشعة.

يجعل التصميم المعياري لـ ELIXR قابلاً للتكيف مع مجموعة متنوعة من التطبيقات. يمكن تبديل مشفرات الرؤية المختلفة ونماذج اللغة الأساسية حسب الحاجة ، مما يسمح بضبط النماذج لأداء مهام محددة.

ومع ذلك ، فإن تحقيق أقصى استفادة من الذكاء الاصطناعي في الطب يتطلب الجمع بين قوة الأنظمة الخبيرة المدربة مع الذكاء الاصطناعي التنبئي مع المرونة التي يمكن تحقيقها من خلال الذكاء الاصطناعي التوليدي.

كيفية دمجها ، وما هي أفضل طريقة للجمع ... ليست واضحة بعد ، وتتطلب بحثًا مستمرًا وتعاونًا بين مقدمي الرعاية الصحية والمؤسسات الطبية والهيئات الحكومية.

الورقه العلميه هنا يا رفاق: https://arxiv.org/abs/2308.01317

تابعونا على Axies AI

السلام عليكم ورحمه الله وبركاتة.

إزالة الغموض حول امر من الامور المهمه وهوا التعلم العميقDeep Learning : كشف القوة الكامنة وراء قدرات الذكاء الاصطناعي الرائعة وجميع المجالات الخاصه بيها!

مرحبا بكم فى موضوع جيد اليوم ، نبدأ رحلة مثيرة في عالم التعلم العميق ، التكنولوجيا الآسرة التي تشغل بعض تطبيقات الذكاء الاصطناعي الأكثر روعة التي نشهدها يوميًا. لذا ، دعنا نتعمق ونزيل الغموض عن سحر التعلم العميق!

ما هو التعلم العميق؟

في جوهره ، التعلم العميق هو مجموعة فرعية من التعلم الآلي ، والتي بدورها هي مجموعة فرعية من الذكاء الاصطناعي (AI). يحاكي التعلم العميق طريقة عمل العقول البشرية ، باستخدام الشبكات العصبية الاصطناعية لمعالجة كميات هائلة من البيانات والتعلم منها. يشير مصطلح "عميق" إلى الطبقات المتعددة التي تمتلكها هذه الشبكات ، مما يسمح لها باستخراج أنماط مجردة ومعقدة بشكل متزايد من بيانات الإدخال.

ما هى الشبكه العصبيه وما هو السحرالخاص بالشبكة العصبية

تخيل شبكة من الخلايا العصبية المترابطة في الدماغ البشري. الآن ، تخيل نسخة رقمية لهذه الشبكة: شبكة عصبية عميقة (DNN). تتلقى كل خلية عصبية في DNN المعلومات وتعالجها وتمررها إلى الخلايا العصبية الأخرى في الطبقات اللاحقة. أثناء انتقال البيانات عبر هذه الطبقات ، تتعلم الشبكة تحديد الأنماط المعقدة ، مما يؤدي إلى تمثيلات وتوقعات عالية المستوى.

كيف تتعلم وايضا كيف تعمل؟

يحدث التعلم في شبكة عصبية عميقة من خلال عملية تسمى "التدريب". أثناء التدريب ، يتم تقديم الشبكة بمجموعة كبيرة من البيانات تحتوي على المدخلات والمخرجات المرغوبة المقابلة. أثناء معالجة الشبكة لهذه البيانات ، تقوم بتعديل معلماتها الداخلية (الأوزان والتحيزات) لتقليل الاختلاف بين تنبؤاتها والمخرجات الفعلية. تعمل عملية التحسين التكراري هذه ، غالبًا باستخدام Gradient Descent ، على ضبط الشبكة حتى تصبح بارعة في عمل تنبؤات دقيقة.

وهنا سوف نذكر بعض التطبيقات التعلم العميق.

تعد تعدد استخدامات التعلم العميق أمرًا محيرًا للعقل ، ويمكن الشعور بتأثيره عبر العديد من المجالات:

رؤية الكمبيوترcomputer vision : أحدث التعلم العميق ثورة في تحليل الصور والفيديو ، مما أتاح التعرف على الوجه واكتشاف الأشياء وحتى السيارات ذاتية القيادة.

معالجة اللغة الطبيعية (NLP): من خلال فهم اللغة البشرية وتوليدها ، تسهل تطبيقات البرمجة اللغوية العصبية روبوتات المحادثة وترجمة اللغة وتحليل المشاعر والمزيد.

التعرف على الكلام : يدعم التعلم العميق المساعدين الصوتيين مثل Siri و Alexa ، مما يحول الكلمات المنطوقة إلى أفعال ذات معنى.

أنظمة التوصية Recommendation Systems: هل تساءلت يومًا كيف تقترح خدمات البث المحتوى؟ تحلل خوارزميات التعلم العميق تفضيلاتك لتقديم توصيات مخصصة.

التمويل Finance : تُستخدم نماذج التعلم العميق في الكشف عن الاحتيال وتنبؤات سوق الأسهم وتقييم مخاطر الائتمان.

التخطيط الحضريUrban planning: في المناطق الحضرية ، يمكن أن يساعد التعلم العميق في تحسين حركة المرور ومراقبة التلوث وحتى التخطيط للاستجابة للكوارث.

التحديات وآفاق المستقبل Challenges and future prospects

في حين أن التعلم العميق قد أطلق العنان لعدد كبير من الاحتمالات ، فإنه يأتي مع نصيبه من التحديات. يتطلب تدريب الشبكات العميقة موارد حسابية كبيرة ومجموعات بيانات واسعة النطاق. يعد التجهيز الزائد (عندما يصبح النموذج شديد التخصص لبيانات التدريب) عقبة شائعة.

بالنظر إلى المستقبل ، يعمل الباحثون باستمرار على جعل التعلم العميق أكثر كفاءة وقابلية للتفسير وقابلية للتكيف مع مجموعات البيانات الصغيرة. تعمل البنى الجديدة ، مثل Transformers و GANs ، على دفع حدود الذكاء الاصطناعي ، واعدة بتطبيقات أكثر إثارة في المستقبل.

لذلك ، في المرة القادمة التي تتعجب فيها من تطبيق مدعوم بالذكاء الاصطناعي ، تذكر أنه العالم الرائع للتعلم العميق وراء الكواليس ، ويدفعنا إلى عصر التكنولوجيا المبتكرة والذكية!











Follow Axies AI

🚀 العمل الاكثر اثاره فى هندسة التعلم الآلي! 🤖

اهلا بكم يا متابعينا الكرام! 👋 هل أنتم مهتمون بتعالم الذكاء الاصطناعي والتكنولوجيا؟ 🌐 هل أنتم حريصون على الغوص في عالم البيانات والخوارزميات؟ 📈 إذا كان الأمر كذلك ، فلنتحدث عن أن كيف تصبح مهندسًا للتعلم الآلي! 🤝

اولا:

🎯 ما هي هندسة التعلم الآلي؟

تدور هندسة التعلم الآلي حول إنشاء أنظمة ذكية تتعلم من البيانات وتقوم بالتنبؤات أو القرارات بناءً على تلك المعرفة. إنه مثل تدريب أجهزة الكمبيوتر على التفكير والتصرف مثل البشر ، ولكن بالكفاءة والدقة لا يمكن إلا للآلات تحقيق ذلك! 🤖💡

📚 كيف يمكنك البدء فى هذه المجال الشيق:

1️⃣ بناء أساس قوي: ابدأ ببناء أساس متين في لغات البرمجة مثل Python أو R. تستخدم هذه اللغات على نطاق واسع في مجال التعلم الآلي.

2️⃣ الرياضيات: صقل مهاراتك في الرياضيات ، خاصة في حساب التفاضل والتكامل والجبر الخطي والإحصاء. هذه هي اللبنات الأساسية لخوارزميات التعلم الآلي.

3️⃣ تعلم الأدوات: تعرف على مكتبات التعلم الآلي الشهيرة مثل TensorFlow و Keras و scikit-Learn. سيكون فهم هذه الأدوات أمرًا بالغ الأهمية في رحلة ML الخاصة بك.

4️⃣ الدورات التدريبية عبر الإنترنت: هناك الكثير من المنصات عبر الإنترنت التي تقدم دورات رائعة في التعلم الآلي ، مثل Coursera و Udemy و edX. ابدأ بدورات صديقة للمبتدئين وشق طريقك.

🔧 الخبرة العملية:

1️⃣ المشاريع الشخصية: اعمل على مشاريع ML الخاصة بك! ابدأ على نطاق صغير وتعالج تدريجيًا التحديات الأكثر تعقيدًا. لن يؤدي ذلك إلى تعزيز مهاراتك فحسب ، بل سيعرض أيضًا قدراتك على أصحاب العمل المحتملين.

2️⃣ مسابقات Kaggle: شارك في مسابقات Kaggle. إنها منصة رائعة لتطبيق معرفتك والتعلم من مجتمع ML.

3️⃣ مساهمات المصادر المفتوحة: المساهمة في مشاريع ML مفتوحة المصدر. سيؤدي التعاون مع الآخرين إلى توسيع شبكتك وخبراتك.

📚 التعلم المستمر:

التعلم الآلي هو مجال دائم التطور. ابق على اطلاع بأحدث الأوراق البحثية ، واحضر المؤتمرات ، وانضم إلى مجتمعات ML عبر الإنترنت. بهذه الطريقة ، ستبقى في الطليعة وستكون دائمًا مستعدًا لفرص جديدة. 📚🎓

💼 الحصول على وظيفة:

1️⃣ إنشاء محفظة Portfolio: قم بإنشاء محفظة تعرض مشاريعك ومهاراتك ومساهماتك. يحب أصحاب العمل رؤية التطبيقات العملية لمعرفتك.

2️⃣ الشبكات: تواصل مع محترفين في مجال تعلم الآلة من خلال LinkedIn واللقاءات والمنتديات عبر الإنترنت. يمكن للشبكات أن تفتح الأبواب لفرص مثيرة.

3️⃣ التدريب الداخلي: ضع في اعتبارك التدريب أو التدريب المهني لاكتساب خبرة في العالم الحقيقي والتعلم من مهندسي ML المتمرسين.

🌟 المستقبل مشرق:

هندسة التعلم الآلي ليست مجرد وظيفة ؛ إنها رحلة اكتشاف وابتكار. من الرعاية الصحية إلى التمويل ، من المركبات المستقلة إلى المساعدين الافتراضيين ، يعمل ML على تغيير كل صناعة! احتضن التحديات وابقى فضوليًا ودعنا نشكل المستقبل معًا! 🚀💪

إذا كانت لديك أي أسئلة حول الدخول في مجال هندسة التعلم الآلي ، فقم بإسقاطها في التعليقات أدناه. دعونا نتعلم وننمو معا! 🤗



#التكنولوجيا



Follow Axies AI