الشبكات العصبونية وقاعدة هيب

الشبكات العصبونية - الجزء النظري

• هذه المحاضرة الثانية وتغطي الشبكات العصبية البسيطة، مع التركيز على قاعدة هيب.
• المحاضر هو د. بلسم عيد.

بنية الشبكة البسيطة لتصنيف العينات

• يناقش هذا الجزء بنية الشبكة العصبية البسيطة لتصنيف العينات, وقابلية الفصل الخطية
• يستعرض طرق تدريب الشبكة العصبونية وحيدة الطبقة، مع التركيز على قاعدة هيب في التعلم
• تتكون الشبكات العصبونية من أبسط الأنواع, وهي قادرة على حل مسائل تصنيف العينات.
• طبقة الدخل تتكون من عدة عصبونات، وعددها يعتمد على درجة تعقيد المسألة المدروسة.
• طبقة الخرج تحتوي على وحدات الخرج وتمثل خرج المسألة.
• تترابط الشبكة من خلال أوزان، مع تضمين الانحياز, والانحياز: وزن دخله مساوي للـ 1

الحاجة إلى الانحياز

• الانحياز يمثل الرغبة العامة بالذهاب للرحلة، فهو يرجح القرار بغض النظر عن بقية المداخل ويمتلك القدرة على التغيير.
• بقية الأوزان تلعب دورًا في ترجيح بقية المداخل، لكنها لا تملك الدور الأساسي.
• استبدال الانحياز بمفهوم العتبة يجعل العتبة تتغير تبعًا للدخل، بينما الانحياز ثابت.
• العتبة تلعب دورًا هامًا في اتخاذ القرار، بينما يمتلك الانحياز القدرة على تغيير القرار
• يتم استخدام إحدى الطريقتين (الانحياز أو العتبة) حسب طبيعة المسألة.

التفعيل والعتبة

• يتم إعطاء تابع التفعيل بالعلاقة التالية:

f(y-in) = { 1 if y-in ≥ 0 , -1 if y-in < 0}

y-in = b + Σ XiWi

• أو يمكن حسابه كما يلي:

f(y-in.) = { 1 if y-in ≥ 0 , -1 if y-in < 0}

y-in = Σ XiWi

• حيث θ هي قيمة العتبة.

الحد الفاصل وقابلية الفصل الخطي

• الحد الفاصل هو خط أو مستوى يفصل مناطق الاستجابة عن بعضها، أي يفصل الأصناف عن بعضها.
• الحد الفاصل يعطى بالعلاقة التالية: b + Σ XiWi = 0
• من الآن فصاعدًا سيتم استخدام مفهوم الانحياز وليس العتبة.
• قابلية الفصل الخطي تعني وجود حد قرار خطي يصنف كل عينات التدريب بدقة.
• يمكن وصف العينات بأنها قابلة للفصل خطيًا إذا أمكن فصلها بخط مستقيم.
• معادلة حد القرار الخطي هي: b + x1.w1 + x2.w2 = 0
• بالتالي: X2 = (-w1/w2) . X1 - (b/w2)

أمثلة منطقية وتطبيق قاعدة هيب

• يتم شرح أمثلة لمنطق الاستجابة مع الدوال المنطقية AND و OR و XOR.
• قاعدة هيب (Hebb) في التعلم، يتم شرحها كالتالي
• يحدث التعلم من خلال تعديل ترابطات الأوزان.
• إذا تم الاتصال بين عصبونين وكانت فعالية الاثنين (ON)، يتم زيادة قيم هذه الأوزان.
• قاعدة هيب المُحسّنة تنص على أن يتم تعديل أوزان كل الترابطات بين العصبونات سواء كانت فعالة أم لا.

خطوات خوارزمية هيب

• هيئ الأوزان بقيم صفرية.
• نفذ الخطوات من 3 إلى 5 من أجل كل زوج دخل-خرج.
• ضع تنشيطات وحدات الدخل على شكل شعاع (Xi=Si).
• ضع قيمة التفعيل لوحدة الخرج على شكل شعاع (y=t).
• عدل الأوزان والانحياز وفق العلاقة التالية:
  • › wi(new)=wi(old)+ xi.y
  • › b(new)=b(old)+y
• عمومًا، نوجز العمليات السابقة بقاعدة تعديل الأوزان: W(new)=W(old)+ ΔW, where ΔW=X.y

تطبيق قاعدة هيب على دالة AND

• يتم شرح كيفية تطبيق قاعدة هيب على دالة AND كمثال.
• يتم إعادة كتابة الخوارزمية مع الأوزان الابتدائية و المدخل و الخرج

حدود قاعدة هيب

• يتم شرح حدود قاعدة هيب في تعلم دالة AND، وكيف أنها غير قادرة على تعلمها بشكل صحيح في بعض الحالات, و لماذا يجب تحويل اشارة الخرج الى -1
• التمثيل القطبي للمدخالت والأهداف يسمح بتعديل الوزن عندما تكون قيم وحدة الدخل والهدف كلاهما on في نفس الوقت وعندما يكونوا off في نفس الوقت.
• يهدف هذا التعديل إلى معالجة مشكلة أن قاعدة هيب الأصلية قد لا تتمكن من تعلم الدوال التي تتطلب تغيير إشارة الخرج.

أمثلة أخرى وتطبيق قاعدة هيب (Hebb) في التعرف على الأنماط

• التعرف على الحروف: استخدام مصفوفتين (X و O) لتمثيل الحروف.
• الهدف هو تصميم شبكة قادرة على التمييز بين هاتين المصفوفتين.
• يتم اختبار الشبكة على عينات تتضمن أخطاء أو نقص في البيانات.
• لإيجاد مستوى الفصل لهذه المسألة باستخدام قاعدة هيب.
• يتم توضيح أن مدخلين يعني خط فصل، وثلاثة مداخل تعني مستوى فصل، وأكثر من ثلاثة مداخل تعني أن المسألة غير قابلة للفصل خطيًا.

تفاصيل إضافية حول التعرف على الأنماط

• يتم تحويل الأنماط إلى متجهات دخل بتعيين القيمة 1 للرمز "#" والقيمة 1- للرمز ".".
• يتم ربط الصفوف لتحويل النمط ثنائي الأبعاد إلى متجه دخل.
• الشبكة يمكن أن تعطي استجابات معقولة لدخل مشابه ولكن ليس مماثلًا تمامًا للأنماط التدريبية.
• هناك نوعان من التغييرات يمكن إجراؤها على أنماط الدخل لإنشاء نمط دخل جديد يمكن توقع استجابة له:
  • › الأخطاء في البيانات: عكس إشارة أحد مكونات متجه الدخل (تغيير 1 إلى 1- أو العكس).
  • › البيانات المفقودة: تعيين القيمة 0 لأحد مكونات متجه الدخل بدلًا من 1 أو 1-.
• بشكل عام، يمكن للشبكة معالجة مكونات مفقودة أكثر من المكونات الخاطئة.