أنواع التعلم الآلي وشجرة القرار

بالتأكيد ، إليك ملاحظات الدراسة التي تم إنشاؤها من النص المقدم:

أنواع التعلم الآلي

• هناك ثلاثة أنواع رئيسية للتعلم الآلي:
  • التعلم الخاضع للإشراف
  • التعلم غير الخاضع للإشراف
  • التعلم المعزز

مصنفات مختلفة

• تم تطوير العديد من الخوارزميات لمعالجة مشاكل التصنيف متعددة الفئات وتشمل:
  • أقرب جار K
  • بيز ساذج
  • أشجار القرارات
  • الغابة العشوائية
  • آلات ناقلات الدعم
  • الشبكات العصبية الاصطناعية

شجرة القرار دي تي

• شجرة القرار هي أسلوب شائع للتعلم الخاضع للإشراف في التعلم الآلي.
• يتم استخدام شجرة القرار كعبارة "إذا-إلا" هرمية تعتمد على عوامل تشغيل مقارنة الميزات.
• شجرة القرار هي نموذج يستخدم لعمل تنبؤات بناءً على سلسلة من الأسئلة التي تؤدي إلى نتائج مختلفة.
• يتم استخدامه على نطاق واسع في مهام التصنيف والانحدار.
• تمثل كل عقدة داخلية "قرارًا" بناءً على سمة.
  • يمثل كل فرع نتيجة لهذا القرار.
  • تمثل كل عقدة ورقة التنبؤ النهائي.

مكونات شجرة القرار

• عقدة الجذر: هي المكان الذي تبدأ فيه الشجرة وتمثل مجموعة البيانات بأكملها وتنقسم إلى فروع بناءً على ميزة مختارة.
• العقد الداخلية: تمثل هذه العقد الأسئلة أو الشروط المطروحة حول الميزات.
  • يؤدي إلى مزيد من الفروع أو عقد الأطفال.
• الفروع والحواف: تعرض هذه النتائج المحتملة للحالة
  • يؤدي إلى عقد أو أوراق للأطفال.
• الأوراق (العقد الطرفية): هي نقاط النهاية للشجرة وتمثل القرار أو التنبؤ النهائي.

مثال: شجرة قرار الموافقة على القرض

• تخيل أن بنكًا يحتاج إلى شجرة قرار لتحديد ما إذا كان يجب الموافقة على طلب قرض أم لا بناءً على:
  • مستوى الدخل (مرتفع ومتوسط ومنخفض)
  • الدرجة الائتمانية (جيدة وضعيفة)
• الخطوة 1: تحديد المعايير
  • افترض أنه في حالة حصول مقدم الطلب على دخل مرتفع ، نوافق على القرض.
  • في حالة حصول مقدم الطلب على دخل متوسط ودرجة ائتمانية جيدة ، نوافق على القرض.
  • وإلا، فإننا نرفض القرض.
• الخطوة 2: بناء شجرة القرار
  • سيبدو هيكل شجرة القرار هذه مثل هذا:

    [دخل؟]
    / | \
    مرتفع متوسط منخفض
    | |
    الموافقة [رصيد؟] رفض
    / \
    جيد سيئ
    | |
    الموافقة على الرفض
    

• الخطوة 3: تطبيق مثال رياضي
  • لنفترض أن لدينا المتقدمين التاليين:

    مقدم الطلب	الدخل	الدرجة الائتمانية
    أ	عالي	جيد
    ب	متوسط	جيد
    ج	متوسط	ضعيف
    د	منخفض	جيد

  • مقدم الطلب أ: دخل مرتفع ← موافقة
  • مقدم الطلب ب: دخل متوسط ، ائتمان جيد ← موافقة
  • مقدم الطلب ج: دخل متوسط ، رصيد ضعيف ← رفض
  • مقدم الطلب د: دخل منخفض ← رفض

مثال: شجرة قرار التشخيص الطبي

• لنفترض أننا نريد التنبؤ بما إذا كان المريض مصابًا بالمرض X بناءً على الأعراض التالية ونتائج الاختبار:
  • حمى (نعم أم لا)
  • سعال (نعم أم لا)
  • الفئة العمرية (صغير ، متوسط العمر ، مسن)
  • نتيجة اختبار الدم (إيجابية أو سلبية)
• الخطوة 1: تحديد المعايير
  • لنحدد بعض المعايير المبسطة للمرض X:
    • إذا كان المريض يعاني من الحمى واختبار الدم الإيجابي ، فإننا نتوقع المرض X.
    • إذا كان المريض لا يعاني من حمى ، فإننا نتوقع عدم وجود مرض X (بغض النظر عن الأعراض الأخرى).
    • إذا كان المريض يعاني من السعال وكبار السن ، فإننا نتوقع المرض X.
    • إذا لم يتم استيفاء أي من هذه الشروط ، فإننا نتوقع عدم وجود مرض.
• الخطوة 2: بناء شجرة القرار
  • سيبدو هيكل شجرة القرار مثل هذا:

    [حمى؟]
    / \
    السماح لا
    / \
    [اختبار الدم؟] لا يوجد مرض
    / \
    إيجابي سلبي
    | [سعال؟]
    / \
    السماح لا
    / \
    [الفئة العمرية؟] لا يوجد مرض
    / \
    كبار السن الآخرون
    | |
    مرض X لا يوجد مرض
    

• الخطوة 3: تطبيق المثال الرياضي
  • شرح التوقعات
    • يعاني المريض P1 من الحمى واختبار دم إيجابي ، لذلك نتوقع المرض X.
    • يعاني المريض P2 من الحمى ولكن اختبار دم سلبي ولا توجد أعراض أخرى مطابقة ، لذلك نتوقع عدم وجود مرض.
    • لا يعاني المريض P3 من الحمى ، لذلك يتم التنبؤ به على الفور على أنه غير مصاب بالمرض ، متجاوزًا المزيد من الفحوصات.
    • يعاني المريض P4 من الحمى والسعال وكبار السن ، لذلك نتوقع المرض X.
    • لا يعاني المريض P5 من الحمى ، لذلك نتوقع مباشرة عدم وجود مرض.

حساب الإنتروبيا ، وكسب المعلومات ، ومعامل جيني

• في أشجار القرار ، الإنتروبيا هي مقياس للشوائب يستخدم لتقييم تجانس مجموعة البيانات
• يساعد في تحديد أفضل تقسيم لبناء نموذج شجرة قرار إعلامي.
• ينتج عن تعلم الآلة ، ارتفاع معدل الإنتروبيا مستوى أعلى من الاضطراب أو عدم اليقين في البيانات.
• يشير إلى أن البيانات أكثر غير متجانسة ، مما يجعل من الصعب على النماذج تقديم تنبؤات دقيقة.
• الكسب والإنتروبيا مفهومان مرتبطان في خوارزميات شجرة القرار.
• يقيس الكسب تقليل الإنتروبيا الذي يتم تحقيقه عن طريق تقسيم مجموعة البيانات ، مما يساعد على تحديد أفضل سمة لتقسيم البيانات.
• بالنسبة لمجموعة البيانات التي تحتوي على العديد من الميزات ، يتم حساب كسب المعلومات لكل ميزة.
• ستكون الميزة التي لديها أقصى قدر من المعلومات هي الميزة الأكثر أهمية التي ستكون عقدة الجذر لشجرة القرار.
• كسب المعلومات والشوائب الجينية كلاهما قياسات مستخدمة في أشجار القرار لقياس مدى جودة تقسيم أو تقسيم الميزة لمجموعة البيانات إلى فئات متميزة.
• كلاهما يستخدم لتحديد أفضل ميزة للتقسيم في كل عقدة في الشجرة ، لكنهما يختلفان في كيفية قياسهما لهذا "النقاء".
• تشير الشوائب الجينية الأقل إلى مجموعة فرعية "أكثر نقاء".