أنواع وعدم يقين النمذجة

مقدمة

• أنواع عدم اليقين
• عدم اليقين العشوائي (Aleatoric Uncertainty):
• ناتج عن العشوائية التي يتعذر تقليلها.
• يُعرف أيضًا بعدم اليقين الإحصائي.
• يعتمد على البيانات ولا يمكن تقليله بجمع المزيد من البيانات.
• أنواع:
• متجانس التباين (Homoscedastic): ثابت لجميع المدخلات.
• غير متجانس التباين (Heteroscedastic): يعتمد على المدخلات.
• عدم اليقين المعرفي (Epistemic Uncertainty):
• ناتج عن نقص المعرفة حول النموذج الصحيح.
• يُعرف أيضًا بعدم اليقين المنهجي.
• يعتمد على النموذج ويمكن تقليله بجمع المزيد من البيانات.

نمذجة عدم اليقين

• عدم اليقين العشوائي:
• الانحدار: نمذجة معلمات التوزيع (مثل المتوسط والتباين) ثم توقع المعلمات الأكثر احتمالاً.
• التصنيف: يمكن تفسير خرج دالة softmax كاحتمال تنبؤي.
• عدم اليقين المعرفي:
• شبكة عصبونية بايزية (Bayesian Neural Network):
• تحديد توزيع أولي على الأوزان.
• حساب التوزيع الخلفي للأوزان بالنظر إلى البيانات.
• إجراء التنبؤات عن طريق حساب المتوسط عبر التوزيع الخلفي.
• المشكلة: غالبًا ما يكون حساب التوزيع الخلفي أمرًا صعبًا.
• تسرب مونت كارلو (Monte Carlo Dropout):
• تطبيق التسرب في وقت الاختبار.
• إجراء تنبؤات متعددة باستخدام أقنعة تسرب مختلفة.
• حساب متوسط التنبؤات للحصول على تنبؤ نهائي.
• يقارب هذا الاستدلال البايزي في عملية غاوسية عميقة.
• التجميعات العميقة (Deep Ensembles):
• تدريب شبكات عصبونية متعددة بتهيئة عشوائية مختلفة.
• حساب متوسط تنبؤات الشبكات المختلفة.
• بسيط وفعال.
• يمكن استخدامه أيضًا لتقدير عدم اليقين العشوائي.

عدم اليقين في التعلم العميق

• المشاكل الناجمة عن فرط الثقة:
• المعايرة: يجب أن تعكس الثقة الاحتمالية الفعلية للصحة.
• يمكن أن يؤدي فرط الثقة إلى مشاكل مثل:
• التعلم المعزز: مشاكل الاستكشاف.
• السيارات ذاتية القيادة: مواقف غير متوقعة.
• التشخيص الطبي: تشخيصات غير صحيحة.
• خارج توزيع التدريب، تميل نماذجنا إلى المبالغة في الثقة.

كيفية تحسين عدم اليقين

• المعايرة:
• طرق المعالجة اللاحقة: مقياس بلات، الانحدار المتساوي التوتر، مقياس درجة الحرارة.
• التركيز على تحسين معايرة النموذج.
• بيانات التدريب:
• إنشاء بيانات تدريب أفضل: المزيد من البيانات، بيانات أكثر تنوعًا.
• يمكن أن يؤدي تaugment البيانات إلى تحسين تقديرات عدم اليقين.
• هندسة النموذج:
• تعديل هندسة النموذج لتحسين تقديرات عدم اليقين.
• استخدام شبكة عصبونية بايزية.
• دالة الخسارة:
• تعديل دالة الخسارة لتحسين تقديرات عدم اليقين.
• فقدان التركيز.
• التسوية:
• يمكن أن تحسن التسوية تقديرات عدم اليقين.
• تجنب النسيان.
• التجميعات:
• يمكن أن تحسن التجميعات تقديرات عدم اليقين.
• التجميعات العميقة.