מבוא לרגרסיה ליניארית פשוטה

מבוא לרגרסיה ליניארית פשוטה

• טכניקה סטטיסטית למציאת קשר בין משתנה תלוי למשתנה בלתי תלוי אחד או יותר.
• מטרתה לחזות את ערכו של המשתנה התלוי על סמך ערכי המשתנים הבלתי תלויים.
• משתנה תלוי: המשתנה שאותו אנו רוצים לחזות.
• משתנה בלתי תלוי: המשתנים המשמשים לחיזוי המשתנה התלוי.
• רגרסיה לינארית פשוטה מתייחסת לקשר לינארי בין משתנה תלוי לבד אחד של משתנה בלתי תלוי.

הנחות בסיסיות

• קשר לינארי: קיים קשר ליניארי בין המשתנה התלוי לבלתי תלוי – ניתן לזהות זאת חזותית באמצעות דיאגרמת פיזור או באמצעות אבחון נוסף.
• תפלצות נורמליות של שגיאות: שגיאות הרגרסיה מואכות באופן נורמלי (התפלגות נורמלית) – ניתן לזהות זאת באמצעות היסטוגרמה או דיאגרמת קופסה.
• שונות שווה של שגיאות: השונות של שגיאות הרגרסיה קבועה בכל ערכי המשתנה הבלתי תלוי – ניתן לראות זאת בגרף של שגיאות הרגרסיה.
• עצמאות של שגיאות: שגיאות הרגרסיה עצמאיות אחת מהשנייה – קיימים מבחני עצמאות לשגיאות.
• אין תלות בין המשתנים הבלתי תלויים: משתנה בלתי תלוי אחד לא משפיע על ערכי האחר – ניתן לאבחן זאת באמצעות אבחון המודל.

משוואת הרגרסיה

• משוואה לינארית בסיסית: y = mx + b
• y: משתנה תלוי
• x: משתנה בלתי תלוי
• m: שיפוע (slope) – מדד לשינוי של y עבור שינוי של יחידה אחת ב-x.
• b: נקודת חיתוך עם ציר y – ערך של y כאשר x שווה לאפס.

מדדים לביצוע

• מקדם המתאם (r): מדד לחוזק וכיוון הקשר בין המשתנים (ערכים בין -1 ל-1).
• R-squared (R²): מדד לאחוז השונות של המשתנה התלוי המוסבר על ידי המשתנים הבלתי תלויים.
• תקן שגיאה של חיזוי: מדד לפיזור החיזויים של המשתנה התלוי.
• ערך p: הסתברות למציאת קשר אקראי בין המשתנים – ערך p נמוך מצביע על קשר משמעותי.

פירוש תוצאות רגרסיה

• חשוב לפרש את תוצאות רגרסיה לינארית, לא רק לוגיסטית.
• כיצד ניתן לייצג את המשתנים במשוואה?
• מה משמעות המשתנה הבלתי תלוי?
• כיצד ניתן להשתמש בתוצאות לחיזוי?

הצגת תוצאות רגרסיה

• טבלאות סטטיסטיות: מציגות ערכים חשובים כמו שיפוע, תקן שגיאה של חיזוי, וערכי p.
• גרפים: דיאגרמת פיזור, גרף של שגיאות הרגרסיה, להמחשת התפלגות נתונים וליניאריות הרגרסיה.

מגבלות של רגרסיה לינארית פשוטה

• הנחות: תוצאות יכולות להיות מוטות/לא מדויקות אם ההנחות לא מתקיימות.
• קשרים לא לינאריים: אם הקשר בין המשתנים הוא לא לינארי, רגרסיה לינארית פשוטה אינה מתאימה.
• ערכים חריגים (Outliers): ערכים חריגים יכולים להשפיע על תוצאות הרגרסיה, לכן מומלץ לטפל בהם.
• התאמה למחקר: חשוב לבחון האם רגרסיה לינארית פשוטה מתאימה לבעיה הספציפית.

שלבים לבניית מודל רגרסיה

1. הבנה ושאלות המחקר.
2. איסוף נתונים.
3. בדיקה של הקשר הלינארי בין המשתנים.
4. הפעלת רגרסיה לינארית פשוטה.
5. אבחון המודל (בדיקה של ההנחות).
6. פרשנות התוצאות.
7. חיזוי ערכים חדשים.

רגרסיה ליניארית פשוטה היא טכניקת חיזוי סטטיסטית הקושרת בין משתנה תלוי למספר משתנים בלתי תלויים. השאלות במבחן זה מתמקדות בהנחות ובתהליכים הקשורים לרגרסיה ובחיזוי נתונים על פי מודלים לינאריים.