ישר הרגרסיה.

שלב 1 מתוך 5

ביד

מתאם אומר כמה חזק הקשר. לפעמים רוצים יותר: קו שאפשר לחזות ממנו את $y$⁠ לכל $x$⁠. בפרק על פונקציות קוויות ראינו קו $y = a + bx$⁠, עם שיפוע $b$⁠ וחיתוך $a$⁠. איזה קו כזה מתאים הכי טוב לנקודות?

כל קו מפספס כל נקודה במרחק אנכי כלשהו, השארית. על הלוח כל שארית היא מקל מהחרוז אל הקו, ועל כל מקל ריבוע. הקו הטוב ביותר הוא זה שסכום הריבועים שלו הכי קטן: ישר הרגרסיה, בשיטת הריבועים הפחותים. ריבועים ולא סתם מרחקים, מאותה סיבה כמו בסטיית התקן: מרחקים מעל ומתחת היו מבטלים זה את זה.

הקו שלכם מסתובב סביב $(\bar{x}, \bar{y})$⁠, והריבוע הצבעוני שמתחת ללוח הוא הריבוע הממוצע סביבו, $s_e^2$⁠. הגרף שליד הסצנה מראה את שטח הריבועים לכל שיפוע. מצאו את הקו הטוב ביותר.

שלב 2 מתוך 5

נקודת האיזון

הלוח מסובב עכשיו את הקו שלכם אל ישר הרגרסיה המדויק ומדפיס אותו: $\hat{y} = 1.90 + 0.62x$$\hat{y} =$$1.90 + 0.62x$⁠. הכובע על $\hat{y}$⁠ אומר “ערך חזוי”, להבדיל מערך שנמדד.

השיפוע של ישר הרגרסיה הוא

$b = \frac{\sum (x - \bar{x})(y - \bar{y})}{\sum (x - \bar{x})^2}$$b =$$\frac{\sum (x - \bar{x})(y - \bar{y})}{\sum (x - \bar{x})^2}$⁠

אבל קודם שאלה על הנקודה שהקו הסתובב סביבה.

שלב 3 מתוך 5

תחזית

בשביל זה בונים את הקו: לחזות $y$⁠ גם ב־$x$⁠ שלא נמדד בדיוק. מציבים את ה־$x$⁠ במשוואה.

תחזית בתוך טווח המדידות, כאן בין $1$⁠ ל־$9$⁠, נקראת אינטרפולציה והיא סבירה. תחזית רחוק מחוץ לו, אקסטרפולציה, מסוכנת: אין לנו שום מדידה שתגיד שהקשר ממשיך להיות קו ישר שם.

שלב 4 מתוך 5

נקודה אחת רחוקה

בשיעור על הממוצע ראינו שערך חריג מושך את הממוצע ומשאיר את החציון כמעט במקומו. ישר הרגרסיה בנוי מריבועים, ולכן הוא דומה לממוצע ולא לחציון.

שלב 5 מתוך 5

כמה הקו מסביר

הלוח מדפיס גם את $r^2 = 1 - \frac{s_e^2}{s^2}$$r^2 =$$1 - \frac{s_e^2}{s^2}$⁠. שני הריבועים שמתחת ללוח משווים את הריבוע הממוצע סביב הממוצע, $s^2$⁠, לריבוע הממוצע סביב הקו, $s_e^2$⁠. $r^2$⁠ הוא החלק מהפיזור של $y$⁠ שהקו מסביר, ו־$1 - r^2$⁠ הוא החלק שנשאר כרעש. כאן $r^2 = 0.78$⁠: הקו מסביר $78\%$⁠ מהפיזור.

הזיזו את רעש ותראו את שני הריבועים מתקרבים זה לזה או מתרחקים. בסוף, חשבו את $r^2$⁠ למחקר אמיתי.