לוג'יט

גרף של logit(p) בטווח 0 עד 1, כאשר בסיס הלוגריתם הוא e.

בסטטיסטיקה, לוג'יט או Logit היא פונקציית שברון הקשורה להתפלגות לוגיסטית סטנדרטית. יש לה שימושים רבים בניתוח מידע ולמידת מכונה, ובפרט בטרנספורמציות נתונים.

מבחינה מתמטית, הלוג'יט הוא היפוך של הפונקציה הלוגיסטית הסטנדרטית $\sigma (x)=1/(1+e^{-x})$, כך שהלוגיט מוגדר כ

$\mathrm{logit}(p)={\sigma }^{-1}(p)=\ln \left(\frac{p}{1-p}\right)\text{for}p\in (0,1)$ .

בגלל זה, הלוג'יט נקרא גם הלוג של הסיכויים (log-odds) מכיוון שהוא שווה ללוגריתם של יחס הסיכויים $\frac{p}{1-p}$ כאשר p הוא הסתברות. לפיכך, הלוג'יט הוא סוג של פונקציה שממפה ערכי הסתברות מהמרחב $(0,1)$ למספרים ממשיים במרחב $(-\mathrm{\infty },+\mathrm{\infty })$, בדומה לפונקציית פרוביט.

הגדרה

אם p הוא הסתברות, אז p/(1 − p) הוא הסיכוי המתאים; לוג'יט של ההסתברות הוא הלוגריתם של הסיכויים, כלומר:

$\mathrm{logit}(p)=\ln \left(\frac{p}{1-p}\right)=\ln (p)-\ln (1-p)=-\ln (\frac{1}{p}-1).$

לבסיס של פונקציית הלוגריתם בשימוש חשיבות מועטה במאמר הנוכחי, כל עוד הוא גדול מ-1, אך הלוגריתם הטבעי עם בסיס e הוא הלוגריתם הנפוץ ביותר. בחירת הבסיס מתאימה לבחירת היחידה הלוגריתמית עבור הערך: בסיס 2 מתאים ל"shannon", בסיס e ל"nat", ובסיס 10 לhartley; יחידות אלו משמשות במיוחד בפירושים תאורטיים של מידע. עבור כל בחירה של בסיס, פונקציית לוג'יט לוקחת ערכים בין אינסוף שלילי לחיובי.

הפונקציה ה"לוגיסטית" של כל מספר $\alpha$ ניתן על ידי היפוך-לוג'יט:

${\mathrm{logit}}^{-1}(\alpha )=\mathrm{logistic}(\alpha )=\frac{1}{1+\exp (-\alpha )}=\frac{\exp (\alpha )}{\exp (\alpha )+1}$

ההבדל בין לוג'יט של שתי הסתברויות הוא הלוגריתם של יחס הסיכויים (R), ובכך מספק קיצור לכתיבת הקומבינציה הנכונה של יחסי סיכויים רק על ידי חיבור והפחתה:

$\ln (R)=\ln \left(\frac{p_1/(1-p_1)}{p_2/(1-p_2)}\right)=\ln \left(\frac{p_1}{1-p_1}\right)-\ln \left(\frac{p_2}{1-p_2}\right)=\mathrm{logit}(p_1)-\mathrm{logit}(p_2).$

היסטוריה

היו מספר מאמצים להתאים שיטות רגרסיה ליניאריות לתחום שבו הפלט הוא ערך הסתברות $(0,1)$, במקום כל מספר ממשי $(-\mathrm{\infty },+\mathrm{\infty })$ . במקרים רבים, מאמצים כאלה התמקדו במודלים של בעיה זו על ידי מיפוי הטווח $(0,1)$ ל $(-\mathrm{\infty },+\mathrm{\infty })$ ולאחר מכן הפעלת הרגרסיה הליניארית על הערכים שעברו טרנספורמציה אלו. בשנת 1934 השתמש צ'סטר איטנר בליס בפונקציית ההתפלגות הנורמלית המצטברת כדי לבצע מיפוי זה וכינה את המודל שלו probit (קיצור של "probability unit"). עם זאת, זה יקר יותר מבחינה חישובית. ב-1944, ג'וזף ברקסון השתמש ביומן הסיכויים וקרא לפונקציה הזו logit, קיצור של "logistic unit" בעקבות האנלוגיה של probit. צ'ארלס סנדרס פרס (סוף המאה ה-19) השתמש בהרחבה בלוגריתם הסיכויים. GA Barnard בשנת 1949 טבע את המונח הנפוץ "log-odds"; לוגריתם הסיכויים של אירוע הוא הלוג'יט של ההסתברות לאירוע.

השוואה עם פרוביט

השוואה של פונקציית הלוג'יט עם פרוביט בקנה מידה (כלומר ה-CDF ההפוך של ההתפלגות הנורמלית ), השוואה $\mathrm{logit}(x)$ לעומת. $\frac{{\mathrm{\Phi }}^{-1}(x)}{\sqrt{\pi /8}}$, מה שהופך את השיפועים להיות זהים במקור ה-y

קשורים קשר הדוק לפונקציית logit (ולמודל ה-logit) הם פונקציית probit ומודל probit. logit probit הן שתיהן פונקציות סיגמואידיות עם תחום בין 0 ל-1, מה שהופך את שתיהן לפונקציות קוונטיליות - כלומר, הפכים לפונקציית ההתפלגות המצטברת (CDF) של התפלגות הסתברות. למעשה, לוג'יט הוא הפונקציה הקוונטילית של ההתפלגות הלוגיסטית, בעוד probit היא הפונקציה הכמותית של ההתפלגות הנורמלית. הפונקציה probit ${\mathrm{\Phi }}^{-1}(x)$, איפה $\mathrm{\Phi }(x)$ היא ה-CDF של ההתפלגות הנורמלית, כאמור:

$\mathrm{\Phi }(x)=\frac{1}{\sqrt{2\pi }}\underset{-\mathrm{\infty }}{\overset{x}{\int }}{e}^{-\frac{y^2}{2}}dy.$

כפי שמוצג בגרף בצד ימין, הלוג'יט והפרוביט דומות מאוד כאשר פרוביט בקנה מידה, כך שהשיפוע שלה ב- y = 0 תואם את שיפוע ה- logit . כתוצאה מכך, מודלים של פרוביט משמשים לפעמים במקום מודלים של לוגיט, כי עבור יישומים מסוימים (למשל, בסטטיסטיקה בייסיאנית) היישום קל יותר.

לקריאה נוספת

• בתהליכי בנייה "תבנית:Cite book"

קישורים חיצוניים

מדיה וקבצים בנושא לוג'יט בוויקישיתוף