एकाधिक-स्क्वायर और एडजस्टेड आर-स्क्वायर के बीच एक अंतर-भिन्नतम वर्ग रिग्रेशन में अंतर क्या है?

Question

कोई व्यक्ति सांख्यिकीय रूप से बेवकूफ़ों को समझा सकता है कि Multiple R-squared और Adjusted R-squared के बीच क्या अंतर है?

v.lm <- lm(epm ~ n_days, data=v) 
print(summary(v.lm)) 

परिणाम:: इस प्रकार मैं एक एकल variate प्रतिगमन विश्लेषण कर रहा हूँ

Call: 
lm(formula = epm ~ n_days, data = v) 

Residuals: 
    Min  1Q Median  3Q  Max 
-693.59 -325.79 53.34 302.46 964.95 

Coefficients: 
      Estimate Std. Error t value Pr(>|t|)  
(Intercept) 2550.39  92.15 27.677 <2e-16 *** 
n_days  -13.12  5.39 -2.433 0.0216 * 
--- 
Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1 

Residual standard error: 410.1 on 28 degrees of freedom 
Multiple R-squared: 0.1746,  Adjusted R-squared: 0.1451 
F-statistic: 5.921 on 1 and 28 DF, p-value: 0.0216 

Answer 1

"समायोजन" में समायोजित R-squared चर की संख्या और टिप्पणियों की संख्या से संबंधित है।

यदि आप अपने मॉडल में चर (predictors) जोड़ते रहते हैं, तो आर-स्क्वायर में सुधार होगा - यानी भविष्यवाणियों में भिन्नता की व्याख्या होगी - लेकिन उनमें से कुछ सुधार अकेले मौके के कारण हो सकते हैं। इसलिए समायोजित आर-स्क्वायर इस अनुपात को सही करने के लिए प्रयास करता है, अनुपात (एन -1)/(एन-के -1) को ध्यान में रखते हुए, जहां एन = अवलोकनों की संख्या और के = चर के संख्या (भविष्यवाणियों)।

यह शायद आपके मामले में कोई चिंता नहीं है, क्योंकि आपके पास एक ही भिन्नता है।

कुछ संदर्भों:

1. How high, R-squared?
2. Goodness of fit statistics
3. Multiple regression
4. Re: What is "Adjusted R^2" in Multiple Regression

Answer 2

R-squared मॉडल में चर की संख्या पर निर्भर नहीं है। समायोजित आर-वर्ग है।

समायोजित आर-स्क्वायर उस मॉडल में चर जोड़ने के लिए जुर्माना जोड़ता है जो आपके द्वारा व्याख्या करने की कोशिश करने वाले चर के साथ असंबद्ध है। आप यह जांचने के लिए इसका उपयोग कर सकते हैं कि कोई वैरिएबल उस चीज़ से प्रासंगिक है जो आप समझाने की कोशिश कर रहे हैं।

एडजस्टेड आर-स्क्वायर आर-स्क्वायर है जो कुछ डिवीजनों के साथ मॉडल में चर की संख्या पर निर्भर करता है।

Answer 3

समायोजित आर-स्क्वायर आर 2 के मूल्य के करीब है, लेकिन इससे अलग है। वर्ग एसएसआर के समेकित योग और एसएसवाई के कुल योग के आधार पर होने के बजाय, यह समग्र भिन्नता (एक मात्रा जिसे हम आम तौर पर गणना नहीं करते हैं) पर आधारित है, एस 2 टी = एसएसवाई/(एन -1) और त्रुटि भिन्नता एमएसई (एनोवा टेबल से) और इस तरह से काम किया जाता है: समायोजित आर-स्क्वायर = (एस 2 टी - एमएसई)/एस 2 टी।

यह दृष्टिकोण स्पष्टीकरण चर जोड़ने के कारण फिट में सुधार का न्याय करने के लिए एक बेहतर आधार प्रदान करता है, लेकिन इसमें आर 2 के सरल संक्षेप में व्याख्या नहीं है।

अगर मैं एक गलती नहीं की है, तो आप इस प्रकार समायोजित R-squared और आर-वर्ग के मूल्यों को सत्यापित करना चाहिए:

s2T <- sum(anova(v.lm)[[2]])/sum(anova(v.lm)[[1]]) 
MSE <- anova(v.lm)[[3]][2] 
adj.R2 <- (s2T - MSE)/s2T 

दूसरी ओर, आर 2 है: एसएसआर/SSY, जहां एसएसआर = SSY - SSE

attach(v) 
SSE <- deviance(v.lm) # or SSE <- sum((epm - predict(v.lm,list(n_days)))^2) 
SSY <- deviance(lm(epm ~ 1)) # or SSY <- sum((epm-mean(epm))^2) 
SSR <- (SSY - SSE) # or SSR <- sum((predict(v.lm,list(n_days)) - mean(epm))^2) 
R2 <- SSR/SSY 

Answer 4

ध्यान दें कि, भविष्य कहनेवाला चर की संख्या के अलावा, ऊपर समायोजित R-squared सूत्र भी नमूना आकार के लिए समायोजित करता है। एक छोटा नमूना एक भ्रामक रूप से बड़े आर-स्क्वायर देगा।

पिंग यिन & Xitao फैन, प्रायोगिक जे शिक्षा 69 (2): 203-224, "कई प्रतिगमन में आर-वर्ग संकोचन का आकलन", आर-वर्ग को एडजस्ट करने के लिए विभिन्न तरीकों तुलना करता है और निष्कर्ष निकाला है कि सामान्य रूप से प्रयुक्त ऊपर उद्धृत वाले लोग अच्छे नहीं हैं। वे ओल्किन & प्रैट फॉर्मूला की सलाह देते हैं।

हालांकि, मैंने कुछ संकेत देखा है कि इन सूत्रों में से किसी भी तुलना में आबादी का आकार बहुत बड़ा प्रभाव पड़ता है। मुझे विश्वास नहीं है कि इनमें से कोई भी सूत्र पर्याप्त पर्याप्त नमूना आकारों के साथ किए गए प्रतिगमन की तुलना करने के लिए पर्याप्त है (उदाहरण के लिए, 2,000 बनाम 200,000 नमूने; मानक सूत्र लगभग नमूना-आकार-आधारित समायोजन नहीं करेंगे)। मैं प्रत्येक नमूने पर आर-स्क्वायर की जांच करने के लिए कुछ क्रॉस-सत्यापन करता हूं।