ΒΙΟΣΤΑΤΙΣΤΙΚΗ ΙΙ. ΜΑΘΗΜΑ 11 Συµπερασµατολογία για την επίδραση πολλών µεταβλητών σε µια ποσοτική (Πολλαπλή Παλινδρόµηση)

Transcript

1 Ενότητα ιαφάνειες Μαθήµατος: - Ενότητα ιαφάνειες Μαθήµατος: - ΠΜΣ ΕΠΑΓΓΕΛΜΑΤΙΚΗ ΚΑΙ ΠΕΡΙΒΑΛΛΟΝΤΙΚΗ ΥΓΕΙΑ, ΙΑΧΕΙΡΙΣΗ ΚΑΙ ΟΙΚΟΝΟΜΙΚΗ ΑΠΟΤΙΜΗΣΗ ΑΚ. ΕΤΟΣ , 3ο εξάµηνο.. Γενίκευση του µοντέλου ΜΑΘΗΜΑ Συµπερασµατολογία για την επίδραση πολλών µεταβλητών σε µια ποσοτική (Πολλαπλή Παλινδρόµηση) Έστω ότι έχουµε p+ ποσοτικές µεταβλητές Υ: απόκρισης ή εξαρτηµένη Χ, Χ,... Χ p : επεξηγηµατικές ή ανεξάρτητες µεταβλητές Το µοντέλο: Y=β 0 +β Χ + β Χ β p X p +ε, ε~ν( 0, σ ) ή ισοδύναµα Y~Ν(µ, σ ), Ε(Y)=µ= β 0 +β Χ + β Χ β p X p Μοντέλο και δεδοµένα: Υ i, X i ζεύγη τιµών για i=,,, n Y i = β 0 +β Χ i + β Χ i β p X ip +ε i, ε i ~Ν( 0, σ ) Y i ~Ν( µ i, σ ), µ i = β 0 +β Χ i + β Χ i β p X ip ιαφάνεια - ιαφάνεια -3 ΠΕΡΙΕΧΟΜΕΝΑ.. Γενίκευση του µοντέλου Πολλαπλή Παλινδρόµηση (multiple regression) Γενίκευση του µοντέλου Ερµηνεία παραµέτρων Παράδειγµα - και εφαρµογή στο SPSS ιαδικασίες επιλογής µοντέλων και µεταβλητών (και Εφαρµογή στο SPSS παράδειγµα -) Το πρόβληµα της πολυσυγγραµµικότητας (και Εφαρµογή στο SPSS παράδειγµα -, Παράδειγµα -: προσοµοιωµένα δεδοµένα) ΠΑΡΑ ΕΙΓΜΑ -3 WORLD95 είκτες µερικής συσχέτισης (Partial correlations) (+ Συνέχεια παραδείγµατος -) Πολυωνυµική Παλινδρόµηση Χρήση κατηγορικών συµµεταβλητών σε παλινδροµικά µοντέλα Σχέση παλινδρόµησης και ANOVA/t-tests Αναλ. Συνδιακύµανσης (ANCOVA) ΠΡΟΫΠΟΘΕΣΕΙΣ: Ι ΙΕΣ ΕΡΜΗΝΕΙΑ: ΛΙΓΟ ΙΑΦΟΡΕΤΙΚΗ EXTRA ΠΡΟΒΛΗΜΑ: ΠΟΛΥ-ΣΥΓΓΡΑΜΙΚΟΤΗΤΑ µεταξύ επεξηγηµατικών µεταβλητών (ύπαρξη γραµµικών σχέσεων µεταξύ επεξηγηµατικών µεταβλητών) [Multi-collinearity] EXTRA ΕΡΩΤΗΜΑ: ΕΠΙΛΟΓΗ ΣΗΜΑΝΤΙΚΩΝ ΜΕΤΑΒΛΗΤΩΝ ιαφάνεια - ιαφάνεια -4

2 Ενότητα ιαφάνειες Μαθήµατος: -3 Ενότητα ιαφάνειες Μαθήµατος: -4.. Ερµηνεία παραµέτρων.3. Παράδειγµα - και εφαρµογή στο SPSS β 0 : Αναµενόµενη τιµή της Υ όταν όλες οι Χ είναι µηδέν Αν πάρουµε ως επεξηγηµατικές τις µεταβλητές κεντραρισµένες ως προς τον µέσο Χ j* =Χ j X j Τότε αντιστοιχεί στην αναµενόµενη τιµή του Υ όταν όλες οι Χ είναι ίσες µε τους δειγµατικούς µέσους (ένα τυπικό µέσο άτοµο του δείγµατος) β J : Αναµενόµενη µεταβολή τιµή της Υ όταν η Χ j αυξηθεί κατά µία µονάδα άλλα οι υπόλοιπες Χ παραµείνουν σταθερές. Επίδραση (effect) της µεταβλητής Χ j στην Υ διορθωµένη (adjusted) για τις επιδράσεις των υπόλοιπων µεταβλητών Επίδραση διορθωµένη ως προς τις Χ µεταβλητές σηµαίνει ότι τις έχουµε λάβει υπόψη µας στην ανάλυση µας ιαφάνεια -5 Παράδειγµα - Μονάδα µελέτης: Κατοικία n=30 Μεταβλητές p=4 Price: Τιµή σε δολάρια Living:Χώρος Κατοικίας (κτηρίου) Lotsize:Έκταση οικοπέδου Subdivis: Περιοχή που βρίσκεται το σπίτι ιαφάνεια Παράδειγµα - και εφαρµογή στο SPSS.3. Παράδειγµα - και εφαρµογή στο SPSS Παράδειγµα - Ένα κτηµατοµεσίτης έκανε έρευνα αγοράς σε 3 περιοχές µε σκοπό να φτιάξει ένα απλό µοντέλο για να υπολογίζει προβλέπει τις αναµενόµενες τιµές των σπιτιών ανά περιοχή. Έτσι πήρε 0 σπίτια σε κάθε περιοχή τυχαία επιλεγµένα και µέτρησε Τιµή σε δολάρια Χώρος Κατοικίας (κτιρίου) Έκταση οικοπέδου Περιοχή που βρίσκεται το σπίτι ιαφάνεια -6 ΑΝΑΛΥΣΗ ΒΗΜΑΤΑ Ανάλυση ανά µία µεταβλητή ιαγραµµατική απεικόνιση (Scatter-plots) είκτες συσχέτισης Μοντέλο Παλινδρόµησης Επιλογή Μεταβλητών Έλεγχος πολυσυγγραµικότητας Έλεγχος Προϋποθέσεων (Ανάλυση καταλοίπων) ιαφάνεια -8

3 Ενότητα ιαφάνειες Μαθήµατος: -5 Ενότητα ιαφάνειες Μαθήµατος: Παράδειγµα - και εφαρµογή στο SPSS ΙΑΓΡΑΜΜΑΤΙΚΗ ΑΠΕΙΚΟΝΙΣΗ.3. Παράδειγµα - και εφαρµογή στο SPSS ΕΙΚΤΕΣ ΓΡΑΜΜΙΚΗΣ ΣΥΣΧΕΤΙΣΗΣ price Price in US Dollars living Size of Living Area in Sq. ft lotsize Lot Size in Sq.ft. Pearson Correlation Sig. (-tailed) N Pearson Correlation Sig. (-tailed) N Pearson Correlation Sig. (-tailed) N Correlations **. Correlation is significant at the 0.0 level (-tailed). living Size of price Price in Living Area in lotsize Lot US Dollars Sq. ft Size in Sq.ft..963**.907** **.96** **.96** ιαφάνεια -9 ιαφάνεια -.3. Παράδειγµα - και εφαρµογή στο SPSS ΙΑΓΡΑΜΜΑΤΙΚΗ ΑΠΕΙΚΟΝΙΣΗ.3. Παράδειγµα - και εφαρµογή στο SPSS Επιλογή µενού στο SPSS Εξαρτηµένη µεταβλητή ανεξάρτητες µεταβλητές ιαφάνεια -0 ιαφάνεια -

4 Ενότητα ιαφάνειες Μαθήµατος: -7 Ενότητα ιαφάνειες Μαθήµατος: Παράδειγµα - και εφαρµογή στο SPSS Περιληπτικός πίνακας Summary Adjusted Std. Error of R R Square R Square the Estimate.965 a a. Predictors: (Constant), lotsize Lot Size in Sq.ft., living Size of Living Area in Sq. ft σ=908.66$.3. Παράδειγµα - και εφαρµογή στο SPSS Πίνακας εκτιµήσεων των παραµέτρων (Constant) living Size of Living Area in Sq. ft lotsize Lot Size in Sq.ft. a Unstandardized a. Dependent Variable: price Price in US Dollars Στατιστικά σηµαντικό (διάφορο του µηδενός) Standardized B Std. Error Beta t Sig εν είναι Στατιστικά σηµαντικό (άρα ίσο µε µηδέν) Τιµή = Μεγ.Σπιτ (sq.ft).35 Μέγ.Οικ.(sq.ft.) ιαφάνεια -3 ιαφάνεια Παράδειγµα - και εφαρµογή στο SPSS Regression Residual Total Πίνακας ανάλυσης ιακύµανσης ANOVA b Sum of Squares df Mean Square F Sig E a a. Predictors: (Constant), lotsize Lot Size in Sq.ft., living Size of Living Area in Sq. ft b. Dependent Variable: price Price in US Dollars Ελέγχει την Η0: β =β =0 δηλαδή αν υπάρχει σηµαντική διαφοροποίηση από το σταθερό µοντέλο.3. Παράδειγµα - και εφαρµογή στο SPSS Ερµηνεία παραµέτρων Τιµή = Μεγ.Σπιτ (sq.ft).35 Μέγ.Οικ.(sq.ft.) Όταν το οικόπεδο και το κτίριο έχουν µηδενική έκταση (???) τότε η αναµενόµενη τιµή είναι 50$ εν στέκει ως ερµηνεία Μόνο µπορούµε να θεωρήσουµε το ποσό των 50 κάποια πάγια έξοδα Γενικά θα είναι µάλλον πιο λογικό να αφαιρέσουµε τη σταθερά (αν και είναι στατιστικά σηµαντική) Αύξηση της έκτασης του κτιρίου κατά sq.ft. συνεπάγεται αύξηση κατά 77$ όταν η έκταση του οικοπέδου παραµείνει σταθερή ΠΙΟ ΣΩΣΤΗ ΕΡΜΗΝΕΙΑ: Αν συγκρίνουµε δύο συµβόλαια µε ίδια έκταση οικοπέδου και διαφορά στο µέγεθος του κτιρίου κατά sq.ft. τότε αναµένουµε διαφορά ίση µε 77$ ΠΙΟ ΣΩΣΤΗ ΕΡΜΗΝΕΙΑ: Αν συγκρίνουµε δύο συµβόλαια µε ίδια έκταση κτιρίου και διαφορά στο µέγεθος του οικοπέδου κατά sq.ft. τότε αναµένουµε διαφορά ίση µε.35$ (υπέρ του µεγαλύτερου οικοπέδου)???? [ ΕΝ ΣΤΕΚΕΙ ΟΜΩΣ ΕΙΝΑΙ ΣΤΑΤΙΣΤΙΚΑ ΜΗ ΣΗΜΑΝΤΙΚΟ] ιαφάνεια -4 ιαφάνεια -6

5 Ενότητα ιαφάνειες Μαθήµατος: -9 Ενότητα ιαφάνειες Μαθήµατος: Παράδειγµα - και εφαρµογή στο SPSS Αφαίρεση σταθεράς.3. Παράδειγµα - και εφαρµογή στο SPSS Αφαίρεση σταθεράς a,b Στατιστικά σηµαντικό (διάφορο του µηδενός) living Size of Living Area in Sq. ft lotsize Lot Size in Sq.ft. a. Dependent Variable: price Price in US Dollars b. Linear Regression through the Origin Unstandardized B Std. Error Standardized Beta t Sig. εν είναι Στατιστικά σηµαντικό (άρα ίσο µε µηδέν) Τιµή = 6.8 Μεγ.Σπιτ (sq.ft) Μέγ.Οικ.(sq.ft.) ιαφάνεια -7 ιαφάνεια Παράδειγµα - και εφαρµογή στο SPSS Αφαίρεση σταθεράς Summary R R Square a R Square the Estimate Adjusted Std. Error of.998 b a. For regression through the origin (the no-intercept model), R Square measures the proportion of the variability in the dependent variable about the origin explained by regression. This CANNOT be compared to R Square for models which include an intercept. b. Predictors: lotsize Lot Size in Sq.ft., living Size of Living Area in Sq. ft ιαφάνεια Παράδειγµα - και εφαρµογή στο SPSS Ερµηνεία παραµέτρων (Χωρίς σταθερά) Τιµή = 6.8 Μεγ.Σπιτ (sq.ft) Μέγ.Οικ.(sq.ft.) Όταν το οικόπεδο και το κτίριο έχουν µηδενική έκταση τότε η αναµενόµενη τιµή είναι 0$ (πολύ λογικότερό ως προσέγγιση) Αύξηση της έκτασης του κτιρίου κατά sq.ft. συνεπάγεται αύξηση κατά 6.8$ όταν η έκταση του οικοπέδου παραµείνει σταθερή ΠΙΟ ΣΩΣΤΗ ΕΡΜΗΝΕΙΑ: Αν συγκρίνουµε δύο συµβόλαια µε ίδια έκταση οικοπέδου και διαφορά στο µέγεθος του κτιρίου κατά sq.ft. τότε αναµένουµε διαφορά ίση µε 6.8$ ΠΙΟ ΣΩΣΤΗ ΕΡΜΗΝΕΙΑ: Αν συγκρίνουµε δύο συµβόλαια µε ίδια έκταση κτιρίου και διαφορά στο µέγεθος του οικοπέδου κατά sq.ft. τότε αναµένουµε αύξηση της τιµής κατά 0.85$ [ΕΙΝΑΙ ΣΤΑΤΙΣΤΙΚΑ ΣΗΜΑΝΤΙΚΟ] ιαφάνεια -0

6 Ενότητα ιαφάνειες Μαθήµατος: - Ενότητα ιαφάνειες Μαθήµατος: -.3. Παράδειγµα - και εφαρµογή στο SPSS.3. Παράδειγµα - και εφαρµογή στο SPSS Μοντέλο µε σταθερά και Μεταβλητές κεντραρισµένες στο µέσο Summary R R Square Adjusted R Square Std. Error of the Estimate.965 a a. Predictors: (Constant), lot.c, liv.c a (Constant) liv.c lot.c Unstandardized Standardized B Std. Error Beta t Sig a. Dependent Variable: price Price in US Dollars Ένα µέσο σπίτι (εκτ.90 sq.ft.) κοστίζει περίπου 3430$ ιαφάνεια - Έλεγχοι Προϋποθέσεων. Κανονικά θα έπρεπε να αφαιρέσουµε και το LOTSIZE. Ας πούµε ότι το κρατάµε για να έχουµε ένα πιο ρεαλιστικό µοντέλο. ΚΑΝΟΝΙΚΟΤΗΤΑ (QQPLOT, HISTOGRAM, SW/KS TESTS) 3. ΟΜΟΣΚΕ ΑΣΤΙΚΟΤΗΤΑ ΓΡΑΜΜΙΚΟΤΗΤΑ ΑΚΡΑΙΕΣ ΤΙΜΕΣ (PRED-ST.RESIDUALS) 4. TYXAIOTHTA (LINE PLOT, RUNS TEST, DW TEST, ACF+PACF) ιαφάνεια Παράδειγµα - και εφαρµογή στο SPSS.3. Παράδειγµα - και εφαρµογή στο SPSS Μοντέλο χωρίς σταθερά και Μεταβλητές κεντραρισµένες στο µέσο Summary R????? R Square a Adjusted R Square Std. Error of the Estimate.8 b a. For regression through the origin (the no-intercept model), R Square measures the proportion of the variability Unstandardized in the dependent variable Standardized about the origin explained by regression. This CANNOT be compared to R Square B for Std. models Error which include Beta an intercept. t Sig. liv.c b. Predictors: 77.07lot.c, liv.c lot.c a. Dependent Variable: price Price in US Dollars b. Linear Regression through the Origin ιαφάνεια - Έλεγχοι Προϋποθέσεων Κανονικότητα ιαφάνεια -4

7 Ενότητα ιαφάνειες Μαθήµατος: -3 Ενότητα ιαφάνειες Μαθήµατος: Παράδειγµα - και εφαρµογή στο SPSS.3. Παράδειγµα - και εφαρµογή στο SPSS Έλεγχοι Προϋποθέσεων Κανονικότητα Έλεγχοι Προϋποθέσεων Οµοσκεδαστικότητα, Γραµµικότητα, Ακραίες τιµές RES_ Unstandardized Residual *. This is a lower bound of the true significance. a. Lilliefors Significance Correction Tests of Normality Kolmogorov-Smirnov a Shapiro-Wilk Statistic df Sig. Statistic df Sig * ιαφάνεια -5 ιαφάνεια Παράδειγµα - και εφαρµογή στο SPSS.3. Παράδειγµα - και εφαρµογή στο SPSS Έλεγχοι Προϋποθέσεων Οµοσκεδαστικότητα, Γραµµικότητα, Ακραίες τιµές Έλεγχοι Προϋποθέσεων Οµοσκεδαστικότητα, Γραµµικότητα, Ακραίες τιµές Test of Homogeneity of Variances Quartiles of LIVING Quartiles of LOTSIZE RES_ Unstandardized Residual Levene StatisticTest of Homogeneity df of df Variances Sig RES_ Unstandardized Residual Levene Statistic df df Sig ιαφάνεια -6 ιαφάνεια -8

8 Ενότητα ιαφάνειες Μαθήµατος: -5 Ενότητα ιαφάνειες Μαθήµατος: Παράδειγµα - και εφαρµογή στο SPSS.3. Παράδειγµα - και εφαρµογή στο SPSS Έλεγχοι Προϋποθέσεων Οµοσκεδαστικότητα, Γραµµικότητα, Ακραίες τιµές Έλεγχοι Προϋποθέσεων - Τυχαιότητα ιαφάνεια -9 ιαφάνεια Παράδειγµα - και εφαρµογή στο SPSS.3. Παράδειγµα - και εφαρµογή στο SPSS Έλεγχοι Προϋποθέσεων Οµοσκεδαστικότητα, Γραµµικότητα, Ακραίες τιµές Έλεγχοι Προϋποθέσεων Ανεξαρτησία Σφαλµάτων Summary c,d Κοντά στο άρα ΟΚ R R Square a R Square the Estimate Watson Adjusted Std. Error of Durbin-.998 b a. For regression through the origin (the no-intercept model), R Square measures the proportion of the variability in the dependent variable about the origin explained by regression. This CANNOT be compared to R Square for models which include an intercept. b. Predictors: lotsize Lot Size in Sq.ft., living Size of Living Area in Sq. ft c. Dependent Variable: price Price in US Dollars d. Linear Regression through the Origin ιαφάνεια -30 ιαφάνεια -3

9 Ενότητα ιαφάνειες Μαθήµατος: -7 Ενότητα ιαφάνειες Μαθήµατος: Παράδειγµα - και εφαρµογή στο SPSS.4. ιαδικασίες επιλογής µεταβλητών Έλεγχοι Προϋποθέσεων Ανεξαρτησία Σφαλµάτων Stepwise procedure: Κλιµακωτή διαδικασία προσθαφαίρεσης µεταβλητών Ξεκινάµε από ένα µοντέλο και σε κάθε βήµα ελέγχουµε ποιες µεταβλητές πρέπει να προστεθούν ή να αφαιρεθούν µε βάση κάποιο κριτήριο (συνήθως p-value του β ή ελέγχου πιθανοφάνειας) Σταµατάµε όταν δεν µπορούµε να προσθέσουµε ή να αφαιρέσουµε άλλες µεταβλητές Συνηθισµένα µοντέλα εκκίνησης είναι το σταθερό (χωρίς καµία µεταβλητή SPSS) ή το πλήρες (µε όλες τις µεταβλητές) ιαφάνεια -33 ιαφάνεια ιαδικασίες επιλογής µεταβλητών.4. ιαδικασίες επιλογής µεταβλητών Stepwise procedure: Κλιµακωτή διαδικασία προσθαφαίρεσης µεταβλητών Backward procedure: Κλιµακωτή διαδικασία αφαίρεσης µεταβλητών Forward procedure: Κλιµακωτή διαδικασία πρόσθεσης µεταβλητών Backward procedure: Κλιµακωτή διαδικασία αφαίρεσης µεταβλητών Ξεκινάµε από το πλήρες µοντέλο και σε κάθε βήµα ελέγχουµε ποιες µεταβλητές πρέπει να αφαιρεθούν Σταµατάµε όταν δεν µπορούµε να αφαιρέσουµε άλλες µεταβλητές Forward procedure: Κλιµακωτή διαδικασία πρόσθεσης µεταβλητών Ξεκινάµε από το σταθερό µοντέλο και σε κάθε βήµα ελέγχουµε ποιες µεταβλητές πρέπει να προστεθούν Σταµατάµε όταν δεν µπορούµε να προσθέσουµε άλλες µεταβλητές ιαφάνεια -34 ιαφάνεια -36

10 Ενότητα ιαφάνειες Μαθήµατος: -9 Ενότητα ιαφάνειες Μαθήµατος: ιαδικασίες επιλογής µεταβλητών.4. ιαδικασίες επιλογής µοντέλων και µεταβλητών (Εφαρµογή στο SPSS: Συνέχεια παραδείγµατος -) ΚΡΙΤΗΡΙΑ ΣΗΜΑΝΤΙΚΟΤΗΤΑΣ ΕΠΙΛΟΓΗΣ ΜΕΤΑΒΛΗΤΩΝ F test από τη διαφορά διαδοχικών µοντέλων t-test για β BIC, AIC, Cp (Splus/R) ΛΕΠΤΟΜΕΡΕΙΕΣ Καλύτερη η Stepwise γιατί κάνει διπλούς ελέγχους Σηµείο εκκίνησης το πλήρες. Αν έχουµε πολλές µεταβλητές τότε σηµείο εκκίνησης το σταθερό ιαφορετικές διαδικασίες µπορούν να καταλήξουν σε άλλα µοντέλα ιαφορετικά σηµεία εκκίνησης µπορεί να καταλήξουν σε διαφορετικό µοντέλο. Variables Entered/Removed b,c Variables Entered lotsize Lot Size in Sq. ft., living Size of Living Area in Sq. ft a. Variables Removed lotsize Lot Size in Sq. ft. a. All requested variables entered. Method. Enter Backward (criterion: Probabilit y of F-to-remo ve >=. 00). b. Dependent Variable: price Price in US Dollars c. Linear Regression through the Origin Mode Summary d,e Adjusted Std. Error of Durbin- R R Square a R Squarehe Estimate Watson.998 b c a. For regression through the origin (the no-intercept m measures the proportion of the variability in the dep about the origin explained by regression. This CAN R Square for models which include an intercept. b. Predictors: lotsize Lot Size in Sq.ft., living Size of c. Predictors: living Size of Living Area in Sq. ft d. Dependent Variable: price Price in US Dollars e. Linear Regression through the Origin ιαφάνεια -37 ιαφάνεια ιαδικασίες επιλογής µοντέλων και µεταβλητών (Εφαρµογή στο SPSS: Συνέχεια παραδείγµατος -).4. ιαδικασίες επιλογής µοντέλων και µεταβλητών (Εφαρµογή στο SPSS: Συνέχεια παραδείγµατος -) a,b Μέθοδος επιλογής µεταβλητών living Size of Living Area in Sq. ft lotsize Lot Size in Sq.ft. living Size of Living Area in Sq. ft a. Dependent Variable: price Price in US Dollars b. Linear Regression through the Origin Unstandardized B Std. Error Standardized Beta t Sig. ιαφάνεια -38 ιαφάνεια -40

11 Ενότητα ιαφάνειες Μαθήµατος: - Ενότητα ιαφάνειες Μαθήµατος: -.4. ιαδικασίες επιλογής µοντέλων και µεταβλητών (Εφαρµογή στο SPSS: Συνέχεια παραδείγµατος -) lotsize Lot Size in Sq.ft. Excluded Variables b,c a. Predictors in the : living Size of Living Area in Sq. ft b. Dependent Variable: price Price in US Dollars c. Linear Regression through the Origin Collinearity Partial Statistics Beta In t Sig. Correlation Tolerance.096 a ΠΑΡΕΝΕΡΓΕΙΕΣ Όταν υπάρχει πλήρη γραµµική σχέση δεν µπορούν να βρεθούν εκτιµητές Μεγ.Πιθ. (ή ελ.τετρ.) Υψηλά τυπικά σφάλµατα Αστάθεια εκτιµητών Αλλοίωση επιδράσεων (ακόµα και αλλαγή πρόσηµων στις επιδράσεις) ιαφάνεια -4 ιαφάνεια -43 Πολυσυγγραµικότητα (multi-collinearity) Η υψηλή (στατιστικά) γραµµική σχέση µεταξύ µιας επεξηγηµατικής µεταβλητής µε τις υπόλοιπες Συγγραµµικότητα (collinearity) Η τέλεια γραµµική σχέση µεταξύ µιας επεξηγηµατικής µεταβλητής µε τις υπόλοιπες Στη βιβλιογραφία πολλές φορές οι όροι ταυτίζονται Για λεπτοµέρειες βλ. Ryan (997, σελ. 3) Γιατί είναι πρόβληµα; ΛΟΓΙΚΗ ΕΠΕΞΗΓΗΣΗ Αν µεταβλητές σχετίζονται ισχυρά µεταξύ τους, τότε µεταφέρουν παρόµοια πληροφορία (εφόσον γνωρίζοντας τη µια µπορούµε µε ακρίβεια να προβλέψουµε την άλλη). Συνεπώς τέτοιες µεταβλητές δεν προσθέτουν πληροφορία όταν τις προσθέτουµε στο µοντέλο Παρόµοια είναι η περίπτωση αν έχουµε εξάρτηση µε περισσότερες από µία µεταβλητές ιαφάνεια -4 ιαφάνεια -44

12 Ενότητα ιαφάνειες Μαθήµατος: -3 Ενότητα ιαφάνειες Μαθήµατος: -4 Γιατί είναι πρόβληµα; ΕΡΜΗΝΕΥΤΙΚΗ ΑΡΙΘΜΗΤΙΚΗ ΕΞΗΓΗΣΗ Έστω το παλινδροµικό µοντέλο Υ= β 0 +β Χ + β Χ +ε Όµως Χ = a+b X (τέλεια γραµµική σχέση) εν µπορούµε να χρησιµοποιήσουµε την προηγούµενη ερµηνεία διότι µεταβολή στη Χ συνεπάγεται µεταβολή και στην Χ ΕΠΙΠΛΕΟΝ Υ= β 0 +β Χ + β (a+bχ )+ε = (β 0 +a β )+(β +β b)χ +ε Γιατί είναι πρόβληµα; ΜΑΘΗΜΑΤΙΚΗ ΕΞΗΓΗΣΗ βˆ =(Χ T Χ) - Χ Τ y ΠΡΟΒΛΗΜΑ: Αν µια µεταβλητή (δηλ. Στήλη του Χ) είναι γραµµικός συνδυασµός των υπόλοιπων τότε δεν υπάρχει ο αντίστροφος (Χ T Χ) - ΣΤΗΝ ΠΡΑΞΗ: Σπάνια έχουµε τέλεια γραµµική σχέση. Αν όµως µια µεταβλητή σχετίζεται υψηλά µε τις υπόλοιπες (δηλ. Κάνουµε παλινδρόµηση µεταξύ τους και προκύψει µεγάλο R ) τότε έχουµε ασταθείς (unstable) εκτιµήσεις και µεγάλα τυπικά σφάλµατα. Ποια είναι η σωστή επίδραση της Χ ; ιαφάνεια -45 ιαφάνεια -47 Γιατί είναι πρόβληµα; ΜΑΘΗΜΑΤΙΚΗ ΕΞΗΓΗΣΗ βˆ =(Χ T Χ) - Χ Τ y T β ˆ = (βˆ ) 0,βˆ,...,βˆ p είναι το διάνυσµα των εκτιµητών µέγιστης πιθανοφάνειας διάστασης (p+)x Χ είναι ο πίνακας σχεδιασµού ή δεδοµένων διάστασης nx(p+). Η πρώτη στήλη αναφέρεται στο σταθερό όρο και έχει όλα της τα στοιχεία της ίσα µε ένα (). Οι υπόλοιπες έχουν τα δεδοµένα κάθε µεταβλητής y είναι το διάνυσµα διάστασης nx µε τα δεδοµένα της µεταβλητής απόκρισης. ΙΑΓΝΩΣΤΙΚΟΙ ΕΛΕΓΧΟΙ. Συσχετίσεις Pearson. Συντελεστές Πληθωρισµού ιακυµάνσεων (variance inflation factors) 3. Έλεγχος µε ιδιοτιµές και ιδιοδιανύσµατα της µήτρας Χ T Χ 4. Αναλογίες Αποσύνθεσης διακύµανσης (variance-decomposition proportions ή απλά variance proportions) ιαφάνεια -46 ιαφάνεια -48

13 Ενότητα ιαφάνειες Μαθήµατος: -5 Ενότητα ιαφάνειες Μαθήµατος: -6 ΙΑΓΝΩΣΤΙΚΟΙ ΕΛΕΓΧΟΙ. Συσχετίσεις Pearson [ είχνουν υψηλές γραµµικές σχέσεις ανά αλλά όχι για περισσότερες µεταβλητές όπως για X =X +X 3 +X 4 ]. Συντελεστές Πληθωρισµού ιακυµάνσεων (variance inflation factors) VIF(j) = (-R j ) - R j = Συντελεστής προσδιορισµού που προκύπτει από την παλινδρόµηση των υπόλοιπων επεξηγηµατικών µεταβλητών στην Χ j. Tolerance j =(-R j )=/VIF(j) : είκτης Ανεκτικότητας. είχνει το ποσοστό της διακύµανσης που δεν εξηγείται από τις υπόλοιπες συµµεταβλητές. Χαµηλές τιµές υποδεικνύουν πρόβληµα. Αν VIF(j)>0 έχουµε πρόβληµα Για p= ( επεξηγηµατικές µεταβλητές) τότε VIF(i)>0 r XX >0.949 ιαφάνεια -49 ΤΡΟΠΟΙ ΑΝΤΙΜΕΤΩΠΙΣΗΣ. Προσεκτικός σχεδιασµός πειράµατος. Όχι τυχαία Χ αλλά µε βάση πειραµατικό σχεδιασµό δύσκολο στην πράξη. Αφαίρεση Προβληµατικών µεταβλητών. Με µεγάλα VIF>0 & Αντιστοιχεί σε µικρή ιδιοτιµή Αφαιρούµε µόνο µία από αυτές µε µεγάλα proportion variance που αντιστοιχούν στην ίδια µικρή ιδιοτιµή Τσεκάρουµε R το οποίο πρέπει να αλλάξει ελάχιστα (εδώ βοηθάνε και οι κλιµακωτές διαδικασίες επιλογής µεταβλητών) Προσπαθούµε να έχουµε CI<5 (ή έστω CI<30) 3. Χρήση ορθογώνιου µετασχηµατισµού (Κυρίες συνιστώσες) των Χ. ύσκολη ερµηνεία ιαφάνεια -5 ΙΑΓΝΩΣΤΙΚΟΙ ΕΛΕΓΧΟΙ 3. Έλεγχος µε ιδιοτιµές και ιδιοδιανύσµατα της µήτρας Χ T Χ Ιδιοτιµές κοντά στο µηδέν υποδεικνύουν πρόβληµα. Condition Index=Τετραγωνική ρίζα (ΜΑΧ(Ιδιοτιµών)/Ιδιοτιµή) Αν CI j >30 σοβαρό πρόβληµα Αν CI j >5 πιθανό πρόβληµα Μεταβλητές που έχουν υψηλές τιµές ιδιοδιανυσµάτων είναι µεταβλητές που συµµετέχουν στην γραµµική σχέση. 4. Αναλογίες Αποσύνθεσης διακύµανσης (variance-decomposition proportions ή απλά variance proportions) Αναλογία (Ποσοστό) του VIF που προκύπτει από τη γραµµική σχέση που απεικονίζει η αντίστοιχη ιδιοτιµή (και ιδιοδιάνυσµα). (Εφαρµογή στο SPSS: Συνέχεια παραδείγµατος -) ιαφάνεια -50 ιαφάνεια -5

14 Ενότητα ιαφάνειες Μαθήµατος: -7 Ενότητα ιαφάνειες Μαθήµατος: -8 a. b. (Εφαρµογή στο SPSS: Συνέχεια παραδείγµατος -) living Size of Living Area in Sq. ft Unstandardized B Std. Error a,b Standardized Beta Collinearity Statistics t Sig. Tolerance VIF lotsize Lot Size in Sq.ft Dependent Variable: price Price in US Dollars Linear Regression through the Origin (ΠΑΡΑ ΕΙΓΜΑ - ΣΥΓΓΡΑΜΜΙΚΑ Ε ΟΜΕΝΑ) ΧΡΗΣΙΜΟΠΟΙΟΥΜΕ ΠΡΟΣΟΜΟΙΩΜΕΝΑ Ε ΟΜΕΝΑ n=00 Χ, X 3, X 4,X 5,X 6,X 7 ~ Ν(0,) X =X +X 3 +X 4 Y = 4 + Χ -3 X 4 +5 X 6 + ε, ε~ Ν(0,0.5=0.5 ) VIF>0 ΠΡΟΒΛΗΜΑ ιαφάνεια -53 ιαφάνεια -55 (Εφαρµογή στο SPSS: Συνέχεια παραδείγµατος -) (ΠΑΡΑ ΕΙΓΜΑ - ΣΥΓΓΡΑΜΜΙΚΑ Ε ΟΜΕΝΑ) Collinearity Diagnostics a,b Dimension Variance Proportions living Size of Condition Living Area in lotsize Lot Eigenvalue Index Sq. ft Size in Sq.ft a. Dependent Variable: price Price in US Dollars b. Linear Regression through the Origin Στο γραµµικό συνδυασµό της προβληµατικής µεταβλητής συµµετέχουν οι µεταβλητές ΠΡΟΒΛΗΜΑΤΙΚΗ Ι ΙΟΤΙΜΗ ΜΕ CP>5 ιαφάνεια -54 ιαφάνεια -56

15 Ενότητα ιαφάνειες Μαθήµατος: -9 Ενότητα ιαφάνειες Μαθήµατος: -30 (ΠΑΡΑ ΕΙΓΜΑ - ΣΥΓΓΡΑΜΜΙΚΑ Ε ΟΜΕΝΑ) COMPUTE x = RV.NORMAL(0,). EXECUTE. COMPUTE x3 = RV.NORMAL(0,). EXECUTE. COMPUTE x4 = RV.NORMAL(0,). EXECUTE. COMPUTE x5 = RV.NORMAL(0,). EXECUTE. COMPUTE x6 = RV.NORMAL(0,). EXECUTE. COMPUTE x7 = RV.NORMAL(0,). EXECUTE. COMPUTE x8 = RV.NORMAL(0,). EXECUTE. COMPUTE e = RV.NORMAL(0,0.5). EXECUTE. COPY+PASTE ιαφάνεια -57 (ΠΑΡΑ ΕΙΓΜΑ - ΣΥΓΓΡΑΜΜΙΚΑ Ε ΟΜΕΝΑ) COMPUTE x = x+x3+x4. EXECUTE. COMPUTE y = 4 + x - 3*x4 +5* x6 + e. EXECUTE. ΚΑΝΟΥΜΕ ΤΗΝ ΠΑΛΙΝ ΡΟΜΗΣΗ ΤΩΝ Χ ΣΤΗΝ Υ ιαφάνεια -59 (ΠΑΡΑ ΕΙΓΜΑ - ΣΥΓΓΡΑΜΜΙΚΑ Ε ΟΜΕΝΑ) (ΠΑΡΑ ΕΙΓΜΑ - ΣΥΓΓΡΑΜΜΙΚΑ Ε ΟΜΕΝΑ) ΤΟ ΠΡΟΓΡΑΜΜΑ ΑΠΟΦΑΣΙΣΕ ΑΠΟ ΜΟΝΟ ΤΟΥ ΝΑ ΑΦΑΙΡΕΣΕΙ ΜΙΑ ΑΠΟ ΤΙΣ ΜΕΤΑΒΛΗΤΕΣ ΠΟΥ ΕΜΠΛΕΚΟΝΤΑΙ ΣΤΗΝ ΤΕΛΕΙΑ ΓΡΑΜΜΙΚΗ a Unstandardized Standardized Collinearity Statistics B Std. Error Beta t Sig. Tolerance VIF (Constant) x x x x x x x a. Dependent Variable: y Excluded Variables b Collinearity Statistics Partial Minimum Beta In t Sig. Correlation Tolerance VIF Tolerance x3. a a. Predictors in the : (Constant), x, x6, x5, x7, x8, x4, x b. Dependent Variable: y ιαφάνεια -58 ιαφάνεια -60

16 Ενότητα ιαφάνειες Μαθήµατος: -3 Ενότητα ιαφάνειες Μαθήµατος: -3 a. (ΠΑΡΑ ΕΙΓΜΑ - ΣΥΓΓΡΑΜΜΙΚΑ Ε ΟΜΕΝΑ) ΤΟ ΠΡΟΓΡΑΜΜΑ ΑΠΟΦΑΣΙΣΕ ΑΠΟ ΜΟΝΟ ΤΟΥ ΝΑ ΑΦΑΙΡΕΣΕΙ ΜΙΑ ΑΠΟ ΤΙΣ ΜΕΤΑΒΛΗΤΕΣ ΠΟΥ ΕΜΠΛΕΚΟΝΤΑΙ ΣΤΗΝ ΤΕΛΕΙΑ ΓΡΑΜΜΙΚΗ Dimension Dependent Variable: y Collinearity Diagnostics a Variance Proportions Condition Eigenvalue Index (Constant) x x4 x5 x6 x7 x8 x ιαφάνεια -6 (ΠΑΡΑ ΕΙΓΜΑ - ΣΥΓΓΡΑΜΜΙΚΑ Ε ΟΜΕΝΑ) (Constant) x x x3 x4 x5 x6 x7 x8 a. Dependent Variable: y Unstandardized a Standardized Collinearity Statistics t Sig. Tolerance VIF B Std. Error Beta ΠΡΑΓΜΑΤΙΚΗ ΣΧΕΣΗ: Y = 4 + Χ -3 X 4 +5 X 6 + ε, ε~ Ν(0,0.5=0.5 ) ΕΚΤΙΜΩΜΕΝΗ ΣΧΕΣΗ: Y = 4 0. Χ +. Χ +0. X 3.8 X X X X X 8 + ε, ε~ Ν(0, (0.4) ) ιαφάνεια -63 (ΠΑΡΑ ΕΙΓΜΑ - ΣΥΓΓΡΑΜΜΙΚΑ Ε ΟΜΕΝΑ) ΜΕΤΑΒΑΛΟΥΜΕ ΤΩΡΑ ΤΗΝ ΤΕΛΕΙΑ ΓΡΑΜΜΙΚΗ ΣΧΕΣΗ ΣΕ ΠΟΛΥ ΥΨΗΛΗ ΗΛΑ Η COMPUTE e = RV.NORMAL(0,0.). EXECUTE. COMPUTE x = x+x3+x4 + e. EXECUTE. ΞΑΝΑΚΑΝΟΥΜΕ ΤΗΝ ΠΑΛΙΝ ΡΟΜΗΣΗ ΤΩΝ Χ ΣΤΗΝ Υ ιαφάνεια -6 a. Dimension Dependent Variable: y (ΠΑΡΑ ΕΙΓΜΑ - ΣΥΓΓΡΑΜΜΙΚΑ Ε ΟΜΕΝΑ) Collinearity Diagnostics a Variance Proportions Condition Eigenvalue Index (Constant) x x x3 x4 x5 x6 x7 x ΣΤΗΝ ΠΡΟΒΛΗΜΑΤΙΚΗ Ι ΙΟΤΙΜΗ ΑΝΤΙΣΤΟΙΧΕΙ ΓΡΑΜΜΙΚΟΣ ΣΥΝ ΙΑΣΜΟΣ ΣΤΟΝ ΟΠΟΙΟ ΣΥΜΜΕΤΕΧΟΥΝ ΜΕ ΜΕΓΑΛΑ ΠΟΣΟΣΤΑ (ΣΧΕ ΟΝ 00%) ΟΙ Χ, Χ, Χ 3 ΚΑΙ Χ 4. ΜΙΚΡΗ (ΠΡΟΒΛΗΜΑΤΙΚΗ) Ι ΙΟΤΙΜΗ ΜΕ CP>30 ΣΥΝΕΠΩΣ ΥΠΑΡΧΕΙ ΕΝΑΣ ΓΡΑΜΜΙΚΟΣ ΣΥΝ ΙΑΣΜΟΣ (ΣΧΕΣΗ) ΜΕΤΑΞΥ ΤΩΝ Χ ΑΡΑ ΠΡΕΠΕΙ ΝΑ ΑΦΑΙΡΕΣΟΥΜΕ ΜΕΤΑΒΛΗΤΗ ΜΟΝΟ ιαφάνεια -64

17 Ενότητα ιαφάνειες Μαθήµατος: -33 Ενότητα ιαφάνειες Μαθήµατος: -34 (ΠΑΡΑ ΕΙΓΜΑ - ΣΥΓΓΡΑΜΜΙΚΑ Ε ΟΜΕΝΑ) (ΠΑΡΑ ΕΙΓΜΑ - ΣΥΓΓΡΑΜΜΙΚΑ Ε ΟΜΕΝΑ) ΑΝ ΒΑΛΟΥΜΕ BACKWARD SELECTION ΑΝ ΒΑΛΟΥΜΕ BACKWARD SELECTION Variables Entered/Removed b Variables Variables Entered Removed Method x8, x3, x6, x7, x5, x, x4, x a. Enter. x Backward (criterion: Probability of F-to-remove >=.00).. x8 Backward (criterion: Probability of F-to-remove >=.00).. x3 Backward (criterion: Probability of F-to-remove >=.00).. x5 Backward (criterion: Probability of F-to-remove >=.00).. x7 Backward (criterion: Probability of F-to-remove >=.00). a. All requested variables entered. b. Dependent Variable: y ΠΡΑΓΜΑΤΙΚΗ ΣΧΕΣΗ: Y = Χ 3X X 6 + ε, ε~ Ν(0, (0.50) ) ΕΚΤΙΜΩΜΕΝΗ ΣΧΕΣΗ: Y = Χ 3X X 6 + ε, ε~ Ν(0, (0.4) ) ΟΚ ιαφάνεια -65 ιαφάνεια -67 (ΠΑΡΑ ΕΙΓΜΑ - ΣΥΓΓΡΑΜΜΙΚΑ Ε ΟΜΕΝΑ) (ΠΑΡΑ ΕΙΓΜΑ - ΣΥΓΓΡΑΜΜΙΚΑ Ε ΟΜΕΝΑ) ΑΝ ΒΑΛΟΥΜΕ BACKWARD SELECTION ΑΝ ΒΑΛΟΥΜΕ BACKWARD SELECTION Summary Adjusted Std. Error of R R Square R Square the Estimate.997 a b c d e f a. Predictors: (Constant), x8, x3, x6, x7, x5, x, x4, x b. Predictors: (Constant), x8, x3, x6, x7, x5, x, x4 c. Predictors: (Constant), x3, x6, x7, x5, x, x4 d. Predictors: (Constant), x6, x7, x5, x, x4 e. Predictors: (Constant), x6, x7, x, x4 f. Predictors: (Constant), x6, x, x4 ΜΕΤΑΒΟΛΗ R, R & σ ΑΝΑ ΒΗΜΑ ( ΗΛΑ Η ΓΙΑ ΚΑΘΕ ΜΟΝΤΕΛΟ ΜΕΤΑ ΑΠΟ ΤΗΝ ΣΤΑ ΙΑΚΗ ΑΦΑΙΡΕΣΗ ΜΕΤΑΒΛΗΤΩΝ) ιαφάνεια -66 ΟΚ ΕΛΑΧΙΣΤΟ TOLERANCE AN ΠΡΟΣΤΕΘΕΙ ΑΥΤΗ Η ΜΕΤΑΒΛΗΤΗ ΣΤΟ ΜΟΝΤΕΛΟ Collinearity diagnostics της κάθε µεταβλητής αν προστεθεί στο µοντέλο ιαφάνεια -68

18 Ενότητα ιαφάνειες Μαθήµατος: -35 Ενότητα ιαφάνειες Μαθήµατος: -36 (ΠΑΡΑ ΕΙΓΜΑ - ΣΥΓΓΡΑΜΜΙΚΑ Ε ΟΜΕΝΑ) ΑΝ ΒΑΛΟΥΜΕ STEPWISE PROCEDURE Variables Entered/Removed a (ΠΑΡΑ ΕΙΓΜΑ - ΣΥΓΓΡΑΜΜΙΚΑ Ε ΟΜΕΝΑ) ΑΝ ΒΑΛΟΥΜΕ STEPWISE PROCEDURE Variables Variables Entered Removed x6. x4. 3 x. a. Dependent Variable: y Method Stepwise (Criteria: Probability-of-F-to-enter <=.050, Probability-of-F-to-remove >=.00). Stepwise (Criteria: Probability-of-F-to-enter <=.050, Probability-of-F-to-remove >=.00). Stepwise (Criteria: Probability-of-F-to-enter <=.050, Probability-of-F-to-remove >=.00). Summary 3 Adjusted Std. Error of R R Square R Square the Estimate.854 a b c a. Predictors: (Constant), x6 b. Predictors: (Constant), x6, x4 c. Predictors: (Constant), x6, x4, x ιαφάνεια -69 ιαφάνεια -7 (ΠΑΡΑ ΕΙΓΜΑ - ΣΥΓΓΡΑΜΜΙΚΑ Ε ΟΜΕΝΑ) ΑΝ ΒΑΛΟΥΜΕ STEPWISE PROCEDURE (ΠΑΡΑ ΕΙΓΜΑ - ΣΥΓΓΡΑΜΜΙΚΑ Ε ΟΜΕΝΑ) ΑΝ ΒΑΛΟΥΜΕ STEPWISE PROCEDURE ΜΟΝΤΕΛΟ: Υ=β 0 +β 6 Χ 6 a Unstandardized Standardized Collinearity Statistics B Std. Error Beta t Sig. Tolerance VIF (Constant) x (Constant) x x (Constant) x x x a. Dependent Variable: y ιαφάνεια -70 ΠΑΛΙΝ ΡΟΜΗΣΗ Χ & Χ 6 ΣΤΗΝ Υ Υ=β 0 +β 6 Χ 6 +β Χ (Constant) x6 x Unstandardized a Standardized Collinearity Statistics t Sig. Tolerance VIF B Std. Error Beta a. Dependent Variable: y ιαφάνεια -7

19 Ενότητα ιαφάνειες Μαθήµατος: -37 Ενότητα ιαφάνειες Μαθήµατος: -38 (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95) Ποια στοιχεία - δείκτες καθορίζουν το το γενικό οικονοµικό επίπεδο µιας χώρας; BHMATA. ΕΠΙΛΟΓΗ Υ HISTOGRAM. ΕΠΙΛΟΓΗ Χ BACKWARD/STEPWISE SELECTION 3. ΙΑΓΝΩΣΤΙΚΟΙ ΕΛΕΓΧΟΙ 4. ΕΡΜΗΝΕΙΑ ΤΕΛΙΚΟΥ ΜΟΝΤΕΛΟΥ (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95)... ΕΠΙΛΟΓΗ Χ ΑΡΧΙΚΗ ΕΠΙΛΟΓΗ Χ populatn density urban lifeexpf lifeexpm literacy pop_incr babymort calories aids.birth_rt.death_rt 3.aids_rt 4.lg_aidsr 5.b_to_d 6.fertilty 7.log_pop 8.cropgrow 9.lit_male 0.lit_fema ιαφάνεια -73 ιαφάνεια -75 (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95)... ΕΠΙΛΟΓΗ Υ GDP_CAP = Gross domestic product / capita Ακαθάριστο εθνικό προϊόν ανά άτοµο Υ = log(gdp) λόγω ασυµµετρίας (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95)... ΕΠΙΛΟΓΗ Χ BACKWARD SELECTION ιαφάνεια -74 ιαφάνεια -76

20 Ενότητα ιαφάνειες Μαθήµατος: -39 Ενότητα ιαφάνειες Μαθήµατος: -40 (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95)... ΕΠΙΛΟΓΗ Χ BACKWARD SELECTION (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95) BACKWARD ME P-TO-REMOVE = 0.05 ΜΕΤΑΒΛΗΤΕΣ ΣΤΟ ΜΟΝΤΕΛΟ ) urban People living in cities (%) ) calories Daily calorie intake 3) fertilty Fertility: average number of kids 4) birth_rt Birth rate per 000 people 5) log_pop Log (base 0) of Population STEPWISE ME P-TO-REMOVE = 0.05/ P-TO-ADD ΜΕΤΑΒΛΗΤΕΣ ΣΤΟ ΜΟΝΤΕΛΟ ΟΙ ΠΑΡΑΠΑΝΩ + AIDS ιαφάνεια -77 ιαφάνεια -79 (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95) (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95)... ΕΠΙΛΟΓΗ Χ STEPWISE SELECTION Variables Entered/Removed a BACKWARD STEPWISE Variables Variables Entered Removed calories Daily calorie intake. urban People living in cities (%). log_pop Log (base 0) of Population. birth_rt Birth rate per 000 people. aids Aids cases. fertilty Fertility: average number of kids. Method Stepwise (Criteria: Probability-of-F-to-enter <=. 050, Probability-of-F-to-remove >=.05). Stepwise (Criteria: Probability-of-F-to-enter <=. 050, Probability-of-F-to-remove >=.05). Stepwise (Criteria: Probability-of-F-to-enter <=. 050, Probability-of-F-to-remove >=.05). Stepwise (Criteria: Probability-of-F-to-enter <=. 050, Probability-of-F-to-remove >=.05). Stepwise (Criteria: Probability-of-F-to-enter <=. 050, Probability-of-F-to-remove >=.05). Stepwise (Criteria: Probability-of-F-to-enter <=. 050, Probability-of-F-to-remove >=.05). a. Dependent Variable: log_gdp Log (base 0) of GDP_CAP ιαφάνεια -78 ιαφάνεια -80

21 Ενότητα ιαφάνειες Μαθήµατος: -4 Ενότητα ιαφάνειες Μαθήµατος: -4 (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95) ΣΤΑΤΙΣΤΙΚΑ ΤΩΝ EXCLUDED VARIABLES ΑΠΟ ΤΗ BACKWARD PROCEDURE (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95) ΣΥΝΕΠΩΣ ΟΥΛΕΥΟΥΜΕ ΤΩΡΑ ΜΕ ΤΟ ΤΕΛΙΚΟ ΜΟΝΤΕΛΟ ΠΟΥ ΕΠΙΛΕΧΘΗΚΕ ΑΠΟ ΤΗ STEPWISE PROCEDURE urban calories fertilty birth_rt log_pop AIDS ιαφάνεια -8 ιαφάνεια -83 (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95) ΣΤΑΤΙΣΤΙΚΑ ΤΩΝ EXCLUDED VARIABLES ΑΠΟ ΤΗ BACKWARD PROCEDURE (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95) ΣΥΝΕΠΩΣ ΟΥΛΕΥΟΥΜΕ ΤΩΡΑ ΜΕ ΤΟ ΤΕΛΙΚΟ ΜΟΝΤΕΛΟ ΠΟΥ ΕΠΙΛΕΧΘΗΚΕ ΑΠΟ ΤΗ STEPWISE PROCEDURE Unstandardized a Standardized Collinearity Statistics (Constant) urban People living in cities (%) B Std. Error Beta t Sig. Tolerance VIF ΑΡΑ ΚΡΑΤΑΜΕ ΤΟ ΜΟΝΤΕΛΟ ΤΗΣ STEPWISE ΙΑ ΙΚΑΣΙΑΣ calories Daily calorie intake log_pop Log (base 0) of Population aids Aids cases fertilty Fertility: average number of kids birth_rt Birth rate per 000 people E a. Dependent Variable: log_gdp Log (base 0) of GDP_CAP ιαφάνεια -8 ιαφάνεια -84

22 Ενότητα ιαφάνειες Μαθήµατος: -43 Ενότητα ιαφάνειες Μαθήµατος: -44 a. (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95) ΣΥΝΕΠΩΣ ΟΥΛΕΥΟΥΜΕ ΤΩΡΑ ΜΕ ΤΟ ΤΕΛΙΚΟ ΜΟΝΤΕΛΟ ΠΟΥ ΕΠΙΛΕΧΘΗΚΕ ΑΠΟ ΤΗ STEPWISE PROCEDURE Dimension Collinearity Diagnostics a Variance Proportions fertilty Fertility: urban log_pop Log average birth_rt Birth Condition People living calories Daily (base 0) of aids Aids number of rate per 000 Eigenvalue Index (Constant) in cities (%) calorie intake Population cases kids people Dependent Variable: log_gdp Log (base 0) of GDP_CAP Αφαιρούµε το Birth διότι έχει µεγαλύτερο VIF+µεγαλύτερη συµµετοχή στον γρ. Συνδιασµό µε τη µικρότερη ιδιοτιµή a. (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95) ΑΦΑΙΡΟΥΜΕ ΤΟ BIRTH_RT R : > 0.84 R adj : 0.87-> 0.83 Dimension Collinearity Diagnostics a Variance Proportions fertilty Fertility: urban log_pop Log average Condition People living calories Daily (base 0) of aids Aids number of Eigenvalue Index (Constant) in cities (%) calorie intake Population cases kids Dependent Variable: log_gdp Log (base 0) of GDP_CAP Υπάρχουν CP µεγάλα όµως στο χειρότερο γρ. Συνδιασµό δεν εµπλέκεται µε µεγάλο ποσοστό κάποια από τις Χ Και επειδή δεν έχουµε µεγάλα VIF προχωράµε µε αυτό το µοντέλο ιαφάνεια -85 ιαφάνεια -87 (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95) ΑΦΑΙΡΟΥΜΕ ΤΟ BIRTH_RT R : > 0.84 R adj : 0.87-> 0.83 (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95) ΑΦΑΙΡΟΥΜΕ ΤΟ BIRTH_RΤ a (Constant) Unstandardized Standardized Collinearity Statistics B Std. Error Beta t Sig. Tolerance VIF urban People living in cities (%) calories Daily calorie intake log_pop Log (base 0) of Population aids Aids cases.9e fertilty Fertility: average number of kids a. Dependent Variable: log_gdp Log (base 0) of GDP_CAP OK ιαφάνεια -86 Tests of Normality Kolmogorov-Smirnov a Shapiro-Wilk Statistic df df Sig. Statistic Sig. ZRE_ Standardized Residual a. Lilliefors Significance Correction ιαφάνεια -88

23 Ενότητα ιαφάνειες Μαθήµατος: -45 Ενότητα ιαφάνειες Μαθήµατος: -46 (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95) ΑΦΑΙΡΟΥΜΕ ΤΟ FERTILITY (OXI TO BIRTH_RATE) R : > > 0.86 R adj : 0.87-> > 0.85 (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95) ΑΦΑΙΡΟΥΜΕ ΤΟ FERTILITY (OXI TO BIRTH_RATE) a (Constant) Unstandardized Standardized Collinearity Statistics B Std. Error Beta t Sig. Tolerance VIF urban People living in cities (%) calories Daily calorie intake aids Aids cases.6e log_pop Log (base ) of Population birth_rt Birth rate per 000 people a. Dependent Variable: log_gdp Log (base 0) of GDP_CAP OK ιαφάνεια -89 ZRE_5 Standardized Residual Tests of Normality Kolmogorov-Smirnov a Shapiro-Wilk Statistic df Sig. Statistic df Sig * *. This is a lower bound of the true significance. a. Lilliefors Significance Correction OK KANONIKOTHTA ιαφάνεια -9 a. (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95) ΑΦΑΙΡΟΥΜΕ ΤΟ FERTILITY (OXI TO BIRTH_RATE) R : > > 0.86 R adj : 0.87-> > 0.85 Dimension Collinearity Diagnostics a Variance Proportions urban log_pop Log birth_rt Birth Condition People living calories Daily aids Aids (base 0) of rate per 000 Eigenvalue Index (Constant) in cities (%) calorie intake cases Population people Dependent Variable: log_gdp Log (base 0) of GDP_CAP Υπάρχουν CP µεγάλα όµως στο χειρότερο γρ. Συνδιασµό δεν εµπλέκεται µε µεγάλο ποσοστό κάποια από τις Χ Και επειδή δεν έχουµε µεγάλα VIF προχωράµε µε αυτό το µοντέλο (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95) ΑΦΑΙΡΟΥΜΕ ΤΟ FERTILITY (OXI TO BIRTH_RATE) ΠΕΡΙΜΕΝΟΥΜΕ ΤΟ 5% ΤΩΝ ΤΙΜΩΝ ΝΑ ΕΙΝΑΙ ΕΚΤΟΣ ΟΡΙΩΝ ΗΛ. 0.05*74 = 4 (ΠΕΡΙΠΟΥ) ΟΚ ιαφάνεια -90 ιαφάνεια -9

24 Ενότητα ιαφάνειες Μαθήµατος: -47 Ενότητα ιαφάνειες Μαθήµατος: -48 (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95) ΑΦΑΙΡΟΥΜΕ ΤΟ FERTILITY (OXI TO BIRTH_RATE) ΒΛΕΠΟΥΜΕ ΜΙΚΡΕΣ ΑΛΛΑΓΕΣ ΣΤΙΣ ΙΑΚΥΜΑΝΣΕΙΣ ΚΥΡΙΩΣ ΣΤΑ ΑΚΡΑ ιαφάνεια -93 a. (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95) ΑΦΑΙΡΟΥΜΕ ΤΟ FERTILITY (OXI TO BIRTH_RATE) R : > > 0.86 R adj : 0.87-> > 0.85 (Constant) Unstandardized a Standardized Collinearity Statistics B Std. Error Beta t Sig. Tolerance VIF urban People living in cities (%) calories Daily calorie intake aids Aids cases.6e log_pop Log (base ) of Population birth_rt Birth rate per 000 people Dependent Variable: log_gdp Log (base 0) of GDP_CAP LOG(GDP)= ΑΣΤΙΚΟΠΟΙΗΣΗ ΘΕΡΜΙ ΕΣ/ΗΜΕΡΑ ΠΕΡΙΠΤΩΣΕΙΣ AIDS 0.04 LOG(ΠΛΗΘΥΣΜΟΣ) (ΓΕΝΝΗΣΕΙΣ ΑΝΑ 000 ΚΑΤΟΙΚΟΥΣ) + ε ιαφάνεια -95 (ΠΑΡΑ ΕΙΓΜΑ -3 WORLD 95) ΑΦΑΙΡΟΥΜΕ ΤΟ FERTILITY (OXI TO BIRTH_RATE) Ε ΦΑΙΝΕΤΑΙ ΚΑΠΟΙΑ ΤΑΣΗ ιαφάνεια -94 ΟΚ