Ειδικά Θέματα Οικονομετρίας-Παλινδρόμηση (μέρος Α )

Ειδικά Θέματα Οικονομετρίας-Παλινδρόμηση (μέρος Α ) Γεώργιος Τσιώτας Τμήμα Οικονομικών Επιστημών Σχολή Κοινωνικών Επιστημών Πανεπιστήμιο Κρήτης Ειδικά Θέματα Οικονομετρίας(ΕΘΟΟ 331)

Περιγραφή 1 Εισαγωγή Βασικές Στατιστικές Εννοιες Διαστήματα Εμπιστοσύνης(Δ.Ε.) στον μέσο Ελεγχος Υπόθεσης(Ε.Υ.) στον μέσο Τομέτρο pήp-value 2 Γραμμικό Υπόδειγμα Το Υπόδειγμα Εκτίμηση στο ΑΓΥ Πρόβλεψη στο ΑΓΥ Πολλαπλό Γραμμικό Υπόδειγμα Εκτίμηση στο Πολλαπλό Γραμμικό Υπόδειγμα(ΠΓΥ) Πρόβλεψη στο ΠΓΥ Ανάλυση διασποράς και συντελεστής προσδιορισμού Ελεγχοι Υποθέσεων στο ΑΓΥ Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ 3 Βιβλιογραφία βεαμερ-τυ-λογ

Βασικές Στατιστικές Εννοιες Περιγραφή του Στατιστικού προβλήματος Ορισμός της Στατιστικής Στατιστική, είναι η επιστήμη που διαχειρίζεται το τυχαίο μέσω δειγματοληψίας. Τυχαία Μεταβλητη(τ.μ) Τυχαία Μεταβλητη αποτελεί το αποτέλεσμα ενός πειράματος που διέπεται από αβεβαιότητα, πχ: το επίδεδο των τιμών, οι πωλήσεις, η ημερίσια βροχόπτωση, ο αριθμός των γεννήσεων, κ.α. 1 Η Δειγματοληψία, μέσω της συλλογής ενός απαραίτητου αριθμού τ.μ. μας οδηγεί σε συμπεράσματα για την τ.μ. στον πληθυσμό.

Βασικές Στατιστικές Εννοιες Περιγραφή του Στατιστικού προβλήματος Είδη τ.μ.ή δεδομένων 1 Διαστρωμματικά Δεδομένα: y 1,...,y n όπου n-τελική διαστρωμματική παρατηρηση 2 Χρονολογικές Σειρές y 1,...,y n όπου n-τελική χρονική παρατήρηση

Βασικές Στατιστικές Εννοιες Είδη τ.μ.ή δεδομένων Διάγραμμα Χρονολογικών Σειρών-μηνιαίες αφίξεις αεροπορικών επιβατών 700 600 500 400 300 200 100 0 25 50 75 100 125 AIRPASS

Βασικές Στατιστικές Εννοιες Περιγραφή του Στατιστικού προβλήματος Στόχοι Στατιστικής Ανάλυσης 1 Προσδιορισμός αντιπροσωπευτικών τιμών για την τ.μ.(π.χ. Μετρα θέσεως-μέσος, και διασποράς-διακύμανση). 2 Εξαγωγή συμπερασμάτων για την τυχαία μεταβλητή μέσω ελέγχων υπόθεσης και διαστημάτων εμπιστοσύνης στον πληθυσμό. 3 Προσδιορισμός σχέσης εξάρτησης μεταξύ δύο(2) ή περισσοτέρων μεταβλητών(παλινδρόμηση). 4 Προσδιορισμός σχέσης εξάρτησης της ίδιας της τ.μ. με τις υστερήσεις αυτής(ανάλυση Χρονολογικών Σειρών). 5 Πρόβλεψη μελλοντικών τ.μ.(ανάλυση Χρονολογικών Σειρών). Πρόβλεψη τιμών της Y για διάφορα σενάρια της(ων) X(Παλινδρόμηση).

Βασικές Στατιστικές Εννοιες Περιγραφή του Στατιστικού προβλήματος Στατιστικά Μέτρα-μονομετάβλητα 1 Μέσος: ȳ = 1 n n i=1 y i 2 Διακύμανση: s 2 y = 1 n 1 3 Τυπικήαπόκλιση: s y = n i=1 (y i ȳ) 2 1 n 1 n i=1 (y i ȳ) 2 4 Μέσηαπόλυτηαπόκλιση: MAD y = 1 n n i=1 y i ȳ

Βασικές Στατιστικές Εννοιες Περιγραφή του Στατιστικού προβλήματος Στατιστικά Μέτρα-διμετάβλητα 1 Συνδιακύμανση(διαστρωμματικά δεδομένα) Cov(X, Y) = s x,y = n 1 i=1 (x i x)(y i ȳ) n 1 2 Συσχέτιση(διαστρωμματικα δεδομένα) ρ x,y = Cov(X, Y) s x s y

Βασικές Στατιστικές Εννοιες Περιγραφή του Στατιστικού προβλήματος Διμεταβλητο Διάγραμμα XY plot πωλήσεις-έξοδα διαφημισης όπου ρ x,y = 0, 9409 94 92 90 88 Y 86 84 82 80 78 0 5 10 15 20 25 30 βεαμερ-τυ-λογ

Βασικές Στατιστικές Εννοιες Περιγραφή του Στατιστικού προβλήματος Στατιστικά Μέτρα-διμετάβλητα(συν.) 1 Αυτοσυνδιακύμανση k-υστέρησης(χρονολογικές σειρές) Cov(k) = 1 n k 1 n (y t ȳ)(y t k ȳ) t=k+1 2 Αυτοσυσχέτιση k-υστέρησης(χρονολογικές σειρές) ρ(k) = Cov(k) s 2 y

Βασικές Στατιστικές Εννοιες Περιγραφή του Στατιστικού προβλήματος ρ(k) μηνιαίες αφίξεις αεροπορικών επιβατών file:///c /Documents and Settings/user/Τα γγραφ ου/air.acf.htm Date: 12/01/06 Time: 15:46 Sample: 1 144 Included observations: 144 AutocorrelationPartial Correlation AC PAC Q-Stat Prob. *******. ******* 10.948 0.948 132.14 0.000. ******* **. 20.876-0.229 245.65 0.000. ******.. 30.807 0.038 342.67 0.000. ******. * 40.753 0.094 427.74 0.000. ******. * 50.714 0.074 504.80 0.000. *****.. 60.682 0.008 575.60 0.000. *****. * 70.663 0.126 643.04 0.000. *****. * 80.656 0.090 709.48 0.000. *****. ** 90.671 0.232 779.59 0.000. *****. * 100.703 0.166 857.07 0.000. ******. * 110.743 0.171 944.39 0.000. ****** *. 120.760-0.135 1036.5 0.000. ***** ****. 130.713-0.540 1118.0 0.000. *****.. 140.646-0.027 1185.6 0.000. ****. * 150.586 0.091 1241.5 0.000. ****.. 160.538 0.025 1289.0 0.000. ****.. 170.500 0.033 1330.4 0.000. ****. * 180.469 0.073 1367.0 0.000. ***.. 190.450 0.048 1401.1 0.000. ***.. 200.442-0.046 1434.1 0.000. ***.. 210.457 0.046 1469.9 0.000. **** *. 220.482-0.100 1510.0 0.000. ****.. 230.517 0.052 1556.5 0.000. ****.. 240.532 0.048 1606.1 0.000. **** *. 250.494-0.163 1649.2 0.000. ***.. 260.438-0.036 1683.3 0.000. ***. * 270.388 0.066 1710.3 0.000. ***.. 280.348 0.006 1732.3 0.000. **.. 290.315 0.008 1750.4 0.000. **.. 300.288 0.019 1765.8 0.000. **.. 310.271-0.010 1779.4 0.000. **.. 320.264-0.018 1792.5 0.000. **.. 330.277-0.029 1807.0 0.000. **.. 340.299-0.015 1824.1 0.000 βεαμερ-τυ-λογ

Βασικές Στατιστικές Εννοιες Χρήση θεωρητικών κατανομών Συνδέοντας το δείγμα με τον πληθυσμό Για να εξάγουμε συμπεράσματα σχετικά με γνωστά στατιστικά μέτρα (μέσος, διακύμανση, αναλογία, κ.τ.π) στον πληθυσμό, θα πρέπει να χρησιμοποιήσουμε τα δειγματικά αποτελέσματα σε συνδιασμό με γνωστές θεωρητικές κατανομές βάσει των οποίων αυτά τα μέτρα κατανέμονται. Ερώτημα! Πως κατανέμονται γνωστά στατιστικά μέτρα όπως: ο δειγματικός μέσος x,ηδειγματικήδιακύμανση s 2 κ.α.;

Βασικές Στατιστικές Εννοιες Κεντρικό Οριακό Θεώρημα Ορισμός Γιαδείγμα y i,...,y n τοοποίοπροέρχεταιαπόπληθυσμόμεμέσο µκαι διακύμανση σ 2,θαέχειδειγματικόμέσο xμεμέσο µκαιδιακύμανση σ2 n (ήτυπικήαπόκλιση σ/ n). Ομωςγια ασφαλές δείγμα(n 30)και ασχέτωςτρόπουκατανομήςτων y i,...,y n θαισχύειπροσεγγιστική Κανονικότητα ως εξης: ȳ N(µ, σ2 n ), ή ȳ µ σ/ N(0, 1). n Γιατί το Κ.Ο.Θ. είναι σημαντικό; Το Κ.Ο.Θ. μας δίνει τη δυνατότητα να εξάγουμε αποτελέσματα για γνωστά στατιστικά μέτρα στον πληθυσμό χρησιμοποιώντας μόνο δειγματικά αποτελέσματα και ασχέτου γνώσης για την πραγματική κατανομή των μέτρων αυτών στον πληθυσμό. βεαμερ-τυ-λογ

Βασικές Στατιστικές Εννοιες Κεντρικό Οριακό Θεώρημα και Student-t τ.μ. k=2 k=5 Density 0.00 0.10 0.20 0.30 Density 0.00 0.10 0.20 0.30 0 10 20 30 40 50 x 0 10 20 30 40 50 x k=8 k=100 Density 0.00 0.10 0.20 0.30 Density 0.00 0.10 0.20 0.30 0 10 20 30 40 50 x 0 10 20 30 40 50 x

Βασικές Στατιστικές Εννοιες 0.0 0.1 0.2 0.3 0.4 0.5 k=1 k=2 k=5 k=50 k=100 4 2 0 2 4 Σχήμα:Η Student-tκατανομήμεβαθμούςελευθερίας(k = 1, 2, 5, 50, 100) βεαμερ-τυ-λογ

Βασικές Στατιστικές Εννοιες Student-t κατανομή έναντι της Κανονικής Student-t κατανομή έναντι της Κανονικής Παρ ότι συμμετρική όπως και η Κανονική, η Student-t διαφέρει σε σχέσημετηνκανονικήωςπροςτηνκύρτότητα. Οσοπιολίγες παρατηρήσεις έχουμε(και ως αποτέλεσμα και βαθμούς ελευθερίας) τόσο πιο μικρή θα είναι η κυρτότητα(πλατυκύρτωση). Για μεγάλο n (n 30), το Κ.Ο.Θ. θα ισχύει(κανονικότητα).

Βασικές Στατιστικές Εννοιες Η καταμομή Student-t σε σχέση με την τυποποιημένη Κανονική βαθμοί ελευθερίας Student-t k = 1 k = 2 k = 5 k = 50 k = 120 Κανονική P(t t k,0,90 ) 3, 078 1, 886 1, 476 1, 299 1, 289 P(Z z 0,90 ) = 1, 28 P(t t k,0,95 ) 6, 314 2, 920 2, 015 1, 676 1, 658 P(Z z 0,95 ) = 1, 64

Βασικές Στατιστικές Εννοιες Στόχοι της χρήσης θεωρητικών κατανομών 1 Κατανόηση ότι ο δειγματικός μέσος, η δειγματική διακύμανση ή άλλα δειγματικά μέτρα αντιμετωπίζονται ως τ.μ. 2 Καθορισμός του τρόπου κατανομής γνωστών στατιστικών μέτρων (δειγματικός μέσος, η δειγματική διακύμανση, κ.α.). 3 Κατανόηση του Κ.Ο.Θ. ως προς τον τρόπο κατανομής γνωστών στατιστικών μέτρων. 4 Κατανόηση της χρήσης του τρόπου κατανομής γνωστών στατιστικών μέτρων στον προσδιορισμό διαστημάτων εμπιστοσύνης και πραγματοποίηση ελέγχων υπόθεσης για γνωστά στατιστικά μέτρα στον πληθυσμό.

Διαστήματα Εμπιστοσύνης(Δ.Ε.) στον μέσο 1 αδ.ε.γιατονπληθυσμιακόμέσο µ Δεδομένου του μετασχηματισμού ȳ µ σ/ n 1 για σ-γνωστό 1 n 30ήΚανονικάκατανεμημένες y(ή ȳ µ σ/ N(0, 1)) n ȳ ± Z 1 α/2 σ n 2 n < 30καιμη-Κανονικάκατανεμημένες y ς(ή ȳ µ σ/ n t n 1) ȳ ± t 1 α/2,n 1 σ n 2 για σ-άγνωστο: εκτιμούμε δειγματική τυπική απόκλιση s(ή ȳ µ s/ t n n 1) s ȳ ± t 1 α/2,n 1 βεαμερ-τυ-λογ

Διαστήματα Εμπιστοσύνης(Δ.Ε.) στον μέσο 100%Δ.Ε.για µ(γνωστό σκαι n 30-Κανονικότητα) ȳ µ σ/ n, µ dnorm(x) 0.0 0.1 0.2 0.3 0.4 4 2 0 2 4 x βεαμερ-τυ-λογ

Διαστήματα Εμπιστοσύνης(Δ.Ε.) στον μέσο 98%Δ.Ε.για µ(γνωστό σκαι n 30-Κανονικότητα) Z 0,01 ȳ µ σ/ n Z 0,99, ȳ Z 0,99 σ n µ ȳ + Z 0,99 σ n dnorm(x) 0.0 0.1 0.2 0.3 0.4 a/2=1% 1 a=98% a/2=1% Z_a/2= 2,326 Z_1 a/2= 2,326 4 2 0 2 4 x βεαμερ-τυ-λογ

Διαστήματα Εμπιστοσύνης(Δ.Ε.) στον μέσο 95%Δ.Ε.για µ(γνωστό σκαι n 30-Κανονικότητα) Z 0,025 ȳ µ σ/ n Z 0,975, ȳ Z 0,975 σ n µ ȳ + Z 0,975 σ n dnorm(x) 0.0 0.1 0.2 0.3 0.4 a/2=2,5% 1 a=95% a/2=2,5% Z_a/2= 1,959 Z_1 a/2=1,959 4 2 0 2 4 x βεαμερ-τυ-λογ

Ελεγχος Υπόθεσης(Ε.Υ.) στον μέσο Αμφίπλευρος Ε.Υ. στον μέσο µ 1 Ηυπόθεσημαςδεδομένουτου µ 0 H 0 : µ = µ 0 H 1 : µ µ 0 n 30ήΚανονικότηταγιατα yκαιγνωστό σ Z H0 = ȳ µ 0 σ/ n n < 30καιμή-Κανονικά yάγνωστο σ 2 Για επίπεδο σημαντικότητας α. t H0 = ȳ µ 0 s/ n 3 Αποφασίζουμεγιατις H 0, H 1 υποθέσεις. βεαμερ-τυ-λογ

Ελεγχος Υπόθεσης(Ε.Υ.) στον μέσο Αμφίπλευρος Ε.Υ. στον μέσο µ(συν.) Αποδοχή H 0 όταν Z H0 Z 1 α/2 αλλιώςαπόρριψη H 0 καιαποδοχή της H 1 Ενδείξειςπερίαποδοχήςτης H 0 όταντο p-value P( Z > Z H0 ) > 0, 05. dnorm(x) 0.0 0.1 0.2 0.3 0.4 H1 H0 H1 βεαμερ-τυ-λογ

Ελεγχος Υπόθεσης(Ε.Υ.) στον μέσο Αμφίπλευρος Ε.Υ. στον μέσο µ(ςοντ.) Αποδοχή H 0 όταν t H0 t 1 α/2,n 1 αλλιώςαπόρριψη H 0 και αποδοχήτης H 1 Ενδείξειςπερίαποδοχήςτης H 0 όταντο p-value P( t > t H0 ) > 0, 05. dt(x, df = size 1) 0.0 0.1 0.2 0.3 0.4 H1 H0 H1 βεαμερ-τυ-λογ

Ελεγχος Υπόθεσης(Ε.Υ.) στον μέσο Μονόπλευρος Ε.Υ. στον μέσο µ 1 Ηυπόθεσημαςδεδομένουτου µ 0 H 0 : µ µ 0 ή H 0 : µ µ 0 H 1 : µ > µ 0, ή H 1 : µ < µ 0 2 Επιλογή Zή tβάσειτουανωτέρουδιαχωρισμούκαιεκτίμησε Z H0 ή t H0. 3 Για επίπεδο σημαντικότητας α. 4 Αποφασίζουμεγιατις H 0, H 1 υποθέσεις.

Ελεγχος Υπόθεσης(Ε.Υ.) στον μέσο Μονόπλευρος Ε.Υ. στον μέσο µ(ςοντ.) Αποδοχή H 0 όταν Z H0 Z 1 α αλλιώςαπόρριψη H 0 καιαποδοχή της H 1 (εδώ H 1 : µ > µ 0 ). Ενδείξειςπερίαποδοχήςτης H 0 όταντο p-value P(Z > Z H0 ) > 0, 05. dt(x, df = size 1) 0.0 0.1 0.2 0.3 0.4 H0 H1 4 2 0 2 4 x βεαμερ-τυ-λογ

Ελεγχος Υπόθεσης(Ε.Υ.) στον μέσο Μονόπλευρος Ε.Υ. στον μέσο µ(ςοντ.) Αποδοχή H 0 όταν Z H0 Z 1 α αλλιώςαπόρριψη H 0 καιαποδοχή της H 1 (εδώ H 1 : µ < µ 0 ). Ενδείξειςπερίαποδοχήςτης H 0 όταντο p-value P(Z < Z H0 ) > 0, 05. dt(x, df = size 1) 0.0 0.1 0.2 0.3 0.4 H1 H0 4 2 0 2 4 x βεαμερ-τυ-λογ

Το μέτρο p ή P-value Ορισμός του μέτρου p Η πιθανότητα για απόκτιση τιμών του ελέγχου πιο ακραίους από τους δειγματικούςδεδομένηςτης H 0 υπόθεσης.ιςτρυε. 1 Μικρήτιμήτουμέτρου pσημαίνει:είτεηh 0 είναιαληθέςκαιη ακραίεςτιμέςοφείλονταισεαπρόβλεπταγεγονόταείτεηh 0 είναι αναληθής. Οσοπιομικρόείναιτομέτρο pτόσοπιοισχυρέςείναι ενδείξειςενάντιαστην H 0 υπόθεση. 2 Μιαυψηλήτιμήτουμέτρου pδείχνειισχυρέςενδείξειςυπέρτης H 0 υπόθεσης.

Το μέτρο p ή P-value Το μέτρο p: ερμηνεία Στην πράξη μπορούμε να ορίσουμε επίπεδο σημαντικότητας α βάσει του οποίουαξιολογούμετην H 0 υπόθεση.γιαπαράδειγμαέχουμε: α = 5%. Ετσι, 1 Εάνγιαμέτρο p < 0, 05,έχουμεενδείξειςενάντιαστην H 0 υπόθεση. 2 Εάνγιαμέτρο p > 0, 05,έχουμεενδείξειςσυνεπείςμετην H 0 υπόθεση.

Περιγραφή 1 Εισαγωγή Βασικές Στατιστικές Εννοιες Διαστήματα Εμπιστοσύνης(Δ.Ε.) στον μέσο Ελεγχος Υπόθεσης(Ε.Υ.) στον μέσο Τομέτρο pήp-value 2 Γραμμικό Υπόδειγμα Το Υπόδειγμα Εκτίμηση στο ΑΓΥ Πρόβλεψη στο ΑΓΥ Πολλαπλό Γραμμικό Υπόδειγμα Εκτίμηση στο Πολλαπλό Γραμμικό Υπόδειγμα(ΠΓΥ) Πρόβλεψη στο ΠΓΥ Ανάλυση διασποράς και συντελεστής προσδιορισμού Ελεγχοι Υποθέσεων στο ΑΓΥ Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ 3 Βιβλιογραφία βεαμερ-τυ-λογ

Το Υπόδειγμα Περιγραφή του Απλού Γραμμικού Υποδείγματος(ΑΓΥ) Εστω το γραμμικό μαθηματικό υπόδειγμα: y i = α+βx i, i = 1,...,N όπου α-σταθεράμιαςευθείαςκαι β-κλίσητης. Ως στατιστικό υπόδειγμα, μπορεί να γραφεί ως: y i = α+βx i +ǫ i όπου y i εξαρτημένημεταβλητή, x i ανεξάρτητη,και ǫ i οδιαταρακτικός όρος ή σφάλμα.

Το Υπόδειγμα Περιγραφή του ΑΓΥ Βήματα στην απλή ανάλυση παλινδρόμησης 1 Πριν την ανάλυση παλινδρόνησης πρέπει ναι γίνει η εκτίμηση του μέτρουσυσχέτισηςτων xκαι y 2 Εκτίμηση(σημειακή-διαστηματα εμπιστοσύνης) και ερμηνεία των αποτελεσμάτων της ανάλυσης παλινδρόνησης για τις παραμέτρους α και β 3 Ελεγχοςδιαφόρωνυποθέσεωνσχετικάμετηχρήσηήμητης x ερμηνευτικής μεταβλητής 4 Ο επαναπροσδιορισμός του δεδομένου υποδείγματος με βάση τους ελέγχους υποθέσεων 5 Πρόβλεψητης yβάσειδιαφόρωνσεναρίωνγιατην x

Εκτίμηση στο ΑΓΥ Εκτίμηση μέσω Μεθόδου Ελαχίστων Τετραγώνων(ΜΕΤ) στο ΑΓΥ S ˆβ = S = n [y i (ˆα+ ˆβx i )] 2 i=1 S n ˆα = 2(y i ˆα ˆβx i )( 1) = 0 Nˆα+ ˆβ i=1 n 2(y i ˆα ˆβx i )( x i ) = 0 ˆα i=1 n x i + ˆβ i=1 n x i = i=1 n i=1 x 2 i = n i=1 y i n x i y i i=1 n i=1 ˆα = y n i n ˆβ i=1 x i, n ȳ ˆβ x. βεαμερ-τυ-λογ

Εκτίμηση στο ΑΓΥ Εκτίμηση στο ΑΓΥ ˆβ = = n i=1 x iy i ( n i=1 x i)( n i=1 y i)/n n i=1 x i 2 N x 2 n i=1 (y i ȳ)(x i x) n i=1 (x i x) 2 Το ˆβ αντιπροσωπεύει το οριακό αποτέλεσμα μιας μεταβολής της x στην y. dy dx = ˆβ Ηπαράμετρος ˆβέχειτοίδιοπρόσημομετονσυντελεστή συσχέτισης r(x, Y).

Εκτίμηση στο ΑΓΥ Εκτίμηση στο ΑΓΥ Υποθέσεις στη ΜΕΤ 1 Ησχέσηεξάρτησηςμεταξύτης xστην yτων xεκφράζεταιμέ γραμμικό τρόπο(υποθέση γραμμικότητας) 2 Τασφάλματαμαςέχουνμηδενικήμέσητιμή(E(ǫ) = 0) 3 Τα σφάλματα μας έχουν σταθερή διακύμανση (V(ǫ) = σ 2 ǫ -Ομοσκεδαστικότητα) 4 Τασφάλματαμαςναείναιανεξάρτητατης x(e(ǫ x) = 0) 5 Τασφάλματαμαςναείναιασυσχετιστα(E(ǫ t ǫ s ) = 0για t s) 6 Τα σφάλματα μας να κατανέμονται σύμφωνα με την Κανονική Κατανομή(Κανονικότητα)

Εκτίμηση στο ΑΓΥ Εκτίμηση ΑΓΥ μέσω μητρών y = y 1 y 2 y 3. y n y = xb+ǫ 1 x 1 1 x 2 (, x = 1 x 3 α, b = β.. 1 x n ) ǫ = ǫ 1 ǫ 2.. ǫ n S(b) = n ǫ 2 i i=1 = ǫ ǫ = (y xb) (y xb) = (y xb) (y xb) = y y 2b x y + b x xb.

Εκτίμηση στο ΑΓΥ Εκτίμηση ΑΓΥ μέσω μητρών(συνέχ.) Sb b = 2(x xb xy) = 0 x xb = xy b = (x x) 1 x y.

Πρόβλεψη στο ΑΓΥ ΗέννοιατηςπρόβλεψηςστοΑΓΥ Δεδομένωντωνπαρατηρήσεων y 1,...,y n, x 1,...,x n καιέχονταςτης εκτιμήσεις ˆακαι ˆβκαιθέλουμενακάνουμεπρόβλεψηγια m = 1,...M, τότεηπροβλεψημαςγιατην y N+m παίρνειτημορφή Ηεκτίμησημαςθαέχειμέσητιμη, και διακύμανση, ŷ n+m = ˆα+ ˆβx n+m ŷ n+m E(y n+m ) = E(ˆα)+E(ˆβ)x n+k = ˆα+ ˆβx n+m με διάστημα εμπιστοσύνης, V(y n+m ) = SSR n 2 ( 1 n + (x n+m x) 2 n i=1 (x i x) 2) E(y n+m ) t a/2,n k 1 V(yn+m ) y n+m E(y n+m )+t a/2,n k 1 V(yn+m ) βεαμερ-τυ-λογ

Πρόβλεψη στο ΑΓΥ ΗέννοιατηςπρόβλεψηςστοΑΓΥ Ιδιότητες διαστημάτων εμπιστοσύνης πρόβλεψης 1 Τοεύροςτουδιαμορφώνεταιαποτα SSRκαι V(y n+m )κατατον ίδιο βαθμό,(παρ. όσο μεγαλύτερη διασπορά παρατηρούμε στα κατάλοιπα πόσο και η εκτίμηση θα είναι λιγότερο ακριβής) 2 Τοεύροςτουδιαμορφώνεταιεπίσηςκαιαπότομέγεθοςτων παρατηρήσεων,(παρ. όσο περισσότερες παρατηρήσεις χρησιμοποιούμε τόσο η εκτίμηση θα είναι περισσότερο ακριβής) 3 Τοεύροςτουδιαμορφώνεταιαπότηνποσότητα n i=1 (x i x) 2, (παρ. όσο μεγαλύτερη διασπορά στην x μεταβλητή τόσο η εκτίμηση θα είναι περισσότερο ακριβής) 4 Τοεύροςτουδιαμορφώνεταιαπότηνποσότητα t a/2,n k 1 (παρ. όσο μεγαλύτερο είναι το σφάλμα εκτίμησης που υποθέτουμε τόσο η εκτίμηση θα είναι περισσότερο ακριβής)

Πολλαπλό Γραμμικό Υπόδειγμα Περιγραφή του Πολλαπλου Γραμμικού Υποδείγματος (ΠΓΥ) Στατιστικό υπόδειγμα ΠΓΥ: y i = β 0 +β 1 x 1i + +β k x ki +ǫ i y i -εξαρτημένημεταβλητή {x 1i, x 2i,...,x ki }-ανεξάρτητεςμεταβλητες, ǫ i -διαταρακτικόςόροςήσφάλμα. Παραμετροιπροςεκτίμηση:Τα (β 0,β 1,...,β k ),καιηδιακύμανσητου διαταρακτικούόρου σ 2.

Πολλαπλό Γραμμικό Υπόδειγμα Περιγραφή του ΠΓΥ Βήματα στην πολλαπλή ανάλυση παλινδρόμησης 1 Η παρουσίαση μέσω πολλαπλού γραφήματος των υπαρχουσών συσχετίσεων οι οποίες μεταφράζονται στη δημιουργία υποδείγματος παλινδρόμησης 2 Εκτίμηση(σημειακή-διαστηματα εμπιστοσύνης) και ερμηνεία των αποτελεσμάτων της πολλαπλή ανάλυσης παλινδρόνησης για τις παραμέτρους 3 ΕλεγχοςτωνυποθέσεωντηςΜΕΤστοΠΓΥ 4 Ελεγχοςδιαφόρωνυποθέσεωνσχετικάμετηχρήσηήμητων ερμηνευτικής μεταβλητής 5 Ο επαναπροσδιορισμός του δεδομένου υποδείγματος με βάση τους ελέγχους υποθέσεων 6 Η εύρεση διαστημάτων εμπιστοσύνης σε παραμέτρους και y εκτός δείγματος(προβλεψης) βεαμερ-τυ-λογ

Εκτίμηση στο Πολλαπλό Γραμμικό Υπόδειγμα(ΠΓΥ) Εκτίμηση μέσω Ελαχίστων Τετραγώνων στο ΠΓΥ S(ˆβ 0, ˆβ 1,..., ˆβ k ) = n [y i (ˆβ 0 + ˆβ 1 x 1i + + ˆβ k x ki )] 2 i=1 S ˆβ 0 = 2 S ˆβ 1 = 2.. S ˆβ k = 2 n (y i ˆβ 0 ˆβ 1 x 1i ˆβ k x ki )( 1) = 0 i=1 n (x 1i )(y i ˆβ 0 ˆβ 1 x 1i ˆβ k x ki )( 1) = 0 i=1. n (x ki )(y i ˆβ 0 ˆβ 1 x 1i ˆβ k x ki )( 1) = 0 i=1

Εκτίμηση στο Πολλαπλό Γραμμικό Υπόδειγμα(ΠΓΥ) Εκτίμηση μέσω Ελαχίστων Τετραγώνων στο ΠΓΥ Για k = 2(δυο ερμηνευτικές μεταβλητες) εχουμε, nˆβ 0 + ˆβ n 1 x 1i + ˆβ n 2 x 2i = i=1 i=1 n i=1 y i ˆβ 0 ˆβ 0 n x 1i + ˆβ n 1 x1i 2 + ˆβ 2 i=1 i=1 i=1 n x 2i + ˆβ n 1 x 1i x 2i + ˆβ 2 i=1 i=1 i=1 n x 2i x 1i = n x2i 2 = n y i x 1i i=1 n y i x 2i i=1

Εκτίμηση στο Πολλαπλό Γραμμικό Υπόδειγμα(ΠΓΥ) Εκτίμηση μέσω Ελαχίστων Τετραγώνων στο ΠΓΥ n i=1 ˆβ 0 = y n i n ˆβ i=1 x 1i 1 n ȳ ˆβ 1 x 1 ˆβ 2 x 2. n ˆβ i=1 x 2i 2, n ˆβ 1 = ( n i=1 x 1iy i )( n i=1 x 1i) 2 ( n i=1 y ix 1i )( n i=1 x 1ix 2i ) ( n i=1 x 1i 2)( n i=1 x 2i 2) n i=1 x 1ix 2i ˆβ 2 = ( n i=1 x 2iy i )( n i=1 x 2i 2) ( n i=1 y ix 2i )( n i=1 x 1ix 2i ) ( n i=1 x 1i 2)( n i=1 x 2i 2) n i=1 x 1ix 2i

Εκτίμηση στο Πολλαπλό Γραμμικό Υπόδειγμα(ΠΓΥ) Εκτίμηση μέσω μητρών στο ΠΓΥ y = y = xβ +ǫ y 1 β 0 y 2 β 1 y 3, b = β 2 ǫ 2, ǫ =... y n β k 1 x 11 x 21 x k1 1 x 12 x 22 x k2 x =..... 1 x 1n x 2n x kn ǫ 1 ǫ n

Εκτίμηση στο Πολλαπλό Γραμμικό Υπόδειγμα(ΠΓΥ) Εκτίμηση μέσω μητρών στο ΠΓΥ S = 2(x xˆb x y) = 0 ˆb x xˆb = x y ˆb = (x x) 1 x y. Το ˆβ j αντιπροσωπεύειτοοριακόαποτέλεσμαμιαςμεταβολήςτης x j στην y. dy dx j = ˆβ j Οταν b = (ˆβ 0, ˆβ 1,..., ˆβ j,..., ˆβ k ) Ηπαράμετρος ˆβ j έχειτοίδιοπρόσημομετονσυντελεστή συσχέτισης ρ Xj,Y. βεαμερ-τυ-λογ

Εκτίμηση στο Πολλαπλό Γραμμικό Υπόδειγμα(ΠΓΥ) Εκτίμηση διαστημάτων εμπιστοσύνης στο ΠΓΥ Το διαστήμα εμπιστοσύνης της παραμέτρου β εκφράζει το δυνατό όριο τιμώνγιατην β j,αυτόεκφράζεταιαλγεβρικάως: ˆβ j t n k 1,a/2 s βj β ˆβ j + t n k 1,a/2 s βj όπουομέσοςτης ˆβ E(ˆb) = E((x x) 1 x y) = (x x) 1 x E(y) = (x x) 1 x xb = b και επειδή ˆb b = (x x) 1 x y b = (x x) 1 x (xb+ǫ) b = (x x) 1 x ǫ

Εκτίμηση στο Πολλαπλό Γραμμικό Υπόδειγμα(ΠΓΥ) Εκτίμηση διαστημάτων εμπιστοσύνης στο ΠΓΥ Αν ορίσουμε ως: V(ˆb) = E(ˆb b)(ˆb b) = E((x x) 1 x ǫ)((x x) 1 x ǫ) = (x x) 1 x E(ǫǫ )x(x x) 1 = (x x) 1 x σ 2 x(x x) 1 = σ 2 (x x) 1. C = (x x) 1 = c 00 c 01 c 02 c 0k c 10 c 11 c 12 c k2..... c k0 c k1 c k2 c kk

Εκτίμηση στο Πολλαπλό Γραμμικό Υπόδειγμα(ΠΓΥ) Εκτίμηση διαστημάτων εμπιστοσύνης στο ΠΓΥ Τότεηδιακύμανσητης ˆβ j,ορίζεταιως V(ˆβ j ) = σ 2 c jj καιησυνδιακύμανσητων ˆβ j, ˆβ i με j iως Cov(ˆβ j, ˆβ i ) = σ 2 c ji όπουητυπικήαπόκλισητης ˆβ j ορίζεταιως s βj = V(ˆβ j ) = σ c jj, καιτο t a/2 αποτέλειτηνκριτικήτιμήτηςκατανομής Student-t.

Πρόβλεψη στο ΠΓΥ ΗέννοιατηςπρόβλεψηςστοΠΓΥ Δεδομένωντωνπαρατηρήσεων y 1,...,y n,καιέχονταςτηςεκτιμήσεις {ˆβ 0, ˆβ 1,... ˆβ k }θέλουμενακάνουμεπρόβλεψηγια m = 1,...M διαφορετικάσενάριαγιατις x.ηπροβλεψημαςγιατην y N+m παίρνειτη μορφή y n+m = ˆβ 0 + ˆβ 1 x 1,n+m + + ˆβ k x k,n+m Σεπερίπτωσηόπου m = 1(Πρώτοσενάριο),τότεέστω: x 0 = (1, x 1,n+1, x 2,n+1,...,x k,n+1 ). Ηπροβλεψημαςθαέχειμέσητιμη, E(y n+1 ) = E(ˆβ 0 )+E(ˆβ 1 )x 1,n+1 + +E(ˆβ k )E(x k,n+1 ) = β 0 +β 1 x 1,n+1 + +β k x k,n+1 = x 0 β

Πρόβλεψη στο ΠΓΥ ΗέννοιατηςπρόβλεψηςστοΠΓΥ και διακύμανση, V(y n+1 ) = E(x 0ˆβ x 0 β)(x 0ˆβ x 0 β) = E(x 0(ˆβ β)(ˆβ β) x 0 ) = x 0V(ˆβ)x 0 = σ 2 x 0 (x 0 x 0) 1 x 0. με διάστημα εμπιστοσύνης, E(y n+1 ) t n k 1,a/2 V(yn+1 ) y n+1 E(y n+1 )+t n k 1,a/2 V(yn+1 )

Πρόβλεψη στο ΠΓΥ ΗέννοιατηςπρόβλεψηςστοΠΓΥ Ιδιότητες διαστημάτων εμπιστοσύνης πρόβλεψης 1 Τοεύροςτουδιαμορφώνεταιαποτα σ 2 και V(y n+1 )κατατονίδιο βαθμό,(παρ. όσο μεγαλύτερη διασπορά παρατηρούμε στα κατάλοιπα πόσο και η εκτίμηση θα είναι λιγότερο ακριβής) 2 Τοεύροςτουδιαμορφώνεταιεπίσηςκαιαπότογινόμενο (x 0 x 0) 1, (παρ.όσοτογινόμενο (x 0 x 0 ) 1 θαμεγαλώνειτόσοηεκτίμησηθα είναι λιγότερο ακριβής)

Πρόβλεψη στο ΠΓΥ Προσδιορισμός του διαστήματος εμπιστοσύνης για β Το διαστήμα εμπιστοσύνης της παραμέτρου β εκφράζει το δυνατό όριο τιμών για την β(στο πληθυσμό), αυτό αλγεβρικά είναι το: ˆβ t a/2,n k 1 sˆβ β ˆβ + t a/2,n k 1 sˆβ όπου sˆβεκφράζειτηντυπικήαπόκλισητης ˆβήαπλώςτοτυπικό σφάλμα, με αλγεβρική μορφή: SSR n sˆβ = (n 2) n i=1 (x i x) 2, SSR = (y i ˆα ˆβx i ) 2 και t a/2,n k 1 αποτέλειτηνκριτικήτιμήτηςκατανομής Student-tγια επιπεδοσφάλματο ακαι n k 1βαθμούςελευθερίας(k = 1,στο Α.Γ.Υ.). i=1

Πρόβλεψη στο ΠΓΥ Εκτίμηση διαστημάτων εμπιστοσύνης στο ΑΓΥ Ιδιότητες διαστημάτων εμπιστοσύνης 1 Τοεύροςτουδιαμορφώνεταιαποτα SSRκαι s β κατατονίδιο βαθμό,(παρ. όσο μεγαλύτερη διασπορά παρατηρούμε στα κατάλοιπα πόσο και η εκτίμηση θα είναι λιγότερο ακριβής) 2 Τοεύροςτουδιαμορφώνεταιεπίσηςκαιαπότομέγεθοςτων παρατηρήσεων,(παρ. όσο περισσότερες παρατηρήσεις χρησιμοποιούμε τόσο η εκτίμηση θα είναι περισσότερο ακριβής) 3 Τοεύροςτουδιαμορφώνεταιαπότηνποσότητα n i=1 (x i x) 2, (παρ. όσο μεγαλύτερη διασπορά στην x μεταβλητή τόσο η εκτίμηση θα είναι περισσότερο ακριβής) 4 Τοεύροςτουδιαμορφώνεταιαπότηνποσότητα t a/2,n k 1 (παρ. όσο μεγαλύτερο είναι το σφάλμα εκτίμησης που υποθέτουμε τόσο η εκτίμηση θα είναι περισσότερο ακριβής)

Ανάλυση διασποράς και συντελεστής προσδιορισμού Ανάλυση διασποράς στο ΑΓΥ Ορίζουμε τα κατάλοιπα(ή σφάλματα) μιας παλινδρόμησης ως: ˆǫ i = y i ŷ i = y i ˆβ 0 ˆβ 1 x 1,i ˆβ k x k,i Χρειάζεται να ορίσουμε ένα μέτρο αρίστης εφαρμογής των δεδομένων μας στην εκτιμόμενη ευθεία ως ŷ i = ˆβ 0 + ˆβ 1 x 1,i + + ˆβ k x k,i Ο Συντελαστής Προσδιορισμού ορίζεται ως R 2 = RSS n TSS, RSS = (ŷ i ȳ) 2, TSS = i=1 n (y i ȳ) 2 i=1 Ερμηνείατουσυντελεστή R 2 1 ο R 2 μετράτηναναλογίατηςσυνολικήςμεταβλητότηταςτης yπου δύναται να ερμηνευτεί απο την x 2 0 R 2 1,με R 2 1,δηλώνειπολύκαλήπροσαρμογή,ενωόταν R 2 0μη-καλήπροσαρμογή βεαμερ-τυ-λογ

Ελεγχοι Υποθέσεων στο ΑΓΥ Ο Ελεγχος του t-στατιστικού στο ΓΥ Εστω ότι: ˆβ j t n 1 (β, s 2ˆβj ) Ελέγχουμεγιατοαντο β j στονπληθυσμόισούταιμεμιατιμή βj.εάν o β o j = 0ελέγχουμετηστατιστικήσημαντικότητατης xστηνερμηνεία της y. H 0 : β j = βj o H 1 : β j βj o t H0 = ˆβ j β o j s 2ˆβj t n k 1,a/2 με n k 1βαθμουςελευθερίας,όπου k-μέγεθοςτωνερμηνευτικών μεταβλητων.ορίζουμεποσοστόσφάλματος a = 10ή5ή1%. βεαμερ-τυ-λογ

Ελεγχοι Υποθέσεων στο ΑΓΥ Ο Ελεγχος του t-στατιστικού στο ΓΥ Ερμηνεία του ελέγχου t 1 Αν t H0 > t n k 1,a/2 απορρίπτουμετην H 0 υπόθεση(xστατιστικά σημαντικός) αλλιώς την αποδεχόμαστε(x στατιστικά μη σημαντικός). 2 Οσοπιομεγάλοορίσουμετοσφάλμα α,τόσοπιοεύκολοείναινα απορρίψουμετην H 0,νααποδεκτούμετηνσημαντικότητατης x. 3 Οσοπιομεγάλοείναιτο ˆβ j σεσχέσημετηντυπικήτηςαπόκλιση sˆβj,τόσοη ˆβ j θαείναισημαντικώςδιάφορητουμηδένος. 4 Γιατομέτρο p > 0, 05έχουμεισχυρέςενδείξειςυπέςτης H 0 (στατιστικάμη-σημαντική x j ).

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Ελεγχος Υπόθεσης στο ΠΓΥ Σε περίπτωση ελεγχου πολλαπλών υποθέσεων, έστω: H 0 : β 1 = β 2 = = β k = 0, R 2 = 0 H 1 : β 1 0, β 2 0 β k 0, R 2 0 Η H 0 είναιισοδύναμημεαυτήντηςμη-στατιστικήςσηματικότηταςόλων των x.οέλεγχοςαυτόςεκφράζεταιαπότο F-στατιστικό: F H0 = (SSR r SSR ur )/q (n k 1) R2 SSR ur /(n k 1) 1 R 2 όπου SSR r είναιτο SSRγιατουπόδειγμαυπότονπεριορισμό H 0,άρα το y i = β 0 +ǫ i.αντίθεταοόρος SSR ur είναιτο SSRγιατο μη-περιορισμένουπόδειγμα,αρατο y i = β 0 +β 1 x 1i + +β k x ki +ǫ i.

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Ελεγχος Υπόθεσης στο ΠΓΥ(F-στατιστικού) Ερμηνεία του ελέγχου F 1 Αν F H0 > F k,n k 1,a απορρίπτουμετην H 0 υπόθεση(τα x στατιστικά σημαντικά) αλλιώς την αποδεχόμαστε(τα x στατιστικά μη σημαντικά). 2 Οσοπιομεγάλοορίσουμετοσφάλμα α,τόσοπιοεύκολοείναινα απορρίψουμετην H 0,νααποδεχτούμετηνσημαντικότητατων x. 3 Οσοπιομεγάλοείναιτο R 2,τόσοηF H0 > F k,n k 1,a ανεξαρτήτως k-αριθμού ερμηνευτικών μεταβλητών 4 Γιατομέτρο p > 0, 05έχουμεισχυρέςενδείξειςυπέςτης H 0 (στατιστικά μη-σημαντικές x).

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Επαναπροσδιορισμος υποδείγματος στο ΠΓΥ Λόγοι επαναπροσδιορισμος υποδείγματος 1 F H0 < F k,n k 1,a οπότεαποδεχόμαστετην H 0 υπόθεση(τα xμη στατιστικά σημαντικά): Ανάγκη εύρεσης στατιστικά σημαντικών x. 2 Οταν R 2 ιδιαιτέρωςμικρό,παράτηνόποιαστατιστική σημαντικότητα των x. Αυτό μπορεί να φανερώνει μια μικρή τιμή της F. 3 t H0 < t n k 1,a/2 οπότεαποδεχόμαστετην H 0 υπόθεση(τα x στατιστικά μη σημαντικά): Ανάγκη εύρεσης στατιστικά σημαντικών x. 4 p-value > α = 5% = 0.05τότεσυμπεραίνουμεότι β j = 0για 5% ποσοστο σφάλματος.

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Κανονικότητα Ορισμός Κανονικότητα εμφανίζεται όταν τα κατάλοιπα-σφάλματα της παλινδρόμησης παρουσιάζουν κατανομή συχνοτήτων όμοιο με αυτόν της Κανονικής Κατανομής. Μέθοδοι διάγνωσης Κανονικότητας 1 Ελεγχοςδείκτηασυμμετρίας(γ 1 = µ 3 (γ 2 = µ 4 σ 4 = 3) σ 3 = 0)καιδείκτηκυρτότητας 2 Ελεγχος Jarque Bera(Jarque Bera test)οοποίοςμετράτην απόκλιση μας από την Κανονικότητα, JB = n (γ 21 + 14 ) 6 (γ 2 3) 2

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Κανονικότητα Μέθοδοι διάγνωσης Κανονικότητας Jarque Bera(συν.) H 0 υπαρξηκανονικότηταςέναντιτης H 1 μη-υπαρξηκανονικότητας. JB χ 2 2 οέλεγχοςπραγματοποιείταιμεβάσητηνυπόθεσηότιο έλεγχος Jarque BeraκατανέμεταισύμφωναμετηνΚατανομή χ 2 με 2 βαθμούς ελευθερίας Τί κάνουμε εαν απορρίψουμε την Κανονικότητας Σε περίπτωση απόρριψης της Κανονικότητας υπάρχουν δύο βασικές επιλογές: Αύξηση του μεγέθους του δείγματος Ο λογαριθμικός μετασχηματισμός των δεδομένων μας

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Ετεροσκεδαστικότητα Ορισμός Ετεροσκεδαστικότητα εμφανίζεται όταν τα κατάλοιπα-σφάλματα της παλινδρόμησηςδενπαρουσιάζουνσταθερηδιακύμανση(v(ǫ) σ 2 ). Μέθοδοι διάγνωσης ετεροσκεδαστικότητας 1 Οπτικός: Μέσω διαγραμματικής απεικόνησης των καταλοίπων μιας παλινδρόμησης 2 Στατιστικός: Εύρεση στατιστικά σημαντικών συσχετίσεων μεταξύ των τετραγώνων των καταλοίπων και γνωστών ερμηνευτικών μεταβλητών. E(ǫ 2 ) = V(ǫ) = E(ǫ 2 ) [E(ǫ)] 2 = E(ǫ 2 )+0 = E(ǫ 2 )

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Ετεροσκεδαστικότητα Στατιστικοί έλεγχοι ετεροσκεδαστικότητας 1 Εκτίμηση παλινδρόμησης y = f(x 1,...,x k )+ǫ 2 Αποθήκευση των καταλοίπων ǫ 3 Εκτίμηση παλινδρόμησης Breusch-Pagan White ǫ 2 = g(x 1,...,x k, k l=1 k x j x j )+v i j=1 ǫ 2 = h(ŷ, ŷ 2 )+w i 4 Πραγματοποίηση ελέγχου F βεαμερ-τυ-λογ

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Αυτοσυσχέτιση των καταλοίπων Ορισμός Αυτοσυσχέτιση των καταλοίπων αποτελεί το φαινόμενο κατα το οποίο ύπαρχει συσχέτιση των διαδοχικών καταλοίπων μιας παλινδρόμησης. (E(ǫ i,ǫ i k ) 0, k < n). Μέθοδοι διάγνωσης αυτοσυσχέτιση των καταλοίπων 1 Οπτικός: Μέσω δημιουργίας ενος διμετάβλητου διαγράμματος για τα ǫ i και ǫ i k για k < n. 2 Στατιστικός: Εύρεση στατιστικά σημαντικών συσχετίσεων μεταξύ των ǫ i και ǫ i k για k < n.

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Αυτοσυσχέτιση των καταλοίπων(συν.) Στατιστικοί έλεγχοι αυτοσυσχέτιση των καταλοίπων 1 Εκτίμηση παλινδρόμησης y = f(x 1 )+ǫ 1 Αποθήκευσητωνκαταλοίπων ǫ i 2 Εκτίμηση παλινδρόμησης Ελέγχουμε την υπόθεση: ǫ i = ρ 1 ǫ i 1 + v i H 0 : ρ 1 = 0, H 1 : ρ 1 0 ή 2 Ελεγχος Durbin-Watson στην αρχική παλινδρόμηση βεαμερ-τυ-λογ

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Αυτοσυσχέτιση των καταλοίπων(συν.) Ελεγχος Durbin-Watson (k = 1) n i=2 d = (ǫ i ǫ i 1 ) 2 n i=2 ǫ2 i Στησυνέχεια,ορίζονταςκριτικέςτιμές d L και d U βάσηποσοστού σφάλματος(α = 1%ή5%).

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Αυτοσυσχέτιση των καταλοίπων(συν.) Για θετική αυτοσχέτιση d < d L :ΑπορρίπτεταιηH 0 (έχουμεθετικήαυτοσυσχέτιση αντίστοιχα). d > d U :ΔεχόμαστεηH 0 (μηδενικήαυτοσυσχέτιση). d L < d < d U :Δενπροκύπτειαξιόπιστοσυμπέρασμα. Για αρνητική αυτοσχέτιση d > 4 d L :ΑπορρίπτεταιηH 0 (έχουμεαρνητικήαυτοσυσχέτιση αντίστοιχα). d < 4 d U :ΔεχόμαστεηH 0 (μηδενικήαυτοσυσχέτιση). d L < (4 d) < d U :Δενπροκύπτειαξιόπιστοσυμπέρασμα.

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Πολυσυγγραμμικότητα Ορισμός Πολυσυγγραμικότητα εμφανίζεται όταν κάποιες ή όλες οι ερμηνευτικές μεταβλητές είναι αμοιβαίως συσχετιζόμενες. Ενδείξεις πολυσυγγραμμικότητας 1 Υψηλή συσχέτιση ερμηνευτικών μεταβλητών μέσω εύρεσης συντελεστή συσχέτισης ή πολλαπλού γραφήματος 2 Μικρές τιμές για το t-στατιστικό σε επι μέρους μεταβλητές. 3 Υψηλές τιμές για το p-value σε επι μέρους μεταβλητές. 4 Στατιστικής μη σημαντικότητας για τα x(μέσω χαμυλών τιμών των t-στατιστικών),αλλάμε R 2 υψηλό.εδώοιερμηνευτικές μεταβλητές παρέχουν υψηλή ερμηνευτική ικανότητα πλην όμως η πολυσυγγραμικότηταδιαστρευλώνειτηςτιμέςτων β j.

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Γραμμικότητα Ορισμός Η υπόθεση της γραμμικότητας σε ένα στατιστκό υπόδειγμα y διασφαλίζεται από τη συνθήκη: i x i,j f(x i,j ) Γιατί Μη-Γραμμικότητα 1 Σχέση μεταξύ μεταβλητών είναι μη-γραμμική (I)γραμμική: y = α+βx (II)μη-γραμμική: y = e α+βx (III)μη-γραμμική: y = β 0 +β 1 x +β 2 x 2 (IV)μη-γραμμική: y = β 0 +β 1 x +β 2 x 2 +β 3 x 3

y βεαμερ-τυ-λογ Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Περιγραφή Μη-Γραμμικότητας Μορφές Μη-Γραμμικών Συναρτήσεων (i) (ii) 6 8 10 12 14 y0 0 1000000 2000000 3000000 40 20 0 20 40 x 40 20 0 20 40 x (iii) (iv) y2 0 100 200 300 400 500 y3 10000 0 5000 40 20 0 20 40 x 40 20 0 20 40 x

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Περιγραφή Μη-Γραμμικότητας Λογαριθμικός Μετασχηματισμός Η χρήση του λογαριθμικού μετασχηματισμού σε μια μεταβλητή εκφράζεταιαπότησχέση z i = log(y i ) Γιατί Λογαριθμικός Μετασχηματισμός 1 Δημιουργεί συνθήκες Κανονικότητας(συμμετρία στη κατανομή συχνοτήτων και συντελεστή κυρτότητας 3. 2 Λόγοι μορφής του υποδείγματος μας. Ετσι:(Α) y i = e α+βx i log(y i ) = α+βx i Το βαντιπροσωπεύειτοποσοστόμεταβολήςτης y i απότη μοναδιαία μεταβολή της x.

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Περιγραφή Μη-Γραμμικότητας Γιατί Λογαριθμικός Μετασχηματισμός(συν.) 1 (Β) y i = α K β 1 i L β 2 i log(y i ) = log(α)+β 1 log(k i )+β 2 log(l i ) Το β 1 αντιπροσωπεύειτοποσοστόμεταβολήςτης y i απότην αύξησηκατά 1%της K i.

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Παράδειγμα Ι: Ερμηνεύοντας της ακινητοποίησης ενός οχήματος ως αποτέλεσμα της ταχύτητας του Στόχος της παλινδρόμησης μας: Στόχος της παρούσης εμπειρικής διερεύνησης αποτελεί η ερμηνεία της ακινητοποίησης ενός οχήματος ως αποτέλεσμα της ταχύτητας του. Αυτό θα μας δώσει τη δυνατότητα πρόβλεψης διαφόρων τιμών ακινητοποίησης ως αποτέλεσμα εναλλακτικών σεναρίων ταχύτητας. Δεδομένα: CARS.TXT 1 y =ακινητοποίηση(σεμέτρα) 2 x =ταχύτηταοχήματος Mph(μίλιαανάώρα)

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Πίνακας διακύμανσης-συνδιακύμανσης και συσχέτισης 1 Δημιουργία Workfile: 2 Εισαγωγή δεδομένων(παρ. θέσετε: y ως εξαρτημένη, x ως ανεξαρτητη). 3 Άνοιγμα δεδομένων 4 Παρουσίαση πίνακα διακύμανσης-συνδιακύμανσης και συσχέτισης View/Covariance Analysis/ 5 Επιλογη: Covariance & Correlation 6 Επιλογη: Multiple tables 7 Επιλογη: ΟΚ

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Πίνακας διακύμανσης-συνδιακύμανσης και συσχέτισης Πίνακας Α: Μήτρες διακύμανσης-συνδιακύμανσης και συσχέτισης

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ XY-γράφημα των μεταβλητων 1 Δημιουργία Workfile: 2 Εισαγωγή δεδομένων(παρ. θέσετε: y ως εξαρτημένη, x ως ανεξαρτητη). 3 Άνοιγμα δεδομένων ως ομάδα 4 XY-γράφημα View/Graph/Scatter 5 Επιλογη: ΟΚ

SPEED Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ XY-γράφημα των μεταβλητων Γράφημα Α: Γράφημα σχέσης ακινητοποίησης και ταχύτητας αυτοκινήτου 140 120 100 DIST 80 60 40 20 0 0 4 8 12 16 20 24 28 βεαμερ-τυ-λογ

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Εκτίμηση παλινδρόμησης 1 Δημιουργία Workfile: 2 Εισαγωγή δεδομένων(παρ. θέσετε: y ως εξαρτημένη, x ως ανεξαρτητη). 3 Εκτίμηση απλης παλινδρόμησης Quick/Estimate Equation, y i = α+βx i +ǫ i ως: y c x 4 Επιλογη: Sample & Estimation method: τιμές που δίνονται εξ ορισμού 5 Επιλογη: ΟΚ

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Εκτίμηση παλινδρόμησης Πίνακας Β: Αποτέλεσμα παλινδρόμησης

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Εκτίμηση παλινδρόμησης-κατάλοιπα Πίνακας Γ: Ιστόγραμμα καταλοίπων παλινδρόμησης 12 10 8 6 4 2 Series: RESID Sample 1 50 Observations 50 Mean 1.95e-15 Median -2.271854 Maximum 43.20128 Minimum -29.06908 Std. Dev. 15.22184 Skewness 0.885052 Kurtosis 3.892944 Jarque-Bera 8.188784 Probability 0.016666 0-30 -20-10 0 10 20 30 40 βεαμερ-τυ-λογ

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Αποτέλεσμα παλινδρόμησης Σχόλια στο αποτέλεσμα παλινδρόμησης 1 ΟΠίνακαςΑκαθώςκαιτο XY-γράφημαμαςδίνουνσημαντικές ενδείξεις συσχέτιση για τις x και y(κίνητρο πραγματοποίησης παλινδρόμησης). 2 Μιααύξησητηςταχύτηταςενόςοχήματοςκατα 1mphθατείνεινα αυξήση την απόσταση ακινητοποίησης κατα 3, 932 μέτρα. 3 Με R 2 = 0.6510,ηερμηνευτική xερμηνεύειτο 65.1%της μεταβλητότητας της απόστασης ακινητοποίησης ενός οχήματος. 4 Οέλεγχοςσημαντικότηταςγιατησταθεράκαιτηνκλίση βδίνουν τις H 0 για α = 0και β = 0αντίστοιχανααπορρίπτονταιγια 5% ποσοστό σφάλματος( t > 1.96). 5 Στον έλεγχο κανονικότητας των καταλοίπων μέσω JB, βρήκαμε JB = 8, 188 > 5, 99 = χ 2 2.Επομένως,έχουμεαπόρριψη κανοτικότητας. Στον έλεγχο αυτοσυσχέτισης των καταλοίπων μέσω DW,βρήκαμε d = 2 > 1, 676 > d U = 1, 59: μη-αυτοσυσχέτιση. βεαμερ-τυ-λογ

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Κριτικές τιμές για έλεγχο τύπουdurbin-watson-α = 5%

Ελεγχοι Υποθέσεων και Επαναπροσδιορισμος στο ΓΥ Κριτικές τιμές για έλεγχο τύπου Durbin-Watson-α = 5%(συν.)