ΟΙΚΟΝΟΜΕΤΡΙΑ. Παπάνα Αγγελική

ΟΙΚΟΝΟΜΕΤΡΙΑ Ενότητα 3: Ανάλυση γραμμικού υποδείγματος Απλή παλινδρόμηση (2 ο μέρος) Παπάνα Αγγελική Μεταδιδακτορική ερευνήτρια, ΑΠΘ E-mail: angeliki.papana@gmail.com, agpapana@auth.gr Webpage: http://users.auth.gr/agpapana 1

Περιεχόμενο ενότητας Στατιστική επαγωγή: Έλεγχος του υποδείγματος 1. Μέτρα της προσαρμογής: α) Συντελεστής προσδιορισμού β) Τυπικό σφάλμα της παλινδρόμησης 2. Διάστημα εμπιστοσύνης των συντελεστών β 0, β 1 3. Έλεγχος υποθέσεων των συντελεστών β 0, β 1 4. Έλεγχος με την κατανομή F. Ανάλυση της διακύμανσης 5. Συντελεστής συσχέτισης 2

Στατιστική επαγωγή Η γραμμή παλινδρόμησης του δείγματος είναι μια εκτίμηση της γραμμής παλινδρομήσεως του πληθυσμού και άρα υπόκειται σε σφάλματα, παρόλο που οι εκτιμητές ελαχίστων τετραγώνων ικανοποιούν τις επιθυμητές ιδιότητες (γραμμικοί, αμερόληπτοι, αποτελεσματικοί). Περιγράφει καλά τα δεδομένα η γραμμή παλινδρόμησης του δείγματος; Η ανεξάρτητη/ερμηνευτική μεταβλητή (Χ) ερμηνεύει μεγάλο ή μικρό τμήμα της μεταβολής της εξαρτημένης μεταβλητής (Υ); Οι παρατηρήσεις (δεδομένα δείγματος) είναι κοντά συγκεντρωμένες γύρω από την γραμμή παλινδρόμησης του δείγματος ή είναι διάσπαρτες; Θέλουμε να εξετάσουμε πόσο καλή είναι η εκτίμηση που κάναμε, δηλαδή πόσο καλοί είναι οι συντελεστές β 0, β 1 και τι κριτήρια μπορούμε να χρησιμοποιήσουμε για να αξιολογήσουμε τα αποτελέσματα της εκτιμήσεως. 3

1. Μέτρα της προσαρμογής α) Συντελεστής προσδιορισμού R 2 (regression R 2 ή R squared) Έστω δείγμα X t, Y t, t = 1,, T. Η μεταβλητότητα της Y ορίζεται σε σχέση με τον μέσο του δείγματος: T Μεταβλητότητα της Υ: t=1 Y t Y 2 Θέλουμε να εξετάσουμε πόση από την μεταβλητότητα που παρατηρείται στις τιμές της Υ ερμηνεύεται από την παλινδρόμηση. Y t Y : απόκλιση της τιμής του δείγματος από τον μέσο 1. Μέτρα της προσαρμογής Y t Y: απόκλιση της προβλεφθείσας/εκτιμώμενης τιμής από τον μέσο u t = Y t Y t : απόκλιση της τιμής του δείγματος από την γραμμή παλινδρόμησης 4

Συνολική μεταβλητότητα της Y: T SSΤ = t=1 Y t Y 2 συνολικό άθροισμα τετραγώνων (sum of squares, total) Μεταβλητότητα της Y, που εξηγείται από την παλινδρόμηση: T SSR = t=1 Y t Y 2 ερμηνευόμενο άθροισμα τετραγώνων (sum of squares, regression) Μεταβλητότητα της Y, που μένει ανεξήγητη: T SSE = t=1 Ισχύει: SST = SSR + SSE 2 Y t Y t = T t=1 u 2 t άθροισμα τετραγώνων των καταλοίπων (sum of squares, error) Συνολική μεταβλητότητα της Y Εξηγείται από τις μεταβολές της Χ Οφείλεται στους τυχαίους παράγοντές 1. Μέτρα της προσαρμογής 5

Συντελεστής προσδιορισμού R 2 είναι η αναλογία ή το ποσοστό της διακύμανσης του δείγματος της Υ που ερμηνεύεται / προβλέπεται από την Χ: R 2 = SSR SST ή R 2 = 1 SSE SST ή R 2 = β xy 1 y 2, όπου x = X X, y = Y Y 1. Μέτρα της προσαρμογής Ο συντελεστής προσδιορισμού παίρνει τιμές από 0 έως 1: 0 R 2 1. Όσο μεγαλύτερη η τιμή του R 2, τόσο καλύτερη είναι η προσαρμογή του υποδείγματος στα δεδομένα του δείγματος. 6

Άσκηση 1 (συνέχεια). Τα στοιχεία του Πίνακα αναφέρονται στην αξία (σε δισεκ. δραχμές) των εισαγωγών καταναλωτικών αγαθών (Υ) και στο διαθέσιμο εισόδημα (Χ) για την Ελληνική Οικονομία για την περίοδο 1958-1973. Έτος Υ Χ Έτος Υ Χ 1958 5,121 105,508 1966 8,625 182,420 1959 4,134 107,497 1967 9,204 192,895 1960 4,653 111,875 1968 9,647 204,164 1961 5,622 124,676 1969 10,167 221,908 1962 5,499 130,118 1970 9,961 240,471 1963 6,453 142,140 1971 10,580 267,849 1964 7,093 155,338 1972 10,658 289,450 1965 8,907 171,456 1973 13,139 318,550 1. Μέτρα της προσαρμογής 7

Είναι: β 1 = ΧΥ Τ X Υ Χ 2 = 0, 0375 Τ X2 1. Μέτρα της προσαρμογής ΧΥ = 26541,949 Υ 2 = 103, 476 R 2 = β 1 ΧΥ Υ 2 = 95, 236 103, 476 = 0, 92 Για τα δεδομένα της περιόδου 1958-1973, το διαθέσιμο εισόδημα ερμηνεύει το 92% της μεταβλητότητας της εισαγωγών καταναλωτικών αγαθών. 8

β) Τυπικό σφάλμα της παλινδρόμησης s (standard error of the regression) είναι ένας εκτιμητής της τυπικής απόκλισης του σφάλματος της παλινδρόμησης u t. Επειδή τα u t δεν είναι γνωστά, η εκτίμηση προκύπτει με βάση τα u t. Εκτίμηση της διακύμανσης s 2 = s 2 = 1 T 2 T 2 t=1 u t ή y2 β 1 xy T 2, όπου x = Χ Χ, y = Υ Υ 1. Μέτρα της προσαρμογής Όσο πιο μικρή τιμή προκύπτει για το s (τετραγωνική ρίζα της διακύμανσης), τόσο καλύτερη η προσαρμογή του υποδείγματος στα δεδομένα του δείγματος. 9

Άσκηση 1 (συνέχεια). Είναι: 1. Μέτρα της προσαρμογής s 2 = y2 β 1 xy T 2 = 103,476 0,0375 2540,196 16 2 = 8.21865 14 = 0. 5870 Εφόσον η διασπορά είναι μικρή (s 2 = 0. 5870) και ο συντελεστής προσδιορισμού μεγάλος (R 2 = 0, 92), άρα έχει γίνει καλή προσαρμογή του υποδείγματος στα δεδομένα του δείγματος. 10

2. Διάστημα εμπιστοσύνης των συντελεστών β 0, β 1 Το τυπικό σφάλμα ενός εκτιμητή είναι ένα μέτρο της ακρίβειας του εκτιμητή. Όσο πιο μικρό το τυπικό σφάλμα, τόσο πιο καλή η εκτίμηση της άγνωστης παραμέτρου και αντίστροφα. Η διακύμανση της εκτίμησης των συντελεστών β 0, β 1 είναι: s 2 β 0 s 2 β 1 = s2 Χ2 Τ x 2 = s2 x 2 11

Ανασκόπηση βασικών εννοιών 2. Διάστημα εμπιστοσύνης των συντελεστών β 0, β 1 Ένας εκτιμητής σε σημείο είναι μια τιμή ενός στατιστικού μέτρου που χρησιμοποιείται ως η καλύτερη προσέγγιση στην αντίστοιχη παράμετρο του πληθυσμού, π.χ. ο δειγματικός μέσος είναι ο εκτιμητής σε σημείο του πληθυσμιακού μέσου μ ενός πληθυσμού. Ο εκτιμητής σε διάστημα ή διάστημα εμπιστοσύνης είναι ένα διάστημα για το οποίο μπορεί να καθοριστεί με διάφορους βαθμούς εμπιστοσύνης ότι περιέχει την παράμετρο του πληθυσμού που εκτιμάται. Συντελεστής ή βαθμός εμπιστοσύνης ονομάζεται η πιθανότητα με την οποία η εκτιμώμενη παράμετρος περιέχεται στο διάστημα εμπιστοσύνης. Αν ο συντελεστής εμπιστοσύνης είναι 1 α, τότε το διάστημα εμπιστοσύνης λέγεται 100(1 α)% διάστημα εμπιστοσύνης. 12

2. Διάστημα εμπιστοσύνης των συντελεστών β 0, β 1 Βαθμοί ελευθερίας (β.ε.) Degress of freedom (df) Αναφέρονται στο ελάχιστο σύνολο μεταβλητών που απαιτούνται για τον προσδιορισμό της κατάστασης ενός συστήματος ή στοιχείων που απαιτούνται για την αναπαραγωγή της πληροφορίας που περιέχεται σε ένα σύνολο. Παράδειγμα: Έστω ένα σύνολο N αριθμών {x 1, x 2,... x N }. Κατ' αρχήν, η πληροφορία του συνόλου περιέχεται σε αυτούς τους αριθμούς, άρα έχουμε Ν βαθμούς ελευθερίας (df= N). Αν όμως αποφασίσουμε ότι ο μέσος του συνόλου έχει μία σταθερή τιμή μ 0, τότε αρκεί να προσδιορίσουμε οποιουσδήποτε N 1 αριθμούς για να προσδιοριστεί αυτόματα και αυτός που απομένει, π.χ. x 1 = Nμ 0 N i=2 x i. Σε αυτήν την περίπτωση, έχουμε N 1 β.ε. (df = N 1). 13

2. Διάστημα εμπιστοσύνης των συντελεστών β 0, β 1 Κατανομή Student Κατανομή t-student ή κατανομή t είναι κάθε μέλος της οικογένειας των συνεχών κατανομών πιθανότητας που προκύπτει κατά τον υπολογισμό της σημασίας της κανονικής κατανομής του πληθυσμού σε περιπτώσεις όπου το μέγεθος του δείγματος είναι μικρό και η τυπική απόκλιση του πληθυσμού είναι άγνωστη. Λαμβάνοντας υπόψη ότι μια κανονική κατανομή περιγράφει την πληρότητα ενός πληθυσμού, οι t-κατανομές περιγράφουν τα δείγματα που λαμβάνονται από έναν πλήρη πληθυσμό. 14

Οι στατιστικές β β 0 0, β β 1 1 ~t s β s T 2,a/2 ακολουθούν την κατανομή Student 0 β 1 με Τ 2 βαθμούς ελευθερίας. Τα 100(1-α)% διαστήματα εμπιστοσύνης για τους συντελεστές β 0, β 1 δίνονται από τις σχέσεις: β 0 t Τ 2, a 2s β 0 β 0 β 0 + t Τ 2,a/2 s β 0 2. Διάστημα εμπιστοσύνης των συντελεστών β 0, β 1 β 1 t Τ 2, a 2s β 1 β 1 β 1 + t Τ 2,a/2 s β 1 όπου οι τιμές t a/2 δίνονται στους πίνακες της κατανομής Student με βάση το a και το T. 15

Άσκηση 1 (συνέχεια). Για τα δεδομένα του παραδείγματός μας έχουμε: 2. Διάστημα εμπιστοσύνης των συντελεστών β 0, β 1 s 2 = 0. 5870 s = s 2 = 0, 766 s β 0 = s Χ 2 Τ x 2 = 0, 578, s β 1 = s 1 x 2 = 0, 002946 Διαστήματα εμπιστοσύνης συντελεστών, α = 5% β 0 t Τ 2,a/2 s β 0 β 0 β 0 t Τ 2,a/2 s β 0 0, 104 β 0 2, 375 β 1 t Τ 2,a/2 s β 1 β 1 β 1 t Τ 2,a/2 s β 1 0, 0312 β 1 0, 0438 16

3. Έλεγχος υποθέσεων των συντελεστών β 0, β 1 Είναι ο στατιστικός έλεγχος για τους συντελεστές β 0, β 1 ώστε να διαπιστώσουμε αν πράγματι οι τιμές που εκτιμήσαμε είναι καλές. Ανασκόπηση βασικών εννοιών Υπόθεση ονομάζεται η απόφαση που παίρνουμε για τα θέματα σχετικά με τους πληθυσμούς, βασιζόμενοι στις πληροφορίες που παίρνουμε από τα δείγματα των πληθυσμών. Έλεγχος υποθέσεων ή έλεγχος σημαντικότητας ή στατιστικός έλεγχος ονομάζεται η διαδικασία που χρησιμοποιείται ώστε να αποφασίσουμε αν θα δεχτούμε ή θα απορρίψουμε τις υποθέσεις που έχουμε κάνει. Μηδενική υπόθεση Η 0 ορίζεται ως η υπόθεση που κάνουμε αρχικά με σκοπό να την απορρίψουμε. Εναλλακτική υπόθεση Η 1 ορίζεται ως η ασυμβίβαστη υπόθεση σε σχέση με την μηδενική υπόθεση. 17

3. Έλεγχος υποθέσεων των συντελεστών β 0, β 1 Η απόφαση αν θα γίνει δεκτή ή αν θα απορριφθεί η μηδενική υπόθεση Η 0 στηρίζεται σε ένα στατιστικό που ονομάζεται στατιστικό του τεστ, το οποίο υπολογίζεται από τα δεδομένα του δείγματος. Απορριπτική περιοχή R της Η 0 ονομάζεται η περιοχή στα σημεία της οποίας η Η 0 απορρίπτεται. Σφάλμα τύπου Ι: Απορρίπτω Η 0 όταν η Η 0 είναι αληθής, με πιθανότητα α Σφάλμα τύπου ΙΙ: Δέχομαι την Η 0 όταν η Η 1 αληθής, με πιθανότητα β 18

Οι υποθέσεις που θέλουμε να ελέγξουμε είναι: 3. Έλεγχος υποθέσεων των συντελεστών β 0, β 1 Για το β 0 Η 0 : β 0 = 0 Η 1 : β 0 0 Στατιστικό ελέγχων Για το β 1 Η 0 : β 1 = 0 Η 1 : β 1 0 t = β 0 β 0 s β 0 = β 0 s β 0 t = β 1 β 1 s β 1 = β 1 s β 1 Για επίπεδο σημαντικότητας α, η κάθε μια μηδενική υπόθεση απορρίπτεται αν: t t T 2,a/2 Όπου t T 2,a/2 είναι κριτική ή κρίσιμη τιμή που δίνεται από τους πίνακες της κατανομής Student. 19

Άσκηση 1 (συνέχεια). Για τα δεδομένα του παραδείγματός μας έχουμε: Η 0 : β 0 = 0 Η 1 : β 0 0 Στατιστικό ελέγχων t = β 0 β 0 = β 0 = 1, 96 s β s 0 β 0 1, 96 < 2, 145 άρα δεν Η 0 : β 1 = 0 Η 1 : β 1 0 t = β 1 β 1 = β 1 = 12, 729 s β s 1 β 1 12, 729 > 2, 145 άρα δεν μπορούμε να απορρίπτεται η Η 0. απορρίψουμε την Η 0. 2. Διάστημα εμπιστοσύνης των συντελεστών β 0, β 1 (Απορριπτική περιοχή: t t T 2,a/2 ) 20

4. Έλεγχος με την κατανομή F. Ανάλυση της διακύμανσης Έλεγχος της μηδενικής υπόθεσης Η 0 : β 1 = 0 (ή Η 0 : R 2 = 0) με βάση την κατανομή F. Στατιστικό ελέγχου F = β 1 2 x 2 s 2 Για επίπεδο σημαντικότητας α, η μηδενική υπόθεση απορρίπτεται αν: F F 1,T 2,a Όπου η κριτική ή κρίσιμη τιμή F 1,T 2,a δίνεται από τους πίνακες της κατανομής F. 21

4. Έλεγχος με την κατανομή F. Ανάλυση της διακύμανσης Πίνακας: Ανάλυση της διακύμανσης για την απλή παλινδρόμηση Πηγή μεταβλητότητας Χ (παλινδρόμηση) Κατάλοιπα (σφάλμα) Σύνολο Άθροισμα τετραγώνων Βαθμοί ελευθερίας Μέσα αθροίσματα τετραγώνων ( Υ Υ) 2 1 ( Υ Υ) 2 (Υ Υ) 2 Τ 2 (Υ Υ) 2 1 F = Τ 2 (Υ Υ) 2 Τ 1 (Υ Υ) 2 Τ 1 F ( Υ Υ) 2 1 (Υ Υ) 2 Τ 2 22

Άσκηση 1 (συνέχεια). Πίνακας: Ανάλυση της διακύμανσης για την απλή παλινδρόμηση Πηγή μεταβλητότητας Χ (παλινδρόμηση) Κατάλοιπα (σφάλμα) Άθροισμα τετραγώνων 4. Έλεγχος με την κατανομή F. Ανάλυση της διακύμανσης Βαθμοί ελευθερίας Μέσα αθροίσματα τετραγώνων 95,236 1 95,236 161,968 8,240 14 0,588 Σύνολο 103,476 15 6,898 Για επίπεδο σημαντικότητας α, η Η 0 : β 1 = 0 απορρίπτεται αν F F 1,T 2,a Εφόσον F = 161, 968 > F 1,T 2,a, άρα η Η 0 απορρίπτεται. F 23

5. Συντελεστής συσχέτισης Ο δειγματικός συντελεστής συσχέτισης r είναι ένας εκτιμητής του συντελεστή συσχέτισης ρ του πληθυσμού, και αποτελεί ένα μέτρο του βαθμού συσχέτισης δύο τυχαίων μεταβλητών: r = όπου 1 r 1. X X (Y Y) (X X) 2 (Y Y) = xy 2 x 2 y 2 r = 1: τέλεια θετική γραμμική συσχέτιση r = 1: τέλεια αρνητική γραμμική συσχέτιση r = 0: μηδενική συσχέτιση 24

5. Συντελεστής συσχέτισης Όταν ρ = ±1 η σχέση είναι ντετερμινιστική και όχι στοχαστική γιατί γνωρίζοντας την τιμή της μιας τυχαίας μεταβλητής, γνωρίζουμε και την τιμή της άλλης. Ισχυρή συσχέτιση: ρ 0.8 Μέτρια συσχέτιση: 0.5 ρ < 0.8 Ασθενής συσχέτιση: 0.2 ρ < 0.5 25

Έλεγχος σημαντικότητας συντελεστή συσχέτισης Η 0 : r = 0 Η 1 : r 0 Στατιστικό ελέγχου r T 2 5. Συντελεστής συσχέτισης t = 1 r 2 Για επίπεδο σημαντικότητας α, η μηδενική υπόθεση απορρίπτεται αν: t t T 2,a/2 Όπου t T 2,a/2 είναι κριτική ή κρίσιμη τιμή που δίνεται από τους πίνακες της κατανομής Student. 26

Άσκηση 1 (συνέχεια). Είναι: r = Η 0 : r = 0 Η 1 : r 0 R 2 = 0. 96 r T 2 Στατιστικό ελέγχου t = = 12, 8 και t 1 r 2 T 2,a/2 = 2, 145 Για επίπεδο σημαντικότητας α, η μηδενική υπόθεση απορρίπτεται αν: t t T 2,a/2 Εφόσον t = 12, 8 > t T 2,a/2 = 2, 145 άρα η Η 0 απορρίπτεται. 5. Συντελεστής συσχέτισης 27

Εφαρμογή στο Eviews Άσκηση 1 (συνέχεια) Δημιουργούμε ένα νέο φύλλο εργασίας (workfile): File New Workfile Καταχώρηση δεδομένων στο Eviews: Object New Object Object New Object Type of object: Series Type of object: Series Name of object: Y Name of object: X Quick Show Objects to display in a single window: Y X Διάγραμμα διασποράς View Graph Scatter, Regression line 28

Άσκηση 1 (συνέχεια) Quick Estimate Equation Y C Χ H H 0 απορρίπτεται αν Prob. < 0.05 Αποτελέσματα Coefficients: συντελεστές γραμμής παλινδρόμησης δείγματος β 0 = 1. 135852, β 1 = 0. 037518 Std. Error: τυπικά σφάλματα των β 0, β 1 s β 0 = 0. 576970, s β 1 = 0. 002937 t-statistic: στατιστικό ελέγχου για τις Η 0 : β 0 = 0, Η 0 : β 1 = 0, αντίστοιχα t = 1. 968651, t = 12. 77594 Prob.: η πιθανότητα λάθους αν απορρίψουμε τις Η 0 : β 0 = 0, Η 0 : β 1 = 0, αντίστοιχα p = 0. 0691, p = 0. 0000 29

Άσκηση 1 (συνέχεια) R-squared: συντελεστής προσδιορισμού R 2 = 0. 921004 S.E. of regression: τυπικό σφάλμα της παλινδρόμησης s = 0. 764115 Sum squared resid: άθροισμα τετραγώνων καταλοίπων SSE = 8. 174208 F-statistic: στατιστικό ελέγχου για την Η 0 : β 1 = 0 (ή Η 0 : R 2 = 0) με την F- κατανομή F = 163. 2248 Prob(F-statistic): η πιθανότητα λάθους αν απορρίψουμε την Η 0 : β 1 = 0 ή Η 0 :R 2 = 0, με την F-κατανομή prob= 0. 0000 30

Άσκηση 1 (συνέχεια) View Representations Γραμμή παλινδρόμησης δείγματος Υ t = 1. 135852 +0. 037518 X t 31

Άσκηση 1 (συνέχεια) ΣΥΣΧΕΤΙΣΗ View Covariance Analysis Correlation Συντελεστής συσχέτισης / Correlation coefficient r = 0. 959690 32

Άσκηση 1 (συνέχεια) Διάστημα εμπιστοσύνης για τους συντελεστές β 0, β 1 View Coefficient Diagnostics Confidence Intervals 33

Άσκηση 1 (συνέχεια) Συμπλήρωση του πίνακα της ανάλυσης της διακύμανσης για την απλή παλινδρόμηση: Πηγή μεταβλητότητας Άθροισμα τετραγώνων β.ε. Μέσα αθρ. τετραγώνων F Χ (παλινδρόμηση) Κατάλοιπα (σφάλμα) SSR = ( Υ Υ) 2 1 ( Υ Υ) 2 /1 SSE = (Υ Υ) 2 Τ 2 Υ Υ 2 /(T 2) F = ( Υ Υ) 2 1 (Υ Υ) 2 Τ 2 Σύνολο SST = (Υ Υ) 2 Τ 1 Υ Υ 2 /(Τ 1) Ισχύει: SST = SSR + SSE 34

Άσκηση 1 (συνέχεια) Υπολογισμός συνολικού αθροίσματος τετραγώνων SSΤ Δημιουργία μεταβλητής (Y Y) 2 Object New Object Series, Name of series: newy Proc Generate by Equation Enter equation: newy = (Y Y) 2 View Descriptive Statistics & Test Stats. Table Sum (SST) 35

Βιβλιογραφία Χρήστου Κ. Γεώργιος (2007) Εισαγωγή στην Οικονομετρία, Τόμος 1, Εκδότης: Γ. ΔΑΡΔΑΝΟΣ - Κ. ΔΑΡΔΑΝΟΣ Ο.Ε. Stock H. James, Watson W. Mark, επιμέλεια Πραγγίδης Ιωάννης - Χρυσόστομος (2017) Εισαγωγή στην Οικονομετρία, Εκδότης: Γ. ΔΑΡΔΑΝΟΣ - Κ. ΔΑΡΔΑΝΟΣ Ο.Ε. Χρήστου Κ. Γεώργιος (2006) Εισαγωγή στην Οικονομετρία Ασκήσεις, Εκδόσεις Gutenberg. Δριτσάκη Ν. Χάιδω, Δριτσάκη Ν. Μελίνα (2013) Εισαγωγή στην Οικονομετρία με τη Χρήση του Λογισμικού EViews, Κλειδάριθμος ΕΠΕ Εκδόσεις. 36