ΣΧΟΛΗ ΔΙΟΙΚΗΣΗΣ ΕΠΙΧΕΙΡΗΣΕΩΝ ΤΜΗΜΑ ΟΡΓΑΝΩΣΗΣ ΚΑΙ ΔΙΟΙΚΗΣΗΣ ΕΠΙΧΕΙΡΗΣΕΩΝ ΔΙΔΑΣΚΩΝ: ΘΑΝΑΣΗΣ ΚΑΖΑΝΑΣ Οικονομετρία
4.1 Πολλαπλό Γραμμικό Υπόδειγμα Παλινδρόμησης Γενικεύοντας τη διμεταβλητή (Y, X) συνάρτηση παλινδρόμησης του πληθυσμού μπορούμε να γράψουμε την αντίστοιχη k-μεταβλητών ως Y i = β 0 + β 1 X 1i + β 2 X 2i + +β k X ki + u i όπου Υ είναι η εξαρτημένη μεταβλητή, X 1,, X k οι ερμηνευτικές μεταβλητές (ή παλινδρομητές), u ο στοχαστικός διαταρακτικός όρος, και i η i η παρατήρηση. Οικονομετρία 2
4.1 Πολλαπλό Γραμμικό Υπόδειγμα Παλινδρόμησης Ο β 0 είναι η σταθερά. Ως συνήθως, εκφράζει το μέσο ή τη μέση επίδραση στη Y του συνόλου των μεταβλητών που εξαιρούνται από το υπόδειγμα, αν και η ερμηνεία της είναι ότι αποτελεί τη μέση τιμή της Υ όταν οι X 1,, X k ορίζονται ότι ισούνται με το μηδέν. Οι συντελεστές β 1,,β k ονομάζονται συντελεστές μερικής παλινδρόμησης (partial regression coefficients). Οικονομετρία 3
4.1 Πολλαπλό Γραμμικό Υπόδειγμα Παλινδρόμησης Υποθέσεις 1. Γραμμικό υπόδειγμα παλινδρόμησης, ή γραμμικό ως προς τις παραμέτρους. Επίσης, ο αριθμός των παρατηρήσεων n πρέπει να είναι μεγαλύτερος από τον αριθμό των παραμέτρων (k+1) που θα πρέπει να εκτιμηθούν. 2. Μηδενική μέση τιμή του διαταρακτικού όρου u i. E(u i ) = 0 για κάθε i 3. Ομοσκεδαστικότητα ή σταθερή διακύμανση του u i. var (u i ) = σ 2 για κάθε i 4. Απουσία αυτοσυσχέτισης μεταξύ των τιμών διαταρακτικών όρων. cov (u i, u j ) = 0 για κάθε i j Οικονομετρία 4
4.1 Πολλαπλό Γραμμικό Υπόδειγμα Παλινδρόμησης Υποθέσεις 5. Σταθερές οι τιμές της X ή οι τιμές της X ανεξάρτητες από τον όρο σφάλματος. Αυτό σημαίνει ότι ζητούμε μηδενική συνδιακύμανση μεταξύ u i και κάθε μεταβλητής X. cov (u i, X 1i ) = = cov (u i, X ki ) = 0 για κάθε i 6. Δεν υπάρχει ακριβής γραμμική σχέση μεταξύ X 1,, X k. Δηλαδή, οι μεταβλητές X 1,, X k είναι γραμμικά ανεξάρτητες. Αυτό σημαίνει ότι δεν υπάρχει πολυσυγγραμμικότητα στο υπόδειγμα. 7. u i ~N 0, σ 2 και επομένως Y i ~N β 0 + β 1 X 1i + β 2 X 2i + +β k X ki, σ 2 Οικονομετρία 5
4.1 Πολλαπλό Γραμμικό Υπόδειγμα Παλινδρόμησης Λαμβάνοντας υπόψη τις υποθέσεις του κλασικού υποδείγματος παλινδρόμησης, προκύπτει ότι, παίρνοντας την υπό συνθήκη προσδοκία της Y και στις δύο πλευρές της Εξίσωσης Y i = β 0 + β 1 X 1i + β 2 X 2i + +β k X ki + u i παίρνουμε E(Y i X 1,, X k ) = β 0 + β 1 X 1i + β 2 X 2i + +β k X ki Με άλλα λόγια, η παραπάνω σχέση δίνει την υπό συνθήκη μέση ή προσδοκώμενη τιμή της Y η οποία εξαρτάται από τις δοθείσες ή σταθερές τιμές των X 1,, X k. Οικονομετρία 6
4.2 Πολλαπλό Γραμμικό Υπόδειγμα Παλινδρόμησης Εκτίμηση με τη μέθοδο ελαχίστων τετραγώνων Η διαδικασία OLS αποτελείται από την επιλογή των τιμών των αγνώστων παραμέτρων, ούτως ώστε το άθροισμα των τετραγώνων των καταλοίπων (ESS) u i 2 να είναι όσο το δυνατόν μικρότερο. Συμβολικά, min u i 2 = Y i β 0 β 1 Χ 1i β k Χ ki 2 Οικονομετρία 7
4.2 Πολλαπλό Γραμμικό Υπόδειγμα Παλινδρόμησης Εκτίμηση με τη μέθοδο ελαχίστων τετραγώνων Επειδή η διαδικασία αυτή απαιτεί πολλές αλγεβρικές πράξεις, είναι πιο εύκολο να γραφεί το υπόδειγμα με τη βοήθεια της γραμμικής άλγεβρας σε μορφή πινάκων (μητρών). Y1 1 x11 x21... xk1 0 u1 Y 1 x x... x u 2 12 22 k 2 1 2 Y 3 1 x13 x23... x k3 2 u 3 Y = Xβ + u........................ Y 1 x x... x u n 1n 2n kn k n Ο εκτιμητής ελαχίστων τετραγώνων δίνεται ως εξής: X X 1 ˆ ' X ' Y Οικονομετρία 8
4.2 Πολλαπλό Γραμμικό Υπόδειγμα Παλινδρόμησης Εκτίμηση με τη μέθοδο ελαχίστων τετραγώνων β 0 Δηλαδή, β = β 1 β 2 β 3 β k Επομένως το εκτιμημένο υπόδειγμα είναι: Y i = β 0 + β 1 Χ 1i + β 2 Χ 2i + + β k Χ ki Οικονομετρία 9
4.2 Ιδιότητες των Εκτιμητών των Ελαχίστων Τετραγώνων: Το Θεώρημα Gauss-Markov 1. Είναι γραμμικοί, δηλαδή, μία γραμμική συνάρτηση μίας τυχαίας μεταβλητής, όπως είναι η εξαρτημένη μεταβλητή Y στο υπόδειγμα παλινδρόμησης. 2. Είναι αμερόληπτοι, δηλαδή, η μέση ή προσδοκώμενη τιμή τους, π.χ. E( β k ), είναι ίση με την πραγματική τιμή, β k. 3. Έχουν ελάχιστη διακύμανση της τάξης όλων των αντίστοιχων γραμμικών αμερόληπτων εκτιμητών ένας αμερόληπτος εκτιμητής με τη μικρότερη διακύμανση είναι γνωστός ως ένας αποτελεσματικός (efficient) εκτιμητής. Οικονομετρία 10
4.2 Ιδιότητες των Εκτιμητών των Ελαχίστων Τετραγώνων: Το Θεώρημα Gauss-Markov Το Θεώρημα Gauss-Markov Λαμβάνοντας υπόψη τις υποθέσεις του κλασσικού γραμμικού υποδείγματος παλινδρόμησης, οι εκτιμητές των ελαχίστων τετραγώνων, της τάξης των αμερόληπτων γραμμικών εκτιμητών, έχουν την ελάχιστη διακύμανση, δηλαδή, είναι BLUE (Βest Linear Unbiased Estimator). Συνέπεια: Οι εκτιμητές που προκύπτουν με τη μέθοδο ελαχίστων τετραγώνων είναι και συνεπείς. Δηλαδή, αν n, τότε β 1 β 1, β 2 β 2,, β k β k Οικονομετρία 11
4.3 Ο Συντελεστής Πολλαπλού Προσδιορισμού R 2 και ο Διορθωμένος Συντελεστής Προσδιορισμού R 2 Ο R 2 μετρά την αναλογία ή το ποσοστό της συνολικής μεταβλητότητας της Y που εξηγείται από το υπόδειγμα παλινδρόμησης. Συγκεκριμένα: R 2 = ( Y i Y) 2 (Y i Y) 2 = RSS TSS = 1 ESS TSS = 1 2 u i Y i Y 2 Μια σημαντική ιδιότητα του R 2 είναι ότι πρόκειται για μία μη φθίνουσα συνάρτηση του αριθμού των ερμηνευτικών μεταβλητών ή παλινδρομητών που υπάρχουν στο υπόδειγμα. Καθώς ο αριθμός των παλινδρομητών αυξάνεται, ο R 2 αυξάνεται σχεδόν σταθερά και δε μειώνεται ποτέ. Οικονομετρία 12
4.3 Ο Συντελεστής Πολλαπλού Προσδιορισμού R 2 και ο Διορθωμένος Συντελεστής Προσδιορισμού R 2 Για να συγκρίνουμε δύο υποδείγματα σε όρους R 2, πρέπει να λάβουμε υπόψη τον αριθμό των μεταβλητών X που υπάρχουν στο υπόδειγμα. Αυτό μπορεί να γίνει εύκολα αν σκεφτούμε έναν εναλλακτικό συντελεστή προσδιορισμού, ο οποίος είναι ο εξής: R 2 = 1 u i 2 /(n k 1) Y i Y 2 /(n 1) όπου k+1 = ο αριθμός των παραμέτρων του υποδείγματος, συμπεριλαμβανομένου του σταθερού όρου. Ο R 2 όταν ορίζεται έτσι είναι γνωστός ως ο διορθωμένος R 2 και συμβολίζεται με R 2. Ο όρος διορθωμένος σημαίνει διόρθωση ως προς τους βαθμούς ελευθερίας που σχετίζονται με τα αθροίσματα των τετραγώνων. Οικονομετρία 13
4.3 Ο Συντελεστής Πολλαπλού Προσδιορισμού R 2 και ο Διορθωμένος Συντελεστής Προσδιορισμού R 2 Ποιον R 2 θα πρέπει να χρησιμοποιήσει κάποιος στην πράξη; Όπως σημειώνει ο Theil: είναι καλή πρακτική να χρησιμοποιούμε το R 2 και όχι το R 2 επειδή ο R 2 δίνει μία υπερβολικά αισιόδοξη εικόνα της προσαρμογής της παλινδρόμησης, ιδιαίτερα όταν ο αριθμός των ερμηνευτικών μεταβλητών δεν είναι πολύ μικρός σε σχέση με τον αριθμό των παρατηρήσεων. Οικονομετρία 14
4.3 Ο Συντελεστής Πολλαπλού Προσδιορισμού R 2 και ο Διορθωμένος Συντελεστής Προσδιορισμού R 2 Συγκρίνοντας Δύο Τιμές R 2 Είναι σημαντικό να σημειωθεί ότι κατά τη σύγκριση δύο υποδειγμάτων με βάση το συντελεστή προσδιορισμού, είτε διορθωμένο είτε όχι, το μέγεθος του δείγματος n και η εξαρτημένη μεταβλητή πρέπει να είναι ίδια οι ερμηνευτικές μεταβλητές μπορούν να πάρουν οποιαδήποτε μορφή. Επομένως, για τα υποδείγματα ln Y i = β 1 + β 2 X 2i + β 3 X 3i + u i Y i = a 1 + a 2 X 2i + a 3 X 3i + u i οι όροι R 2 που έχουν υπολογιστεί δε μπορούν να συγκριθούν. Οικονομετρία 15
4.4 Ελέγχοντας τη Συνολική Σημαντικότητα της Παλινδρόμησης του Δείγματος Ο Έλεγχος F Κανόνας Απόφασης Έστω το υπόδειγμα παλινδρόμησης k-μεταβλητών: Y i = β 0 + β 1 X 1i + β 2 X 2i + +β k X ki + u i Για να ελέγξουμε την υπόθεση Η 0 : β 1 = β 2 = = β k = 0 (δηλαδή, όλοι οι συντελεστές κλίσης είναι ταυτόχρονα μηδέν) έναντι της Η 1 : Δεν είναι όλοι οι συντελεστές κλίσης ταυτόχρονα μηδέν υπολογίζουμε την ακόλουθη στατιστική: F = RSS/df ESS/df = RSS/k ESS/(n k 1) Εάν F > F α (k, n k 1), απορρίπτουμε τη H 0, όπου F α (k, n k 1) είναι η κρίσιμη τιμή F στο επίπεδο σημαντικότητας α. Οι βαθμοί ελευθερίας του αριθμητή είναι (k) και οι βαθμοί ελευθερίας του παρονομαστή είναι (n k 1). Εναλλακτικά, εάν η τιμή p-value του F είναι επαρκώς χαμηλή, μπορούμε να απορρίψουμε τη Η 0. Οικονομετρία 16
4.4 Ελέγχοντας τη Συνολική Σημαντικότητα της Παλινδρόμησης του Δείγματος Μία Σημαντική Σχέση μεταξύ R 2 και F Η στατιστική F που είδαμε παραπάνω διαμορφώνεται ως εξής: F = n k 1 k F = RSS = n k 1 ESS k R 2 /k (1 R 2 )/(n k 1) RSS = n k 1 TSS RSS k RSS/TSS = n k 1 1 (RSS/TSS) k R 2 1 R 2 Επομένως, για τον έλεγχο της υπόθεσης, Η 0 : β 1 = β 2 = = β k = 0 Υπολογίζουμε τη στατιστική: F = R 2 /k (1 R 2 )/(n k 1) Εάν F > F α (k, n k 1), απορρίπτουμε τη H 0 (Σημείωση: Ο συνολικός αριθμός των παραμέτρων που πρέπει να εκτιμηθούν είναι k+1, εκ των οποίων 1 είναι ο σταθερός όρος). Οικονομετρία 17
4.4 Ελέγχοντας τη Συνολική Σημαντικότητα της Παλινδρόμησης του Δείγματος Ανάλυση Διακύμανσης (Analysis of Variance-ANOVA) Πηγή Μεταβολής (Διακύμανσης) β.ε Άθροισμα Τετραγώνων Μέσο Άθροισμα Τετραγώνων Παλινδρόμηση k RSS RSS/k Υπόλοιπα n-k-1 ESS ESS/(n-k-1) Συνολικό n-1 TSS F RSS n - k -1 F= ESS k Η απόρριψη της μηδενικής υπόθεσης σημαίνει ότι τουλάχιστον μια από τις ανεξάρτητες μεταβλητές είναι στατιστική σημαντική. Δηλαδή, η παλινδρόμηση είναι χρήσιμη για την ερμηνεία της εξαρτημένης μεταβλητής και κατ επέκταση την πραγματοποίηση προβλέψεων. Οικονομετρία 18
4.5 Τιμή p-value Η πιθανότητα που ονομάζεται τιμή p (δηλαδή, τιμή πιθανότητας probability value), είναι επίσης γνωστή ως η παρατηρούμενη ή το ακριβές επίπεδο σημαντικότητας ή η ακριβής πιθανότητα να διαπράξουμε σφάλμα Τύπου Ι. Σε πιο τεχνικούς όρους, η τιμή p ορίζεται ως το χαμηλότερο επίπεδο σημαντικότητας στο οποίο μπορεί να απορριφθεί μία μηδενική υπόθεση. Δηλαδή, στο δικατάληκτο έλεγχο θα είχαμε: p value P t tstat P t tstat Αν το p-value είναι μικρότερο του επιπέδου σημαντικότητας του ελέγχου τότε απορρίπτουμε τη μηδενική υπόθεση. Το p-value δίνεται από το στατιστικό πακέτο (π.χ., e-views). Οικονομετρία 19
4.6 Η Συνάρτηση Παραγωγής Cobb-Douglas Η συνάρτηση παραγωγής Cobb-Douglas, στη στοχαστική της μορφή, μπορεί να εκφραστεί ως β Y i = β 1 X 2 β 2i X 3 3i e u i όπου Y = εκροή X 2 = εισροή εργασία X 3 = εισροή κεφάλαιο u = στοχαστικός διαταρακτικός όρος e = βάση του φυσικού λογαρίθμου Από την Εξίσωση (7.9.1) είναι σαφές ότι η σχέση μεταξύ της εκροής και των δύο εισροών είναι μη-γραμμική. Ωστόσο, αν μετατρέψουμε το υπόδειγμα αυτό σε λογαρίθμους, παίρνουμε: ln Y i = ln β 1 + β 2 ln X 2i + β 3 ln X 3i + u i = β 0 + β 2 ln X 2i + β 3 ln X 3i + u i όπου β 0 = ln β 1. Εάν γραφεί έτσι, το υπόδειγμα είναι γραμμικό ως προς τις παραμέτρους β 0, β 2, και β 3 και ως εκ τούτου είναι ένα γραμμικό υπόδειγμα παλινδρόμησης. Οικονομετρία 20
4.6 Η Συνάρτηση Παραγωγής Cobb-Douglas Οι ιδιότητες της συνάρτησης παραγωγής Cobb-Douglas είναι αρκετά γνωστές: 1. Ο β 2 είναι η (μερική) ελαστικότητα της εκροής σε σχέση με την εισροή εργασία, δηλαδή, μετρά την ποσοστιαία μεταβολή της εκροής για μία μεταβολή 1 τοις εκατό της εισροής εργασία, διατηρώντας την εισροή κεφάλαιο σταθερή. 2. Παρομοίως, ο β 3 είναι η (μερική) ελαστικότητα της εκροής σε σχέση με την εισροή κεφάλαιο, διατηρώντας την εισροή εργασία σταθερή. 3. Το άθροισμα (β 2 + β 3 ) δίνει πληροφορίες για τις αποδόσεις κλίμακας, δηλαδή, την ανταπόκριση της εκροής σε μία ανάλογη μεταβολή στις εισροές. Αν αυτό το ποσό είναι 1, τότε υπάρχουν σταθερές αποδόσεις κλίμακας, δηλαδή, διπλασιάζοντας τις εισροές θα διπλασιάσουμε την εκροή, τριπλασιάζοντας τις εισροές θα τριπλασιάσουμε την εκροή, και ούτω καθεξής. Οικονομετρία 21
4.6 Η Συνάρτηση Παραγωγής Cobb-Douglas Τώρα αν θέλουμε να ελέγξουμε αν υπάρχουν σταθερές αποδόσεις κλίμακας θα διεξάγουμε τον ακόλουθο έλεγχο: Η 0 : β 2 + β 3 = 1 Ο έλεγχος θα γίνει χρησιμοποιώντας την ακόλουθη στατιστική: = t = β 2 + β 3 β 2 + β 3 se β 2 + β 3 β 2 + β 3 1 var β 2 + var β 3 + 2 Cov β 2, β 3 Οικονομετρία 22
4.7 Εφαρμογή Με στοιχεία της περιόδου 1970-2005, που αφορούν κάποιο βιομηχανικό κλάδο της ελληνικής οικονομίας, υπολογίστηκε το ακόλουθο υπόδειγμα (με τα τυπικά σφάλματα στις παρενθέσεις): Y i = 15,278 (7,21) + 0,274Χ 1i + 0,178Χ 2i 0,489Χ 3i 0,112 (0,098) (0,065) (0,079) 0,21 Χ 4i R 2 = 0,887, Cov β 1, β 2 = 0,005, R 2 = 0,810 όπου Υ: κέρδη, Χ 1 : πωλήσεις, Χ 2 : αριθμός νοικοκυριών, Χ 3 : μέση τιμή πωλούμενων προϊόντων, Χ 4 : αριθμός επιχειρήσεων στον κλάδο. Ζητούνται τα ακόλουθα: 1. Να ερμηνεύσετε τα πρόσημα των μεταβλητών. 2. Να σχολιάσετε τη στατιστική σημαντικότητα των ερμηνευτικών μεταβλητών του υποδείγματος. Οικονομετρία 23
4.7 Εφαρμογή 3. Να ελεγχθεί η συνολική στατιστική σημαντικότητα του εκτιμηθέντος υποδείγματος. 4. Να ελεγχθεί η υπόθεση Η 0 : β 1 = β 2 Όλοι οι έλεγχοι να γίνουν σε επίπεδο σημαντικότητας 5%. Λύση 1. β 1 = 0,274. Δηλαδή, αν αυξηθεί το Χ 1 κατά μία μονάδα, δεδομένου ότι όλα τα άλλα παραμένουν σταθερά, το Υ θα αυξηθεί κατά 0,274. Τα πρόσημα είναι τα αναμενόμενα. Οικονομετρία 24
4.7 Εφαρμογή 2. Στατιστική σημαντικότητα 1. Διατύπωση της υπόθεσης Η 0 : β 1 = 0 Η 1 : β 1 0 2. Υπολογισμός του στατιστικού του ελέγχου t 1 = β 0 1 = 0,274 = 2,80 σ β1 0,098 3. Ορισμός επιπέδου σημαντικότητας: α=5% 4. Κριτική τιμή: t crit = t n 5,a/2 = t 36 5, 0,05/2 = t 31, 0,025 = 2,042 5. Συμπέρασμα: Επειδή t > t crit απορρίπτω την Η 0 σε επίπεδο σημαντικότητας 5%. Δηλαδή, ο β 1 είναι στατιστικά διάφορος από το μηδέν. Ομοίως, t 2 = 2,74, t 3 = 2,33, t 4 = 1,42. Δηλαδή, μόνο ο β 4 δεν είναι στατιστικά σημαντικός. Οικονομετρία 25
4.7 Εφαρμογή 3. Συνολική στατιστική σημαντικότητα 1. Διατύπωση της υπόθεσης Η 0 : β 1 = β 2 = β 3 = β 4 = 0 Η 1 : β 1 0 ή β 2 0 ή β 3 0 ή β 4 0 2. Υπολογισμός του στατιστικού του ελέγχου F = R 2 /k = 0,887/4 = 60,83 (1 R 2 )/(n k 1) (1 0,887)/(36 4 1) 3. Ορισμός επιπέδου σημαντικότητας: α=5% 4. Κριτική τιμή: F α (k, n k 1)=F 0,05 (4, 35) = 2,69 5. Συμπέρασμα: Επειδή F > F crit απορρίπτω την Η 0 σε επίπεδο σημαντικότητας 5%. Δηλαδή, τουλάχιστον ένας συντελεστής β είναι στατιστικά διάφορος από το μηδέν. Οικονομετρία 26
4.7 Εφαρμογή 4. Έλεγχος υπόθεσης β 1 = β 2 1. Διατύπωση της υπόθεσης Η 0 : β 1 - β 2 = 0 Η 1 : β 1 - β 2 0 2. Υπολογισμός του στατιστικού του ελέγχου t = β 1 β 2 β 1 β 2 se β 1 β 2 = var β 1 + β 1 β 2 0 = var β 2 2 cov β 1, β 2 0,274 0,178 0,009604 + 0,004225 2 0,005 = 0,096 0,003829 = 0,096 0,06188 = 1,55 Επειδή t = 1,55 < t crit = 2,042 αποδέχομαι την Η 0 σε επίπεδο σημαντικότητας 5%. Οικονομετρία 27