ΘΕΩΡΙΑ ΟΙΚΟΝΟΜΕΤΡΙΑΣ ΣΥΝΟΠΤΙΚΕΣ ΣΗΜΕΙΩΣΕΙΣ ΑΠΛΟ ΓΡΑΜΜΙΚΟ ΥΠΟΔΕΙΓΜΑ Συντελεστής συσχέτισης (εκτιμητής Person: r, Y ( ( Y Y xy ( ( Y Y x y, όπου r, Y (ισχυρή θετική γραμμική συσχέτιση όταν, ισχυρή αρνητική γραμμική συσχέτιση όταν -, ασυσχέτιστες οι Χ, Υ στο Στα επόμενα αναφερόμαστε με Χ, Υ στην ανεξάρτητη και εξαρτημένη μεταβλητή αντίστοιχα και με x, y στις ποσότητες x, y Y Y αντίστοιχα Υποθέσεις απλού γραμμικού υποδείγματος: Y u,,,, n u N(,,,,, n δηλαδή: u τμ που ακολουθεί κανονική κατανομή E( u V ( u 3 Cov( u, u, 4 δεν είναι στοχαστική, οι τιμές της παραμένουν σταθερές σε επαναλαμβανόμενα δείγματα και δεν είναι όλες ίσες μεταξύ τους Ελάχιστα τετράγωνα (OLS: Ελαχιστοποίηση n n ˆ ˆ uˆ ( Y Κανονικές εξισώσεις (προκύπτουν από συνθήκες ης τάξης : n ˆ ˆ Y n, Εκτιμητές ΕΤ : n n n n ˆ ˆ Y - -
ˆ xy x εναλλακτικά ˆ Y NY N τιμή της Υ όταν η Χ μεταβάλλεται κατά μία μονάδα ˆ Y ˆ (ερμηνεία: αναμενόμενη τιμή της Υ όταν Χ= (ερμηνεία: μεταβολή στην αναμενόμενη Ιδιότητες ευθείας ΕΤ Η ευθεία ΕΤ διέρχεται από το σημείο των μέσων (, Y Y Yˆ 3 uˆ 4 ˆ u 5 Yu ˆˆ Ελαστικότητα: dyˆ / Yˆ dyˆ d / d Y Y, στο γραμμικό μοντέλο Y, ˆ ˆ ˆ Ερμηνεία: Η ποσοστιαία μεταβολή στην αναμενόμενη τιμή της Υ όταν η Χ μεταβάλλεται κατά % Η ελαστικότητα διαφέρει από σημείο σε σημείο Συνηθίζεται να ζητείται στο σημείο των μέσων Αν Y, ανελαστική σχέση, ελαστική αν Y, Y Συντελεστής Προσδιορισμού: Βασική ιδιότητα ˆ ˆ ( Y Y ( Y Y ( Y Y ή Τότε ŷ y ή uˆ y y uˆ yˆ ή TSS ESS SS το ποσοστό της μεταβλητότητας της Υ που ερμηνεύεται από την ευθεία της παλινδρόμησης τότε η ευθεία προσαρμόζεται καλά στα δεδομένα τότε η ευθεία δε προσαρμόζεται καλά στα δεδομένα (μπορεί να έχουν παραλειφθεί ερμηνευτικές μεταβλητές Στο απλό γραμμικό μοντέλο r ˆ, Y - -
Διαστήματα Εμπιστοσύνης: Πρέπει να ισχύει η υπόθεση του απλού γραμ υποδείγματος για τα κατάλοιπα Η διακύμανση του u, εκτιμάται από τη ποσότητα uˆ ˆ S n (-α% ΔΕ του : (-α% ΔΕ του : ˆ t n, S ˆ όπου ˆ t n, S ˆ όπου S ˆ S x το τυπικό σφάλμα του S ˆ S n x το τυπικό σφάλμα του Έλεγχος υποθέσεων t Έλεγχος: H c, =, : ˆ c Ελεγχοσυνάρτηση: t tn ˆ S ˆ Με εναλλακτική υπόθεση, H : c ο έλεγχος είναι αμφίπλευρος και η H απορρίπτεται σε επσημ α αν t t n ˆ, H : c ο έλεγχος είναι μονόπλευρος και η H απορρίπτεται σε επσημ α αν t t n, ˆ H : c ο έλεγχος είναι μονόπλευρος και η H απορρίπτεται σε επσημ α αν t t n, ˆ Ειδικότερα, ελέγχουμε τη σημαντικότητα του συντελεστή με τον έλεγχο H : Ερμηνεία: Αν η H απορριφθεί τότε ο είναι στατιστικά σημαντικός, δηλαδή η Χ επηρεάζει σημαντικά τη Υ Αν η H δεν απορριφθεί τότε ο δεν είναι στατιστικά σημαντικός και η μεταβλητή Χ δε φαίνεται να επηρεάζει σημαντικά τη Υ - 3 -
Έλεγχος υποθέσεων Έλεγχος: Παρουσιάζεται συνήθως με τη βοήθεια ενός πίνακα ANOVA: Πηγή μεταβλητότητας Άθροισμα Τετραγώνων Βαθμοί Ελευθερίας Μέσο Άθροισμα Τετραγώνων Παλινδρόμηση ŷ (SS SS/ Κατάλοιπα û (ESS n- ESS/(n- Σύνολο y (TSS n- TSS/(n- u yˆ / ˆ / ( n Έλεγχος σημαντικότητας της απλής παλινδρόμησης: H : με εναλλακτική H :, η ελεγχοσυνάρτηση Η n συκρίνεται με τη τιμή της κατανομής,, n, H απορρίπτεται αν, n, u yˆ / ˆ / ( n ή (Ισοδύναμος με το δίπλευρο έλεγχο σημαντικότητας του μόνο στην απλή παλινδρόμηση Πρόβλεψη: Για δεδομένο έχω τη πρόβλεψη σε σημείο Yˆ ˆ ˆ ˆ n (-α% διάστημα εμπιστοσύνης του Y : Y t, /S όπου S ( S το τυπικό σφάλμα της πρόβλεψης n x t- Έλεγχοι για την υπόθεση : t Yˆ c tn S H Y c κατά τα γνωστά με την ελεγχοσυνάρτηση (-α% διάστημα εμπιστοσύνης για τη μέση πρόβλεψη E( Y : ˆ n, / Y ˆ Y t S όπου S Yˆ S ( n x το τυπικό σφάλμα της μέσης πρόβλεψης - 4 -
ΠΟΛΥΜΕΤΑΒΛΗΤΟ ΓΡΑΜΜΙΚΟ ΥΠΟΔΕΙΓΜΑ Υποθέσεις Πολυμεταβλητής Γραμμικής Παλινδρόμησης: Η Υ εξαρτάται από κ ερμηνευτικές μεταβλητές Y u,,,, n u (,,,,, n δηλαδή: u τυχαία μεταβλητή E( u V ( u 3 Cov( u, u, 4 δεν είναι στοχαστική 5 Δεν υπάρχουν ακριβείς γραμμικές σχέσεις ανάμεσα στις ερμηνευτικές μεταβλητές,,, 6 Ο αριθμός των παρατηρήσεων του δείγματος είναι μεγαλύτερος από τον αριθμό των άγνωστων συντελεστών δηλαδή n Περιγραφή με μήτρες: Y u Y u Y u ( n n n n nn n( n n ή Y B U Υποθέσεις πολλαπλής γραμμικής παλινδρόμησης με μήτρες: Y B U U I n (, δηλαδή: U διάνυσμα τυχαίων μεταβλητών E( U Vr U ( In 3 Cov( u, u, - 5 -
4 Η μήτρα των ανεξάρτητων μεταβλητών, Χ περιλαμβάνει μη στοχαστικές μεταβλητές και παραμένει σταθερή σε επαναλαμβανόμενα δείγματα 5+6 Ο βαθμός rn της μήτρας Χ είναι n Ελάχιστα Τετράγωνα στη Πολυμεταβλητή Παλινδρόμηση: Ελαχιστοποίηση n ˆ ' ' ' ' ' u Uˆ Uˆ Y Y Bˆ Y Bˆ Bˆ Από συνθήκες ης τάξης οδηγούμαστε σε + κανονικές εξισώσεις : B Y Εκτιμητής ΕΤ : B Y Ερμηνεία ˆ : μεταβολή στην αναμενόμενη τιμή της Υ όταν η Χ μεταβάλλεται κατά μία μονάδα, ενώ οι άλλες ερμηνευτικές μεταβλητές παραμένουν σταθερές (ceters prbus Ελαστικότητες (Μερικές : Y, Yˆ / Yˆ Yˆ / Yˆ Yˆ,,,, Ερμηνεία: Η ποσοστιαία μεταβολή στην αναμενόμενη τιμή της Υ όταν η Χ μεταβάλλεται κατά %, ενώ οι άλλες ερμηνευτικές μεταβλητές παραμένουν σταθερές (Αν Y, ανελαστική σχέση Υ με Χ όταν, σταθερές, ελαστική αν, Y Συντελεστής Προσδιορισμού: Η βασική ιδιότητα TSS SS ESS ισχύει και στο πολυμεταβλητό γραμ μοντέλο Ομόίως yˆ y uˆ y την ευθεία της παλινδρόμησης και το ποσοστό της μεταβλητότητας της Υ που ερμηνεύεται από με καλή προσαρμογή Όσο αυξάνουμε το πλήθος των ερμηνευτικών μεταβλητών στο υπόδειγμα αυξάνεται και ο συντελεστής προσδιορισμού χωρίς απαραίτητα να σημαίνει καλύτερη προσαρμογή (αφού όσο περισσότερες οι ερμηνευτικές μεταβλητές τόσο αυξάνονται οι μεταξύ τους γραμμικές συσχετίσεις φαινόμενο πολυσυγγραμμικότητας - 6 -
Χρησιμοποιούμε τον διορθωμένο, ή ˆ / ( u n ( n y / ( n n d όπου (Χρησιμοποιείται για τη σύγκριση δύο μοντέλων με διαφορετικό αριθμό ερμηνευτικών μεταβλητών, διαφορετικό μέγεθος δείγματος Διαστήματα Εμπιστοσύνης: Υπό την ισχυρότερη υπόθεση U N(, I n Η διακύμανση του u, εκτιμάται από τη ποσότητα Ισχύει, uˆ ˆ S n ( S ˆ Cov( ˆ ˆ ˆ ˆ, Cov(, Cov( ˆ, ˆ S Cov( ˆ, ˆ ˆ ˆ Vr ˆ ( Bˆ S ( ' Cov( ˆ, ˆ ˆ ˆ Cov(, S ˆ δηλαδή το -διαγώνιο στοιχείο του S ˆ( ' αντιστοιχεί στη διακύμανση του (ξεκινώντας από = Συνεπώς, (-α% ΔΕ του ˆ : tn, S ˆ Έλεγχος υποθέσεων t Έλεγχος: H c, =,,, : ˆ c Ελεγχοσυνάρτηση: t tn ˆ Με εναλλακτική υπόθεση, S ˆ H : c (αμφίπλευρος έλεγχος η H απορρίπτεται σε επσημ α αν t t n, H : c (μονόπλευρος έλεγχος η H απορρίπτεται σε επσημ α αν t t n, H : c (μονόπλευρος έλεγχος η H απορρίπτεται σε επσημ α αν t t n, ˆ ˆ ˆ - 7 -
Ειδικότερα αν H : τότε, Αν η H απορριφθεί τότε ο σημαντικά τη Υ Αν η H δεν απορριφθεί τότε ο είναι στατιστικά σημαντικός, δηλαδή η Χ επηρεάζει δεν είναι στατιστικά σημαντικός και η μεταβλητή Χ δε φαίνεται να επηρεάζει σημαντικά τη Υ (ίσως χρειαστεί να αφαιρεθεί από το υπόδειγμα εφόσον δεν υπάρχει άλλη ένδειξη παραμονής της στο μοντέλο Έλεγχος υποθέσεων Έλεγχος: Πίνακας ANOVA: Πηγή μεταβλητότητας Άθροισμα Τετραγώνων Βαθμοί Ελευθερίας Μέσο Άθροισμα Τετραγώνων Παλινδρόμηση ŷ (SS κ SS/(κ- Κατάλοιπα û (ESS n-κ- ESS/(n-κ- Σύνολο y (TSS n- TSS/(n- ˆ / y ˆ / ( u n Έλεγχος σημαντικότητας της παλινδρόμησης: H : με εναλλακτική H :, ή, ή, η ελεγχοσυνάρτηση ˆ / y ˆ / ( u n ή n συγκρίνεται με τη τιμή της κατανομής,, n, Η H απορρίπτεται αν, n, (Αν απορριφθεί η παλινδρόμηση είναι σημαντική Έλεγχος γραμμικών περιορισμών t-έλεγχος (για έναν περιορισμό: H :, =,,, ˆ ˆ Ελεγχοσυνάρτηση: t S ( ˆ ˆ t n - 8 -
όπου S Vˆ ( ˆ Vˆ ( ˆ Cov ˆ ( ˆ, ˆ (τα παίρνω από το πίνακα ( ˆ ˆ S ˆ( ' Κατά τα γνωστά αν, H : : η H απορρίπτεται σε επίπεδο σημαντικότητας α αν t t n, H : : η H απορρίπτεται σε επσημ α αν t t n, H : : η H απορρίπτεται σε επσημ α αν t t n, ˆ ˆ ˆ Γενικευμένος - Έλεγχος (για έναν ή σύστημα περιορισμών: H : B r, H : B r Η ελεγχοσυνάρτηση είναι ˆ ˆ ( B r' ( ' ' ( B r U ' U n g, g το πλήθος των περιορισμών (αριθμός γραμμών r συγκρίνεται με τη τιμή της κατανομής, g, n Η H απορρίπτεται αν g, n, - Έλεγχος (μέσω περιορισμένου υποδείγματος: H : B r, H : B r Η ελεγχοσυνάρτηση είναι ( ESS ESSU g ESSU n g το πλήθος των περιορισμών (αριθμός γραμμών r όπου g, n ESS U το άθροισμα τετραγώνων των καταλοίπων του αρχικού (unrestrcted υποδείγματος ESS το άθροισμα τετραγώνων των καταλοίπων του περιορισμένου (restrcted υποδείγματος (επιβάλλουμε τη μηδενική υπόθεση στο αρχικό και υπολογίζουμε το ΕSS στο υπόδειγμα που προκύπτει H απορρίπτεται αν g, n, Η - 9 -
Πρόβλεψη: Για δεδομένο λαμβάνω Yˆ Bˆ ' (-α% διάστημα εμπιστοσύνης πρόβλεψης του Y : Yˆ t n, /S όπου ' S S ( ' το τυπικό σφάλμα της πρόβλεψης t- Έλεγχοι για την υπόθεση Yˆ c t tn S H : Y c κατά τα γνωστά με την ελεγχοσυνάρτηση (-α% διάστημα εμπιστοσύνης για τη μέση πρόβλεψη E( Y : Yˆ t n, /S όπου ' S S ( ' το τυπικό σφάλμα της μέσης πρόβλεψης ΜΗ ΓΡΑΜΜΙΚΑ ΥΠΟΔΕΙΓΜΑΤΑ ΜΕΤΑΣΧΗΜΑΤΙΣΜΟΙ Πολυωνυμικό : Y u Μετασχηματίζεται σε γραμμικό θέτοντας,,, Αντίστροφο: Y u Μετασχηματίζεται σε γραμμικό θέτοντας * Εκθετικό: u Y e lny u και θέτουμε Y * lny Ερμηνεία : όταν η μεταβάλλεται κατά % η Υ μεταβάλλεται κατά % (ceters prbus dyˆ / Yˆ dyˆ d lny d lny e, ή Y, d / d ( Y, d / ˆ ˆ d Y Y - -
Λογαριθμικό: Y lny ln ln ln u * * * και ορίζουμε Y* ln Y, = ln,, = ln και = ln Στο λογαριθμικό υπόδειγμα οι συντελεστές ταυτίζονται με τις ελαστικότητες των αρχικών μεταβλητών, επομένως: Ερμηνεία prbus : όταν η μεταβάλλεται κατά % η Υ μεταβάλλεται κατά (Απλό γραμμικό μοντέλο Y τότε, ˆ ˆ ˆ dy / Y dy Y, d / d Yˆ Yˆ Yˆ % (ceters ΕΚΤΙΜΗΤΙΚΗ Σφάλμα δειγματοληψίας του εκτιμητή ˆ : ˆ Στην απλή παλινδρόμηση, ˆ x y xy xu x x x xu όπου x σφάλμα της δειγματοληψίας που είναι ίσο με στη περίπτωση του αμερόληπτου εκτιμητή το Υπάρχουν άπειροι εκτιμητές για μια παράμετρο θ, επιλέγουμε τον εκτιμητή που ικανοποιεί κάποιες επιθυμητές ιδιότητες Ιδιότητες μικρών δειγμάτων: Αμεροληψία : E( ˆ (η προσδοκώμενη τιμή να ισούται με τη παράμετρο Αποτελεσματικότητα : δηλαδή αμεροληψία και ελάχιστη διασπορά Ειδικότερα ένας εκτιμητής καλείται άριστος γραμμικός αμερόληπτος εκτιμητής (BLUE, αν n ( είναι γραμμικός ( ˆ c δηλαδή γραμμική συνάρτηση των παρατηρήσεων ( είναι αμερόληπτος ( Vr * ( Vr( ˆ όπου * οποιοσδήποτε άλλος γραμμικός αμερόληπτος εκτιμητής - -
Ασυμπτωτικές ιδιότητες: Ο εκτιμητής ˆ καλείται συνεπής εκτιμητής της παραμέτρου θ αν η κατανομή του συγκεντρώνεται στην αληθινή τιμή της παραμέτρου όταν το μέγεθος του δείγματος τείνει στο άπειρο: P lmˆ Ο εκτιμητής OLS υπό τις υποθέσεις της παλινδρόμησης είναι γραμμικός, αμερόληπτος, αποτελεσματικός (BLUE και συνεπής Ετεροσκεδαστικότητα: Παραβιάζεται η υπόθεση σταθερής διακύμανσης των καταλοίπων Συνέπειες ετεροσκεδαστικότητας: Vr( u Οι εκτιμητές ΕΤ ˆ δεν είναι πλέον αποτελεσματικοί (δεν είναι ελαχίστης διασποράς Οι εκτιμητές των διακυμάνσεων των ˆ, S ˆ δεν είναι αμερόληπτοι - -