Τμήμα Διοίκησης Επιχειρήσεων Γρεβενά Μάθημα: Οικονομετρία Διάλεξη 3η: Απλή Γραμμική Παλινδρόμηση Διδάσκουσα: Κοντογιάννη Αριστούλα
Ιδιότητες εκτιμώμενης ευθείας παλινδρόμησης με τη μέθοδο των ελαχίστων τετραγώνων. Το κέντρο βάρους των παρατηρήσεων είναι σημείο της εκτιμώμενης ευθείας παλινδρόμησης γιατί;.. Τα κατάλοιπα αθροίζουν στο 0. u 0 3. Τα κατάλοιπα ικανοποιούν τη σχέση u 0 4. Το άθροισμα των παρατηρήσεων ισούται με το άθροισμα των εκτιμώμενων τιμών,
Ιδιότητες εκτιμητών ελαχίστων τετραγώνων Εκτιμώμενη εξίσωση παλινδρόμησης: Εκτιμητές ελαχίστων τετραγώνων: b b 0 b, b 0 Οι εκτιμητές αυτοί είναι Άριστοι Γραμμικοί Αμερόληπτοι Εκτιμητές Best Lear Ubased Estmator-BLUE
Ιδιότητες εκτιμητών ελαχίστων τετραγώνων Εκτιμητές-Estmators Αποτελούν εκτιμήσεις των πραγματικών πληθυσμιακών παραμέτρων Αμερόληπτοι-Ubased Κατά μέσο όρο ισούνται με τις πραγματικές πληθυσμιακές παραμέτρους b 0,b Ισχύει: E b b E b 0 b 0 b 0,b
Ιδιότητες εκτιμητών ελαχίστων τετραγώνων Απόδειξη αμεροληψίας Ισχύει:......... 0
Ιδιότητες εκτιμητών ελαχίστων τετραγώνων Απόδειξη αμεροληψίας Ισχύει ότι απόδειξη: Επομένως απόδειξη: u b b b b E
Ιδιότητες εκτιμητών ελαχίστων τετραγώνων Απόδειξη αμεροληψίας Ισχύει: b 0 b0 b Αποδεικνύεται;: u b b u... b0 E b 0... b0
Ιδιότητες εκτιμητών ελαχίστων τετραγώνων Γραμμικοί: είναι γραμμικοί συνδυασμοί της εξαρτημένης μεταβλητής Υ. Άριστοι: Έχουν την ελάχιστη διακύμανση μεταξύ όλως των γραμμικών αμερόληπτων εκτιμητών θεώρημα Gauss-Markov. Οι εκτιμητές πέρα από αμερόληπτοι θα πρέπει να είναι αποτελεσματικοί και συνεπείς. Αποτελεσματικότητα: Μικρότερη διακύμανση και μικρότερη μεροληψία.
Ιδιότητες εκτιμητών ελαχίστων τετραγώνων Μέτρο μικρότερης διακύμανσης και μεροληψίας: Μέσο τετραγωνικό σφάλμα MSE του εκτιμητή. MSE b var b E b b b E E b E b E E b b E b Όταν όμως ο εκτιμητής είναι αμερόληπτος: MSE b var b
Ιδιότητες εκτιμητών ελαχίστων τετραγώνων Άριστος εκτιμητής: Ελαχιστοποιεί την πιθανότητα να βρεθεί σε μεγάλη απόσταση από την πραγματική τιμή. Συνεπής: lm b b 0, 0 Η απόσταση του εκτιμητή από την πραγματική τιμή b τείνει στο 0 όσο το μέγεθος του δείγματος τείνει στο.
Τυπικό σφάλμα της εκτίμησης Η διασπορά των δεδομένων γύρω από τη γραμμή της παλινδρόμησης μετράται με το τυπικό σφάλμα της εκτίμησης το οποίο εκφράζει τη μέση απόκλιση των σημείων που εκτιμήθηκαν και που βρίσκονται στην ευθεία ελαχίστων τετραγώνων από τις παρατηρήσεις του υπο εξέταση δείγματος. S E
Τυπικό σφάλμα της εκτίμησης
Τυπικό σφάλμα της εκτίμησης u SSE Άθροιση των τετραγωνικών αποκλίσεων των σφαλμάτων Μέσο τετραγωνικό σφάλμα: Αποτελεί εκτίμησης της πληθυσμιακής παλινδρόμησης Τυπικό σφάλμα εκτίμησης: SSE S E SSE S E
Τυπικό σφάλμα της εκτίμησης Μέτρο της διασποράς των στοιχείων γύρω από την ευθεία των ελαχίστων τετραγώνων. Εάν φέρουμε ευθείες πάνω και κάτω από την γραμμή ελαχίστων τετραγώνων σε αποστάσεις S, S 3S E E E τότε μέσα στις ευθείες αυτές θα βρίσκεται το 68%, το 95% και το 99,7% των σημείων.
Τυπικό σφάλμα της εκτίμησης
Ανάλυση Μεταβλητότητας-Διακύμανσης Ένα από τα μέτρα μεταβλητότητας ενός συνόλου δεδομένων είναι η δειγματική διακύμανση. Η ολική μεταβλητότητα των παρατηρήσεων,,... εκφράζεται από το άθροισμα τετραγώνων: SST
Ανάλυση Μεταβλητότητας-Διακύμανσης Θεωρούμε την ταυτότητα: Αποδεικνύεται ότι:
Ανάλυση Μεταβλητότητας-Διακύμανσης ή ό ό ό ύ ό ό Ά ώ ί SST SSR SSE SST: Συνολική Μεταβλητότητα SSR: Ερμηνευμένη Μεταβλητότητα SSE: Ανερμήνευτη μεταβλητότητα/μεταβλητότητα που οφείλεται σε τυχαίους παράγοντες
Ανάλυση Μεταβλητότητας-Διακύμανσης Βαθμοί ελευθερίας Σε κάθε άθροισμα τετραγώνων αντιστοιχούμε έναν αριθμό ο οποίος μας δείχνει των ανεξάρτητων πληροφοριών που είναι αναγκαίες για τον υπολογισμό του αθροίσματος. β.ε. SST:αριθμός παρατηρήσεων/μέγεθος δείγματος- SSR:αριθμός ανεξαρτήτων μεταβλητών στο μοντέλο SSE: αριθμός παρατηρήσεων-αριθμός παραμέτρων μοντέλου
Ανάλυση Μεταβλητότητας-Διακύμανσης / S SST ό ύ S SSE ί ό S SSR ό ό ύ ό ί ί ί ώ Ά ό ί E R
Ο συντελεστής προσδιορισμού R Η εξίσωση παλινδρόμησης b b 0 Αποτελεί εκτίμηση της πληθυσμιακής γραμμής παλινδρόμησης και εκφράζει τη σχέση της μεταβλητής Υ με τη μεταβλητή Χ έχοντας ως βάση το συγκεκριμένο δείγμα. Σε κάθε τιμή της Χ διαπιστώνεται μεταβλητότητα της Υ. Σχέση των Χ και Υ: ερμηνευμένη μεταβλητότητα Διαταρακτικός όρος: ανερμήνευτη μεταβλητότητα
Ο συντελεστής προσδιορισμού R Ο συντελεστής προσδιορισμού R μετρά το ποσοστό μεταβλητότητας της εξαρτημένης μεταβλητής Υ που ερμηνεύεται από την εκτιμηθείσα εξίσωση παλινδρόμησης ή αλλιώς από τη σχέση της Υ με την Χ. Ολική μεταβλητότητα της Υ: SST
Ο συντελεστής προσδιορισμού R Έχει αποδειχθεί, προηγουμένως: Ισχύει: SSE SSR SST
Ο συντελεστής προσδιορισμού R
Ο συντελεστής προσδιορισμού R Απόκλιση της παρατήρησης από τη μέση τιμή: Απόκλιση της εκτιμούμενης τιμής από τη μέση τιμή: Απόκλιση της παρατήρησης από την εκτιμούμενη τιμή
Ο συντελεστής προσδιορισμού R R SSR SST έ ό ή ό Δείχνει το ποσοστό της μεταβλητότητας που οφείλεται στην παλινδρόμηση. Το ποσοστό της συνολικής μεταβλητότητας της Υ που εξηγείται από τη σχέση της με τη Χ.
Ο συντελεστής προσδιορισμού R Ισχύει: 0 R Όσο ο συντελεστής προσεγγίζει τη μονάδα τόσο καλύτερη είναι η ερμηνευτική ικανότητα του μοντέλου. Σχέση συντελεστή προσδιορισμού και συντελεστή συσχέτισης: r R
Ο συντελεστής συσχέτισης r Όπως έχουμε ήδη προαναφέρει δείχνει το βαθμό γραμμικής συσχέτισης μεταξύ των μεταβλητών Χ και Υ. Το πρόσημο του r είναι ίδιο με το πρόσημο του b
Συντελεστής Συσχέτισης- τύπος Ο τύπος έχει ως εξής βλ. η διάλεξη: r,
Παράδειγμα ο Οι παρακάτω τιμές είναι το βάρος σε λίβρες 0,45 κιλά που έχασαν 0 άτομα αφού ακολούθησαν κάποια δίαιτα για ορισμένους μήνες ο καθένας.. Να εκτιμηθεί η σχέση μεταξύ του βάρους και των μηνών δίαιτας.. Να κατασκευαστεί ο πίνακας ΑΝΑΔΙΑ. 3. Να υπολογιστεί και να ερμηνευτεί το τυπικό σφάλμα της εκτίμησης. 4. Να υπολογιστεί και να ερμηνευτεί ο συντελεστής προσδιορισμού καθώς και ο συντελεστής συσχέτισης. Μήνες Δίαιτας Μείωση Βάρους 4 7 4 0 9 4 7 7 64 53 45 7 38 40 4
Παράδειγμα ο
Μήνες Δίαιτας Βάρος -m -m -m^ -m^ -m-m hat u hat-m hat-m^ 4 7-6 -9,4 376,36 36 6,4 5,58,4-0,8 433,474 7 64 7 7,6 76,76 49 93, 60,69 3,3 4,9 590,004 4 53 4 6,6 75,56 6 66,4 50,8,7 3,88 9,6544-9 -35,4 53,6 8 38,6 5,7-4,7-3,3 975,39 0 45 0 8,6 73,96 0 0 36,4 8,6 0 0 7 34,6 97,6 44 45, 78,04-7,04 4,64 733,8896 9 38 -,6,56 -,6 3,93 5,07-3,47,0409 40 3,6,96 4 7, 43,34-3,34 6,94 48,636 4-6 -5,4 645,6 36 5,4 5,58-4,58-0,8 433,474 7 4-3 -,4 53,76 9 37, 5,99 -,99-0,4 08,368 00 364 475,4 376 305 457,3784 mea 0 mea 36,4 Όπου m, m, hat, u
Βιβλιογραφία Εισαγωγή στη σύγχρονη οικονομετρική ανάλυση Συγγραφείς: Κατρακυλίδης Κωνσταντίνος, Κοντέος Γεώργιος, Σαριαννίδης Νικόλαος J. Μ. Wooldrdge, Itroductory Ecoometrcs: A Moder Approach, d Edto. Καρακώστας, Κ.Ξ. 00. Γραμμικά Μοντέλα, Εκδόσεις Πανεπιστημίου Ιωαννίνων