Το πρόβλημα. Στην περίπτωση αυτή Τέλεια Πολυσυγγραμμικότητα. ο όρος. του. είναι αδύνατο να υπολογιστεί αφού η ορίζουσα του είναι μηδενική

Transcript

1

2

3

4 Το πρόβλημα Μία από τις ανεξάρτητες μεταβλητές μπορεί να εκφραστεί ως γραμμική συνάρτηση μιας ή περισσοτέρων εκ των υπολοίπων ανεξάρτητων μεταβλητών. Παραβιάζεται η σχετική υπόθεση Στην περίπτωση αυτή Τέλεια Πολυσυγγραμμικότητα ο όρος [ ] του β [ ] Y είναι αδύνατο να υπολογιστεί αφού η ορίζουσα του είναι μηδενική [ ]

5 Πρόβλημα δημιουργεί όχι μόνο η τέλεια αλλά και η υψηλή πολυσυγραμμικότητα. Όταν δηλαδή μεταξύ μιας ανεξάρτητης μεταβλητής και ενός γραμμικού μετασχηματισμού των υπολοίπων υπάρχει υψηλός βαθμός συσχέτισης. Η Μέθοδος των Ελαχίστων Τετραγώνων δεν μπορεί να διακρίνει με ακρίβεια τον ιδιαίτερο ρόλο των μεταβλητών που συσχετίζονται. Πρόκειται για ένα φαινόμενο που έχει να κάνει με το συγκεκριμένο δείγμα και πολύ λιγότερο με την θεωρητική σχέση των μεταβλητών.

6 Συνέπειες πολυσυγραμμικότητας Όλες οι επιθυμητές ιδιότητες των εκτιμητριών (αμεροληψία, αποτελεσματικότητα, συνέπεια κ.λ.π.) παραμένουν. Επίσης όλοι οι στατιστικοί έλεγχοι ισχύουν. Οι προβλέψεις δεν επηρεάζονται από την ύπαρξη υψηλής πολυσυγραμμικότητας.

7 Αυξάνει το μέγεθος των τυπικών σφαλμάτων των εκτιμητριών και κατά συνέπεια μειώνει τις τιμές της στατιστικής στους ελέγχους. Στην περίπτωση δύο ανεξάρτητων μεταβλητών S β ( n 3) ( ) ( ) r Τα διαστήματα εμπιστοσύνης έχουν μεγάλο εύρος Πιο συχνά δεχόμαστε την μηδενική υπόθεση. Μειώνεται η πιθανότητα οι εκτιμήσεις των συντελεστών να είναι στατιστικά σημαντικοί Αυξάνεται η πιθανότητα οι εκτιμήσεις των συντελεστών να έχουν μη αναμενόμενα πρόσημα Μπορεί να οδηγήσει σε σφάλμα εξειδικεύσεως. Παρόλα αυτά το R μπορεί να παραμένει υψηλό.

8 Οι εκτιμήσεις δείχνουν μεγάλη ευαισθησία σε διαφορετικές εξειδικεύσεις (προσθήκη ή αφαίρεση μεταβλητών) Η συνδιακύμανση των εκτιμητριών δύο μεταβλητών με υψηλό συντελεστή συσχέτισης είναι μεγάλη και δυσκολεύει την διάκριση των ιδιαίτερων ρόλων των δύο μεταβλητών.

9 Παράδειγμα Έστω η ακόλουθη μήτρα παρατηρήσεων των Χ: ρ.55 4 ( ).35.7 σ V b.7.8 Έστω τώρα ότι η μήτρα των Χ μεταβάλλεται σε: ρ ( ).8 σ V b.8.64

10 Παράδειγμα Consmpon b bincome bwealh

11 Παράδειγμα Consmpon b bincome bwealh Τιμή του r % διάστημα εμπιστοσύνης για το b b.96 ± σ x b ± σ x b.96.6 ± σ x b.96 ± σ x b.96 5 ± σ x

12 Παράδειγμα Y 3 Y Y R r 3 3 (.773 ) (.848 ) (.85) (.543 ) (.45 ) (.35).8.55 Y R r 3 3 (.748 ) (.7 ) (.5) (.68 ) (.475 ) (.6).8.88

13 Ανίχνευση πολυσυγραμμικότητας Είναι πρακτικά απίθανος ο μηδενικός βαθμός συσχέτισης μεταξύ δύο μεταβλητών. Σκόπος είναι η ανίχνευση του βαθμού πολυσυγγραμμικότητας και όχι η ύπαρξή της Ενδείξεις Πολλοι συντελεστές οι οποίοι δεν διαφέρουν στατιστικά από το μηδέν(χαμηλή τιμή της στατιστικής ) αλλά συγχρόνως υψηλό R Υψηλοί συντελεστές συσχέτισης μεταξύ ανεξάρτητων μεταβλητών (ικανή αλλά όχι αναγκαία προϋπόθεση) Οι εκτιμήσεις των συντελεστών μεταβάλλονται δραστικά όταν ανεξάρτητες μεταβλητές προσθέτονται ή αφαιρούνται.

14 Έχουν διατυπωθεί σοβαρές αντιρρήσεις για τους στατιστικούς ελέγχους πολυσυγγραμμικότητας που έχουν αναπτυχθεί. Δενυπάρχειομοφωνίαγιατοανείναιδυνατόναύπαρξουν τέτοιοι έλεγχοι. Συντελεστής Διογκώσεως της Διακυμάνσεως (VIF) Έστω Y β β β β 3 3 Βήμα ο Εκτίμηση των συναρτήσεων a a a 3 3 a a a a 3 a a Υπολογισμός των R R R 3

15 Βήμα ο VIF R ( ) Υπολογισμός των VIF VIF β ( β ) R R ( β ) 3 Δείχνει την ταχύτητα με την οποία αυξάνεται η διακύμανση ενός εκτιμητή όταν υπάρχει πολυσυγγραμικότητα. ( β ) Όσο μεγαλύτερη η τιμή των VIF τόσο πιο σοβαρό το πρόβλημα (πρακτικά VIF> ή R j >,9). Ικανή αλλά όχι αναγκαία ένδειξη V σ Σ x j VIF j 3

16 Συντελεστής ανεκτικότητας (TOL) TOL j R VIF Εάν η μεταβλητή δεν συσχετίζεται με τις υπόλοιπες μεταβλητές, τότε TOL j ενώ αν υπάρχει τέλεια συχέτιση ανάμεσα στην j και τις υπόλοιπες μεταβλητές τότε TOL j. j

17 Λύσεις Δεν υπάρχουν συγκεκριμένες λύσεις. Η εφευρετικότητα συνήθως αναπτύσσεται με την εμπειρία. Μερικές χρήσιμες συμβουλές Αγνοήστε το θέμα τελείως αν δεν δημιουργεί πρόβλημα. Κυρίως αν δεν επηρεάζει την σημαντικότητα των συντελεστών. Ο μεγάλος αριθμός των ανεξάρτητων μεταβλητών (για να είστε μέσα ) δεν βοηθάει συνήθως. Μειώστε τον αριθμό των ανεξάρτητων μεταβλητών, κυρίως αυτών με <. Ελέξτε όμως την επίδρασή τους. Αυξήστε αν είναι δυνατό το μέγεθος του δείγματος Αλλάξτε τη μορφή της συνάρτησης. Ελέγξτε όμως τις πιθανές επιπτώσεις.

18

19 Το πρόβλημα της ετεροσκεδαστικότητας εμφανίζεται όταν παραβιάζεται η υπόθεση της σταθερής διακύμανσης του όρου σφάλματος Δηλαδή δεν ισχύει αλλά Το πρόβλημα var var ( ) E( ) σ ( ) E( ) σ και επειδή Y ( β β β β )... k k var ( ) var( Y ) σ Δηλαδή, η δεσμευμένη διακύμανση της εξαρτημένης μεταβλητής δεν είναι σταθερή.

20 Η φύση της ετεροσκεδαστικότητας Ομοσκεδαστικότητα σημαίνει ότι η διασπορά των τιμών γύρω από τον μέσο δεν εξαρτάται από τις τιμές της ερμηνευτικής μεταβλητής Χ. E σ ( ) Δεν ισχύει όμως πάντα π.χ. η μεταβλητικότητα στην συμπεριφορά της αποταμιεύσεως περιμένουμε να είναι μεγαλύτερη στις οικογένειες με μεγάλο εισόδημα παρά στις οικογένειες με χαμηλό εισόδημα. y x

21 Οι συνέπειες της ετεροσκεδαστικότητας Η μέθοδος των ελαχίστων τετραγώνων εξακολουθεί να δίνει αμερόληπτες και συνεπείς εκτιμήτριες. Η μέθοδος των ελαχίστων τετραγώνων δεν δίνει πλέον τις πιο αποτελεσματικές εκτιμήτριες. Υπάρχουν άλλες αμερόληπτες εκτιμήτριες με μικρότερες διακυμάνσεις. Οι διακυμάνσεις των είναι μεροληπτικές και ασυνεπείς. Οι στατιστικοί έλεγχοι που βασίζονται στις διακυμάνσεις αυτές οδηγούν σε λάθος συμπεράσματα. β Οι προβλέψεις που βασίζονται στις εκτιμήτριες αυτές είναι αμερόληπτες αλλά μη αποτελεσματικές.

22 Έλεγχος για την ύπαρξη ετεροσκεδαστικότητας Επειδή πίσω από το πρόβλημα της ετεροσκεδαστικότητας υπάρχει πολλές φορές το πρόβλημα της εξειδίκευσης πρέπει πριν οποιοδήποτε έλεγχο να έχει αποφασιστεί η οριστική μορφή της συνάρτησης Διαγραμματικός έλεγχος Η συνάρτηση εκτιμάται με την μέθοδο των ελαχίστων τετραγώνων και υπολογίζονται τα (εκτίμηση της διακύμανσης του ). Κατασκευάζουμε ένα διάγραμμα διασποράς με τα και την μεταβλητή που θεωρούμε ότι προκαλεί την ετεροσκεδαστικότητα ήμετην Y Η μέθοδος αυτή λειτουργεί συμβουλευτικά μόνο.

23 Ευθεία παλινδρόμησης απάνη για τρόφιμα y.83x Εβδομαδιαίο εισόδημα ιάγραμμα καταλοίπων Κατάλοιπα x

24 Έλεγχος Goldfeld - Qan Αν υπάρχει ομοσκεδαστικότητα τότε η διακύμανση του όρου σφάλματος για ένα υποσύνολο του δείγματος δεν θα πρέπει να διαφέρει στατιστικά από την διακύμανση ενός άλλου υποσυνόλου. Επιλέγεται η μεταβλητή η οποία θεωρείται ότι προκαλεί την ετεροσκαδαστικότητα και οι παρατηρήσεις κατατάσσονται κατά αύξουσα τάξη μεγέθους με βάση τις τιμές αυτής της μεταβλητής Από το σύνολο του δείγματος αφαιρούνται οι d παρατηρήσεις που βρίσκονται στο κέντρο της κατανομής. Η αρχική συνάρτηση εκτιμάται με βάση τα δύο υποσύνολα του δείγματος που απομένουν μεγέθους n και n (n n ).

25 Ο αριθμός d επιλέγεται με τέτοιο τρόπο ώστε να αντιπροσωπεύει ένα ποσοστό μεταξύ του /3 και /6 των παρατηρήσεων και να αφήνει στην κάθε πλευρά του ικανό αριθμό παρατηρήσεων (n,n ) για να εκτιμηθεί η αρχική συνάρτηση. Από τις εκτιμήσεις των δύο συναρτήσεων υπολογίζονται τα σ και σ και η στατιστική F. F σ σ ESS ESS ( n k) ( n k) (Στον αριθμητή η μεγαλύτερη διακύμανση) Αν F>F(πινάκων) απορρίπτεται η υπόθεση ομοσκεδαστικότητας

26 Παράδειγμα ιαθέσιμο εισόδημα Αποταμίευση Y Έτος Ταξινομούμεμεβάση το Χ. Αφαιρούμε 6 κεντρικές παρατηρήσεις (/4)

27 Παράδειγμα Αποταμίευση Y ιαθέσιμο εισόδημα Αποταμίευση Y ιαθέσιμο εισόδημα Y 9,7, 6 R,97 Y 6,,8 R,33 ( 3,95 ) (,9 ), ( ) ( ) F ( ) ( ) n k 643,5 n k, F 3,6 > F 4,8 (.5 ),( 6 ),( 6) 35,5, 643,5 3,6 Απορρίπτεται η μηδενική υπόθεση ομοσκεδαστικότητας άρα ο διαταρακτικός όρος χαρακτηρίζεται από ετεροσκεδαστικότητα.

28 Έλεγχος Park Εκτίμηση της Y β β β... β k k και υπολογισμός του Y β β β... β ( ) k k ln a a ln Z εκτίμηση της ( ) v Πιθανή αιτία ετεροσκεδαστικότητας Αν α στατιστικά διάφορο του η υπόθεση της ομοσκεδαστικότητας απορρίπτεται, άρα έχουμε ετεροσκεδαστικότητα.

29 Οι μέθοδοι Goldfeld Qan και Park αποδίδουν την ετεροσκεδαστικότητα σε μια μεταβλητή Όμως η ύπαρξη ετεροσκεδαστικότητας ισοδυναμεί με απόρριψη της H H ( ), Var,..., : σ E,,..., k : E σ ( ) ήτης ( ) k Έλεγχος της Η Έλεγχος της σχέσης του με τις Χ..Χ k- Αν διαπιστωθεί σχέση μεταξύ και έστω ενός Χ η Η απορρίπτεται

30 Έλεγχος Bresch-Pagan Εκτίμηση της Y β β β... β k k ( ) και υπολογισμός Y β β β... β k k Εκτίμηση της δ δ δ... δ k k v Έλεγχος της H : δ δ... δ k υπολογισμός του nr û H H απορρίπτεται αν nr > χ ak, Σε αυτή την περίπτωση δεν δεχόμαστε την υπόθεση για την ύπαρξη ομοσκεδαστικότητας.

31 Παράδειγμα Ας υποθέσουμε ότι με την κλασική μέθοδο των ελαχίστων τετραγώνων προέκυψαν τα εξής αποτελέσματα από παρατηρήσεις: 6,,6, 7 R, 46 Y (,6 ) (,34 ) (,378 ) Όπου Υ οι οικογενειακές δαπάνες για τρόφιμα, Χ το οικογενειακό εισόδημα και Χ ο αριθμός ατόμων της οικογένειας. Αν υποθέσουμε ότι η ετεροσκεδαστικότητα σχετίζεται και με τις δύο ερμηνευτικές μεταβλητές, εκτιμάμε τη βοηθητική παλινδρόμηση: 8,6,36 5,36 R, nr, > χ 5,99.5, Απορρίπτεται η μηδενική υπόθεση ότι οι συντελεστές στην βοηθητική παλινδρόμηση είναι ίσοι με το μηδέν, άρα δεν γίνεται δεκτή η υπόθεση ομοσκεδαστικότητας.

32 Έλεγχος Glesjer Εκτίμηση της Y β β β... β k k ( ) και υπολογισμός Y β β β... β k k Εκτίμηση της δ δ δ... δ k k v Έλεγχος της H : δ δ... δ k υπολογισμός του nr û H H απορρίπτεται αν nr > χ a, k Σε αυτή την περίπτωση δεν δεχόμαστε την υπόθεση για την ύπαρξη ομοσκεδαστικότητας.

33 Παράδειγμα Ας υποθέσουμε ότι με την κλασική μέθοδο των ελαχίστων τετραγώνων προέκυψαν τα εξής αποτελέσματα από παρατηρήσεις: 6,,6, 7 R, 46 Y (,6 ) (,34 ) (,378 ) Όπου Υ οι οικογενειακές δαπάνες για τρόφιμα, Χ το οικογενειακό εισόδημα και Χ ο αριθμός ατόμων της οικογένειας. Αν υποθέσουμε ότι η ετεροσκεδαστικότητα σχετίζεται και με τις δύο ερμηνευτικές μεταβλητές, εκτιμάμε τη βοηθητική παλινδρόμηση: 4,5, 7,4 R,3 nr,3 3 3 > χ 5,99.5, Απορρίπτεται η μηδενική υπόθεση ότι οι συντελεστές στην βοηθητική παλινδρόμηση είναι ίσοι με το μηδέν, άρα δεν γίνεται δεκτή η υπόθεση ομοσκεδαστικότητας.

34 Έλεγχος Harvey-Godfrey Εκτίμηση της Y β β β... β k k ( ) και υπολογισμός Y β β β... β k k Εκτίμηση της ln δ δ δ... δ k k v Έλεγχος της H : δ δ... δ k υπολογισμός του nr û H H απορρίπτεται αν nr > χ ak ln, Σε αυτή την περίπτωση δεν δεχόμαστε την υπόθεση για την ύπαρξη ομοσκεδαστικότητας.

35 Παράδειγμα Ας υποθέσουμε ότι με την κλασική μέθοδο των ελαχίστων τετραγώνων προέκυψαν τα εξής αποτελέσματα από παρατηρήσεις: 6,,6, 7 R, 46 Y (,6 ) (,34 ) (,378 ) Όπου Υ οι οικογενειακές δαπάνες για τρόφιμα, Χ το οικογενειακό εισόδημα και Χ ο αριθμός ατόμων της οικογένειας. Αν υποθέσουμε ότι η ετεροσκεδαστικότητα σχετίζεται και με τις δύο ερμηνευτικές μεταβλητές, εκτιμάμε τη βοηθητική παλινδρόμηση: ln 4,3,3 6,44 R, 4 nr,4 4 ln 4 > χ 5,99.5, Απορρίπτεται η μηδενική υπόθεση ότι οι συντελεστές στην βοηθητική παλινδρόμηση είναι ίσοι με το μηδέν, άρα δεν γίνεται δεκτή η υπόθεση ομοσκεδαστικότητας.

36 Σύνοψη ελέγχων Εκτίμηση της Y β β β... β k k ( ) και υπολογισμός Y β β β... β Εκτίμηση της: k k δ δ δ... δk k v Bresch-Pagan δ δ δ... δ v k k Glesjer ln δ δ δ... δ k k v Harvey-Godfrey Ειδική περίπτωση είναι ο έλεγχος Park.

37 Έλεγχος Whe Εκτίμηση της k k Y... β β β β και υπολογισμός ( ) k k Y... β β β β Εκτίμηση της k k k k k k k k v δ δ δ δ δ δ δ δ δ Έλεγχος της... : 3 δ δ δ H υπολογισμός του R û H H απορρίπτεται αν, k k a nr χ > Σε αυτή την περίπτωση δεν δεχόμαστε την υπόθεση για την ύπαρξη ομοσκεδαστικότητας.

38 Παράδειγμα Ας υποθέσουμε ότι από την βοηθητική παλινδρόμηση προέκυψαν τα εξής αποτελέσματα από παρατηρήσεις: 6, 4,34 3, 4, 98, 476, 77 R,98 nr 9.8 > χ.7.5,5 Απορρίπτεται η μηδενική υπόθεση ότι οι συντελεστές στην βοηθητική παλινδρόμηση είναι ίσοι με το μηδέν. Αρα δεν γίνεται δεκτή η υπόθεση ομοσκεδαστικότητας.

39 Μέθοδοι εκτίμησης Η μέθοδος των Γενικευμένων Ελαχίστων Τετραγώνων Y β β β Έστω Y σ σ β σ β σ β σ * * * * * Y β β β ( ) ( ) * Var Var Var σ σ Όμως Στο μετασχηματισμένο υπόδειγμα δεν υπάρχει ετεροσκεδαστικότητα Περίπτωση η - το σ είναι γνωστό

40 Μέθοδοι εκτίμησης Οι εκτιμητές που παίρνουμε από την παλινδρόμηση: Y β β β * * (χωρίς σταθερό όρο) είναι άριστοι αμερόληπτοι γραμμικοί εκτιμητές (BLUE). Η διαδικασία αυτή είναι μια ειδική περίπτωση της μεθόδου των Γενικευμένων Ελαχίστων Τετραγώνων (GLS). H μέθοδος GLS στην περίπτωση της ετεροσκεδαστικότητας συμπίπτει με την Σταθμική μέθοδο των Ελαχίστων Τετραγώνων (WLS). Αν ορίσουμε ως * w * σ * Y σ β β β σ σ σ σ wy wβ β w β w w

41 Μέθοδοι εκτίμησης Η ελαχιστοποίηση του αθροίσματος του τετραγώνου των καταλοίπων της wy wβ β w β w w είναι ταυτόσημη με: ( w ) ( wy wβ β w β w ) Σε κάθε παρατήρηση δηλαδή, και για κάθε μια μεταβλητή δίνεται μια στάθμιση, που είναι αντιστρόφως ανάλογη της τυπικής απόκλισης του. Πρακτικά όμως είναι απίθανο να ξέρουμε την τυπική απόκλιση του και γι αυτό καταφεύγουμε σε άλλες μεθόδους για την περίπτωση της ετεροσκεδαστικότητας.

42 Περίπτωση η - το σ δεν είναι γνωστό. Είναι όμως γνωστός ο παράγοντας Ζ ι στη σχέση σ σζ Z Z Z Z Z Y β β β * * * * * Y β β β ( ) ( ) * Var Z Var Var Z Z Z σ σ Θα πάρουμε ακριβώς τους ίδιους εκτιμητές αν εφαρμόσουμε την Σταθμική μέθοδο των Ελαχίστων Τετραγώνων στο αρχικό υπόδειγμα: με στάθμιση: Y β β β w σ Z

43 Παράδειγμα: R Y (.67) (.34) (.378).46 Υπόθεση: σ σ Y β β β * * Y β β β * Y * * * (.3) (.7) (.87) Y (.3) (.7) (.87)

44 Περίπτωση 3η - το σ δεν είναι γνωστό ούτε και ο παράγοντας Ζ ι. Εκτιμάται η σχέση της διακύμανσης σ και των πιθανών παραγόντων που την επηρεάζουν. Υποθέτουμε ότι οι παράγοντες που δημιουργούν το πρόβλημα της ετεροσκεδαστικότητας είναι περισσότεροι από ένας Αν a a a Z e σ σ a a a e Αν α, α και α γνωστά χρησιμοποιείται η προηγούμενη μέθοδος Επειδή είναι άγνωστα εκτιμώνται μέσω της συνάρτησης a a a σ e ε (, σ ) ε ~ ε Επειδή το είναι άγνωστο προσεγγίζεται με το û Έτσι ( ln a ) lnσ a a v όπου (, σ ) ν ~ ν

45 Ορίζουμε g û δ lnσ a lng a a δ ν Εκτιμώντας την συνάρτηση προκύπτουν δ έτσι, a, a και ^ lng g e ^ lng Η ĝ Μπορεί να χρησιμοποιηθεί ως συντελεστής στάθμισης και να εφαρμοστεί η σταθμική μέθοδος των ελαχίστων τετραγώνων. Y β β β g g g g Αντί της lng lng δ ay a Y ν a a δ ν μπορεί να χρησιμοποιηθεί η

46 Παράδειγμα: Y R (.67) (.34) (.378).46 ^ ln g R. (.66) (.698) (.33) Y g R g g g (.479) (.9) (.45).93

47 Η μέθοδος της συνεπούς μήτρας διακυμάνσεων (Whe) Διορθώνει τις διακυμάνσεις και συνδιακυμάνσεις χωρίς να αλλάζει τις εκτιμήσεις των συντελεστών Οι συνεπείς διακυμάνσεις και συνδιακυμάνσεις προκύπτουν από την εφαρμογή του τύπου n Ειδικότερα Var ( β ) όπου n k ( ) ( x x )( ) j r j ( j j ) rj το κατάλοιπο από την Χ j f(υπόλοιπα Χ)

48 Παράδειγμα: Y R (.67) (.34) (.378).46 Y R (.358) (.8) (.43).46

49

50 Το πρόβλημα Το πρόβλημα της αυτοσυσχέτισης εμφανίζεται όταν παραβιάζεται η υπόθεση της μη συσχέτισης των σφαλμάτων Δηλαδή cov ( ) j Υπάρχει όταν η σειρά με την οποία εμφανίζονται οι παρατηρήσεις έχει νόημα j Υ Y α β Υ Y a β Χ Χ

51 Αυτοσυσχέτιση ου βαθμού Y β β... βk k ρ ε Διαδικασία αυτοσυσχέτισης ου βαθμού ΑR() E E( ε ) ( ) E ε σ ε ( ) s ε ε s < ρ < Συντελεστής αυτοσυσχέτισης ου βαθμού ρ > ρ < Θετική αυτοσυσχέτιση Αρνητική αυτοσυσχέτιση

52 Οι συνέπειες της αυτοσυσχέτισης Οι εκτιμητές που προκύπτουν από την μέθοδο των ελαχίστων τετραγώνων και οι προβλέψεις που βασίζονται σε αυτούς εξακολουθούν να είναι αμερόληπτοι και συνεπείς. Η μέθοδος των ελαχίστων τετραγώνων δεν δίνει πλέον τους πιο αποτελεσματικούς εκτιμητές και προβλέψεις. Υπάρχουν άλλοι αμερόληπτοι εκτιμητές με μικρότερες διακυμάνσεις. Αν μεταξύ των ανεξάρτητων μεταβλητών περιλαμβάνεται η εξαρτημένη με χρονική υστέρηση π.χ. Y -, τότε οι εκτιμητές δεν είναι ούτε συνεπείς. Οι εκτιμητές των διακυμάνσεων των β είναι μεροληπτικοί και ασυνεπείς. Οι στατιστικοί έλεγχοι που βασίζονται στις διακυμάνσεις αυτές οδηγούν σε λάθος συμπεράσματα.

53 Ανίχνευση της αυτοσυσχέτισης Διαγραμματική παρουσίαση Η συνάρτηση εκτιμάται με την μέθοδο των ελαχίστων τετραγώνων και υπολογίζονται τα û. Κατασκευάζουμε ένα διάγραμμα όπου στον κάθετο άξονα εμφανίζεται το και στον οριζόντιο ο χρόνος (). û Η μέθοδος αυτή λειτουργεί συμβουλευτικά μόνο.

54 ΟέλεγχοςDrbn - Wason Για να χρησιμοποιηθεί πρέπει: Να υπάρχει σταθερός όρος β Η υπόθεση που ελέγχεται να αφορά πρώτου βαθμού αυτοσυσχέτιση Να μην υπάρχει ως ανεξάρτητη μεταβλητή η εξαρτημένη με χρονική υστέρηση Εκτίμηση της εξίσωσης Υπολογισμός των û Υπολογισμός της στατιστικής d (Drbn-Wason) Y β β... βk k d n n ( ) ( )

55 ( ) n n n n d Επειδή οι εκτιμήσεις των σφαλμάτων για μεγάλα δείγματα είναι συνήθως μικροί αριθμοί n n n ( ) ( ) ( ) n n n n n n n d ( ) ρ n n Επειδή όμως ( ) ρ d

56 ρ ρ ρ d d d 4 Θετική αυτοσυσχέτιση Αρνητική αυτοσυσχέτιση Μηδενική αυτοσυσχέτιση Διαπιστώνεται ότι όταν το d ήτο4-d τείνουν στο η πιθανότητα ύπαρξης αυτοσυσχέτισης αυξάνει ενώ όταν το d ήτο4-d τείνουν στο μειώνεται. H H : ρ : ρ > (d<) H H : ρ : ρ < (d>) d d L Η Η απορρίπτεται 4 d d L Η Η απορρίπτεται d d U Η Η δεν απορρίπτεται d d L d U Δεν υπάρχει συμπέρασμα 4 d d U Η Η δεν απορρίπτεται d 4 d L d U Δεν υπάρχει συμπέρασμα

57 Αβέβαιη περιοχή ρ > ρ ρ < d L d U 4 du 4 dl 4 d

58 Μειονεκτήματα Είναι δυνατό να δώσει αποτελέσματα που δεν οδηγούν σε συμπεράσματα Δεν είναι κατάλληλο στην περίπτωση που μεταξύ των ανεξάρτητων μεταβλητών περιλαμβάνεται η εξαρτημένη με χρονική υστέρηση. Δεν είναι κατάλληλο όταν η αυτοσυσχέτιση είναι μεγαλύτερου βαθμού.

59 Παράδειγμα Y Αθροίσματα Έστω ότι εκτιμήθηκε η συνάρτηση Y,36,375 την οποία θέλουμε να ελέγξουμε για την ύπαρξη αυτοσυσχέτισης. Υπολογίζουμε την στατιστική d: ( ) d 7,3 Για α5%, Τ6, Κ είναι,89 8,74 d L, και d U,37 d<d L άρα ρ>. ( )

60 Παράδειγμα Εάν είχαμε εκτιμήσει την τότε η d θα ήτανε: d ( ) 7,74, 3 5,735 Y 6,49 7,,453 Για α5%, Τ6, Κ είναι d L.98 και d U,54 d L < d < d U άρα δεν μπορούμε να βγάλουμε συμπέρασμα.

61 ΟέλεγχοςτουπολλαπλασιαστήLagrange Ισοδυναμεί με ένα έλεγχο προσθήκης μιας νέας μεταβλητής ( ). Εφαρμόζεται όταν έχουμε τουλάχιστον 3 βαθμούς ελευθερίας. Εκτίμηση της εξίσωσης Υπολογισμός των û Y β β... β k k Εκτίμηση της εξίσωσης γ... γ k k ρ γ ε Υπολογίζεται η στατιστική Αν Έλεγχος στατιστικής σημαντικότητας του ρ ( n ) R > χ ( n ) R Η στατιστική αυτή ακολουθεί την κατανομή χ με βαθμό ελευθερίας (ο αριθμός των περιορισμών, ρ) απορρίπτεται η μηδενική υπόθεση (ρ)

62 Παράδειγμα Y Έστω ότι εκτιμήθηκε η συνάρτηση Y,36,375 την οποία θέλουμε να ελέγξουμε για την ύπαρξη αυτοσυσχέτισης. Εκτιμάμε την: b b ρ R.3 (.56 ) (.3 ) (.4) ( n ) R χ 5,3 4.5> 3,84

63 Έλεγχος με την στατιστική Όπως και στην περίπτωση του πολλαπλασιαστή Lagrange, χρειαζόμαστε μεγάλο δείγμα. Εκτίμηση της εξίσωσης Υπολογισμός των û Y β β... β k k Εκτίμηση της εξίσωσης ρ ε Έλεγχος στατιστικής σημαντικότητας του ρ: Υπολογισμός της στατιστικής : Και σύγκριση με την των πινάκων: ρ S ρ a/, n k Εάν > a /, n k απορρίπτεται η H.

64 Παράδειγμα Y Έστω ότι εκτιμήθηκε η συνάρτηση Y,36,375 την οποία θέλουμε να ελέγξουμε για την ύπαρξη αυτοσυσχέτισης. Εκτιμάμε την: ρ >.5,4.45 (.).

65 Αμιγής και μη αμιγής αυτοσυσχέτιση Η ύπαρξη αυτοσυσχέτισης μπορεί να οφείλεται σε λαθεμένη εξειδίκευση του υποδείγματος (μη αμιγής αυτοσυσχέτιση). Π.χ. παράλειψη σημαντικής μεταβλητής. Η ύπαρξη αρνητικής αυτοσυσχέτισης είναι συνήθως ισχυρή ένδειξη μη αμιγούς αυτοσυσχέτισης

66 Μέθοδοι εκτίμησης Αλλαγή της συναρτησιακής μορφής Πολλές φορές η αυτοσυσχέτιση είναι το αποτέλεσμα μη σωστής εξειδίκευσης του υποδείγματος. Έτσι, η προσθήκη ουσιαστικών μεταβλητών ή μεταβλητών που ήδη υπάρχουν αλλά με άλλη μορφή (, ln κ.λ.π.) μπορεί να οδηγήσει σε περιορισμό η εξάλειψη του προβλήματος.

67 Y Η μέθοδος Cochrane-Orc (CORC) Y β β,... βk k, ρ ε Y β β... β, k k, ρy ρβ ρβ... ρβ ρ ρy, k k, ( ) ( )... ( ) β ρβ β ρβ β ρβ ρ, k k k k, ( ) ( )... ( ) Y ρy β ρ β ρ β ρ ε, k k k, Y β β... β ε * * * *, k k, Ικανοποιούνται όλες τις υποθέσεις του κλασσικού γραμμικού υποδείγματος. Θα μπορούσε να εκτιμηθεί με την μέθοδο των Ε.Τ. αν το ρ ήταν γνωστό. Επειδή δεν είναι γνωστό ακολουθείται η εξής διαδικασία: E ( ε ) ( ) E ε σ ε E ε ε s s ( )

68 Εκτίμηση της εξίσωσης Υπολογισμός των û Εκτίμηση του ρ Υπολογισμός των από την εξίσωση Y Εκτίμηση της εξίσωσηςy Y * β β... β k k * Y ρy * ρ ρ ε * * * β... β k k β ε Με βάση τα β, β,..., β k και την αρχική εξίσωση υπολογίζονται νέες εκτιμήσεις û Με βάση την εξίσωση υπολογίζεται νέος συντελεστής αυτοσυσχέτισης ρ Η διαδικασία αυτή επαναλαμβάνεται μέχρι οι τιμές δύο διαδοχικών εκτιμήσεων του ρ να μη διαφέρουν σημαντικά (π.χ.,).

69 Παράδειγμα (Cochrane-Orc) Αν εκτιμήσουμε την ευθεία παλινδρόμησης με τα στοιχεία του πίνακα παίρνουμε: Y 3,6,48 Στην συνέχεια εκτιμάμε την ρ e Και παίρνουμε μια εκτίμηση για το ρ:,66 * Y Y,66Y (.6) Οπότε, *,66 * * και * * Y 5,5,5,9 (.5) Y Στην τελευταία παλινδρόμηση το ρ δεν είναι στατιστικά σημαντικό άρα δεν υπάρχει αυτοσυσχέτιση. Θα είναι: * b 5,5 b 5,547 ρ,66 Y 5,547,5

70 Η μέθοδος Hldreh-L (HILU) Η μέθοδος αυτή βασίζεται στον ίδιο μετασχηματισμό της αρχικής εξίσωσης: Y ( ρ) β( ρ ) β k ( k ρ k ) ρ Y β... ε Αντί να εκτιμήσει το άγνωστο ρ χρησιμοποιεί εναλλακτικές τιμές στο διάστημα [-.,.] και επιλέγει αυτήν με το χαμηλότερο ε Επειδή οι τιμές στο διάστημα [.,.] είναι άπειρες σε ένα πρώτο στάδιο χρησιμοποιούνται τιμές που απέχουν.. Όταν εντοπιστεί το διάστημα στο οποίο ελαχιστοποιείται το ε χρησιμοποιούνται όλο και περισσότερο λεπτομερείς τιμές για να εντοπιστεί το απόλυτο ελάχιστο.

71 Παράδειγμα (Hldreh-L) Εκτιμούμε την ευθεία ( ) ( ) Y ρy β ρ β ρ ε για τιμές του ρ από - έως και κρατάμε τα ESS. ρ ESS ρ ESS Y

72 Το μεγάλο πλεονέκτημα της μεθόδου αυτής σε σχέση με την μέθοδο Cochrane-Orc είναι ότι οδηγεί πάντα στο απόλυτο ελάχιστο (global mnmm) σημείο. Η μέθοδος Cochrane-Orc μπορεί να οδηγήσει σε σχετικά ελάχιστο (local mnmm) σημείο. Το μειονέκτημα της μεθόδου αυτής είναι ότι είναι περισσότερο χρονοβόρα.

73 Αυτοσυσχέτιση μεγαλύτερου βαθμού k k Y... β β β p p ε ρ ρ ρ ρ,..., 3 3 Η γενική μορφή υποδείγματος με αυτοσυσχέτιση p βαθμού AR(p). ΟέλεγχοςτουπολλαπλασιαστήLagrange p p k k ε ρ ρ ρ β β β : H... : p H ρ ρ ρ Ένα τουλάχιστον ρ δεν είναι

74 Εκτίμηση της εξίσωσης Υπολογισμός των û Y β β... β k k Εκτίμηση της εξίσωσης γ γ... γ ρ ρ... ρ ε k k p p Υπολογίζεται η στατιστική ( n p) R Η στατιστική αυτή ακολουθεί την κατανομή χ με p βαθμούς ελευθερίας ( όσοι και ο αριθμός των περιορισμών) Αν ( n p) R > χ p απορίπτεται η μηδενική υπόθεση (ρ) Η επιλογή του p γίνεται με βάση προηγούμενη εμπειρία ή άλλες εξωτερικές πληροφορίες. Ο έλεγχος της Η μπορεί να γίνει κατά τα γνωστά και με το κριτήριο της κατανομής F.

75 Εκτίμηση με τη μέθοδο Cochrane-Orc (CORC) Εκτίμηση της εξίσωσης Y β β... β k k Υπολογισμός των û Εκτίμηση των ρ από την εξίσωση ρ ρ ρ3 3,..., ρ p p ε Υπολογισμός των * * Εκτίμηση της εξίσωσης Y Y Y ρ... ρ py... ρ * Y ρ * * * β... β k k β ε Με βάση τα β, β,..., β k και την αρχική εξίσωση υπολογίζονται νέες εκτιμήσεις û Με βάση την εξίσωση υπολογίζονται νέοι συντελεστές αυτοσυσχέτισης ρ Η διαδικασία αυτή επαναλαμβάνεται μέχρι δύο ε διαδοχικών εκτιμήσεων να μη διαφέρουν σημαντικά. p p p