Παραβίασητωνβασικώνυποθέσεωντηςπαλινδρόμησης (Violation of the assumptions of the classical linear regression model)

Transcript

1 ΜΑΘΗΜΑ 4 ο 1

2 Παραβίασητωνβασικώνυποθέσεωντηςπαλινδρόμησης (Violation of the assumptions of the classical linear regression model) Αυτοσυσχέτιση (Serial Correlation) Lagrange multiplier test of residual serial correlation Εξειδίκευση (Functional Form) Ramsey (1969) RESET test using the square of the fitted values Κανονικότητα (Normality) Jarque and Bera (1980), Bera and Jarque (1981) Based on a test of skewness and kurtosis of residuals Ετεροσκεδαστικότητα (Heteroscedasticity) Koenker (1981), Koenker Basett (1982) Based on the regressions of squared residuals on squared fitted values 2

3 Αυτοσυσχέτιση Σε μια από τις υποθέσεις της γραμμής παλινδρόμησης έχουμε ότι η διακύμανση του διαταρακτικού όρου είναι σταθερή (υπόθεση 4) και σε κάποια άλλη ότι η συνδιακύμανση των διαταρακτικών όρων είναι μηδέν (υπόθεση 5) Αν οι υποθέσεις αυτές δεν ικανοποιούνται, τότε έχουμε το φαινόμενο της αυτοσυσχέτισης (autocorrelation) ή της αυτοπαλινδρόμησης (autoregression) 3

4 Έλεγχος αυτοσυσχέτισης πρώτης τάξης Διάγραμμα της διασποράς Έλεγχος του Von Neumann Έλεγχος των Durbin - Watson Έλεγχος h-durbin Εναλλακτικός έλεγχος του Durbin Έλεγχος του t Έλεγχος Geary ή έλεγχος ροών Έλεγχος ανεξαρτησίας του Χ 2 Έλεγχος Berenblut - Webb 4

5 Έλεγχος των Durbin Watson Ο έλεγχος των Durbin Watson (1950, 1951) αποτελεί τον περισσότερο διαδεδομένο τρόπο ελέγχου της αυτοσυσχέτισης πρώτης τάξης στο διαταρακτικό όρο Τα βήματα που ακολουθούμε για τον έλεγχο αυτό είναι τα παρακάτω: Βήμα 1 Γράφω τις δύο υποθέσεις για την ύπαρξη της αυτοσυσχέτισης Ηο: Δεν υπάρχει αυτοσυσχέτιση ρ = 0 Ηα: Υπάρχει αυτοσυσχέτιση ρ 0 ήρ>0 ήρ<0 Ο έλεγχος για την αυτοσυσχέτιση πρώτης τάξης με τον έλεγχο των DW γίνεται από τους πίνακες που οι ίδιοι δημιούργησαν 5

6 Βήμα 2 Σχηματίζοντας ένα ημικύκλιο βρίσκω τις πέντε περιοχές που σχηματίζονται σύμφωνα με τα κρίσιμα σημεία για επίπεδο σημαντικότητας 5% (κατώτερο d L και ανώτερο όριο d U ) για η παρατηρήσεις και κ αριθμό ερμηνευτικών μεταβλητών Βήμα 3 Εκτιμούμε τη βασική συνάρτηση με τη μέθοδο των ελαχίστων τετραγώνων και σώζουμε τα κατάλοιπα u t Βήμα 4 Υπολογίζουμε το στατιστικό d των Durbin-Watson από την ποσότητα: 6

7 Βήμα 5 Αν η ποσότητα d < d L (ρ > 0) υπάρχει θετική αυτοσυσχέτιση Αν η ποσότητα d L < d < d U αβέβαια περιοχή Αν η ποσότητα d U < d < 4 - d U (ρ=0) Δεν υπάρχει αυτοσυσχέτιση Αν η ποσότητα 4 - d U < d< 4 d L αβέβαια περιοχή Αν η ποσότητα 4 d L < d (ρ<0) υπάρχει αρνητική αυτοσυσχέτιση 7

8 Έλεγχος ανεξαρτησίας του Χ 2 Ο έλεγχος αυτός ανήκει στην κατηγορία των μη παραμετρικών ελέγχων και ακολουθεί την κλασική μεθοδολογία ελέγχου ανεξαρτησίας ακολουθώντας τα παρακάτω βήματα: Βήμα 1 Γράφω τις δύο υποθέσεις για την ύπαρξη της αυτοσυσχέτισης. Ηο: Δεν υπάρχει αυτοσυσχέτιση ρ = 0 Ηα: Υπάρχει αυτοσυσχέτιση ρ 0 8

9 Βήμα 2 Σχηματίζοντας την X 2 κατανομή βρίσκω το κρίσιμο σημείο για επίπεδο σημαντικότητας 5% και βαθμούς ελευθερίας ν = 1. Βήμα 3 Εκτιμούμε τη βασική συνάρτηση με τη μέθοδο των ελαχίστων τετραγώνων και σώζουμε τα κατάλοιπα u t. Βήμα 4 Κατασκευάζω ένα πίνακα 2Χ2 και τοποθετώ τα κατάλοιπα u t στις δύο κάθετες στήλες αφού πρώτα τα χωρίσω σε θετικά και αρνητικά, και στις δύο οριζόντιες σειρές τα κατάλοιπα u t-1 αφού και αυτά τα χωρίσω σε θετικά και αρνητικά 9

10 Βήμα 5 Υπολογίζουμε την ποσότητα: Βήμα 6 Αν η ποσότητα X 2 > X 2 (1) τότε απορρίπτω την Ηο 10

11 Έλεγχος αυτοσυσχέτισης οποιασδήποτε τάξης Έλεγχος Breusch Godfrey Έλεγχος του Wald Έλεγχος των Box Pierce Έλεγχος του Wallis (αναφέρεται σε αυτοσυσχέτιση τέταρτης τάξης) 11

12 Έλεγχος Breusch Godfrey Ο έλεγχος BG ανήκει στη γενικότερη κατηγορία ελέγχων που ονομάζονται έλεγχοι των πολλαπλασιαστών του Lagrange βλέπε MFIT Ο έλεγχος αυτοσυσχέτισης των BG εφαρμόζεται και στην αυτοσυσχέτιση της μορφής AR(p) (αυτοπαλίνδρομα σχήματα p τάξης) αλλά και της μορφής MA(q) (υποδείγματα κινητού μέσου q τάξης) Ο έλεγχος αυτός χρησιμοποιεί τα κατάλοιπα από την εκτίμηση μιας παλινδρόμησης και ακολουθεί τα παρακάτω βήματα: 12

13 Βήμα 1 Γράφω τις δύο υποθέσεις για την ύπαρξη της αυτοσυσχέτισης Ηο: Δεν υπάρχει αυτοσυσχέτιση ρ 1 = ρ 2 =.ρ ρ = 0 Ηα: Υπάρχει αυτοσυσχέτιση AR(p) Ο έλεγχος για την αυτοσυσχέτιση οποιασδήποτε τάξης με τον έλεγχο BG γίνεται με την Χ 2 κατανομή. Βήμα 2 Σχηματίζοντας την X 2 κατανομή βρίσκω το κρίσιμο σημείο για επίπεδο σημαντικότητας 5% και βαθμούς ελευθερίας ν = p. 13

14 Βήμα 3 Εκτιμούμε τη βασική συνάρτηση με τη μέθοδο των ελαχίστων τετραγώνων και σώζουμε τα κατάλοιπα u t Βήμα 4 Τρέχουμε τη βοηθητική παλινδρόμηση u t = β ο + β 1 Χ 1t + β 2 Χ β η Χ ηt + ρ 1 u t-1 + ρ 2 u t-2 + ρ ρ u t-ρ + V t και παίρνουμε το R 2 Βήμα 5 Υπολογίζουμε το στατιστικό BG = (n p) R 2 Βήμα 6 Αν η ποσότητα BG > X 2 (p) τότε απορρίπτω την Ηο. 14

15 Παρατηρήσεις Ο έλεγχος των BG εφαρμόζεται ακόμη και στις περιπτώσεις που το υπόδειγμα περιλαμβάνει μεταξύ των ερμηνευτικών μεταβλητών και την εξαρτημένη μεταβλητή με χρονική υστέρηση Ο έλεγχος των BG χρησιμοποιείται ανεξάρτητα αν το σχήμα αυτοσυσχέτισης είναι AR(p) ή MA(q) Επειδή τις περισσότερες φορές δε γνωρίζουμε την τάξη της αυτοσυσχέτισης, αρχίζουμε τους ελέγχους υποθέτοντας μια μεγάλη τάξη αυτοσυσχέτισης και ακολουθούμε την διαδικασία ελέγχου BG μέχριναβρούμετηνακριβήτάξηαυτοσυσχέτισης 15

16 Εκτίμηση ενός υποδείγματος όταν υπάρχει αυτοσυσχέτιση Οι λόγοι για τους οποίους μπορεί να υπάρχει αυτοσυσχέτιση είναι οι εξής: Λαθεμένη εξειδίκευση του υποδείγματος ως προς τις μεταβλητές που περιλαμβάνει Λαθεμένη εξειδίκευση του υποδείγματος ως προς τη συναρτησιακή του σχέση Λαθεμένη εξειδίκευση του υποδείγματος ως προς τη δυναμική διάρθρωση του φαινομένου 16

17 Οι λόγοι αυτοί αναφέρονται σε λαθεμένη εξειδίκευση του υποδείγματος και όχι σε λαθεμένη εξειδίκευση της διάρθρωσης των σφαλμάτων Επομένως στην περίπτωση που η αυτοσυσχέτιση οφείλεται σε λαθεμένη εξειδίκευση του υποδείγματος πριν από την εκτίμηση για διόρθωση της αυτοσυσχέτισης θα πρέπει να γίνει διερεύνηση για τη σωστή εξειδίκευση του υποδείγματος Η μετατροπή του υποδείγματος από γραμμικό σε λογαριθμικό ή σε πολυωνυμικό ή σε δυναμικό, απαλείφει το πρόβλημα της αυτοσυσχέτισης Σε περίπτωση όμως που δεν απαλείφεται η αυτοσυσχέτιση, τότε προχωρούμε σε μεθόδους εκτίμησης που λαμβάνουν υπόψη την αυτοσυσχέτιση στα σφάλματα 17

18 Όταν τα σφάλματα ακολουθούν τα σχήματα AR(1) ή MA(1) τότε οι μέθοδοι εκτίμησης είναι: Η γενικευμένη μέθοδος των ελαχίστων τετραγώνων Η γενικευμένη μέθοδος της μέγιστης πιθανοφάνειας Όταν τα σφάλματα δεν γνωρίζουμε αν ακολουθούν τα σχήματα AR(1) ή MA(1) τότε οι μέθοδοι εκτίμησης είναι: Η εφικτή μέθοδος των ελαχίστων τετραγώνων Η εφικτή μέθοδος της μέγιστης πιθανοφάνειας Στην πράξη δεν γνωρίζουμε το σχήμα της αυτοσυσχέτισης γι αυτό και χρησιμοποιούμε τις εφικτές μεθόδους εκτίμησης οι οποίες είναι οι παρακάτω: H μέθοδος διαδικασιών σε δύο βήματα Η μέθοδος επαναληπτικών διαδικασιών 18 Η μέθοδος διαδικασιών αναζήτησης

19 Αν το σχήμα που έχουμε να εξετάσουμε είναι AR(1) τότε για τη μέθοδο των διαδικασιών ακολουθούμε τα παρακάτω δύο βήματα: Βήμα 1 Εκτιμούμε τη βασική συνάρτηση με τη μέθοδο των ελαχίστων τετραγώνων και σώζουμε τα κατάλοιπα u t. Χρησιμοποιώντας τα κατάλοιπα υπολογίζουμε το συντελεστή αυτοσυσχέτισης Theil (1971) ως εξής: 19

20 20

21 Βήμα 2 Μετασχηματίζουμε τις μεταβλητές λαμβάνοντας υπόψιν το συντελεστή αυτοσυσχέτισης και ξανατρέχουμε τη νέα συνάρτηση Για την πρώτη παρατήρηση έχουμε το μετασχηματισμό των Prais-Winsten (1954) Για τις υπόλοιπες παρατηρήσεις έχουμε το μετασχηματισμό Cochrane-Orcut (1949) Η μέθοδος των πρώτων διαφορών χρησιμοποιείται αν ο συντελεστής αυτοσυσχέτισης ρ = 1 (τέλεια θετική συσχέτιση) ή ρ = - 1 (τέλεια αρνητική συσχέτιση) οπότε έχουμε και το υπόδειγμα των κινητών μέσων δύο περιόδων Η μέθοδος Durbin Γενικεύσεις σε σχήματα αυτοσυσχέτισης μεγαλύτερης από πρώτης τάξης 21

22 Αν το σχήμα που έχουμε να εξετάσουμε είναι AR(2) τότε για τη μέθοδο των διαδικασιών ακολουθούμε τα παρακάτω δύο βήματα: Βήμα 1 Εκτιμούμε τη βασική συνάρτηση με τη μέθοδο των ελαχίστων τετραγώνων και σώζουμε τα κατάλοιπα u t. Χρησιμοποιώντας τα κατάλοιπα υπολογίζουμε τους συντελεστές αυτοσυσχέτισης ως εξής: u t = p 1 u t-1 + p 2 u t-2 + V t Βήμα 2 Μετασχηματίζουμε τις μεταβλητές λαμβάνοντας υπόψιν τους συντελεστές αυτοσυσχέτισης και ξανατρέχουμε τη νέα συνάρτηση: 22

23 23

24 Μέθοδοι επαναληπτικών διαδικασιών Σύμφωναμετημέθοδοαυτήταδύοβήματαπου χρησιμοποιήσαμε στην παραπάνω μέθοδο αποτελούν την πρώτη επανάληψη Η διαδικασία αυτή επαναλαμβάνεται πολλές φορές, χρησιμοποιώντας την πληροφόρηση από την προηγούμενη επανάληψη Για το σχήμα AR(1) διακρίνουμε την επαναληπτική μέθοδο Cochrane Orcutt (MFIT) 24

25 Μέθοδοι διαδικασιών αναζήτησης Σύμφωνα με τη μέθοδο αυτή ο συντελεστής αυτοσυσχέτισης ρ δεν εκτιμάται από κάποια προηγούμενη διαδικασία, αλλά επιλέγουμε εκείνη την τιμή για το συντελεστή αυτοσυσχέτισης που αριστοποιεί κάποιο κριτήριο Η μέθοδος των Hildreth-Lu AR(1) Η μέθοδος των Zellner - Geisel MA(1) Η εφικτή μέθοδος μεγίστης πιθανοφάνειας για AR(p) και MA(q) 25

26 Αυτοπαλίνδρομα υποδείγματα υπό συνθήκη ετεροσκεδαστικότητας Το πρόβλημα της ετεροσκεδαστικότητας παρουσιάζεται συνήθως σε διαστρωματικά στοιχεία και το πρόβλημα της αυτοσυσχέτισης σε διαχρονικά στοιχεία, παρόλα αυτά υπάρχουν περιπτώσεις που η ετεροσκεδαστικότητα απαντάται και σε διαχρονικά στοιχεία Ερευνητές στην προσπάθειά τους να κατασκευάσουν υποδείγματα πρόβλεψης για χρηματοοικονομικά στοιχεία παρατήρησαν ότι σε διάφορες χρονικές περιόδους οι μεταβλητές παρουσιάζουν μεγάλη μεταβλητικότητα Αν προσπαθήσουμε να εκτιμήσουμε ένα τέτοιο υπόδειγμα πρόβλεψης θα καταλήξουμε ότι σε ορισμένες περιόδους τα σφάλματα προβλέψεων θα είναι μεγάλα (ασταθείς περίοδοι) και σε άλλες περιόδους μικρά (ήρεμοι περίοδοι), δηλαδή οι διακυμάνσεις των σφαλμάτων έτειναν να ομαδοποιούνται διαχρονικά κατά μεγέθη παρουσιάζοντας ένα είδος ετεροσκεδαστικότητας υπό συνθήκη 26

27 Με τον τρόπο αυτό δημιουργήθηκαν ορισμένα υποδείγματα που λαμβάνουν υπόψιν τους τις διακυμάνσεις αυτές των διαταρακτικών όρων Τα υποδείγματα αυτά είναι τα παρακάτω: Το υπόδειγμα ARCH Το υπόδειγμα GARCH Το υπόδειγμα GARCH-M 27