Γραμμικά Μοντέλα Χρονοσειρών και Αυτοσυσχέτισης ΜΕΤΑΠΤΥΧΙΑΚΗ ΔΙΠΛΩΜΑΤΙΚΗ ΕΡΓΑΣΙΑ. Σταυρούλα Γαζή

Transcript

1 ΠΑΝΕΠΙΣΤΗΜΙΟ ΠΑΤΡΩΝ ΣΧΟΛΗ ΘΕΤΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ΤΜΗΜΑ ΜΑΘΗΜΑΤΙΚΩΝ Δ.Π.Μ.Σ. : «ΜΑΘΗΜΑΤΙΚΑ των ΥΠΟΛΟΓΙΣΤΩΝ και των ΑΠΟΦΑΣΕΩΝ» Κατεύθυνση : ΣΤΑΤΙΣΤΙΚΗ και ΕΠΙΧΕΙΡΙΣΙΑΚΗ ΕΡΕΥΝΑ Γραμμικά Μοντέλα Χρονοσειρών και Αυτοσυσχέτισης ΜΕΤΑΠΤΥΧΙΑΚΗ ΔΙΠΛΩΜΑΤΙΚΗ ΕΡΓΑΣΙΑ Σταυρούλα Γαζή Επιβλέπων : Φίλιππος Αλεβίζος Αναπληρωτής Καθηγητής Πάτρα, Μάρτιος 205

2 ΕΥΧΑΡΙΣΤΙΕΣ Θα ήθελα να ευχαριστήσω θερμά τον κ. Φίλιππο Αλεβίζο που με εμπιστεύτηκε για την εργασία και μου παρείχε τις πολύτιμες γνώσεις του και την βοήθειά του σε οποιοδήποτε πρόβλημα αντιμετώπισα. Η καθοδήγησή του υπήρξε καθοριστική και η συνεργασία μας σε όλη τη διάρκειά της υπήρξε άψογη. Επίσης, θα ήθελα να ευχαριστήσω την οικογένεια μου και ιδιαιτέρως τη μητέρα μου Μαρία και την θεία μου Ακριβή, καθώς και τον σύντροφό μου Κώστα για την υποστήριξη και τη συμπαράστασή τους όλον αυτό τον καιρό. Είναι βέβαιο ότι χωρίς εκείνους στο πλευρό μου δεν θα είχα καταφέρει τίποτα σημαντικό έως τώρα. Σταυρούλα Γαζή

3 ΠΕΡΙΛΗΨΗ Ο σκοπός αυτής της μεταπτυχιακής εργασίας είναι διπλός και συγκεκριμένα αφορά στη μελέτη του απλού / γενικευμένου πολλαπλού μοντέλου παλινδρόμησης όταν σε αυτό παραβιάζεται μια από τις συνθήκες των Gauss-Markov και πιο συγκεκριμένα όταν,, και στην ανάλυση χρονοσειρών. Αρχικά, γίνεται συνοπτική αναφορά στο απλό και στο πολλαπλό γραμμικό μοντέλο παλινδρόμησης, στις ιδιότητες καθώς και στις εκτιμήσεις των συντελεστών παλινδρόμησης. Περιγράφονται οι ιδιότητες των τυχαίων όρων όπως μέση τιμή, διασπορά, συντελεστές συσχέτισης κ.α., εφόσον υπάρχει παραβίαση της ιδιότητας της συνδιασποράς αυτών. Τέλος, περιγράφεται ο έλεγχος για αυτοσυσχέτιση των τυχαίων όρων των Durbin-Watson καθώς και μια ποικιλία διορθωτικών μέτρων με σκοπό την εξάλειψή της. Στο δεύτερο μέρος, αρχικά αναφέρονται βασικές έννοιες της θεωρίας των χρονοσειρών. Στη συνέχεια, γίνεται ανάλυση διαφόρων στάσιμων χρονοσειρών και συγκεκριμένα, ξεκινώντας από το λευκό θόρυβο, παρουσιάζονται οι χρονοσειρές κινητού μέσου (ΜΑ), οι αυτοπαλινδρομικές χρονοσειρές (ΑR), οι χρονοσειρές ARMA, καθώς και η γενική περίπτωση μη στάσιμων χρονοσειρών, των ΑRΙΜΑ χρονοσειρών και παρατίθενται συνοπτικά τα πρώτα στάδια ανάλυσης μιας χρονοσειράς για κάθε μια από τις περιπτώσεις αυτές. Η εργασία αυτή βασίστηκε σε δύο σημαντικά βιβλία διακεκριμένων επιστημών, του κ. Γεώργιου Κ. Χρήστου, Εισαγωγή στην Οικονομετρία (2007) και των

4 ΠΕΡΙΕΧΟΜΕΝΑ ΚΕΦΑΛΑΙΟ ΤΟ ΚΛΑΣΣΙΚΟ ΓΡΑΜΜΙΚΟ ΜΟΝΤΕΛΟ ΚΑΙ ΤΟ ΠΡΟΒΛΗΜΑ ΤΗΣ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ ΕΙΣΑΓΩΓΗ ΑΠΛΟ ΓΡΑΜΜΙΚΟ ΜΟΝΤΕΛΟ ΠΑΛΙΝΔΡΟΜΗΣΗΣ ΠΟΛΛΑΠΛΟ ΓΡΑΜΜΙΚΟ ΜΟΝΤΕΛΟ ΠΑΛΙΝΔΡΟΜΗΣΗΣ ης ΤΑΞΗΣ ΑΥΤΟΠΑΛΙΝΔΡΟΜΑ ΜΟΝΤΕΛΑ ΣΦΑΛΜΑΤΟΣ....4 ΕΛΕΓΧΟΣ ΤΗΣ ΠΑΡΑΜΕΤΡΟΥ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ P DURBIN WATSON TEST ΠΡΟΣΘΗΚΗ ΑΝΕΞΑΡΤΗΤΩΝ ΜΕΤΑΒΛΗΤΩΝ ΧΡΗΣΗ ΜΕΤΑΣΧΗΜΑΤΙΣΜΕΝΩΝ ΜΕΤΑΒΛΗΤΩΝ ΠΡΟΣΕΓΓΙΣΗ COCHRANE - ORCUTT ΠΡΟΣΕΓΓΙΣΗ HILDRETH - LU ΠΡΟΣΕΓΓΙΣΗ ΠΡΩΤΩΝ ΔΙΑΦΟΡΩΝ ΣΥΓΚΡΙΣΗ ΤΩΝ ΤΡΙΩΝ ΜΕΘΟΔΩΝ ΠΡΟΒΛΕΨΕΙΣ ΜΕ ΑΥΤΟΣΥΣΧΕΤΙΣΜΕΝΟΥΣ ΤΥΧΑΙΟΥΣ ΟΡΟΥΣ ΑΝΑΛΥΣΗ ΧΡΟΝΟΣΕΙΡΩΝ ΟΡΙΣΜΟΣ ΧΡΟΝΟΣΕΙΡΑΣ ΒΑΣΙΚΑ ΧΑΡΑΚΤΗΡΙΣΤΙΚΑ ΧΡΟΝΟΣΕΙΡΑΣ ΣΥΣΧΕΤΙΣΗ ΣΕ ΧΡΟΝΟΣΕΙΡΑ... 44

5 2.3 ΑΝΑΛΥΣΗ ΒΑΣΙΚΩΝ ΣΤΑΣΙΜΩΝ ΧΡΟΝΟΣΕΙΡΩΝ ΛΕΥΚΟΣ ΘΟΡΥΒΟΣ ΑΥΤΟΠΑΛΙΝΔΡΟΜΕΣ ΧΡΟΝΟΣΕΙΡΕΣ ΑR ΤΑΞΗΣ P ΑΥΤΟΠΑΛΙΝΔΡΟΜΕΣ ΧΡΟΝΟΣΕΙΡΕΣ ΑR ΠΡΩΤΗΣ ΤΑΞΗΣ ΜΕΡΙΚΗ ΑΥΤΟΣΥΣΧΕΤΙΣΗ AR ΔΙΑΔΙΚΑΣΙΑΣ ΕΛΕΓΧΟΣ ΣΗΜΑΝΤΙΚΟΤΗΤΑΣ ΣΥΝΤΕΛΕΣΤΩΝ ΑΥΤΟΣΥΣΧΕΤΙΣΕΩΣ ΕΚΤΙΜΗΣΗ ΥΠΟΔΕΙΓΜΑΤΩΝ AR ΧΡΟΝΟΣΕΙΡΕΣ ΚΙΝΗΤΟΥ ΜΕΣΟΥ (ΜΑ) ΧΡΟΝΟΣΕΙΡΕΣ ΜΑ ΠΡΩΤΗΣ ΤΑΞΗΣ ΧΡΟΝΟΣΕΙΡΕΣ ΜΑ Q ΤΑΞΗΣ ΜΕΡΙΚΗ ΑΥΤΟΣΥΣΧΕΤΙΣΗ MA ΔΙΑΔΙΚΑΣΙΑΣ ΕΚΤΙΜΗΣΗ ΥΠΟΔΕΙΓΜΑΤΩΝ MA ΥΠΟΔΕΙΓΜΑΤΑ ARMA ΑΝΑΛΥΣΗ ΜΗ ΣΤΑΣΙΜΩΝ ΧΡΟΝΟΣΕΙΡΩΝ ΤΥΧΑΙΟΣ ΠΕΡΙΠΑΤΟΣ ΟΛΟΚΛΗΡΩΜΕΝΕΣ ΧΡΟΝΟΣΕΙΡΕΣ ΤΑΞΗΣ d ΥΠΟΔΕΙΓΜΑΤΑ ARIMA ΜΕΘΟΔΟΛΟΓΙΑ BOX JENKINS ΒΙΒΛΙΟΓΡΑΦΙΑ

6 ΚΕΦΑΛΑΙΟ ΕΙΣΑΓΩΓΗ Σε βασικά μοντέλα παλινδρόμησης υποθέτουμε ότι οι τυχαίοι όροι ε t, είναι είτε ασυσχέτιστες τυχαίες μεταβλητές, είτε ανεξάρτητες κανονικές τυχαίες μεταβλητές. Σε επιχειρηματικά /οικονομικά προβλήματα όμως, πολλές εφαρμογές παλινδρόμησης περιλαμβάνουν δεδομένα χρονοσειρών. Για τέτοια δεδομένα, η υπόθεση των ασυσχέτιστων ή ανεξάρτητων τυχαίων όρων συχνά δεν είναι σωστή, καθώς συχνά συσχετίζονται θετικά με την πάροδο του χρόνου. Οι τυχαίοι όροι που συσχετίζονται με το χρόνο ονομάζονται αυτοσυσχετισμένοι τυχαίοι όροι. Μια σημαντική αιτία των θετικά αυτοσυσχετισμένων τυχαίων όρων στις επιχειρησιακές /οικονομικές εφαρμογές παλινδρόμησης που περιλαμβάνουν χρονοσειρές, είναι η παράλειψη μιας ή περισσοτέρων βασικών μεταβλητών από το μοντέλο. Όταν οι time-order επιπτώσεις μιας «χαμένης» βασικής μεταβλητής είναι θετικά συσχετισμένες, οι τυχαίοι όροι του μοντέλου παλινδρόμησης τείνουν να έχουν θετική αυτοσυσχέτιση από τη στιγμή που περιλαμβάνουν τις επιπτώσεις των «χαμένων» μεταβλητών. Μια άλλη αιτία θετικά αυτοσυσχετισμένων τυχαίων όρων σε οικονομικά δεδομένα είναι η παρουσία συστηματικής κάλυψης σφαλμάτων στις εξαρτημένες μεταβλητές των χρονοσειρών, τα οποία σφάλματα τείνουν να είναι θετικά συσχετισμένα με τον χρόνο. Θα ξεκινήσουμε την ανάλυση αυτής της εργασίας, αναφέροντας επιγραμματικά βασικά μοντέλα παλινδρόμησης, ιδιότητες, ορισμούς και την εκτίμηση των συντελεστών παλινδρόμησης των μοντέλων αυτών με τη μέθοδο των ελαχίστων τετραγώνων. 6

7 ΤΟ ΚΛΑΣΣΙΚΟ ΓΡΑΜΜΙΚΟ ΜΟΝΤΕΛΟ ΚΑΙ ΤΟ ΠΡΟΒΛΗΜΑ ΤΗΣ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ. ΑΠΛΟ ΓΡΑΜΜΙΚΟ ΜΟΝΤΕΛΟ ΠΑΛΙΝΔΡΟΜΗΣΗΣ Θεωρούμε το βασικό μοντέλο παλινδρόμησης όπου υπάρχει μια μόνο ανεξάρτητη μεταβλητή και η συνάρτηση παλινδρόμησης είναι γραμμική. Το μοντέλο μπορεί να παρασταθεί ως εξής : (.) όπου, είναι η τιμή της εξαρτημένης μεταβλητής στην i-οστή δοκιμή και άγνωστοι σταθεροί συντελεστές είναι η τιμή της ανεξάρτητης μεταβλητής στην i-οστή δοκιμή είναι ένα τυχαίο σφάλμα για το οποίο ισχύουν οι υποθέσεις Gauss - Markov με : Ε { },, Ένα μοντέλο που έχει γραμμικούς συντελεστές και γραμμική ανεξάρτητη μεταβλητή, καλείται μοντέλο ης τάξης. Για να βρούμε καλούς εκτιμητές για τις παραμέτρους παλινδρόμησης, χρησιμοποιούμε τη μέθοδο των ελαχίστων τετραγώνων. Για τις παρατηρήσεις της κάθε περίπτωσης, η μέθοδος των ελαχίστων τετραγώνων θεωρεί ότι η απόκλιση των από την αναμενόμενη τιμή είναι. 7

8 ΚΕΦΑΛΑΙΟ Ειδικότερα, η μέθοδος των ελαχίστων τετραγώνων απαιτεί να εξετάσουμε το άθροισμα των τετραγωνικών αποκλίσεων, δηλαδή το. Οι εκτιμητές και των και αντίστοιχα, είναι εκείνες οι τιμές που ελαχιστοποιούν το παραπάνω άθροισμα για τις δεδομένες παρατηρήσεις του δείγματος. Χρησιμοποιώντας την αναλυτική προσέγγιση, μπορεί να αποδειχθεί για το μοντέλο παλινδρόμησης (.), ότι οι εκτιμητές και δίνονται από τις ακόλουθες εξισώσεις (.2α) (.2β) από τις οποίες προκύπτουν οι ακόλουθοι τύποι για τους εκτιμητές και : (.3α) (.3β) όπου και είναι οι μέσοι όροι των και παρατηρήσεων. Οι εκτιμητές είναι αμερόληπτοι και έχουν ελάχιστη διασπορά σε σχέση με άλλους αμερόληπτους γραμμικούς εκτιμητές, ως εκ τούτου : και 8

9 ΤΟ ΚΛΑΣΣΙΚΟ ΓΡΑΜΜΙΚΟ ΜΟΝΤΕΛΟ ΚΑΙ ΤΟ ΠΡΟΒΛΗΜΑ ΤΗΣ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ Εκτιμώντας τη διασπορά της κατανομής του δείγματος για το και το, οι αμερόληπτοι εκτιμητές των διασπορών των δύο εκτιμητών είναι αντιστοίχως : και -2 ΠΟΛΛΑΠΛΟ ΓΡΑΜΜΙΚΟ ΜΟΝΤΕΛΟ ΠΑΛΙΝΔΡΟΜΗΣΗΣ Θεωρούμε τώρα την περίπτωση ότι υπάρχουν p- ανεξάρτητες μεταβλητές. Κατά συνέπεια, ορίζουμε το πολλαπλό γραμμικό μοντέλο παλινδρόμησης, με κανονικούς τυχαίους όρους : (.4) Αυτό το μοντέλο, όπως αναφέρεται, περικλείει μια ευρεία ποικιλία από περιπτώσεις, τα αποτελέσματα των οποίων για να τα παρουσιάσουμε, ορίζουμε τους ακόλουθους πίνακες : 9

10 ΚΕΦΑΛΑΙΟ Επομένως, το πολλαπλό γραμμικό μοντέλο (.4) με τη χρήση των παραπάνω πινάκων γράφεται : όπου, είναι το διάνυσμα των εξαρτημένων μεταβλητών β είναι το διάνυσμα των συντελεστών Χ είναι ο πίνακας των ανεξάρτητων μεταβλητών ε είναι το διάνυσμα των ανεξάρτητων κανονικών τυχαίων μεταβλητών με και πίνακα διασπορών-συνδιασπορών : { } nxn Το κριτήριο των ελαχίστων τετραγώνων γενικεύεται στο πολλαπλό γραμμικό μοντέλο παλινδρόμησης για το άθροισμα των n τετραγωνικών αποκλίσεων, όπως ακολουθεί : Όπως και στο απλό γραμμικό μοντέλο οι εκτιμητές των είναι οι τιμές εκείνες που ελαχιστοποιούν το παραπάνω άθροισμα. Ορίζουμε, λοιπόν, το διάνυσμα, των συντελεστών των εκτιμωμένων ελαχίστων τετραγώνων της παλινδρόμησης, όπως ακολουθεί : 0

11 ΤΟ ΚΛΑΣΣΙΚΟ ΓΡΑΜΜΙΚΟ ΜΟΝΤΕΛΟ ΚΑΙ ΤΟ ΠΡΟΒΛΗΜΑ ΤΗΣ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ Το διάνυσμα είναι αμερόληπτος εκτιμητής του β διανύσματος με και ο πίνακας διασπορών συνδιασπορών ορίζεται ως εξής : 2 2 {b0} {b,b0} {b} {b p,b 0} pxp {b {b 0 2 {b p,b },b } } {b {b,b 2 0,b {b p p p } } } Ο εκτιμώμενος πίνακας διασπορών - συνδιασπορών είναι : s 2 2 s {b0} s{b,b0} {b} s{b p,b0} pxp s{b s s{b 0 2,b {b p },b } } s{b s{b s 2 0,b,b {b p p p } } }.3 ης ΤΑΞΗΣ ΑΥΤΟΠΑΛΙΝΔΡΟΜΑ ΜΟΝΤΕΛΑ ΣΦΑΛΜΑΤΟΣ Το γενικευμένο απλό γραμμικό μοντέλο παλινδρόμησης με μια ανεξάρτητη μεταβλητή, όταν οι τυχαίοι όροι ακολουθούν ης τάξης αυτοπαλίνδρομη διαδικασία είναι: (.5)

12 ΚΕΦΑΛΑΙΟ όπου, παράμετρος για την οποία ισχύει ανεξάρτητοι όροι, τ.ω. Παρατηρούμε ότι το γενικευμένο μοντέλο παλινδρόμησης είναι πανομοιότυπο με το απλό γραμμικό μοντέλο παλινδρόμησης (.), εκτός από τη δομή των τυχαίων όρων. Κάθε όρος σφάλματος του μοντέλου (.5) περιέχει ένα μέρος του προηγούμενου τυχαίου όρου (όταν ) συν το διαταρακτικό όρο. Η παράμετρος καλείται παράμετρος αυτοσυσχέτισης. Το γενικευμένο πολλαπλό μοντέλο παλινδρόμησης ακολουθούν αυτοπαλίνδρομο μοντέλο ης τάξης είναι : όταν οι τυχαίοι όροι (.6) όπου, και ανεξάρτητοι όροι, τ.ω. Έτσι, όπως και προηγουμένως, το γενικευμένο πολλαπλό μοντέλο παλινδρόμησης είναι πανομοιότυπο με το πολλαπλό μοντέλο παλινδρόμησης (.4), εκτός από τη δομή των τυχαίων όρων. Τα παραπάνω μοντέλα παλινδρόμησης (.5) και (.6) καλούνται γενικευμένα μοντέλα παλινδρόμησης γιατί οι τυχαίοι όροι, συσχετίζονται μεταξύ τους ανά δύο. Παρόλα αυτά, έχουν μέσο όρο μηδέν και σταθερή διασπορά : (.7) (.8) 2

13 ΤΟ ΚΛΑΣΣΙΚΟ ΓΡΑΜΜΙΚΟ ΜΟΝΤΕΛΟ ΚΑΙ ΤΟ ΠΡΟΒΛΗΜΑ ΤΗΣ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ Αξίζει να παρατηρήσουμε ότι η διασπορά των αυτοσυσχέτισης., είναι συνάρτηση της παραμέτρου Η συνδιασπορά ανάμεσα σε γειτονικούς τυχαίους όρους και είναι : (.9) Οι συντελεστές συσχέτισης μεταξύ των και, που συμβολίζονται με, ορίζονται ως εξής : (.0) Μέσω της σχέσης (.8) και της (.9), της διασποράς και της συνδιασποράς των τυχαίων όρων αντίστοιχα, ο τύπος του συντελεστή συσχέτισης γίνεται : (.) Έτσι, η παράμετρος αυτοσυσχέτισης γειτονικών τυχαίων όρων. είναι ο συντελεστής συσχέτισης μεταξύ Η συνδιασπορά μεταξύ των τυχαίων όρων που απέχουν περιόδους, δίνεται από τον τύπο :, (.2) 3

14 ΚΕΦΑΛΑΙΟ και αντίστοιχα, ο συντελεστής συσχέτισης μεταξύ και, είναι :, (.3) Έτσι, όταν το είναι θετικό, όλοι οι τυχαίοι όροι συσχετίζονται και όσο πιο μεγάλη είναι η απόστασή τους, τόσο μικρότερη είναι η μεταξύ τους συσχέτιση. Η μοναδική περίπτωση στην οποία, οι τυχαίοι όροι των μοντέλων παλινδρόμησης (.5) και (.6), είναι ασυσχέτιστοι είναι όταν. Στη συνέχεια, παρουσιάζεται ο πίνακας διασπορών - συνδιασπορών των τυχαίων όρων για τα γενικευμένα αυτοπαλίνδρομα μοντέλα ης τάξης (.5) και (.6) : 2 { } n nxn n2 2 n3 n n2 (.4) όπου, Αξίζει να σημειωθεί, ότι ο πίνακας διασπορών συνδιασπορών (.4), αντανακλά τη γενικευμένη φύση των μοντέλων παλινδρόμησης (.5) και (.6) περιέχοντας μη μηδενικούς όρους συνδιασπορών. Είναι διδακτικό να επεκτείνουμε τον ορισμό της ης τάξης αυτοπαλίνδρομου τυχαίου όρου : 4

15 ΤΟ ΚΛΑΣΣΙΚΟ ΓΡΑΜΜΙΚΟ ΜΟΝΤΕΛΟ ΚΑΙ ΤΟ ΠΡΟΒΛΗΜΑ ΤΗΣ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ Εφόσον ο ορισμός ισχύει για όλα τα t, έχουμε. Όταν αντικαταστήσουμε αυτή τη σχέση στην παραπάνω, θα προκύψει : Αντικαθιστώντας το με, θα προκύψει : Συνεχίζοντας τις αντικαταστάσεις, βρίσκουμε : (.5) Έτσι, ο όρος σφάλματος περιόδου t είναι ένας γραμμικός συνδυασμός του τρέχοντος και του προηγούμενου διαταρακτικού όρου. Όταν, υποδηλώνει ότι όσο πιο πίσω βρίσκεται η περίοδος στο παρελθόν, αναλόγως μικραίνει το βάρος του διαταρακτικού όρου κατά τον προσδιορισμό του. Η εξαγωγή της σχέσης (.7), προκύπτει απευθείας και από τη σχέση (.5), χρησιμοποιώντας το γεγονός ότι (.5) και (.6). για κάθε t, σύμφωνα με τις σχέσεις Για να αντλήσουμε τη διασπορά του τυχαίου όρου στο τύπο (.8), χρησιμοποιούμε τις υποθέσεις των μοντέλων (.5) και (.6), δηλαδή ότι, τα διασπορά. είναι ανεξάρτητα με 5

16 ΚΕΦΑΛΑΙΟ Τώρα για, το άθροισμα Τελικά, Για να αντλήσουμε την συνδιασπορά των και στο τύπο (.9), χρειάζεται να αναγνωρίσουμε ότι : Από τη σχέση (.5), έχουμε : Εφόσον Ε{ για κάθε από τις υποθέσεις ανεξαρτησίας του και το γεγονός ότι γίνεται :, ο πρώτος όρος μηδενίζεται οπότε, η παραπάνω σχέση Έτσι, από την σχέση (8) η οποία ισχύει για όλα τα t, η συνδιασπορά των δίνεται από τον τύπο : και 6

17 ΤΟ ΚΛΑΣΣΙΚΟ ΓΡΑΜΜΙΚΟ ΜΟΝΤΕΛΟ ΚΑΙ ΤΟ ΠΡΟΒΛΗΜΑ ΤΗΣ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ Η ης τάξης αυτοπαλίνδρομη προσέγγιση σφάλματος στα μοντέλα (.5) και (.6) είναι η απλούστερη. Η 2 ης τάξης προσέγγιση γίνεται : και ακολούθως ακόμα μεγαλύτερης τάξης προσεγγίσεις μπορούν να υποτεθούν..4 ΕΛΕΓΧΟΣ ΤΗΣ ΠΑΡΑΜΕΤΡΟΥ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ P.4. DURBIN WATSON TEST Ο έλεγχος Durbin Watson για την αυτοσυσχέτιση προϋποθέτει, στα ης τάξης αυτοπαλίνδρομα μοντέλα σφάλματος (.5) και (.6), τις τιμές της ανεξάρτητης μεταβλητής σταθερές. Ο έλεγχος ερευνά, στα μοντέλα (.5) και (.6), εάν η παράμετρος αυτοσυσχέτισης είναι μηδέν ή όχι. Να αναφέρουμε ότι αν τότε. Έτσι, οι τυχαίοι όροι είναι ανεξάρτητοι όταν εφόσον οι διαταρακτικοί όροι είναι ανεξάρτητοι. Επειδή οι συσχετισμένοι τυχαίοι όροι σε επιχειρήσεις και οικονομικές εφαρμογές τείνουν να δείξουν θετική συσχέτιση, γίνονται οι συνήθης εναλλακτικοί έλεγχοι: Η στατιστική συνάρτηση του ελέγχου Durbin Watson που έχει υπολογιστεί χρησιμοποιώντας τη μέθοδο των ελαχίστων τετραγώνων δίνεται από τον τύπο : 7

18 ΚΕΦΑΛΑΙΟ όπου, και ο αριθμός των περιπτώσεων. Ακριβείς τιμές είναι δύσκολο να ληφθούν για το στατιστικό, αλλά οι Durbin και Watson έχουν κατασκευάσει τα φράγματα και τέτοια ώστε η τιμή έξω από αυτά να οδηγεί σε μια σαφή απόφαση. Ο κανόνας για τον έλεγχο ανάμεσα στις εναλλακτικές είναι : Αν Αν Αν, αποδέχομαι την αποδέχομαι την, ο έλεγχος είναι ασαφής Μικρές τιμές του οδηγούν στο συμπέρασμα ότι διότι οι γειτονικοί όροι και τείνουν να έχουν το ίδιο μέγεθος όταν είναι θετικά αυτοσυσχετισμένα. Έτσι, οι διαφορές των καταλοίπων,, μειώνονται όταν, το οποίο έχει σαν αποτέλεσμα η στατιστική συνάρτηση να παίρνει μικρές τιμές..5 ΔΙΟΡΘΩΤΙΚΑ ΜΕΤΡΑ ΓΙΑ ΤΗΝ ΑΥΤΟΣΥΣΧΕΤΙΣΗ Όταν οι τυχαίοι όροι ενός μοντέλου παλινδρόμησης είναι θετικά αυτοσυσχετισμένοι, η χρήση των μεθόδου των ελαχίστων τετραγώνων προκαλεί δραστικές συνέπειες στην ερμηνεία των αποτελεσμάτων. Χαρακτηριστικά αναφέρουμε ότι : 8

19 ΤΟ ΚΛΑΣΣΙΚΟ ΓΡΑΜΜΙΚΟ ΜΟΝΤΕΛΟ ΚΑΙ ΤΟ ΠΡΟΒΛΗΜΑ ΤΗΣ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ Ενώ οι εκτιμώμενοι συντελεστές παλινδρόμησης είναι αμερόληπτοι, δεν έχουν πλέον ελάχιστη διακύμανση και για το λόγο αυτό μπορεί να είναι αναποτελεσματικοί. Η διακύμανση των τυχαίων όρων μπορεί να υποεκτιμηθεί από την εκτίμηση του. Η τυπική απόκλιση που υπολογίστηκε σύμφωνα με τη μέθοδο των ελαχίστων τετραγώνων μπορεί να υποεκτιμήσει την πραγματική απόκλιση των εκτιμημένων συντελεστών παλινδρόμησης. Τέλος, τα διαστήματα εμπιστοσύνης και οι έλεγχοι των κατανομών και που ήδη γνωρίζουμε, δεν εφαρμόζονται πλέον αυστηρά. Για την αντιμετώπιση προβλημάτων όπως αυτά που μόλις αναφέρθηκαν, στη συνέχεια θα παραθέσουμε εναλλακτικούς τρόπους απαλοιφής της αυτοσυσχέτισης των τυχαίων όρων, χωρίς αλλοιώσεις/υποεκτιμήσεις στα αποτελέσματα των εκτιμήσεων του μοντέλου παλινδρόμησης..5. ΠΡΟΣΘΗΚΗ ΑΝΕΞΑΡΤΗΤΩΝ ΜΕΤΑΒΛΗΤΩΝ Όπως αναφέρθηκε νωρίτερα, ένα βασικό πρόβλημα των αυτοσυσχετισμένων τυχαίων όρων είναι η παράλειψη μιας ή περισσοτέρων ανεξάρτητων μεταβλητών από το μοντέλο, οι οποίες έχουν χρονικά διατεταγμένες επιπτώσεις στην εξαρτημένη μεταβλητή. Όταν παρουσιάζονται αυτοσυσχετισμένοι τυχαίοι όροι, η πρώτη διορθωτική πράξη πρέπει πάντα να είναι ο έλεγχος για βασικές ανεξάρτητες μεταβλητές τις οποίες έχουμε προβλέψει. 9

20 ΚΕΦΑΛΑΙΟ Όταν μακροχρόνιες ανθεκτικές επιπτώσεις σε μια εξαρτημένη μεταβλητή δεν μπορούν να ερμηνευτούν από μια ή περισσότερες ανεξάρτητες ερμηνευτικές μεταβλητές, θα μπορούσε να προστεθεί στο μοντέλο παλινδρόμησης μια συνισταμένη τάση των ερμηνευτικών μεταβλητών είτε γραμμική είτε εκθετική. Επίσης, η προσθήκη ποιοτικών μεταβλητών που χαρακτηρίζουν εποχιακές επιδράσεις μπορεί να είναι βοηθητική στην κατάργηση ή στην μείωση της αυτοσυσχέτισης μεταξύ των τυχαίων όρων όταν η εξαρτημένη μεταβλητή εξαρτάται από εποχιακές επιπτώσεις..5.2 ΧΡΗΣΗ ΜΕΤΑΣΧΗΜΑΤΙΣΜΕΝΩΝ ΜΕΤΑΒΛΗΤΩΝ Όταν η προσθήκη ανεξάρτητων μεταβλητών δεν καταργεί την αυτοσυσχέτιση σφαλμάτων είναι απαραίτητη μια διορθωτική πράξη βασισμένη στον μετασχηματισμό των μεταβλητών. Έχουν αναπτυχθεί αρκετές διορθωτικές προσεγγίσεις με σκοπό τον μετασχηματισμό των μεταβλητών. Ακολουθούν οι παρουσιάσεις τριών από αυτές τις μεθόδους. Η ανάλυσή μας θα περιοριστεί στο απλό γραμμικό μοντέλο, αλλά η προέκταση στο πολλαπλό γραμμικό μοντέλο είναι άμεση. Οι τρεις μέθοδοι που θα περιγραφούν βασίζονται σε μια ενδιαφέρουσα ιδιότητα των ης τάξεως αυτοπαλίνδρομων τυχαίων όρων του μοντέλου παλινδρόμησης (.5). Ας υποθέσουμε την μετασχηματισμένη εξαρτημένη μεταβλητή : 20

21 ΤΟ ΚΛΑΣΣΙΚΟ ΓΡΑΜΜΙΚΟ ΜΟΝΤΕΛΟ ΚΑΙ ΤΟ ΠΡΟΒΛΗΜΑ ΤΗΣ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ Αντικαθιστώντας τις εκφράσεις και σύμφωνα με το μοντέλο παλινδρόμησης (.5), προκύπτει : Όμως, από το μοντέλο (.5),. Έτσι : (.6) όπου είναι ανεξάρτητοι διαταρακτικοί όροι. Έτσι, όταν χρησιμοποιούμε τις μετασχηματισμένες μεταβλητές,το μοντέλο παλινδρόμησης περιέχει τυχαίους όρους που είναι ανεξάρτητοι. Επιπλέον, το μοντέλο (.6) είναι ακόμα ένα απλό γραμμικό παλινδρομικό μοντέλο με καινούργια μεταβλητή, οπότε το μοντέλο (.6) γίνεται : (.7) όπου,,, και. Έτσι, με τη χρήση των μετασχηματισμένων μεταβλητών και,έχουμε αποκτήσει ένα τυπικό απλό γραμμικό μοντέλο παλινδρόμησης με ανεξάρτητους όρους σφαλμάτων. Προκειμένου να μπορέσουμε να χρησιμοποιήσουμε το μετασχηματισμένο μοντέλο (.7), είναι απαραίτητο να εκτιμήσουμε την παράμετρο αυτοσυσχέτισης εφόσον η τιμή του είναι συνήθως άγνωστη. Οι τρείς μέθοδοι που θα περιγραφούν διαφέρουν στον τρόπο που γίνεται αυτό. Συχνά, παρόλα αυτά, τα αποτελέσματα που λαμβάνουμε και από τις τρείς μεθόδους είναι παρόμοια. 2

22 ΚΕΦΑΛΑΙΟ Οι μετασχηματισμένες μεταβλητές υπολογίζονται χρησιμοποιώντας την εκτίμηση της παραμέτρου, η οποία συμβολίζεται με και προκύπτουν οι σχέσεις : και (.7.α) Στη συνέχεια το παλινδρομικό μοντέλο (.7) προσαρμόζεται στα μετασχηματισμένα δεδομένα, αποδίδοντας την εκτιμημένη συνάρτηση παλινδρόμησης : (.8) Εάν η παραπάνω συνάρτηση παλινδρόμησης εξαλείψει την αυτοσυσχέτιση μεταξύ των τυχαίων όρων, μπορούμε να μετασχηματίσουμε το προσαρμοσμένο μοντέλο παλινδρόμησης με τις αρχικές μεταβλητές όπως ακολουθεί : (.9) όπου, και (.9.α) Οι εκτιμώμενες τυπικές αποκλίσεις των συντελεστών παλινδρόμησης των αρχικών μεταβλητών μπορούν να προκύψουν από τους συντελεστές παλινδρόμησης των μετασχηματισμένων μεταβλητών όπως ακολουθεί : και 22

23 ΤΟ ΚΛΑΣΣΙΚΟ ΓΡΑΜΜΙΚΟ ΜΟΝΤΕΛΟ ΚΑΙ ΤΟ ΠΡΟΒΛΗΜΑ ΤΗΣ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ.5.2..Προσέγγιση Cochrane Orcutt Η διαδικασία Cochrane Orcutt περιλαμβάνει την επανάληψη τριών βημάτων :. Εκτίμηση του Αυτή επιτυγχάνεται παρατηρώντας ότι η σχέση, η οποία συνδέει τους τυχαίους όρους, που υποθέσαμε στο μοντέλο (.5), μπορεί να θεωρηθεί σαν παλινδρόμηση, όπου, η εξαρτημένη μεταβλητή, η ανεξάρτητη μεταβλητή, οι τυχαίοι όροι και η κλίση της ευθείας. Εφόσον και είναι άγνωστα, χρησιμοποιούμε τα κατάλοιπα και που έχουν προκύψει από τη συνήθη μέθοδο των ελαχίστων τετραγώνων ως εξαρτημένες και ανεξάρτητες μεταβλητές αντίστοιχα και την εκτίμηση του συμβολίζεται με, την παίρνουμε από τον τύπο :, η οποία (.20) 2. Εφαρμογή μετασχηματισμένου μοντέλου (.7) Χρησιμοποιούμε την εκτίμηση r του τύπου (.20), στη συνέχεια παίρνουμε τις μετασχηματισμένες μεταβλητές και και εφαρμόζουμε τη μέθοδο των ελαχίστων τετραγώνων με αυτές τις μετασχηματισμένες μεταβλητές, για να αποδώσουμε την προσαρμοσμένη συνάρτηση παλινδρόμησης (.8). 23

24 ΚΕΦΑΛΑΙΟ 3. Επανάληψη ελέγχου Ο έλεγχος Durbin Watson στη συνέχεια χρησιμοποιείται για να ελέγξει αν οι τυχαίοι όροι του μετασχηματισμένου μοντέλου είναι ασυσχέτιστοι. Αν ο έλεγχος υποδείξει ότι είναι ασυσχέτιστοι, η διαδικασία τερματίζει. Το προσαρμοσμένο μοντέλο παλινδρόμησης στις αρχικές μεταβλητές προέρχεται από τον μετασχηματισμό των συντελεστών παλινδρόμησης σύμφωνα με τον τύπο (.9). Εάν ο έλεγχος Durbin Watson υποδείξει πως υπάρχει ακόμα αυτοσυσχέτιση μετά την πρώτη επανάληψη, η παράμετρος ξαναεκτιμάται από τα νέα κατάλοιπα του προσαρμοσμένου μοντέλου παλινδρόμησης (.9) με τις αρχικές μεταβλητές, που προέρχονται από το προσαρμοσμένο μοντέλο παλινδρόμησης (.8) με τις μετασχηματισμένες μεταβλητές. Έτσι, ένα νέο πακέτο μετασχηματισμένων μεταβλητών λαμβάνεται με το καινούργιο. Αυτή η διαδικασία μπορεί να συνεχιστεί για μια ακόμα επανάληψη ή και δύο μέχρι ο έλεγχος των Durbin Watson να δείξει ότι οι τυχαίοι όροι στο μετασχηματισμένο μοντέλο είναι ασυσχέτιστοι. Εάν η διαδικασία δεν ολοκληρωθεί μετά από μια ή δύο επαναλήψεις, μια διαφορετική διαδικασία πρέπει να ακολουθηθεί. Η μέθοδος Cochrane -Orcutt δεν δουλεύει πάντα σωστά. Ένας βασικός λόγος είναι γιατί όταν οι τυχαίοι όροι είναι θετικά αυτοσυσχετισμένοι, ο εκτιμητής (20) τείνει να υποεκτιμήσει την παράμετρο αυτοσυσχέτισης. Όταν αυτή η μεροληψία είναι σημαντική, μπορεί να μειώσει σημαντικά την επίδραση της προσέγγισης των Cochrane Orcutt. Στη συνέχεια ακολουθεί ένα παράδειγμα στο οποίο επιδιορθώνεται η αυτοσυσχέτιση των τυχαίων όρων, με τη βοήθεια της προηγούμενης μεθόδου. 24

25 ΤΟ ΚΛΑΣΣΙΚΟ ΓΡΑΜΜΙΚΟ ΜΟΝΤΕΛΟ ΚΑΙ ΤΟ ΠΡΟΒΛΗΜΑ ΤΗΣ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ ΠΑΡΑΔΕΙΓΜΑ Μια εταιρεία θέλει να προβλέψει τις πωλήσεις της με την βοήθεια των αντίστοιχων βιομηχανικών πωλήσεων του κλάδου της. Ένα τμήμα των εποχιακά προσαρμοσμένων τριμηνιαίων δεδομένων των πωλήσεων της εταιρείας και των βιομηχανικών πωλήσεων κατά τη περίοδο παρουσιάζονται στον πίνακα που ακολουθεί. Θεωρώντας τις πωλήσεις της εταιρείας ως την εξαρτημένη μεταβλητή και τις βιομηχανικές πωλήσεις ως την ανεξάρτητη μεταβλητή, με τη μέθοδο των ελαχίστων τετραγώνων η εξίσωση παλινδρόμησης της ως προς θα είναι. Στις οικονομικές αναλύσεις θεωρούμε ότι οι τυχαίοι όροι είναι θετικά αυτοσυχετισμένοι, εφόσον χρησιμοποιούνται οι κατάλληλες συναρτήσεις παλινδρόμησης. Τα κατάλοιπα τελευταία στήλη του πίνακα που ακολουθεί. του δείγματος παρουσιάζονται στην Έτος t Y t X t e t Αρχικά, θα κάνουμε τον έλεγχο Durbin - Watson για αυτοσυσχέτιση των τυχαίων όρων, θεωρώντας τις εναλλακτικές : και Υπολογίζουμε τη στατιστική συνάρτηση από τον τύπο :. 25

26 ΚΕΦΑΛΑΙΟ Τελικά προκύπτει. Για επίπεδο σημαντικότητας 0.0, και βαθμούς ελευθερίας, από κατάλληλο πίνακα φραγμάτων βρίσκουμε ότι : και Παρατηρούμε ότι το οπότε σύμφωνα με τη σχέση, αν αποδέχομαι την, απορρίπτουμε την μηδενική υπόθεση και συμπεραίνουμε ότι ισχύει η εναλλακτική, δηλαδή οι τυχαίοι όροι είναι θετικά αυτοσυσχετισμένοι. Στη συνέχεια θα προσπαθήσουμε να εξαλείψουμε την αυτοσυσχέτιση, κάνοντας χρήση ορισμένων διορθωτικών μέτρων όπως, τον μετασχηματισμό των μεταβλητών. Θεωρούμε τις μετασχηματισμένες μεταβλητές που προκύπτουν από τους τύπους και Επειδή όμως ο συντελεστής συσχέτισης είναι άγνωστος θα τον εκτιμήσουμε με το δειγματικό συντελεστή συσχέτισης, οπότε οι μετασχηματισμένες θα υπολογιστούν τελικά από τις σχέσεις (.7.α). Ο υπολογισμός του γίνεται με τη βοήθεια του τύπου (.20) της μεθόδου των Cochrane Orcutt, δηλαδή : Συνεπώς, και. 26

27 ΤΟ ΚΛΑΣΣΙΚΟ ΓΡΑΜΜΙΚΟ ΜΟΝΤΕΛΟ ΚΑΙ ΤΟ ΠΡΟΒΛΗΜΑ ΤΗΣ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ Στον πίνακα που ακολουθεί παρουσιάζονται οι μετασχηματισμένες μεταβλητές, με τη χρήση των οποίων θα υπολογίσουμε την νέα εξίσωση παλινδρόμησης. Έτος t Y t X t Y ' t X ' t e t Εφαρμόζοντας και πάλι τη συνήθη μέθοδο των ελαχίστων τετραγώνων, προκύπτει τελικά η εξίσωση για την οποία επαναλαμβάνουμε εκ νέου τον έλεγχο Durbin-Watson, θεωρώντας και πάλι τις εναλλακτικές : Η στατιστική συνάρτηση παίρνει τώρα την τιμή.65. Από τον πίνακα φραγμάτων των D W, για επίπεδο σημαντικότητας 0.0, βρίσκουμε ότι τα νέα φράγματα παίρνουν τις τιμές : και Παρατηρούμε ότι το οπότε σύμφωνα με τη σχέση αν, αποδέχομαι την, αποδεχόμαστε την μηδενική υπόθεση δηλαδή οι τυχαίοι όροι δεν είναι αυτοσυσχετισμένοι. 27

28 ΚΕΦΑΛΑΙΟ Αφού τελικά διορθώσαμε το πρόβλημα της αυτοσυσχέτισης με τον μετασχηματισμό των μεταβλητών, θα χρησιμοποιήσουμε τις σχέσεις (.9) και (.9.α) για να βρούμε την εξίσωση παλινδρόμησης μεταξύ των αρχικών μεταβλητών, η οποία τελικά είναι προσέγγιση Hildreth-Lu Η διαδικασία των Hildreth Lu εκτιμά την παράμετρο αυτοσυσχέτισης για τη χρήση των μετασχηματισμένων μεταβλητών (.7.α). Η τιμή της παραμέτρου, η οποία επιλέγεται από την διαδικασία, είναι η μοναδική που ελαχιστοποιεί το άθροισμα τετραγώνων σφάλματος για το μετασχηματισμένο παλινδρομικό μοντέλο (.7) : Προγράμματα υπολογιστών είναι ικανά να βρουν την τιμή που ελαχιστοποιεί το. Εναλλακτικά, μπορεί να γίνει αριθμητική αναζήτηση, τρέχοντας επαναλαμβανόμενες παλινδρομήσεις με διαφορετικές τιμές για το με σκοπό τον προσδιορισμό της κατά προσέγγισης τιμής του που ελαχιστοποιεί το. Μόλις βρεθεί η τιμή της που ελαχιστοποιεί το, η προσαρμοσμένη συνάρτηση παλινδρόμησης που αντιστοιχεί σε αυτή τη τιμή εξετάζεται για να δούμε εάν ο μετασχηματισμός έχει εξαλείψει την αυτοσυσχέτιση. Αν ναι, η προσαρμοσμένη συνάρτηση παλινδρόμησης στις αρχικές μεταβλητές μπορεί στη συνέχεια να καθοριστεί μέσω των τύπων (.9.α). 28

29 ΤΟ ΚΛΑΣΣΙΚΟ ΓΡΑΜΜΙΚΟ ΜΟΝΤΕΛΟ ΚΑΙ ΤΟ ΠΡΟΒΛΗΜΑ ΤΗΣ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ Αξίζει να παρατηρούμε ότι η προσέγγιση των Hildreth Lu σε σχέση με αυτή των Cochrane Orcutt, δεν απαιτεί καμία επανάληψη από τη στιγμή που υπολογιστεί η εκτίμηση της παραμέτρου αυτοσυσχέτισης. Από διάφορα παραδείγματα έχει παρατηρηθεί ότι συχνά, το σαν συνάρτηση του είναι αρκετά σταθερό σε μια ευρεία περιοχή γύρω από την εκάστοτε ελάχιστη τιμή του. Αυτό αποδεικνύει ότι δεν χρειάζεται να είναι υπερβολικά μικρή η βέλτιστη τιμή για το, εκτός αν υπάρχει ιδιαίτερο ενδιαφέρον για το σημείο τομής, μιας και η εκτίμηση του επηρεάζεται από την τιμή του. Θα επαναλάβουμε το παράδειγμα με την εταιρείας, εφαρμόζοντας όμως την μέθοδο των Hildreth-Lu, με σκοπό τη σύγκριση τους για τον εντοπισμό της βέλτιστης μεθόδου ανά πρόβλημα. ΠΑΡΑΔΕΙΓΜΑ Ο πίνακας που ακολουθεί περιέχει τα αποτελέσματα της παλινδρόμησης για την μέθοδο Hildreth-Lu αφού προσαρμόσουμε το μετασχηματισμένο μοντέλο παλινδρόμησης (.7) στα δεδομένα της εταιρείας για διάφορες τιμές της παραμέτρου αυτοσυσχέτισης. Παρατηρούμε ότι το, το οποίο υπολογίζεται από το άθροισμα, ελαχιστοποιείται όταν το παίρνει την τιμή 0.96, οπότε θεωρούμε ως εκτίμηση του το. Δίνονται επίσης για, και. ρ SSE

30 ΚΕΦΑΛΑΙΟ Η συνάρτηση παλινδρόμησης των μετασχηματισμένων μεταβλητών είναι : όπου, και Η στατιστική συνάρτηση του ελέγχου Durbin-Watson μετά από υπολογισμούς παίρνει την τιμή.73. Για, και το ανώτερο κρίσιμο σημείο ισούται με.3, το οποίο παρατηρούμε ότι είναι μικρότερο από το στατιστικό, οπότε αποδεχόμαστε την, δηλαδή οι τυχαίοι όροι δεν αυτοσυσχετίζονται. Ως εκ τούτου, η συνάρτηση παλινδρόμησης για τις αρχικές μεταβλητές θα είναι :, με τις εκτιμώμενες τυπικές αποκλίσεις των συντελεστών παλινδρόμησης να παίρνουν τις τιμές και προσέγγιση πρώτων διαφορών Επειδή η τιμή της παραμέτρου αυτοσυσχέτισης είναι συχνά μεγάλη και το σαν συνάρτηση του είναι πολύ επίπεδο για μεγάλες τιμές της, ορισμένοι οικονομολόγοι και στατιστικοί έχουν προτείνει στο μετασχηματισμένο μοντέλο (.7) το. Καθώς, αν το, και το μετασχηματισμένο μοντέλο (7) γίνεται : (.2) όπου, και (.2.α) 30

31 ΤΟ ΚΛΑΣΣΙΚΟ ΓΡΑΜΜΙΚΟ ΜΟΝΤΕΛΟ ΚΑΙ ΤΟ ΠΡΟΒΛΗΜΑ ΤΗΣ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ Έτσι και πάλι, οι συντελεστές παλινδρόμησης μπορούν να εκτιμηθούν απευθείας με τη συνηθισμένη μέθοδο των ελαχίστων τετραγώνων. Αξίζει να παρατηρήσουμε ότι οι μετασχηματισμένες μεταβλητές (.2.α) και (.2.β) είναι οι συνήθεις πρώτες διαφορές. Έχει βρεθεί ότι η προσέγγιση των πρώτων διαφορών είναι αποτελεσματική σε μια ποικιλία εφαρμογών που μειώνουν τις αυτοσυσχετίσεις των τυχαίων όρων και βεβαίως είναι πολύ πιο απλή από τη μέθοδο των Cochrane Orcutt. Η προσαρμοσμένη συνάρτηση παλινδρόμησης στις μετασχηματισμένες μεταβλητές : μπορεί να μετατραπεί πίσω στις αρχικές μεταβλητές όπως ακολουθεί : (.22) όπου, και Τέλος, θα ολοκληρώσουμε τα διορθωτικά μέτρα για την αυτοσυσχέτιση των τυχαίων όρων, εφαρμόζοντας το παράδειγμα της εταιρείας και στην μέθοδο των πρώτων διαφορών, προκειμένου να αποκομίσουμε μια σαφή εικόνα για τις διαφορές ανάμεσα τους. ΠΑΡΑΔΕΙΓΜΑ Στον πίνακα που ακολουθεί παρουσιάζονται οι μετασχηματισμένες μεταβλητές και βασισμένες στους μετασχηματισμούς (.2.α) των πρώτων διαφορών για τα δεδομένα της εταιρείας. 3

32 ΚΕΦΑΛΑΙΟ t Y t X t Y' t = Y t - Y t- X' t = X t - X t Η εφαρμογή της μεθόδου των ελαχίστων τετραγώνων για την εκτίμηση της γραμμικής παλινδρόμησης μέσω των αρχικών μεταβλητών οδηγεί στα ακόλουθα αποτελέσματα :, καθώς και την προσαρμοσμένη συνάρτηση παλινδρόμησης για τις μετασχηματισμένες μεταβλητές : όπου, και Η στατιστική συνάρτηση των Durbin Watson για το μοντέλο παλινδρόμησης πρώτων διαφορών υπολογίζεται ότι είναι. Αυτό δείχνει ότι οι τυχαίοι όροι είναι ασυσχέτιστοι. Εφόσον, η διαδικασία των πρώτων διαφορών εξάλειψε επιτυχώς την αυτοσυσχέτιση, με τη βοήθεια του τύπου (.22), προσαρμόζουμε το μοντέλο παλινδρόμησης στις αρχικές μεταβλητές, το οποίο παίρνει τη μορφή : όπου, και 32

33 ΤΟ ΚΛΑΣΣΙΚΟ ΓΡΑΜΜΙΚΟ ΜΟΝΤΕΛΟ ΚΑΙ ΤΟ ΠΡΟΒΛΗΜΑ ΤΗΣ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ.6 ΣΥΓΚΡΙΣΗ ΤΩΝ ΤΡΙΩΝ ΜΕΘΟΔΩΝ Στον πίνακα που ακολουθεί παρουσιάζονται ορισμένα από τα βασικά αποτελέσματα παλινδρόμησης για τις τρείς μεθόδους μετασχηματισμού που παρουσιάστηκαν σε προηγούμενες παραγράφους, καθώς και η συνήθης παλινδρόμηση των ελαχίστων τετραγώνων προσαρμοσμένη όμως στις αρχικές μεταβλητές, με σκοπό τον εντοπισμό των δυνατών και των αδύνατων σημείων κάθε μιας εξ αυτών. ΜΕΘΟΔΟΙ Cochrane-Orcutt Hildreth-Lu Πρώτες διαφορές Μέθοδος ελαχ.τετραγώνων Αρχικά, παρατηρούμε ότι όλες οι εκτιμήσεις του είναι σχετικά κοντά και για τις τρείς μεθόδους. Οι εκτιμώμενες τυπικές αποκλίσεις του για τις μεθόδους των Hildreth-Lu και πρώτων διαφορών είναι αρκετά κοντά σε σχέση με την τιμή της μεθόδου των Cochrane-Orcutt και η τιμή της παλινδρόμησης των ελαχίστων τετραγώνων η μικρότερη από όλες. Αυτό βέβαια, ήταν αναμενόμενο μιας και όπως αναφέρθηκε νωρίτερα οι εκτιμήσεις των τυπικών αποκλίσεων που υπολογίστηκαν με τη συνήθη μέθοδο των ελαχίστων τετραγώνων μπορούν να προκαλέσουν σοβαρή υποτίμηση των πραγματικών τυπικών αποκλίσεων όταν οι τυχαίοι όροι είναι θετικά αυτοσυσχετισμένοι. το Θεωρητικά, όλοι οι μέθοδοι μετασχηματισμού παρέχουν την ίδια εκτίμηση για δηλαδή την διακύμανση των διαταρακτικών όρων 33

34 ΚΕΦΑΛΑΙΟ Εν κατακλείδι, οι τρείς μέθοδοι δεν παρέχουν σε όλες τις περιπτώσεις εξίσου καλά αποτελέσματα. Μια βασική τους διαφορά μπορεί να είναι ότι η μέθοδος των Cochrane Orcutt μπορεί να αποτύχει να απαλείψει την αυτοσυσχέτιση σε μια ή δύο επαναλήψεις, γεγονός το οποίο καθιστά τις μεθόδους των Hildreth-Lu και πρώτων διαφορών επικρατέστερες. Η απλότητα των υπολογισμών αποτελεί επίσης κριτήριο επιλογής μεταξύ μεθόδων που είναι ισάξιοι στην επάλειψη της αυτοσυσχέτισης των τυχαίων όρων..7 ΠΡΟΒΛΕΨΕΙΣ ΜΕ ΑΥΤΟΣΥΣΧΕΤΙΣΜΕΝΟΥΣ ΤΥΧΑΙΟΥΣ ΟΡΟΥΣ Η χρήση μοντέλων παλινδρόμησης των αυτοπαλίνδρομων σφαλμάτων είναι ιδιαιτέρως σημαντική για την επίτευξη προβλέψεων. Με αυτά τα μοντέλα, πληροφορίες σχετικές με τον τυχαίο όρο στην πιο πρόσφατη περίοδο, μπορούν να ενσωματωθούν σε προβλέψεις για την περίοδο. Αυτό εξασφαλίζει μια πιο ακριβή πρόβλεψη καθώς, όταν τα μοντέλα παλινδρόμησης αυτοπαλίνδρομων όρων είναι τα κατάλληλα, οι τυχαίοι όροι σε διαδοχικές περιόδους συσχετίζονται. Στη συνέχεια, θα εξηγήσουμε τις βασικές ιδέες που διέπουν την ανάπτυξη των προβλέψεων χρησιμοποιώντας τους αυτοσυσχετισμένους τυχαίους όρους και πάλι μέσω του απλού γραμμικού παλινδρομικού μοντέλο (.5) με τους αυτοπαλίνδρομους τυχαίους όρους. Η προέκταση στο πολλαπλό γραμμικό μοντέλο (.6) είναι άμεση. Αρχικά, κάνουμε προβλέψεις όταν έχει χρησιμοποιηθεί είτε η μέθοδος των Cochrane Orcutt είτε των Hildreth Lu για την εκτίμηση των συντελεστών παλινδρόμησης. 34

35 ΤΟ ΚΛΑΣΣΙΚΟ ΓΡΑΜΜΙΚΟ ΜΟΝΤΕΛΟ ΚΑΙ ΤΟ ΠΡΟΒΛΗΜΑ ΤΗΣ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ Αν εκφράσουμε το μοντέλο παλινδρόμησης (.5) χρησιμοποιώντας τη δομή των τυχαίων όρων προκύπτει η σχέση : Για την περίοδο, θα έχουμε : Έτσι, η κατασκευάζεται από τρείς συνιστώσες :. Την προσδοκώμενη τιμή του 2. Ένα πολλαπλάσιο του του προηγούμενου τυχαίου όρου 3. Τον ανεξάρτητο τυχαίο διαταρακτικό όρο, με Η πρόβλεψη για την περίοδο, που συμβολίζεται με, κατασκευάζεται υπολογίζοντας κάθε μια από τις προηγούμενες τρείς συνιστώσες : Δεδομένου, εκτιμούμε την προσδοκώμενη τιμή του όπως συνήθως από την συνάρτηση παλινδρόμησης, όπου και είναι οι εκτιμημένοι συντελεστές παλινδρόμησης για τις αρχικές μεταβλητές που έχουν προκύψει από τις μετασχηματισμένες μεταβλητές και σύμφωνα με τον τύπο (.9). Το εκτιμάται από το όπως στον τύπο (.20) και το εκτιμάται από το. Έτσι, το εκτιμάται από το. 35

36 ΚΕΦΑΛΑΙΟ Ο διαταρακτικός όρος έχει προσδοκώμενη τιμή μηδέν και είναι ανεξάρτητος με προηγούμενες πληροφορίες. Για το λόγο αυτό, χρησιμοποιούμε την μηδενική προσδοκώμενη τιμή του στις προβλέψεις. Έτσι, η πρόβλεψη για την περίοδο γίνεται : Ένα κατά προσέγγιση διάστημα εμπιστοσύνης για την μεταβλητή, μπορεί να επιτευχθεί με τη χρήση του συνηθισμένου διαστήματος εμπιστοσύνης, για μια νέα παρατήρηση, βασισμένο όμως στις μετασχηματισμένες παρατηρήσεις. Έτσι, τα και στον τύπο αντικαθίστανται από και όπως αυτοί ορίζονται από τους τύπους (.7.α). Τελικά το κατά προσέγγιση, θα είναι : διάστημα εμπιστοσύνης για την μεταβλητή όπου το, που ορίζεται με βάση τον προηγούμενο τύπο, εδώ βασίζεται στις μετασχηματισμένες μεταβλητές. Αξίζει να προσέξουμε τη χρήση των βαθμών ελευθερίας, μιας και υπάρχουν μόνο μετασχηματισμένες υποθέσεις και δύο βαθμοί ελευθερίας έχουν χαθεί κατά την εκτίμηση των δύο παραμέτρων της απλής γραμμικής συνάρτησης παλινδρόμησης. Προβλέψεις για δύο ή και περισσότερες περιόδους μπροστά μπορούν επίσης να αναπτυχθούν, χρησιμοποιώντας τις αναδρομικές σχέσεις του με προηγούμενους 36

37 ΤΟ ΚΛΑΣΣΙΚΟ ΓΡΑΜΜΙΚΟ ΜΟΝΤΕΛΟ ΚΑΙ ΤΟ ΠΡΟΒΛΗΜΑ ΤΗΣ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ τυχαίους όρους. Για παράδειγμα, δεδομένου η πρόβλεψη για την περίοδο βασισμένη στις εκτιμήσεις των Cochrane Orcutt ή Hildreth Lu θα είναι : Στη συνέχεια, θα ολοκληρώσουμε το πρώτο κομμάτι της εργασίας με το παράδειγμα της εταιρείας, προκειμένου να προβλέψουμε τις πωλήσεις της εταιρείας κάποιας συγκεκριμένης χρονικής περιόδου. ΠΑΡΑΔΕΙΓΜΑ Ο εμπορικός σύλλογος έχει προβλέψει ότι οι εποχιακές πωλήσεις του κλάδου της εταιρείας, το πρώτο τρίμηνο του 993 θα είναι Χ 2 = $75.3 εκατομμύρια δολάρια. Για να προβλέψουμε τις πωλήσεις της εταιρείας για t = 2, θα χρησιμοποιήσουμε την προσαρμοσμένη συνάρτηση παλινδρόμησης των Cochrane Orcutt: Αρχικά, χρειάζεται να υπολογίσουμε το : Για, η προσαρμοσμένη τιμή θα είναι : Η πρόβλεψη των πωλήσεων της εταιρείας για την περίοδο t = 2, θα είναι : 37

38 ΚΕΦΑΛΑΙΟ Θέλουμε να κατασκευάσουμε το διάστημα εμπιστοσύνης για την. Χρησιμοποιώντας τα δεδομένα από τον αντίστοιχο πίνακα των μετασχηματισμένων μεταβλητών, μετά από υπολογισμούς προκύπτει ότι. Έστω t (0.975; 7) 2.0. Έτσι, το διάστημα εμπιστοσύνης για την είναι : Έχοντας σαν δεδομένα τις πωλήσεις της εταιρείας για το τελευταίο τρίμηνο του 992 και τις πωλήσεις του κλάδου για το πρώτο τρίμηνο του 993, προβλέψαμε με ακρίβεια 95% ότι οι πωλήσεις του κλάδου της εταιρείας θα κινηθούν μεταξύ των $29.24 και $29.56 εκατομμυρίων. Στο παράδειγμα αυτό, η μέθοδος των Cochrane Orcutt που εφαρμόσαμε θα μπορούσε να αντικατασταθεί με οποιαδήποτε από τις άλλες δύο μεθόδους μετασχηματισμού, καθώς μετά από υπολογισμούς οι οποίοι παραλείπονται, το διάστημα εμπιστοσύνης για την και για τις τρείς μεθόδους σχεδόν ταυτίζεται. 38

39 ΜΟΝΤΕΛΑ ΧΡΟΝΟΣΕΙΡΩΝ 2. ΑΝΑΛΥΣΗ ΧΡΟΝΟΣΕΙΡΩΝ Η ανάλυση χρονοσειρών αποσκοπεί στην ανεύρεση των χαρακτηριστικών εκείνων που συμβάλουν στην κατανόηση της ιστορικής συμπεριφοράς μιας μεταβλητής και επιτρέπουν την πρόβλεψη μελλοντικών τιμών της. Η ανάγκη πρόβλεψης εμφανίζεται σε πολλά προβλήματα λήψης αποφάσεων. Χαρακτηριστικά παραδείγματα είναι τα ακόλουθα: Ο προγραμματισμός των παραγγελιών μιας εταιρείας που εμπορεύεται ένα προϊόν στηρίζεται σε προβλέψεις της ζήτησης του προϊόντος. Ο προγραμματισμός των δρομολογίων μιας αεροπορικής εταιρείας και του καταμερισμού του προσωπικού της στηρίζεται σε προβλέψεις της ζήτησης θέσεων σε συγκεκριμένες πτήσεις. Ο σχεδιασμός των μονάδων παραγωγής και του δικτύου διανομής μιας επιχείρησης παραγωγής ενέργειας στηρίζεται σε προβλέψεις της ζήτησης ενέργειας. Η επένδυση σε μία ή περισσότερες μετοχές ενός ιδιώτη ή μιας επιχείρησης στηρίζεται σε προβλέψεις των μελλοντικών τιμών των αξιών των μετοχών και των επιτοκίων. Η πρόβλεψη μελλοντικών συμπεριφορών στηρίζεται στην ανάλυση παρατηρήσεων που αναφέρονται στο παρελθόν (ιστορικά δεδομένα) και αποτελεί ένα ιδιαίτερο δύσκολο πρόβλημα για δύο κυρίως λόγους. 39

40 ΚΕΦΑΛΑΙΟ 2 Ο ος έχει να κάνει με τη δυσκολία αναγνώρισης των χαρακτηριστικών και των σχέσεων που διέπουν τα ιστορικά δεδομένα. Σε πολλές περιπτώσεις είναι σχεδόν αδύνατος ο διαχωρισμός των χαρακτηριστικών αυτών από τις τυχαίες διακυμάνσεις της μεταβλητής. Η μοντελοποίηση του θορύβου μπορεί να οδηγήσει σε εντελώς λανθασμένες προβλέψεις. Ο 2 ος λόγος έχει να κάνει με την αβεβαιότητα συνέχισης στο μέλλον των χαρακτηριστικών της μεταβλητής. Κάποιο γεγονός (π.χ. μια πολιτική απόφαση ή η εμφάνιση μιας τεχνολογικής καινοτομίας) μπορεί να προκαλέσει απρόβλεπτες μελλοντικές εξελίξεις. Έτσι, οι παραπάνω λόγοι δικαιολογούν την προτίμηση που δείχνουν οι ερευνητές στα απλά μοντέλα πρόβλεψης. 2.. ΟΡΙΣΜΟΣ ΧΡΟΝΟΣΕΙΡΑΣ Χρονοσειρά είναι ένα δείγμα y, y 2,.,y T, όπου ο δείκτης T παριστάνει ισαπέχοντα χρονικά σημεία ή χρονικά διαστήματα. Οι παρατηρήσεις y, y 2,.,y T είναι συγκεκριμένες τιμές των τυχαίων μεταβλητών Υ,Υ 2,..., Υ Τ και επιπλέον αυτές οι τυχαίες μεταβλητές είναι μέρος μόνο μιας άπειρης ακολουθίας τυχαίων μεταβλητών. Αυτή η άπειρη ακολουθία παριστάνεται ως {Υ Τ } και ονομάζεται στοχαστική διαδικασία. Οι παρατηρήσεις y, y 2,.,y T αναφέρονται στην έννοια του δείγματος, ενώ οι τυχαίες μεταβλητές Υ,Υ 2,..., Υ Τ αναφέρονται στην έννοια του πληθυσμού. Για παράδειγμα, στο σχήμα που ακολουθεί παρουσιάζεται το γράφημα της ετήσιας τιμής του αργού πετρελαίου σε αμερικανικά δολάρια ανά βαρέλι. 40

41 ΜΟΝΤΕΛΑ ΧΡΟΝΟΣΕΙΡΩΝ Σχήμα.: Γράφημα χρονοσειράς τιμής αργού πετρελαίου σε δολάρια ανά βαρέλι. Μια στοχαστική διαδικασία μπορεί να περιγραφεί από μία συνδυασμένη συνάρτηση πιθανότητας f (y, y 2,.,y T ) η οποία αν ήταν γνωστή, τότε δε θα είχαμε κανένα πρόβλημα στην πρόβλεψη των μελλοντικών τιμών της διαδικασίας. Επειδή όμως, όχι μόνο η συνάρτηση πιθανότητας δεν είναι γνωστή, αλλά ούτε και η πλήρης εξειδίκευση της μορφής της είναι δυνατή, σκοπός της ανάλυσης χρονοσειρών είναι η διατύπωση υποδειγμάτων που να μπορούν να περιγράφουν το μηχανισμό της στοχαστικής διαδικασίας από την οποία προέκυψε η συγκεκριμένη σειρά ΒΑΣΙΚΑ ΧΑΡΑΚΤΗΡΙΣΤΙΚΑ ΧΡΟΝΟΣΕΙΡΑΣ Στασιμότητα : Oι διακυμάνσεις των τιμών της χρονοσειράς δε διαϕοροποιούνται με το χρόνο. Μια μη-στάσιμη χρονοσειρά μπορεί να έχει τάσεις, δηλαδή (αργές) αλλαγές στη μέση τιμή της με το χρόνο, π.χ. η τιμή ϐενζίνης μπορεί να έχει διακυμάνσεις λόγω της διεθνούς αγοράς αλλά και να παρουσιάζει μια αυξητική τάση σε ϐάθος χρόνου λόγω 4

42 ΚΕΦΑΛΑΙΟ 2 πληθωρισμού. Μια μη-στάσιμη χρονοσειρά μπορεί επίσης να παρουσιάζει περιοδικότητα, που όταν αναϕέρεται σε συγκεκριμένες περιόδους που σχετίζονται με φυσικές εποχές του έτους (μήνα, τρίμηνο, τετράμηνο) λέγεται και εποχικότητα, π.χ. η τιμή του όζοντος στην ατμόσϕαιρα υπόκειται σε εποχικές διακυμάνσεις πέρα από τις διακυμάνσεις που μπορεί να οϕείλονται στην εξέλιξη του οικοσυστήματος. Αιτιοκρατία / στοχαστικότητα : Όλες οι χρονοσειρές από πραγματικά μεγέθη περιέχουν ϑόρυβο και με αυτήν την έννοια όλες οι πραγματικές χρονοσειρές είναι στοχαστικές. Η μεγαλύτερη πρόκληση στην ανάλυση πραγματικών χρονοσειρών είναι η διερεύνηση και ταύτιση ή εντοπισμός του αιτιοκρατικού μέρους του συστήματος που παράγει τη χρονοσειρά. Όταν αυτό είναι κρυμμένο μέσα στο ϑόρυβο ή γενικότερα δεν κυριαρχεί στην εξέλιξη της χρονοσειράς, τότε ϑεωρούμε πως το σύστημα είναι στοχαστικό και περιοριζόμαστε σε στατιστική περιγραϕή του συστήματος, όπως κάναμε και για τις τυχαίες μεταβλητές στην στατική περίπτωση (ανεξάρτητες μετρήσεις ενός μεγέθους). Αν για κάποιο λόγο μπορούμε να υποθέσουμε ότι το σύστημα που παϱάγει τη χρονοσειρά είναι κυρίως αιτιοκρατικό με κάποιες στοχαστικές διαταραχές που όμως δεν κυριαρχούν στην εξέλιξη του συστήματος (και της χρονοσειράς που μελετάμε), τότε μπορούμε να χρησιμοποιήσουμε διαϕορετικές προσεγγίσεις που είναι κατάλληλες για αιτιοκρατικά δυναμικά συστήματα, π.χ. ανίχνευση κύριων περιόδων αν το σύστημα φαίνεται να είναι περιοδικό ή διερεύνηση της μη-γραμμικής δυναμικής αν το σύστημα φαίνεται να είναι χαοτικό. 42

43 ΜΟΝΤΕΛΑ ΧΡΟΝΟΣΕΙΡΩΝ Για παράδειγμα η μεταβολή της στάθμης του όζοντος στην ατμόσϕαιρα μπορεί να έχει διαφορετικές περιοδικότητες που ϑέλουμε να εντοπίσουμε με ακρίβεια (περίοδο έτους αλλά ίσως και άλλες περιόδους) και τότε καταϕεύγουμε σε μεθόδους της φασματικής ανάλυσης. Μπορεί όμως απαλείϕοντας την ετήσια εποχικότητα, να ϑεωρήσουμε ότι το σύστημα είναι στοχαστικό με ενδεχομένως κάποιες γραμμικές συσχετίσεις ϐραχείας διάρκειας που ϑα ϑέλαμε να εκτιμήσουμε και να προσαρμόσουμε κάποιο κατάλληλο στοχαστικό μοντέλο. Τέλος, μπορεί να υποθέσουμε ότι η μη-κανονικότητα της χρονοσειράς (απαλλαγμένης από την ετήσια εποχικότητα) οϕείλεται σε κάποιο μη-γραμμικό αιτιοκρατικό δυναμικό σύστημα, ενδεχομένως χαμηλής διάστασης και χαοτικό, που έχει τη δυνατότητα να παρουσιάζει φαινομενικά τυχαία συμπεριϕορά. Γραμμικότητα / μη-γραμμικότητα : Σύμφωνα με τα παραπάνω φαίνεται αυτές οι δύο έννοιες να σχετίζονται με την αιτιοκρατία και στοχαστικότητα αλλά γενικά μπορούν να ορισθούν ανεξάρτητα από αυτές. Η γραμμικότητα του συστήματος σημαίνει πως οι μεταβλητές του συστήματος (που μπορεί να μην έχουμε τη δυνατότητα να τις παρατηρήσουμε) αλληλεπιδρούν γραμμικά, δηλαδή αν εκφράζαμε το σύστημα με αναλυτική μορφή όλοι οι όροι θα ήταν γραμμικοί ως προς τις μεταβλητές του συστήματος. Σε αντίθετη περίπτωση το σύστημα είναι μη-γραμμικό. Για τη χρονοσειρά αυτό σημαίνει πως για ένα γραμμικό σύστημα ορίζουμε την εξέλιξη της χρονοσειράς ως γραμμικό συνδυασμό των προηγούμενων παρατηρήσεων της χρονοσειράς, ενώ για ένα μη-γραμμικό σύστημα μπορούμε να ορίσουμε την εξέλιξη της χρονοσειράς με μεγαλύτερη ακρίβεια αν 43

44 ΚΕΦΑΛΑΙΟ 2 ϑεωρήσουμε και τη συνδυασμένη επίδραση των προηγούμενων παρατηρήσεων σε διαϕορετικές χρονικές στιγμές ή τις ίδιες. Αρα λοιπόν ένα στοχαστικό σύστημα μπορεί να είναι γραμμικό ή μη γραμμικό και το ίδιο ισχύει για ένα αιτιοκρατικό σύστημα. Βέβαια ένα αιτιοκρατικό γραμμικό σύστημα δεν παρουσιάζει ιδιαίτερο ενδιαϕέϱον γιατί τα γραμμικά αιτιοκρατικά δυναμικά συστήματα έχουν απλές λύσεις που στην απουσία ϑορύβου μπορούμε εύκολα να εντοπίσουμε (σταθερό σημείο, περιοδικά σημεία ή τροχιές). Εδώ σημειώνεται ότι κάποια δυσκολία μπορεί να παρουσιαστεί αν το σύστημα είναι πολλών διαστάσεων, υπάρχει κάποια τυχαία διαταραχή και το πλήθος των παϱατηρήσεων είναι σχετικά μικρό. Από την άλλη μεριά, είναι ιδιαίτερα δύσκολο να εντοπίσουμε μη-γραμμικότητα σε ένα στοχαστικό σύστημα (ή διαδικασία όπως συνήθως λέγεται) αϕού ο ϑόρυβος στο σύστημα δεν επιτρέπει τον εντοπισμό πολύπλοκων μη-γραμμικών σχέσεων. Σε μια τέτοια περίπτωση ϑα πρέπει να έχουμε ορίσει μια συγκεκριμένη μη γραμμική μορϕή που ϑέλουμε να διερευνήσουμε. Συνήθως λοιπόν οι δύο κυρίαρχες κλάσεις συστημάτων που υποθέτουμε για στάσιμες χρονοσειρές είναι η γραμμική στοχαστική διαδικασία και το μη-γραμμικό δυναμικό σύστημα. 2.2 ΣΥΣΧΕΤΙΣΗ ΣΕ ΧΡΟΝΟΣΕΙΡΑ Το φαινόμενο της αυτοσυσχέτισης εμφανίζεται όταν παρουσιάζεται η κλασική υπόθεση περί ανεξαρτησίας των τιμών του διαταρακτικού όρου του υποδείγματος, 44

45 ΜΟΝΤΕΛΑ ΧΡΟΝΟΣΕΙΡΩΝ όταν, δηλαδή, κάποιες ή όλες οι διαδοχικές τιμές του σφάλματος συσχετίζονται μεταξύ τους που σημαίνει ότι η συνδιακύμανσή τους είναι διάφορη του μηδενός. Η αυτοσυσχέτιση είναι ένα φαινόμενο που παρατηρείται συνήθως στην ανάλυση στοιχείων χρονολογικών σειρών και πιο σπάνια στην ανάλυση διαστρωματικών δεδομένων. Η εμφάνιση αυτοσυσχέτισης που αφορά στοιχεία χρονολογικών σειρών αναφέρεται συχνά ως αυτοπαλινδρόμηση ή ως σειριακή συσχέτιση. Ο βαθμός εξάρτησης των τιμών του διαταρακτικού όρου μετράται με το συντελεστή αυτοσυσχέτισης : με - ρ, s 0 όπου s μια αυθαίρετη χρονική μετακίνηση είτε προς τα εμπρός είτε προς τα πίσω, δηλαδή μπορεί να είναι είτε θετικό είτε αρνητικό. Ο συντελεστής συσχέτισης δεν εξαρτάται από το t αλλά μόνο από την υστέρηση s. H σχέση που υπάρχει ανάμεσα στο συντελεστή συσχέτισης ρ και στην χρονική υστέρηση s, ονομάζεται συνάρτηση αυτοσυσχέτισης (autocorrelation function) και η γραφική της απεικόνιση ονομάζεται διάγραμμα αυτοσυσχέτισης (correlogram). Στην ανάλυση χρονολογικών σειρών η σημασία της συνάρτησης αυτοσυσχέτισης είναι πολύ μεγάλη, γιατί δείχνει τόσο το βαθμό όσο και το μήκος ή τη χρονική διάρκεια της μνήμης της στοχαστικής διαδικασίας. 45

46 ΚΕΦΑΛΑΙΟ 2 Οι ορισμοί της αυτοδιασποράς και αυτοσυσχέτισης έχουν νόημα όταν η χρονοσειρά είναι στάσιμη. Όταν δεν είναι στάσιμη δε μπορεί η αυτοσυσχέτιση (και η αυτοδιασπορά) να οριστεί ως συνάρτηση της υστέρησης αλλά ορίζεται για κάθε χρονική στιγμή t. Αν επιχειρήσουμε να υπολογίσουμε τη συνάρτηση αυτοσυσχέτισης ως προς την υστέρηση σε μια μη-στάσιμη χρονοσειρά με τάσεις, παρατηρούμε ότι έχει πολύ υψηλές τιμές και φθίνει πολύ αργά με την υστέρηση. Αυτό σημαίνει ότι υπάρχουν ισχυρές συσχετίσεις μεταξύ κοντινών χρονικά σημείων που είναι λόγο της τάσης. Αυτή η χαρακτηριστική μορφή της αυτοσυσχέτισης φαίνεται στο Σχήμα.α. Σχήμα : (α) ιάγραμμα αυτοσυσχέτισης για τη χρονοσειρά της μηνιαίας παραγωγής σιδήρου στην Αυστραλία την περίοδο Ιανουάριος Αύγουστος 995 (σε χιλιάδες τόνων). (β) ιάγραμμα αυτοσυσχέτισης για τη χρονοσειρά των πρώτων διαφορών της χρονοσειράς στο (α). ίνονται με οριζόντιες διακεκομμένες γραμμές τα όρια της αυτοσυσχέτισης χρονοσειράς iid. Αντίστοιχα η αυτοσυσχέτιση μιας (μη-στάσιμης) χρονοσειράς με έντονη περιοδικότητα ή εποχικότητα θα παρουσιάσει ταλαντώσεις με κορυφές σε υστερήσεις που είναι πολλαπλάσια της περιοδικότητας. Για παράδειγμα, παρατηρούμε στο Σχήμα 2.α, πως η αυτοσυσχέτιση της χρονοσειράς των μηνιαίων τιμών GICP την περίοδο Ιανουαρίου Αυγούστου 2005 (απαλλαγμένη από την πληθωριστική τάση) έχει χαρακτηριστικές κορυφές για υστέρηση 2 και 24.Επίσης παρατηρούμε πως εμφανίζει κορυφές για υστερήσεις 6 και 8, το οποίο δηλώνει την ύπαρξη και εξαμηνιαίου κύκλου, μικρότερης όμως ισχύος από τον ετήσιο. 46

47 ΜΟΝΤΕΛΑ ΧΡΟΝΟΣΕΙΡΩΝ Σχήμα 2: (α) ιάγραμμα αυτοσυσχέτισης για τη χρονοσειρά μηνιαίων τιμών GICP την περίοδο Ιανουαρίου Αυγούστου 2005 (απαλλαγμένη από την πληθωριστική τάση). (β) ιάγραμμα αυτοσυσχέτισης για τη χρονοσειρά υπολοίπων, όπου έχουμε αφαιρέσει από τη χρονοσειρά στο (α) την περιοδική συνιστώσα. ίνονται με οριζόντιες διακεκομμένες γραμμές τα όρια της αυτοσυσχέτισης χρονοσειράς iid(λευκού θορύβου). Όταν έχουμε μια χρονοσειρά με τάσεις ή περιοδικότητα η μορϕή της αυτοσυσχέτισης δεν περιέχει πληροϕορία για τις συσχετίσεις σε κάποιες υστερήσεις. Αυτήν την πληροϕορία μπορεί ενδεχομένως να μας τη δώσει η αυτοσυσχέτιση της χρονοσειράς των υπολοίπων. Ιδιαίτερα μας ενδιαϕέρει αν η χρονοσειρά των υπολοίπων έχει μηδενικές (γραμμικές) αυτοσυσχετίσεις. ΛΟΓΟΙ ΠΟΥ ΠΡΟΚΑΛΟΥΝ ΤΗΝ ΑΥΤΟΣΥΣΧΕΤΙΣΗ Η εσφαλμένη αλγεβρική εξειδίκευση του υποδείγματος Η παράλειψη μιας ή περισσοτέρων ερμηνευτικών μεταβλητών Η ύπαρξη συστηματικού σφάλματος μέτρησης στις μεταβλητές Η εκτίμηση μέρους των παρατηρήσεων με παρεμβολή Η κατανομή της επίδρασης τυχαίων γεγονότων σε περισσότερες από μια χρονικές περιόδους 47

48 ΚΕΦΑΛΑΙΟ ΑΝΑΛΥΣΗ ΒΑΣΙΚΩΝ ΣΤΑΣΙΜΩΝ ΧΡΟΝΟΣΕΙΡΩΝ Για να αντιμετωπίσουμε το πρόβλημα της αυτοσυσχέτισης είναι απαραίτητο να γνωρίζουμε τη μορφή της, δηλαδή τη στοχαστική διαδικασία που ακολουθούν οι τιμές του διαταρακτικού όρου της σειράς. Γενικά, υπάρχουν τρεις βασικές κατηγορίες στοχαστικών υποδειγμάτων χρονολογικών σειρών. Αυτά είναι : Tα Υποδείγματα Κινητών Μέσων ή Υποδείγματα MA (Moving Average Models) Τα Αυτοπαλίνδρομα Υποδείγματα ή Υποδείγματα AR (Autoregressive Models) Tα Μεικτά Υποδείγματα ή Υποδείγματα ΑRΜΑ (Autoregressive Moving Average Models) που είναι συνδυασμός των 2 προηγούμενων ΛΕΥΚΟΣ ΘΟΡΥΒΟΣ Κάθε στάσιμη στοχαστική διαδικασία μπορεί να εκφραστεί ως γραμμικός συνδυασμός μιας ακολουθίας ασυσχέτιστων τυχαίων μεταβλητών. Ένας τέτοιος γραμμικός συνδυασμός είναι επίσης γνωστός ως γραμμικό φίλτρο το οποίο θα μπορούσε να διατυπωθεί ως : Η πιο απλή στάσιμη χρονοσειρά, η οποία συνιστά και δομική μονάδα όλων των 48

49 ΜΟΝΤΕΛΑ ΧΡΟΝΟΣΕΙΡΩΝ υπολοίπων χρονοσειρών που θα εξετασθούν στη συνέχεια ονομάζεται λευκός θόρυβος (white noise). Η χρονοσειρά λευκού θορύβου ορίζεται από τη σχέση : εφόσον για κάθε t = 0,±,±2,. της εξής τρείς βασικές συνθήκες : ακολουθίας τυχαίων μεταβλητών ισχύουν οι (2.) (2.2) E( (2.3) Ο αριθμός των συντελεστών που είναι γνωστοί ως συντελεστές σταθμίσεως, μπορεί να είναι άπειρος ή πεπερασμένος. Αν είναι άπειρος υποθέτουμε ότι το άθροισμα τους συγκλίνει απολύτως, δηλαδή : Από τις ανωτέρω συνθήκες εξάγονται και οι τρεις βασικές ιδιότητες της χρονοσειράς λευκού θορύβου, δηλαδή ότι όλες οι παρατηρήσεις ε t, έχουν αναμενόμενη τιμή ίση με το μηδέν και σταθερή διακύμανση όλες τις χρονικές στιγμές. Ακόμη, όλες οι παρατηρήσεις ε t είναι ασυσχέτιστες μεταξύ τους, δηλαδή η αυτοσυνδιακύμανση s τάξης είναι μηδενική. 49

50 ΚΕΦΑΛΑΙΟ 2 Έτσι, μια χρονοσειρά θα ονομάζεται λευκός θόρυβος αν ικανοποιούνται οι παραπάνω τρεις συνθήκες. Εξ ορισμού, ο λευκός θόρυβος είναι στάσιμη χρονοσειρά. Η αυτοσυσχέτιση της χρονοσειράς λευκού θορύβου δίδεται από τις σχέσεις: Στο Σχήμα που ακολουθεί παρουσιάζεται το γράφημα της αυτοσυσχέτισης συναρτήσει της καθυστέρησης s για μια χρονοσειρά λευκού θορύβου. Σχήμα : Αυτοσυσχέτιση χρονοσειράς λευκού θορύβου Αν αντικατασταθεί η συνθήκη (2.3) με την αυστηρότερη της ανεξαρτησίας των παρατηρήσεων ε t προκύπτει η ανεξάρτητη (independent) χρονοσειρά λευκού θορύβου. Επιπροσθέτως, αν ισχύει και η παρακάτω συνθήκη : προκύπτει η Gaussian χρονοσειρά λευκού θορύβου. Στο σχήμα 2 παρουσιάζεται ένα τυπικό γράφημα μιας Gaussian χρονοσειράς λευκού θορύβου στην περίπτωση όπου σ 2 =. 50

51 ΜΟΝΤΕΛΑ ΧΡΟΝΟΣΕΙΡΩΝ Σχήμα 2: Τυπικό γράφημα Gaussian χρονοσειράς λευκού θορύβου με σ 2 =. Μία άλλη απλή στάσιμη χρονοσειρά προκύπτει άμεσα από την υπέρθεση μιας σταθεράς και μιας Gaussian χρονοσειράς λευκού θορύβου : + Η αναμενόμενη τιμή της εν λόγω χρονοσειράς δίδεται από τη σχέση :, ενώ η διακύμανση και η s αυτοσυνδιακύμανση δίδονται από τους τύπους (2.2) και (2.3) αντιστοίχως ΑΥΤΟΠΑΛΙΝΔΡΟΜΕΣ ΧΡΟΝΟΣΕΙΡΕΣ ΑR ΤΑΞΗΣ P Μια χρονοσειρά Υ καλείται αυτοπαλίνδρομη χρονοσειρά τάξης p και συμβολίζεται ως AR(p) όταν κάθε παρατήρηση Υ t εκφράζεται ως ένα σταθμισμένο άθροισμα μιας σταθεράς α 0, p καθυστερημένων εκδοχών της χρονοσειράς Y καθώς και μιας 5

52 ΚΕΦΑΛΑΙΟ 2 χρονοσειράς λευκού θορύβου { }. Η γενική σχέση ορισμού μιας AR(p) χρονοσειράς είναι η εξής : (2.4) Στην ανωτέρω γενική σχέση ορισμού, η χρονοσειρά { } ικανοποιεί της συνθήκες (2.) έως (2.3), εφόσον αποτελεί χρονοσειρά λευκού θορύβου. Σε μια ΑR(p) χρονοσειρά, η τρέχουσα παρατήρηση Υ t εξαρτάται από ένα επίπεδο τιμών, στο οποίο προστίθενται μια τυχαία απόκλιση ε t καθώς και οι τιμές των παρελθουσών παρατηρήσεων, που καταγράφηκαν κατά τις προηγούμενες p χρονικές στιγμές,,..., πολλαπλασιασμένες επί συγκεκριμένων σταθερών. Οι σταθερές αυτές κρίνουν και τη βαρύτητα της επίδρασης της εκάστοτε παρελθούσας παρατήρησης στην τιμή της τρέχουσας παρατήρησης. Για την AR(p) ισχύουν τα εξής: Από την τελευταία σχέση για s =, 2,,p προκύπτουν οι παρακάτω Yule-Walker εξισώσεις, οι οποίες συνιστούν ένα σύστημα p εξισώσεων, από τη λύση του οποίου προκύπτουν οι τιμές για τις αυτοσυσχετίσεις, αν είναι γνωστές οι τιμές των 52

53 ΜΟΝΤΕΛΑ ΧΡΟΝΟΣΕΙΡΩΝ συντελεστών, που είναι επίσης γνωστοί και ως συντελεστές αυτοπαλινδρόμησης. (2.5) Με τον συμβολισμό των μητρών, το παραπάνω σύστημα γράφεται ως εξής : όπου, και Αν οι αυτοσυσχετίσεις είναι γνωστές τότε οι συντελεστές αυτοπαλινδρόμησης δίνονται από τη σχέση : (2.6) Η ανάλυση ξεκινά με την απλούστερη περίπτωση AR(p) χρονοσειράς πρώτης τάξης, δηλαδή με την περίπτωση όπου p =. 53

54 ΚΕΦΑΛΑΙΟ ΑΥΤΟΠΑΛΙΝΔΡΟΜΕΣ ΧΡΟΝΟΣΕΙΡΕΣ ΑR ΠΡΩΤΗΣ ΤΑΞΗΣ Αν η αυτοσυσχέτιση για υστέρηση είναι στατιστικά μη-μηδενική, αυτό σημαίνει ότι τα στοιχεί και είναι γραμμικά συσχετισμένα και άρα μπορούμε να θεωρήσουμε πως υπάρχει κάποια εξάρτηση του από το. Το πιο απλό μοντέλο που μπορούμε να σχηματίσουμε τότε είναι το αυτοπαλίνδρομο μοντέλο τάξης, AR() (autoregressive model of order ). Η σχέση ορισμού μιας χρονοσειράς ΑR πρώτης τάξης προκύπτει άμεσα από τη γενική σχέση (2.4) θέτοντας p = : (2.7) Η συνθήκη για το συντελεστή α < εξασφαλίζει τη στασιμότητα της χρονοσειράς που περιγράφεται από το μοντέλο AR(). Αν η χρονοσειρά έχει μέση τιμή 0 (δηλαδή αν υποθέσουμε ότι η στοχαστική διαδικασία που την παράγει έχει μέση τιμή 0, μ = 0 ) τότε α 0 = 0. Για α = η AR() χρονοσειρά είναι τυχαίος περίπατος και φυσικά μη-στάσιμη. Η μέση τιμή μ, η διακύμανση καθώς και η αυτοσυνδιακύμανση s τάξης της AR() χρονοσειράς, μπορούν να υπολογισθούν με απευθείας υπολογισμό από τη σχέση (2.7) της AR() χρονοσειράς : δηλαδή Τα αποτελέσματα για τη διακύμανση, την αυτοσυνδιακύμανση s τάξης καθώς και την αυτοσυσχέτιση παραλείποντας τις πράξεις είναι τα εξής : 54

55 ΜΟΝΤΕΛΑ ΧΡΟΝΟΣΕΙΡΩΝ (, Έτσι, με δεδομένη την ισχύ της συνθήκης η αυτοσυσχέτιση συνιστά μια φθίνουσα γεωμετρική πρόοδο με πρώτο όρο το για s = 0, ενώ οι όροι τείνουν στο 0 καθώς αυξάνεται η τιμή της καθυστέρησης s. Η χρονοσειρά ΑR() έχει άπειρη μνήμη, δηλαδή καθεμία παρατήρηση Υ t συσχετίζεται με όλες τις παρελθούσες αποκλίσεις που παρατηρήθηκαν, με τη συσχέτιση να μειώνεται καθώς αυξάνεται η καθυστέρηση. Τέλος, σημειώνεται ότι θετική τιμή της παραμέτρου α σημαίνει θετική αυτοσυσχέτιση κάθε τάξης, ενώ αρνητική τιμή της παραμέτρου α σημαίνει αρνητική αυτοσυσχέτιση για τις περιττές τιμές του s και θετική για τις άρτιες τιμές του s. Στα σχήματα 3.και 3.2 παρουσιάζεται ένα τυπικό γράφημα καθώς και η αυτοσυσχέτιση ενός παραδείγματος ΑR() χρονοσειράς με 0 < α <. Αντιστοίχως, στο σχήμα 3.3 παρουσιάζεται η αυτοσυσχέτιση της AR() χρονοσειράς που προκύπτει θέτοντας την αντίθετη τιμή της παραμέτρου α. 55

56 ΚΕΦΑΛΑΙΟ 2 Σχήμα 3.: Τυπικό γράφημα της ΑR() χρονοσειράς Υ t = Y t- + ε t Σχήμα 3.2: Αυτοσυσχέτιση της ΑR() χρονοσειράς Υ t = Y t- + ε t. Σχήμα 3.3: Αυτοσυσχέτιση της ΑR() χρονοσειράς Υ t = 2-0.9Y t- + ε t. 56

57 ΜΟΝΤΕΛΑ ΧΡΟΝΟΣΕΙΡΩΝ ΜΕΡΙΚΗ ΑΥΤΟΣΥΣΧΕΤΙΣΗ AR ΔΙΑΔΙΚΑΣΙΑΣ Όλες οι αυτοπαλίνδρομες διαδικασίες έχουν συναρτήσεις αυτοσυσχετίσεως, οι οποίες βαίνουν φθίνουσες καθώς αυξάνει το μήκος της υστερήσεως s, με συνέπεια να είναι πολλές φορές δύσκολο να καθοριστεί η τάξη του υποδείγματος,που περιγράφει τη σειρά, με βάση τη συνάρτηση αυτοσυσχετίσεως. Ως ένα πρόσθετο κριτήριο για το σκοπό αυτό, χρησιμοποιείται η συνάρτηση μερικής αυτοσυσχετίσεως. Η μερική αυτοσυσχέτιση ανάμεσα στην και στην αναφέρεται στη συσχέτιση ανάμεσα στην και στην όταν έχουν αφαιρεθεί οι γραμμικές επιδράσεις των ενδιάμεσων μεταβλητών Αν παραστήσουμε με το συντελεστή μερικής αυτοσυσχετίσεως s τάξεως, δηλαδή, το συντελεστή αυτοσυσχετίσεως ανάμεσα στην και στην για s =,2,, τότε, σύμφωνα με τον παραπάνω ορισμό, είναι ο συντελεστής μερικής παλινδρομήσεως της μεταβλητής στο υπόδειγμα : Για παράδειγμα, ο συντελεστής μερικής αυτοσυσχετίσεως πρώτης τάξης προκύπτει από την παλινδρόμηση : Είναι προφανές ότι ο συντελεστής μερικής αυτοσυσχετίσεως συντελεστή αυτοσυσχετίσεως, δηλαδή : συμπίπτει με τον 57

58 ΚΕΦΑΛΑΙΟ 2 58 Ο συντελεστής μερικής αυτοσυσχετίσεως δευτέρας τάξεως προκύπτει από την παλινδρόμηση : Ο συντελεστής μερικής αυτοσυσχετίσεως τρίτης τάξεως προκύπτει από την παλινδρόμηση : κ.ο.κ. Με άλλα λόγια οι συντελεστές μερικής αυτοσυσχετίσεως προκύπτουν από διαδοχικές παλινδρομήσεις ανάμεσα στην και στην για s =,2,, δηλαδή, αρχίζοντας με και προσθέτοντας κάθε φορά μια υστέρηση. Οι συντελεστές μερικής αυτοσυσχετίσεως υπολογίζονται από τον κανόνα Cramer ως εξής : 2 22 κ.ο.κ έως, 3 p 2 p p 2 p 3 p p 2 p 2 3 p 2 p p 2 3 p 2 p 2 pp

59 ΜΟΝΤΕΛΑ ΧΡΟΝΟΣΕΙΡΩΝ Οι συντελεστές για τις διάφορες τιμές του s, είναι, συνεπώς, η συνάρτηση μερικής αυτοσυσχετίσεως. Είναι προφανές ότι, για μια αυτοπαλίνδρομη διαδικασία ρ τάξεως, η συνάρτηση μερικής αυτοσυσχετίσεως είναι μηδέν για s > ρ, σύμφωνα με τον ορισμό της μερικής αυτοσυσχετίσεως ΕΛΕΓΧΟΣ ΣΗΜΑΝΤΙΚΟΤΗΤΑΣ ΣΥΝΤΕΛΕΣΤΩΝ ΑΥΤΟΣΥΣΧΕΤΙΣΕΩΣ Στην πράξη, επειδή τόσο οι αληθινές μερικές αυτοσυσχετίσεις όσο και οι αληθινές (απλές) αυτοσυσχετίσεις δεν είναι γνωστές, χρησιμοποιούνται οι αντίστοιχες εκτιμήσεις τους από το δείγμα. Με βάση τις εκτιμήσεις αυτές, μπορεί να γίνει έλεγχος σημαντικότητας των παραμέτρων στο πληθυσμό. Για μεγάλα δείγματα οι εκτιμήσεις των αυτοσυσχετίσεων κατανέμονται κανονικά με μέσο το μηδέν και διακύμανση /Τ, όπου Τ το μέγεθος του δείγματος. Το ίδιο και για τις εκτιμήσεις, των μερικών αυτοσυσχετίσεων της AR διαδικασίας., για υστερήσεις s μεγαλύτερες από την τάξη ρ Συμβολικά, και, για s > ρ Ο έλεγχος της σημαντικότητας του συντελεστή, δηλαδή ο έλεγχος της υποθέσεως : γίνεται με τη στατιστική,. 59

60 ΚΕΦΑΛΑΙΟ 2 Για δεδομένο επίπεδο σημαντικότητας α, η απορρίπτεται αν > κρίσιμη τιμή του t. Επειδή για Τ >30 η κρίσιμη τιμή του t για α = 5% είναι περίπου ±2, η υπόθεση απορρίπτεται αν Εξάλλου, το 95% διάστημα εμπιστοσύνης είναι: Ακριβώς τα ίδια ισχύουν και για τον έλεγχο σημαντικότητας του συντελεστή μερικής αυτοσυσχετίσεως. Δηλαδή, ο συντελεστής είναι σημαντικός αν : Με βάση τον παραπάνω έλεγχο σημαντικότητας των συντελεστών μερικής αυτοσυσχετίσεως μπορεί να καθοριστεί η τάξη μιας AR διαδικασίας. Δηλαδή, εξετάζοντας την ακολοθία των τιμών για s =,2, επιλέγεται ως τάξη της σειράς αυτή που αντιστοιχεί στην τελευταία σημαντική τιμή του. Αν για παράδειγμα, η τελευταία σημαντική τιμή του t είναι για s = 2, δηλαδή ο συντελεστής είναι σημαντικός, ενώ ο δεν είναι σημαντικός, τότε συμπεραίνεται ότι η τάξη ρ του υποδείγματος είναι ΕΚΤΙΜΗΣΗ ΥΠΟΔΕΙΓΜΑΤΩΝ AR Μόλις στην προηγούμενη παράγραφο είδαμε πως μπορεί να καθοριστεί η τάξη ρ του υποδείγματος. Αν υποθέσουμε λοιπόν, ότι γνωρίζουμε την τάξη, το ερώτημα 60

61 ΜΟΝΤΕΛΑ ΧΡΟΝΟΣΕΙΡΩΝ είναι πως μπορούμε να εκτιμήσουμε τις παραμέτρους του υποδείγματος. Για το σκοπό αυτό υπάρχουν δύο τρόποι, ο ος βασίζεται στη σχέση (2.6) αντικαθιστώντας τις αυτοσυσχετίσεις με τις εκτιμήσεις από το δείγμα, οι οποίες προκύπτουν από τον τύπο : Ο 2 ος τρόπος εφαρμόζει τη μέθοδο των ελαχίστων τετραγώνων στην γενική μορφή του AR(p) υποδείγματος : καθώς μπορεί να θεωρηθεί ως ένα γραμμικό υπόδειγμα με ρ ανεξάρτητες μεταβλητές ΧΡΟΝΟΣΕΙΡΕΣ ΚΙΝΗΤΟΥ ΜΕΣΟΥ (ΜΑ) Μια χρονοσειρά Υ καλείται χρονοσειρά κινητού μέσου τάξης q και συμβολίζεται ως MA(q) όταν κάθε παρατήρηση Υ t εκφράζεται ως ένα σταθμισμένο άθροισμα μιας σταθεράς μ, μιας χρονοσειράς λευκού θορύβου { } και q καθυστερημένων εκδοχών της χρονοσειράς λευκού θορύβου. Η γενική σχέση ορισμού μιας MA(q) χρονοσειράς είναι η εξής : (2.9) 6

62 ΚΕΦΑΛΑΙΟ 2 Στην ανωτέρω γενική σχέση ορισμού, η χρονοσειρά { } ικανοποιεί της συνθήκες (2.) έως (2.3) εφόσον αποτελεί χρονοσειρά λευκού θορύβου, ενώ οι παράμετροι μ και (θ, θ 2,..., θ q ) μπορούν να είναι οποιοιδήποτε πραγματικοί αριθμοί. Σε μια MA(q) χρονοσειρά, η τρέχουσα παρατήρηση εξαρτάται από ένα επίπεδο τιμών μ, στο οποίο προστίθενται μια τυχαία απόκλιση καθώς και οι τιμές των τυχαίων αποκλίσεων από τις παρελθούσες παρατηρήσεις, που καταγράφηκαν κατά τις προηγούμενες q χρονικές στιγμές,,..., πολλαπλασιασμένες επί συγκεκριμένων σταθερών. Οι σταθερές αυτές κρίνουν και τη βαρύτητα της επίδρασης της εκάστοτε παρελθούσας απόκλισης στην τιμή της τρέχουσας παρατήρησης. Η ανάλυση ξεκινά με την απλούστερη περίπτωση MA(q) χρονοσειράς πρώτης τάξης, δηλαδή με την περίπτωση όπου q = ΧΡΟΝΟΣΕΙΡΕΣ ΜΑ ΠΡΩΤΗΣ ΤΑΞΗΣ Η σχέση ορισμού μιας χρονοσειράς ΜΑ πρώτης τάξης προκύπτει άμεσα από τη γενική σχέση (2.9) θέτοντας q = : Για την ΜΑ() ισχύουν τα εξής : = E(μ + = μ 62

63 ΜΟΝΤΕΛΑ ΧΡΟΝΟΣΕΙΡΩΝ Ε(, Οι αυτοσυνδιακυμάνσεις μεγαλύτερης από πρώτης τάξης είναι όλες μηδενικές : Ε( Εφόσον η μέση τιμή και οι αυτοσυνδιακυμάνσεις δεν εξαρτώνται από τη χρονική στιγμή t, μια χρονοσειρά ΜΑ() είναι στάσιμη ανεξαρτήτως της τιμής της παραμέτρου θ. Η αυτοσυσχέτιση της χρονοσειράς ΜΑ() δίδεται από τις σχέσεις :, Το γεγονός ότι οι αυτοσυσχετίσεις μεγαλύτερης από πρώτης τάξης είναι όλες μηδενικές σημαίνει πρακτικά ότι η ΜΑ() χρονοσειρά έχει μνήμη μόνο μιας περιόδου, δηλαδή μια οποιαδήποτε παρατήρηση της Υ t συσχετίζεται με την προηγούμενη ή την επόμενη παρατήρηση, αλλά δεν συσχετίζεται με καμία άλλη. Ακόμη, θετική τιμή της παραμέτρου θ σημαίνει θετική αυτοσυσχέτιση πρώτης τάξης ρ, ενώ αντιστοίχως αρνητική τιμή σημαίνει αρνητική αυτοσυσχέτιση. Επίσης, η μεγαλύτερη τιμή που μπορεί να λάβει η ρ είναι 0.5 για θ =, ενώ η μικρότερη τιμή είναι 0.5 για θ =. 63

64 ΚΕΦΑΛΑΙΟ 2 Κάθε άλλη τιμή της ρ στο ( 0.5, 0.5) μπορεί να προκύψει από δύο διαφορετικές τιμές της παραμέτρου θ, αφού η ρ δεν μεταβάλλεται αν η θ αντικατασταθεί από την /θ. Το γεγονός αυτό συνιστά πρόβλημα στον προσδιορισμό της ενδεδειγμένης παραμέτρου θ μεταξύ των δύο δυνατών επιλογών. Το πρόβλημα αντιμετωπίζεται με την εκλογή της τιμής της παραμέτρου θ για την οποία η ρίζα του παρακάτω χαρακτηριστικού πολυωνύμου, + θz = 0, κείται εκτός του μοναδιαίου κύκλου. Αυτό συμβαίνει όταν ικανοποιείται η συνθήκη, θ <. Το ανωτέρω κριτήριο επιλογής της παραμέτρου θ βασίζεται στην έννοια της αντιστρεψιμότητας των χρονοσειρών. Στα Σχήματα (3.) και (3.2) αντιστοίχως, παρουσιάζεται ένα τυπικό γράφημα καθώς και η αυτοσυσχέτιση ενός παραδείγματος ΜΑ() χρονοσειράς με θ > 0 : Σχήμα (3.): Τυπικό γράφημα της ΜΑ(), Υ t = 2 + ε t + 0.8ε t- Σχήμα (3.2): Aυτοσυσχέτιση της MA(), Υ t = 2 + ε t + 0.8Y t ΧΡΟΝΟΣΕΙΡΕΣ ΜΑ Q ΤΑΞΗΣ Η γενική σχέση ορισμού μιας ΜΑ(q) χρονοσειράς είναι η (2.9), η οποία μπορεί να γραφτεί και ως εξής : 64

65 ΜΟΝΤΕΛΑ ΧΡΟΝΟΣΕΙΡΩΝ (2.0) όπου Η μέση τιμή μ, η διακύμανση γ 0 καθώς και η αυτοσυνδιακύμανση s τάξης με s < q μιας ΜΑ(q) χρονοσειράς υπολογίζονται με ακριβώς τον ίδιο τρόπο όπως στην απλή περίπτωση μιας ΜΑ() χρονοσειράς. Τα αποτελέσματα παραλείποντας τις πράξεις είναι τα εξής : (2.) (2.2) θ σ (2.3) Οι αυτοσυνδιακυμάνσεις μεγαλύτερης από q οστής τάξης είναι όλες μηδενικές = 0, Είναι προφανές ότι για όλες τις τιμές των παραμέτρων (θ, θ 2,..., θ q ) μια ΜΑ(q) χρονοσειρά θα είναι στάσιμη. Η αυτοσυσχέτιση της χρονοσειράς ΜΑ(q) δίδεται από τις σχέσεις :, θ θ και 0, Έτσι, στη γενική περίπτωση ΜΑ(q) χρονοσειράς, οι αυτοσυσχετίσεις μεγαλύτερης από q οστής τάξης είναι όλες μηδενικές. Έτσι, κανείς μπορεί να ανιχνεύσει την τάξη 65

66 ΚΕΦΑΛΑΙΟ 2 q μιας ΜΑ χρονοσειράς χαράσσοντας το γράφημα της αυτοσυσχέτισης ενός δείγματος κατάλληλου μεγέθους Τ συναρτήσει της χρονικής μετατόπισης s, αφού για τιμές του s > q οι υπολογισμένες δειγματικές αυτοσυσχετίσεις θα είναι κοντά στο μηδέν. Στο σημείο αυτό πρέπει να τονισθεί ότι μπορεί μια ΜΑ(q) χρονοσειρά να είναι στάσιμη για όλες τις τιμές των παραμέτρων (θ, θ 2,..., θ q ), εντούτοις υπάρχει και εδώ ένα κριτήριο επιλογής ακριβώς αντίστοιχο με την απλή περίπτωση της ΜΑ() χρονοσειράς, το οποίο βασίζεται στην έννοια της αντιστρεψιμότητας των χρονοσειρών. Έτσι, επιλέγουμε τις τιμές των παραμέτρων έτσι ώστε οι ρίζες του παρακάτω χαρακτηριστικού πολυωνύμου : + να κείνται εκτός του μοναδιαίου κύκλου ΜΕΡΙΚΗ ΑΥΤΟΣΥΣΧΕΤΙΣΗ MA ΔΙΑΔΙΚΑΣΙΑΣ Όσον αφορά τη μερική αυτοσυσχέτιση μιας MA διαδικασίας αυτή προσομοιάζεται με τη συνάρτηση αυτοσυσχετίσεως μιας AR διαδικασίας. Γενικά, ενώ η συνάρτηση μιας AR(p) διαδικασίας μπορεί να εκτείνεται ως το άπειρο, η συνάρτηση αυτοσυσχετίσεως μιας MA(q) διαδικασίας μηδενίζεται μετά από q υστερήσεις. Αντίθετα, η συνάρτηση μερικής αυτοσυσχετίσεως μιας AR(p) διαδικασίας τερματίζεται μετά από p υστερήσεις, ενώ η συνάρτηση μερικής αυτοσυσχετίσεως μιας MA(q) σειράς εκτείνεται στο άπειρο. Οι μερικές αυτοσυσχετίσεις μπορούν να εκφραστούν ως συναρτήσεις των απλών αυτοσυσχετίσεων με τον ίδιο ακριβώς τρόπο όπως και για τις AR διαδικασίες. 66

67 ΜΟΝΤΕΛΑ ΧΡΟΝΟΣΕΙΡΩΝ Οι συντελεστές μερικής αυτοσυσχετίσεως είναι : , κ.ο.κ ΕΚΤΙΜΗΣΗ ΥΠΟΔΕΙΓΜΑΤΩΝ MA Όπως για τις αυτοπαλίνδρομες διαδικασίες, έτσι και για διαδικασίες κινητού μέσου, η τάξη του υποδείγματος (q) μπορεί να καθοριστεί, μέσω του ελέγχου σημαντικότητας, με τον ίδιο τρόπο που αναφέρθηκε προηγουμένως για τις AR διαδικασίες. Η συνάρτηση αυτοσυσχετίσεως μιας MA(q) διαδικασίας μηδενίζεται μετά από q υστερήσεις το οποίο σημαίνει ότι οι αυτοσυσχετίσεις για s q θα είναι σημαντικές ενώ για s > q δεν θα είναι σημαντικές. Αφού λοιπόν καθοριστεί η τάξη, οι παράμετροι του υποδείγματος μπορούν να υπολογιστούν από τις σχέσεις που συνδέουν τις αυτοσυχετίσεις με τις παραμέτρους, δηλαδή από τη σχέση (2.6) αν αντικαταστήσουμε τις αυτοσυσχετίσεις εκτιμήσεις από το δείγμα, όπου : με τις 67

68 ΚΕΦΑΛΑΙΟ 2 Η χρησιμοποίηση της μεθόδου των ελαχίστων τετραγώνων δεν είναι εφικτή, όπως στην περίπτωση των αυτοπαλίνδρομων διαδικασιών, γιατί η προς ελαχιστοποίηση συνάρτηση : δεν είναι γραμμική ως προς τις παραμέτρους. Για το λόγο αυτό απαιτείται η χρησιμοποίηση μη γραμμικών μεθόδων ΥΠΟΔΕΙΓΜΑΤΑ ARMA Πολλές στάσιμες χρονοσειρές δεν μπορούν να μοντελοποιηθούν αποκλειστικά ως MA ή AR χρονοσειρές, μιας και παρουσιάζουν ιδιότητες και από τις δύο κατηγορίες. Έτσι, η λογική επέκταση των όσων αναφέρθηκαν στις δύο προηγούμενες ενότητες είναι οι χρονοσειρές που εκφράζονται ως συνδυασμός χρονοσειρών κινητού μέσου και αυτοπαλινδομικών χρονοσειρών τάξης (p, q) και συμβολίζεται ως ARMA(p, q). Κάθε παρατήρηση Υ t μιας ARMA(p, q) χρονοσειράς Υ εκφράζεται ως εξής : Το υπόδειγμα ARMA(p,q) είναι συνδυασμός, p αυτοπαλίνδρομων όρων και q όρων κινητού μέσου. Είναι προφανές ότι ένα καθαρά αυτοπαλίνδρομο υπόδειγμα ή ένα καθαρό υπόδειγμα κινητού μέσου μπορούν να θεωρηθούν ως ειδικές περιπτώσεις μιας ARMA διαδικασίας. Δηλαδή, θα ισχύουν τα εξής: AR(p) = ARMA(p, 0) και ΜΑ(q) = ARMA(0, q) 68

69 ΜΟΝΤΕΛΑ ΧΡΟΝΟΣΕΙΡΩΝ Η απλούστερη μορφή μιας ARMA (p, q) διαδικασίας είναι το υπόδειγμα ARMA(,). Η μορφή αυτού του υποδείγματος προφανώς, θα είναι: Για το μεικτό υπόδειγμα ARMA(,) αποδεικνύονται εύκολα ότι ισχύουν οι σχέσεις : Η αυτοσυσχέτιση της ARMA(,) χρονοσειράς δίδεται από τις εξής σχέσεις : Συνεπώς, η αυτοσυσχέτιση ξεκινά με μια αρχική τιμή ρ η οποία εξαρτάται και από τις δύο παραμέτρους και θ και στη συνέχεια φθίνει κατ απόλυτη τιμή με γεωμετρική πρόοδο καθώς το αυξάνει, με λόγο την AR παράμετρο η οποία είναι απολύτως μικρότερη της μονάδας. Το ανωτέρω συμπέρασμα αποτυπώνει και το γεγονός ότι το ΜΑ μέρος της χρονοσειράς έχει μνήμη μόνο μιας περιόδου. 69

70 ΚΕΦΑΛΑΙΟ 2 Η συνάρτηση μερικής αυτοσυσχέτισης, συμπεριφέρεται όπως και η ΜΑ() διαδικασία, δηλαδή φθίνει γεωμετρικά. Οι μερικές αυτοσυσχετίσεις προσδιορίζονται από την σχέση (2.8), όπως και για την περίπτωση ενός AR(p) υποδείγματος. Για παράδειγμα οι δύο πρώτες μερικές αυτοσυσχετίσεις είναι : κ.ο.κ. Στα σχήματα 4. και 4.2 παρουσιάζονται αντιστοίχως οι αυτοσυσχετίσεις δύο παραδειγμάτων ARMA(,) χρονοσειρών. Στο πρώτο παράδειγμα, η αυτοσυσχέτιση πρώτης τάξης ρ προκύπτει αρνητική και η συνάρτηση φθίνει κατ απόλυτο τιμή προς το μηδέν. Αντιστοίχως, στο δεύτερο παράδειγμα η αυτοσυσχέτιση παρουσιάζει ταλάντωση μειούμενου πλάτους μεταξύ θετικών και αρνητικών τιμών, συνέπεια της αρνητικής τιμής της AR παραμέτρου α Σχήμα (4.): Αυτοσυσχέτιση της ΑRΜΑ(,) χρονοσειράς Υ t = Y t- + ε t 0.9ε t-. 70

71 ΜΟΝΤΕΛΑ ΧΡΟΝΟΣΕΙΡΩΝ Σχήμα (4.2): Αυτοσυσχέτιση της ΑRΜΑ(,) χρονοσειράς Υ t = 2 0.8Y t- + ε t Για το γενικό υπόδειγμα ARMA(p, q) οι πρώτες q αυτοσυσχετίσεις, για s q εξαρτώνται τόσο από τους συντελεστές του αυτοπαλίνδρομου τμήματος, όσο και από τους συντελεστές του τμήματος του κινητού μέσου. Όμως για s > q οι αυτοσυνδιακυμάνσεις και οι αυτοσυσχετίσεις είναι ακριβώς ίδιες με αυτές μιας AR(p) διαδικασίας. Γενικά, η συνάρτηση αυτοσυσχετίσεως μιας ARΜΑ(p, q) διαδικασίας θα συμπεριφέρεται όπως αυτή μιας AR(p) διαδικασίας, ενώ η συνάρτηση μερικής αυτοσυσχετίσεως θα συμπεριφέρεται όπως αυτή μιας ΜΑ(q) διαδικασίας για s > p - q. Για την εκτίμηση υποδείγματος ARMA(p, q) μπορούν να εφαρμοστούν οι ίδιες τεχνικές που χρησιμοποιήθηκαν για την εκτίμηση ενός ΜΑ(q) υποδείγματος. 2.4 ΑΝΑΛΥΣΗ ΜΗ ΣΤΑΣΙΜΩΝ ΧΡΟΝΟΣΕΙΡΩΝ Τα τρία στοχαστικά υποδείγματα που εξετάσαμε μέχρι τώρα αναφέρονται όλα σε στάσιμες διαδικασίες που σημαίνει ότι ο μέσος, η διακύμανση και οι 7

72 ΚΕΦΑΛΑΙΟ 2 αυτοδιακυμάνσεις δεν εξαρτώνται από το χρόνο t, δηλαδή ο μέσος και η διακύμανση παραμένουν σταθεροί, ενώ οι αυτοδιακυμάνσεις εξαρτώνται μόνο από τη χρονική υστέρηση s. Στην πραγματικότητα όμως, πολύ μικρός αριθμός χρονοσειρών που συναντώνται στην πράξη είναι στάσιμες. Εντούτοις, πολλές μη στάσιμες χρονοσειρές μπορούν εύκολα να μετατραπούν σε στάσιμες. Στη συνέχεια, θα αναφερθούν διαδικασίες που δεν είναι στάσιμες και η μέθοδος των Box Jenkins ΤΥΧΑΙΟΣ ΠΕΡΙΠΑΤΟΣ Έστω, για παράδειγμα, η αυτοπαλίνδρομη διαδικασία πρώτης τάξεως : όπου υποθέτουμε ότι ε t είναι λευκός θόρυβος. Για α =, το παραπάνω υπόδειγμα γίνεται: (2.4) το οποίο είναι γνωστό ως τυχαίος περίπατος ή τυχαία διαδρομή. Όταν υπάρχει σταθερός όρος α, δηλαδή :, το υπόδειγμα λέγεται τυχαία διαδρομή με περιπλάνηση. Μια στοχαστική διαδικασία που ακολουθεί την τυχαία διαδρομή δεν είναι στάσιμη. Με διαδοχικές αντικαταστάσεις η σχέση (2.4) γίνεται : 72

73 ΜΟΝΤΕΛΑ ΧΡΟΝΟΣΕΙΡΩΝ όπου είναι η τιμή της στην περίοδο μηδέν. Με βάση την παραπάνω σχέση, ισχύει ότι: και Παρατηρούμε ότι, ενώ ο μέσος είναι σταθερός, η διακύμανση είναι συνάρτηση του χρόνου t και επομένως, η σειρά είναι μη στάσιμη. Εδώ πρέπει να γίνει η επισήμανση, ότι εάν υπολογιστούν οι πρώτες διαφορές της η σειρά που προκύπτει είναι στάσιμη. Δηλαδή η σειρά, διαδικασία λευκού θορύβου και είναι στάσιμη., είναι Σχήμα 5:Γραφική απεικόνιση τυχαίου περίπατου Σχήμα 6:Αυτοσυσχέτιση τυχαίου περίπατου 73