ΠΑΝΕΠΙΣΤΗΜΙΟ ΠΑΤΡΩΝ ΤΜΗΜΑΤΑ: ΜΑΘΗΜΑΤΙΚΩΝ ΜΗΧΑΝΙΚΩΝ Η/Υ ΚΑΙ ΠΛΗΡΟΦΟΡΙΚΗΣ ΘΕΜΑ ΔΙΠΛΩΜΑΤΙΚΗΣ ΕΡΓΑΣΙΑΣ: ΑΝΑΛΥΣΗ ΜΟΝΤΕΛΩΝ ΧΡΟΝΟΛΟΓΙΚΩΝ ΣΕΙΡΩΝ

Transcript

1 ΠΑΝΕΠΙΣΤΗΜΙΟ ΠΑΤΡΩΝ ΤΜΗΜΑΤΑ: ΜΑΘΗΜΑΤΙΚΩΝ ΜΗΧΑΝΙΚΩΝ Η/Υ ΚΑΙ ΠΛΗΡΟΦΟΡΙΚΗΣ ΔΙΑΤΜΗΜΑΤΙΚΟ ΠΡΟΓΡΑΜΜΑ ΜΕΤΑΠΤΥΧΙΑΚΩΝ ΣΠΟΥΔΩΝ ΜΑΘΗΜΑΤΙΚΑ ΤΩΝ ΥΠΟΛΟΓΙΣΤΩΝ ΚΑΙ ΤΩΝ ΑΠΟΦΑΣΕΩΝ ΘΕΜΑ ΔΙΠΛΩΜΑΤΙΚΗΣ ΕΡΓΑΣΙΑΣ: ΑΝΑΛΥΣΗ ΜΟΝΤΕΛΩΝ ΧΡΟΝΟΛΟΓΙΚΩΝ ΣΕΙΡΩΝ ΜΕΤΑΠΤΥΧΙΑΚΟΣ ΦΟΙΤΗΤΗΣ: Γρηγόριος Π. Αντωνόπουλος ΕΠΙΒΛΕΠΩΝ ΚΑΘΗΓΗΤΗΣ: Επ. Καθηγητής Φίλιππος Αλεβίζος Πάτρα, Δεκέμβριος 008

2

3 Στον πατέρα μου Παναγιώτη και στον αδελφό μου Χρήστο. Στη μνήμη της μητέρας μου Βασιλικής.

4

5 Στο δύσκολο έργο της διπλωματικής μου εργασίας, η βοήθεια ορισμένων ανθρώπων ήταν καθοριστική. Για το λόγο αυτό αισθάνομαι την ανάγκη να εκφράσω τις θερμές μου ευχαριστίες στον επιβλέποντα Καθηγητή, Επίκουρο Καθηγητή κύριο Φίλιππο Αλεβίζο, με την καθοδήγηση και τις συμβουλές του οποίου κατάφερα να ξεπεράσω όλες τις δυσκολίες και τα εμπόδια που εμφανίζονταν στην πορεία της δουλείας μου. Επίσης, θα ήθελα να ευχαριστήσω θερμά τα υπόλοιπα δυο μέλη της τριμελούς επιτροπής, την Επίκουρο Καθηγήτρια κυρία Ευφροσύνη Μακρή και τον Επίκουρο Καθηγητή κύριο Βασίλειο Παπακωνσταντίνου, για τις χρήσιμες παρατηρήσεις και επισημάνσεις τους. Τελειώνοντας, θα ήθελα να ευχαριστήσω την οικογένειά μου, για την ηθική υποστήριξη και συμπαράσταση που μου προσέφερε κατά την διάρκεια εκπόνησης της εργασίας αυτής. Γρηγόριος Αντωνόπουλος

6

7 ΠΡΟΛΟΓΟΣ Ένας από τους βασικούς σκοπούς της Οικονομετρικής Ανάλυσης ενός οικονομικού φαινομένου είναι η δημιουργία προβλέψεων, η χρησιμοποίηση δηλαδή του εκτιμημένου οικονομετρικού υποδείγματος για την πρόβλεψη των μελλοντικών τιμών των οικονομικών μεγεθών. Η ανάγκη για έγκυρες προβλέψεις οδήγησε στην ανάπτυξη και εκτίμηση όχι μόνο οικονομετρικών υποδειγμάτων μίας ή πολλών ταυτοχρόνως εξισώσεων, αλλά και στην ανάπτυξη και άλλων τεχνικών και μεθόδων, όπως οι τεχνικές ανάλυσης χρονολογικών σειρών. Στα υποδείγματα χρονολογικών σειρών, όπως θα δούμε, η τρέχουσα τιμή μιας οικονομικής μεταβλητής Υ εκφράζεται ως συνάρτηση των προηγούμενων τιμών της, δηλαδή των τιμών της με χρονική υστέρηση (ή και των τιμών με χρονική υστέρηση άλλων μεταβλητών), ενώ σ ένα παράδειγμα παλινδρομήσεως η μεταβλητή Υ είναι συνάρτηση Κ γενικώς ερμηνευτικών μεταβλητών. Η ανάπτυξη και η χρησιμοποίηση τέτοιων υποδειγμάτων υπήρξε ραγδαία τις τελευταίες τρεις δεκαετίες, ιδίως μετά την δημοσίευση του βιβλίου των Box και Jenkins αρχικά το 970. Οι προβλέψεις με υποδείγματα γνωστά πλέον ως Box- Jenkins, αποδείχθηκαν πολλές φορές ανώτερες από τις αντίστοιχες προβλέψεις με τα μεγάλα μακροοικονομετρικά υποδείγματα. Επιπλέον, η χρησιμοποίηση της προσεγγίσεως των τεχνικών ανάλυσης χρονολογικών σειρών στην παραδοσιακή οικονομετρική ανάλυση έδωσε νέα διάσταση και φώτισε περισσότερο το πρόβλημα της νόθου ή φαινομενικής παλινδρόμησης. Ως συνέπεια των παραπάνω εξελίξεων έχει υπάρξει μια σύνθεση της οικονομετρικής θεωρίας και των τεχνικών ανάλυσης χρονολογικών σειρών όσον αφορά τη μεθοδολογία της οικονομετρικής ανάλυσης με στοιχεία χρονολογικών σειρών.

8

9 ΠΕΡΙΕΧΟΜΕΝΑ ΒΑΣΙΚΕΣ ΕΝΝΟΙΕΣ...5. Στοχαστική Διαδικασία...5. Η Έννοια της Στασιμότητας Συνάρτηση Αυτοσυσχέτισης Παράδειγμα Στάσιμες Στοχαστικές Διαδικασίες... ΑΥΤΟΠΑΛΙΝΔΡΟΜΑ ΥΠΟΔΕΙΓΜΑΤΑ...4. Εισαγωγή...4. Αυτοπαλίνδρομα Υποδείγματα Πρώτης Τάξης [AR()] Αυτοπαλίνδρομα Υποδείγματα Δεύτερης Τάξης [AR()] Αυτοπαλίνδρομα Υποδείγματα p Τάξης [AR(p)] Μερική Αυτοσυσχέτιση Έλεγχος Σημαντικότητας Συντελεστών Αυτοσυσχέτισης Εκτίμηση Υποδειγμάτων AR Παράδειγμα ΥΠΟΔΕΙΓΜΑΤΑ ΚΙΝΗΤΟΥ ΜΕΣΟΥ ΚΑΙ ΜΕΙΚΤΑ Εισαγωγή Υποδείγματα Κινητού Μέσου Πρώτης Τάξης [ΜΑ()] Υποδείγματα Κινητού Μέσου q Τάξης [ΜΑ(q)] Εκτίμηση Υποδειγμάτων ΜΑ Υποδείγματα ARMA ARMA(,) ARMA(p,q) Εκτίμηση Υποδειγμάτων ARMA ΜΗ ΣΤΑΣΙΜΕΣ ΔΙΑΔΙΚΑΣΙΕΣ-ΥΠΟΔΕΙΓΜΑΤΑ ARIMA Εισαγωγή Τυχαία Διαδρομή Ολοκληρωμένες Διαδικασίες Υποδείγματα ARIMA Μεθοδολογία Box Jenkins Ταυτοποίηση Εκτίμηση Διαγνωστικός Έλεγχος Προβλέψεις Αξιολόγηση Προβλέψεων Παράδειγμα ARIMA ΑΝΑΦΟΡΕΣ

10 ΛΙΣΤΑ ΣΧΗΜΑΤΩΝ Σχήμα : Γραφική Απεικόνιση των παρατηρήσεων του Πίνακα Σχήμα : Η Γραφική Απεικόνιση των δεδομένων του Πίνακα Σχήμα 3: Γραφική Απεικόνιση της Χρονολογικής Σειράς του Πίνακα Σχήμα 4: Ακαθάριστο Εγχώριο Προϊόν (GDP), ΛΙΣΤΑ ΔΙΑΓΡΑΜΜΑΤΩΝ Διάγραμμα : Συνάρτηση Αυτοσυσχέτισης για τα δεδομένα του Πίνακα...0 Διάγραμμα : Μία Τυπική Πραγματοποίηση της Στοχαστικής Διαδοκασίας...7 Διάγραμμα 3: Μία Τυπική Πραγματοποίηση της Στοχαστικής Διαδικασίας...8 Διάγραμμα 4: Συναρτήσεις Αυτοσυσχέτισης για δύο AR() Διαδικασίες... Διάγραμμα 5: Συναρτήσεις Μερικής Αυτοσυσχέτισης για Διάφορες AR() Διαδικασίες...8 Διάγραμμα 6: Η Συνάρτηση Αυτοσυσχέτισης και Μερικής Αυτοσυσχέτισης...36 Διάγραμμα 7: Μια Τυπική Πραγματοποίηση της ΜΑ() Διαδικασίας ( y = 0 + ε + 0,9ε )...4 Διάγραμμα 8: Μια Τυπική Πραγματοποίηση της ΜΑ() Διαδικασίας y = 5 + ε + 0,7ε 0,ε ) και η Συνάρτηση Αυτοσυσχέτισης...4 ( Διάγραμμα 9: Η Συνάρτηση Αυτοσυσχέτισης και Μερικής Αυτοσυσχέτισης...46 Διάγραμμα 0: Συναρτήσεις Αυτοσυσχέτισης και Μερικής Αυτοσυσχέτισης...5 Διάγραμμα : Συναρτήσεις Αυτοσυσχέτισης και Μερικής Αυτοσυσχέτισης...55 Διάγραμμα : Συνάρτηση Αυτοσυσχέτισης (GDP)...79 Διάγραμμα 3: Συνάρτηση Μερικής Αυτοσυσχέτισης (GDP)...80 Διάγραμμα 4: Συνάρτηση Αυτοσυσχέτισης (Log(GDP))...8 Διάγραμμα 5: Συνάρτηση Μερικής Αυτοσυσχέτισης (Log(GDP))...8 Διάγραμμα 6: Συνάρτηση Αυτοσυσχέτισης των Πρώτων Διαφορών του Log(GDP)...83 Διάγραμμα 7: Συνάρτηση Μερικής Αυτοσυσχέτισης των Πρώτων Διαφορών του Log(GDP)...84 Διάγραμμα 8: Συνάρτηση Αυτοσυσχέτισης των Καταλοίπων του Υποδείγματος ARMA(,0)...85 Διάγραμμα 9: Συνάρτηση Μερικής Αυτοσυσχέτισης των Καταλοίπων του Υποδείγματος ARMA(,0)...86 ΛΙΣΤΑ ΠΙΝΑΚΩΝ Πίνακας : Υποθετικά δεδομένα για τη μεταβλητή Υ...9 Πίνακας : Αυτοσυνδιακυμάνσεις και αυτοσυσχετίσεις για τα δεδομένα του Πίνακα...0 Πίνακας 3: Τιμές της Υ για 96 έτη...35 Πίνακας 4: Τιμές με βάση το υπόδειγμα Y = ε 0,7ε...45 Πίνακας 5: Η μορφή της Συνάρτησης Αυτοσυσχέτισης και Μερικής Αυτοσυσχέτισης...5 Πίνακας 6: Τιμές της Y για 96 έτη...54 Πίνακας 7: Ακαθάριστο Εγχώριο Προϊόν (GDP)...76 Πίνακας 8: Εκτιμημένα ARMA Υποδείγματα για τις Πρώτες Διαφορές [DLOG(GDP)]

11 ΒΑΣΙΚΕΣ ΕΝΝΟΙΕΣ. Στοχαστική ιαδικασία Τα στοιχεία χρονολογικών σειρών αποτελούν μία από τις κύριες μορφές δεδομένων για τις διάφορες οικονομικές μεταβλητές που υπεισέρχονται σε ένα οικονομετρικό υπόδειγμα. Χρονολογική σειρά είναι ένα δείγμα y,y,,y T, όπου ο δείκτης παριστάνει ισαπέχοντα χρονικά σημεία (έτη, μήνες κ.ο.κ.) ή χρονικά διαστήματα (5 έτη, 8 μήνες κ.ο.κ.). Υποθέτουμε ότι οι παρατηρήσεις y,y,,y T είναι συγκεκριμένες τιμές ή συγκεκριμένες πραγματοποιήσεις των τυχαίων μεταβλητών Υ,Υ,,Υ T και ότι επιπλέον, οι τυχαίες αυτές μεταβλητές Υ,Υ,,Υ T είναι μέρος μόνο μιας άπειρης σειράς (ακολουθίας) τυχαίων μεταβλητών. Η άπειρη αυτή ακολουθία των τυχαίων μεταβλητών ονομάζεται στοχαστική ή τυχαία διαδικασία ή στοχαστική ανέλιξη και συνήθως παριστάνεται ως {Υ }. Συνεπώς, με βάση τα παραπάνω, μια παρατηρούμενη σειρά Τ διαδοχικών παρατηρήσεων (y,y,,y T ) είναι μία συγκεκριμένη πραγματοποίηση μιας στοχαστικής διαδικασίας {Υ }. Χρησιμοποιώντας την ορολογία της κλασικής Στατιστικής, η έννοια της στοχαστικής διαδικασίας είναι ανάλογη της έννοιας του πληθυσμού, ενώ η έννοια της συγκεκριμένης πραγματοποιήσεως είναι ανάλογη της έννοιας του δείγματος. Γενικά, όπως και στην περίπτωση Τ τυχαίων μεταβλητών, μια στοχαστική διαδικασία μπορεί να περιγραφεί από μία συνδυασμένη συνάρτηση πιθανότητας f(y,y,,y T ). Αν ήταν γνωστή η συνάρτηση πιθανότητας, θα ήταν εύκολο να υπολογιστεί, για παράδειγμα, η πιθανότητα μιας συγκεκριμένης πραγματοποιήσεως ή η πιθανότητα μιας μελλοντικής τιμής. Επειδή όμως, όχι μόνο η συνάρτηση πιθανότητας δεν είναι γνωστή, αλλά ούτε και η πλήρης εξειδίκευση της μορφής της είναι δυνατή, σκοπός της ανάλυσης χρονολογικών σειρών είναι η διατύπωση υποδειγμάτων που να μπορούν να περιγράφουν τον μηχανισμό της στοχαστικής διαδικασίας από την οποία προέκυψε η συγκεκριμένη σειρά. Η διατύπωση των υποδειγμάτων αυτών βασίζεται σε ορισμένα χαρακτηριστικά της παρατηρούμενης σειράς που θα εξετάσουμε παρακάτω. 5

12 . Η Έννοια της Στασιμότητας Το ενδιαφέρον μας σχετικά με τα χαρακτηριστικά μιας κατανομής πιθανότητας περιορίζεται συνήθως στις πρώτες ροπές, δηλαδή στον μέσο και στη διακύμανση. Σε μία συνδυασμένη συνάρτηση πιθανότητας Τ μεταβλητών έχουμε Τ μέσους, Τ διακυμάνσεις και ακόμα TT ( ) συνδιακυμάνσεις. Είναι προφανές ότι από μία μόνο πραγματοποίηση (δείγμα Τ παρατηρήσεων) δεν είναι δυνατή η εκτίμηση όλων των TT παραπάνω Τ + ( ) TT+ = Τ + ( ) αγνώστων παραμέτρων. Μία βασική υπόθεση που απλοποιεί σημαντικά το παραπάνω πρόβλημα είναι η υπόθεση της στασιμότητας. Μια στοχαστική διαδικασία είναι αυστηρώς στάσιμη όταν οι ιδιότητές της δεν επηρεάζονται από μία αλλαγή στην αρχή μέτρησης του χρόνου. Αυτό σημαίνει ότι η συνδυασμένη συνάρτηση πιθανότητας με αρχή το χρονικό σημείο, δηλαδή f(y,y +,,y +T ) είναι ακριβώς ίδια με την συνδυασμένη συνάρτηση πιθανότητας με αρχή το χρονικό σημείο +s, δηλαδή f(y +s,y ++s,,y +T+s ). Το s παριστάνει μία αυθαίρετη μετακίνηση κατά μήκος του άξονα του χρόνου είτε προς τα εμπρός είτε προς τα πίσω. Δηλαδή, το s μπορεί να είναι είτε θετικό είτε αρνητικό. Αφού η συνδυασμένη συνάρτηση πιθανότητας δε μεταβάλλεται όταν μεταβάλλεται η αρχή του χρόνου, έπεται ότι η περιθωριακή συνάρτηση πιθανότητας στο χρονικό σημείο, f(y ), θα είναι ίδια με την περιθωριακή συνάρτηση πιθανότητας στο σημείο +s, f(y +s ). Δηλαδή, f(y ) = f(y +s ), πράγμα που σημαίνει ότι η περιθωριακή συνάρτηση πιθανότητας δεν εξαρτάται από τον χρόνο. Το ίδιο ισχύει και για όλες τις διμεταβλητές συναρτήσεις πιθανότητας f(y, y +s ). Δηλαδή, f(y, y +s ) = f(y +m, y +m+s ) για όλα τα s. Τα ανωτέρω συνεπάγονται [] ότι ο μέσος και η διακύμανση του Υ δε μεταβάλλονται, ενώ οι συνδιακυμάνσεις είναι συναρτήσεις μόνο της υστέρησης (ή προηγήσεως) s. Δηλαδή, Ε(Υ ) = Ε(Υ ) = = Ε(Υ T ) = Ε(Y ) = μ () V(Υ ) = V(Υ ) = = V(Υ T ) = V(Y ) = σ () Cov(Υ, Y +s ) = Cov(Υ, Y +s ) = = Cov(Υ T, Y T+s ) = γ s (3) Οι παραπάνω τρεις συνθήκες αναφέρονται στις πρώτες και δεύτερες ροπές, που είναι μερικές από τις ιδιότητες ή τα χαρακτηριστικά μίας κατανομής πιθανότητας. Ο 6

13 αυστηρός όμως ορισμός της στασιμότητας αναφέρεται σε όλες τις ιδιότητες μίας στοχαστικής διαδικασίας. Γι αυτό και όταν ικανοποιούνται μόνο οι παραπάνω συνθήκες, η στοχαστική διαδικασία χαρακτηρίζεται ως δεύτερης τάξης ή ασθενώς στάσιμη ή κατά συνδιακύμανση στάσιμη. Για τα θέματα τις εργασίας αυτής είναι αρκετό μία χρονολογική σειρά να είναι ασθενώς στάσιμη. Δηλαδή να ισχύουν τα εξής: E(Y ) = μ, ανεξάρτητη από το (4) V(Y ) = σ, ανεξάρτητη από το (5) Cov(Y, Y +s ) = Cov(Y +m, Y +m+s ) = γ s, ανεξάρτητη από το (6) Από την (6) είναι προφανές ότι: Cov(Y, Y +s ) = Cov(Y +s, Y ) και γ s = γ -s Επειδή Υ και Y +s είναι παρατηρήσεις της ίδιας μεταβλητής που απέχουν χρονικά μεταξύ τους κατά s, η συνδιακύμανση Cov(Y, Y +s ) αναφέρεται και ως αυτοσυνδιακύμανση. Είναι προφανές ότι, για s=0 γ 0 = V(Y ) = σ. (7).3 Συνάρτηση Αυτοσυσχέτισης Όπως είναι γνωστό, ο λόγος της συνδιακύμανσης προς το γινόμενο των τετραγωνικών ριζών των διακυμάνσεων δύο μεταβλητών είναι ο συντελεστής συσχέτισής τους. Στην περίπτωση των χρονολογικών σειρών, ο συντελεστής συσχέτισης ανάμεσα στην Υ και στην Υ +s ονομάζεται συντελεστής αυτοσυσχέτισης και δίδεται από την σχέση: Cov( Y, Y+ s) γ s ρs = = VY ( ) VY ( ) γ + s 0 Ας σημειωθεί ότι, όπως η αυτοσυνδιακύμανση έτσι και ο συντελεστής αυτοσυσχέτισης δεν εξαρτάται από το αλλά από το s. Είναι προφανές ότι ρ s =ρ -s, αφού γ s = γ -s. Η σχέση που υπάρχει ανάμεσα στο συντελεστή αυτοσυσχέτισης ρ s και στο s ονομάζεται συνάρτηση αυτοσυσχέτισης και η γραφική της απεικόνιση διάγραμμα αυτοσυσχέτισης. (8) 7

14 Στην ανάλυση χρονολογικών σειρών η σημασία της συνάρτησης αυτοσυσχέτισης είναι πολύ μεγάλη, διότι δείχνει τόσο τον βαθμό (ένταση) όσο και το μήκος ή τη χρονική διάρκεια της μνήμης της στοχαστικής διαδικασίας. Ο μέσος (μ), η διακύμανση (σ ), οι αυτοσυνδιακυμάνσεις (γ s ) και ο συντελεστής αυτοσυσχέτισης (ρ s ) είναι άγνωστοι. Στην πράξη, ως εκτιμητές των άγνωστων παραμέτρων του πληθυσμού χρησιμοποιούμε τις αντίστοιχες ροπές του δείγματος. Δηλαδή: Υ= T = T Y, για το μ (9) s = T = ( Y Y) T, για το σ (0) γ s = T = ( Y Y)( Y+ s Y) T, για το γ s () ρ = s T = = ( Y Y)( Y+ s Y), για το ρ T s () ( Y Y) Αν το μέγεθος του δείγματος είναι μικρό, στην σχέση () αντί Τ θα πρέπει χρησιμοποιείται Τ-s, οπότε η σχέση () θα πρέπει να πολλαπλασιάζεται επί T T s..4 Παράδειγμα Στον πίνακα δίνονται υποθετικές παρατηρήσεις για μία μεταβλητή για οκτώ χρονικές περιόδους καθώς και η σχετική κατάστρωση των δεδομένων για τον υπολογισμό των αυτοσυνδιακυμάνσεων και αυτοσυσχετίσεων. Με απευθείας αντικατάσταση στους σχετικούς τύπους υπολογίζουμε τις αυτοσυνδιακυμάνσεις και αυτοσυσχετίσεις ως εξής: Y Y Y γ 0 s ( ) ( 00) 44 = = = = = 5,5 T 8 8 ( Υ Y)( Y Y) = = = 3, T s 7 γ + 8

15 γ = =, γ 3 = = 4,8 5 7 γ 4 = = 4, γ 5 = = γ 6 = = 3 ρ = ρ 3, 5,5, 85 = κ.ο.κ. 5,5 Έτος Υ Υ Y Υ + Y Υ + Y + 3 Υ Y + 4 Υ Y + 5 Υ Y + 6 Υ Y Πίνακας : Υποθετικά δεδομένα για τη μεταβλητή Υ Τα ανωτέρω συνοψίζονται στον πίνακα, ενώ στο διάγραμμα παριστάνεται η συνάρτηση αυτοσυσχέτισης που προκύπτει. 9

16 Τάξη s Αυτοσυνδιακυμάνσεις γ s Αυτοσυσχετίσεις ρ s , -,85-4,8-4, ,56-0,34-0,87-0,77 0 0,55 Πίνακας : Αυτοσυνδιακυμάνσεις και αυτοσυσχετίσεις για τα δεδομένα του Πίνακα Διάγραμμα : Συνάρτηση Αυτοσυσχέτισης για τα δεδομένα του Πίνακα 0

17 .5 Στάσιμες Στοχαστικές ιαδικασίες Σύμφωνα με το θεώρημα διαχωρισμού του Wold [],[] κάθε στάσιμη στοχαστική διαδικασία μπορεί να εκφραστεί ως γραμμικός συνδυασμός μίας ακολουθίας ασυσχέτιστων τυχαίων μεταβλητών. Ένας τέτοιος γραμμικός συνδυασμός είναι επίσης γνωστός ως γραμμικό φίλτρο. Έστω {Υ } μία, όχι αναγκαστικά αυστηρώς στάσιμη, στοχαστική διαδικασία με μέσο μ. Το γραμμικό φίλτρο θα μπορούσε να διατυπωθεί ως: Y μ = ε +Ψ ε +Ψ ε + (3)... Θέτοντας Ψ 0 =, η παραπάνω σχέση γράφεται ως: Y μ = Ψε (4) i i i= 0 Η ακολουθία { ε } για = 0, για την οποία υποθέτουμε ότι για κάθε ισχύουν τα εξής: +, +, είναι μία ακολουθία τυχαίων μεταβλητών Ε( ε ) = 0 (5) V( ε ) = σ (6) Cov( ε, ε s) = 0, για κάθε s 0 (7) Μία ακολουθία για την οποία ισχύουν οι παραπάνω τρεις υποθέσεις είναι επίσης γνωστή ως διαδικασία λευκού θορύβου ή απλός λευκός θόρυβος. Ο αριθμός των συντελεστών Ψ i, που είναι γνωστοί ως συντελεστές σταθμίσεως, μπορεί να είναι άπειρος ή πεπερασμένος. Αν είναι άπειρος, υποθέτουμε ότι το άθροισμά τους συγκλίνει απολύτως, δηλαδή: i= 0 Ψ < i Η σημασία αυτής της υπόθεσης φαίνεται παρακάτω. Από την σχέση (3) προκύπτει εύκολα ότι: α) γ 0 = VY ( ) = EY ( μ) = = = Ε ( ε +Ψ ε +Ψ ε +...) = E( ε ) +Ψ E( ε ) +Ψ E( ε ) +... δεδομένου ότι E( ε ε ) = 0, για s 0 σύμφωνα με τις υποθέσεις (5) και (7). s Επομένως, γ0 = σ +Ψ σ +Ψ σ +... = σ Ψi (8) = 0 i

18 β) γ = EY ( μ)( Υ μ) = s s E( ε +Ψ ε +Ψ ε Ψ ε +Ψ ε +...) = s s s+ s ( ε +Ψ ε +Ψ ε Ψ ε +Ψ ε +...) = s s s s s s s+ s s = E( Ψ ε ) + E( Ψ Ψ ε ) +... s s s s γιατί όλοι οι άλλοι όροι είναι μηδέν με βάση την υπόθεση (7). Επομένως, γs = σ ΨΨ i i+ s (9) i= 0 γ) Από τις παραπάνω δύο σχέσεις προκύπτει ότι: ρ = s ΨΨ i i= 0 i= 0 Ψ i+ s i Είναι φανερό τώρα από τις παραπάνω σχέσεις ότι, αν το άθροισμα των συντελεστών σταθμίσεως δεν συγκλίνει, η διακύμανση τείνει στο άπειρο και ο συντελεστής αυτοσυσχέτισης στο μηδέν. Αν η σειρά είναι στάσιμη, τότε η διακύμανση είναι πεπερασμένη. (0) Η εξίσωση (3) αποτελεί μία γενική μορφή από την οποία με διάφορες υποθέσεις σχετικά με τους συντελεστές σταθμίσεως προκύπτουν διάφορα στοχαστικά υποδείγματα χρονολογικών σειρών [3]. Για παράδειγμα, έστω Ψ =θ και Ψ i =0 για i. Από την σχέση (3) προκύπτει το υπόδειγμα: Y = μ + ε + θε Το υπόδειγμα αυτό είναι γνωστό ως υπόδειγμα κινητού μέσου πρώτης τάξης (Firs Order Moving Average Model) ή ΜΑ(). Έστω τώρα ότι i Ψ = α. Από την σχέση (3) έχουμε τα εξής: i Y μ = ε + αε + α ε + =... = ε + α( ε + αε + α ε +...) = 3 ε + α( Υ μ) = οπότε: Υ = μ( α) + αυ + ε Το υπόδειγμα αυτό είναι γνωστό ως αυτοπαλίνδρομο υπόδειγμα πρώτης τάξης (Firs Order Auoregressive Model) ή AR().

19 Γενικά, υπάρχουν τρεις βασικές κατηγορίες στοχαστικών υποδειγμάτων χρονολογικών σειρών: Αυτοπαλίνδρομα υποδείγματα ή υποδείγματα AR, υποδείγματα κινητού μέσου ή υποδείγματα MA και μεικτά υποδείγματα ή υποδείγματα ARMA, δηλαδή υποδείγματα που είναι συνδυασμός των δύο προηγούμενων. Στα επόμενα κεφάλαια, θα εξετάσουμε κάθε κατηγορία χωριστά. 3

20 ΑΥΤΟΠΑΛΙΝ ΡΟΜΑ ΥΠΟ ΕΙΓΜΑΤΑ. Εισαγωγή Σε αυτό το κεφάλαιο, θα εξετάσουμε τα Αυτοπαλίνδρομα Υποδείγματα. Στη γενική του μορφή, ένα αυτοπαλίνδρομο υπόδειγμα p τάξης ή AR(p) διατυπώνεται ως εξής: Y = α + αy + α Y + + α Y + ε () 0... p p Η τάξη p αναφέρεται στο μήκος της υστερήσεως, ενώ ο όρος αυτοπαλίνδρομο προέρχεται από το γεγονός ότι η σχέση () είναι, στην ουσία, ένα υπόδειγμα παλινδρόμησης, όταν οι ερμηνευτικές μεταβλητές ή παλινδρομητές είναι οι τιμές της εξαρτημένης μεταβλητής Υ με χρονική υστέρηση. Η μεταβλητή αναφέρθηκε και προηγουμένως, θεωρείται ότι είναι λευκός θόρυβος. ε, όπως. Αυτοπαλίνδρομα Υποδείγματα Πρώτης Τάξης [AR()] Όπως είδαμε προηγουμένως, η γενική μορφή ενός AR() υποδείγματος είναι: Y = α + αy + ε () 0 Ας υποθέσουμε, χάριν ευκολίας, ότι είτε ο μέσος είναι μηδέν (μ=0) είτε ότι οι μεταβλητές εκφράζονται ως αποκλίσεις από τους μέσους, οπότε η () γίνεται: y = α y + ε (3) όπου y = Y E( Y) = Y μ Όπως είδαμε και προηγουμένως, είναι: α = ( α ) μ 0 α0 οπότε μ = α Για το υπόδειγμα AR() ισχύουν τα εξής: γ = V( y ) = σ 0 α (4) γ = Cov( y, y ) = αγ (5) s s s 0 γ s s και ρs = = α (6) γ 0 4

21 Απόδειξη των σχέσεων (4) και (5) α) Υψώνουμε στο τετράγωνο και τα δύο μέλη της σχέσης (3) και παίρνουμε τις μέσες τιμές, οπότε έχουμε: Αλλά, Ey = α Ey + α Ey ε + Eε Ey ε = 0 αφού y εξαρτάται μόνο από το ε το οποίο είναι λευκός θόρυβος. Επίσης, Ey = Ey = V( y) αφού η σειρά είναι στάσιμη. Επομένως, ή V( y ) = α V( Y) + σ σ γ = V( y ) = α 0 που είναι η σχέση (4) β) Πολλαπλασιάζουμε και τα δύο μέλη της σχέσης (3) επί y s και παίρνουμε τις μέσες τιμές, οπότε έχουμε: E( y y ) = α E( y y ) + E( ε y ) ή s s s s s γ = αγ για s > 0 γιατί E( εy s) = 0 και E( y y s) = γ s Από την παραπάνω σχέση προκύπτει ότι: γ = αγ 0 γ = αγ = α γ 0 γ = αγ = α γ και γενικά γ s = αγ που είναι η σχέση (5). s 0 Για να είναι η σειρά στάσιμη, θα πρέπει α <. Για α > 0, η συνάρτηση αυτοσυσχέτισης αρχίζοντας από την μονάδα, αφού ρ 0 =, φθίνει γεωμετρικά και τείνει προς το μηδέν καθώς το s αυξάνει. Για α < 0, πάλι θα τείνει προς το μηδέν αλλά με εναλλασσόμενο πρόσημο. 5

22 Για περισσότερη ευκολία στην παρουσίαση του υποδείγματος, συνήθως χρησιμοποιείται ο συμβολισμός του τελεστή υστερήσεως L (lag operaor L). Με τον τελεστή υστερήσεως L, αντί για X γράφουμε και γενικά αντί για X s γράφουμε LX, αντί για X γράφουμε LX s LX. Δηλαδή, ο εκθέτης του συμβόλου L παριστάνει τον αριθμό των φορών που θα πρέπει να υστερήσουμε την μεταβλητή Χ. Οπότε με τον προηγούμενο τελεστή η σχέση (3) γράφεται ως εξής: y y = α Ly + ε α Ly = ε ή ( α Ly ) = ε (7α) ή Για α < η παραπάνω σχέση γίνεται: y = ( αl) ε= = ( + α L+ α L + α L +...) ε = = ε + αε + α ε + α ε + (7β) 3... Η διατύπωση αυτή του y ως γραμμικού φίλτρου, που όπως θα δούμε είναι μία διαδικασία κινητού μέσου, είναι δυνατή μόνο αν η σειρά είναι στάσιμη, δηλαδή όταν α <. Στο διάγραμμα δίνεται η γραφική παράσταση μίας τυπικής πραγματοποίησης μαζί με την αντίστοιχη συνάρτηση αυτοσυσχέτισης για α = 0,8, ενώ στο διάγραμμα 3 δίνονται οι αντίστοιχες γραφικές παραστάσεις για α = 0,8. 6

23 Διάγραμμα : Μία Τυπική Πραγματοποίηση της Στοχαστικής Διαδοκασίας 0,8 Y = Y + ε και η Συνάρτηση Αυτοσυσχέτισης 7

24 Διάγραμμα 3: Μία Τυπική Πραγματοποίηση της Στοχαστικής Διαδικασίας 0,8 Y = Y + ε και η Συνάρτηση Αυτοσυσχέτισης 8

25 .3 Αυτοπαλίνδρομα Υποδείγματα εύτερης Τάξης [AR()] Το αυτοπαλίδρομο υπόδειγμα δεύτερης τάξης στη γενική του μορφή μπορεί να γραφεί ως: Y = α + αy + α Y + ε (8) 0 y = α y + α y + ε (9) ή Με το σύμβολο του τελεστή υστέρησης L η παραπάνω σχέση γράφεται ως: όπου ALy = α L α L y = ε (30) ( ) ( ) AL ( ) = α L α L Για το AR() ισχύουν τα εξής: μ = 0 (3) α α α γ VY αγ αγ σ 0 = ( ) = + + (3) ή ( α) γ 0 = σ ( + α )( α α )( + α α ) (33) και γ = Cov( Y, Y ) = αγ + αγ για s > 0 (34) s s s s ρ = αρ + αρ για s > 0 (35) s s s Απόδειξη των σχέσεων (3) - (35) α) Παίρνουμε τις μέσες τιμές στην σχέση (8) και έχουμε: EY ( ) = α + α EY ( ) + α EY ( ) + E( ε 0 ) ή μ = α0 + αμ+ αμ α0 και μ = α α που είναι η σχέση (3). β) Πολλαπλασιάζουμε και τα δύο μέλη της σχέσης (9) επί y και έχουμε: y = α y y + α y y + yε Παίρνουμε τις μέσες τιμές και έχουμε: E y = V Y = E y y + E y y + E y ( ) ( ) α ( ) α ( ) ( ε) ή γ 0 = αγ + αγ + E( y ε ) αλλά, E( yε ) = E( α y + α y + ε ) ε = σ επομένως: 0 = + + που είναι η σχέση (3). γ αγ αγ σ 9

26 γ) Πολλαπλασιάζουμε και τα δύο μέλη της σχέσης (9) επί y sκαι έχουμε: y y = α y y + α y y + ε y s s s s Παίρνουμε τις μέσες τιμές και έχουμε: E( y y ) = Cov( Y, Y ) = α E( y y ) + α E( y y ) + E( ε y ) s s s s s Αλλά, E( ε y ) = 0 και εξ ορισμού, E( y y ) = γ και E( y y ) = γ, οπότε: s s s s s s γ = αγ + αγ που είναι η σχέση (34). s s δ) Διαιρούμε την προηγούμενη σχέση γ = αγ + αγ με γ 0 και έχουμε: s s s s s s γ γ γ = α + α ή ρs = αρ s + αρ s που είναι η σχέση (35). γ γ γ ε) Η (33) προκύπτει από την (3) αν αντικαταστήσουμε τα γ και γ όπως αυτά δίνονται από την σχέση (34). Για να είναι η σειρά στάσιμη, θα πρέπει να ισχύουν οι εξής περιορισμοί για τις τιμές των συντελεστών α και α : α + α < α + < (36) α < α < Οι παραπάνω σχέσεις αποδεικνύονται [4] εύκολα ως εξής: Για να είναι η σειρά στάσιμη, θα πρέπει η διακύμανση ( γ 0 ) να είναι ένας σταθερός θετικός αριθμός. Για να συμβαίνει αυτό, θα πρέπει κάθε όρος στις παρενθέσεις στη σχέση (33) να είναι θετικός αριθμός. Αυτό όμως μπορεί να συμβεί μόνο αν ισχύει η σχέση (36). Από την (35) βλέπουμε ότι: ρ = α+ αρ ρ = αρ + α (37) αφού ρ 0 = και ρ = ρ Οι εξισώσεις αυτές είναι γνωστές ως εξισώσεις Yule-Walker και συνιστούν σύστημα δύο εξισώσεων από την λύση του οποίου προκύπτουν οι τιμές για τις δύο αυτοσυσχετίσεις, εφόσον είναι γνωστές οι τιμές των συντελεστών α και α. Συγκεκριμένα είναι: 0

27 ρ α = α (38) α ρ = α + α Εναλλακτικά, εάν είναι γνωστές οι αυτοσυσχετίσεις ρ και ρ μπορούμε να βρούμε τις τιμές των συντελεστών. Η συνάρτηση αυτοσυσχέτισης μίας AR() διαδικασίας θα τείνει προς το μηδέν καθώς αυξάνεται η υστέρηση (s). Στο διάγραμμα 4 δίνεται η συνάρτηση αυτοσυσχέτισης για δύο διαφορετικές τιμές των συντελεστών α και α. Οι αυτοσυσχετίσεις για s > υπολογίζονται από την σχέση (35) αφού προηγουμένως έχουν υπολογιστεί οι δύο πρώτες αυτοσυσχετίσεις ρ και ρ, από το σύστημα (38). Για παράδειγμα, για α = 0,5 και α = 0,3 έχουμε: και 0,5 ρ = = 0,7 0,3 ρ = 0,5ρ + 0,3ρ για s > s s s Επομένως: ρ = 0,5ρ + 0,3ρ = 0, ,5 ρ = 0,3 + = 0, 66 0,3 ρ = 0,5ρ + 0,3ρ = 0, 47 κ.ο.κ. Από το διάγραμμα 4 παρατηρούμε ότι και οι δύο συναρτήσεις τείνουν προς το μηδέν, αλλά η δεύτερη εμφανίζει ημιτονοειδή συμπεριφορά.

28 Διάγραμμα 4: Συναρτήσεις Αυτοσυσχέτισης για δύο AR() Διαδικασίες

29 .4 Αυτοπαλίνδρομα Υποδείγματα p Τάξης [AR(p)] Όπως είδαμε, στη γενική του μορφή, το αυτοπαλίνδρομο υπόδειγμα p τάξης γράφεται ως: Y = α + αy + α Y + + α Y + ε (39) 0... p p ή y = αy + αy α y + ε (40) p p ή p ( L L... pl ) y α α α = ε (4) Ο μέσος των Y δίνεται από την σχέση: μ α α α... αp 0 = (4) Για το AR(p) ισχύουν [5], [] τα εξής: ή γ σ αγ α γ α γ 0 = p p (43) σ γ = (44) 0 αρ αρ... αpρp γ = αγ + αγ + + α γ για s > 0 (45) s s s... p s p ρ = αρ + αρ + + α ρ για s > 0 (46) s s s... p s p Από την σχέση (46) για s =,,..., pπροκύπτουν οι παρακάτω p Yule-Walker εξισώσεις: ρ = α+ ρα + ρα ρp αp ρ = ρα + α + ρα ρp αp ρ3 = ρα + ρα + α ρp 3αp (47) p = p + p + p p ρ ρ α ρ α ρ α α Οι παραπάνω εξισώσεις συνιστούν ένα σύστημα p εξισώσεων, από την λύση του οποίου προκύπτουν οι τιμές για τις αυτοσυσχετίσεις, αν είναι γνωστές οι τιμές των συντελεστών α, α,..., α p, που είναι επίσης γνωστοί ως συντελεστές αυτοπαλινδρόμησης. Με το συμβολισμό πινάκων, το παραπάνω σύστημα γράφεται ως εξής: R = ΠΑ (48) 3

30 όπου ρ α ρ α R =. A =... ρ p α p και ρ ρ... ρp p ρ... ρp Π= ρp ρp ρp 3... Αν οι αυτοσυσχετίσεις είναι γνωστές, τότε οι συντελεστές αυτοπαλινδρόμησης δίνονται από την σχέση : Α = Π - R (49).5 Μερική Αυτοσυσχέτιση Όλες οι αυτοπαλίνδρομες διαδικασίες έχουν συναρτήσεις αυτοσυσχέτισης, οι οποίες βαίνουν φθίνουσες καθώς αυξάνεται το μήκος της υστέρησης s, με συνέπεια να είναι πολλές φορές δύσκολο να καθοριστεί η τάξη του υποδείγματος, που περιγράφει τη σειρά, με βάση τη συνάρτηση αυτοσυσχέτισης. Ως ένα πρόσθετο κριτήριο για το σκοπό αυτό, χρησιμοποιείται η συνάρτηση μερικής αυτοσυσχέτισης. Η μερική αυτοσυσχέτιση ανάμεσα στην συσχέτιση ανάμεσα στην Y και στην Y και στην Y sαναφέρεται στην Y s όταν έχουν αφαιρεθεί οι γραμμικές επιδράσεις των ενδιάμεσων μεταβλητών Y, Y,..., Y ( s ). Αν συμβολίσουμε με ρ ss το συντελεστή μερικής αυτοσυσχέτισης s τάξης, δηλαδή, το συντελεστή αυτοσυσχέτισης ανάμεσα στην Y και στην Y s, για s =,,..., τότε, σύμφωνα με τον παραπάνω ορισμό, y sστο υπόδειγμα: ρ ss είναι ο συντελεστής μερικής παλινδρόμησης της μεταβλητής y = ρ y + ρ y + ρ y + + ρ y + ε (50) s s 3s 3... ss s 4

31 Για παράδειγμα, ο συντελεστής μερικής αυτοσυσχέτισης πρώτης τάξης ρ προκύπτει από την παλινδρόμηση: y = ρ y + ε Είναι προφανές ότι ο συντελεστής μερικής αυτοσυσχέτισης ρ συμπίπτει με το συντελεστή αυτοσυσχέτισης ρ. Δηλαδή, ρ = ρ Ο συντελεστής μερικής αυτοσυσχέτισης δεύτερης τάξης ρ προκύπτει από την παλινδρόμηση: y = ρ y + ρ y + ε Ο συντελεστής μερικής συτοσυσχέτισης τρίτης τάξης ρ 33 προκύπτει από την παλινδρόμηση: κ.ο.κ. y = ρ y + ρ y + ρ y + ε Με αλλά λόγια, οι συντελεστές μερικής αυτοσυσχέτισης ρ, ρ,..., ρ ss προκύπτουν από διαδοχικές παλινδρομήσεις ανάμεσα στην y και στην y s, για s =,,... δηλαδή, αρχίζοντας με y και προσθέτοντας κάθε φορά μία υστέρηση. Οι συντελεστές μερικής αυτοσυσχέτισης ρ ss μπορούν επίσης να εκφραστούν ως συνάρτηση των συντελεστών αυτοσυσχέτισης ( ρ ) με βάση τις εξισώσεις Yule- Walker. Συγκεκριμένα, στην σχέση (46) από την οποία προκύπτουν οι εξισώσεις Yule-Walker, αντικαθιστούμε τους συντελεστές αυτοπαλινδρόμισης α, α,..., α p με τους συντελεστές μερικής παλινδρόμησης της σχέσης (50), δηλαδή ρs, ρs,..., ρ ss, οπότε έχουμε την σχέση: ρ = ρ ρ + ρ ρ + + ρ ρ (5) s s s s s... ss s p για s =,,..., p Οι συντελεστές μερικής αυτοσυσχέτισης ρ, ρ,..., ρ pp προκύπτουν από την λύση του συστήματος που προκύπτει από την παραπάνω σχέση. Το σύστημα αυτό είναι ακριβώς η σχέση (48), αν το διάνυσμα των συντελεστών αυτοπαλινδρόμησης αντικατασταθεί από το διάνυσμα των συντελεστών μερικής αυτοσυσχέτισης. Έστω R ss το διάνυσμα αυτό. Δηλαδή, R = ( ρ ρ ρ... ρ ) (5) ' ss 33 ss s 5

32 οπότε η σχέση (48) γίνεται: R = Π R ss και R ss =Π - R (53) Οι συντελεστές μερικής αυτοσυσχέτισης υπολογίζονται με τον κανόνα του Cramer ως εξής: ρ ρ = ρ = = ρ ρ ρ ρ ρ ρ ρ ρ ρ 33 = ρ ρ ρ ρ ρ3 ρ ρ ρ ρ ρ ρ ρ ρ κ.ο.κ. μέχρι ρ pp = ρ ρ... ρ ρ p ρ ρ... ρ ρ p ρ ρ ρ... ρ ρ p p p 3 ρ ρ... ρ ρ p p ρ ρ... ρ ρ p 3 p ρ ρ ρ... ρ p p p 3 p (54) Οι συντελεστές ρ ss, για διάφορες τιμές του s, είναι η συνάρτηση μερικής αυτοσυσχέτισης. Είναι προφανές ότι, για μία αυτοπαλίνδρομη διαδικασία p τάξης, η συνάρτηση μερικής αυτοσυσχέτισης είναι μηδέν για s της μερικής αυτοσυσχέτισης. > p, σύμφωνα με τον ορισμό 6

33 Πιο συγκεκριμένα: για AR(): ρ = ρ = α ρ = 0 για s > για AR(): ρ = ρ ρ ss ρ ρ = ρ για AR(p): ρ = ρ ρ = 0 για s > ss ρ 0.. ρ pp 0 ρ = 0 για s > p ss Στο διάγραμμα 5 δίνονται οι συναρτήσεις μερικής αυτοσυσχέτισης για διάφορες AR() διαδικασίες. Συγκεκριμένα για: i. α = 0,5 και α = 0,3 ii. α = και α = 0,5 iii. α = 0,5 και α = 0,3 iv. α = 0,5 και α = 0,3 Με απευθείας αντικατάσταση στους σχετικούς τύπους έχουμε: i. ρ = 0,7 ρ = 0,3 ρ = 0, 66 ii. ρ = 0,67 ρ = 0,5 ρ = 0,7 iii. ρ = 0,7 ρ = 0,3 ρ = 0, 66 iv. ρ = 0,38 ρ = 0, 9 ρ = 0, 7

34 Διάγραμμα 5: Συναρτήσεις Μερικής Αυτοσυσχέτισης για Διάφορες AR() Διαδικασίες 8

35 .6 Έλεγχος Σημαντικότητας Συντελεστών Αυτοσυσχέτισης Στην πράξη, επειδή τόσο οι αληθινές μερικές αυτοσυσχετίσεις ρ ss όσο και οι αληθινές (απλές) αυτοσυσχετίσεις δεν είναι γνωστές, χρησιμοποιούνται οι αντίστοιχες εκτιμήσεις τους από το δείγμα. Με βάση τις εκτιμήσεις αυτές, μπορεί να γίνει έλεγχος σημαντικότητας των παραμέτρων στον πληθυσμό. Για μεγάλα δείγματα οι εκτιμήσεις ρ των αυτοσυσχετίσεων ρ s κατανέμονται [6] κανονικά με μέσο το μηδέν και διακύμανση /Τ, όπου Τ είναι το μέγεθος του δείγματος. Το ίδιο ισχύει και για τις εκτιμήσεις, των μερικών αυτοσυσχετίσεων ρ ss, για υστερήσεις s μεγαλύτερες από την τάξη p της AR διαδικασίας. Συμβολικά: ρ s ~ N(0, ) T ρ ss ~ N(0, ) για s> p T Ο έλεγχος της σημαντικότητας του συντελεστή ρ s, δηλαδή ο έλεγχος της υπόθεσης: H0 : ρ s = 0 (55) H : ρs 0 γίνεται με τη στατιστική: s = ρ s = ρs T (56) T Κατά τα γνωστά, για δεδομένο επίπεδο σημαντικότητας α, η μηδενική υπόθεση απορρίπτεται αν s > κρίσιμη τιμή του. Επειδή για T > 30 η κρίσιμη τιμή του για α=5% είναι περίπου +, η μηδενική υπόθεση απορρίπτεται αν s >. Εξάλλου, το 95% διάστημα εμπιστοσύνης είναι : ρs ρs ρs+ T T Ακριβώς τα ίδια ισχύουν και για τον έλεγχο σημαντικότητας του συντελεστή μερικής αυτοσυσχέτισης ρ ss. Δηλαδή, ο συντελεστής ρ ss είναι σημαντικός, αν 9

36 ρ T > ss Με βάση τον παραπάνω έλεγχο σημαντικότητας των συντελεστών μερικής αυτοσυσχέτισης μπορεί να καθοριστεί η τάξη μίας AR διαδικασίας. Δηλαδή, εξετάζοντας την ακολουθία των τιμών s για s =,,..., επιλέγεται ως τάξη της σειράς αυτή που αντιστοιχεί στην τελευταία σημαντική τιμή του s. Αν για παράδειγμα, η τελευταία σημαντική τιμή του είναι για s =, δηλαδή ο συντελεστής ρ είναι σημαντικός, ενώ ο ρ 33 δεν είναι σημαντικός, τότε συμπεραίνουμε ότι η τάξη p του υποδείγματος είναι. Έστω, για παράδειγμα, ότι από ένα δείγμα 00 παρατηρήσεων με βάση τη σχέση (50) προέκυψαν οι εξής παλινδρομήσεις: y = 0, 464y y = 0, y + 0, 493y y = 0, y + 0, 498y 0,07 y Επομένως: 3 ρ = 0, 464 και = 0, = 4, 64 ρ = 0, 493 και = 0, = 4,93 ρ = 0,07 και = 0,07 00 = 0, Επειδή, ρ 33 δεν είναι σημαντικός, αφού 0,7 <, ενώ ρ και ρ μπορεί να θεωρηθεί ότι το δείγμα προέρχεται από μία AR() διαδικασία. είναι σημαντικοί,.7 Εκτίμηση Υποδειγμάτων AR Είδαμε προηγουμένως ότι, αν ένα δείγμα προέρχεται από μία AR διαδικασία, με βάση τη δειγματική (εκτιμημένη) συνάρτηση μερικής αυτοσυσχέτισης μπορεί να καθοριστεί η τάξη p του υποδείγματος. Αν υποθέσουμε ότι γνωρίζουμε την τάξη, το ερώτημα είναι πως μπορούμε να εκτιμήσουμε τις παραμέτρους του υποδείγματος. Ένας τρόπος είναι να χρησιμοποιήσουμε την σχέση (49) αντικαθιστώντας τις αυτοσυσχετίσεις ρ s με τις εκτιμήσεις ρ s από το δείγμα, όπως δίνονται από την 30

37 σχέση () του Κεφαλαίου. Ένας άλλος τρόπος είναι να χρησιμοποιηθεί η μέθοδος των ελαχίστων τετραγώνων. Το AR(p) υπόδειγμα στην γενική του μορφή, δηλαδή: Y = δ + αy + α Y + + α Y + ε... p p μπορεί να θεωρηθεί ως ένα γραμμικό υπόδειγμα με p ανεξάρτητες μεταβλητές. Μόνο που τώρα οι μεταβλητές αυτές είναι στοχαστικές. Οι εκτιμητές που προκύπτουν από τη μέθοδο των ελαχίστων τετραγώνων έχουν τις ιδιότητες μεγάλων δειγμάτων. Είναι, δηλαδή, συνεπείς και ακολουθούν προσεγγιστικά την κανονική κατανομή. Για ένα δείγμα Τ παρατηρήσεων έχουμε το ακόλουθο σύστημα Τ-p εξισώσεων: Y = δ + αy + α Y + α Y α Y + ε p+ p p 3 p p p+ Y = δ + αy + α Y + α Y α Y + ε p+ p+ p 3 p p p+ Y = δ + αy + α Y + α Y α Y + ε (57) p+ 3 p+ p+ 3 p p 3 p Y = + Y + Y + Y + + Y + T δ α T α T α3 T 3... αp T p εt Με το συμβολισμό των πινάκων, κατά τα γνωστά, το παραπάνω σύστημα γράφεται ως εξής: Υ = Χβ + ε (58) όπου Y δ p+ ε p+ Y α p+ Y =. α ε p+ β = ε =... Y.. T α ε T p Yp Yp Yp... Y Yp+ Yp Yp... Y Yp+ Yp+ Yp... Y3 X = Y Y Y 3... Y T T T T p Κατά τα γνωστά, οι εκτιμητές ελαχίστων τετραγώνων δίνονται από την σχέση: 3

38 β = ( Χ' Χ) Χ' Υ (59) όπου ' (... α p ) β = δ α α Η μήτρα των διακυμάνσεων συνδιακυμάνσεων των εκτιμητών είναι: όπου S s X X = ( ' ) (60) β ( Y X β)' ( Y X β) u S = = (6) T p ( p+ ) T p Ένας εκτιμητής του μέσου της AR(p) διαδικασίας δίνεται από τη σχέση: μ = δ α α... α p (6).8 Παράδειγμα Στον πίνακα 3 δίνονται 00 παρατηρήσεις μίας χρονολογικής σειράς Υ και στο σχήμα η γραφική της απεικόνιση. Οι παρατηρήσεις είναι κατασκευασμένες με το πρόγραμμα E-Views με βάση το υπόδειγμα: Y = 0,3Y + 0,5Y + ε υποθέτοντας Y = 0 και Y =, 5. Οι τιμές του διαταρακτικού όρου ε δημιουργούνται από το πρόγραμμα E-Views από μία κατανομή τυχαίων αριθμών με μέσο το μηδέν και διακύμανση τη μονάδα. Είναι, δηλαδή, λευκός θόρυβος. Είναι προφανές ότι η σειρά είναι στάσιμη αφού ικανοποιούνται οι συνθήκες στασιμότητας όπως δίνονται στη σχέση (36). Στο διάγραμμα 6 δίνονται οι δειγματικές συναρτήσεις αυτοσυσχέτισης και μερικής αυτοσυσχέτισης για s =,,...,36. Το διάγραμμα αυτό, που εν μέρει είναι και πίνακας συγχρόνως, είναι η τυπική μορφή παρουσίασης των αποτελεσμάτων του προγράμματος E-Views. Η πρώτη στήλη είναι το διάγραμμα αυτοσυσχέτισης (auocorrelaion), η δεύτερη στήλη είναι το διάγραμμα μερικής αυτοσυσχέτισης (parial correlaion), η τρίτη στήλη αναφέρεται στον αριθμό των υστερήσεων ( s =,,...,36 ), ενώ στην τέταρτη και πέμπτη στήλη δίνονται οι δειγματικές τιμές των 3

39 αυτοσυσχετίσεων (AC) και μερικών αυτοσυσχετίσεων (PAC), αντίστοιχα. Στην έκτη στήλη (Q-Sa) δίνεται η τιμή της στατιστικής ελέγχου Q. Η στατιστική Q χρησιμοποιείται για τον έλεγχο της σημαντικότητας των συντελεστών αυτοσυσχέτισης. Η τελευταία στήλη (Prob) αναφέρεται στο ακριβές επίπεδο σημαντικότητας, δηλαδή στην τιμή P, για κάθε τιμή της στατιστικής Q. Οι διακεκομμένες γραμμές στα δύο διαγράμματα καθορίζουν το 95% διάστημα εμπιστοσύνης για τις τιμές των συντελεστών αυτοσυσχέτισης, απλής και μερικής. Δηλαδή, καθορίζουν το ρ + s T και ρ ss + διάστημα, αντίστοιχα. T Όπως βλέπουμε από τα διαστήματα εμπιστοσύνης στο διάγραμμα 6, οι συντελεστές αυτοσυσχέτισης ρ s είναι σημαντικοί μέχρι s = 7. Για s > 7, οι συντελεστές ρ s δεν διαφέρουν από το μηδέν. Από τους συντελεστές μερικής αυτοσυσχέτισης ( ρ ss ) μόνο οι δύο πρώτοι είναι σημαντικοί. Τα αποτελέσματα αυτά είναι βεβαίως τα αναμενόμενα, αφού γνωρίζουμε ότι οι παρατηρήσεις προέρχονται από μία στάσιμη AR() διαδικασία. Θα εφαρμόσουμε τώρα τη μέθοδο των ελαχίστων τετραγώνων για να εκτιμήσουμε ένα AR() υπόδειγμα με τα δεδομένα του πίνακα 3. Θα εκτιμήσουμε δηλαδή το υπόδειγμα : Y = δ + αy + α Y + ε Για Τ = 00 και p =, το σύστημα (57) γίνεται: Y3 Y Y ε3 Y4 Y3 Y δ ε 4. =... α α. Y Y Y ε Η εκτίμηση που προκύπτει από τη μέθοδο των ελαχίστων τετραγώνων είναι η ακόλουθη: Y = 0,9 + 0,36Y + 0,438Y (-0,70) (3,58) (4,8) R = 0, 47 33

40 F = 4,66 S = 0,97 Με βάση τις τιμές της στατιστικής, οι εκτιμήσεις των παραμέτρων α και α είναι σημαντικές, ενώ η εκτίμηση του σταθερού όρου δ δεν είναι σημαντική. Οι εκτιμήσεις των παραμέτρων α και α ασφαλώς δεν συμπίπτουν με τις γνωστές θεωρητικές τιμές τους, αλλά είναι πολύ κοντά. Πολύ κοντά, σχεδόν συμπίπτει με τη θεωρητική τιμή, βρίσκεται και η εκτίμηση της διακύμανσης του σφάλματος. Σχήμα : Γραφική Απεικόνιση των παρατηρήσεων του Πίνακα 3 34

41 35 Έτος Πίνακας 3: Τιμές της Υ για 96 έτη

42 Διάγραμμα 6: Η Συνάρτηση Αυτοσυσχέτισης και Μερικής Αυτοσυσχέτισης για την Χρονολογική Σειρά του Πίνακα 3 36

43 3 ΥΠΟ ΕΙΓΜΑΤΑ ΚΙΝΗΤΟΥ ΜΕΣΟΥ ΚΑΙ ΜΕΙΚΤΑ 3. Εισαγωγή Στο κεφάλαιο αυτό, θα εξετάσουμε υποδείγματα κινητού μέσου και υποδείγματα που είναι μεικτά, δηλαδή υποδείγματα στα οποία η συμπεριφορά της εξαρτημένης μεταβλητής Y έχει τα χαρακτηριστικά ενός συνδυασμού αυτοπαλίνδρομης και κινητού μέσου διαδικασίας. Στη γενική του μορφή ένα υπόδειγμα κινητού μέσου q τάξης ή MA(q) γράφεται ως εξής: Y = μ + ε + θε + θ ε + + θ ε (63)... q q Η τάξη (q) αναφέρεται στο μήκος της υστέρησης της μεταβλητής, για την οποία, όπως και στο προηγούμενο κεφάλαιο, υποθέτουμε ότι είναι λευκός θόρυβος. Ο όρος κινητός μέσος, αναφέρεται στο γεγονός ότι η Y εμφανίζεται ως ένα σταθμισμένο άθροισμα, όπως ο μέσος, των τιμών της ε. Θα εξετάσουμε πρώτα την περίπτωση μίας διαδικασίας κινητού μέσου πρώτης τάξης (ΜΑ()). 3. Υποδείγματα Κινητού Μέσου Πρώτης Τάξης [ΜΑ()] Για q = η σχέση (63) γίνεται: Y = μ + ε + θε (64) ή Y = μ + ε θε (65) Πολλές φορές το υπόδειγμα (64) διατυπώνεται ως εξής: Y μ = y = ε + θε (66) Με την χρήση του τελεστή υστερήσεως L, η σχέση (65) γράφεται ως εξής: y = ( + θ L) ε (67) Για θ < η παραπάνω σχέση μπορεί να μετασχηματιστεί ως εξής: ή + L y = ε (68) ( θ ) 37

44 θ L+ θ L θ L + y = ε (69) 3 3 (...) Η παραπάνω σχέση μπορεί να θεωρηθεί ως μία AR( ) διαδικασία που προέκυψε από μία ΜΑ() διαδικασία αντιστρέφοντας τον όρο ( + θl). Αν αυτό είναι δυνατό, τότε η ΜΑ() διαδικασία είναι αντιστρέψιμη ή χαρακτηρίζεται από αντιστρεψιμότητα. Δηλαδή, μία ΜΑ() διαδικασία είναι αντιστρέψιμη αν μπορεί να διατυπωθεί ως μία αυτοπαλίνδρομη διαδικασία με άπειρους όρους. Όπως όμως είδαμε και στο προηγούμενο κεφάλαιο, η ιδιότητα της αντιστρεψιμότητας χαρακτηρίζει και κάθε στάσιμη AR() διαδικασία αφού μπορεί να μετατραπεί σε ΜΑ( ). Αποδεικνύεται ότι για το υπόδειγμα ΜΑ() ισχύουν τα παρακάτω: και EY ( ) = μ (70) γ 0 = VY ( ) = ( + θ ) σ (7) γ = Cov Y Y = θσ για s = (7) ρ s (, s) θ s = +θ = 0 για s > για s = = 0 για s > Δηλαδή, όλες οι αυτοσυνδιακυμάνσεις και συνεπώς οι αυτοσυσχετίσεις είναι μηδέν εκτός από την πρώτη. Αυτό σημαίνει ότι η μνήμη της διαδικασίας δεν υπερβαίνει τη μία περίοδο. Δηλαδή, μία οποιαδήποτε παρατήρηση της Υ, έστω η Y 0, συσχετίζεται με την προηγούμενη Y 9 ή την επόμενη Y, αλλά δεν συσχετίζεται με καμία άλλη. (73) 3.3 Υποδείγματα Κινητού Μέσου q Τάξης [ΜΑ(q)] Όπως έχει αναφερθεί, η σχέση: Y = μ + ε + θε + θ ε + + θ ε (74)... q q είναι το υπόδειγμα κινητού μέσου τάξης q ή ΜΑ(q). Αποδεικνύεται στην εργασία [7] ότι για το υπόδειγμα MA(q) ισχύουν τα εξής: 38

45 EY ( ) = μ (75) γ = = + θ + θ + + θ σ = 0 VY ( ) (... q ) q θs s= 0 γ = Cov( Y, Y ) = s s = σ, όπου θ 0 = (76) = ( θs + θs+ θ+ θs+ θ θqθq s) σ για,,..., = 0 για s> q s = q (77) θ + θ θ + θ θ θ θ ρ = s s s+ s+ q q s + θ + θ θq για s =,,..., q (78) = 0 για s> q Για παράδειγμα, για το υπόδειγμα ΜΑ() ισχύουν τα εξής: γ = ( + θ + θ ) σ 0 γ θ θ θ σ γ θ + θθ = ( + ) ρ = + θ + θ = θσ θ θ θ ρ = (79) + + γ = 0 για s > ρ = 0 για s > s s Γενικά, οι αυτοσυνδιακυμάνσεις και συνεπώς η συνάρτηση αυτοσυσχέτισης είναι μηδέν μετά από q υστερήσεις, δηλαδή για s > q. Η συμπεριφορά της συνάρτησης μερικής αυτοσυσχέτισης προσομοιάζει με αυτή της συνάρτησης αυτοσυσχέτισης μίας AR διαδικασίας. Ας σημειωθεί ότι, γενικά, ενώ η συνάρτηση αυτοσυσχέτισης μίας AR(p) διαδικασίας μπορεί να εκτείνεται στο άπειρο, η συνάρτηση αυτοσυσχέτισης μίας ΜΑ(q) διαδικασίας μηδενίζεται μετά από q υστερήσεις. Με άλλα λόγια, η μνήμη της εξαντλείται σε q περιόδους. Αντίθετα, η συνάρτηση μερικής αυτοσυσχέτισης μίας AR(p) διαδικασίας μηδενίζεται μετά από p υστερήσεις, ενώ η συνάρτηση μερικής αυτοσυσχέτισης μίας MA(q) διαδικασίας εκτείνεται στο άπειρο. Στο διάγραμμα 7 και στο διάγραμμα 8 δίνονται οι γραφικές παραστάσεις μίας τυπικής πραγματοποίησης δύο ΜΑ διαδικασιών και οι αντίστοιχες συναρτήσεις αυτοσυσχέτισης. 39

46 Οι μερικές αυτοσυσχετίσεις ( ρ ) μπορούν να εκφραστούν ως συνάρτηση των ss αυτοσυσχετίσεων ( ρ ) με τον ίδιο ακριβώς τρόπο όπως και για τις AR διαδικασίες, s δηλαδή με βάση τη σχέση (53) του Κεφαλαίου. Για παράδειγμα, για την ΜΑ() διαδικασία έχουμε: θ ρ = και ρ = 0 + θ Οι συντελεστές μερικής αυτοσυσχέτισης είναι: θ ρ = ρ = +θ ρ ρ ρ ρ θ ρ ρ ρ 0 ρ + θ θ = = = = = 4 ρ ρ ρ θ + θ + θ ρ ρ + θ ρ ρ ρ ρ ρ ρ ρ 0 ρ ρ ρ 0 ρ 0 ρ = = = ρ ρ ρ 0 ρ ρ ρ ρ ρ ρ ρ 0 ρ κ.ο.κ. για τους υπόλοιπους συντελεστές. 40

47 y = 0 + ε + 0,9ε ) Διάγραμμα 7: Μια Τυπική Πραγματοποίηση της ΜΑ() Διαδικασίας ( και η Συνάρτηση Αυτοσυσχέτισης 4

48 Διάγραμμα 8: Μια Τυπική Πραγματοποίηση της ΜΑ() Διαδικασίας y = 5 + ε + 0,7ε 0,ε ) και η Συνάρτηση Αυτοσυσχέτισης ( 4

49 Για παράδειγμα, ας υπολογίσουμε τις αυτοσυσχετίσεις, απλές και μερικές, για τα ακόλουθα δύο υποδείγματα: α) ΜΑ(): Y = 5 + ε 0,9 ε και ε ~(0,) Με αντικατάσταση στους σχετικούς τύπους έχουμε: 0,9 γ0 = + ( 0,9) =,8 ρ = ρ = = 0,5,8 γ = 0,9 γ = 0 για s > s κ.ο.κ. ρ ( 0,5) ρ = = = 0,33 ρ ( 0,5) ρ ( 0,5) ρ = = = 0, ρ ( 0,5) β) ΜΑ(): Y = 0 + ε 0, 7ε + 0, ε και ε ~(0,) Με αντικατάσταση στους σχετικούς τύπους έχουμε: γ = 3, 06 ρ = 0,37 0 γ =, ρ = 0,3 γ = 0, ρ s = 0 για s > γ = 0 για s > s ρ = ρ = 0,37 ρ ρ 0,3 0,37 ρ = = = 0, 7 ρ 0,37 ρ ρ ρ ρ ρ 0,37 0,37 ( 0,3) 0,37 ( 0,3) ρ = = = 0, 3 33 ρ ρ 0,37 ( 0,3) κ.ο.κ. 3.4 Εκτίμηση Υποδειγμάτων ΜΑ Όπως για τις αυτοπαλίνδρομες διαδικασίες, έτσι και για τις διαδικασίες κινητού μέσου, η τάξη του υποδείγματος (q) μπορεί να καθοριστεί από την συμπεριφορά της δειγματικής συνάρτησης αυτοσυσχέτισης. Όπως είδαμε, η συνάρτηση 43

50 αυτοσυσχέτισης μίας ΜΑ(q) διαδικασίας μηδενίζεται μετά από q υστερήσεις. Αυτό σημαίνει ότι οι αυτοσυσχετίσεις για s είναι σημαντικές. qθα είναι σημαντικές, ενώ για s> q δεν θα Ο έλεγχος σημαντικότητας των αυτοσυσχετίσεων μπορεί να γίνει ακριβώς με τον ίδιο τρόπο που εξηγήσαμε για AR διαδικασίες. Όταν έχει καθοριστεί η τάξη, οι παράμετροι του υποδείγματος μπορούν να υπολογιστούν από τις σχέσεις που συνδέουν τις αυτοσυσχετίσεις με τις παραμέτρους, δηλαδή από τη σχέση (49) του Κεφαλαίου, αντικαθιστώντας τις αυτοσυσχετίσεις δείγμα, όπως δίνονται από τη σχέση () του Κεφαλαίου. ρ s με τις εκτιμήσεις ρ s από το Η χρησιμοποίηση της μεθόδου των ελαχίστων τετραγώνων δεν είναι εφικτή, όπως στην περίπτωση των υποδειγμάτων AR, γιατί η προς ελαχιστοποίηση συνάρτηση: T T ε = ( Y μ θε θε... θqε q) = = (80) δεν είναι γραμμική ως προς τις παραμέτρους. Για παράδειγμα, για q =, η παραπάνω σχέση γίνεται: ε = ( y θε ) (8) Επειδή, όπως εξηγήσαμε στην παράγραφο 3., μία στάσιμη ΜΑ() διαδικασία μπορεί να διατυπωθεί ως μία AR( ) διαδικασία, από τη σχέση (69) έχουμε: και ε = θ + θ θ + (8) 3 y y y y ε = ( y θy + θ y θ y ) (83) Βλέπουμε, λοιπόν, ότι η παραπάνω σχέση είναι μη γραμμική ως προς την παράμετρο θ, πράγμα που σημαίνει ότι δεν μπορεί να εφαρμοστεί η μέθοδος των ελαχίστων τετραγώνων. Για παράδειγμα, ας εκτιμήσουμε ένα ΜΑ() υπόδειγμα με τα δεδομένα του πίνακα 4. Τα δεδομένα αυτά, η γραφική παράσταση των οποίων δίνεται στο σχήμα, κατασκευάστηκαν με βάση το υπόδειγμα Y = ε 0,7ε, υποθέτοντας ότι Y = 0. Στο διάγραμμα 9 δίνονται οι δειγματικές αυτοσυσχετίσεις (απλές και μερικές) καθώς και τα αντίστοιχα διαγράμματα αυτοσυσχέτισης και μερικής αυτοσυσχέτισης, όπως αυτά προκύπτουν από το πρόγραμμα E-Views. Τα αποτελέσματα της μη γραμμικής εκτίμησης που προκύπτουν από το ίδιο πρόγραμμα είναι τα εξής: 44

51 θ = 0,8 = 3,5 R = s = 0, 40, 04 Οι εκτιμήσεις του συντελεστή θ και της διακύμανσης δεν συμπίπτουν απολύτως με τις θεωρητικές τιμές τους, αλλά είναι πολύ κοντά. Έτος Πίνακας 4: Τιμές με βάση το υπόδειγμα Y = ε 0,7ε 45

52 Σχήμα : Η Γραφική Απεικόνιση των δεδομένων του Πίνακα 4 Διάγραμμα 9: Η Συνάρτηση Αυτοσυσχέτισης και Μερικής Αυτοσυσχέτισης για τη Χρονολογική Σειρά του Πίνακα 4 46

53 3.5 Υποδείγματα ARMA Το υπόδειγμα: Y = δ + αy + α Y α Y + ε + θε + θ ε θ ε (84) p p q q είναι συνδυασμός p αυτοπαλίνδρομων όρων και q όρων κινητού μέσου, γι αυτό αποκαλείται μεικτό αυτοπαλίνδρομο-κινητού μέσου υπόδειγμα τάξης (p, q) ή ARMA(p,q). Είναι προφανές ότι μία καθαρά αυτοπαλίνδρομη μορφή ή μία καθαρά μορφή κινητού μέσου μπορούν να θεωρηθούν ως ειδικές περιπτώσεις μίας ARMA διαδικασίας. Δηλαδή, AR(p) = ARMA(p,0) και ΜΑ(q) = ARMA(0,q). Με τον συμβολισμό του τελεστή υστέρησης η σχέση (84) γράφεται ως εξής: ( α L α L... α L ) Y = δ + ( + θ L+ θ L θ L ) ε (85) p q p q ή ALY ( ) = δ +Θ ( L) ε (86) όπου A L = α L α L α L ( )... p p q Θ ( L) = + θ L θ L (87) q Όταν η σειρά είναι στάσιμη [8], δ Θ( L) Y = + ε (88) AL ( ) AL ( ) και δ μ = (89) α α... αp 3.5. ARMA(,) Η απλούστερη μορφή μίας ARMA διαδικασίας είναι το υπόδειγμα ARMA(,). Δηλαδή: Y = δ + αy + ε + θε (90) ή y = α y + ε + θε (9) Το παραπάνω υπόδειγμα μπορεί να γραφεί ως μία καθαρά ΜΑ διαδικασία. Υστερώντας διαδοχικά την (90) και αντικαθιστώντας για Y, Y, Y 3,... έχουμε: 47

54 Y = δ + α ( δ + αy + ε + θε ) + ε + θε = = ( δ + αδ) + α + ε + ( α + θ ) ε + αθε = Y = ( δ + αδ) + α ( δ + α + ε + θε ) + ε + ( α + θ ) ε + αθε = Y 3 3 = ( δ + αδ + α δ) + α + ε + ( α + θ ) ε + α ( α + θ ) ε + α θε = 3 Y = ( δ + αδ + α δ + α δ +...) + ε + ( α + θ ) ε + α ( α + θ ) ε 3 + α ( α + θ ) ε + α ( α + θ ) ε Η παραπάνω σχέση γράφεται ως εξής: i i = + + ( + ) i i= 0 i= 0 (9) Y δ α ε α α θ ε i Για να είναι η σειρά στάσιμη θα πρέπει το άθροισμα α( α+ θ) να συγκλίνει, πράγμα που σημαίνει ότι α <, όπως και στην περίπτωση της αυτοπαλίνδρομης διαδικασίας AR(). Επομένως όταν η σειρά είναι στάσιμη, η (9) γράφεται ως εξής: Y δ (93) i = + ε + α( α+ θ) ε i α i= 0 i γιατί α =, αφού είναι άθροισμα όρων φθίνουσας γεωμετρικής προόδου. α i= 0 Η σχέση (93) είναι μία ΜΑ διαδικασία με άπειρους όρους, που θα μπορούσε να προσεγγιστεί με έναν περιορισμένο αριθμό όρων δεδομένου ότι η σημασία των συντελεστών βαίνει μειούμενη. Δηλαδή, μετά από κάποιο σημείο θα μπορούσαν να παραλειφθούν οι επόμενοι όροι. Για παράδειγμα, έστω η ακόλουθη στοχαστική διαδικασία: Y = δ + 0,8Y + ε + 0,8ε (94) Έστω επίσης ότι, Ψ i i = α( α+ θ), οπότε: και i Ψ = 0,8, 6 i 0 Ψ 0 = 0,8,6 =,6 Ψ = 0,8, 6 =, 8 i= 0 48

55 κ.ο.κ. Ψ = 0,8, 6 =, 0 3 Ψ 3 = 0,8, 6 = 0,8 4 Ψ 4 = 0,8, 6 = 0, 65 δ Επομένως, Y = + ε +,6ε +,8ε +,0 ε , πράγμα που σημαίνει ότι 0,8 απαιτείται υψηλής τάξης ΜΑ διαδικασία προκειμένου να προσεγγιστεί η ARMA(,) διαδικασία του παραδείγματός μας. Είναι πλέον φανερή η οικονομία που επιτυγχάνεται με την χρήση μεικτών υποδειγμάτων, αφού το ARMA(,) υπόδειγμα έχει μόνο δύο συντελεστές. Το υπόδειγμα (90), θα μπορούσε επίσης να διατυπωθεί και ως μία AR( ) διαδικασία. Με διαδοχικές αντικαταστάσεις για ε, ε, ε 3,... προκύπτει η ακόλουθη σχέση [9] : Y δ (95) i = + ε + θ( α+ θ) Y i θ i= 0 Όπου θ <, για να είναι η σειρά αντιστρέψιμη. Όπως και στην περίπτωση της ΜΑ( ) διαδικασίας έτσι και για την AR( ) διαδικασία, η προσέγγιση της (95) απαιτεί περισσότερους συντελεστές σε σύγκριση με την ARMA(,) διαδικασία. Βλέπουμε λοιπόν, ότι επιτυγχάνεται ξανά οικονομία με την χρήση της ARMA(,) διαδικασίας. Για το υπόδειγμα ARMA(,) αποδεικνύεται ότι: δ EY ( ) = μ = α γ + θ + αθ 0 = α σ (96) γ = αγ + θσ 0 γ s = αγ s για s > Η συνάρτηση αυτοσυσχέτισης είναι η εξής: θ ( + αθ )( α + θ ) ρ = α + σ = γ 0 + θ + αθ (97) ρs = αρ s για s > 49

56 Παρατηρούμε ότι στη συνάρτηση αυτοσυσχέτισης υπεισέρχεται ο συντελεστής από την ΜΑ() διαδικασία, αλλά μόνο για την αυτοσυσχέτιση πρώτης τάξης ( ρ ). Οι υπόλοιπες αυτοσυσχετίσεις εξαρτώνται μόνο από το αυτοπαλίνδρομο μέρος. Η συνάρτηση αυτοσυσχέτισης για την ARMA(,) διαδικασία φθίνει γεωμετρικά καθώς αυξάνεται το s. Η μείωση αρχίζει από το ρ και όχι από τη μονάδα ( ρ 0 = ) όπως στην περίπτωση της AR() διαδικασίας. Η συνάρτηση μερικής αυτοσυσχέτισης, συμπεριφέρεται όπως στην περίπτωση της ΜΑ() διαδικασίας, δηλαδή φθίνει γεωμετρικά. Οι μερικές αυτοσυσχετίσεις προσδιορίζονται από τις σχέσεις (54) του Κεφαλαίου, όπως και για την περίπτωση ενός AR(p) υποδείγματος. Για παράδειγμα, οι δύο πρώτες μερικές αυτοσυσχετίσεις με βάση τις σχέσεις (54) έχουν ως εξής: ρ ρ = ρ ρ ρ α ρ ρ = = ρ ρ 3.5. ARMA(p,q) Για το γενικό υπόδειγμα ARMA(p,q) οι πρώτες q αυτοσυσχετίσεις, για s q, εξαρτώνται τόσο από τους συντελεστές α i του αυτοπαλίνδρομου τμήματος, όσο και από τους συντελεστές του τμήματος του κινητού μέσου. Για τιμές όμως του s μεγαλύτερες από το q, οι αυτοσυνδιακυμάνσεις και οι αυτοσυσχετίσεις είναι ακριβώς ίδιες με αυτές μίας AR(p) διαδικασίας, δηλαδή δίνονται από τις σχέσεις (45) και (46) του Κεφαλαίου, τις οποίες επαναλαμβάνουμε. γ s = αγ s + αγ s αpγs p για s > q (98) ρs = αρ s + αρ s αpρs p για s > q (99) Γενικά [0], η συνάρτηση αυτοσυσχέτισης μίας ARMA(p,q) διαδικασίας θα συμπεριφέρεται όπως αυτή μίας AR(p) διαδικασίας, ενώ η συνάρτηση μερικής αυτοσυσχέτισης θα συμπεριφέρεται όπως αυτή μίας ΜΑ(q) διαδικασίας για s > q p. Τα παραπάνω συνοψίζονται στον πίνακα 5. 50

57 Διαδικασία Συνάρτηση Αυτοσυσχέτισης (ρ s ) Συνάρτηση Μερικής Αυτοσυσχέτισης (ρ ss ) Λευκός Θόρυβος Μηδέν Μηδέν Αυτοπαλίνδρομη Φθίνει γεωμετρικά ή Μηδενίζεται μετά από p Διαδικασία p τάξης AR(p) φθίνει ακολουθώντας υστερήσεις ημιτονοειδή συμπεριφορά Διαδικασία Κινητού Μηδενίζεται μετά από q Φθίνει γεωμετρικά Μέσου q τάξης MA(q) υστερήσεις Αυτοπαλίνδρομη-Κινητού Φθίνει γεωμετρικά Φθίνει γεωμετρικά Μέσου Διαδικασία ARMA(p,q) Πίνακας 5: Η μορφή της Συνάρτησης Αυτοσυσχέτισης και Μερικής Αυτοσυσχέτισης Για παράδειγμα, ας εξετάσουμε τις αυτοσυσχετίσεις για τις ακόλουθες δύο ARMA(,) διαδικασίες: α) Y = δ + 0,5Y + ε + 0,9ε κ.ο.κ. Έστω ε ~(0,), οπότε: θ αθ 0,9 0,5 0,9 γ = + + = + + = 3, 6 0 σ α 0,5 γ αγ θσ = 0 + = 0,5 3,6+ 0,9 =,7 γ αγ α γ s s s = s = = 0,9,7 για s =,3,... θ ρ α σ 0,9 0,5 0, 75 = + = + = γ 0 3, 6 ρ α ρ α ρ S s s = s = = 0,5 0,75 για s =,3,... ρ = ρ = 0,75 ρ ρ 0,5 0,75 0,75 0,87 ρ = = = = 0, 43 0, 75 0, 438 ρ 5

58 = δ + 0,5 + ε 0,9ε β) Y Y Έστω πάλι σ =, οπότε: γ 0 =, γ = 0,3 γ s = s = s 0,5 ( 0,3) για,3,... ρ = 0, 5 ρ s = s = s 0,5 ( 0,5) για,3,... ρ = ρ = 0, 5 ρ = 0, 3 κ.ο.κ. Οι παραπάνω συναρτήσεις παριστάνονται γραφικά στο διάγραμμα 0. Διάγραμμα 0: Συναρτήσεις Αυτοσυσχέτισης και Μερικής Αυτοσυσχέτισης για δύο ARMA(,) Διαδικασίες 5