ΚΕΦΑΛΑΙΟ 5 ΣΤΟΧΑΣΤΙΚΕΣ ΔΙΑΔΙΚΑΣΙΕΣ ΔΙΑΚΡΙΤΟΥ ΧΡΟΝΟΥ, ΥΠΟΔΕΙΓΜΑΤΑ ARIMA ΚΑΙ SARIMA, ΜΕΘΟΔΟΛΟΓΙΑ BOX-JENKINS

ΚΕΦΑΛΑΙΟ 5 ΣΤΟΧΑΣΤΙΚΕΣ ΔΙΑΔΙΚΑΣΙΕΣ ΔΙΑΚΡΙΤΟΥ ΧΡΟΝΟΥ, ΥΠΟΔΕΙΓΜΑΤΑ ARIMA ΚΑΙ SARIMA, ΜΕΘΟΔΟΛΟΓΙΑ BOX-JENKINS 5. Η γενική μορφή στάσιμης γραμμικής στοχαστικής διαδικασίας διακριτού χρόνου 5. Υποδείγματα ARIMA 5.3 Αυτοπαλίνδρομα Υποδείγματα 5.4 Υποδείγματα Κινητού Μέσου 5.5 Μεικτά Υποδείγματα 5.6 Εποχικά Υποδείγματα SARIMA 5.7 Μεθοδολογία δημιουργίας εμπειρικών ARIMA υποδειγμάτων Παράρτημα: Εξισώσεις Διαφορών KEFALAIO 5 A. MILIONIS 7

5. Η γενική μορφή στάσιμης γραμμικής στοχαστικής διαδικασίας διακριτού χρόνου Ένα σημαντικό θεώρημα που αφορά την αναπαράσταση μιας στάσιμης γραμμικής στοχαστικής διαδικασίας διακριτού χρόνου διατυπώθηκε από τον Wοld το 938 και είναι γνωστό σαν Θεώρημα Ανάλυσης του Wold (Wold s Decomoson Theorem). Σύμφωνα με το θεώρημα αυτό κάθε ασθενώς στάσιμη στοχαστική διαδικασία μηδενικού μέσου μπορεί να αναπαρασταθεί με την παρακάτω σχέση: K όπου: ψ =, ε = λευκός θόρυβος, Κ = αιτιοκρατική συνιστώσα και Η Κ εκφράζει κάθε συνιστώσα που μπορεί να είναι απολύτως προβλέψιμη με βάση τις παρελθούσες τιμές της, όπως για παράδειγμα μία πολυωνυμική ή εκθετική συνάρτηση του χρόνου της μορφής που συναντήσαμε στο Κεφάλαιο 3. Αν Κ = τότε η στοχαστική διαδικασία καλείται αμιγώς μη-αιτιοκρατική (urely non-deermnsc). Παρατηρήσεις: Όταν η πρόβλεψη μιας περιόδου βασίζεται μόνο στις παρελθούσες τιμές μιας γραμμικής στάσιμης χρονικής σειράς (μονομεταβλητή πρόβλεψη) η διαδικασία ε παριστάνει το προγνωστικό σφάλμα. Δηλαδή: E( /,,...). Περισσότερες λεπτομέρειες θα δοθούν σε επόμενο μάθημα. KEFALAIO 5 A. MILIONIS 7

KEFALAIO 5 A. MILIONIS 7 3 Η Κ δε σχετίζεται με τις τιμές H παραπάνω σχέση μπορεί να εκφρασθεί και με τη λεγόμενη αναπαράσταση γραμμικού φίλτρου (lnear fler reresenaon) ως εξής: Χρησιμοποιώντας τον τελεστή χρονικής υστερήσεως για Υ αμιγώς μη-αιτιοκρατική θα έχουμε: B B B B B ) (...) (...... ή διαγραμματικά: ε ----------> Ψ(Β) --------->Υ δηλαδή ο λευκός θόρυβος ε μετασχηματίζεται μέσα από το γραμμικό φίλτρο Ψ(Β) στη χρονική σειρά Υ. Η συνάρτηση Ψ(Β) καλείται συνάρτηση μεταφοράς (ransfer funcon) του γραμμικού φίλτρου και οι συντελεστές ψ είναι γνωστοί σαν σταθμίσεις-ψ (s-weghs). Εφαρμογή Να βρεθεί η συνάρτηση αυτοσυσχέτισης της γενικής στάσιμης στοχαστικής διαδικασίας Για απλότητα θα θεωρήσουμε αμιγώς μη-αιτιοκρατικές γραμμικές στοχαστικές διαδικασίες μηδενικού μέσου. Η μέση τιμή τότε θα είναι: Ε(Υ ) = Ε{Ψ(Β)ε }= Η διακύμανση θα είναι:......) (...) ( )) ( ( E E E E

KEFALAIO 5 A. MILIONIS 7 4 όπου σ =διακύμανση του λευκού θορύβου. Σημειώνεται ότι καθώς η ε είναι λευκός θόρυβος θα ισχύει: Ε(ε - ε -j )= j H αυτοσυνδιακύμανση θα είναι:......) (..)... ( ))} ( ( )) ( {( E E E E Επομένως ο συντελεστής αυτοσυσχέτισης τάξης θα δίνεται από τη σχέση: 5. Υποδείγματα ARIMA Στην προηγούμενη ενότητα είδαμε τον τρόπο ανάλυσης μιας στάσιμης στοχαστικής διαδικασίας διακριτού χρόνου σύμφωνα με το θεώρημα του Wold ως ένα σταθμισμένο άθροισμα άπειρων όρων λευκού θορύβου. Αυτό, στη γενική περίπτωση, προϋποθέτει κατ αρχήν την εύρεση ενός

απείρου πλήθους παραμέτρων, κάτι που πρακτικά είναι αδύνατο, δεδομένου ότι συνήθως διαθέτουμε ένα πεπερασμένο πλήθος δεδομένων. Συνεπώς, για πρακτικούς λόγους και όχι μόνο, είναι απαραίτητο να γίνουν κάποιες πρόσθετες υποθέσεις σχετικά με τη φύση των,,. Έτσι τα υποδείγματα που προκύπτουν είναι πολύ πιο εύχρηστα. Πιο συγκεκριμένα υποθέτουμε ότι το πολυώνυμο με άπειρους όρους μπορεί να εκφραστεί ως πηλίκο δύο πολυωνύμων πεπερασμένου βαθμού ως ακολούθως: q q Με την παραπάνω υπόθεση μια στάσιμη στοχαστική διαδικασία αμιγώς μη αιτιοκρατική, μηδενικού μέσου, μπορεί να αναπαρασταθεί ως εξής:,. Υπό αυτή την αναπαράσταση και δεδομένου ότι, q oι συντελεστές των, B εκτιμώνται από τα δεδομένα. Τονίζεται με έμφαση ότι οι συντελεστές αυτοί θα πρέπει να είναι ως προς το πλήθος τους όσο γίνεται λιγότεροι (η απαίτηση για όσο γίνεται μεγαλύτερη «λιτότητα» στο υπόδειγμα είναι γνωστή με τον όρο «arsmony»). Με B το υπόδειγμα γράφεται: Δηλαδή, η εκφράζεται ως ένας γραμμικός συνδυασμός παρελθουσών τιμών μέχρι υστέρηση, συν μία διαδικασία λευκού θορύβου. Η τελευταία υποδηλώνει το στοχαστικό χαρακτήρα του υποδείγματος. Το KEFALAIO 5 A. MILIONIS 7 5

υπόδειγμα αυτό καλείται αυτοπαλίνδρομο τάξεως και συμβολίζεται AR. Με το γενικό υπόδειγμα γράφεται: q B B B B Δηλαδή, η q q q εκφράζεται σαν ένας γραμμικός συνδυασμός από παρελθούσες στοχαστικές διαταραχές συν την τιμή της στοχαστικής διαταραχής για χρόνο. Το υπόδειγμα αυτό καλείται (κακώς) υπόδειγμα κινητού μέσου τάξεως q και συμβολίζεται MA(q). Η γενική στάσιμη στοχαστική διαδικασία θα περιέχει σε συνδυασμό τόσο τη διαδικασία του κινητού μέσου τάξεως q όσο και την αυτοπαλίνδρομη διαδικασία τάξεως. Μια τέτοια διαδικασία καλείται μεικτή διαδικασία τάξεως,q και συμβολίζεται με ARMA, q. Με τις μεικτές διαδικασίες μπορούμε να εκφράσουμε καλύτερα μια διαδικασία είτε το είτε το q λαμβάνουν μεγάλες τιμές. Όταν η διαδικασία διαδικασία AR ή MA q όταν προέρχεται από μία ομογενώς μη στάσιμη W ύστερα από d διαφορίσεις η W ονομάζεται ολοκληρωμένη μεικτή διαδικασία τάξεως,d,q και συμβολίζεται σαν ARIMA, d, q. Παραδείγματα Ο τυχαίος περίπατος είναι μία διαδικασία,, ARIMA. Το αυτοπαλίνδρομο υπόδειγμα πρώτης τάξης είναι ένα υπόδειγμα ARIMA,,., με φ <, Το υπόδειγμα κινητού μέσου δεύτερης τάξης είναι ένα υπόδειγμα ARIMA,,. KEFALAIO 5 A. MILIONIS 7 6

Αν η διαδικασία W είναι ομογενώς μη στάσιμη και οι πρώτες διαφορές της είναι στάσιμες και ακολουθούν το υπόδειγμα τότε η W είναι μία διαδικασία,, ARIMA. 5. Αυτοπαλίνδρομα υποδείγματα (*) 5.. Το αυτοπαλίνδρομο υπόδειγμα πρώτης τάξης Σύμφωνα με τα προηγούμενα το υπόδειγμα αυτό θα έχει τις παρακάτω ισοδύναμες μορφές: Η παράσταση ονομάζεται χαρακτηριστικό πολυώνυμο (ως προς τον τελεστή Β) και όπως θα δούμε στις επόμενες ενότητες παίζει ένα σημαντικό ρόλο για τον έλεγχο (ασθενούς) στασιμότητας. (*) Για ευκολία ο σταθερός όρος θεωρείται ίσος με το μηδέν Λύση της ΑR() στοχαστικής εξίσωσης διαφορών Η AR() διαδικασία, εμπίπτει στη γενική περίπτωση των γραμμικών εξισώσεων διαφορών (βλ. Παράρτημα στο τέλος του κεφαλαίου) με φ =, Χ = ε και n=. Για την περίπτωση της AR() διαδικασίας η λύση επιτυγχάνεται με τη μέθοδο των διαδοχικών αντικαταστάσεων ως εξής: ( ) δεδομένου ότι: Ομοίως αντικαθιστώντας το Υ - με 3 έχουμε: 3 3 Και συνεχίζοντας τις διαδοχικές αντικαταστάσεις καταλήγουμε στην: KEFALAIO 5 A. MILIONIS 7 7

που αποτελεί τη λύση της στοχαστικής εξίσωσης διαφορών. Πόρισμα Από την τελευταία σχέση προκύπτει ότι μία AR() διαδικασία μπορεί να εκφρασθεί και σαν ένα άθροισμα απείρων όρων από εκθετικά σταθμισμένες στοχαστικές διαταραχές. Η σχέση αυτή είναι γνωστή ως ΜΑ( ) αναπαράσταση. Συνθήκη στασιμότητας Από το θεώρημα του Wold γνωρίζουμε ότι για οποιαδήποτε στάσιμη στοχαστική διαδικασία ισχύει: με Συνδυάζοντας την τελευταία σχέση με την παραπάνω λύση της στοχαστικής εξίσωσης διαφορών προκύπτει ότι. Άρα και για τη στασιμότητα του AR() υποδείγματος θα πρέπει: και συνεπώς:. Η προϋπόθεση αυτή αποτελεί και τη συνθήκη στασιμότητας, καθώς για την περίπτωση αυτή Ε(Υ )= και όλες οι αυτοσυνδιακυμάνσεις είναι πεπερασμένες, όπως θα φανεί παρακάτω. Διακύμανση και Συνάρτηση Αυτοσυσχέτισης: Διαδοχικά θα έχουμε: για : KEFALAIO 5 A. MILIONIS 7 8

: για Oπότε: (=), με > (οπότε γ = φ γ ) Άρα η διακύμανση της AR() διαδικασίας θα είναι: Η συνάρτηση αυτοσυσχέτισης μπορεί να προκύψει λύνοντας την ομογενή εξίσωση διαφορών / /, με τη μέθοδο των διαδοχικών αντικαταστάσεων. Θα έχουμε:... 3 3 Από την παραπάνω σχέση είναι φανερό ότι: Για η φθίνει εκθετικά στο μηδέν. Για η φθίνει εκθετικά στο μηδέν εναλλάσσοντας πρόσημο. Σημείωση: είναι αξιοσημείωτο ότι η εξίσωση διαφορών που αναφέρεται στην είναι η ίδια με το ομογενές μέρος της εξίσωσης που αναφέρεται στη στοχαστική διαδικασία με κ στη θέση του. Παραδείγματα AR() υποδειγμάτων, ~ N,5, ), 5 Το γράφημα και η συνάρτηση αυτοσυσχέτισης για τη χρονοσειρά που προκύπτει με την παραπάνω προσομοίωση φαίνονται στα σχήματα που ακολουθούν: KEFALAIO 5 A. MILIONIS 7 9

auocorrelaon...4.6.8. X - -5 5 5 4 6 8, 5 lag ). 5, ~ N,5, Το γράφημα και η συνάρτηση αυτοσυσχέτισης για τη χρονοσειρά που προκύπτει με την παραπάνω προσομοίωση φαίνονται στα σχήματα που ακολουθούν: KEFALAIO 5 A. MILIONIS 7

auocorrelaon -.5..5. -5 - -5 5 5 X 4 6 8, 5 lag KEFALAIO 5 A. MILIONIS 7

5.. Το αυτοπαλίνδρομο υπόδειγμα δεύτερης τάξης Το υπόδειγμα αυτό γράφεται με τις παρακάτω ισοδύναμες μορφές: Το πολυώνυμο ονομάζεται χαρακτηριστικό πολυώνυμο. Συνθήκη στασιμότητας: Για να προσδιορίσουμε τις προϋποθέσεις στασιμότητας κατ αρχήν θεωρούμε τη χαρακτηριστική εξίσωση: =. Έστω ότι οι δύο λύσεις είναι οι:, τότε: g g με Κατ αναλογία με την g, g δηλαδή, g και g. AR διαδικασία για στασιμότητα θα πρέπει Επομένως για να έχουμε στασιμότητα θα πρέπει οι ρίζες του χαρακτηριστικού πολυωνύμου να βρίσκονται εκτός του μοναδιαίου κύκλου. Αποδεικνύεται ότι οι συνθήκες στασιμότητας είναι (βλ. και παρακάτω): Αν έστω και μία εκ των ριζών βρίσκεται επί του μοναδιαίου κύκλου η διαδικασία προφανώς θα είναι μη στάσιμη, ή όπως επίσης αποκαλείται Διαδικασία Μοναδιαίας Ρίζας (Un Roo Process) KEFALAIO 5 A. MILIONIS 7

KEFALAIO 5 A. MILIONIS 7 3 Συνάρτηση αυτοσυσχέτισης: Διαδοχικά θα έχουμε: Αλλά από τη μελέτη του υποδείγματος AR που προηγήθηκε γνωρίζουμε ότι:,, επομένως:, Διαιρώντας την τελευταία σχέση με παίρνουμε: Παρατηρούμε και εδώ ότι η εξίσωση που περιγράφει την είναι ίδια με το ομογενές μέρος της εξίσωσης που περιγράφει τη στοχαστική διαδικασία (δεύτερης τάξης ομογενής εξίσωση διαφορών). Για : Για : Για :Αναγωγικά. Επιπλέον:

Παρατήρηση: οι συνθήκες για είναι ίδιες με τις συνθήκες στασιμότητας. Επανερχόμαστε στην: Η μορφή της λύσης της παραπάνω εξίσωσης διαφορών καθορίζεται από τα χαρακτηριστικά των ριζών λ, λ. Έτσι: ) Αν λ, λ πραγματικές και άνισες: με g g g, g,, σταθερές που καθορίζονται από τις αρχικές συνθήκες. ) Αν g g g : g. 3)Αν δύο ρίζες μιγαδικές συζυγείς. Για την περίπτωση αυτή η 4 λύση της εξίσωσης διαφορών μπορεί να γραφεί στη μορφή: με cos cos. Παρατήρηση: για μιγαδικές ρίζες πρέπει: (αναγκαία συνθήκη). Επομένως, για την περίπτωση πραγματικών ριζών η μορφή της συνάρτησης αυτοσυσχέτισης θα καθορίζεται από δύο εκθετικές πτώσεις. Για την περίπτωση μιγαδικών ριζών η συνάρτηση αυτοσυσχέτισης θα έχει τη μορφή κύματος με μειούμενο πλάτος. Ο συντελεστής απόσβεσης KEFALAIO 5 A. MILIONIS 7 4

KEFALAIO 5 A. MILIONIS 7 5 πλάτους θα είναι και η κυκλική συχνότητα ω. Μια τέτοια περίπτωση συνεπάγεται (ψευτο)περιοδική συμπεριφορά. 5..3 Το γενικό αυτοπαλίνδρομο υπόδειγμα AR() Γενικεύοντας τα όσα αναφέραμε για τα AR, AR υποδείγματα, για το υπόδειγμα AR θα έχουμε: Συνθήκη στασιμότητας Πρέπει οι ρίζες του χαρακτηριστικού πολυωνύμου P να βρίσκονται εκτός του μοναδιαίου κύκλου. Διακύμανση Πολλαπλασιάζουμε την με και παίρνουμε αναμενόμενες τιμές: Αυτοσυνδιακύμανση Πολλαπλασιάζουμε την με και παίρνουμε αναμενόμενες τιμές:

E (καθώς ) Άρα, Συνάρτηση αυτοσυσχέτισης Διαιρώντας την παραπάνω σχέση με έχουμε: Η παραπάνω εξίσωση διαφορών είναι ίδια (βάζοντας στην θέση του δείκτη το δείκτη ) με το ομογενές μέρος της εξίσωσης διαφορών που περιγράφει την AR διαδικασία. Η γενική λύση βρίσκεται ως εξής : Το χαρακτηριστικό πολυώνυμο είναι: P και παραγοντοποιείται ως g όπου g οι, g,, g ρίζες του. Τότε η γενική λύση θα είναι η g g g με,,, προσδιορίζονται από τις αρχικές συνθήκες. Διακρίνουμε τις περιπτώσεις: ) Αν g πραγματική τότε ο αντίστοιχος όρος το μηδέν. σταθερές που g φθίνει εκθετικά προς ) Αν g μιγαδική τότε θα είναι ρίζα και η συζυγής της και οι δύο ρίζες μαζί θα δημιουργούν έναν όρο d δηλαδή ένα cos συνημιτονοειδές κύμα με μειούμενο πλάτος (ψευτοπεριοδική συμπεριφορά). KEFALAIO 5 A. MILIONIS 7 6

Άρα η συνάρτηση αυτοσυσχέτισης θα είναι ένας συνδυασμός από εκθετικές πτώσεις και συνημιτονοειδή κύματα μειούμενου πλάτους. Η συνάρτηση μερικής αυτοσυσχέτισης Από τη μορφή της συνάρτησης αυτοσυσχέτισης δεν είναι εύκολο να προσδιορισθεί η τάξη της AR διαδικασίας. Σε αυτό βοηθά πολύ η συνάρτηση μερικής αυτοσυσχέτισης (PACF) καθώς ενώ η AR έχει ACF που φθίνει σταδιακά, η PACF έχει ακριβώς τόσες στατιστικά σημαντικές αυτοσυσχετίσεις όση είναι και η τάξη της Αν συμβολίσουμε με j τον υπόδειγμα τάξεως, έτσι ώστε AR διαδικασίας. j συντελεστή σε ένα αυτοπαλίνδρομο να είναι ο συντελεστής του τελευταίου όρου τότε θα ισχύουν οι εξισώσεις για j,,,. j j j j j Έτσι οδηγούμαστε στις εξισώσεις ule-waler που γράφονται ως: 3 ή λύνοντας τις παραπάνω εξισώσεις διαδοχικά για, Μια, 33 3,,3, παίρνουμε: ARδιαδικασία θα έχει για και για KEFALAIO 5 A. MILIONIS 7 7

Για να εκτιμήσουμε εμπειρικά τις δειγματικές εκτιμήσεις τους Για μία r ˆ. αντικαθιστούμε τις με τις ARδιαδικασία οι για θα είναι κανονικά κατανεμημένες με ˆ VAR, όπου N το πλήθος των όρων της N πραγματοποίησης της στοχαστικής διαδικασίας (απόδειξη από Quenoulle). 5.4 Υποδείγματα κινητού μέσου( ) 5.4. Υποδείγματα κινητού μέσου πρώτης τάξης MA() Το υπόδειγμα αυτό έχει τη μορφή: Από το θεώρημα του Wold γνωρίζουμε ότι: Άρα για την διαδικασία, και επομένως: MA : 3 Όπως και στην περίπτωση των AR υποδειγμάτων, για ευκολία ο σταθερός όρος θεωρείται ίσος με το μηδέν. KEFALAIO 5 A. MILIONIS 7 8

Άρα, για Συνθήκη αντιστρεψιμότητας. Αν. Δηλαδή η MA διαδικασία τότε έχει μια AR αναπαράσταση. Η συνθήκη είναι γνωστή ως συνθήκη αντιστρεψιμότητας. Σημειώνεται ότι για την MA αλλά και για οποιοδήποτε άλλη MA q διαδικασία θέμα μη στασιμότητας δεν τίθεται καθότι όλες είναι ένας γραμμικός συνδυασμός πεπερασμένου πλήθους όρων λευκού θορύβου. 5.4. Υποδείγματα κινητού μέσου δεύτερης τάξης MA() αλλά (λόγω θ. Wold) οπότε για τη διαδικασία Άρα: Επομένως: MA :, KEFALAIO 5 A. MILIONIS 7 9

, Συνθήκη αντιστρεψιμότητας Άρα η μεθοδολογία για τον καθορισμό των προϋποθέσεων για αντιστρεψιμότητα της στασιμότητας για MA είναι ίδια με αυτήν για τον καθορισμό της AR. Κατά τα γνωστά θα πρέπει οι ρίζες του χαρακτηριστικού πολυωνύμου να βρίσκονται εκτός του μοναδιαίου κύκλου. Από αυτό προκύπτει ότι: Παραδείγματα Για MA, MA διαδικασίες για διάφορους συνδυασμούς, στα παρακάτω σχήματα φαίνονται τα γραφήματα των χρονολογικών σειρών και των αντίστοιχων συναρτήσεων αυτοσυσχετίσεως. KEFALAIO 5 A. MILIONIS 7

auocorrelaon -.5..5. - - X ).8 4 6 8 lag KEFALAIO 5 A. MILIONIS 7

auocorrelaon...4.6.8. X - ).8, 4 6 8 lag KEFALAIO 5 A. MILIONIS 7

auocorrelaon -....4.6.8. -5 - -5 5 X 3).5,. 3 4 6 8 lag KEFALAIO 5 A. MILIONIS 7 3

auocorrelaon -....4.6.8. X -5 - -5 5 5 4).5,. 3 4 6 8 lag 5.4.3 Το γενικό MA(q) υπόδειγμα Το υπόδειγμα αυτό γράφεται: q q q q Συνθήκη αντιστρεψιμότητας q q q q Για αντιστρεψιμότητα πρέπει οι ρίζες του χαρακτηριστικού πολυωνύμου q να βρίσκονται εκτός του μοναδιαίου κύκλου. q KEFALAIO 5 A. MILIONIS 7 4

Διακύμανση j q j Αυτοσυνδιακύμανση,,, q jj q q με j, q Συνάρτηση αυτοσυσχετίσεως και q για q. q q για,,, q Συνάρτηση μερικής αυτοσυσχετίσεως Οι ακριβείς εκφράσεις είναι πολύπλοκες. Μπορεί να γίνει δεκτό ότι κατά προσέγγιση η διαδικασία. Δηλαδή η PACF για PACF συμπεριφέρεται σαν την ACF αλλά για AR MA q διαδικασία θα είναι η υπέρθεση από εκθετικές πτώσεις (προς το μηδέν) και συνημιτονοειδή κύματα μειούμενου πλάτους ανάλογα με το είδος των ριζών της ιδιότητα αυτή είναι γνωστή ως Αρχή Δυϊσμού μεταξύ AR και MA διαδικασιών (Dualy rncle).. Η KEFALAIO 5 A. MILIONIS 7 5

5.5 Μεικτά υποδείγματα 5.5. Το υπόδειγμα ARMA(,) Είναι ένα υπόδειγμα με ιδιαίτερη πρακτική σημασία καθώς με αυτό μπορούμε να περιγράψουμε στοχαστικές διαδικασίες που διαφορετικά θα χρειάζονταν ένας μεγάλος αριθμός παραμέτρων αν χρησιμοποιούσαμε μόνο AR, ή μόνο MA διαδικασίες. Το υπόδειγμα ARMA, γράφεται ως: Στασιμότητα-αντιστρεψιμότητα Με βάση τα προηγούμενα είναι φανερό ότι η συνθήκη αντιστρεψιμότητας θα είναι (όπως στο συνθήκη στασιμότητας (όπως στο AR() υπόδειγμα). MA υπόδειγμα ), και η Αυτοσυνδιακυμάνσεις Για κ=: Όμως: και: Επομένως: KEFALAIO 5 A. MILIONIS 7 6

Για κ=: Για κ>: Από τα παραπάνω οι και μπορούν να εκφραστούν ως προς τα, ως εξής:, Συνάρτηση αυτοσυσχέτισης, για κ> Άρα η συνάρτηση αυτοσυσχέτισης της ARMA, διαδικασίας είναι παρεμφερής με αυτή της AR διαδικασίας και έχει τη μορφή εκθετικής πτώσης. Όμως, σε αντίθεση με την AR() διαδικασία, η πτώση ξεκινά από την αντί να ξεκινά από την όπως στην AR διαδικασία. Σημειώνεται ακόμη ότι το πρόσημο της εξαρτάται από το πρόσημο του. Συνάρτηση μερικής αυτοσυσχέτισης Η συνάρτηση μερικής αυτοσυσχέτισης έχει και στην συνέχεια έχει τη μορφή εκθετικής πτώσης, όπως η συνάρτηση μερικής αυτοσυσχέτισης της διαδικασίας MA. KEFALAIO 5 A. MILIONIS 7 7

auocorrelaon -.5..5. -5 - -5 5 X Παραδείγματα: Στα παρακάτω σχήματα φαίνεται η μορφή των χρονολογικών σειρών και οι αντίστοιχες συναρτήσεις αυτοσυσχέτισης και μερικής αυτοσυσχέτισης για τους συνδυασμούς τιμών. 5,. 5 και. 5,. 5 ). 5,.5, 4 6 8 lag KEFALAIO 5 A. MILIONIS 7 8

auocorrelaon...4.6.8. X -5 - -5 5 ). 5,. 5 4 6 8 lag KEFALAIO 5 A. MILIONIS 7 9

5.5. Το γενικό ARMA(,q) υπόδειγμα Τα βασικά χαρακτηριστικά της γενικής ARMA (, q) διαδικασίας φαίνονται στον πίνακα που ακολουθεί (από Box Jenns: Tme seres analyss: forecasng and conrol). Επιπλέον, στο σχήμα που ακολουθεί μετά τον πίνακα φαίνονται οι θεωρητικές συναρτήσεις αυτοσυσχετίσεως και μερικής αυτοσυσχετίσεως για την ARMA (, q) διαδικασία, καθώς και για τις σπουδαιότερες, από πλευράς εφαρμογών, από τις ARIMA (, d, q) διαδικασίες. Παρατήρηση Για όλα τα ARMA(, q) υποδείγματα ισχύουν: E ( ) > E ( ) δεδομένου ότι E( ) και στη συνδιακύμανση E ( ) η περιέχει στοχαστικές διαταραχές μέχρι τη χρονική στιγμή -, ενώ στη συνδυακύμανση E ( ) και E( ) η περιέχει και τη στοχαστική διαταραχή KEFALAIO 5 A. MILIONIS 7 3

KEFALAIO 5 A. MILIONIS 7 3

5.6 Εποχικά υποδείγματα SARIMA Θέτοντας τα δεδομένα ενός εποχικού υποδείγματος π.χ. με μηνιαία στοιχεία έτσι ώστε να δημιουργούνται στήλες (μία για κάθε μήνα) είναι πιο εύκολο να παρατηρήσει κανείς ότι συσχετίσεις μπορεί να υφίστανται: ) μεταξύ όρων της ίδιας γραμμής, δηλαδή μεταξύ μηνών. ) μεταξύ όρων της ίδιας στήλης, δηλαδή μεταξύ παρατηρήσεων για τον ίδιο μήνα σε διαφορετικά έτη. Για τη δεύτερη περίπτωση είναι δυνατό να γραφεί ένα υπόδειγμα της μορφής :, κατ αντιστοιχία με το μη εποχικό υπόδειγμα ARIMA (, d, q) που έχουμε ήδη γνωρίσει, τα πολυώνυμα ως προς το βαθμού P, Q αντίστοιχα. Δηλαδή, 4 P P 4 Q Q, είναι Συνδυάζοντας το εποχικό με το μη εποχικό υπόδειγμα έχουμε το σύνθετο υπόδειγμα: Δηλαδή ένα πολλαπλασιαστικό υπόδειγμα που συμβολίζεται σαν,, qp,, Q ARIMA. Η πιο συνηθισμένη μορφή εποχικού υποδείγματος είναι το λεγόμενο υπόδειγμα των αερογραμμών (arlne model) το οποίο είναι της μορφής,,,, S (όπου s η εποχικότητα) που τώρα θα μελετήσουμε πιο ARIMA λεπτομερειακά. Έστω X τότε: S KEFALAIO 5 A. MILIONIS 7 3

X S S S Για αντιστρεψιμότητα:, Έστω τώρα S Τότε X X Για : Για : Για : Για : Για 3: 3,,,,,3 Άρα για τη συνάρτηση αυτοσυσχέτισης του υποδείγματος των αερογραμμών θα ισχύουν: 3,,,, 3 KEFALAIO 5 A. MILIONIS 7 33

5.7 Μεθοδολογία δημιουργίας εμπειρικών υποδειγμάτων ARIMA κατά Box-Jenns Τα υποδείγματα ARIMA προτάθηκαν αρχικά από τους Box και Jenns και για το λόγο αυτό είναι συχνά γνωστά και ως υποδείγματα Box- Jenns. Θα πρέπει να σημειωθεί ότι ως προς τη φύση τους τα υποδείγματα αυτά είναι τελείως εμπειρικά, υπό την έννοια ότι δημιουργούνται από τα δεδομένα και για το λόγο αυτό για την κατασκευή τους είναι απαραίτητο να ακολουθείται η επαναληπτική διαδικασία που προτάθηκε από τους Box και Jenns. Η διαδικασία αυτή αποτελείται από τέσσερα στάδια και περιγράφεται συνοπτικά παρακάτω. Στάδιο : Ταυτοποίηση του υποδείγματος Λέγοντας ταυτοποίηση του υποδείγματος εννοούμε ότι θα πρέπει να προσδιορισθούν: α) η τάξη της μη στασιμότητας β) η τάξη των AR και/ή MA πολυωνύμων Αυτό επιτυγχάνεται με σύγκριση της μορφής των δειγματικών συναρτήσεων αυτοσυσχετίσεως και μερικής αυτοσυσχετίσεως με τη μορφή θεωρητικών συναρτήσεων αυτοσυσχέτισης και μερικής αυτοσυσχέτισης που αντιστοιχούν σε διαδικασίες με άπειρο πλήθος όρων. Έτσι ταυτοποιείται αρχικά ένα «δοκιμαστικό» υπόδειγμα (enave model). Επισημαίνεται με έμφαση ότι η ενδεχόμενη μη στασιμότητα δυνατόν οφείλεται στη δεύτερη ροπή. Σε αυτή την περίπτωση θα πρέπει πρώτα απ όλα η σειρά να μετατραπεί σε στάσιμη ως προς τη δεύτερη ροπή και ύστερα να εξετάσουμε το βαθμό ολοκλήρωσης d. H στασιμότητα ως προς τη δεύτερη ροπή δεν επιτυγχάνεται με διαφόριση, αλλά με κατάλληλο μετασχηματισμό της χρονικής σειράς. Συνήθεις μετασχηματισμοί για το σκοπό αυτό είναι ο λογαριθμικός μετασχηματισμός και ο μετασχηματισμός της τετραγωνικής ρίζας. KEFALAIO 5 A. MILIONIS 7 34

Σταδιο : Εκτίμηση του υποδείγματος Στη γενική περίπτωση η εκτίμηση των παραμέτρων του υποδείγματος επιτυγχάνεται με τη χρήση της μεθόδου της μέγιστης πιθανοφάνειας. Οι εκτιμήσεις πρέπει να είναι εντός των ορίων αντιστρεψιμότητας, στασιμότητας και φυσικά να είναι στατιστικά σημαντικές. Στάδιο 3: Διάγνωση του υποδείγματος ( 3 Στο στάδιο αυτό ελέγχεται η μηδενική υπόθεση ότι τα κατάλοιπα του υποδείγματος είναι λευκός θόρυβος και συνεπώς δεν εμπεριέχουν χρήσιμη πληροφορία. Για να μην απορριφθεί η μηδενική υπόθεση θα πρέπει: α) L.B.Q. όχι σημαντικό β) όχι σημαντικές ˆ για,,3, 4 γ) επιπρόσθετα μπορεί να ελεγχθεί αν οι πρώτες διαφορές των καταλοίπων έχουν συνάρτηση αυτοσυσχέτισης με. 5 και για Στάδιο 4: Μεταδιάγνωση Το γεγονός ότι ένα δοκιμαστικό υπόδειγμα δεν απορρίφθηκε από το διαγνωστικό έλεγχο δε σημαίνει ότι μπορεί αυτόματα να καταλήξουμε σε αυτό, καθώς είναι πιθανό να υπάρχουν και άλλα υποδείγματα που να ανταποκρίνονται στις απαιτήσεις των σταδίων και 3. Έτσι δυνατόν να έχουμε περισσότερα του ενός αποδεκτά κατ αρχήν και μεταξύ τους ανταγωνιστικά υποδείγματα (rval models). Στο στάδιο της μεταδιάγνωσης επιλέγεται τελικά εκείνο το υπόδειγμα το οποίο εμφανίζει 3 Επισημαίνεται ότι οι παραπάνω έλεγχοι αφορούν μόνο την περίπτωση του λευκού θορύβου και δεν εξασφαλίζουν ότι στα κατάλοιπα δεν υπάρχουν εξαρτήσεις (συνεπώς χρήσιμη πληροφορία) σε ροπές ανώτερης τάξης, όπως για παράδειγμα στην περίπτωση που στα κατάλοιπα υπάρχει αυτοπαλίνδρομη υπό συνθήκη ετεροσκεδαστικότητα (auoregressve condonal heeroscedascy). KEFALAIO 5 A. MILIONIS 7 35

την καλύτερη προσαρμογή, ή/και την καλύτερη προβλεπτική ικανότητα. Για την επιλογή του υποδείγματος με την καλύτερη προσαρμογή μπορούν να χρησιμοποιηθούν, μεταξύ άλλων και τα παρακάτω στατιστικά (σε κάθε περίπτωση επιλέγεται το υπόδειγμα με τη μικρότερη τιμή του στατιστικού βάσει του οποίου γίνεται η σύγκριση): N α) Resdual mean square: RMS ˆ N β) Κριτήριο πληροφορίας του Schwarz: BIC, q ln ˆ qn ln N, όπου ˆ T της διακύμανσης των καταλοίπων, Ν= πλήθος όρων. N =εκτίμηση γ) Κριτήριο Aae: AIC(, q) ln ˆ qn Το BIC δίνει μεγαλύτερη ποινή, έναντι του AIC, στη σπατάλη όρων MA, AR και επιβραβεύει τα «οικονομικά» υποδείγματα. Σχηματικά η επαναληπτική διαδικασία δημιουργίας ενός υποδείγματος ARIMA φαίνεται στο διάγραμμα που ακολουθεί. KEFALAIO 5 A. MILIONIS 7 36

KEFALAIO 5 A. MILIONIS 7 37

Ασκήσεις προς λύση ) Έστω ότι η χρονική σειρά Υ διαμορφώνεται από το υπόδειγμα: = - -,5 - +,5-3 + ε α) Να δείξετε ότι η σειρά αυτή είναι μία μη στάσιμη χρονική σειρά. β) Χρησιμοποιώντας κατάλληλο μετασχηματισμό να μετατρέψετε την Υ σε μία άλλη σειρά Ζ της οποίας να αποδείξετε τη στασιμότητα. ) Έστω ότι η χρονική σειρά Υ είναι Ι() και οι πρώτες διαφορές της, W, μπορούν να περιγραφούν με το ακόλουθο ARMA(,) υπόδειγμα: W =,9W - + ε -,6ε - + Αν για =, Υ =, να εκφρασθεί η αναμενόμενη τιμή της Υ ως συνάρτηση του χρόνου. 3)Αν η στοχαστική διαδικασία που διαμορφώνει τη χρονική σειρά Υ περιγράφεται από το υπόδειγμα: 3-9 - (α) Να δείξετε ότι η διαδικασία είναι στάσιμη. (β) Να δείξετε ότι η συνάρτηση αυτοσυσχέτισης μπορεί να περιγραφεί με τη σχέση: 5 6 με =,,,... 3 3 4) Αν η στοχαστική διαδικασία που διαμορφώνει τη χρονική σειρά Υ περιγράφεται από το υπόδειγμα: -,5 (α) Να δείξετε ότι η διαδικασία είναι στάσιμη. (β) Να βρείτε τη συνάρτηση αυτοσυσχέτισης. - KEFALAIO 5 A. MILIONIS 7 38

5) Να δείξετε ότι αν διαφορίσουμε μια χρονική σειρά που διαμορφώνεται από μία διαδικασία λευκού θορύβου η συνάρτηση αυτοσυσχέτισης της νέας σειράς που προκύπτει από τη διαφόριση έχει τιμή ίση με -/ για χρονική υστέρηση και μηδέν για όλες τις άλλες χρονικές υστερήσεις. Που μπορεί να έχει εφαρμογή το αποτέλεσμα αυτό, που είναι γνωστό και ως αποτέλεσμα υπερδιαφόρισης (overdfferencng); 6) Αν η στοχαστική διαδικασία που διαμορφώνει τη χρονική σειρά Υ περιγράφεται από το υπόδειγμα: Υ = ε +,5ε - -,4ε -, όπου ε λευκός θόρυβος, α) να δείξετε ότι η Υ είναι στάσιμη και αντιστρέψιμη και β) να βρείτε τη συνάρτηση αυτοσυσχετίσεως. KEFALAIO 5 A. MILIONIS 7 39

ΠΑΡΑΡΤΗΜΑ ΕΞΙΣΩΣΕΙΣ ΔΙΑΦΟΡΩΝ Ή ΔΙΟΦΟΡΟΕΞΙΣΩΣΕΙΣ: ΣΤΟΙΧΕΙΩΔΕΙΣ ΕΝΝΟΙΕΣ Ορισμός: Στην πιο γενική μορφή μια εξίσωση διάφορων εκφράζει την τιμή μιας μεταβλητής ως συνάρτηση προηγούμενων τιμών της μεταβλητής αυτής, του χρόνου, καθώς και των τιμών άλλων μεταβλητών τόσο για την ίδια χρονική περίοδο, όσο και για προηγούμενες χρονικές περιόδους. Παράδειγμα Η χρονική σειρά όπως φαίνεται στο παρακάτω σχήμα είναι αποτέλεσμα της υπέρθεσης μιας γραμμικής τάσης, μιας εποχικής συνιστώσας που εκφράζεται σε μια ημιτονοειδή συνάρτηση του χρόνου και μιας συνιστώσας θορύβου που εκφράζεται με ένα αυτοπαλίνδρομο υπόδειγμα ου βαθμού. Οι τρεις αυτές συνιστώσες περιγράφονται με τις ακόλουθες σχέσεις : Τάση : T = +. Εποχική συνιστώσα: S =.6 ημ( ) Συνιστώσα θορύβου: Ν =.7 N - + e (e = λευκός θόρυβος ) Κάθε μια από τις παραπάνω εξισώσεις εμπίπτει ως μερική περίπτωση στο γενικό ορισμό των εξισώσεων διαφορών αν και οι δύο πρώτες εξισώσεις όπου οι T, S εκφράζονται μόνο ως συναρτήσεις του χρόνου αποτελούν τετριμμένες περιπτώσεις. Στο παράδειγμα αυτό τόσο η τάση όσο και η εποχική συνιστώσα εκφράζονται με ένα αιτιοκρατικό υπόδειγμα και έτσι είναι ευχερής η πρόβλεψη τους στις μελλοντικές χρονικές στιγμές. Αντίθετα η συνιστώσα θορύβου περιέχει και τη στοχαστική μεταβλητή e και έτσι η πρόγνωση τείνει στο μηδέν. Στη γενική περίπτωση κάθε μια από τις συνιστώσες μπορεί να εκφρασθεί με ένα στοχαστικό υπόδειγμα. KEFALAIO 5 A. MILIONIS 7 4

Γραμμικές εξισώσεις διαφορών Η γενική μορφή των γραμμικών εξισώσεων διαφορών είναι η ακόλουθη : n = Φ ο + + X όπου: n= τάξη της εξίσωσης διαφορών, X = διαδικασία εξαναγκασμού (forcng rocess ) Παρατηρήσεις. Η εξίσωση της παραπάνω μορφής χαρακτηρίζεται ως γραμμική αφού οι τιμές της εξαρτημένης μεταβλητής είναι στην πρώτη δύναμη.. Η X μπορεί να είναι μια συνάρτηση του χρόνου, η τιμή άλλων μεταβλητών σε χρόνο ή παρελθόντες χρόνους, ή/και στοχαστικές διαταραχές. Πχ X με ε = λευκός θόρυβος Αυτής της μορφής θα είναι όλα τα στοχαστικά υποδείγματα ARMA. Πχ. Με θ o = θ = θ = προκύπτει το υπόδειγμα: Υ = φ + φ Υ - + φ Υ - +..+φ n -n +e (αυτοπαλίνδρομο υπόδειγμα τάξεως n ). Πχ. Με n= φ = και φ =, θ o = θ = θ = προκύπτει το υπόδειγμα : Υ = Υ - +e (τυχαίος περίπατος ). KEFALAIO 5 A. MILIONIS 7 4

Λύση εξίσωσης διαφορών Λύση της εξίσωσης διαφορών σημαίνει ότι η τιμή της Υ εκφράζεται ως συνάρτηση των τιμών της X και υστερήσεων της, του χρόνου, και πιθανόν κάποιων δεδομένων τιμών Υ που ορίζουν τις λεγόμενες αρχικές συνθήκες Αν X = τότε η εξίσωση διαφορών καλείται ομογενής βαθμού n. KEFALAIO 5 A. MILIONIS 7 4

KEFALAIO 5 A. MILIONIS 7 43