Χρονοσειρές - Μάθημα 4

Transcript

1 Χρονοσειρές - Μάθημα 4 Sysem is a se of ieracig or ierdeede comoes formig a iegraed whole. Fields ha sudy he geeral roeries of sysems iclude sysems heory, cybereics, dyamical sysems, hermodyamics ad comlex sysems. They ivesigae he absrac roeries of sysems' maer ad orgaizaio, lookig for coces ad riciles ha are ideede of domai, subsace, ye, or emoral scale. A sochasic rocess is he couerar o a deermiisic rocess (or deermiisic sysem). Isead of dealig wih oly oe ossible way he rocess migh develo over ime (as i he case, for examle, of soluios of a ordiary differeial equaio), i a sochasic or radom rocess here is some ideermiacy described by robabiliy disribuios. This meas ha eve if he iiial codiio (or sarig oi) is kow, here are may ossibiliies he rocess migh go o, bu some ahs may be more robable ad ohers less so. A scieific model seeks o rerese emirical objecs, heomea, ad hysical rocesses i a logical ad objecive way. All models are i simulacra, ha is, simlified reflecios of realiy, bu, desie heir ihere falsiy, hey are everheless exremely useful. Comlee ad rue rereseaio may be imossible, bu scieific debae ofe cocers which is he beer model for a give ask, e.g., which is he more accurae climae model for seasoal forecasig. Models for ime series daa ca have may forms ad rerese differe sochasic rocesses. πηγή: Wikiedia

2 Σχέση μεταξύ AR και MA διαδικασιών Αυτοπαλινδρομούμενη διαδικασία τάξης, AR() ( ) B B B B B B B ( ) ( B) AR() στάσιμη ( ) B ( B) B B τέτοιο ώστε ( B) ( B) ( B) ΜΑ( ) AR() MA( ) Wold's decomosiio () every covariace-saioary ime series ca be wrie as a ifiie movig average (MA( )) rocess of is iovaio rocess. ~ WN(, ) AR() και MA(q) έχουν δυϊκή σχέση Διαδικασία κινούμενου μέσου τάξης q, ΜΑ(q) B B B q q ( q q ) q B B B qb ( ) ( B) MA(q) αντιστρέψιμη ( B) ( B) B B τέτοιο ώστε ( B) ( B) ( B) AR( ) MA(q) AR( ) Η αυτοσυσχέτιση και μερική αυτοσυσχέτιση των AR() και MA(q) έχουν επίσης δυϊκή σχέση AR(): ρ τ φθίνει εκθετικά προς, ϕ ττ μηδενίζεται για τ> MA(q): ϕ ττ φθίνει εκθετικά προς, ρ τ μηδενίζεται για τ>q

3 Μικτή διαδικασία ARMA(,q) Αυτοπαλινδρομούμενη διαδικασία τάξης, AR() ~ WN(, ) Διαδικασία κινούμενου μέσου τάξης q, ΜΑ(q) q q q q q q ( B) ( B) ( B) ( B) ( B) ( B) Στασιμότητα: καθορίζεται από το AR μέρος Αντιστρεψιμότητα: καθορίζεται από το MA μέρος Αυτοσυσχέτιση: ( qq) ( ) ( ) ( ) E[ ] E[ ] E[ ] q q Για Για q όπως για AR() q μίξη της αυτοσυσχέτισης για AR() και MA(q)

4 Μικτή διαδικασία ARMA(,) ( B) ( B) ( B) ( B) Συνθήκη στασιμότητας: Αυτοσυσχέτιση: Συνθήκη αντιστρεψιμότητας: ( ) E[ ] E[ ] ( )? όπως για AR() ( )( ) ( )( ) Συνθήκες αντιστρεψιμότητας και στασιμότητας για τους συντελεστές φ και θ, καθώς και για τις αυτοσυσχετίσεις και μερικές αυτοσυσχετίσεις διαδικασίας ARMA(,) Μερική αυτοσυσχέτιση : Φθίνει με την υστέρηση όπως για MA() Μια ARMA(,q) διαδικασία με μικρά,q, παρουσιάζει συσχετίσεις (ρ τ και ϕ ττ ) που επιτυγχάνονται από AR() μόνο για μεγάλη τάξη, ή από MA(q) μόνο για μεγάλη τάξη q

5 Εκτίμηση μοντέλων τύπου AR, MA, ARMA (στάσιμη) χρονοσειρά (στοχαστική διαδικασία) μέση τιμή μ Αυτοδιασπορά () ( )( ) Αυτοσυσχέτιση () ( ) ( ) στοχαστική διαδικασία AR() ~ WN(, ) στοχαστική διαδικασία MA(q) q q στοχαστική διαδικασία ARMA(,q) q q (στάσιμη) χρονοσειρά παρατηρήσεων x, x,, x Δειγματική μέση τιμή Δειγματική αυτοδιασπορά c c( ) ( xx x ) r r( ) Δειγματική αυτοσυσχέτιση c( ) c() x x,,, Εκτίμηση διαδικασίας (μοντέλο) AR, MA ή ARMA? άλλο μοντέλο? τάξη ή/και q? εκτίμηση παραμέτρων μοντέλου? AR( ) :,,,, ΜΑ( q) :,,, q,? ARΜΑ(, ) :,,,,,,,, q q

6 Εκτίμηση μοντέλου AR() Υποθέτω στοχαστική διαδικασία AR() για τη χρονοσειρά Προσαρμογή διαδικασίας (μοντέλο) AR() x, x,, x εκτίμηση παραμέτρων Μέθοδος ροπών (μέθοδος Yule-Walker, YW) Εκτίμηση των παραμέτρων από τις δειγματικές αυτοσυσχετίσεις r, r,, r, s ˆ ˆ ˆ,,,, s,,,, Εξισώσεις Yule-Walker 3 Εκτίμηση των,,,, r, r,, r, s και αντικατάσταση r r r ˆ r r ˆ r r r r r r3 ˆ r ˆ R r s s r r r R ˆ r s ( ˆ ˆ ˆ ) s ˆ r ˆ r ˆ r

7 x, x,, x με μέση τιμή μ Γενική μορφή μοντέλου AR() ( ) ( ) ( ) Μέθοδος ελαχίστων τετραγώνων (ordiary leas squares, OLS) Προσαρμογή μοντέλου AR() στα δεδομένα Ελαχιστοποίηση αθροίσματος τετραγώνων των σφαλμάτων προσαρμογής mi S(,, ) mi x ( x ) ( x ) ως προς,,,, zˆ ( x ˆ ) ˆ ( x ˆ ) ˆ ( x ˆ ),,, ˆ ˆ ˆ ˆ,,,, s zˆ ˆ x AR() ( ) S(, ) x ( x ) x ˆ () x () ˆ x () x x() x ˆ ˆ x c ( ˆ)( ˆ ( x x)( x ) x x ) ( )( ) ˆ x x x x x c ( x ˆ) ( ) x x c ( x x ˆ ) c x r

8 Άλλες μέθοδοι εκτίμησης παραμέτρων AR() Προς τα εμπρός και πίσω (backward forward aroach, FB) Αλγόριθμος του Burg (Burg) Μέθοδος μέγιστης πιθανοφάνειας (maximum likelihood, ML) - υπό συνθήκη (codiioed) - χωρίς συνθήκη (ucodiioed) ML εκτίμηση είναι η βέλτιστη, οι άλλες μέθοδοι την προσεγγίζουν Η OLS και ML συμπίπτουν όταν η χρονοσειρά είναι από Γκαουσιανή διαδικασία Ασυμπτωτικά (για μεγάλο ) συγκλίνουν οι εκτιμήσεις με όλες τις μεθόδους Η YW έχει την πιο αργή σύγκλιση στη ML 3 Ο αλγόριθμος Burg για την εκτίμηση παραμέτρων μοντέλου AR() Ο αλγόριθμος μέγιστης πιθανοφάνειας για την εκτίμηση παραμέτρων μοντέλου AR()

9 Προσδιορισμός τάξης μοντέλου AR κριτήριο μερικής αυτοσυσχέτισης μερική αυτοσυσχέτιση για υστέρηση τ: x x z, x x x z,, x x x x z,3,3 3,3 3 ˆ,, συσχέτιση των χωρίς τη συσχέτιση με ˆ εκτίμηση του Η τάξη είναι αν και για τ> x, x,,, x x για μοντέλο AR(τ) (πτώση από μη-μηδενική σε μηδενική μερική αυτοσυσχέτιση) κριτήρια με βάση το σφάλμα προσαρμογής κριτήριο πληροφορίας του Akaike AIC( ) l( sz ) Akaike iformaio crierio (AIC) κριτήριο Μπεϋζιανής πληροφορίας (Scwarz) l( ) BIC( ) l( sz ) Bayesia iformaio crierio (BIC) κριτήριο τελικού σφάλματος πρόβλεψης FPE( ) sz Fial redicio error (FPE) 4 Ιδιότητες και σύγκριση των κριτηρίων πληροφορίας AIC, BIC και FPE

10 AIC() Παράδειγμα Ρυθμός μεταβολής του ακαθάριστου εθνικού προϊόντος (ΑΕΠ) των ΗΠΑ (τετραμηνιαίες τιμές, ο τετράμηνο 947 ο τετράμηνο 99). Η εποχικότητα έχει διορθωθεί (αφαιρώντας τον εποχικό κύκλο)..4.3 GNP of USA: icremes.5.4 icr.gno(usa): auocorrelaio στάσιμη?..3 x. ().. συσχετίσεις? icr.gno(usa): arial auocorrelaio icr.gno(usa): AIC τάξη AR μοντέλου?, AR(3)?

11 x() x() εκτίμηση παραμέτρων x ˆ x OLS εκτίμηση ˆ.77 ˆ.35 ˆ.8 ˆ 3.4 ˆ ˆ ˆ ˆ ˆ.47 3 xˆ.47.35x.8x.4x 4,,76 3 σφάλματα ή υπόλοιπα (residual) εκτίμησης ˆ s ˆ zˆ x x z z.989 s ˆ z z.98 προσαρμοσμένο AR(3) x.47.35x.8x.4x z 3.4 icr.gnp(usa): AR(3) fi.4 icr.gnp(usa): AR(3) fi ime ime Διάγνωση καταλληλότητας μοντέλου zˆ είναι τα υπόλοιπα ανεξάρτητα έλεγχο ανεξαρτησίας στα