Χρονοσειρές - Μάθημα 5

Transcript

1 Χρονοσειρές - Μάθημα 5 Εκτίμηση μοντέλου MA(q) στοχαστική διαδικασία AR() X X X X Z Z ~ WN(, Z) στοχαστική διαδικασία MA(q) X Z Z Z Z q q στοχαστική διαδικασία ARMA(,q) X X X X Z Z Z Z q q Εκτίμηση διαδικασίας (μοντέλο) AR, MA ή ARMA? άλλο μοντέλο? τάξη ή/και q? εκτίμηση παραμέτρων μοντέλου? AR( ) :,,,, ΜΑ( q) :,,, q,? ARΜΑ(, ) :,,,,,,,, q q Υποθέτω στοχαστική διαδικασία MA(q) για τη χρονοσειρά x, x,, xn Προσαρμογή διαδικασίας (μοντέλο) MA(q) εκτίμηση παραμέτρων,,, q,

2 Διασπορά Μέθοδος ροπών ( ) X q Z Αυτοσυσχέτιση q q,,, q q q MA(q) X Z Z Z Z q q Μη-γραμμικό σύστημα εξισώσεων ως προς τις παραμέτρους,,, q Εκτίμηση των,,,, q X r, r,, r, s Μέθοδος ελαχίστων τετραγώνων q X Αλγόριθμος innovaion Προσαρμογή μοντέλου MA(q) στα δεδομένα Ελαχιστοποίηση αθροίσματος τετραγώνων των σφαλμάτων προσαρμογής n q q q ως προς q min S(,, ) min ( x z z ) Αριθμητική μέθοδος βελτιστοποίησης,,,, q ˆ ˆ ˆ,,, q

3 MA() X Z Z Μέθοδος ροπών ( q s X ) X Z sz ˆ Μέθοδος ελαχίστων τετραγώνων ˆ r r.5 r ˆ ˆ 4. 5 ˆ r r r r, r Επιλέγουμε τη λύση ˆ που δίνει αντιστρεψιμότητα Υποθέτω z (και ) z x z z x z x z x x z x z x ( x x ) x x x z x z x x x x x n n n n n n n n n 3 n n n min z min x ( x x) ( x x x ) ( x x x ) min a a a n n n- λύσεις, θα πρέπει να επιλέξω λύση ˆ προγραμματισμός λύσης ελαχίστων τετραγώνων με περιορισμούς για αντιστρεψιμότητα

4 AIC(q) r() Παράδειγμα Ρυθμός μεταβολής του ακαθάριστου εθνικού προϊόντος (ΑΕΠ) των ΗΠΑ (τετραμηνιαίες τιμές, ο τετράμηνο 947 ο τετράμηνο 99). Η εποχικότητα έχει διορθωθεί (αφαιρώντας τον εποχικό κύκλο)..4 GNP of USA: incremens.5 incr.gnp(usa): auocorrelaion.3.4 x τάξη MA μοντέλου? incr.gnp(usa): AIC of MA models ΜΑ()? q

5 x() x() x() x() εκτίμηση παραμέτρων διασπορά σφαλμάτων (υπολοίπων) s.97 προσαρμοσμένο ΜΑ() x.77 OLS ˆ.3 ˆ.7 z sz x.77 z.3z.7 z,, incr.gnp(usa): MA() fi.4 incr.gnp(usa): MA() fi προσαρμογή με ΜΑ() ime ime.4 incr.gnp(usa): AR(3) fi.4 incr.gnp(usa): AR(3) fi προσαρμογή με AR(3) ime ime Διάγνωση καταλληλότητας μοντέλου n zˆ είναι τα υπόλοιπα ανεξάρτητα έλεγχο ανεξαρτησίας στα

6 Εκτίμηση μοντέλου ARMA(,q) στοχαστική διαδικασία AR() X X X X Z Z ~ WN(, Z) στοχαστική διαδικασία MA(q) X Z Z Z Z q q στοχαστική διαδικασία ARMA(,q) X X X X Z Z Z Z q q Εκτίμηση διαδικασίας (μοντέλο) AR, MA ή ARMA? άλλο μοντέλο? τάξη ή/και q? εκτίμηση παραμέτρων μοντέλου? AR( ) :,,,, ΜΑ( q) :,,, q,? ARΜΑ(, ) :,,,,,,,, q q Υποθέτω στοχαστική διαδικασία ARMA(,q) για τη χρονοσειρά Προσαρμογή διαδικασίας (μοντέλο) ARMA(,q) x, x,, xn εκτίμηση παραμέτρων,,,,,,, q, Μέθοδος ροπών και μέθοδος ελαχίστων τετραγώνων όπως για MA(q)

7 ARMA(,) X ( X ) Z Z Μέθοδος ροπών ( )( ) X Z Εκτίμηση των s,,, X r, r,, r, s Επίλυση συστήματος εξισώσεων ως προς,? ˆ s ˆ X ˆ ˆ 5 Z X Η συνάρτηση αντίστροφης αυτοσυσχέτισης (inverse auocorrelaion) Μέθοδος ελαχίστων τετραγώνων Υποθέτω z (και x ) z x z x x z x ( ) x z x x z x ( ) x ( ) x min Μέθοδοι διερεύνησης της επάρκειας μοντέλου n z z x x z x ( ) x ( ) x ( ) x n n n n n n n n προγραμματισμός λύσης ελαχίστων τετραγώνων με περιορισμούς για αντιστρεψιμότητα και στασιμότητα

8 AIC(,q) r() Παράδειγμα Ρυθμός μεταβολής του ακαθάριστου εθνικού προϊόντος (ΑΕΠ) των ΗΠΑ (τετραμηνιαίες τιμές, ο τετράμηνο 947 ο τετράμηνο 99). Η εποχικότητα έχει διορθωθεί (αφαιρώντας τον εποχικό κύκλο)..4 GNP of USA: incremens.5 incr.gnp(usa): auocorrelaion x , incr.gnp(usa): arial auocorrelaion incr.gnp(usa): AIC of ARMA models q= q= q= q=3 q=4 q=5 τάξη ARMA μοντέλου? ARMA(,)?

9 x() x() x() x() x() x() εκτίμηση παραμέτρων x.77 OLS ˆ.64 ˆ ˆ.3 ˆ διασπορά σφαλμάτων (υπολοίπων) s.97 sz.983 προσαρμοσμένο ARΜΑ(,) z,,76 xˆ.65.64x.455x z.3z.6z.4 incr.gnp(usa): ARMA(,) fi.4 incr.gnp(usa): ARMA(,) fi προσαρμογή με ARΜΑ(,) ime ime.4 incr.gnp(usa): MA() fi.4 incr.gnp(usa): MA() fi προσαρμογή με ΜΑ() ime.4 incr.gnp(usa): AR(3) fi ime.4 incr.gnp(usa): AR(3) fi προσαρμογή με AR(3) ime ime

10 Μοντέλο χρονοσειράς με τάση (ARIMA) Y τυχαίος περίπατος Y Y X X X X διαδικασία AR() για Πρώτες διαφορές: X ( B) Y Y Y διαδικασία iid Y Y (μη-στάσιμη διαδικασία) X iid EX E X μη-στάσιμη διαδικασία που παρουσιάζει τάση ΝΑΙ πρώτες διαφορές: X Y Y στάσιμη διαδικασία? ΟΧΙ διαφορές δεύτερης τάξης: X X X Y Y Y στάσιμη διαδικασία? ΟΧΙ ΝΑΙ d X X Y στάσιμη μετά από διαφορές d τάξης: ( B) d Y Συνήθως d AR(), MA(q), ARMA(,q)? μη-στάσιμη διαδικασία ARIMA(,d,q) X X X X Z Z Z Z q q Το πολυώνυμο ( B)( B) d έχει μια ( B) X ( B) Z d ρίζα = και όλες τις άλλες εκτός του ( B) Y ( B) Z d μοναδιαίου κύκλου ( B)( B) Y ( B) Z

11 Προσαρμογή μοντέλου ARIMA (διαδικασία Box-Jenkins) y y y χρονοσειρά παρατηρήσεων,,, n διάγραμμα ιστορίας (γράφημα χρονοσειράς)? αυτοσυσχέτιση (ισχυρή και φθίνει πολύ αργά) άλλο? αν η αυτοσυσχέτιση ένδειξη πως έχει τάση φθίνει στο διαφορές τάξης d x ( ) d B y άλλο? στάσιμη χρονοσειρά x, x,, xn προσαρμογή μοντέλου AR(), MA(q), ARMA(,q) επάρκεια (adequacy) του μοντέλου τάξη μοντέλου εκτίμηση παραμέτρων μοντέλου διαγνωστικός έλεγχος κατάλληλο μοντέλο ARMA(,q) για x, x,, xn με τον αντίστροφο μετασχηματισμό του x ( ) d B y έχουμε το μοντέλο ARΙMA(, d,q) για y, y,, yn? η χρονοσειρά είναι στάσιμη αν η αυτοσυσχέτιση είναι στατιστικά ασήμαντη είναι iid? έλεγχος ανεξαρτησίας ΝΑΙ ΣΤΟΠ πρόβλεψη?? ΟΧΙ μη-γραμμικό μοντέλο?

12 d(em) r() global emeraure r() Παράδειγμα Ετήσιος δείκτης για τη θερμοκρασία της γης (ανωμαλία στη θερμοκρασία εδάφους στο βόρειο ημισφαίριο σε πλέγμα 5 ο x 5 ο ), περίοδος 85- y, y,, yn πραγματικές μετρήσεις Πηγή: h:// annual land air emeraure anomalies.8 annual global emeraure: auocorrelaion στάσιμη χρονοσειρά? ΟΧΙ year x, x,, xn πρώτες διαφορές firs differences of annual land air emeraure anomalies firs difference of annual global emeraure: auocorrelaion year στάσιμη χρονοσειρά? ΝΑΙ

13 x() x() r() AIC(,q) Μοντέλο για τη χρονοσειρά x, x,, xn? αυτοσυσχέτιση μερική αυτοσυσχέτιση κριτήριο AIC firs difference of annual global emeraure: auocorrelaion () diff of em: arial auocorrelaion diff of em: AIC of ARMA models q= q= q= q=3 q=4 q= Πιο κατάλληλη μορφή μοντέλου? προσαρμογή ΜΑ(4) ( ) x Μοντέλο για τη χρονοσειρά y, y,, yn ARIΜΑ(,,4) ( B) Y 4( B) Z x.8 z.758z.z.9z.75z s.44 s.35 z z diff of global emeraure: ARMA(,4) fi diff of global emeraure: ARMA(,4) fi ime ime

14 Μοντέλο χρονοσειράς με εποχικότητα (ARMA s ) y, y,, yn k n / s Έστω η χρονοσειρά παρατηρήσεων Απαλοιφή περιοδικότητας τάξης s, : Έστω η χρονοσειρά παρατηρήσεων Υπόθεση: υπάρχουν σχέσεις αλλά μόνο μεταξύ περιόδων (η εξάρτηση παρουσιάζεται σε χρονικά βήματα s) : Εκτίμηση του περιοδικού στοιχείου s i i=,,s si y x i js y s k j Συμμετρικός κινούμενος s άρτιος x (.5 y s/ y s/ y s/.5 y s/ ) μέσος τάξης s s s περιττός x y i s i( s)/ s s διαφορές (διαφορά υστέρησης s) X Y ( B ) Y Y Y x, x, x,, x, x, x,, x, x, x,, x, x, x, x 3 s s s s s s 3s 3s 3s n ( )/ s s s x, x,, xn χωρίς τάση και με περιοδικότητα (εποχικότητα) k χωρίς τάση και με εποχικότητα s k κύκλοι περιόδου s μοντέλο ARMA(P,Q) s για xi, xi s, xi s,, xi ks ίδιο για i,,, s i,,, s Ps, Ps,, n X X X Z Z Z is is( ) P is( P) is is( ) Q is( Q) X X s PXPs Z Z s QZ Qs s s ( B ) X ( B ) Z μοντέλο ARMA(P,Q) s για x, x,, xn

15 Μοντέλο χρονοσειράς με εποχικότητα (ARIMA s ) Επέκταση του ARMA(P,Q) s όταν η χρονοσειρά έχει «εποχική τάση», δηλαδή τάση για τις χρονικές στιγμές, +s, +s, Έστω η χρονοσειρά παρατηρήσεων σχέσεις αλλά μόνο μεταξύ περιόδων y, y,, yn με εποχική τάση και s διαφορές (διαφορά υστέρησης s) y, y,, yn x y ( B s ) y y y s s x, x,, x s s n ARIMA(P,,Q) s s s s ( B )( B ) Y ( B ) Z s s ARMA(P,Q) s ( B ) X ( B ) Z Γενικά ARIMA(P,D,Q) s s s D s ( B )( B ) Y ( B ) Z 7 Μοντέλα ARFIMA (ή FARIMA)

16 Tem Tem Tem Tem r() Tem Παράδειγμα Μέση μηνιαία θερμοκρασία του σταθμού Θεσσαλονίκης, περίοδος 93- μέρος της καταγραφής x, x,, xn n 7* 85 εκτίμηση εποχικού στοιχείου Tem Thess: subrac average eriod ΕΤΟ Σ ΙΑΝ ΟΥΑ Ρ ΦΕΒ ΡΟΥ ΜΑΡ ΑΡ ΤΙΟΣ ΑΠΡΙ ΜΑΙ Λ ΟΣ ΑΥΓ ΟΥΣ ΙΟΥΝ ΙΟΥΛ Τ ΣΕΠ ΤΕΜ ΟΚΤ Β ΩΒΡ ΝΟΕ ΜΒΡ ΔΕΚ ΕΜΒ Ρ 93 6,7 6,7,3 5,7 9,6 6, 6,8 7,5, 8,9 93 7,9 8,8,7 9,7 4,9 7,4 6,9,5 6,8 4, 93 5,9 7,4 4, 9,4 4, 7, 6, 4,,5,7 9, 933 5, 7,6 9, 3,5 7,6,8 5,5 5,3,5 7,7 4, 5, ,3 5,7,6 5,9,5 3,9 6,9 6,3 3, 7,6 3, ,5 6,8 8, 4,7 8,7 4,9 6, 6,8 9,8, 9, 936,5 8,3, 6 8,4 3 7, 5,9,6 6,3,3 7, 937 4,8 8,,9 4,5 9,7 4,4 6,4 6 3,6 6,9, ,8 6,6,9 8,4 4, 7,5 7,, 7,9,8 8, ,9 7,9 8,5 5,5 9,8 3, 7, 6,6,9 8,5,3 7,7 94 3, 6,8 8, 3,9 7,5,9 6,6 4,3,4 8,5 3 4, 94 6,9, 5,6 9, 3, ,9 5,7, 4,8 94,9 5,6 8,6 3,9,7 4,6 5,4 6, 3,8 7,5,7 7, Temeraure Thessaloniki, eriod /93-/ ισχυρή περιοδικότητα (εποχικότητα) Temeraure Thessaloniki: auocorrelaion Απαλοιφή περιοδικότητας (εποχικότητα) year κινούμενος μέσος Tem Thess: moving average wih order year Temeraure Thessaloniki, eriod /93-/ - monh year ίδιο μοντέλο ARMA(P,Q) s για κάθε μήνα? year 5-5 -διαφορές Tem Thess: -differencing year

17 x() AIC(,q) x() 5 μοντέλο ARMA(P,Q) s Tem Thess: AIC of ARMA models 3 5 Tem Thess: ARMA(,) fi q= q= q= q=3 q=4 q= προσαρμογή ARMA(,) x 5.98 x x z.54 z s z τυπική απόκλιση της σειράς των σφαλμάτων s.93 z s.63 Προσαρμογή με εκτίμηση εποχικού στοιχείου sz.47 z ime Tem Thess: ARMA(,) fi ime

18 Μοντέλο χρονοσειράς με τάση και εποχικότητα (SARIMA) y y y έχει Έστω η χρονοσειρά παρατηρήσεων,,, n τάση και περιοδικότητα s απαλοιφή τάσης y, y,, yn εξαρτήσεις μεταξύ συνεχόμενων παρατηρήσεων (χρονικό βήμα ) x, x, x, x, x απαλοιφή περιοδικότητας x, x,, xn εξαρτήσεις μεταξύ στοιχείων αντίστοιχων περιόδων (χρονικό βήμα s) x, x, x, x, x s s s s Γενικά μοντέλο ARIMA(,,q) Γενικά μοντέλο ARIMA(P,,Q) s d s s D s ( B)( B) Y ( B) Z ( B )( B ) Y ( B ) Z s d s D s ( B) ( B )( B) ( B ) Y ( B) ( B ) Z SARIMA(,d,q) (P,D,Q) s Εποχικό πολλαπλασιαστικό μοντέλο Συνήθως d D d και D SARMA(,q) (P, Q) s

19 global emeraure global emeraure r() Παράδειγμα Μηνιαίος δείκτης για τη θερμοκρασία της γης (ανωμαλία στη θερμοκρασία εδάφους στο βόρειο ημισφαίριο σε πλέγμα 5 ο x 5 ο ), περίοδος 85- y, y,, yn πραγματικές μετρήσεις Πηγή: h:// 3 land air emeraure anomalies, eriod /85-/. monhly global emeraure: auocorrelaion year land air emeraure anomalies, eriod /85-/ Jan May Se year απαλοιφή τάσης? απαλοιφή περιοδικότητας? εξαρτήσεις μεταξύ συνεχόμενων παρατηρήσεων (χρονικό βήμα )? εξαρτήσεις μεταξύ στοιχείων αντίστοιχων περιόδων (χρονικό βήμα s)?

20 d(em) r() πρώτες διαφορές d(em) διαφορές υστέρησης r() firs differences of monhly global emeraure.5 firs differences of monh global emeraure Jan5 Jan5 Jan54 Jan56 Jan58 Jan6 Jan6 year firs difference of monhly global emeraure: auocorrelaion σημαντικές αυτοσυσχετίσεις για τ=,, για τ=,4, -.5 Jan5 Jan5 Jan54 Jan56 Jan58 Jan6 Jan6 year -difference of monhly global emeraure: auocorrelaion

21 AIC(,q) AIC(,q) AIC(,q) AIC(,q) AIC(,q) AIC(,q) AIC(,q) AIC(,q). -. diff of em: arial auocorrelaion diff of monhly em: AIC of SARMA(,q)x(,) q= q= q= q=3 q= diff of monhly em: AIC of SARMA(,q)x(,) q= q= q= q=3 q=4 () diff of monhly em: AIC of SARMA(,q)x(,) diff of monhly em: AIC of SARMA(,q)x(,) diff of monhly em: AIC of SARMA(,q)x(,) q= q= q= q=3 q= q= q= q= q=3 q= q= q= q= q=3 q= diff of monhly em: AIC of SARMA(,q)x(,) diff of monhly em: AIC of SARMA(,q)x(,) diff of monhly em: AIC of SARMA(,q)x(,3) q= q= q= q=3 q= q= q= q= q=3 q= q= q= q= q=3 q= min(aic)=-.6 για SARMA(3,3) (,) SARMA(,) (,) AIC=-.68

22 x() x() x() x() SARMA(3,3) (,) x.x.7x.x.95x.x.7x.8x z.4z.z.95z.z.48z.3z.93z z.8z.5z.8z diff global em: ARMA(3,3)x(,) fi diff global em: ARMA(3,3)x(,) fi 4 4 x.3 sz ime SARMA(,) (,) x.35x.98x.34x 4 3 z.4z.z.93z.99z.z 3 4 diff global em: ARMA(,)x(,) fi ime diff global em: ARMA(,)x(,) fi sz ime -4 6 ime