Χρονοσειρές - Μάθημα 5 Εκτίμηση μοντέλου MA(q) στοχαστική διαδικασία AR(p) p p ~ WN(, ) στοχαστική διαδικασία MA(q) q q στοχαστική διαδικασία ARMA(p,q) p p q q Εκτίμηση διαδικασίας (μοντέλο) AR, MA ή ARMA? άλλο μοντέλο? τάξη p ή/και q? εκτίμηση παραμέτρων μοντέλου? AR( p) :,,, p, ΜΑ( q) :,,, q,? ARΜΑ(, ) :,,,,,,,, pq p q Υποθέτω στοχαστική διαδικασία MA(q) για τη χρονοσειρά x, x,, xn Προσαρμογή διαδικασίας (μοντέλο) MA(q) εκτίμηση παραμέτρων,,, q,
Διασπορά Μέθοδος ροπών ( ) q Αυτοσυσχέτιση q q,,, q q q MA(q) q q Μη-γραμμικό σύστημα εξισώσεων ως προς τις παραμέτρους,,, q Εκτίμηση των,,,, q r, r,, r, s Μέθοδος ελαχίστων τετραγώνων q Αλγόριθμος innovaion Προσαρμογή μοντέλου MA(q) στα δεδομένα Ελαχιστοποίηση αθροίσματος τετραγώνων των σφαλμάτων προσαρμογής n q q q ως προς q min S(,, ) min ( x z z ) Αριθμητική μέθοδος βελτιστοποίησης,,,, q ˆ ˆ ˆ,,, q
MA() Μέθοδος ροπών ( q s ) s ˆ Μέθοδος ελαχίστων τετραγώνων ˆ r r.5 r ˆ ˆ 4. 5 ˆ r r r r, r Επιλέγουμε τη λύση ˆ που δίνει αντιστρεψιμότητα Υποθέτω z (και ) z x z z x z x z x x z x z x ( x x ) x x x 3 3 3 3 z x z x x x x x n n n n n n n n n 3 n n n min z min x ( x x) ( x x x ) ( x x x ) min a a a n n n- λύσεις, θα πρέπει να επιλέξω λύση ˆ προγραμματισμός λύσης ελαχίστων τετραγώνων με περιορισμούς για αντιστρεψιμότητα
AIC(q) r() Παράδειγμα Ρυθμός μεταβολής του ακαθάριστου εθνικού προϊόντος (ΑΕΠ) των ΗΠΑ (τετραμηνιαίες τιμές, ο τετράμηνο 947 ο τετράμηνο 99). Η εποχικότητα έχει διορθωθεί (αφαιρώντας τον εποχικό κύκλο)..4 GNP of USA: incremens.5 incr.gnp(usa): auocorrelaion.3.4 x...3.. τάξη MA μοντέλου? -. -. -. -. -.3 5 5 5 5 incr.gnp(usa): AIC of MA models -9.4-9.6-9.8-9. ΜΑ()? -9. -9.4 4 6 8 q
x() x() x() x() εκτίμηση παραμέτρων διασπορά σφαλμάτων (υπολοίπων) s.97 προσαρμοσμένο ΜΑ() x.77 OLS ˆ.3 ˆ.7 z sz x.77 z.3z.7 z,,76.983.4 incr.gnp(usa): MA() fi.4 incr.gnp(usa): MA() fi.3.3.... προσαρμογή με ΜΑ() -. -. -. -. -.3 5 5 -.3 3 4.4 incr.gnp(usa): AR(3) fi.4 incr.gnp(usa): AR(3) fi.3.3.... προσαρμογή με AR(3) -. -. -. -. -.3 5 5 -.3 3 4 Διάγνωση καταλληλότητας μοντέλου n zˆ p είναι τα υπόλοιπα ανεξάρτητα έλεγχο ανεξαρτησίας στα
Εκτίμηση μοντέλου ARMA(p,q) στοχαστική διαδικασία AR(p) p p ~ WN(, ) στοχαστική διαδικασία MA(q) q q στοχαστική διαδικασία ARMA(p,q) p p q q Εκτίμηση διαδικασίας (μοντέλο) AR, MA ή ARMA? άλλο μοντέλο? τάξη p ή/και q? εκτίμηση παραμέτρων μοντέλου? AR( p) :,,, p, ΜΑ( q) :,,, q,? ARΜΑ(, ) :,,,,,,,, pq p q Υποθέτω στοχαστική διαδικασία ARMA(p,q) για τη χρονοσειρά Προσαρμογή διαδικασίας (μοντέλο) ARMA(p,q) x, x,, xn εκτίμηση παραμέτρων,,, p,,,, q, Μέθοδος ροπών και μέθοδος ελαχίστων τετραγώνων όπως για MA(q)
ARMA(,) ( ) Μέθοδος ροπών ( )( ) Εκτίμηση των s,,, r, r,, r, s Επίλυση συστήματος εξισώσεων ως προς,? ˆ s ˆ ˆ ˆ p Η συνάρτηση αντίστροφης αυτοσυσχέτισης (inverse auocorrelaion) Μέθοδος ελαχίστων τετραγώνων Υποθέτω z (και x ) z x z x x z x ( ) x z x x z x ( ) x ( ) x 3 3 3 3 min Μέθοδοι διερεύνησης της επάρκειας μοντέλου n z z x x z x ( ) x ( ) x ( ) x n n n n n n n n προγραμματισμός λύσης ελαχίστων τετραγώνων με περιορισμούς για αντιστρεψιμότητα και στασιμότητα
AIC(p,q) r() Παράδειγμα Ρυθμός μεταβολής του ακαθάριστου εθνικού προϊόντος (ΑΕΠ) των ΗΠΑ (τετραμηνιαίες τιμές, ο τετράμηνο 947 ο τετράμηνο 99). Η εποχικότητα έχει διορθωθεί (αφαιρώντας τον εποχικό κύκλο)..4 GNP of USA: incremens.5 incr.gnp(usa): auocorrelaion.3.4..3 x... -. -. -. -. -.3 5 5 5 5 p,p.5.4.3.. incr.gnp(usa): parial auocorrelaion -9.4-9.6-9.8-9. incr.gnp(usa): AIC of ARMA models q= q= q= q=3 q=4 q=5 τάξη ARMA μοντέλου? ARMA(,)? -. -9. -. 4 6 8 p -9.4-3 4 5 6 p
x() x() x() x() x() x() εκτίμηση παραμέτρων x.77 OLS ˆ.64 ˆ ˆ.3 ˆ.455.6 διασπορά σφαλμάτων (υπολοίπων) s.97 sz.983 προσαρμοσμένο ARΜΑ(,) z,,76 xˆ.65.64x.455x z.3z.6z.4 incr.gnp(usa): ARMA(,) fi.4 incr.gnp(usa): ARMA(,) fi.3...3.. προσαρμογή με ARΜΑ(,) -. -. -. -. -.3 5 5 -.3 3 4.4 incr.gnp(usa): MA() fi.4 incr.gnp(usa): MA() fi.3...3.. προσαρμογή με ΜΑ() -. -. -. -. -.3 5 5.4 incr.gnp(usa): AR(3) fi -.3 3 4.4 incr.gnp(usa): AR(3) fi.3...3.. προσαρμογή με AR(3) -. -. -. -. -.3 5 5 -.3 3 4
Μοντέλο χρονοσειράς με τάση (ARIMA) Y τυχαίος περίπατος Y Y διαδικασία AR() για Πρώτες διαφορές: ( B) Y Y Y διαδικασία iid Y Y (μη-στάσιμη διαδικασία) iid E E μη-στάσιμη διαδικασία που παρουσιάζει τάση ΝΑΙ πρώτες διαφορές: Y Y στάσιμη διαδικασία? ΟΧΙ διαφορές δεύτερης τάξης: Y Y Y στάσιμη διαδικασία? ΟΧΙ ΝΑΙ d Y στάσιμη μετά από διαφορές d τάξης: ( B) d Y Συνήθως d AR(p), MA(q), ARMA(p,q)? μη-στάσιμη διαδικασία ARIMA(p,d,q) p p q q Το πολυώνυμο ( B)( B) d έχει μια ( B) ( B) d ρίζα = και όλες τις άλλες εκτός του ( B) Y ( B) d μοναδιαίου κύκλου ( B)( B) Y ( B)
Προσαρμογή μοντέλου ARIMA (διαδικασία Box-Jenkins) y y y χρονοσειρά παρατηρήσεων,,, n διάγραμμα ιστορίας (γράφημα χρονοσειράς)? αυτοσυσχέτιση (ισχυρή και φθίνει πολύ αργά) άλλο? αν η αυτοσυσχέτιση ένδειξη πως έχει τάση φθίνει στο διαφορές τάξης d x ( ) d B y άλλο? στάσιμη χρονοσειρά x, x,, xn προσαρμογή μοντέλου AR(p), MA(q), ARMA(p,q) επάρκεια (adequacy) του μοντέλου τάξη μοντέλου εκτίμηση παραμέτρων μοντέλου διαγνωστικός έλεγχος κατάλληλο μοντέλο ARMA(p,q) για x, x,, xn με τον αντίστροφο μετασχηματισμό του x ( ) d B y έχουμε το μοντέλο ARΙMA(p, d,q) για y, y,, yn? η χρονοσειρά είναι στάσιμη αν η αυτοσυσχέτιση είναι στατιστικά ασήμαντη είναι iid? έλεγχος ανεξαρτησίας ΝΑΙ ΣΤΟΠ πρόβλεψη?? ΟΧΙ μη-γραμμικό μοντέλο?
d(emp) r() global emperaure r() Παράδειγμα Ετήσιος δείκτης για τη θερμοκρασία της γης (ανωμαλία στη θερμοκρασία εδάφους στο βόρειο ημισφαίριο σε πλέγμα 5 ο x 5 ο ), περίοδος 85- y, y,, yn πραγματικές μετρήσεις Πηγή: hp://www.cru.uea.ac.uk/cru/daa/emperaure.5 annual land air emperaure anomalies.8 annual global emperaure: auocorrelaion.5 -.5.6.4. στάσιμη χρονοσειρά? ΟΧΙ - 84 86 88 9 9 94 96 98 year x, x,, xn πρώτες διαφορές -. 5 5 firs differences of annual land air emperaure anomalies firs difference of annual global emperaure: auocorrelaion.3..5 -.5-84 86 88 9 9 94 96 98 year. -. -. -.3 -.4 -.5 5 5 στάσιμη χρονοσειρά? ΝΑΙ
x() x() r() AIC(p,q) Μοντέλο για τη χρονοσειρά x, x,, xn? 4 Μοντέλα ARFIMA (ή FARIMA) αυτοσυσχέτιση μερική αυτοσυσχέτιση κριτήριο AIC firs difference of annual global emperaure: auocorrelaion.3.. -. -. -.3 ().. -. -. -.3 diff of emp: parial auocorrelaion -.85 -.9 -.95-3 -3.5-3. -3.5 diff of emp: AIC of ARMA models q= q= q= q=3 q=4 q=5 -.4 -.4-3. -.5 5 5 Πιο κατάλληλη μορφή μοντέλου? προσαρμογή ΜΑ(4) ( ) x.8 -.5 5 5 3 4-3.5-3 4 5 6 p Μοντέλο για τη χρονοσειρά y, y,, yn ARIΜΑ(,,4) ( B) Y 4( B) x.8 z.758z.z.9z.75z s.44 s.35 z z diff of global emperaure: ARMA(,4) fi diff of global emperaure: ARMA(,4) fi.5.5 -.5 -.5-84 86 88 9 9 94 96 98-93 935 94 945 95 955 96