Χρονοσειρές Μάθημα 3 Ασυσχέτιστες (λευκός θόρυβος) και ανεξάρτητες (iid) παρατηρήσεις Chafield C., The Analysis of Time Series, An Inroducion, 6 h ediion,. 38 (Chaer 3): Some auhors refer o make he weaker assumion ha he z s are muually uncorrelaed, raher han indeenden. This is adequae for linear, normal rocesses, bu he sronger indeendence assumion is needed when considering non-linear models (Chaer ). Noe ha a urely random rocess is someimes called whie noise, aricularly by engineers.. (Chaer ): When examining he roeries of non-linear models, i can be very imoran o disinguish beween indeenden and uncorrelaed random variables. In Secion 3.4., whie noise (or a urely random rocess) was defined o be a sequence of indeenden and idenically disribued (i.i.d.) random variables. This is someimes called sric whie noise (SWN), and he hrase uncorrelaed whie noise (UWN) is used when successive values are merely uncorrelaed, raher han indeenden. Of course if successive values follow a normal (Gaussian) disribuion, hen zero correlaion imlies indeendence so ha Gaussian UWN is SWN. However, wih non-linear models, disribuions are generally non-normal and zero correlaion need no imly indeendence. Wei W.W.C., Time Series Analysis, Univariae and Mulivariae Mehods,. 5:.4 Whie Noise Processes A rocess {a } is called a whie noise rocess if i is a sequence of uncorrelaed random variables from a fixed disribuion wih consan mean (usually assumed ), consan variance and zero auocovariance for lags differen from.
Γραμμικές στάσιμες διαδικασίες Γραμμική χρονοσειρά (στοχαστική διαδικασία) ~ WN(, ) i i i E[ ] είναι στάσιμη? i () Θεωρούμε μ= i i i i Θεωρώντας τον τελεστή υστέρησης: ( B) ( B) ib i i Γραμμικό φίλτρο ( B) Αν για i< i Γραμμική χρονοσειρά ως i i i i i i i i ( B) ( B) κινούμενου μέσου MA( ) [moving average rocess] αυτοπαλινδρόμησης AR( ) [auoregressive rocess] είναι αντιστρέψιμη το τυχαίο στοιχείο μπορεί να εκφρασθεί ως προς την ( B) παρούσα και τις προηγούμενες ( B) παρατηρήσεις
Αυτοπαλινδρομούμενες διαδικασίες αυτοπαλινδρόμηση AR( ) i i i Περιορίζουμε την αυτοπαλινδρόμηση στους πιο πρόσφατους όρους ( B B B ) Συνθήκη στασιμότητας ~ WN(, ) ( B) Αυτοπαλινδρομούμενη διαδικασία τάξης, AR() i ( B) B B B ( B) B χαρακτηριστικό πολυώνυμο Ρίζες του ( ) να είναι έξω από το μοναδιαίο κύκλο ή Ρίζες του να είναι εντός του μοναδιαίου κύκλου i i
Αυτοπαλινδρομούμενη διαδικασία τάξης, AR() Διαδοχικές προς τα πίσω αντικαταστάσεις: 4 i i Var[ ] ( ) Αυτοσυσχέτιση? (υποθέτουμε στασιμότητα) i i i E[ ] E[ ] E[ ] ( ) ( ) E[ ] E[ ] E[ ] ( ) ( ) () Συνθήκη στασιμότητας: ~ WN(, ) () ().5.5 () () -.5 -.5-4 6 8-4 6 8.8.8
Αυτοπαλινδρομούμενη διαδικασία τάξης, AR() ~ WN(, ) Συνθήκη στασιμότητας Ρίζες του ( B) B B να είναι εκτός του μοναδιαίου κύκλου ή εναλλακτικά οι ρίζες του Ρίζες: B, 4 B, να είναι εντός του μοναδιαίου κύκλου? 3 Saionariy condiion for AR() real disinc roos comlex roos real single roo δύο πραγματικές ρίζες: 4 μία διπλή πραγματική ρίζα: 4 - - -3-3 - - 3 6 συζυγείς μιγαδικές ρίζες: 4 Συζυγείς μιγαδικές ρίζες σε AR() ορίζουν ψευδο-περιοδικότητα στην αυτοσυσχέτιση
Αυτοπαλινδρομούμενη διαδικασία τάξης, AR() Αυτοσυσχέτιση? (υποθέτουμε στασιμότητα) E[ ] E[ ] E[ ] E[ ] () () () () E[ ] E[ ] E[ ] E[ ] () () () () Για υστέρηση τ: ( ) ( ) ( ) μπορεί να υπολογιστεί επαναληπτικά ( B B ) χαρακτηριστικό πολυώνυμο ( ) πραγματικές ρίζες: εκθετική πτώση μιγαδικές ρίζες: φθίνουσα ημιτονοειδή συνάρτηση διασπορά () ()
Αυτοσυσχέτιση.5 (α) λ =.8+.5i λ =.8-.5i () =.6 =-.89.5 (γ) λ =.8 λ =.8 () =.6 =-.64.5 (ε) λ =.8 λ =.95 () =.75 =-.76.5 (ζ) λ =-.8 λ =.95 () =.5 =.76 () () -.5 -.5 -.5-5 5-5 5-5 5 (β) λ =-.8+.5i λ =-.8-.5i (δ) λ =-.8 λ =-.8.5 () =-.6 =-.89.5 () =-.6 =-.64 () () () () -.5-5 5 (στ) λ =.8 λ =-.95 (η) λ =-.8 λ =-.95.5 () =-.5 =.76.5 () =-.75 =-.76 () () -.5 -.5 -.5 -.5-5 5-5 5-5 5-5 5
Συνθήκη στασιμότητας Αυτοπαλινδρομούμενη διαδικασία τάξης, AR() ( B B B ) ~ WN(, ) Ρίζες του ( B) B B B να είναι εκτός του μοναδιαίου κύκλου Αυτοσυσχέτιση? (υποθέτουμε στασιμότητα) Για υστέρηση τ: E[ ] E[ ] E[ ] E[ ] E[ ] ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) B πραγματικές ρίζες: εκθετική πτώση μιγαδικές ρίζες: φθίνουσα ημιτονοειδή συνάρτηση 7 Συνθήκες στασιμότητας για τους συντελεστές φ, φ, φ 3, της διαδικασίας AR(3)
Αυτοπαλινδρομούμενη διαδικασία τάξης, AR() Εξισώσεις Yule-Walker 3 Διασπορά () () ( )
Εξισώσεις Yule-Walker k k k 3 Μερική αυτοσυσχέτιση k k k k k 3 k k 33 3 kk Για κάθε k υπολογίζουμε τον συντελεστή k kk k k3 k k k3 k k k k3 k k k k3 μερική αυτοσυσχέτιση για υστέρηση (τάξη) k Επαναληπτικός αλγόριθμος των Durbin-Levinson οι συντελεστές του AR(),,,, υπολογίζονται επαναληπτικά, όπου για κάθε τάξη k οι συντελεστές υπολογίζονται από τους συντελεστές τάξης k-
(,) (,) (,) (,) (,) (,) (,) (,) Μερική αυτοσυσχέτιση (α) λ =.8+.5i λ =.8-.5i (γ) λ =.8 λ =.8 (ε) λ =.8 λ =.95 (ζ) λ =-.8 λ =.95 () =.6 () =.6 () =.75 () =.5.5 =-.89.5 =-.64.5 =-.76.5 =.76 -.5 -.5 -.5 -.5-5 5-5 5-5 5-5 5 (β) λ =-.8+.5i λ =-.8-.5i (δ) λ =-.8 λ =-.8 (στ) λ =.8 λ =-.95 (η) λ =-.8 λ =-.95.5 () =-.6 =-.89.5 () =-.6 =-.64.5 () =-.5 =.76.5 () =-.75 =-.76 -.5 -.5 -.5 -.5-5 5 8-5 5 Μαρκοβιανές διαδικασίες, ιδιότητες, διαφορές και ομοιότητες με AR διαδικασίες 9-5 5-5 5 Εκτίμηση τάξης Μαρκοβιανής διαδικασίας, διαφορές και ομοιότητες με εκτίμησης τάξης AR διαδικασίας
Διαδικασίες κινούμενου μέσου ii κινούμενου μέσου MA( ) i Περιορίζουμε του όρους του λευκού θορύβου στους q πιο πρόσφατους όρους ~ WN(, ) i i q q B B B ( B) ( q q ) Διαδικασία κινούμενου μέσου τάξης q, ΜΑ(q) ( ) B B B B χαρακτηριστικό πολυώνυμο ΜΑ(q) είναι στάσιμη? q q ΜΑ(q) είναι αντιστρέψιμη αν ( B) Συνθήκη αντιστρεψιμότητας Ρίζες του ( ) να είναι έξω από το μοναδιαίο κύκλο
Διαδικασία κινούμενου μέσου τάξης, MA() Συνθήκη αντιστρεψιμότητας: ~ WN(, )... ( )... () 3... ()? / Για κάποιο υπάρχουν δύο λύσεις για θ? και μόνο η μία θα πληρεί τη συνθήκη αντιστρεψιμότητας Παράδειγμα.4.5.9 και / έχουν την ίδια αυτοσυσχέτιση Αν η ρίζα του B είναι έξω από το μοναδιαίο κύκλο η ρίζα του / B είναι μέσα στο μοναδιαίο κύκλο
Διαδικασία κινούμενου μέσου τάξης, MA() (,) (,) Μερική αυτοσυσχέτιση.8 () (), 4 ().5.5 3 3 3,3 4 6 ( ), ( ), -.5-4 6 8 () -.5.8-4 6 8 () - ϕ ττ του ΜΑ() φθίνει όπως ρ τ του AR() ().5.5 - ρ τ του ΜΑ() φθίνει όπως ϕ ττ του AR() - αλλά για MA(), ρ τ και ϕ ττ είναι πάντα.5 -.5-4 6 8 -.5-4 6 8
Διαδικασία κινούμενου μέσου τάξης, MA() B ( ), ~ WN(, ) ( B) B B χαρακτηριστικό πολυώνυμο MA() είναι πάντα στάσιμη MA() είναι αντιστρέψιμη αν οι ρίζες του θ(β) είναι εκτός του μοναδιαίου κύκλου Διασπορά ( ) Αυτοσυσχέτιση ( ) Συνθήκες αντιστρεψιμότητας για τους συντελεστές θ, θ, καθώς και για τις αυτοσυσχετίσεις ρ, ρ, της διαδικασίας MA() Μερική αυτοσυσχέτιση, 3 ( ) 3,3 ( ),... πολύπλοκη έκφραση
λ =.8+.5i λ =.8-.5i Αυτοσυσχέτιση.8.6.4 () =.6 =-.89. () (,) λ =-.8+.5i λ =-.8-.5i.8.6.4 () =-.6 =-.89. -. -. -.4 -.4 -.6 () (,) λ =.8 λ =.95.8.6.4. -.6 () (,) (,) λ =.8 λ =-.95 () =.75 =-.76.8.6.4 () =-.5 =.76. () -. -. -.4 -.4 -.6 -.6 -.8 5 5 -.8 5 5 -.8 5 5 -.8 5 5 Μερική αυτοσυσχέτιση.8.6.4 () =.6 =-.89.8.6.4 () =-.6 =-.89.8.6.4 () =.75 =-.76.8.6.4 () =-.5 =.76.... -. -. -. -. -.4 -.4 -.4 -.4 -.6 -.6 -.6 -.6 -.8 5 5 -.8 5 5 -.8 5 5 -.8 5 5 - ϕ ττ του ΜΑ() φθίνει όπως ρ τ του AR() - ρ τ του ΜΑ() φθίνει όπως ϕ ττ του AR() - αλλά για MA(), ρ τ και ϕ ττ είναι πάντα.5
Διαδικασία κινούμενου μέσου τάξης q, MA(q) ( B) q q ~ WN(, ) ( ) χαρακτηριστικό πολυώνυμο q B B B qb Διασπορά ( ) q Αυτοδιασπορά q ( q q),,, q Αυτοσυσχέτιση q q q,,, q q Η μερική αυτοσυσχέτιση φθίνει με μορφή που καθορίζεται από τις ρίζες του χαρακτηριστικού πολυωνύμου Οι εκφράσεις των ϕ ττ ως προς τους συντελεστές θ, θ,..., θ q είναι πολύπλοκες