Χρονοσειρές Μάθημα Μάθημα του προπτυχιακού προγράμματος σπουδών του Τμήματος Ηλεκτρολόγων Μηχανικών και Μηχανικών Η/Υ (ΤΗΜΜΥ) ΑΠΘ Κουγιουμτζής Δημήτρης Αν. Καθηγητής Τμήμα Ηλεκτρολόγων Μηχανικών και Μηχανικών Η/Υ, Πολυτεχνική Σχολή, ΑΠΘ e-mail: dkugiu@auh.gr, hp://users.auh.gr/~dkugiu/ ιστοσελίδα μαθήματος: hp://users.auh.gr/dkugiu/teach/timeseriesthmmy Περιεχόμενα - Βασικά χαρακτηριστικά χρονοσειρών: στασιμότητα, αυτοσυσχέτιση, μερική αυτοσυσχέτιση, απομάκρυνση στοιχείων μη-στασιμότητας, έλεγχος ανεξαρτησίας για χρονοσειρές. - Γραμμικές στοχαστικές διαδικασίες: αυτοπαλινδρομούμενη (AR), κινούμενου μέσου (MA), μικτή (ARMA). - Μοντέλα χρονοσειρών: AR, MA και ARMA σε στάσιμες χρονοσειρές, μικτό ολοκληρωμένο μοντέλο (ARIMA) και εποχικό ARIMA (SARIMA) σε μη-στάσιμες χρονοσειρές. - Πρόβλεψη χρονοσειρών. - Μη-γραμμική ανάλυση χρονοσειρών: μη-γραμμικά χαρακτηριστικά χρονοσειρών, μη-γραμμική δυναμική και χάος, μη-γραμμική πρόβλεψη χρονοσειρών.
Βιβλιογραφία "Ανάλυση χρονοσειρών", Δημήτρης Κουγιουμτζής, σημειώσεις 4 (σε PDF) Συγγράματα μαθήματος. Εφαρμοσμένη στατιστική [Κωδικός Βιβλίου στον Εύδοξο: 8] Έκδοση: η έκδ./99 Συγγραφείς: Μπόρα - Σέντα Ε., Μωυσιάδης Χρόνης Θ. ISBN: 96-43-84-, Εκδότης: Ζήτη Πελαγία & Σια Ο.Ε.. Time Series Aalysis ad Is Applicaios [Κωδικός Βιβλίου στον Εύδοξο: 79] Έκδοση: Secod Ediio./6 Συγγραφείς: Shumway, Rober H.Soffer, David S. ISBN: 9783873676 Τύπος: Ηλεκτρονικό Βιβλίο, Εκδότης: Heal-Lik/Σύνδεσμος Ελληνικών Ακαδημαϊκών Βιβλιοθηκών 3. Iroducio o Moder Time Series Aalysis [Κωδικός Βιβλίου στον Εύδοξο: 79976] Συγγραφείς: Kirchgässer, Gebhard.Wolers, Jürge. ISBN: 9783547394 Τύπος: Ηλεκτρονικό Βιβλίο, Εκδότης: Heal- Lik/Σύνδεσμος Ελληνικών Ακαδημαϊκών Βιβλιοθηκών Προτεινόμενη διεθνής βιβλιογραφία. The Aalysis of Time Series, A Iroducio, Chafield C., Sixh ediio, Chapma & Hall, 4. Iroducio o ime series ad forecasig, Brockwell P.J. ad Davis R.A., Secod ediio, Spriger, 3. Noliear Time Series Aalysis, Kaz H. ad Schreiber T., Cambridge Uiversiy Press, 4 4. Applied Noliear Time Series Aalysis: Applicaios i Physics, Physiology ad Fiace, Michael Small, World Scieific
φυσιολογία Πραγματικές χρονοσειρές μονοδιάστατη χρονοσειρά μηχανική ηλεκτρονική μόνο μια χρονοσειρά περιορισμένο μήκος γεωφυσική οικονομία μη-στασιμότητα θόρυβος
Ορισμοί / συμβολισμοί Παρατηρούμενο μέγεθος μεταβλητή [variable] Χ Οι τιμές του παρατηρούμενου μεγέθους αλλάζουν με κάποια μικρή ή μεγάλη τυχαιότητα (στοχαστικότητα) τυχαία μεταβλητή (τ.μ.) [radom variable] Χ Οι παρατηρήσεις γίνονται συνήθως με συγκεκριμένο χρονικό βήμα χρόνος δειγματοληψίας [samplig ime]. Για κάθε χρονική στιγμή θεωρούμε την τιμή x της τυχαίας μεταβλητής Χ. Το σύνολο των τιμών της μεταβλητής x για κάποια χρονική περίοδο (σε μονάδες δειγματοληψίας) (μονοδιάστατη) χρονοσειρά [(uivariae) ime series] x { x, x,, x } Αν υπάρχουν ταυτόχρονες παρατηρήσεις περισσότερων από μιας μεταβλητής πολυδιάστατη χρονοσειρά [mulivariae ime series] Στη μονοδιάστατη ή πολυδιάστατη χρονοσειρά εφαρμόζουμε μεθόδους και τεχνικές για να αντλήσουμε πληροφορίες για το σύστημα που την παράγει ανάλυση χρονοσειρών [ime series aalysis] Η χρονοσειρά μπορεί να θεωρηθεί ως πραγματοποίηση μιας στοχαστικής ή καθοριστικής διαδικασίας (δυναμικό σύστημα) X
close idex volume close idex close idex Δείκτης και όγκος συναλλαγών Χρηματιστηρίου Αξιών Αθηνών (ΧΑΑ) 7 ASE idex, period 985-6 ASE idex, period 7-6 5 5 4 4 3 3 86 88 9 9 94 96 98 4 6 8 ASE idex, period 8 7 8 9 5 x 5 ASE volume, period 998-8 6 4 5 8 6 3 4 5 6 7 8 9 mohs 98 99 3 4 5 6 7 8 Πρόβλεψη? Ποια είναι η τιμή του δείκτη αύριο? Μεθαύριο? Δυναμικό σύστημα Στοχαστική διαδικασία? Ποιος είναι ο μηχανισμός της ελληνικής χρηματιστηριακής αγοράς?
Geeral Idex of Comsumer Prices Γενικός δείκτης τιμών καταναλωτή (GICP) Geeral Idex of Comsumer Prices, period Ja - Aug 5 5 5 5 3 4 5 6 Τάση? Εποχικότητα / περιοδικότητα? Αυτοσυσχέτιση? Αυτοπαλινδρόμηση? Πρόβλεψη?
umber of suspos umber of suspos umber of suspos Ετήσιες ηλιακές κηλίδες 5 5 5 Aual suspos, period 7-7 75 8 85 9 95 5 Aual suspos, period 96-995 8 6 4 8 6 4 Aual suspos, period 9-9 9 94 96 98 Ποιος είναι ο μηχανισμός / σύστημα / διαδικασία που δημιουργεί τις ηλιακές κηλίδες? Είναι περιοδικό σύστημα + θόρυβος? Είναι στοχαστικό σύστημα? Είναι χαοτικό σύστημα? 96 97 98 99 Γνωρίζοντας τον αριθμό ηλιακών κηλίδων ως το 995, ποιος θα είναι ο αριθμός τους το 996 και μετά? Ποιος θα είναι ο αριθμός των ηλιακών κηλίδων το??
Σύγκριση μοντέλων Αυθεντική πρόβλεψη
Τι σύστημα παράγει μια πραγματική χρονοσειρά; x(i) preical EEG Πραγματική χρονοσειρά ical EEG Πιθανά στοχαστικά μοντέλα sochasic 3 4 5 ime i secods 3 4 5 ime i secods 4 ime idex i Πιθανά καθοριστικά μοντέλα periodic + oise low dimesioal chaos high dimesioal chaos 3 4 5 ime i secods 3 4 5 ime i secods 3 4 5 ime i secods
Βρύση που στάζει (drippig waer fauce, UC Saa Cruz). x x x 3 ( x, x ) 3 ( x, x ) Cruchfield e al, Scieific America, 986 Η παρατήρηση της βρύσης που στάζει έδειξε πως για κάποια ταχύτητα ροής, οι σταγόνες δεν τρέχουν σε σταθερά χρονικά διαστήματα. Το διάγραμμα διασποράς των δεδομένων έδειξε ότι το στάξιμο των σταγόνων δεν είναι τυχαίο. διάγραμμα διασποράς (, ) i i απεικόνιση Heo s.4 s.3 s x x ( x, x, x ) i i i i i i παρατηρούμενη μεταβλητή w i θόρυβος x s w i i i χάος
Χάος σε ηλεκτρικά και ηλεκτρονικά κυκλώματα: Περιγραφή κάποιου πειράματος Χάος στις τηλεπικοινωνίες: Περιγραφή εφαρμογής της θεωρίας του χάους σε ένα σύστημα επικοινωνίας 3 Χάος σε συστήματα ενέργειας: Περιγραφή μιας περίπτωσης μελέτης
Τάση [red]: αργή μεταβολή των τιμών x Στασιμότητα - τάση Πλαστική παραμόρφωση Καθοριστική τάση [deermiisic red]: κάποια συνάρτηση του χρόνου μ = f() Προσαρμογή με πολυώνυμο βαθμού Προσαρμογή με πολυώνυμο βαθμού 5
differece of logs idex relaive chage firs differece Στοχαστική τάση [sochasic red]: τυχαία αργή μεταβολή μ 6 4 8 6 4 Y : η παρατήρηση ενός μεγέθους σε χρόνο y, y,, y - χρονοσειρά 8 85 87 9 9 95 97 5 S&P5 8 85 87 9 9 95 97 5 μετασχηματισμός 5-5..5 -.5 -. -.5 -. S&P5, firs differeces S&P5, relaive chages -.5 8 85 87 9 9 95 97 5 S&P5, differece of logs..5 -.5 -. -.5 -. -.5 8 85 87 9 9 95 97 5 μεταβολή τιμής x y y x σχετική μεταβολή τιμής y y y μεταβολή λογαριθμού τιμής x l y l y
f Y (y) f X (x) idex firs differece Y : η τιμή ενός μεγέθους y, y,, y χρονοσειρά Χρονική συσχέτιση Στοχαστική διαδικασία Y X 6 S&P5 S&P5, firs differeces 4 8 6 5 μεταβολή τιμής 4-5 x y y 8 85 87 9 9 95 97 5-8 85 87 9 9 95 97 5 3 fy ( y) 3.5 x -3 Gaussia pdf superimposed o S&P5 6 5 f X ( x) Gaussia pdf superimposed o S&P5 reurs Στατική περιγραφή περιθώρια κατανομή.5.5 4 3 Δυναμική περιγραφή? Χρονική συσχέτιση.5 5 5 Y -.5.5 X
Κατανομές και ροπές στοχαστικής διαδικασίας Η στοχαστική διαδικασία περιγράφεται από την περιθώρια και τις κοινές κατανομές Z f ( y ) f ( y, ) Y Y περιθώρια κατανομή Z,,, Z 3 f ( y, y ) f ( y, y,, ) Y, Y Y f ( y, y, y ) f ( y, y, y,,, ) Y, Y, Y 3 Y 3 3 3 κοινή κατανομή μεταβλητών κοινή κατανομή 3 μεταβλητών Y y f y y Ροπή πρώτης τάξης (μέση τιμή) (, )d Ροπή δεύτερης τάξης Κεντρική ροπή δεύτερης τάξης Ροπές μεγαλύτερης τάξης Y Y y y f ( y, y,, )d y d y (, ) Y Y ( Y )( Y ) (, ) (, ) αυτοδιασπορά [auocovariace] Γενικά η κατανομή και οι ροπές μπορεί να αλλάζουν σε κάθε χρονικό βήμα
Στασιμότητα Αυστηρή στασιμότητα [sric-sese saioariy] Οι κατανομές είναι σταθερές στο χρόνο (ισοδύναμα όλες οι ροπές είναι σταθερές) Z Z,,, Z 3 f ( y ) f ( y, ) f ( y ) Y Y Y f ( y, y ) f ( y, y ) Y, Y Y, Y f ( y, y, y ) f ( y, y, y ) Y, Y, Y 3 Y, Y, Y 3 3 σταθερές Z Ασθενή στασιμότητα [wide-sese saioariy] Οι δύο πρώτες ροπές είναι σταθερές στο χρόνο Y Y Y Y, Y (, ) ( ) (, ) (, ) ( ) σταθερές Z σταθερή μέση τιμή και αυτοδιασπορά και για τ= Y ( ) σταθερή διασπορά Y ( ) Y ( )
Στάσιμη χρονοσειρά X Αυτοσυσχέτιση Αυτοδιασπορά X X X X X ( ) ( )( ) ( ) Διασπορά X X Αυτοσυσχέτιση ( ) ( ) ( ) ( ) ( ) ( ) Χρονική συσχέτιση μεταβλητών της σε υστέρηση τ. Μετράει τη «μνήμη» της X X Συμβολισμός: ( ) Παρατηρήσεις: k k και και ( ) k k k k Πίνακας αυτοδιασπορών Πίνακας αυτοσυσχετίσεων
X X Κάποιες βασικές στοχαστικές διαδικασίες ανεξάρτητες ισόνομες τ.μ. [idepede ad ideically disribued, iid] P ( X x, X x,, X x ) P ( X x ) P ( X x λευκός θόρυβος [whie oise, WN], ασυσχέτιστες τ.μ. E X X i j ij ) P ( X E X x ) 3 Y τυχαίος περίπατος [radom walk, RW] Y Y X X X X E Y Y, Y,, Y Y X E Y iid E Y E X? E X Η διασπορά αυξάνει γραμμικά με το χρόνο!
4 X Για κάθε τάξη p: Γκαουσιανή (κανονική) στοχαστική διαδικασία f ( x, x,, x ) X, X,, X p p είναι p-διάστατη Γκαουσιανή κατανομή Η κανονική κατανομή καθορίζεται πλήρως από τις δύο πρώτες ροπές αυστηρή στασιμότητα ασθενής στασιμότητα Παράδειγμα Στοχαστική διαδικασία: X A si ( ) A τ.μ. E [ ] ~ U [, ] A V ar[ A ] θ και A ανεξάρτητα Είναι ασθενώς στάσιμη; E [ X ] E [ A ]E [s i ( )] E [ X X ] E A si ( ) si ( ( ) )... co s( ) Οι ροπές πρώτης και δεύτερης τάξης δεν εξαρτώνται από το χρόνο.?
Δειγματική αυτοδιασπορά / αυτοσυσχέτιση x, x,, x χρονοσειρά Δειγματική μέση τιμή x x αμερόληπτος εκτιμητής της μέσης τιμής μ της χρονοσειράς? Δειγματική αυτοδιασπορά Άλλη εκτίμηση αυτοδιασποράς Μεροληπτικοί εκτιμητές: c ( ) ( x x x ),,, c ( ) ( x x ) c( ) c ( ) ( x x x ) E [ c ] ( ) V ar[ x ] E [ c ] V a r[ x ] c ( ) Δειγματική αυτοσυσχέτιση r ( ) r ( ) c () r ~ N (, V a r[ r ]) Για μεγάλο : V a r[ r ] ( 4 ) m m m m m m m V a r[ r ] m πολύ μεγάλο m Συμβολισμός c η μεροληψία αυξάνει με την υστέρηση τ Συμβολισμός r( ) r τύπος Barle
Aυτοσυσχέτιση λευκού θορύβου x, x,, x χρονοσειρά λευκού θορύβου, r ~ N (, )? Έλεγχος σημαντικότητας αυτοσυσχέτισης H : H : Aπορριπτική περιοχή: R r z / Ζώνη μη-σημαντικής αυτοσυσχέτισης: z a / Παράδειγμα r / για στάθμη σημαντικότητας για =.5 Για μια χρονοσειρά παρατηρήσεων δίνονται οι πρώτες αυτοσυσχετίσεις 3 4 5 6 7 8 9 -.38 -.8. -.8....7 -.8.5 Υποθέτοντας ότι η χρονοσειρά είναι τυχαία (Η :ρ=): V ar[ r ]. 5 για =.5, το 95% των αυτοσυσχετίσεων αναμένουμε να βρίσκεται στο διάστημα 4.9 6.9 6. 7. 3 9 Έλεγχος τυχαιοποίησης για τη σημαντικότητα αυτοσυσχέτισης ρ, ρ και ρ τ για τ=3,4,