Χρονοσειρές - Μάθημα 9 Aνάλυση χρονοσειρών και δυναμικά συστήματα - Ανακατασκευή του χώρου καταστάσεων παρατήρηση της πολυπλοκότητας / στοχαστικότητας / δομής του συστήματος - Εκτίμηση χαρακτηριστικών του συστήματος / ελκυστή μέτρηση της πολυπλοκότητας / διάστασης του συστήματος - Μοντελοποίηση / Πρόβλεψη Χρήση μη-γραμμικών μοντέλων για καλύτερες προβλέψεις - Άλλα θέματα: - Έλεγχος υπόθεσης για γραμμικότητα / μη-γραμμικότητα - Έλεγχος εξέλιξης συστήματος (control) - Συγχρονισμός δυναμικών συστημάτων -
Ανακατασκευή του χώρου καταστάσεων αρχικός χώρος καταστάσεων s M s s f ( s ) συνθήκη: m D Εμβύθιση Φ? ανακατασκευασμένος χώρος καταστάσεων R m F( ) = F(s ) Υποθέτουμε πως το υπό μελέτη σύστημα είναι αιτιοκρατικό παρατηρούμενο μέγεθος R = h(s ) h Μέθοδος των υστερήσεων = [, -t,, -(m-)t ] Παράμετροι διάσταση εμβύθισης m χρόνος υστέρησης t εύρος παραθύρου χρόνου t w t w = (m-)t
s()=.4 s(-) +.3s(-) ή s ()=.4 s (-) + s (-) s ()=.3 s (-) Παράδειγμα: Απεικόνιση Henon Μέθοδος των υστερήσεων m= τ= m= τ= Αυτο-τομές Προβολή = s () m=3 τ= m=3 τ=
s s a( s s) s s 3 bs s 3 ss cs3 a=, b=8, c=8/3 s Παράδειγμα: σύστημα Lorenz Μέθοδος υστερήσεων, m=3 Βέλτιστο τ? τ= τ =5 Προβολή = s () τ = τ =
Εκτίμηση του τ 5 Από την αυτοσυσχέτιση r(τ) (μετράει γραμμικές συσχετίσεις) τ r(τ) =/e ή τ r(τ) = Από την αμοιβαία πληροφορία I(τ) (μετράει γραμμικές και μη-γραμμικές συσχετίσεις) τ πρώτο τοπικό ελάχιστο της I(τ) Εκτίμηση αμοιβαίας πληροφορίας συνεχών τυχαίων μεταβλητών: εκτιμητές, ιδιότητες (μεροληψία, αποτελεσματικότητα) I( X, Y) p X pxy (, y) (, y)log p ( ) p ( ) XY, y X Y y Y I( X, Y) I( t ) t
Βέλτιστο m? Εκτίμηση του m Αν m είναι πολύ μικρό, ο ελκυστής παρουσιάζει αυτο-τομές Αν m είναι πολύ μεγάλο curse of dmensonalty R R Θεώρημα Takens: άγνωστο m D αλλά D Μέθοδος των ψευδών γειτόνων (FNN) Κοντινά σημεία του ελκυστή είναι - είτε πραγματικά γειτονικά σημεία (λόγω της δυναμικής του συστήματος) - ή ψευδή γειτονικά σημεία (λόγω των αυτο-τομών και μικρού m) Σε μεγαλύτερο m όπου δεν υπάρχουν αυτο-τομές έχουν φανερωθεί όλα τα ψευδή γειτονικά σημεία αφού δε θα είναι πια γειτονικά. Το βέλτιστο m είναι αυτό για το οποίο δεν εμφανίζονται πλέον ψευδή γειτονικά σημεία καθώς αυξάνουμε τη διάσταση σε m +.
% FNN % FNN Παράδειγμα εκτίμησης του m από τη μέθοδο FNN -Lorenz χωρίς θόρυβο -Lorenz + % θόρυβο 4 35 3 FNN, -lorenz, no-nose t= t=5 t= t= 4 35 3 FNN, -lorenz % nose t= t=5 t= t= 5 5 5 5 5 5 4 6 8 m 4 6 8 m Η εκτίμηση του m με τη μέθοδο FNN εξαρτάται από: - την υστέρηση t - θόρυβο
Εκτίμηση μη-γραμμικών χαρακτηριστικών Μη-γραμμικά χαρακτηριστικά ή αναλλοίωτα μέτρα Διάσταση. Ευκλείδια. Τοπολογική 3. Μορφοκλασματική (συσχέτισης, πληροφορίας, μέτρησης κουτιών, ) Εκθέτες Lyapunov (μεγαλύτερος, όλο το φάσμα) Εντροπία
Διάσταση συσχέτισης ν Η διάσταση συσχέτισης ν χαρακτηρίζει τη μορφοκλασματική δομή του ελκυστή (αυτο-ομοιότητα σε διάφορες κλίμακες) χρησιμοποιώντας την πυκνότητα των σημείων του ελκυστή στο χώρο των καταστάσεων Η βασική ιδέα είναι πως η πιθανότητα δύο σημείων να βρίσκονται σε απόσταση μικρότερη του r r μεταβάλλεται ως προς r ανάλογα με κάποια δύναμη του r : αριθμός των σημείων που βρίσκονται μέσα σε σφαίρα με ακτίνα r και κέντρο r j νόμο κλιμάκωσης (scalng law) ν ακέραιος ν μη-ακέραιος j ~ r ισχύει για r N ελκυστής είναι συνήθης γεωμετρικό αντικείμενο ελκυστής είναι μορφοκλασματικό αντικείμενο
Εκτίμηση της διάστασης συσχέτισης ν χρονοσειρά,,, N ( m ) t Εκτίμηση του N N Άθροισμα συσχέτισης C( r) r Νόμος κλιμάκωσης Εκτίμηση ανακατασκευή N( N ) Heavsde συνάρτηση d log Cr ( ) d log r j C( r) ( ) r,,, N για r μικρό για εύρος τιμών του r Σύγκλιση του ν(m) για m ικανοποιητικά μεγάλο όταν όταν j Αν ν μικρό και μη-ακέραιο και σύστημα αιτιοκρατικό χαμηλή διάσταση και μορφοκλασματική (χαοτική) δομή
-Lorenz χωρίς θόρυβο, τ= log C(r) vs log r κλίση προς log r ν προς m -Lorenz + % θόρυβο παρατήρησης, τ= -Lorenz + % θόρυβο παρατήρησης, τ=
Η εκτίμηση του ν επηρεάζεται από τους παρακάτω παράγοντες: - χρόνος συσχέτισης j w - επιλογή του τ και m - θόρυβος - μήκος χρονοσειράς
logc(r) local slope logc(r) local slope logc(r) local slope logc(r) local slope n=94 () m= 5 () 5 () - 4 4 Henon - -3 m= 3 m= 3-4 m= Henon + % λευκό θόρυβο Αποδόσεις Γενικού δείκτη..5.9.5 λευκός θόρυβος -5 - -.5 - -.5.5 logr - - -3-4 () m= m= -5 - -.5 - -.5.5 logr () - - -3-4 -5 m= m= -4-3.5-3 -.5 - -.5 - logr () - - -3 m= - -.5 - -.5.5 log r 5 4 3 () m= m= - -.5 - -.5.5 log r () 8 6 4 m= m= -4-3.5-3 -.5 - -.5 - log r () 8 6 4 m= 4 6 8 m (t) 5 4 3 4 6 8 m 8 6 4 4 6 8 m () 8 6 4 () -4-5 m= -4-3.5-3 -.5 - -.5 - logr m= -4-3.5-3 -.5 - -.5 - log r 4 6 8 m
Εκθέτες Lyapunov Οι εκθέτες Lyapunov μετράνε το μέσο βαθμό απόκλισης και σύγκλισης των τροχιών στον ελκυστή, στις κατευθύνσεις του τοπικά αναλυμένου χώρου καταστάσεων Lyapunov spectrum: l > απόκλιση l < σύγκλιση... l = κατεύθυνση ροής m Σύστημα απώλειας ενέργειας: m Αν l > και το σύστημα είναι αιτιοκρατικό χάος
Μέγιστος εκθέτης Lyapunov λ Αρχική απόσταση d = - δύο κοντινών τροχιών θα πρέπει να μεγαλώνει εκθετικά με το χρόνο. Μετά από χρόνο t: d t = +t - +t Αν t e t λ είναι ο μέγιστος εκθέτης Lyapunov Υπολογισμός: ln N t, j Nt j, j +t d d t +t
Παράδειγμα: -Lorenz χωρίς θόρυβο με %-θόρυβο Η εκτίμηση του λ εξαρτάται από: τ, m, θόρυβο Άλλα χαρακτηριστικά / μέτρα: 6 7 Προσεγγιστική εντροπία (appromate entropy): παρουσίαση, παραδείγματα, εφαρμογές Κάποιο άλλο μη-γραμμικό χαρακτηριστικό / μέτρο
Μοντέλα πρόβλεψης Το σύστημα που παράγει τη χρονοσειρά: s f ( s ) s.4s s s απεικόνιση Henon,,,.3s,, s (, ) f s s s,,, (, ) s f f s s s,,,
Το σύστημα που παράγει τη χρονοσειρά: Μοντέλα πρόβλεψης s f ( s ) άγνωστο F( Το ανακατασκευασμένο σύστημα από τη χρονοσειρά: εκτίμηση? Το πρόβλημα της μοντελοποίησης / πρόβλεψης χρονοσειρών: δίνονται,,, εκτίμηση / πρόβλεψη του + ) Ανακατασκευή του χώρου καταστάσεων με τη μέθοδο των υστερήσεων: = [, -t, -(m-)t ] Η συνάρτηση που μας ενδιαφέρει να εκτιμήσουμε για χρονοσειρές είναι: F( ) m m F : F( ) m =, τ = F : m F(, )
Μη-γραμμικά μοντέλα πρόβλεψης Σφαιρικά μοντέλα, π.χ. πολυώνυμα η F έχει αναλυτική μορφή και ίδια για όλο το πεδίο ορισμού Τοπικά μοντέλα, π.χ. τοπικό γραμμικό μοντέλο η F ορίζεται διαφορετικά για κάθε σημείο του χώρου Ημι-τοπικά μοντέλα, π.χ. νευρωνικά δίκτυα η F έχει μια μορφή που ορίζεται ως σταθμισμένο άθροισμα τοπικών στοιχειωδών συναρτήσεων 8 Πρόβλεψη χρονοσειρών με νευρωνικά δίκτυα: παρουσίαση, παραδείγματα, εφαρμογές
Πρόβλεψη με την εύρεση όμοιων τμημάτων της χρονοσειράς Πρόβλεψη για χρόνο +T από τις εικόνες για Τ χρονικά βήματα «όμοιων» τμημάτων της χρονοσειράς από το παρελθόν
Τοπικά Μοντέλα Πρόβλεψης Εφαρμογή της ιδέας «όμοιων» τμημάτων: τμήματα χρονοσειράς ανακατασκευασμένα σημεία Κοντινότερα γειτονικά σημεία του :{ ( ), (),..., ( K )} Πρόβλεψη του +T από τις εικόνες των γειτόνων:,,..., } Πρόβλεψη μηδενικής τάξης: Πρόβλεψη μέσου όρου: ˆ ( T) T ( T) () T K ( j) T K j { ( ) T () T ( K ) T
Τοπικά γραμμική πρόβλεψη Υποθέτουμε ότι για τη «γειτονιά» του ισχύει το τοπικά γραμμικό μοντέλο : m m m ' a a a a a F F a ) ( ) ( ),,, ( ) ( t t t t ()+T = a + a () ()+T = a + a () (K)+T = a + a (K) Το μοντέλο ισχύει για τα ) ( () ) (,...,, K K j m j m j j a a a a a a m ) ( ) ( ) ( ) (,,, ) ( mn t Εκτίμηση παραμέτρων (μέθοδος ελαχίστων τετραγώνων) a m a a,,,
Εκτίμηση λάθους πρόβλεψης Χωρίζουμε τη χρονοσειρά σε δύο μέρη: Προβλέψεις ˆ,,,,,, N N N N,, ˆ N ( T) e ˆ T T T σφάλμα πρόβλεψης Σύνολο εκμάθησης του μοντέλου Σύνολο για τον έλεγχο του μοντέλου Στατιστική για το σφάλμα πρόβλεψης N T N tn NRM SE( T ) N N N T tt ˆ tt
Παράδειγμα: -Lorenz τοπικό γραμμικό μοντέλο πρόβλεψης (LLP) Πρόβλεψη με: t, m 5, K πρόβλεψη τοπικού μέσου όρου (LAP) χωρίς θόρυβο με %-θόρυβο
nrmse(m) τετραμηνιαίος ρυθμός μεταβολής ΑΕΠ των ΗΠΑ την περίοδο 947 99 Πρόβλεψη με - γραμμικό μοντέλο AR - τοπικό μοντέλο μέσου όρου, LAM - τοπικό γραμμικό μοντέλο, LLM..9 Σφάλμα πρόβλεψης (nrmse) για τα 3 τελευταία τετράμηνα ()..5..5 Προβλέψεις με αφετηρία το πρώτο τετράμηνο του 989 και ορίζοντα τα 6 τελευταία τετράμηνα () real AR(3) LAM(m=5,K=5) LLM(m=5,K=5).8 AR LAM(K=5) LLM(K=5).7 4 6 8 m -.5 -. 64 66 68 7 7 74 76
returns of nde close nde Γενικός δείκτης ΧΑΑ την περίοδο...9.5 Πρόβλεψη με - γραμμικό μοντέλο AR - τοπικό μοντέλο μέσου όρου, LAM Αποδόσεις y γενικού δείκτη Πρόβλεψη με αφετηρία την.9.5 και για μέχρι 6 μέρες μπροστά t t t t Γενικός δείκτης.5. () 345 34 () general nde n (T), AR(7) n (T), LAM(m=7,K=).5 335 -.5 33 -. general nde returns y n (T), AR(7) y n (T), LAM(m=7,K=) -.5 8 5 9 6 day 35 3 8 5 9 6 day
nde return close nde Γενικός δείκτης ΧΑΑ την περίοδο...9.5 - συνέχεια.5..5 Πρόβλεψη με - γραμμικό μοντέλο AR - τοπικό μοντέλο μέσου όρου, LAM Αποδόσεις y γενικού δείκτη () Πρόβλεψη ενός βήματος μπροστά για την περίοδο.9.5..5 t t t t 345 34 335 Γενικός δείκτης () general nde n () AR(7) n () LAM(m=7,K=) -.5 -. general nde y n () AR(7) y n () LAM(m=7,K=) -.5 8 5 9 6 day 33 35 3 8 5 9 6 day