ΑΝΑΛΥΣΗ ΧΡΟΝΟΣΕΙΡΩΝ. Οι ηµερήσιες, αεροπορικές και οδικές, αφίξεις τουριστών στην χώρα µας x t

Transcript

1 ΑΝΑΛΥΣΗ ΧΡΟΝΟΣΕΙΡΩΝ ΚΕΦ. ΕΙΣΑΓΩΓΗ. Χρονοσειρές Με τον όρο χρονοσειρά εννοούµε συνήθως µια ακολουθία { = } x : 0,,,..., όπου κάθε x εκφράζει την κατά την χρονική στιγµή κατάσταση ενός συστήµατος το οποίο εξελίσσεται στο χρόνο κατά τυχαίο εν γένει τρόπο (sochasic sysem). Παραδείγµατα τέτοιων χρονοσειρών είναι: (i) (ii) Οι ηµερήσιες, αεροπορικές και οδικές, αφίξεις τουριστών στην χώρα µας x µε =,,... Ο αριθµός x πελατών µέσα σε ένα πολυκατάστηµα κατά τη χρονική στιγµή µε [0, Τ]. (iii) Ο συνολικός αριθµός τροχαίων ατυχηµάτων αρτηρίας στο χρονικό διάστηµα [0,] µε 0. x κατά µήκος µιας οδικής (iv) Η ηµερήσια κατανάλωση ηλεκτρικού ρεύµατος καθώς και η ηµερήσια κατανάλωση ύδατος, x και y αντίστοιχα, σε µια µεγάλη γεωγραφική περιοχή της χώρας µε =,,... (v) Οι οικονοµικές χρονοσειρές, όπως το ετήσιο ακαθάριστο εθνικό προϊόν και ετήσιο ισοζύγιο εξωτερικών συναλλαγών x και y αντίστοιχα, µε =,,... y (vi) Οι µετεωρολογικές χρονοσειρές, όπως η θερµοκρασία περιβάλλοντος και ατµοσφαιρική πίεση, x και αντίστοιχα, σε συγκεκριµένη γεωγραφική περιοχή µε γεωγραφικές συντεταγµένες (, lah, ) κατά την χρονική στιγµή. Εδώ η χρησιµοποιούµενη παράµετρος είναι περισσότερο σύνθετη και συγκεκριµένα = (, lah,,). Όπως διαπιστώνει κανείς από τα παραπάνω παραδείγµατα, οι χρονοσειρές µπορούν να αφορούν διακριτά µεγέθη x σε διακριτό χρόνο, περίπτωση (i), διακριτά µεγέθη x σε συνεχή χρόνο, περιπτώσεις (ii) και (iii), συνεχή µεγέθη x σε διακριτό χρόνο

2 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή, περιπτώσεις (iv) και (v) και συνεχή µεγέθη x σε συνεχή χρόνο, περίπτωση (vi). Το πρόβληµα είναι η πρόβλεψη µελλοντικών τιµών της χρονοσειράς µε βάση τις µέχρι σήµερα τιµές τις ίδιας χρονοσειράς, περιπτώσεις (i)-(iii), είτε ακόµα και σε συνδυασµό µε τις µέχρι σήµερα τιµές µιας άλλης χρονοσειράς η οποία εξελίσσεται παράλληλα µε την πρώτη και επιδρά πάνω σ αυτή, περιπτώσεις (iv)-(vi), οπότε µιλάµε για πολυµεταβλητές χρονοσειρές. Το σύνολο των δυνατών καταστάσεων ονοµάζεται χώρος καταστάσεων και συµβολίζεται µε S, ένα (µονοδιάστατο) d υποσύνολο του R, ή γενικότερα ένα πολυδιάστατο υποσύνολο του R, ενώ το σύνολο τιµών του ονοµάζεται παραµετρικός χώρος, συµβολίζεται µε Τ και µπορεί επίσης να είναι υποσύνολο του R, όταν χρειάζεται ένα πολυδιάστατο για να καθορίσουµε πέραν του χρόνου και γεωγραφικές π.χ. συντεταγµένες (, lah, ) σε χωρο-χρονοσειρές (spaial ime series), βλ. παράδειγµα (vi) παραπάνω. Σηµειώνεται οι όροι διακριτά και συνεχή µεγέθη είναι σε αντιστοιχία µε τους όρους διακριτές και συνεχείς τυχαίες µεταβλητές... Στοχαστικές Ανελίξεις Όπως αναφέραµε παραπάνω, χρονοσειρά είναι µια ακολουθία τιµών x : = 0,,,... η οποία εκφράζει την εξέλιξη ενός στοχαστικού συστήµατος, ενός { } συστήµατος δηλαδή µε τυχαία κατά µάλλον ή ήττον συµπεριφορά, σε αντίθεση µε αυτήν ενός προσδιοριστικού (deermiisic) συστήµατος, η οποία συνήθως περιγράφεται από ένα σύστηµα διαφορικών εξισώσεων. Όπως είναι γνωστό από την Θεωρία των Στοχαστικών Ανελίξεων, η εξέλιξη ενός στοχαστικού συστήµατος µπορεί να περιγραφεί πιθανοθεωρητικά µέσω µιας στοχαστικής ανέλιξης (σ.α.), µονοδιάστατης ή πολυδιάστατης, δηλαδή µιας ακολουθίας τυχαίων µεταβλητών X : N, ή γενικότερα µιας (υπεραριθµήσιµης) οικογένειας τυχαίων { } µεταβλητών { : } X T, που ορίζεται πάνω σε ένα χώρο πιθανότητας ( Ω, F, P). Σηµειώνεται ότι για δεδοµένο, συνάρτηση του χρόνου realizaio) της σ.α. ω Ω η { x X( ω) : } = T εκφράζει µια και αποτελεί την τροχιά ή πραγµατοποίηση (sample pah, X : T. Σ ότι ακολουθεί ο όρος χρονοσειρά { } χρησιµοποιείται τόσο για µια στοχαστική ανέλιξη { } τροχιά x = X ( ω) : T. { } X : T, όσο και για µια Έστω τώρα ότι έχουµε παραµετρικό χώρο και τις διατεταγµένες ( ) χρονικές στιγµές T µε < + ( i =,..., ). Συµβολίζοντας µε X ( ) την { } i i i T

3 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή -διάστατη τ.µ. ( ) ( X,..., X ) και µε F την σ.κ.π. της X ( ), είναι δυνατόν να καθορίσουµε ένα σύστηµα κατανοµών πεπερασµένης διάστασης ( ) D = = N ( ) { F ( ): (,..., ) µε i< i+, i=,...,- και }, όπου F x = P X x X x x = x x R N ( ) ( ) ( )( ) [,..., ], (,..., ) και, όπως π.χ. ένα σύστηµα πολυµεταβλητών κανονικών κατανοµών οποιοδήποτε N. ( βλ. παρακάτω.5 και.7). N (, x µ Σ), για Είναι προφανές ότι αν πάρουµε την m-διάστατη τ.µ. ( m) ( )= ( ) µε m<, αν δηλαδή πάρουµε τις πρώτες m συνιστώσες του τ.δ. X ( ), η αντίστοιχη περιθώρια σ.κ.π. F ( m) θα πρέπει να συµφωνεί µε αυτή που ορίζεται από X ( X,..., X ) ', m το σύστηµα κατανοµών πεπερασµένης διάστασης D. Τούτο διότι διαφορετικά παραβιάζεται το αξίωµα της (σ-) αθροιστικότητας των πιθανοτήτων. Θα πρέπει δηλαδή να ικανοποιούνται οι παρακάτω συνθήκες: F P X x X x ( m ) ( m) ( x ) = [,..., ] m m = PX [ x,..., X x, X <,..., X < ] ( ) m m m+ = F ( m) ( m) m ( x,,..., ), x R και m, N µε m<, (..) όπου ο άνω δείκτης καθορίζει την αντίστοιχη διάσταση. Κάνοντας χρήση χαρακτηριστικών συναρτήσεων η παραπάνω απαίτηση είναι ισοδύναµη µε ( m) φ ( u ) = φ ( u,0,...,0), u R και m, N µε m<. (..) ( m) ( m) m ( m) ( ) Οι συνθήκες (..), ή ισοδύναµα οι συνθήκες (..), είναι γνωστές ως συνθήκες συµβατότητας κατανοµών πεπερασµένης διάστασης (Kolmogorov compaibiliy codiios). Το κρίσιµο ερώτηµα που τίθεται εδώ είναι αν οι παραπάνω συνθήκες συµβατότητας, εκτός από αναγκαίες, είναι και ικανές να περιγράψουν τη στοχαστική X : T. Η απάντηση δίνεται από το παρακάτω. συµπεριφορά µιας σ.α. { } 3

4 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή Θεώρηµα.. (Kolmogorov). Όταν ένα σύστηµα κατανοµών πεπερασµένης ( ) διάστασης D = { F ( ): R και N}, ικανοποιεί τις συνθήκες συµβατότητας (..), ή ισοδύναµα τις συνθήκες (..), τότε υπάρχει σ.α. { X : } οι κατανοµές πεπερασµένης διάστασης αυτές του συστήµατος D. T της οποίας Ορισµός.. (Γκαουσιανές Χρονοσειρές). Μια χρονοσειρά { : 0} X της οποίας όλες οι κατανοµές πεπερασµένης διάστασης είναι Κανονικές ονοµάζεται Γκαουσιανή. Παραδείγµατα Γκαουσιανών χρονοσειρών αποτελούν οι στάσιµες Κανονικές σ.α. και η κίνηση Brow..3. Ισχυρή και Ασθενής Στασιµότητα Είναι φανερό ότι έχοντας παρατηρήσει µια χρονοσειρά { X : } T από κάποια χρονική στιγµή = 0, έστω, µέχρι και την παρούσα χρονική στιγµή = s, αν δηλαδή x :0 s, και θέλουµε να προβλέψουµε γνωρίζουµε την τροχιά αυτής { } µελλοντικές τιµές αυτής X, µε h 0, s+ h > θα πρέπει να βασιστούµε στις µέχρι τώρα γνωστές τιµές της και στην εξάρτηση που ενδέχεται να υπάρχει µεταξύ X s+ h και x : [0, s ] της χρονοσειράς στο παρελθόν. Τούτο βέβαια µε την των τιµών { } προϋπόθεση ότι όλα τα πιθανοθεωρητικά χαρακτηριστικά µιας χρονοσειράς, ή τουλάχιστον τα βασικότερα εξ αυτών, παραµένουν αναλλοίωτα στον χρόνο. Όταν όλα τα πιθανοθεωρητικά χαρακτηριστικά µιας χρονοσειράς παραµένουν αναλλοίωτα στο χρόνο τότε µιλάµε για αυστηρή στασιµότητα. Συγκεκριµένα έχουµε. Ορισµός.3. (Αυστηρή Στασιµότητα). Η χρονοσειρά { X : } αυστηρά στάσιµη όταν σχέση ισοδυναµίας, i T ονοµάζεται N T ( i=,..., ) και h T ισχύει η παρακάτω ( X X ) ( X + h X + h),...,,...,. (.3.) Εδώ το σύµβολο διαβάζεται κατανέµεται όπως, ή ισοκατανέµεται µε. Συνεπώς οι κατανοµές πεπερασµένης διάστασης αυστηρώς στάσιµων χρονοσειρών παραµένουν αναλλοίωτες σε χρονικές µεταθέσεις (στάσιµες κατανοµές). 4

5 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή Ως γνωστό, τα βασικότερα χαρακτηριστικά µιας τυχαίας µεταβλητής Χ είναι µέση τιµή µ = E[ X], η διασπορά σ = V[ X] και, όταν έχουµε να κάνουµε µε ζεύγη τυχαίων µεταβλητών, η µικτή ροπή ας τάξης, δηλαδή η συνδιακύµανση σ = Cov( X, Y ). Κατ επέκταση, τα βασικότερα χαρακτηριστικά µιας χρονοσειράς xy { X : } T είναι η συνάρτηση µέσης τιµής η συνάρτηση διασποράς µ () = EX [ ], T, (.3.) σ () = V[ X ] = E[( X µ )], T, (.3.3) καθώς και η συνάρτηση αυτοσυνδιακύµανσης (ACVF) γ( h, ) = CovX (, X ) = E[( X µ )( X µ )],, h T. (.3.4) Είναι προφανές ότι ισχύει η σχέση + h + h + h σ () = γ(,0) = Cov( X, X ), T. (.3.5) Είναι γνωστό επίσης ότι όταν οι διασπορές δύο τυχαίων µεταβλητών, Χ και Υ, είναι πεπερασµένες τότε, τόσο οι µέσες τιµές αυτών όσο και η συνδιακύµανση αυτών είναι πεπερασµένες ποσότητες. Τούτο διότι αφενός πρέπει να έχουµε E[ X ], E[ Y ] <, αφού διαφορετικά δεν ορίζονται οι διασπορές, και αφετέρου, µε εφαρµογή της ανισότητας Cauchy-Schwarz προκύπτει: και E X Y E X E Y / [ ] { [ ] [ ]}, / EX [ ] E[ X ] { EX [ ]} <, EY [ E Y EY < / CovXY (, ) { V[ XVY ] [ ]} <. / ] [ ] { [ ]}, Συνεπώς, για µια αυστηρά στάσιµη χρονοσειρά { X : } T T θα έχουµε: µ = E[ X ],, (i) γ( h) Cov( X, X ), h T,, = + h (ii) µε διασπορά σ V[ X ] γ(0) γ( h) h = = T. 5

6 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή Οι παραπάνω δύο συνθήκες είναι προφανώς ασθενέστερες από τη συνθήκη (.3.). Η απαίτηση τώρα να ισχύουν οι ως άνω δύο συνθήκες, µαζί µε την απαίτηση της πεπερασµένης διασποράς σ, µας δίνουν την ιδιότητα της ασθενούς, ή υπό ευρεία έννοια, στασιµότητας. Έχουµε συνεπώς τον παρακάτω ορισµό. Ορισµός.3. (Ασθενής Στασιµότητα). Η χρονοσειρά { X : } T ονοµάζεται ασθενώς, ή υπό ευρεία έννοια, στάσιµη όταν έχει πεπερασµένη διασπορά και ικανοποιεί τις συνθήκες (i) και (ii). Σ ότι ακολουθεί, η χρήση των όρων στασιµότητα, στάσιµη χρονοσειρά κ.λπ. θα είναι πάντα µε την ασθενή τους έννοια. H συνάρτηση αυτοσυσχέτισης (ACF) στάσιµης χρονοσειράς ορίζεται από τη σχέση: ( 0, h ) [ ] V[ X ] 0 ( ) ( 0) Cov X X γ h ρ( h) = Corr( X0, Xh ) = =, h T. (.3.6) V X γ Προφανώς η ACF έχει όλες τις ιδιότητες της συνάρτησης αυτοσυνδιακύµανσης µε ρ h, ως συνέπεια της ανισότητας Cauchy-Schwarz. την επιπρόσθετη ιδιότητα ( ) Αξίζει να σηµειωθεί ότι όταν µια Γκαουσιανή χρονοσειρά είναι ασθενώς στάσιµη τότε είναι και αυστηρά στάσιµη. Τούτο διότι οι πολυµεταβλητές Κανονικές κατανοµές ορίζονται µόνο από τις ροπές πρώτης και δευτέρας τάξης. Συνεπώς η στασιµότητα των ροπών αυτών συνεπάγεται τη στασιµότητα των Κανονικών κατανοµών πεπερασµένης διάστασης. Επιπρόσθετα, βλ..5 και.7 στη συνέχεια, κάνοντας χρήση των ιδιοτήτων της πολυµεταβλητής Κανονικής κατανοµής επιβεβαιώνεται ότι το ως άνω σύστηµα κατανοµών πεπερασµένης διάστασης ικανοποιεί τις συνθήκες συµβατότητας Kolmogorov. Παράδειγµα : Έστω = cos( ) + si, (, ] h X U θ V θ θ π π και U, V δύο ασυσχέτιστες τ.µ. µε µηδενικούς µέσους και µοναδιαίες διασπορές, δηλαδή µ µ 0, σ = σ = και ρ XY, = 0. U = = ( ) V Η χρονοσειρά { : } U V X είναι στάσιµη (υπό ευρεία έννοια). Πράγµατι έχουµε: (α) [ ] [ ] ( ) [ ] ( ) E X = E U cos θ + E V si θ = 0,. 6

7 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή (β) Cov( X, X+ h) = E[ XX+ h] E[ X] E[ X+ h] = E[ XX+ h] = E U cos( θ ) cos ( θ( + h) ) + UV cos( θ ) si ( θ( + h) ) Παράδειγµα : Έστω X ε θε, τους. Η χρονοσειρά { : } ( ) ( ) ( ) ( + ) + UV si θ cos θ( + h) + V si θ si θ( h) ( ) ( ) [ ] [ ] ( + ) = E U cos θ cos θ( + h) + E UV cos θ si θ( h) [ ] si ( ) cos ( ( )) si ( ) si ( ( + )) ( θ ) ( θ h ) ( θ) ( θ h ) ( θ θ ( h) ) ( θh) + EUV θ θ + h + E V θ θ h = cos cos ( + ) + si si ( + ) = cos + = cos, ανεξάρτητο του. = + µε ( ) (α) [ ] [ ] [ ] X είναι στάσιµη. Πράγµατι: E X = E ε + θe ε = 0. (β) Cov( X, X + h) Cov( ε θε, ε+ h θε+ h = + + ) ε N 0, σ,, και ανεξάρτητα µεταξύ ( ) ( ) ( ) ( (, ) (, ) (, ) ( = Cov ε, ε + Cov ε, θε + Cov θε, ε + Cov θε, θε ( ) + h + h + h + h = Cov ε ε + θcov ε ε + θcov ε ε + θ Cov ε, ε + h + h + h + h + θ σ, εάν h = 0,, εάν =, 0, εάν h >. = θσ h ± Οι ροπές ης και ης τάξης είναι συνεπώς (πεπερασµένες και) ανεξάρτητες του. Συνεπώς η χρονοσειρά είναι στάσιµη. Παράδειγµα 3: Έστω { : } X τυχαίος περίπατος. Έχουµε δηλαδή ( ) X = Z+ Z Z =,,... µε Z v ( v =,,... ) ανεξάρτητες και ισόνοµες τ.µ. µε µέση τιµή µ = 0 και διασπορά σ. Η χρονοσειρά { X : } δεν είναι στάσιµη. Τούτο διότι ναι µεν έχει σταθερή ) ) 7

8 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή µέση τιµή, αφού E[ X ] E[ Z] 0, = = όµως η συνδιακύµανση εξαρτάται από το αφού + Cov( X, X + ) = Cov X, X + Zv v= + + = Cov( X, X ) + Cov Zv, Zv v= v= + [ ] [ ] = V X = V Z = σ..4. Χρονοσειρές µε Τάση και Περιοδικότητα Είναι συχνό φαινόµενο στις χρονοσειρές η µέση τιµή τους να παρουσιάζει µια αυξητική, ή φθίνουσα, τάση ή/και να έχει εναλλαγές µεταξύ αυξητικών φάσεων και φθινουσών φάσεων, να παρουσιάζει δηλαδή µια κυκλικά επαναλαµβανόµενη δοµή σε διαδοχικά χρονικά διαστήµατα ή εποχές. Τέτοια συµπεριφορά είναι ιδιαίτερα εµφανής σε µετεωρολογικές χρονοσειρές καθώς και σε εµπορικά και οικονοµικά µεγέθη. Πριν προχωρήσουµε σε οποιαδήποτε προσπάθεια µοντελοποίησης µιας χρονοσειράς είναι απαραίτητο να διερευνήσουµε αν εµφανίζει τέτοιου είδους συµπεριφορά και γενικά αν παραβιάζεται η απαίτηση της, υπό ευρεία έννοια, στασιµότητας. Η διερεύνηση αυτή γίνεται µέσω στατιστικών διαγραµµάτων και γραφικών παραστάσεων. Επίσης, από τη γραφική παράσταση µιας χρονοσειράς είναι δυνατόν να διαπιστώσουµε αν υπάρχουν ιδιάζουσες τιµές (ouliers), τιµές δηλαδή που βρίσκονται σε προφανή απόκλιση από τις υπόλοιπες. Οι τιµές αυτές ενδέχεται να δηµιουργήσουν σοβαρά προβλήµατα στην µοντελοποίηση µιας χρονοσειράς και ως εκ τούτου χρειάζονται ειδική µεταχείριση αφού όµως πρώτα προσδιοριστεί το αίτιο το οποίο τις προκάλεσε. Ένα γενικό µοντέλο αναπαράστασης µιας χρονοσειράς µε τάση και εποχικότητα είναι το προσθετικό, X = m + s + Y,, (.4.) όπου η συνιστώσα m είναι µια χαµηλών µεταβολών συνάρτηση του χρόνου η οποία εκφράζει την τάση, η συνιστώσα εκφράζει την εποχική συνιστώσα και η συνιστώσα µια στάσιµη στοχαστική ανέλιξη. s είναι µια περιοδική συνάρτηση η οποία Y αποτελεί τον θόρυβο και είναι Συνήθως η τάση m είναι γραµµική ή εκθετική 8

9 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή m = α + β, m = α exp{ β }, ή ένα χαµηλού βαθµού πολυώνυµο του µε γραφική παράσταση π.χ. m = α + α + α + + α m m = α + α + α 0 0 Η εποχική συνιστώσα s είναι της µορφής: π s = αsi πω = αsi, όπου ω, η συχνότητα και d =, η περίοδος, d ω ή γενικότερα της µορφής: s = α ( πω + θ ) v si. = s 0 Η σύνθεση τάσης, εποχικότητας και θορύβου δίνει την χρονοσειρά µε την παρακάτω γραφική παράσταση. X = m + s + Y 9

10 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή X 0 Στα παρακάτω θεωρούµε ότι η µεταβλητή λαµβάνει τιµές στο. (Α) Εκτίµηση Τάσης (χαµηλή εποχική συνιστώσα) Στην περίπτωση που η εποχική συνιστώσα θεωρήσουµε ότι έχουµε s είναι χαµηλή, µπορούµε να X = m + Y, =,...,. (.4.) Παρουσιάζουµε τώρα τρεις βασικές µεθόδους προσδιορισµού της τάσης m. (Α) Μέθοδος Ελαχίστων Τετραγώνων Έχοντας παρατηρήσει τη χρονοσειρά { } για χρόνο, έχοντας δηλαδή τις τιµές { x, =,..., }, και διαπιστώνοντας από τη γραφική παράστασή της ότι η τάση m είναι ένα χαµηλού βαθµού πολυώνυµο του, µπορούµε µε εφαρµογή της µεθόδου ελαχίστων τετραγώνων να προσδιορίσουµε την τάση αυτή. Στην περίπτωση κατά την οποία έχουµε γραµµική τάση, δηλαδή όταν m = α+ β, η µέθοδος ελαχίστων τετραγώνων ελαχιστοποιεί το άθροισµα: X (.4.3) = { x α β}, και δίνει 0

11 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή mˆ = αˆ + β ˆ, (.4.4) µε όπου αˆ = x β ˆ, βˆ = C / C, )/ και x = x, = = ( + C = ( )( x x), x x C = ( ) = ( ) /. (.4.5) (.4.6) Οι ίδιοι τύποι ισχύυν για το λογάριθµο της εκθετικής τάσης. Επίσης, ανάλογα αποτελέσµατα προκύπτουν για πολυωνυµικές τάσεις από την παρακάτω ελαχιστοποίηση: { α : = 0,..., } = { x α0 α α α } mi.... (Α) Μέθοδος Εξοµάλυνσης Κινητού Μέσου Ένας εναλλακτικός τρόπος εκτίµησης της τάσης (αµφίπλευρης) εξοµάλυνσης κινητού µέσου (movig average smoohig mehod). Συγκεκριµένα µε q<< εξοµαλύνουµε την x = m + y, =,...,, από την m (.4.7) είναι η µέθοδος q q q w = x+ = m+ + y+, q+ q. (.4.8) q+ q+ q+ = q = q = q Επειδή έχουµε EY [ ] = 0, συµπεραίνουµε ότι το δεύτερο άθροισµα στα δεξιά της παραπάνω σχέσης είναι πολύ κοντά στο µηδέν και συνεπώς µπορούµε να δεχθούµε ότι τα ικανοποιούν το σύστηµα εξισώσεων m q q m+ = w = x+, q+ q q+ q+. = q = q (.4.9) Αν τώρα, µε σταθερό, τα m+, q q, συνδέονται γραµµικά µεταξύ τους, τότε έχουµε τις παρακάτω εκτιµήτριες κινητού µέσου:

12 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή q mˆ = x+, q+ q. (.4.0) q + = q Παραλλαγή της παραπάνω µεθόδου είναι η µέθοδος της µονόπλευρης εξοµάλυνσης η οποία είναι γνωστή επίσης και ως εκθετική εξοµάλυνση. Με α [0,] θεωρούµε ότι οι εκτιµήτριες mˆ ικανοποιούν το παρακάτω σύστηµα εξισώσεων: mˆ ( ) ˆ = ax + a m, =,...,, µε mˆ = x. (.4.) Με διαδοχική αντικατάσταση εύκολα διαπιστώνεται ότι mˆ ( ) = α a x + ( α) x για, (.4.) = 0 όπου το άθροισµα συντελεστών δίνει τη µονάδα όπως και στην περίπτωση του αµφίπλευρου κινητού µέσου. Με βάση τα παραπάνω µπορούµε να θεωρήσουµε ότι και στις δύο περιπτώσεις η εκτιµηθείσα τάση m είναι το αποτέλεσµα της δράσης ενός γραµµικού φίλτρου πάνω στην { X }. Τούτο διότι έχουµε: ˆ m = a x µε α <. (.4.3) ˆ = Το αποτέλεσµα αυτής της δράσης πάνω στην { x } είναι απαλλαγµένο από τον θόρυβο υψηλής συχνότητας { Y } ενώ διατηρεί τις χαµηλές συχνότητες (φίλτρο χαµηλών συχνοτήτων). { x} Γραµµικό φίλτρο { ˆ m = ax + } Σηµειώνεται επίσης ότι όταν η τάση είναι ένα χαµηλού βαθµού πολυώνυµο του είναι δυνατόν, µε κατάλληλη επιλογή του q και των βαρών m α µε q, να,

13 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή απαλλαγεί από τον θόρυβο υψηλών συχνοτήτων χωρίς να αλλοιωθεί η υπάρχουσα πολυωνυµική σχέση µεταξύ της τάσης και του χρόνου. m (Α3) Μέθοδος των ιαφορών Με τη µέθοδο των αυτή επιδιώκουµε να εξαλείψουµε την τάση που υπάρχει σε µια χρονοσειρά { x σχηµατίζοντας µια νέα χρονοσειρά από τις διαφορές µεταξύ } διαδοχικών όρων x x για =,3,...,. Έτσι, όταν η τάση m είναι γραµµική, η χρονοσειρά { v = x x } που παράγεται έχει µηδενική τάση. Όταν η τάση m είναι πολυωνυµική, η διαδικασία των διαφορών µεταξύ διαδοχικών όρων επαναλαµβάνεται µέχρις ότου εξαλειφθεί η τάση πλήρως. Στην παραπάνω διαδικασία βοηθά ιδιαίτερα η χρήση του τελεστή Β, γνωστός ως ο οπισθοδροµικός τελεστής (bacward operaor) και o τελεστής, γνωστός ως ο τελεστής διαφοράς (differece operaor). Οπισθοδροµικός τελεστής: Bx =. x Τελεστής ιαφοράς: x ( ) = x x = B x. Εφαρµόζοντας τους τελεστές αυτούς φορές λαµβάνουµε αντίστοιχα: m και B x = x 0 x = ( x) µε x = Ιx = x,, όπου I συµβολίζει τον ταυτοτικό τελεστή. Για = η τελευταία δίνει = = = + = + x x ( x) ( x x ) x x x ( I B B ), και, όπως εύκολα διαπιστώνεται, ισχύει η ιωνυµικός τύπος Συνεπώς l l = ( I B) = ( ) B. l= 0 l (.4.4) 3

14 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή l x = ( I B) x = ( ) x l. l= 0 l (.4.5) Έτσι όταν η τάση m είναι πολυωνυµική βαθµού, όταν δηλαδή έχουµε τότε, εφαρµόζοντας τον τελεστή η στάσιµη χρονοσειρά = 0 x = m + y = α + y,, εξαλείφεται η πολυωνυµική τάση και προκύπτει x x =! α + y,. ( ) Στην πράξη η παραπάνω διαδικασία εφαρµόζεται σταδιακά. Τούτο διότι για κάθε τιµή του, χρειάζεται να γίνει η γραφική αναπαράσταση της χρονοσειράς ( ) { x, =,..., }, από την οποία προκύπτει αν έχει επιτευχθεί ή όχι στασιµότητα. Αν όχι, ο τελεστής εφαρµόζεται άλλη µία φορά και συνεχίζουµε τη διαδικασία. Συνήθως δεν χρειάζεται να επαναλάβουµε τη διαδικασία αυτή πάνω από δύο ή το πολύ τρεις φορές. (Β) Εκτίµηση Τάσης και Εποχικότητας Εδώ έχουµε το γενικό µοντέλο X = m + s + Y µε Ε[ Y] = 0, =,,... (.4.6) Όταν στη γραφική παράσταση της χρονοσειράς { x : =,,..., } είναι σαφής η ύπαρξη εποχικότητας, τότε είναι αναγκαίο κατά την εκτίµηση της τάσης ληφθεί υπόψη η εποχική συνιστώσα s. Τούτο σηµαίνει ότι θα πρέπει να έχουµε ήδη εκτιµήσει την εποχική συνιστώσα πράγµα το οποίο πάλι προϋποθέτει ότι γνωρίζουµε την τάση. Έτσι η εκτίµηση των δύο αυτών συνιστωσών γίνεται µε επαναληπτικές διαδικασίες διαδοχικών εκτιµήσεων των δύο αυτών συνιστωσών ή µε µία διαδικασία ταυτόχρονου προσδιορισµό και των δύο. Για απλούστευση του προβλήµατος θα θεωρήσουµε ότι η εποχική συνιστώσα παρουσιάζει ένα µόνο κύκλο µε συγκεκριµένη και γνωστή χρονική διάρκεια, π.χ. ετήσια. Αυτό συµβαίνει συχνά σε οικονοµικές χρονοσειρές, όµως συχνό είναι το φαινόµενο να υπάρχουν συντιθέµενοι κύκλοι διαφορετικών περιόδων, όπως π.χ. σε m να s 4

15 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή µετεωρολογικά δεδοµένα, όπου εκτός του ετήσιου κύκλου υπάρχουν και άλλοι κύκλοι µεγαλύτερης διάρκειας. Το πρόβληµα της αναγνώρισης της ύπαρξης ή όχι κύκλων σε µια χρονοσειρά { x : =,,...} είναι βασικό αντικείµενο της Φασµατικής Ανάλυσης και δεν θα ασχοληθούµε περαιτέρω µε το θέµα αυτό. Για την περιγραφή των µεθόδων θα θεωρήσουµε εδώ ότι στη χρονοσειρά υπάρχει ένας µόνο κύκλος µε γνωστή περίοδο d (d >). Έστω { x : =,,...} µια χρονοσειρά η οποία παρουσιάζει ετήσια περιοδικότητα και ο χρόνος µετράται σε µήνες. Η περίοδος της χρονοσειράς είναι συνεπώς d =. Η εποχική συνιστώσα s της χρονοσειράς θα πρέπει να ικανοποιεί τις d εξισώσεις: s = s + d και s 0, l= + l=. Ως εκ τούτου θα πρέπει να προσδιορίσουµε την εποχική συνιστώσα κατά τρόπο που να ικανοποιούνται οι εξισώσεις αυτές. Για διευκόλυνση στην ανάπτυξη των µεθόδων που εφαρµόζονται σε περιοδικές χρονοσειρές µε περίοδο d, συµβολίζουµε µε x l, την παρατήρηση x µε = ( ) d + l, ( =,..., K και l =,..., d). Τούτο σηµαίνει l = mod d. (Για απλούστευση θεωρούµε ότι το µήκος της παρατηρηθείσας χρονοσειράς { x }, είναι πολλαπλάσιο της περιόδου d και συγκεκριµένα = Kd). (Β) Μέθοδος Χαµηλής Τάσης Όταν η συνιστώσα τάσης µπορούµε να θεωρήσουµε ότι, σε ετήσια βάση, η τάση m παρουσιάζει χαµηλό βαθµό µεταβολής τότε διατηρεί ένα σταθερό επίπεδο τιµών. Το σταθερό αυτό επίπεδο τιµών µπορεί να εκτιµηθεί από τον µέσο όρο των τιµών x του αντίστοιχου έτους. m Έτσι για το έτος, το επίπεδο τιµών µέσο ετήσιο επίπεδο τιµών, δηλαδή m εκτιµάται από το (δειγµατικό) µέσο όπου K d, l K (.4.7) l= mˆ = x, =,...,, d το πλήθος των ετών στα οποία αναφέρεται η εν λόγω χρονοσειρά. Μένει τώρα να εκτιµήσουµε τις εποχικές συνιστώσες s ( l =,..., d). Προς τούτο χρησιµοποιούµε τις µέσες αποκλίσεις από το εκάστοτε µέσο ετήσιο επίπεδο τιµών. Έχουµε δηλαδή ως εκτιµήτρια της περιοδικής συνιστώσας για το µήνα l την l 5

16 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή K sˆ = ( x mˆ ), l =,...,, d (.4.8) l, l K = από την οποία εύκολα προκύπτει ότι οι εκτιµήτριες των εποχικών συνιστωσών ικανοποιούν την συνθήκη d l= s ˆ 0. l = Συνδυάζοντας τα παραπάνω έχουµε x = mˆ + sˆ + Yˆ, =,..., K, l =,..., d, (.4.9) l, l l, από όπου προκύπτει η χωρίς τάση και εποχικότητα χρονοσειρά Yˆ = x mˆ sˆ, =,..., K, l=,...,. (.4.0) l, l, l της οποίας η στασιµότητα πρέπει να εξεταστεί γραφικά. Σηµείωση. Έχοντας τις εκτιµήσεις sˆ, l =,..., d, είναι προφανές ότι µπορούµε να l κάνουµε επανεκτίµηση των m, θέτοντας στη θέση της εποχικής συνιστώσας s την εκτίµηση sˆ l,µε l = mod d ( =,..., ), και θεωρώντας την τάση m σταθερή για µικρότερο του έτους χρονικό διάστηµα. (Β) Μέθοδος Κινητού Μέσου Η µέθοδος κινητού µέσου εφαρµόζεται σε χρονοσειρές { X } στις οποίες η υπόθεση ότι η συνιστώσα τάσης διατηρεί σταθερό επίπεδο τιµών καθ όλην τη m διάρκεια του έτους δεν ευσταθεί. Στην περίπτωση αυτή εφαρµόζεται µια µέθοδος τριών βηµάτων. Στο πρώτο βήµα γίνεται αµφίπλευρη εξοµάλυνση κινητού µέσου. Στο δεύτερο βήµα υπολογίζεται η φασµατική συνιστώσα και στο τρίτο υπολογίζεται η τάση έχοντας προηγουµένως αποεποχικοποιήσει την χρονοσειρά (deseasoalizaio). Συγκεκριµένα έχουµε: ο βήµα (Εξοµάλυνση). Με άρτια περίοδο d = q, λαµβάνουµε τους κινητούς µέσους της { x, =,..., }, { } mˆ = 0,5 x + x x + 0,5 x / d, =,,..., (.4.) q q q q ενώ µε περιττή περίοδο d = q+, λαµβάνουµε τους κινητούς µέσους 6

17 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή { } mˆ = x + x x + x / d, =,,... (.4.) q q q q Έχουµε δηλαδή και στις δύο περιπτώσεις εξοµάλυνση κινητού µέσου της µορφής q mˆ = a x µε a =. + = q = q Με την ως άνω διαδικασία προσδιορισµού των mˆ, =,,..., εξαλείφεται η επίδραση της εποχικής συνιστώσας s, αφού στις δύο παραπάνω περιπτώσεις q έχουµε as 0, για κάθε. q + = ο βήµα = Λαµβάνουµε τους µέσους w = x mˆ, l =,..., d. K l { ( ) d+ l ( ) d+ l} K = Οι µέσοι αυτοί εκφράζουν την εποχική συνιστώσα όµως δεν ικανοποιούν την συνθήκη wl d l= w = 0. l q Ως εκ τούτου αντί αυτών χρησιµοποιούµε τις διαφορές w, όπου w είναι ο αριθµητικός µέσος των w, l =,..., d. Συνεπώς η εκτιµήτρια της εποχικής συνιστώσας είναι: l d sˆ = w w= w w l =,..., d, (.4.3) l l l l d l = από την οποία προκύπτει ότι sˆ = sˆ µε l = mod d, =,...,. (.4.4) l 3 ο βήµα Έχοντας εκτιµήσει την εποχική συνιστώσα µπορούµε να επανέλθουµε στη αρχική χρονοσειρά και να την αποεποχικοποιήσουµε λαµβάνοντας τις διαφορές s 7

18 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή d = x sˆ, =,...,. (.4.5) Οι ως άνω διαφορές µπορούν να χρησιµοποιηθούν για την επανεκτίµηση της τάσης εφαρµόζοντας µια από τις µεθόδους εκτίµησης τάσης της προηγούµενης m Ενότητας. Έχοντας ολοκληρώσει τα παραπάνω βήµατα χρειάζεται όπως πάντα να εξετάσουµε γραφικά αν ο εκτιµώµενος θόρυβος είναι στάσιµος ή όχι. Yˆ = x mˆ sˆ, =,...,, (.4.6) l (Β3) Μέθοδος ιαφορών µε Υστέρηση d Επειδή στις περιοδικές, χρονοσειρές ισχύει η σχέση s = s + d, =,,..., συµπεραίνουµε ότι αν λάβουµε τις διαφορές X, = d, d+,...,, η εποχική s X d συνιστώσα εξαλείφεται. Εφαρµόζοντας συνεπώς τον τελεστή διαφοράς µε υστέρηση d (differece operaor a lag d) d I B X = m + s + Y, =,,..., λαµβάνουµε τη µη περιοδική χρονοσειρά d = πάνω στην χρονοσειρά X = X X = ( m + s + Y) = m m + Y Y, = d+, d+,... d d d d d Έχοντας τώρα την απεριοδική χρονοσειρά { X : = d +,,...}, οι διαφορές δ = dm = m m d, = d +,,..., εκτιµώνται εφαρµόζοντας µια από τις µεθόδους της Ενότητας Α, και στην προκειµένη περίπτωση τη µέθοδο των διαφορών τάξης, δηλαδή εφαρµόζοντας τον τελεστή = ( I B) πάνω στην { δ, = d +,...}, µε κατάλληλο. d 8

19 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή.5. Γνήσια µη Αρνητικές Συναρτήσεις Θα ασχοληθούµε εδώ µε µια ειδική κατηγορία συναρτήσεων που παίζουν σηµαντικό ρόλο στην αναπαράσταση συναρτήσεων αυτοσυνδιακύµανσης και αυτοσυσχέτισης στάσιµων χρονοσειρών. Πρόκειται για τις γνήσια µη αρνητικές συναρτήσεις Ορισµός : Μία πραγµατική συνάρτηση (αντίστοιχα, γνήσια θετική) εάν και µόνο εάν έχουµε g : και λέγεται γνήσια µη αρνητική α = ( α,..., α ) ' i, = α g i i ( ) α 0 (αντίστοιχα, µε την ισότητα να ισχύει µόνο για α = 0). Ο ως άνω ορισµός επεκτείνεται και σε συναρτήσεις αυτή απαιτείται να ισχύει η συνθήκη g :. Στην περίπτωση i, = α g ( ) α i i 0 (αντίστοιχα, µε την ισότητα να ισχύει µόνο για, α = ( α,..., α )' και i ( i=,..., ). α = 0) Θεώρηµα : (Χαρακτηρισµός της συνάρτησης αυτοσυνδιακύµανσης). Μία πραγµατική συνάρτηση g µε πεδίο ορισµού το είναι συνάρτηση αυτοσυνδιακύµανσης στάσιµης χρονοσειράς εάν και µόνο εάν είναι άρτια και γνήσια µη αρνητική. Απόδειξη: (αναγκαίο) Έστω g : { X : } συνάρτηση αυτοσυνδιακύµανσης µιας στάσιµης χρονοσειράς. Λόγω στασιµότητας έχουµε ( ) ( ) gh ( ) = Cov X, X = Cov X, X = g( h), h. + h h (.5.) Ταυτόχρονα α = ( α,..., α )' και = (,..., )' Z έχουµε 0 V αix V[ ' ] ', i = α X = αγα i= 9

20 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή όπου = γ i i, = Γ συµµετρικός (x)-πίνακας µε στοιχεία γi = Cov( X, X ) = g( i ), i, =,...,, (.5.) i γνωστός ως πίνακας αυτοσυνδιακυµάνσεων της στάσιµης χρονοσειράς { X } (Ικανό) :. Έστω g :, µια άρτια και γνήσια µη αρνητική συνάρτηση. Ας θεωρήσουµε την οικογένεια των πολυµεταβλητών Κανονικών κατανοµών µε µέση τιµή 0 ( ) και µε πίνακα συνδιασποράς Γ, = γ i µε γ i, = i = g( i ), ( i, =,..., ) και ας υποθέσουµε ότι στην εν λόγω οικογένεια ανήκει η από κοινού κατανοµή των τ.µ. X i ( i =,..., ), N και = (,..., )' R. Έχουµε έτσι ένα σύστηµα κατανοµών πεπερασµένης διάστασης για την σ.α. { X : R }. Το ερώτηµα που πρέπει να απαντηθεί τώρα είναι αν το εν λόγω σύστηµα κατανοµών ικανοποιεί τις συνθήκες συµβατότητας του Kolmogorov. Η απάντηση δίνεται µέσω χαρακτηριστικών συναρτήσεων. Πράγµατι, σύµφωνα µε το παραπάνω σύστηµα κατανοµών έχουµε ότι η - διάστατη τ.µ. X ( ) = ( X,..., X )' Ν(, 0 Γ), µε πίνακα διασποράς Γ, = γ i i, = όπου γ = g( ), i, =,...,, και συνεπώς (βλ. επίσης.7 παρακάτω) έχει χ.σ. την i i Ταυτόχρονα, µε πίνακα διασποράς φ () ( u) = exp u' Γ u, u. (.5.3) m<, η m-διάστατη τ.µ. X ( m ) = ( X,..., X )' Ν (, 0 Γ ), µε m, m = γ i i, = m Γ όπου γ = g( ), i, =,..., m, και χ.σ. την i i m φ (m) ( u) = exp u' Γ mu, u. (.5.4) m m Οι συνθήκες συµβατότητας του Kolmogorov τώρα απαιτούν τη συµφωνία µεταξύ των άνω χαρακτηριστικών συνάρτησεων. Τούτο σηµαίνει ότι πρέπει να ισχύει η σχέση: 0

21 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή m φ ( u) = φ ( u, 0), u και m, µε m <, (.5.5) ( m) ( ) η οποία πράγµατι ισχύει αφού µε u m έχουµε: u Γ m 0 ( u', 0') Γ = ( u ', 0') = u ' Γ mu. 0 0 Γ m Στις δύο Παραγράφους που ακολοθούν δίνουµε µερικά χρήσιµα αποτελέσµατα που αφορούν πολυδιάστατες τ.µ..6. Μέση Τιµή, Πίνακας ιασποράς και Πίνακας Συνδιακύµανσης Έστω τυχαίες µεταβλητές Xi ( i =,..., ) µε µέσες τιµές µ i = E[ X i ], διασπορές σ σ = V[ X ], i=,...,, αντίστοιχα, και συνδιακυµάνσεις σ = Cov[ X, X ] ii i i i i ( i =,..., ). Όλες οι παραπάνω ποσότητες θεωρούνται πεπερασµένες και προς τούτο αρκεί οι διασπορές να είναι πεπερασµένες. Τότε (α) Ως µέση τιµή του τυχαίου διανύσµατος (τ.δ.) X = ( X,..., X )' ορίζουµε το διάνυσµα [ ] E X µ = E [ X] =. (.6.) E[ X ] (β) Ως πίνακα διασποράς (dispersio marix) του τ.δ. X = ( X,..., X )' ορίζουµε τον ( ) -πίνακα Σ = D[ X ] = Cov( Xi, X ). (.6.) Επεκτείνοντας την έννοια της µέσης τιµής πάνω σε πίνακες τυχαίων µεταβλητών µε πεπερασµένες µέσες τιµές έχουµε για τον ( m) τυχαίο πίνακα X = [ X i, ], M = E[ X ] = E( X i ). (.6.3) Έστω τώρα δύο τυχαία διανύσµατα X = ( X,..., X )' και Y = ( Y,..., Y m )', των οποίων οι συνιστώσες έχουν πεπερασµένες διασπορές. Ορίζονται συνεπώς οι

22 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή συνδιακυµάνσεις Cov( X, Y ) για όλα τα i και. Προκύπτει έτσι ένας ( m) - πίνακας συνδιακυµάνσεων συσχέτισης των τ.δ. X και Y. Έχουµε συνεπώς i Σ = [ Cov( X, Y )], ο οποίος ονοµάζεται πίνακας XY i Σ = Cov(X,Y) = E[( X - E[ X ])( Y - E[ Y ]) ']. (.6.4) XY Είναι προφανές ότι ο πίνακας διασποράς ενός τ.δ. X ταυτίζεται µε τον πίνακα συσχέτισης του τ.δ. X µε τον εαυτό του, έχουµε δηλαδή D[ X] = Cov( X, X) = Σ XX. Επίσης εύκολα διαπιστώνουµε ότι ισχύουν τα παρακάτω: και YX Σ = E[ XY' ] E[ X ] E[ Y ]' (.6.5) XY = Cov(, ) = [ Cov( Y, X )] = [ Cov( X, Y )]' = Cov(, )' = '. Σ Y X X Y Σ (.6.6) i i XY Με βάση τους παραπάνω ορισµούς και τις ιδιότητες της µέσης τιµής προκύπτουν τα παρακάτω θεωρήµατα. Θεώρηµα. Έστω X διάστατη τ.µ. µε µέση τιµή µ και πίνακα διασποράς Σ. Έστω επίσης Y=α +BX, όπου (,..., ) ' m α = α α m και B ένας (m ) -πίνακας. Τότε (α) E [ Y ] = α + Bµ, (β) D [ Y] = BΣ B'. (.6.7) Απόδειξη: (α) Προφανές, αφού λόγω της γραµµικότητας της µέσης τιµής έχουµε E[ Y ] = E[ α + BX ] = α + BE[ X] = α + Bµ. (β) Εδώ έχουµε D[ Y] = E[( Y -E[ Y])( Y -E[ Y])'] = E[ BX ( -µ)( X - µ )' B'] = BE[( X -µ)( X -µ)'] B' = BΣB '.

23 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή Θεώρηµα. Ισχύει η σχέση Cov( a+ BX, c+ DY) = BCov [ X, Y] D', (.6.8) Απόδειξη: Θέτοντας Z = α + BX και W = c+ DY και κάνοντας χρήση της πρότασης (α) του προηγούµενου θεωρήµατος έχουµε: Cov( a+ BX, c+ DY) = E[( Ζ E[ Z])( W E[ W])'] = E[ BX ( E[ X])( Y E[ Y])' D'] = BE[( X E[ X])( Y E[ Y])'] D' = BCov[ X, Y] D'. Τα παραπάνω θεωρήµατα αποτελούν άµεσες γενικεύσεις αντίστοιχων θεωρηµάτων για µονοδιάστατες τυχαίες µεταβλητές. Με Z = α + bx και W = c+ dy π.χ. είναι γνωστό ότι ισχύει η σχέση Cov( Z, W ) = bdcov( X, Y ). Θεώρηµα 3: Ο πίνακας διασποράς Σ D[ X ] αρνητικός. = είναι συµµετρικός και γνήσια µη Η συµµετρικότητα του πίνακα διασποράς για τ.µ. Χ και Υ, Σ προκύπτει άµεσα από τη γνωστή σχέση Cov( X, Y) = E[( X µ )( X µ )]= Cov( Y, X). X Το δεύτερο σκέλος του θεωρήµατος προκύπτει από την πρόταση (β) του Θεωρήµατος, µε α = 0 και B = b' = ( b,..., b )' 0'. Πράγµατι για τη µονοδιάστατη τ.µ. Y = bx ' έχουµε: 0 Var[ Y ] = Var[ bx ' ] = bσ ' b. Θεώρηµα 4: Κάθε συµµετρικός και γνήσια µη αρνητικός ( )-πίνακας Σ µπορεί να γραφεί υπό τη µορφή Y Σ =PΛP ', (.6.9) όπου P ορθογώνιος ( )-πίνακας και Λ = diag ( λ,..., λ ) µε λ 0 ( =,..., ) οι ιδιοτιµές του πίνακα Σ. Όταν ο πίνακας Σ είναι γνήσια θετικός τότε λ > 0 ( =,..., ). 3

24 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή Απόδειξη: Τυπικό αποτέλεσµα της Θεωρίας Πινάκων για συµµετρικούς και γνήσια µη αρνητικούς ή γνήσια θετικούς τετραγωνικούς πίνακες. Σηµειώνεται ότι η αντιστοιχεί στην ιδιοτιµή στήλη του P είναι το δεξί ιδιοδιάνυσµα του Σ που ( =,..., ) λ.7. Πολυµεταβλητή Κανονική Κατανοµή Ο συνήθης ορισµός της πολυµεταβλητής Κανονικής κατανοµής είναι µέσω της συνάρτησης πυκνότητας πιθανότητας αυτής. Συγκεκριµένα, το τυχαίο διάνυσµα X = ( X,..., X )' λέγεται ότι ακολουθεί την Κανονική κατανοµή µε µέση τιµή µ και πίνακα διασποράς Σ όταν έχει σ.π.π. µε f( x) = exp / / Q ( π) Σ x (.7.) ( ) Q( x) = ( x- µ )' Σ ( x-µ ), x. (.7.) Ο ως άνω ορισµός προϋποθέτει ότι η ορίζουσα του πίνακα διασποράς Σ είναι µη µηδενική ( Σ 0). Επειδή η απαίτηση αυτή είναι περιοριστική ορίζουµε την πολυµεταβλητή Κανονική κατανοµή ως ακολούθως: Ορισµός. Το τυχαίο διάνυσµα X = ( X,..., X)' λέγεται ότι ακολουθεί πολυµεταβλητή Κανονική κατανοµή εάν και µόνο εάν υπάρχει α και ένας ( m) -πίνακας Β έτσι ώστε να έχουµε X = α + BZ, όπου Z = ( Z,..., Zm)' τυχαίο διάνυσµα ανεξάρτητων και ισόνοµων συνιστωσών Z, i=,...,, µε κατανοµή Ν(0,). i Από τα παραπάνω είναι σαφές ότι το τ.δ. Z έχει σ.π.π. η οποία είναι: f π z m / () z m Z = () exp,, m = z (.7.3) και ότι έχει µέση τιµή Ε [ Ζ ] = 0 και πίνακα διασποράς D [ Ζ ] = I, ο ταυτοτικός ( ) -πίνακας. 4

25 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή Κατά συνέπεια, η µέση τιµή µ και ο πίνακας διασποράς Σ του τ.δ. X είναι αντίστοιχα: µ = E[ X]= α και Σ = D[ X] = BB '. (.7.4) Σηµείωση. Σύµφωνα µε τον παραπάνω ορισµό δεν αποκλείεται να έχουµε > m. Σ αυτή την περίπτωση ο πίνακας διασποράς Σ= D[ X ] είναι ιδιάζων, έχει δηλαδή µηδενική ορίζουσα και τάξη m<. Ως εκ τούτου δεν ορίζεται η συνάρτηση πυκνότητας πιθανότητας του τυχαίου διανύσµατος X και οποιεσδήποτε συνιστώσες αυτού εκφράζονται γραµµικά µέσω των υπολοίπων συνιστωσών (µε πιθανότητα τη µονάδα). Σηµείωση. Η χαρακτηριστική συνάρτηση (χ.σ.) ορίζεται από την φ() ενός τ.δ. X = ( X,..., X )' i' X φ() = E e, µε i =. (.7.5) Κάθε χ.σ. φ(),, είναι οµαλά συνεχής και φ() φ( 0) =. Σηµείωση 3. Υπάρχει αµφιµονοσήµαντη αντιστοιχία µεταξύ χαρακτηριστικών συναρτήσεων και συναρτήσεων κατανοµών. Αν θεωρήσουµε την διαµέριση ' ' ' X = ( X, X ), όπου η διάσταση του τ.δ. X είναι, =,, µε + =, τότε αν η χ.σ. της X δίνεται από την: i ( ) ' X i ( ' X + 0 ' X ) = = = (, 0), φ E e E e φ. (.7.6) Σηµείωση 4. Είναι φανερό ότι όταν οι συνιστώσες X, =,...,, είναι ανεξάρτητες τ.µ. τότε η χ.σ. του τ.δ. X = ( X,..., X )' γράφεται ως γινόµενο χ.σ. των αντίστοιχων συνιστωσών. Συγκεκριµένα έχουµε: i 'X φ( ) = E e E exp i X E exp { ix } = = = φ( ),. = i= = Λόγω της αµφιµονοσήµαντης σχέσης µεταξύ κατανοµών και χαρακτηριστικών συναρτήσεων η παραπάνω πρόταση ισχύει και αντίστροφα, δηλαδή όταν η χ.σ. ενός 5

26 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή τ.δ. γράφεται ως γινόµενο δύο χ.σ. τότε η αντίστοιχη σ.κ. αναλύεται σε γινόµενο δύο σ.κ. και τα αντίστοιχα τ.δ. είναι ανεξάρτητα. Είναι γνωστό ότι η χ.σ. της τυποποιηµένης Κανονικής τ.µ. Ζ είναι: Ως εκ τούτου έχουµε το παρακάτω: φ() = exp,. (.7.7) Λήµµα. Η χ.σ. του τ.δ. Z = ( Z,..., Z m )' µε ανεξάρτητες τυποποιηµένες Κανονικές συνιστώσες Z, =,..., m, είναι: m m m m φ() = φ( ) = exp = exp,. = = = (.7.8) Λήµµα. Έστω α, B ένας ( m) -πίνακας και φ X η χ.σ. της m-διάστατης τ.µ. X = ( X,..., X m )'. Τότε η χ.σ. της -διάστατης τ.µ. Y= α + BX είναι φ e φ B (.7.9) i ' α Y() = X( '),. Απόδειξη: Προφανής µε βάση τον ορισµό της χ.σ. (βλ..7.5). Θεώρηµα : Εάν το τ.δ. Χ = ( Χ,..., Χ )' ακολουθεί Κανονική κατανοµή µε µέση τιµή µ και πίνακα διασποράς Σ τότε η χαρακτηριστική συνάρτηση αυτού είναι: φ () = exp i' - ',. µ X Σ (.7.0) Εάν επιπρόσθετα Σ > 0, τότε το τ.δ. X έχει συνάρτηση πυκνότητας πιθανότητας η οποία ορίζεται από την f X / / ( x) = ( π) Σ exp ( x-µ )' Σ ( x-µ ), x. (.7.) 6

27 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή Απόδειξη: Από τον ορισµό της πολυµεταβλητής Κανονικής κατανοµής έχουµε ότι το τ.δ. Χ = ( Χ,..., Χ )' έχει την αναπαράσταση X = α + BZ µε όπου α = µ, BB '= Σ, και Z = ( Z,..., Z m )' τυχαίο διάνυσµα ανεξάρτητων και ισόνοµων συνιστωσών Z, =,...,, µε κατανοµή Ν(0,). Με βάση τα Λήµµατα και τώρα η χ.σ. του τ.δ. Χ είναι: i'x i'α i'α φ () E e X = = e φz( B') = e exp ' BB' = exp i ' α - ' BB',. Εάν τώρα έχουµε Σ > 0, τότε ο πίνακας Σ γράφεται υπό τη µορφή Σ = PΛP ' µε PP ' = I, ο ταυτοτικός ( ) -πίνακας, και Λ διαγώνιος ( ) -πίνακας µε θετικές ιδιοτιµές λ, =,...,. Έχουµε δηλαδή Σ = PΛP ', Λ = diag( λ,..., λ ) µε λ > 0, =,...,, και PP ' = I. Κατά συνέπεια ο αντίστροφος είναι αντίστοιχα: Σ Σ του πίνακα και η τετραγωνική ρίζα αυτού Σ = PΛ P' = Pdiag( λ,..., λ ) P ' (.7.) και Σ = PΛ P' = Pdiag( λ,..., λ ) P '. (.7.3) / / / / Εφαρµόζοντας τώρα το Λήµµα, η χ.σ. του τυχαίου διανύσµατος είναι: ( ) = exp{ ' / } = exp{ / } = exp{ / },. = = φ Ζ Ζ = Σ / ( Χ α) 7

28 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή Τούτο σηµαίνει ότι το τ.δ. Ζ ακολουθεί πολυµεταβλητή Κανονική κατανοµή µε E [ Ζ ] = 0 και πίνακα διασποράς V[ Ζ ] = I. Οι τ.µ. Z, =,...,, είναι συνεπώς ανεξάρτητες τυποποιηµένες Κανονικές. Ως εκ τούτου το τ.δ. Ζ έχει συνάρτηση πυκνότητας πιθανότητας την f z Z π z π z / / ( ) = ( ) exp{ } = ( ) exp{ ' z}, z. = / Επειδή τώρα ο µετασχηµατισµός x = α+ Σ z είναι αµφιµονοσήµαντος µε / / z=σ ( x-α) και Ιακωβιανή J () z = Σ 0, σύµφωνα µε γνωστό θεώρηµα το τ.δ. = + / X α Σ Ζ έχει συνάρτηση πυκνότητας πιθανότητας την f x = f z x J x = π Σ x µ Σ x µ x / / X( ) Z( ( )) ( ) ( ) exp{ ( )' ( )},. Θεώρηµα : Η διάστατη τ.µ. X = ( X,..., X )' έχει Κανονική κατανοµή µε µέση τιµή µ και πίνακα διασποράς Σ εάν και µόνο εάν για κάθε διάνυσµα c = ( ),..., ' c c Απόδειξη: η µονοδιάστατη τ.µ. Y = cx ' έχει N( cµcσ ', ' c) (αναγκαίο) Προκύπτει άµεσα από το Λήµµα 3 θέτοντας α = 0 και B = c '. (ικανό) Έστω ότι κατανοµή. c η τ.µ. Y = cx ' ακολουθεί κατανοµή N( c ' µ, c ' Σ c ). Τούτο σηµαίνει ότι η χ.σ. της τ.µ. Υ είναι: Y ( ) = [exp{ }] = [exp{ c' X}] = exp{ c ' µ c' Σ c },, c. φ E iy E i i Για = τώρα λαµβάνουµε: φ () = E[exp{ iy}] = E[exp{ ic' X}] = exp{ ic ' µ c' Σ c}, c. Y Από τους δύο τελευταίους όρους της παραπάνω σχέσης όµως έχουµε ότι φ ( c ) = E[exp{ i c ' X }] = exp{ i c ' µ X c ' Σ c }, c, 8

29 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή πράγµα το οποίο σηµαίνει ότι το τ.δ. X ακολουθεί την κατανοµή N( cµcσ ', ' c). Με βάση το παραπάνω θεώρηµα προκύπτει ένας δεύτερος (ισοδύναµος µε τον προηγούµενο) ορισµός της πολυµεταβλητής Κανονικής κατανοµής. Συγκεκριµένα έχουµε: Ορισµός. Το τυχαίο διάνυσµα X = ( X,..., X )' λέγεται ότι ακολουθεί πολυµεταβλητή Κανονική κατανοµή εάν για κάθε α, ο γραµµικός συνδυασµός Y = α ' X, ακολουθεί Κανονική κατανοµή. Σηµείωση 5. Ο πρώτος ορισµός της πολυµεταβλητής Κανονικής κατανοµής έχει το πλεονέκτηµα να είναι κατασκευαστικός, µε την έννοια ότι µέσω αυτού µπορούµε να παράγουµε τυχαίο διάνυσµα X = ( X,..., X )' που ακολουθεί την πολυµεταβλητή Κανονική κατανοµή N ( µ, Σ). Προς τούτο αρκεί να πάρουµε το / γραµµικό µετασχηµατισµό X = µ + Σ Ζ µε Z = ( Z,..., Z )', όπου οι τ.µ. Zi, i=,...,, είναι ανεξάρτητες τυποποιηµένες Κανονικές. Θεώρηµα 3: Έστω ότι το τ.δ. X = (X,..., X )' ακολου θεί την κατανοµή N ( µ, Σ ). Θεωρούµ ε την παρακάτω διαµέριση του τ.δ. X X X =, ( + X = ) και τις αντίστοιχες διαµερίσεις των µ και Σ, µ Σ Σ µ = και Σ = µ Σ Σ µε µ = E[ X ], Σ = Cov( X, X ), (, = ),. Τότε ισχύουν τα παρακάτω: (α) Τα τ.δ. X και X είναι ανεξάρτητα µεταξύ τους εάν και µόνο εάν Σ = 0. (β) Εάν Σ > 0, τότε η δεσµευµένη κατανοµή του X µε δεδοµένο το X είναι: ( ) N µ + ΣΣ X µ, Σ ΣΣΣ. (.7.4) Απόδειξη: (α) Εάν X, X είναι ανεξάρτητα τότε 9

30 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή ( ) Cov X, X = 0 και συνεπώς Σ = 0. Τότε όµως και Σ = 0 οπότε ο πίνακας Σ γράφεται, Σ Σ = 0 Σ 0. Για τη χ.σ. του X τώρα έχουµε: φ X = exp i 'µ 'Σ ( ) Τ T µ T T Σ 0 = exp i (, ) (, ) µ 0 Σ T T T T = exp i ( µ + µ ) ( Σ+ Σ) T T = exp i µ Σ, και. = Έχουµε δηλαδή γινόµενο χ.σ. οπότε, σύµφωνα µε τη Σηµείωση 4, τα τ.δ. X, X είναι ανεξάρτητα. (β) Με Σ 0 µπορούµε να θεωρήσουµε την τ.µ. ( ) Y = X µ Σ Σ X µ (.7.5), για την οποία προφανώς έχουµε E [ Y ] = 0. Επίσης έχουµε 30

31 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή [ ] Cov(, ) = Cov( X µ ΣΣ ( X µ ), X µ ΣΣ ( X µ )) Σ = D Y = Y Y = YY και αφ ετέρου ( X ΣΣX, X ΣΣX ) = Cov ( X, X) Cov( X, X ) Σ Σ Cov(, ) + Cov(, ) = Cov = Σ Σ Σ Σ ( ) = Cov ( ) Σ Σ X X Σ Σ X X Σ Σ, ( ) ( X ΣΣX, X) Cov Y, X X µ Σ Σ X µ, X Συνεπώς, = Cov ( X, X ) Σ Σ Cov ( X, X ) = Cov = Σ Σ Σ Σ = Σ Σ =0. = Y 0 Σ Σ Σ Σ 0 N,, X µ 0 Σ (.7.6) και σύµφωνα µε το πρώτο µέρος του θεωρήµατος έχουµε ότι οι τ.µ. Y και X είναι ανεξάρτητες. Με δεδοµένη την X, η δεσµευµένη χ.σ. της X είναι η δεσµευµένη µέση τιµή { i } E exp ' X X, για την οποία έχουµε: { } { } { ( ) } { i ( ) } E { } { i µ Σ Σ ( X µ ) } E { i Y} { } = + + ( ) E exp i' X X E exp i' Y µ Σ Σ X µ X = E exp iy ' exp i ' µ + ΣΣ X µ X = exp ' µ + ΣΣ X µ exp iy ' X = exp ' + exp ', 3

32 Γ. Ε. Κοκολάκης. Σηµειώσεις Ανάλυσης Χρονοσειρών Κεφ.. Εισαγωγή µε την τελευταία ισότητα ως συνέπεια της ανεξαρτησίας µεταξύ Y και X. Εισάγοντας τώρα την χ.σ. της Y σύµφωνα µε την (.7.6), θέτοντας δηλαδή - E exp { iy ' } = exp ', Σ Σ Σ Σ έχουµε E exp { i' X} X exp i ' ( ) ' = µ + Σ Σ X µ, Σ Σ Σ Σ η οποία είναι η χ.σ. της N ( ) µ + ΣΣ X µ, Σ ΣΣΣ. 3