Ελληνικό Στατιστικό Ινστιτούτο Πρακτικά 7 ου Πανελληνίου Συνεδρίου Στατιστικής (24), σελ. 243-25 ΓΡΑΜΜΙΚΗ ΜΟΝΤΕΛΟΠΟΙΗΣΗ ΜΗ-ΚΑΝΟΝΙΚΩΝ ΧΡΟΝΟΣΕΙΡΩΝ ΜΕΣΩ ΜΕΤΑΣΧΗΜΑΤΙΣΜΟΥ ΣΕ ΚΑΝΟΝΙΚΕΣ ΧΡΟΝΟΣΕΙΡΕΣ Κουγιουµτζής ηµήτρης Γενικό Τµήµα, Πολυτεχνική Σχολή, Αριστοτέλειο Πανεπιστήµιο Θεσσαλονίκης Μπόρα-Σέντα Ευθυµία Τµήµα Μαθηµατικών, Σχολή Θετικών Επιστηµών, Αριστοτέλειο Πανεπιστήµιο Θεσσαλονίκης ΠΕΡΙΛΗΨΗ Για τη γραµµική µοντελοποίηση χρονοσειρών τυπικά υποθέτουµε ότι η χρονοσειρά είναι κανονική, δηλαδή είναι πραγµατοποίηση µιας κανονικής διαδικασίας. Όταν αυτό δεν ισχύει, προτείνουµε να γίνει η ανάλυση της χρονοσειράς, όπως π.χ. η εκτίµηση ενός AR µοντέλου, σε µια κατάλληλα επιλεγµένη κανονική χρονοσειρά, που είτε σχηµατίζεται εφαρµόζοντας µονότονο µετασχηµατισµό απευθείας στις αρχικές παρατηρήσεις (όταν αυτό είναι δυνατόν) ή παράγεται από µια τυποποιηµένη κανονική διαδικασία µε αυτοσυσχέτιση που σχηµατίζεται εφαρµόζοντας µονότονο µετασχηµατισµό στην αρχική αυτοσυσχέτιση. Έτσι καθίσταται δυνατή η παραµετρική συµπερασµατολογία για τις παραµέτρους του µοντέλου και οι προβλέψεις µπορούν να µετασχηµατιστούν έτσι ώστε να αναφέρονται στην αρχική χρονοσειρά. Προσοµοιώσεις σε µη-κανονικές χρονοσειρές, που δηµιουργήθηκαν από µονότονους και µη-µονότονους µετασχηµατισµούς κανονικών διαδικασιών, έδειξαν ότι η προσαρµογή χρησιµοποιώντας την προτεινόµενη µέθοδο είναι καλύτερη από την προσαρµογή µε ένα AR µοντέλο που εκτιµάται απευθείας στη µη-κανονική χρονοσειρά. ΕΙΣΑΓΩΓΗ Η γραµµική ανάλυση χρονοσειρών έχει αναπτυχθεί κυρίως για κανονικές χρονοσειρές, όπου η καλύτερη πρόβλεψη είναι γραµµική και η κατανοµή των βέλτιστων εκτιµητών των παραµέτρων του γραµµικού µοντέλου µπορεί να προσδιορισθεί αναλυτικά [Brockwell & Davis (99), Rosenbla (2)]. Αν δε µπορεί να υποτεθεί ότι η χρονοσειρά είναι κανονική, η στατιστική συµπερασµατολογία δε µπορεί να γίνει 243
παραµετρικά αλλά χρησιµοποιούνται µη-παραµετρικές µέθοδοι (τεχνικές boosrapping) [Efron & Tibshirani (993)]. Σε κάποιες περιπτώσεις απλοί µετασχηµατισµοί, όπως λογάριθµος, µπορεί να διορθώσουν την περιθώρια κατανοµή σε κανονική. Συχνά χρησιµοποιείται ο παραµετρικός µετασχηµατισµός δύναµης Box-Cox, που δηµιουργήθηκε για να µετασχηµατίζει µια δι-µεταβλητή κατανοµή σε κανονική, αλλά µπορεί να επεκταθεί εύκολα σε χρονοσειρές [Box & Cox (964)]. Οι παραπάνω µετασχηµατισµοί µπορούν να καταστήσουν την περιθώρια κατανοµή της χρονοσειράς κανονική αλλά δεν καταφέρνουν πάντα να κάνουν την κοινή κατανοµή της χρονοσειράς (για κάποια τάξη υστέρησης) κανονική. Επιπλέον, οι γραµµικές συσχετίσεις αλλάζουν µε το µετασχηµατισµό κι αυτό θα πρέπει να αντιµετωπισθεί στην ανάλυση της µετασχηµατισµένης χρονοσειράς. Προτείνουµε ένα νέο στατιστικό πλαίσιο ανάλυσης που ξεπερνάει το πρόβληµα της µη-κανονικής κατανοµής της χρονοσειράς, επιτρέπει την παραµετρική συµπερασµατολογία και µπορεί σε κάποιες περιπτώσεις να βελτιώσει την προσαρµογή και πρόβλεψη µε γραµµικό αυτοπαλινδροµούµενο µοντέλο. Η προσέγγιση αυτή βασίζεται στην εργασία [Kugiumzis (22)] για τη δηµιουργία υποκατάστατων χρονοσειρών που διατηρούν τις γραµµικές συσχετίσεις και χρησιµοποιούνται για τον έλεγχο µηγραµµικότητας χρονοσειράς. Η γραµµική ανάλυση µπορεί να γίνει στην κανονική χρονοσειρά και οι εκτιµητές, π.χ. διαστήµατα εµπιστοσύνης για την αυτοσυσχέτιση, µπορούν έπειτα να απεικονισθούν µέσω του στατικού µετασχηµατισµού για να αφορούν την αρχική χρονοσειρά. ΚΑΝΟΝΙΚΗ ΧΡΟΝΟΣΕΙΡΑ ΑΠΟ ΜΗ-ΚΑΝΟΝΙΚΗ ΧΡΟΝΟΣΕΙΡΑ Η προσέγγιση της γραµµικής ανάλυσης µιας µη-κανονικής χρονοσειράς {x } συνοψίζεται στα παρακάτω τρία στάδια:. Μετασχηµατισµός της {x } σε κανονική χρονοσειρά {u }, τέτοια ώστε x =g(u ), για =,,n, όπου g είναι µονότονη συνάρτηση. 2. Συµπερασµατολογία και εκτιµήσεις µοντέλου στην {u }. 3. Μετασχηµατισµός των εκτιµητών που υπολογίστηκαν στο στάδιο 2, έτσι ώστε η συµπερασµατολογία να αναφέρεται στην {x }, χρησιµοποιώντας το µετασχηµατισµό x =g(u ). Η πολυπλοκότητα αυτής της ανάλυσης βρίσκεται στο πρώτο στάδιο, δηλαδή στην εύρεση κατάλληλης κανονικής χρονοσειράς {u } που να προκύπτει από µετασχηµατισµό της αρχικής {x }, u =g - (x ). Στην εργασία [Kugiumzis (22)] δίνεται η διαδικασία που 244
ορίζει το κατάλληλο {u }. Ο µετασχηµατισµός g - δίνεται από την αναδιάταξη των στοιχείων µιας κανονικής χρονοσειράς λευκού θορύβου {w } έτσι ώστε να έχουν την ίδια σειρά διάταξης όπως η {x }, ( ) w = g ( x ) = F F ( x ), () x όπου F είναι η περιθώρια τυποποιηµένη κανονική κατανοµή. Η αναδιαταγµένη χρονοσειρά {w } που προκύπτει από την () είναι κανονική, αν και µόνο αν η {x } µπορεί να θεωρηθεί ως στατικός µονότονος µετασχηµατισµός µιας κανονικής χρονοσειράς. Σε αυτήν την περίπτωση, η {w } είναι η κατάλληλη κανονική χρονοσειρά {u }. Γενικά όµως, η {w } έχει µόνο κανονική περιθώρια κατανοµή και η {u } δηµιουργείται µε βάση την κατάλληλη αυτοσυσχέτιση r u. Αυτή είναι η αυτοσυσχέτιση που θα πρέπει να έχει η κανονική χρονοσειρά που αντιστοιχεί στο µετασχηµατισµό g - της {x }. Προσεγγίζοντας την g µε µονότονο πολυώνυµο βαθµού m, p m, βρέθηκε ότι r x (τ)=q m (r u (τ)), για κάθε υστέρηση τ, όπου q m είναι επίσης πολυώνυµο βαθµού m, και η r u δίνεται αναλυτικά ως συνάρτηση της αρχικής αυτοσυσχέτισης r x. Στη συνέχεια η {u } σχηµατίζεται ως πραγµατοποίηση µιας τυποποιηµένης κανονικής διαδικασίας µε αυτοσυσχέτιση r u. O αντίστροφος µετασχηµατισµός g της {u } δεν ανακτά τη {x } αλλά µια άλλη χρονοσειρά {z } ( ) z = gu = F F u, (2) ( ) x ( ) που έχει την ίδια περιθώρια κατανοµή και αυτοσυσχέτιση µε αυτές της {x }, δηλαδή F x (x )=F z (z ) και r x (τ)= r z (τ), για κάποιο εύρος υστερήσεων τ. Άρα αν η {x } µπορεί να θεωρηθεί ότι προέρχεται από κανονική χρονοσειρά µέσω µονότονου µετασχηµατισµού, τότε {u }={w }, δηλαδή η {u } προκύπτει απευθείας από τη {x } µε µετασχηµατισµό των στοιχείων σύµφωνα µε την (). Σε κάθε άλλη περίπτωση, η {u } ορίζεται από το µετασχηµατισµό των αυτοσυσχετίσεων, δεν υπάρχει αντιστοιχία των στοιχείων της {u } µε τα στοιχεία της {x }, αλλά µε µια άλλη χρονοσειρά {z } (σύµφωνα µε τη (2)), που έχει την ίδια γραµµική δοµή και περιθώρια κατανοµή µε τη {x }. Τα άλλα δύο στάδια εξαρτώνται από το πρόβληµα εκτίµησης που θέλουµε να επιλύσουµε για τη χρονοσειρά {x }. Παρακάτω δίνονται δύο εφαρµογές της προτεινόµενης ανάλυσης. 245
ΙΑΣΤΗΜΑ ΕΜΠΙΣΤΟΣΥΝΗΣ ΓΙΑ ΤΗΝ ΑΥΤΟΣΥΣΧΕΤΙΣΗ ιαστήµατα εµπιστοσύνης της αυτοσυσχέτισης r x (τ) για κάθε υστέρηση τ δίνονται παραµετρικά υποθέτοντας κανονική διαδικασία και χρησιµοποιώντας το z- µετασχηµατισµό Fisher, θεωρώντας ότι r x (τ)=r(x,x -τ ) είναι ο συντελεστής συσχέτισης Pearson των µεταβλητών x και x -τ. Αν η {x } δεν είναι κανονική δεν είναι γενικά δυνατόν να οριστούν διαστήµατα εµπιστοσύνης παραµετρικά. Με το προτεινόµενο πλαίσιο ανάλυσης µη-κανονικών χρονοσειρών, το διάστηµα εµπιστοσύνης της r x (τ) δίνεται σύµφωνα µε τα παρακάτω βήµατα:. Εκτίµηση του πολυωνύµου που προσεγγίζει το µονότονο µετασχηµατισµό g, x =p m (w ). 2. Υπολογισµός του πολυωνύµου που προσεγγίζει τον αντίστοιχο µετασχηµατισµό για τις αυτοσυσχετίσεις, r x =q m (r u ) και λύση της παραπάνω εξίσωσης ως προς r u, όπου r u είναι η αυτοσυσχέτιση της κανονικής χρονοσειράς που αντιστοιχεί στο µετασχηµατισµό g. 3. Υπολογισµός του (-α)% διαστήµατος εµπιστοσύνης για την «κανονική» αυτοσυσχέτιση χρησιµοποιώντας το z-µετασχηµατισµό Fisher z(r u )=.5log((+r u )/(-r u )) και τον αντίστροφο του. Έστω ότι το διάστηµα εµπιστοσύνης είναι [r ul, r uu ]. 4. Μετασχηµατισµός των ορίων του [r ul, r uu ] µέσω του q m, r xl =q m (r ul ) και r xu =q m (r uu ). Το (-α)% διάστηµα εµπιστοσύνης για την αυτοσυσχέτιση του {x } είναι [r xl, r xu ]. Στο Σχήµα παρουσιάζονται τα αποτελέσµατα από κάποιες αντιπροσωπευτικές προσοµοιώσεις. Θεωρούµε ότι η {x } δηµιουργείται από µονότονο και µη µονότονο µετασχηµατισµό µιας κανονικής χρονοσειράς {s } τύπου AR() για διαφορετικές τιµές του συντελεστή φ και για µήκος χρονοσειράς n=24 και n=28. Σε κάθε περίπτωση εκτελούµε πραγµατοποιήσεις της {x } και υπολογίζουµε το 99% διάστηµα εµπιστοσύνης για την αυτοσυσχέτιση υστέρησης απευθείας στη {x } (µέσω του z- µετασχηµατισµού Fisher) και ακολουθώντας την προτεινόµενη διαδικασία. Η σηµειακή εκτίµηση r x () είναι ίδια και µε τους δύο τρόπους αλλά τα διαστήµατα εµπιστοσύνης που υπολογίζονται µε τον προτεινόµενο µετασχηµατισµό έχουν µικρότερο εύρος, ανεξάρτητα αν η αρχική χρονοσειρά προέρχεται από µονότονο µετασχηµατισµό κανονικής χρονοσειράς ή όχι. Επίσης, η διάφορα του εύρους των δύο διαστηµάτων εµπιστοσύνης 246
µεγαλώνει όταν το n µειώνεται. Για παράδειγµα, για µη-µονότονο µετασχηµατισµό και n=28, όπου r x ()=.2 (r s ()=.45) η αυτοσυσχέτιση βρίσκεται σηµαντική µε βάση το µετασχηµατισµένο διάστηµα εµπιστοσύνης αλλά όχι µε βάση το απευθείας διάστηµα εµπιστοσύνης (δες το σηµείο µε ανοιχτό κύκλο στο Σχήµα ). (α) απευθειας µετασχηµατισµενα.2 (β) απευθειας µετασχηµατισµενα.5.8 r x.6 r x.4 -.5.2 - - -.5.5 φ -.2 - -.5.5 φ (γ) απευθειας µετασχηµατισµενα.8 (δ) απευθειας µετασχηµατισµενα.5.6 r x.4 r x.2 -.5 -.2 - - -.5.5 φ -.4 - -.5.5 φ Σχήµα ιαστήµατα εµπιστοσύνης, απευθείας στη µη κανονική χρονοσειρά και µέσω του προτεινόµενου µετασχηµατισµού, όπως σηµειώνεται στο ένθετο, για την r x (), όπου η {x } έχει µετασχηµατιστεί από AR() κανονική χρονοσειρά {s } µε συντελεστή φ=r s ()=-.95:.5:.95. Ο 3 2 µετασχηµατισµός και τα µήκη χρονοσειράς διαφέρουν ως εξής: (α) x = s και n=24, (β) x = s και n=24, (γ) x = s και n=28, και (δ) x 3 = s και n=28. 2 ΓΡΑΜΜΙΚΗ ΜΟΝΤΕΛΟΠΟΙΗΣΗ ΜΗ-ΚΑΝΟΝΙΚΗΣ ΧΡΟΝΟΣΕΙΡΑΣ Όταν η χρονοσειρά {x } δεν είναι κανονική προτείνουµε βελτίωση της προσαρµογής που δίνει ένα AR µοντέλο εκτιµούµενο απευθείας από την {x } (ας το ονοµάσουµε AR x ). Σύµφωνα µε το προτεινόµενο πλαίσιο ανάλυσης βρίσκουµε ένα AR µοντέλο για την κανονική χρονοσειρά {u } (ας το ονοµάσουµε AR u ) και χρησιµοποιούµε το µετασχηµατισµό g για να µεταφέρουµε τα αποτελέσµατα έτσι ώστε να αναφέρονται στη {x }. 247
Όταν η {x } προέρχεται από µονότονο µετασχηµατισµό κανονικής διαδικασίας, η {w } που ορίζεται στην () είναι κανονική. Σε αυτήν την περίπτωση {w } και {u } είναι πραγµατοποιήσεις της ίδιας τυποποιηµένης κανονικής διαδικασίας µε αυτοσυσχέτιση r u. Επιπλέον όµως η {w } διατηρεί τη χρονική διάταξη των στοιχείων της {x } και ένα γραµµικό µοντέλο AR προσαρµοσµένο στην {w } (ας το ονοµάσουµε AR w ) µπορεί να χρησιµοποιηθεί για προβλέψεις. Για την εκτίµηση ενός AR u µοντέλου δε χρειάζεται η δηµιουργία της χρονοσειράς {u } αφού οι παράµετροι του µπορούν να εκτιµηθούν απευθείας από την αυτοσυσχέτιση r u χρησιµοποιώντας τον αλγόριθµο του Levinson [Brockwell and Davis (99)]. Το µοντέλο AR u δεν είναι χρήσιµο για προβλέψεις γιατί η χρονοσειρά {z }, στην οποία µετασχηµατίζεται η {u } µέσω της g, δεν έχει αντιστοιχία µε την {x } ένα προς ένα στοιχείο, αλλά έχει την ίδια γραµµική δοµή και περιθώρια κατανοµή µε τη {x }. Αξιολογούµε τα µοντέλα AR x, AR u, και AR w, µε Mone Carlo προσοµοιώσεις. Θεωρούµε πραγµατοποιήσεις της AR διαδικασίας s =s - -.5s -2 +e, όπου e είναι λευκός θόρυβος (ας την ονοµάσουµε AR s ), µε µήκος χρονοσειράς n=248, που µετασχηµατίζονται µε την κυβική και τετραγωνική δύναµη όπως στο Σχήµα. Για µοντέλα AR x, AR u, και AR w θέτουµε σταθερή τάξη 6. Τα αποτελέσµατα συνοψίζονται στο Σχήµα 2. Για µονότονο µετασχηµατισµό τα µοντέλα AR s, AR w, και AR u είναι περίπου ίδια, µε τους συντελεστές του AR u να έχουν µεγάλη µεταβλητότητα (δες Σχήµα 2α). Για να συγκρίνουµε τις προσαρµογές των AR u και AR w µε το AR x µετασχηµατίζουµε τις εκτιµήσεις προσαρµογής των {u } και {w } µέσω της g και µετράµε την προσαρµογή µε το συντελεστή συσχέτισης CC προσαρµοσµένων και πραγµατικών τιµών, που είναι CC(z)=CC(g(u)) και CC(g(w)) αντίστοιχα. Όπως αναµένεται δεν παρουσιάζουν διαφορές αφού {u } και {w } είναι πραγµατοποιήσεις της ίδιας διαδικασίας σε αυτήν την περίπτωση (δες Σχήµα 2γ). Συγκρίνοντας όµως µε το CC(x) βλέπουµε ότι η προσαρµογή µε την προτεινόµενη διαδικασία είναι καλύτερη, όπως φαίνεται στο Σχήµα 2β, όπου φαίνεται επίσης ότι η διαφορά αυτή δεν οφείλεται σε διαφορά των αυτοσυσχετίσεων των {x } και {z } (είναι πρακτικά ίδιες). Για µη-µονότονο µετασχηµατισµό όλα τα εκτιµούµενα AR µοντέλα διαφέρουν, όπως αναµένεται (δες Σχήµα 2δ). Η προσαρµογή µε την προτεινόµενη διαδικασία εξακολουθεί να είναι καλύτερη, µε τη διαφορά CC(z)-CC(x) στα ίδια επίπεδα όπως και για µονότονο µετασχηµατισµό, όπου και πάλι η αυτοσυσχέτιση της {x } διατηρείται στη {z } (δες Σχήµα 2ε). 248
(α) (δ).8 AR x AR u.8 AR x AR u.6 AR w.6 AR w.4 AR w.4 AR w φ i.2 φ i.2 -.2 -.2 -.4 -.4 -.6 -.6 -.8 2 3 4 5 6 -.8 2 3 4 5 6 δεικτης i τoυ φ i δεικτης i τoυ φ i.5.4 (β) r z (τ)-r x (τ) CC(z)-CC(x).3.25 r z (τ)-r x (τ) CC(z)-CC(x) (ε) διαφoρα σε r και CC.3.2. διαφoρα σε r και CC.2.5..5 -. -.5 -.2 2 4 6 8 δεικτης πραγµατoπoιησης -. 2 4 6 8 δεικτης πραγµατoπoιησης διαφoρα σε r και CC.3.2. -. (γ) r u (τ)-r w (τ) CC(z)-CC(g(w)) διαφoρα σε r και CC.35.3.25.2.5..5 r u (τ)-r w (τ) CC(z)-CC(g(w)) (στ) r u ()-r w () -.5 -.2 2 4 6 8 δεικτης πραγµατoπoιησης -. 2 4 6 8 δεικτης πραγµατoπoιησης Σχήµα 2 (α) Συντελεστές των AR µοντέλων, όπως δίνεται στο ένθετο, για µονότονο µετασχηµατισµό. Οι γραµµές αντιστοιχούν σε µέσες τιµές και οι κατακόρυφες γραµµές δίνουν την τυπική απόκλιση από τις πραγµατοποιήσεις. (β) ιαφορά στην αυτοσυσχέτιση και στο συντελεστή συσχέτισης προσαρµογής για τις {x } και {z } για κάθε πραγµατοποίηση. Οι γκρίζες γραµµές αντιστοιχούν στις διαφορές αυτοσυσχετίσεων για τ=,2,3. (γ) ιαφορά στην αυτοσυσχέτιση των {u } και {w } και διαφορά στο συντελεστή συσχέτισης προσαρµογής των {g(u )}={z } και {g(w )} για κάθε πραγµατοποίηση. Τα (δ), (ε), (στ) είναι αντίστοιχα µε τα (α), (β) και (γ) αλλά για µη-µονότονο µετασχηµατισµό. 249
Σε αυτήν την περίπτωση η χρήση της {w } δεν είναι κατάλληλη και το AR w δίνει χειρότερη προσαρµογή από ότι το AR u (CC(z)>CC(g(w)), όπως φαίνεται στο Σχήµα 2στ). Στο ίδιο σχήµα φαίνεται ότι η αυτοσυσχέτιση της {w } είναι µικρότερη από αυτή της {u }, που υποδηλώνει τη µη-κανονικότητα της {w }. Σηµειώνουµε ότι ενώ το µοντέλο AR u έχει καλύτερη προσαρµογή στη {z } (που είναι γραµµικά ισοδύναµη της {x }) από ότι το µοντέλο AR x (AR απευθείας στη {x }), δε µπορεί όµως να χρησιµοποιηθεί για προβλέψεις των τιµών της {x }. ABSTRACT We presen a new saisical framework for he analysis of non-normal ime series relaing a normal ime series o he original ime series and analyzing he normal ime series insead. The normal ime series is formed eiher by direc ransform on he original samples, or as a realizaion of a normal process wih an auocorrelaion ha is derived hrough a ransform of he original auocorrelaion. We show wo applicaions of his approach, he esimaion of confidence inervals of auocorrelaion and he improvemen of he auoregressive fi. ΑΝΑΦΟΡΕΣ Box, G. E. P. & Cox, D. R. (964), An Analysis of Transformaions, Journal of he Royal Saisical Sociey, Series B, 42, 7-78. Brockwell, P. J. & Davis, R. A. (99): Time Series: Theory and Mehods. Springer- Verlag, Springer Series in Saisics, New York. Efron, B. & Tibshirani, R. (993), An Inroducion o he Boosrap, Chapman and Hall. Kugiumzis, D. (22), Saically Transformed Auoregressive Process and Surrogae Daa Tes for Nonlineariy, Physical Review E, 66, 252. Rosenbla, M. (2), Gaussian and Non-Gaussian Linear Time Series and Random Fields, Springer-Verlag, New York. 25