Ελληνικό Στατιστικό Ινστιτούτο Πρακτικά ου Πανελληνίου Συνεδρίου Στατιστικής (7), σελ 3- ΑΝΙΧΝΕΥΣΗ ΣΗΜΕΙΟΥ ΑΛΛΑΓΗΣ ΤΑΣΗΣ ΣΕ ΧΡΟΝΟΣΕΙΡΕΣ Θ. Βαφειάδης, Ε. Μπόρα-Σέντα, Δ. Κουγιουμτζής Μαθηματικό Τμήμα, Αριστοτέλειο Πανεπιστήμιο Θεσσαλονίκης thanosb, bora}@math.auth.gr Γενικό Τμήμα, Πολυτεχνική Σχολή, Αριστοτέλειο Πανεπιστήμιο Θεσσαλονίκης dkugiu@gen.auth.gr ΠΕΡΙΛΗΨΗ Η εκτίμηση του χρονικού σημείου καμπής (turning point) σε μια χρονοσειρά έχει μεγάλη σημασία για κάποια προβλήματα, όπως στην κλιματολογία και στην οικονομία. Στην εργασία αυτή μελετάμε και συγκρίνουμε μια προτεινόμενη μέθοδο, γνωστή από τη βιβλιογραφία, με μια νέα μέθοδο που αναπτύσσουμε, ως προς την αποδοτικότητα τους στην ανίχνευση του σημείου αλλαγής της τάσης και ειδικότερα του σημείου εμφάνισης γραμμικής τάσης. Η σύγκριση γίνεται με Monte Carlo προσομοιώσεις, όπου δίνουμε έμφαση σε χρονοσειρές με υπόλοιπα (μετά την απαλοιφή τάσης) αυτοσυσχετισμένα που ακολουθούν κανονική και μηκανονική κατανομή. Εφαρμόζουμε τα συμπεράσματα μας σε χρονοσειρές δειγμάτων ενός ελέγχου εγκυμοσύνης.. ΕΙΣΑΓΩΓΗ Η εκτίμηση του χρονικού σημείου καμπής σε μια χρονοσειρά αποτελεί ένα ενδιαφέρον πρόβλημα, η λύση του οποίου βρίσκει όλο και περισσότερες εφαρμογές στην κλιματολογία (Feidas et. al. 4), στα οικονομικά (Perron 989) και στην υδρολογία (Hundecha et. al. 5). Στην εργασία αυτή προσπαθούμε να προσεγγίσουμε το πρόβλημα της εκτίμησης του χρονικού σημείου καμπής χρησιμοποιώντας κατάλληλο έλεγχο γραμμικής τάσης με την πεποίθηση ότι το χρονικό σημείο καμπής, ουσιαστικά, χωρίζει την αρχική χρονοσειρά σε δύο επιμέρους τμήματα, με διαφορετική γραμμική τάση στο κάθε ένα. Επίσης συγκρίνουμε τη μέθοδό μας με μια μέθοδο γνωστή από τη βιβλιογραφία προκειμένου να διαπιστώσουμε την αποδοτικότητα τους στην ανίχνευση του χρονικού σημείου καμπής και ειδικότερα του σημείου εμφάνισης γραμμικής τάσης. Το στοχαστικό μοντέλο που χρησιμοποιείται για να προσεγγίσει χρονοσειρές με ένα σημείο καμπής δίνεται από τον τύπο Yt = dt + () όπου Y είναι η παρατήρηση της χρονικής σειράς τη χρονική στιγμή t, d το t σύστημα παραγωγής της χρονοσειράς με ένα σημείο καμπής και χρονοσειρά των υπολοίπων (Perron et. al. 5). t είναι η - 3 -
Για να καλύψουμε διαφορετικά συστήματα χρονοσειρών θεωρούμε ότι τα υπόλοιπα ut στην () μπορεί να είναι λευκός θόρυβος at, ή έγχρωμος θόρυβος που ορίζεται από στάσιμο αυτοπαλινδρομούμενο μοντέλο τάξης, AR(), ut = φ ut + at. Σε κάθε περίπτωση για το a t θεωρούμε ότι ακολουθεί κανονική κατανομή N (,) ή κάποια άλλη κατανομή, όπως ομοιόμορφη U[.5,.5] και εκθετική με κατάλληλη μετατόπιση /λ για να έχει μέση τιμή. Δημιουργούμε Monte Carlo πραγματοποιήσεις όλων αυτών των συστημάτων για διαφορετικές θέσεις ύπαρξης του χρονικού σημείου καμπής καθώς και διαφορετικές τιμές γραμμικής τάσης μετά το σημείο αλλαγής, θεωρώντας ότι πριν το σημείο δεν υπάρχει τάση. Από τα αποτελέσματα της σύγκρισης των μεθόδων επιλέγουμε την καλύτερη και την εφαρμόζουμε σε ένα πρόβλημα ανίχνευσης του χρόνου αξιοπιστίας ενός τεστ εγκυμοσύνης.. ΣΥΣΤΗΜΑ ΠΑΡΑΓΩΓΗΣ ΧΡΟΝΟΣΕΙΡΑΣ ΜΕ ΕΝΑ ΣΗΜΕΙΟ ΚΑΜΠΗΣ Γενικά για μία χρονοσειρά Y,..., YN, το dt στην () μπορεί να δοθεί από τον τύπο dt = μ+β t+ bbt (), αν t T με Bt = όπου μ ο σταθερός όρος μετατόπισης, β ο συντελεστής t T, αν t > T αρχικής τάσης, b η παράμετρος αλλαγής της τάσης και η χρονική στιγμή αλλαγής τάσης. Στην εργασία κατασκευάζουμε τις χρονοσειρές έτσι ώστε να μην έχουν αρχική τάση (β=), δηλαδή θεωρούμε την αλλαγή στο Τ από στάσιμη χρονοσειρά σε χρονοσειρά με γραμμική τάση. 3. ΜΕΘΟΔΟΙ ΑΝΙΧΝΕΥΣΗΣ ΤΟΥ ΧΡΟΝΙΚΟΥ ΣΗΜΕΙΟΥ ΚΑΜΠΗΣ Συγκρίναμε δύο μεθόδους ανίχνευσης του χρονικού σημείου καμπής T. Η πρώτη μέθοδος, γνωστή από τη βιβλιογραφία, υποθέτει ότι κάθε σημείο της χρονοσειράς είναι πιθανό σημείο καμπής και η ανίχνευσή του πραγματοποιείται μέσω της ελαχιστοποίησης μιας συνάρτησης σφάλματος (Perron et. al. 5). Η δεύτερη μέθοδος ανιχνεύει γραμμική τάση σε κυλιόμενο παράθυρο ορισμένου σταθερού μήκους σε όλο το μήκος της χρονοσειράς. 3. Μέθοδος : Ελαχιστοποίηση συνάρτησης σφάλματος Το εκτιμώμενο σημείο αλλαγής Τ δίνεται από τον τύπο T = argminy'( P )Y (3) T T Τ - 4 -
όπου Y ' = [y,..., y ] οι παρατηρήσεις της αρχικής χρονοσειράς, T P = X (X' X )X' T T T T T XT όπου x x Τ Τ ο πίνακας προβολής που κατασκευάζεται από τα στοιχεία Χ ' = [ ( Τ ),..., ( Τ ) ] και x'( Τ ) t = [, t, Β t] ο πίνακας που αναλογεί στο μοντέλο κατασκευής χρονοσειρών με ένα σημείο αλλαγής τάσης. 3. Μέθοδος : Παραμετρικός έλεγχος γραμμικής τάσης Για την ανίχνευση γραμμικής τάσης, χρησιμοποιήσαμε παραμετρικό έλεγχο γραμμικής τάσης σε κυλιόμενο παράθυρο μεγέθους n στην χρονοσειρά, t =,..., N. Για χρόνους k =,..., N n+ θεωρούμε το μοντέλο zt = μ + bt+ ut για το παράθυρο με αρχή k, δηλαδή { z,..., zn} = { Yk,..., Y k+ n }. Ο εκτιμητής ελαχίστων τετραγώνων για το συντελεστή τάσης b δίνεται από τη σχέση ˆb = n n ( t t) zt / ( t t) (4) t= t= και η τυπική απόκλιση του b εκτιμάται χρησιμοποιώντας το φάσμα ισχύος των υπολοίπων E, S( f ), όπως πρότειναν οι Bloomfield και Nychka (99). Η τυπική t απόκλιση του b δίνεται από την σχέση όπου W ( f ) = b e t n t= πift.5 sb ( )= ( ) ( ) (5) W f S f df - 5 - / και η στατιστική συνάρτηση ελέγχου για τη μηδενική υπόθεση b= σε κάθε παράθυρο με αρχή k, είναι tk ( ) = b / s ( b ) και ακολουθεί κατανομή. Η επιλογή του συγκεκριμένου παραμετρικού ελέγχου βασίζεται στη μεγάλη αποτελεσματικότητα του ελέγχου ανίχνευσης μικρής γραμμικής τάσης σε σχέση με άλλους παραμετρικούς και μη παραμετρικούς ελέγχους (Vafeiadis et. al. 7). Χρησιμοποιώντας βήμα για τη μετακίνηση του παραθύρου, υπολογίζουμε την συνάρτηση t ( k), όπου για j= το παράθυρο κυλάει από το τέλος προς την αρχή j ( k = N n+ : :) και για j= από την αρχή προς το τέλος ( k = :: N n+ ). Το t ( k) υπολογίζεται σε χρονοσειρά υπολοίπων που προκύπτει ως εξής. Προσαρμόζουμε μοντέλο Yt = a+ bt σε ένα τμήμα της χρονοσειράς με τάση, το επεκτείνουμε για όλους τους χρόνους και αφαιρούμε τις Υ t t n
t εκτιμήσεις Y από την χρονοσειρά (δες Σχήμα ). Για κάθε j, ομαλοποιούμε τη συνάρτηση t ( k) και υπολογίζουμε τη μέγιστη τιμή της πρώτης παραγώγου της j ομαλοποιημένης συνάρτησης. Με τον τρόπο αυτό, επιλέγονται δύο παράθυρα με αρχή για j= και k για j=, και η εκτίμηση είναι T = ( k + ( k + n ))/. Τα k στάδια που ακολουθούνται, φαίνονται σχηματικά στα παρακάτω γραφήματα. 8 (a) 8 (b) 6 Time series Fitted line 6 4 4 Values - Values -4 - -6 3 4 5 6 7 8 9 Time series elements -4 3 4 5 6 7 8 9 Time series elements Σχήμα. Σχηματισμός χρονοσειράς με αντιστροφή τάσης (a) αρχική χρονοσειρά με προσαρμογή της ευθείας σε ένα τμήμα όπως ορίζεται από τις κατακόρυφες γραμμές (b) χρονοσειρά υπολοίπων από την αφαίρεση της ευθείας. 4. ΠΡΟΣΟΜΟΙΩΣΕΙΣ Αρχικά κατασκευάστηκαν χρονοσειρές μήκος Ν= με σημείο αλλαγής της τάσης T = 5 και T = 35, καθώς και Ν= και T = και τιμές τάσης.6,.8 και.. Για τα υπόλοιπα θεωρήσαμε λευκό θόρυβο από κανονική, ομοιόμορφη και εκθετική κατανομή, αλλά και αυτοπαλινδρομούμενο μοντέλο τάξης, με θόρυβο εισόδου a t επίσης από τις τρεις κατανομές. Για να ελέγξουμε την επίδραση του μεγέθους της αυτοσυσχέτισης των υπολοίπων στην εκτίμηση του σημείου αλλαγής τάσης, θεωρήσαμε η παράμετρος φ (που ισούται με την αυτοσυσχέτιση υστέρησης ) να λαμβάνει τιμές.4,.5 και.6. Για κάθε περίπτωση έγιναν Monte Carlo πραγματοποιήσεις. Τα αποτελέσματα που παραθέτουμε αντιστοιχούν στην περίπτωση Ν=, =5. T Στο Σχήμα δίνονται τα θηκογράμματα για την εκτίμηση T από επαναλήψεις, για κάθε μέθοδο, για λευκό κανονικό και ομοιόμορφο θόρυβο και τιμές τάσης.6,.8 και.. - 6 -
(a) 8 7 6 5 4 589.69 3 966.8 3. 34. 45. 764. 3 4 5 6 (b) 56 54 5 5 48 4.64.44 3.59 46 44 4.47 89.3 45.5 3 4 5 6 Σχήμα. Θηκογράμματα ης και ης μεθόδου ανά τιμή τάσης (Στήλες, b=.6, Στήλες 3,4 b=.8, Στήλες 5,6 b=.) όπου το είναι λευκός κανονικός θόρυβος στο (a) και λευκός ομοιόμορφος θόρυβος στο (b). Κάτω από κάθε γράφημα δίνεται το μέσο τετραγωνικό σφάλμα εκτίμησης του T. Παρατηρούμε ότι και οι δύο εκτιμήσεις φαίνονται να είναι αμερόλυπτες με τη πρώτη εκτίμηση να έχει μικρότερη διασπορά, όπως φαίνεται από το μέσο τετραγωνικό σφάλμα MSE = ( Ti T ) (δες Σχήμα ). Αποτελέσματα i= παρόμοια με αυτά του λευκού κανονικού θορύβου είχαμε και στη περίπτωση που ο θόρυβος προέρχεται από εκθετική κατανομή. Στο Σχήμα 3 δίνονται ενδεικτικά τα ιστογράμματα για το T με τις δύο μεθόδους, για τάση b =. και όταν τα υπόλοιπα παράγονται από AR() με φ=.6 και κανονικό θόρυβο εισόδου. - 7 -
3 st Method nd Method 5 number of x-values in the bins 5 5 3 4 5 6 7 8 Time Series Elements Σχήμα 3. Ιστογράμματα για το T με τις δύο μεθόδους, όπως δίνεται στο ένθετο, όπου b =. και τα υπόλοιπα παράγονται από AR() με φ=.6 και κανονικό θόρυβο εισόδου. Στο Σχήμα 4 δίνονται τα θηκογράμματα για κάθε μέθοδο όταν τα υπόλοιπα ακολουθούν AR() με φ=.4 για κανονικό και ομοιόμορφο θόρυβο εισόδου αντίστοιχα και τιμές τάσης.6,.8 και.. Για σύγκριση, παραθέτουμε στον οριζόντιο άξονα το μέσο τετραγωνικό σφάλμα για τη περίπτωση όπου ακολουθεί AR() όταν φ=.6, για τα ίδια σενάρια θορύβου εισόδου και τάσης. (a) 8 7 6 5 4 589.69 3 966.8 3. 34. 45. 764. 5398. 94. 795. 844. 744. 69. (b) 6 55 5 45 7.3 63.98 39.69 4 673. 97. 59. 33. 36. 5.6 89. 9.79 55. - 8 -
Σχήμα 4. Θηκογράμματα ης και ης μεθόδου ανά τιμή τάσης (Στήλες, b=.6, Στήλες 3,4 b=.8, Στήλες 5,6 b=.) όπου το ακολουθεί AR() με φ=.4 με θόρυβο εισόδου από κανονική κατανομή στο (a) και ομοιόμορφη κατανομή στο (b). Κάτω από κάθε γράφημα δίνεται, το μέσο τετραγωνικό σφάλμα εκτίμησης του T για φ=.4 και στον οριζόντιο άξονα για φ=.6 Παρατηρούμε, όπως και στην περίπτωση όπου τα υπόλοιπα ακολουθούν λευκό θόρυβο, ότι και πάλι η πρώτη μέθοδος ανιχνεύει με πολύ μικρότερο σφάλμα σε σχέση με τη δεύτερη το σημείο αλλαγής που έχουμε ορίσει σε κάθε διάστημα. Παρατηρείται, βέβαια, μια αύξηση του μέσου τετραγωνικού σφάλματος στη πρώτη μέθοδο δυσανάλογη με τη δεύτερη όταν η παράμετρος φ αυξάνει από.4 σε.6, αλλά χωρίς να επηρεάζει τα μέχρι τώρα αποτελέσματα. Αποτελέσματα παρόμοια με αυτά του λευκού κανονικού θορύβου είχαμε και την περίπτωση όπου ο θόρυβος προέρχεται από εκθετική κατανομή. Στα υπόλοιπα σενάρια προσομοιώσεων για Ν και που πραγματοποιήσαμε, η πρώτη μέθοδος εξακολουθεί να συμπεριφέρεται καλύτερα από τη δεύτερη. 5. ΕΦΑΡΜΟΓΗ T Εφαρμόστηκε η πρώτη μέθοδος σε ένα πρόβλημα ανίχνευσης του χρόνου αξιοπιστίας ενός τεστ εγκυμοσύνης. Πάρθηκαν δείγματα ούρων από μη έγκυες γυναίκες, στα οποία προστέθηκαν 5 (Concentration 5) και 5 (Concentration 5) miu από την ουσία hcg/ml αντίστοιχα, ουσία που ανιχνεύεται στις γυναίκες σε κατάσταση εγκυμοσύνης. Δημιουργήθηκε ένα σύνολο από 5 δείγματα για κάθε περίπτωση. Μετρήθηκε η τιμή ενός δείκτη του τεστ εγκυμοσύνης για χρονικό διάστημα 36 δευτ. για κάθε ένα από τα 5 δείγματα, που παρουσιάζει αυξητικές τάσεις, όπως φαίνεται στο Σχήμα 5a. 8 (a) (b) 6 6 4 Concentration Values 4 - Seconds 8 6 4-4 -6 5 5 5 3 35 4 Seconds Con 5 Con 5-9 - 8 6 Concentration samples Σχήμα 5. (α) Γράφημα τιμών του δείκτη για ένα δείγμα με συγκέντρωση 5 κι ένα με συγκέντρωση 5, όπως δίνεται στο ένθετο. (b) Θηκογράμματα εκτίμησης του T για συγκεντρώσεις 5 () και 5 () miu ουσίας hcg/ml στα 5 δείγματα της κάθε περίπτωσης.
Η μέθοδος έδειξε ότι το τεστ εγκυμοσύνης ανταποκρίνεται ικανοποιητικά σε ένα μέσο χρονικό διάστημα δευτ.(τυπική απόκλιση 43 δευτ.), όταν η συγκέντρωση είναι υψηλή (5 miu) (δες Σχήμα 5b), ενώ όταν η συγκέντρωση δεν είναι υψηλή ο μέσος χρόνος απόκρισης του τεστ αυξάνει στα 5 δευτ.(τυπική απόκλιση 63 δευτ.). 6. ΣΥΜΠΕΡΑΣΜΑΤΑ Οι προσομοιώσεις σε διαφορετικά σενάρια μήκους χρονοσειράς, μεγέθους τάσης, κατανομής και αυτοσυσχέτισης υπολοίπων έδειξαν ότι η πρώτη μέθοδος είναι πιο ακριβής στην ανίχνευση του σημείου αλλαγής τάσης σε σχέση με την δεύτερη, η οποία παρουσιάζει μεγαλύτερη μεταβλητότητα. Η αύξηση της αυτοσυσχέτισης επηρεάζει σημαντικά τη συμπεριφορά και των δύο μεθόδων, στοιχείο που απαιτεί περαιτέρω διερεύνηση. Το μήκος του παραθύρου, παίζει σημαντικό ρόλο στα αποτελέσματα της δεύτερης μεθόδου και η σχέση τους θα διερευνηθεί. ABSTRACT The estimation of a single turning point in a time series at some unknown position, is a major matter in most areas i.e. climatology. This work compares an existing method with a newly developed in their efficiency of estimating a single turning point and specifically a time point of linear trend occurrence in time series, through Monte Carlo simulations for different trend and residual scenarios. ΑΝΑΦΟΡΕΣ Bloomfield P. and Nychka D. (99). Climate Spectra and Detecting Climate Change. Climatic Change vol. pp. 75-87 Feidas H., Makrogiannis T. and Bora-Senta E. (4). Trend analysis of Air Temperature Time Series Data In Greece Determined By Ground and Satellite Data. Theoretical and Applied Climatology vol 79, pp.85-8 Hundecha Y. and Bardossy A. (5). Trends in daily precipitation and temperature extremes across western germany in the second half oh th century.international Journal of Climatology vol. 5 pp. 89- Perron P. (989). The great crash, the oil price shock, and the unit root hypothesis. Econometrica vol. 57 pp. 36-4 Perron P. and Ζhu X. (5). Structural breaks with deterministic and stochastic trends. Journal of Econometrics vol. 9 pp. 65-9 Vafeiadis T., Bora-Senta E. and Kugiumtzis D. (7). Evaluation of linear trend tests using resampling techniques (Υπό κρίση). - -