Χρονικές σειρές 6 Ο μάθημα: Αυτοπαλίνδρομα μοντέλα (2)

Χρονικές σειρές 6 Ο μάθημα: Αυτοπαλίνδρομα μοντέλα (2) Εαρινό εξάμηνο 2018-2019 Τμήμα Μαθηματικών ΑΠΘ Διδάσκουσα: Αγγελική Παπάνα Μεταδιδακτορική Ερευνήτρια Πολυτεχνική σχολή, Α.Π.Θ. & Οικονομικό Τμήμα, Πανεπιστήμιο Μακεδονίας http://users.auth.gr/~agpapana/ 1

Μερική αυτοσυσχέτιση Οι συντελεστές ρ ss για διάφορες τιμές του s είναι η συνάρτηση μερικής αυτοσυσχέτισης: ρ ss = 1 ρ 1.. ρ 1 ρ. 1. 1.... ρ. 2. ρ s 1 ρ s 2.. ρ s 1 ρ 1.. ρ s 1 ρ. 1. 1.... ρ s 2.. ρ s 1 ρ s 2.. 1 2

AR(1) ρ 11 = ρ 1 = α 1 ρ ss = 0, για s > 1 AR(2) ρ 11 = ρ 1 ρ 22 = ρ 2 ρ 1 2 1 ρ 1 2 ρ ss = 0, για s > 2 AR(p) ρ 11 = ρ 1 0 ρ 22 0 ρ pp 0 ρ ss = 0, για s > p 3

Έλεγχος σημαντικότητας συντελεστών αυτοσυσχέτισης Στην πράξη, επειδή οι αληθινές μερικές αυτοσυσχετίσεις ρ ss και οι αληθινές αυτοσυσχετίσεις ρ s δεν είναι γνωστές, χρησιμοποιούνται οι αντίστοιχες εκτιμήσεις τους από το δείγμα. Με βάση τις εκτιμήσεις αυτές, μπορεί να γίνει έλεγχος σημαντικότητας των παραμέτρων στον πληθυσμό. Για μεγάλα δείγματα οι εκτιμήσεις ρ s των αυτοσυσχετίσεων ρ s κατανέμονται κανονικά με μέσο μηδέν και διακύμανση 1/Τ, όπου Τ το μέγεθος του δείγματος. Το ίδιο ισχύει και για τις εκτιμήσεις ρ ss των μερικών αυτοσυσχετίσεων ρ ss, για υστερήσεις s μεγαλύτερες από την τάξη p της AR διαδικασίας. 4

Δηλαδή: ρ s ~Ν(0, 1 Τ ) ρ ss ~Ν(0, 1 ) για s > p Τ Ο έλεγχος της στατιστικής σημαντικότητας του συντελεστή ρ s, δηλαδή ο έλεγχος της υποθέσεως: Η 0 : ρ s = 0 Η 1 : ρ s 0 γίνεται με την στατιστική: t s = ρ s = ρ s Τ 1 Τ 5

Για δεδομένο επίπεδο σημαντικότητας α, η μηδενική υπόθεση απορρίπτεται αν η τιμή του στατιστικού t s > κρίσιμη τιμή του t. Επειδή για Τ > 30 η κρίσιμη τιμή του t για α = 5% είναι περίπου ±2, η μηδενική υπόθεση απορρίπτεται αν t s > 2 Το 95% διάστημα εμπιστοσύνης για το ρ s είναι: ρ s 2 Τ ρ s ρ s + 2 Τ 6

Έλεγχος στατιστικής σημαντικότητας του μερικού συντελεστή αυτοσυσχέτισης Ο συντελεστής ρ ss είναι σημαντικός αν ρ ss Τ > 2 Με βάση τον παραπάνω έλεγχο σημαντικότητας των μερικών συντελεστών αυτοσυσχέτισης μπορεί να καθοριστεί η τάξη μιας AR διαδικασίας. Δηλαδή εξετάζοντας την ακολουθία των τιμών t s για s = 1,2, επιλέγεται ως τάξη της σειράς αυτή που αντιστοιχεί στην τελευταία σημαντική τιμή του t s. 7

Παράδειγμα Έστω δείγμα 100 παρατηρήσεων και με βάση την σχέση προέκυψαν οι παλινδρομήσεις: y t = 0.464y t 1 y t = ρ 1s y t 1 + ρ 2s y t 2 + ρ 3s y t 3 + + ρ ss y t s + ε t y t = 0.212y t 1 + 0.493y t 2 y t = 0.221y t 1 + 0.498y t 2 0.017y t 3 Επομένως: ρ 11 = 0.464 και t 1 = 0.464 100 = 4.64 > 2 ρ 22 = 0.493 και t 2 = 0.493 100 = 4.93 > 2 ρ 33 = 0.017 και t 3 = 0.017 100 = 0.17 < 2 8

Τα ρ 11, ρ 22 στατιστικά σημαντικά, ενώ ο μερικός συντελεστής συσχέτισης ρ 33 δεν είναι σημαντικός. Επομένως μπορούμε να θεωρήσουμε ότι το δείγμα προέρχεται από μια AR(2) διαδικασία. 9

Εκτίμηση υποδειγμάτων AR Αν ένα δείγμα προέρχεται από μια διαδικασία AR, με βάση την δειγματική (εκτιμημένη) συνάρτηση μερικής αυτοσυσχέτισης μπορεί να καθοριστεί η τάξη p του μοντέλου. Αν υποθέσουμε ότι γνωρίζουμε την τάξη του μοντέλου, το ερώτημα είναι πως μπορούμε να εκτιμήσουμε τις παραμέτρους του. 1ος τρόπος Χρησιμοποιούμε τις εξισώσεις Yule-Walker ή την σχέση Α = Π 1 R αντικαθιστώντας τις αυτοσυσχετίσεις ρ s με τις εκτιμήσεις ρ s από το δείγμα, οι οποίες προκύπτουν από την σχέση: ρ s = t=1 T (Y t Y)(Y t+s Y) t=1 T (Y t Y) 2 ή ρ s = T 1 Τ s t=1 T (Y t Y)(Y t+s Y) t=1 T (Y t Y) 2 10

2ος τρόπος Χρησιμοποιούμε την μέθοδο ελαχίστων τετραγώνων. Το μοντέλο AR(p) στην γενική μορφή του Υ t = δ + α 1 Υ t 1 + α 2 Υ t 2 + + α p Y t p + ε t μπορεί να θεωρηθεί ως ένα γραμμικό μοντέλο με p ανεξάρτητες μεταβλητές. Μόνο που οι μεταβλητές αυτές είναι στοχαστικές. Οι εκτιμητές που προκύπτουν από την μέθοδο ελαχίστων τετραγώνων έχουν τις ιδιότητες μεγάλων δειγμάτων. Είναι δηλαδή συνεπείς και ακολουθούν την κανονική κατανομή. Για ένα δείγμα Τ παρατηρήσεων έχουμε το ακόλουθο σύστημα Τ p εξισώσεων: 11

Με την χρήση πινάκων, το παραπάνω σύστημα γράφεται όπου Υ = Υ p+1 Υ p+2... Υ T, β = Υ p+1 = δ + α 1 Υ p + α 2 Υ p 1 + + α p Y 1 + ε p+1 Υ p+2 = δ + α 1 Υ p+1 + α 2 Υ p + + α p Y 2 + ε p+2 δ α 1... α p, ε =.. Υ T = δ + α 1 Υ T 1 + α 2 Υ T 2 + + α p Y T p + ε T ε p+1 ε p+2... ε T, Χ = 1 Υ p Υ p 1 1 Υ p+1 Υ p...... 1 Υ Τ 1 Υ Τ 2 Υ = Χβ + ε Υ p 2.. Υ 1 Υ p 1.. Υ 2...... Υ Τ 3.. Υ Τ p 12

Οι εκτιμητές ελαχίστων τετραγώνων δίνονται από την σχέση όπου β = δ α 1... α p. β = (Χ Χ) 1 Χ Υ Ο πίνακας των διακυμάνσεων συνδιακυμάνσεων των εκτιμητών είναι: s 2 = (Y X β) (Y X β) T p (p + 1) = ε 2 T 2p 1 Ένας εκτιμητής του μέσου της ΑR(p) διαδικασίας δίνεται από την σχέση μ = δ 1 α 1.. α p 13

Παράδειγμα Δίνονται 100 παρατηρήσεις μιας χρονολογικής σειράς Υ. Οι παρατηρήσεις είναι «κατασκευασμένες» με βάση το μοντέλο Υ t = 0.3Υ t 1 + 0.5Υ t 2 + ε t υποθέτοντας ότι ε t λευκός θόρυβος. Η σειρά είναι στάσιμη. Παρακάτω φαίνονται οι γραφικές παραστάσεις της χρονοσειράς, της συνάρτησης αυτοσυσχέτισης και μερικής αυτοσυσχέτισης. 14

>> [acm,lags,bounds]=autocorr(xv) >> [pacm,lags,bounds]=parcorr(xv) Υστέρηση Συνάρτηση αυτοσυσχέτισης Συνάρτηση μερικής αυτοσυσχέτισης 1 0.5836 0.5852 2 0.6277 0.4384 3 0.4832 0.0476 4 0.4415 0.0213 95% δ.ε. για τις αυτοσυσχετίσεις: [-0.20, 0. 20] 95% δ.ε. για τις μερικές αυτοσυσχετίσεις: [-0.20, 0. 20] 15

Οι πρώτες 9 αυτοσυσχετίσεις είναι σημαντικές. Οι πρώτες 2 μερικές αυτοσυσχετίσεις είναι σημαντικές. Για να εκτιμήσουμε το μοντέλο AR(2), θα χρησιμοποιήσουμε την μέθοδο των ελαχίστων τετραγώνων, δηλαδή θα εκτιμήσουμε το υπόδειγμα Υ t = δ + α 1 Υ t 1 + α 2 Υ t 2 + ε t 16

Εκτίμηση συντελεστών μοντέλου (Μέθοδος Yule-Walker) >> MODEL = ar(xv,2, yw') MODEL = Discrete-time AR model: A(z)y(t) = e(t) A(z) = 1-0.3324 z^-1-0.4432 z^-2 Sample time: 1 seconds Parameterization: Polynomial orders: na=2 Number of free coefficients: 2 Status: Estimated using AR ('yw/ppw') on "xv". Fit to estimation data: 27.89% FPE: 0.9585, MSE: 0.9046 17

Εκτίμηση συντελεστών μοντέλου (Μέθοδος ελαχίστων τετραγώνων) >> MODEL = ar(xv,2,'ls') MODEL = Discrete-time AR model: A(z)y(t) = e(t) A(z) = 1-0.332 z^-1-0.4439 z^-2 Sample time: 1 seconds Parameterization: Polynomial orders: na=2 Number of free coefficients: 2 Status: Estimated using AR ('ls/now') on "xv". Fit to estimation data: 27.89% FPE: 0.9599, MSE (mean square error): 0.9046 18

Οι εκτιμήσεις των συντελεστών του μοντέλου (και με τις 2 μεθόδους) δεν συμπίπτουν με τις πραγματικές, αλλά είναι πολύ κοντά. Εκτίμηση υπολοίπων / διαταρρακτικού όρου >> et = resid(model,xv) 19

Άσκηση 1 Έστω η ακόλουθη AR(1) διαδικασία Υ t = 5 + 0.5Υ t 1 + ε t. Το ε t είναι λευκός θόρυβος με διακύμανση ίση με σ ε 2 = 4. α) Είναι η διαδικασία στάσιμη; β) Να διατυπωθεί η σειρά ως γραμμικό φίλτρο. γ) Να βρεθούν ο μέσος, οι αυτοσυνδιακυμάνσεις και αυτοσυσχετίσεις για υστερήσεις s = 1,2,3. δ) Να γίνει το διάγραμμα αυτοσυσχέτισης. 20

Λύση α) Η AR(1) διαδικασία Υ t = 5 + 0.5Υ t 1 + ε t είναι στάσιμη γιατί ο συντελεστής της Υ t 1 είναι μικρότερος από την μονάδα. β) Ως γραμμικό φίλτρο η δοθείσα σειρά διατυπώνεται ως εξής: Υ t = 5 + 0.5Υ t 1 + ε t (Θέτω y t = Y t μ) y t = 0.5y t 1 + ε t y t = 0.5(0.5y t 2 + ε t 1 ) + ε t y t = 0.5 2 y t 2 + 0.5ε t 1 + ε t y t = 0.5 2 (0.5y t 3 + ε t 2 ) + 0.5ε t 1 + ε t y t = 0.5 3 y t 3 + 0.5 2 ε t 2 + 0.5ε t 1 + ε t Υ t = ε t + 0.5ε t 1 + 0.5 2 ε t 2 + 0.5 3 ε t 3 + 21

γ) Ο μέσος δίνεται από την σχέση: μ = α 0 = 5 = 10. 1 α 1 1 0.5 Οι αυτοσυνδιακυμάνσεις για υστερήσεις s = 1,2,3 είναι: γ 0 = σ 2 1 2 1 α = 4 1 1 1 0.5 2 = 5.33 γ 1 = α 1 γ 0 = 0.5 5.33 = 2.665 γ 2 = αγ 0 = 0.5 2 5.33 = 1.3325 Οι αυτοσυσχετίσεις για υστερήσεις s = 1,2,3 είναι: ρ 1 = α 1 = 0.5 ρ 2 = α 1 2 = 0.5 2 = 0.25 ρ 3 = α 1 3 = 0.5 3 = 0.125 22

δ) Διάγραμμα αυτοσυσχέτισης ρ 1 = α 1 = 0.5 ρ 2 = α 2 1 = 0.5 2 = 0.25 ρ 3 = α 3 1 = 0.5 3 = 0.125 ρ 4 = α 4 1 = 0.5 4 = 0.0625 ρ 5 = α 5 1 = 0.5 5 = 0.0313 23

Άσκηση 2 Έστω η ακόλουθη στοχαστική διαδικασία Υ t = 10 + 1.5Υ t 1 0.6Υ t 2 + ε t. Το ε t είναι λευκός θόρυβος με διακύμανση ίση με σ ε 2 = 1. α) Να διατυπωθεί η παραπάνω διαδικασία με τον συμβολισμό του τελεστή υστερήσεως L. β) Είναι η σειρά στάσιμη; γ) Ποιος είναι ο μέσος της σειράς; δ) Να διατυπωθούν και να λυθούν οι εξισώσεις Yule-Walker. ε) Να γίνει το διάγραμμα αυτοσυσχέτισης. στ) Να βρεθούν οι μερικές αυτοσυσχετίσεις και να γίνει διάγραμμα μερικών αυτοσυσχετίσεων. 24

Λύση α) Υ t = 10 + 1.5Υ t 1 0.6Υ t 2 + ε t Θέτω y t = Y t μ y t = 1.5y t 1 0.6y t 2 + ε t y t 1.5y t 1 + 0.6y t 2 = ε t (1 1.5L + 0.6L 2 )y t = ε t β) H σειρά είναι στάσιμη επειδή ικανοποιούνται οι σχέσεις α 1 + α 2 < 1, α 1 + α 2 < 1, 1 < α 2 < 1 α 1 + α 2 = 1.5 + 0.6 = 0.9 < 1 α 1 + α 2 = 1.5 + 0.6 = 2.1 < 1 1 < α 2 = 0.6 < 1 25

γ) Ο μέσος της σειράς είναι: α 0 μ = = 1 α 1 α 2 δ) Οι εξισώσεις Yule-Walker είναι: 10 1 1.5 ( 0.6) = 100 ρ 1 = α 1 + α 2 ρ 1 ρ 1 = 1.5 0.6ρ 1 ρ 1 = 0.94 ρ 2 = α 1 ρ 1 + α 2 ρ 2 = α 1 ρ 1 + α 2 ρ 2 = 0.81 Για s > 2: ρ s = a 1 ρ s 1 + a 2 ρ s 2 ρ 3 = a 1 ρ 2 + a 2 ρ 1 = 0.6510 ρ 4 = a 1 ρ 3 + a 2 ρ 2 = 0.4905 ρ 5 = a 1 ρ 4 + a 2 ρ 3 = 0.3452 ρ 6 = a 1 ρ 5 + a 2 ρ 4 = 0.2235 26

ε) Διάγραμμα αυτοσυσχέτισης. 27

στ) Μερικές αυτοσυσχετίσεις ρ 11 = ρ 1 = 0.94 ρ 22 = ρ 2 ρ 1 2 1 + ρ 1 2 = 0.58 ρ ss = 0, για s > 2 Διάγραμμα μερικών αυτοσυσχετίσεων 28

Άσκηση 3 Από ένα δείγμα 100 παρατηρήσεων για την μεταβλητή Υ προέκυψαν οι εξής παλινδρομήσεις y t = 0.556y t 1 y t = 0.325y t 1 + 0.442y t 2 y t = 0.112y t 1 + 0.385y t 2 + 0.130y t 3 Μπορείτε με βάση τα παραπάνω, να ισχυριστείτε ότι το δείγμα προέρχεται από μια AR(3) διαδικασία; 29

y t = 0.556y t 1 y t = 0.325y t 1 + 0.442y t 2 y t = 0.112y t 1 + 0.385y t 2 + 0.130y t 3 Πρέπει να κάνουμε έλεγχο στατιστικής σημαντικότητας των μερικών αυτοσυσχετίσεων με τη στατιστική t. Είναι ρ 11 = 0.556, t 1 = 0.556 100 = 5.56 > 2 στατιστικά σημαντικό ρ 22 = 0.442, t 2 = 0.442 100 = 4.42 > 2 στατιστικά σημαντικό ρ 33 = 0.130, t 2 = 0.130 100 = 1.30 < 2 δεν είναι στατιστικά σημαντικό Άρα δεν μπορούμε να θεωρήσουμε ότι το δείγμα προέρχεται από μια AR(3) διαδικασία. 30

Βιβλιογραφία 1. Ε. Μπόρα Σέντα, Χ. Μωυσιάδης. Εφαρμοσμένη στατιστική, Β έκδοση, Εκδόσεις Ζήτη, 1995. 2. Γ. Κ. Χρήστου. Εισαγωγή στην Οικονομετρία, Β τόμος (Γ έκδοση), Εκδόσεις Gutenberg, 2007. 3. Δ. Κουγιουμτζής. Σημειώσεις μαθήματος Χρονοσειρών. Τμήμα Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών, ΑΠΘ. 4. Γ.Ε. Κοκολάκης. Σημειώσεις ανάλυσης Χρονοσειρών. Σχολή Εφαρμοσμένων Μαθηματικών & Φυσικών Επιστημών, Αθήνα. 31