Analiza vremenskih serija Osnovni pojmovi

Analiza vremenskih serija Osnovni pojmovi Slučajan proces i vremenska serija Sacionarnos Osnovni modeli sacionarnih vremenskih serija Auokorelaciona funkcija (obična i parcijalna) Tesovi auokorelacije Primeri Slučajan proces i vremenska serija Slučajan proces: niz slučajnih promenljivih koje su uređene u odnosu na vreme Uobičajena oznaka: X, X,... X, =,,... Vremenska serija: I koncep: jedna realizacija slučajnog procesa II koncep: ne posoji razlika između vremenske serije i slučajnog procesa Termine korisimo kao sinonime: vremenski niz slučajnih promenljivih. Ekonomski fakule, Beograd, /00.

Sacionarnos I Sacionarnos vremenske serije: vremenska serija se kreće po prepoznaljivoj puanji okom vremena Dva koncepa: sroga i slaba sacionarnos Definicija slabe sacionarnosi:. E(.var 3.cov X ) = µ = cons, =,,... ( X ) = E( X µ ) = cons, =,,... ( X,X ) = E( X µ )( X µ ) = γ ( k =,,..., k =,,... k -k ), 3 Sacionarnos II Očekivana vrednos i varijansa slabo sacionarne vremenske serije su invarijanne u odnosu na vreme. Transliranjem u vremenu ove dve veličine se ne menjaju. Kovarijansa između članova vremenske serije zavisi samo od rasojanja (docnje), a ne od vremenskog renuka. To znači da je za dau docnju k kovarijansa isa: ( X,X ) = cons za dao k i,,... cov = k, 4 Ekonomski fakule, Beograd, /00.

Najjednosavniji primer sacionarne vremenske serije: beli šum (engl. whie noise) E( e ) = 0, =,,... var cov ( e ) E( e ) = = σ = cons, =,,... ( e,e ) = E( e e ) = 0, =,,..., k =,,... k -k Niz nekorelisanih slučajnih promenljivih nule srednje vrednosi i sabilne varijanse 5 Gausov beli šum E( e ) = 0, =,,... var ( e ) e : Ν = E( e ( e,e ) k ( 0, σ ) ) = σ = E( e e -k, =,,... = cons, =,,... Članovi vremenske serije su nezavisne sl. promenljive cov ) = 0, =,,..., k =,,... Niz nezavisnih slučajnih promenljivih koje su normalno raspodeljene sa nulom srednjom vrednošću i sabilnom varijansom 6 Ekonomski fakule, Beograd, /00.

Gausov beli šum: grafički prikaz G eneris ani G aus ov beli s um (e) 3. 0. 5. 0. 5. 0 6 4 0 8 Series: e Sample 00 Observaions 00 Mean 0.088759 Maximum.75893 Minimum -.60497 Sd. Dev. 0.95387 0. 5 0. 0-0. 5 6 4 0 -. 0 8 -. 5 6 -. 0 4 -. 5-3. 0 5 5 0 7 5 0 0 5 5 0 7 5 0 0 0 - - 0 3 7 Osnovni modeli sacionarnih vremenskih serija Auoregresioni modeli (AR) Modeli pokrenih proseka (MA) Auoregresioni modeli pokrenih proseka (ARMA) 8 Ekonomski fakule, Beograd, /00.

AR(p) model Opše forme modela sacionarnih vremenskih serija X = φx + φx +... + φ p X p + e MA(q) model X = e θe θe... θqe q ARMA(p,q) model Parameri modela su: 9 X = φx + φx +... + φp X p + e θe θe... θqe q φ, φ φ θ θ θ,..., p,,,..., q Primer AR() modela 5 X = 0.7* X -+ e 5 X = -0.7*X -+ e 4 4 3 3 0 0 - - - - - 3-3 - 4-4 - 5-5 5 0 00 5 0 0 0 5 0 3 0 0 3 5 0 4 0 0 5 0 0 0 5 0 0 0 5 0 3 0 0 3 5 0 4 0 0 0 Ekonomski fakule, Beograd, /00.

Primer MA() modela 4 X=e+0.8e- 4.0 X=e-0.8e- 3.5 3 3.0.5.0.5.0 0 0.5 0.0 - -0.5 -.0 - -.5-3 -.0 -.5-4 -3.0-3.5-5 50 00 50 00 50 300 350 400-4.0 50 00 50 00 50 300 350 400 Uslov sacionarnosi I Relevanan kod AR modela i ARMA modela AR(p) model: X = φx + φx +... + φpx p + e X φx φx... φpx p = e AR modelu reda p može se pridružii karakerisična jednačina oblika: g p φ g p g p φ... φp = 0 gde g, g,..., g p označavaju rešenja (korene) karakerisične jednačine. Sacionarnos vremenske serije koja je opisana AR(p) modelom zavisi od rešenja karakerisične jednačine g, g,..., g p. Ekonomski fakule, Beograd, /00.

Uslov sacionarnosi II Može se pokazai da važi sledeća eorema: Ukoliko su svi koreni g, g,..., g p po modulu srogo manji od jedan, onda je vremenska serija sacionarna. Ukoliko posoji bar jedan koren g i, i=,,..., p, koji je jednak vrednosi jedan po modulu, dok su drugi koreni srogo manji od jedan po modulu, onda je vremenska serija nesacionarna. Takva vremenska serija se uobičajeno naziva vremenska serija sa jediničnim korenom. Ukoliko posoji bar jedan koren g i, i=,,...,p, koji je po modulu srogo veći od jedan, dok su drugi srogo manji od jedan, ada je vremenska serija eksplozivna. To znači da je vremenska serija pod uicajem kumulisanog dejsva rajno rasućeg efeka neočekivanih slučajnih šokova. 3 Uslov sacionarnosi kod AR() modela: auoregresioni paramear je po modulu srogo manji od jedan, < X = φ X- + e = φ = φ =... [ φ X + e ] - + e [ φ X + e ] -3 + e + φe 3 = e + φe + φ e + φ e 3 +... φ ( 3 ) e e e e... σ ( 4 6 + φ + φ + φ + = + φ + φ + φ +...) var(x ) = var 3 Da bi varijansa bila konacna, neophodno je da vazi φ <. Tada je: var(x ) ( 4 6 σ + φ + φ + φ +...) =. = σ 4 44 444 3 φ φ 4 Ekonomski fakule, Beograd, /00.

Obična i parcijalna auokorelaciona funkcija Kako uvrdii koji od modela odgovara daom skupu podaaka? Porebno je da analiziramo korelacionu srukuru podaka. Auokorelacioni koeficijen (obični) na docnji k: Niz ρ, ρ, predsavlja običnu auokorelacionu funkciju. Grafički prikaz niza ρ, ρ, naziva se obični korelogram. EVIEWS oznaka: AC. 5 ρ = k cov( X,X k ) ρk = var( X ) cov( X cov( X,X k ) var( X )var( X,X k k ) var( X,k ) =,,... ρk =,k = 0 ) ρk <,k =,,... Model Obična auokorelaciona funkcija jednosavnih AR i MA modela Beli šum, MA(0) 6 Uslov sacionarnosi Uvek sacionarna Obična auokorelaciona funkcija ρ k =0, k=,, AR(), 0<ф < ρ k =ф k, k=,, X =ф X - +e Opada po eksponencijalnoj puanji AR(), -<ф <0 φ ρ k =ф k <, k=,, X =ф X - +e Opada po oscilaornoj puanji (menja znak za svako k). MA(), 0<θ < X =e -θ e - Uvek sacionarna ρ = -θ /(+ θ ) < 0, ρ k =0, k=,3, MA(), -<θ <0 ρ = -θ /(+ θ ) > 0, X =e -θ e - ρ k =0, k=,3, Ekonomski fakule, Beograd, /00.

Opši oblik obične auokorelacione funkcije AR i MA modela Model Obična auokorelaciona funkcija AR(p) Opada okom vremena po eksponencijalnoj, oscilaornoj ili sinusoidnoj puanji. MA(q) ρ 0, ρ 0,..., ρ q 0, ρ k =0 za k>q. Jednaka je nuli za docnje veće od reda modela. 7 Parcijalna auokorelaciona funkcija Sepen korelisanosi između X i X -k smo merili na osnovu običnog auokorelacionog koeficijena na docnji k. Auokorelacioni koeficijen na docnji k može bii pod uicajem korelisanosi X i X -k sa članovima vremenske serije na docnjama između vremenskih renuaka i -k (X -, X -,,X -k+ ). Eliminacijom uicaja X -, X -,, X -k+ dobija se pokazaelj čise korelisanosi između X i X -k, koji se naziva parcijalni auokorelacioni koeficijen. Ovaj koeficijen na docnji k označava se sa φ kk. Niz φ φ,... predsavlja parcijalnu auokorelacionu funkciju. Grafički prikaz niza φ φ,... naziva se parcijalni korelogram. EVIEWS oznaka: PAC. 8 Ekonomski fakule, Beograd, /00.

Parcijalna auokorelaciona funkcija (definicija na osnovu regresione analize). X ocenjujemou funkcijiod X,X,...,X k+ primenommeodaonk Xˆ jedeo X kojisadrziuicaj X,X,...,X k+ ( X Xˆ ) jedeo X koji nesadrziuicajx,x,...,x k+.. X k ocenjujemou funkcijiod X,X,...,X k+ primenommeodaonk Xˆ k jedeo X k kojiobuhvaadejsvo X,X,...,X k+ ( X k Xˆ k ) jedeo X k iz koga jeiskljucen uicajx,x,...,x k+. 3. Parcijalniauokorelacionikoeficijen na docnjik definisese kaoobicniauokorelacionikoeficijen izmedju ( X Xˆ ) i ( X k Xˆ k ): cov[ ( X Xˆ ),( X k Xˆ k )] φkk = var( X Xˆ ) var( X Xˆ ) k,k =,,... k 9 Parcijalna auokorelaciona funkcija jednosavnih AR i MA modela Model Dodani opis Parcijalna auokorelaciona funkcija Beli šum, MA(0) Nekorelisan proces φ kk =0, k=,, AR(), 0<ф < X =ф X - +e Izmedju X X - nema φ =ρ =φ,k= φ kk =0, k=,3,... AR(), -<ф <0 X =ф X - +e dodanog uicaja φ =ρ =φ, k= φ kk =0, k=,3,... MA(), 0<θ < Poseduje AR Opada okom vremena po X =e -θ e - reprezenaciju eksponencijalnoj puanji. MA(), -<θ beskonačnog <0 Opada okom vremena po X reda. =e -θ e - oscilaornoj puanji. 0 Ekonomski fakule, Beograd, /00.

Opši oblik obične i parcijalne auokorelacione funkcije AR i MA modela Model Obična auokorelaciona funkcija Parcijalna auokorelaciona funkcija AR(p) Opada okom vremena po eksponencijalnoj, oscilaornoj ili sinusoidnoj puanji MA(q) ρ 0, ρ 0,..., ρ q 0, ρ k =0 za k>q. Jednaka je nuli za docnje veće od reda modela φ 0, φ 0,..., φ pp 0, φ kk =0 za k>p. Jednaka je nuli za docnje veće od reda modela Opada okom vremena po eksponencijalnoj, oscilaornoj ili sinusoidnoj puanji Tesovi auokorelacije u vremenskoj seriji. Da li posoji auokorelacija na ačno određenoj docnji k? H 0 : ρ k =0, H : ρ k 0 ili (H 0 : φ kk =0, H : φ kk 0). Da li posoji auokorelacija na svim docnjama zaključno do m? H 0 : ρ = ρ =...= ρ m =0, H : Bar jedan od auokorelacionih koeficijenaa je različi od nule. Ekonomski fakule, Beograd, /00.

Tesovi auokorelacije u vremenskoj seriji II Ocena običnog/parcijalnog auokorelacionog koef. Uzorak obima T : X,X,...,XT,X arimeicka sredina T ( X X )( X k X ) ρˆ k k = = +, k =,...,T T ( X X ) =. ρˆ k je prisrasna, ali konzisenna ocena (pod dovoljno opsim uslovima za sacionarnu vremensku seriju). Pod preposavkom da ne posoji na docnji k ( ρk = 0 ) za dovoljno veliko T ˆ 0 ˆ ρ N 0, k ρk : z = = ρˆ k T : N( 0,) T [ ρˆ T. 96] = 0. 95 P[ -.96/ T ρˆ. 96/ T ] P -.96 k T Navedena 3 svojsva vaze i za ocenu ˆφ kk. korelacija vazi : k = 0. 95 Da li posoji značajna auokorelacija na docnji k? (H 0 : ρ k =0, H : ρ k 0) Validnos hipoeze H 0 : ρ k =0 se esira proiv alernaivne H : ρ k 0, ako šo se proverava da li je ocena običnog auokorelacionog koeficijena na docnji k elemen inervala [-.96/ T,.96/ T]. Nula hipoeza se ne može odbacii ako je: [ T,.96/ T] ˆρ k -.96/ Nula hipoeza se odbacuje za nivo značajnosi 5% ako je: [ T,.96/ T] ˆρ k -.96/ 4 Ekonomski fakule, Beograd, /00.

Da li posoji značajna auokorelacija na docnji k? (H 0 : φ kk =0, H : φ kk 0) Validnos hipoeze H 0 : φ kk =0 se esira proiv alernaivne H : φ kk 0 ako šo se proverava da li je ocena parcijalnog auokorelacionog koeficijena na docnji k elemen inervala [-.96/ T,.96/ T]. Nula hipoeza se ne može odbacii ako je: Nula hipoeza se odbacuje za nivo značajnosi 5% ako je: [ T,.96/ T ] ˆkk φ -.96/ [ T,.96/ T ] ˆkk φ -.96/ 5 Da li posoji značajna auokorelacija zaključno sa docnjom m? (H 0 : ρ = ρ =...= ρ m =0, H : H 0 nije ačno) Box-Pierce-ova, BP(m), i Box-Ljung-ova, BLj(m), es-saisika: BP ( m ) = T m i = ˆ ρ BLj ( m ) = Q ( m i : χ ) = T ( T + ) m i = Nula hipoeza se odbacuje uz nivo značajnosi 5% ako je Q(m) veće od korespondirajuće kriične vrednosi hi-kvadra raspodele sa m sepeni slobode (χ m ) i nivo značajnosi 5%. ako je korespondirajuća p-vrednos manja od 5%. m ˆ ρ i : χ T i m Broj m se definiše kao funkcija od T: T, T,ln(T ) 6 Ekonomski fakule, Beograd, /00.

Tesovi auokorelacije: važna napomena Svi navedeni esovi mogu se korisii u klasičnom regresionom modeliranju kada se proverava kvalie ocenjenog modela. Tesovi se primenjuju na vremensku seriju reziduala. Broj sepeni slobode u primeni BP i BLj es-saisika je razlika između broja ocenjenih običnih auokorelacionih koeficijenaa (m) i broja ocenjenih parameara modela. 7 Primeri: primena auokorelacione funkcije. Izračunavanje ocena auokorelacionih koeficijenaa i korespondirajućih sandardnih grešaka na osnovu podaaka vremenske serije. Provera da li je konkrena vremenska serija beli šum 3. Izbor adekvanog modela za osnovnu inflaciju u Srbiji 8 Ekonomski fakule, Beograd, /00.

Primer (naredna 4 slajda) Sledeća abela sadrži podake o opservacija vremenske serije. Ocenii obične auokorelacione koeficijene na docnjama i. Izračunai sandardne greške ocena auokorelacionih koeficijenaa na docnjama i. Tesirai značajnos prva dva obična auokorelaciona koeficijena. 9 X X X X X X X 3-3 -- -- 6 0-3 -- 3 8 0-3 4 4-0 5-5 - 6 0-6 -5-7 8-8 -6-5 8 6 0-8 -6 9 0 4 0-8 0 0 4 4 0 4 8 4 4 6 8 4 T= Zbir:9 Zbir:0 Ekonomski fakule, Beograd, /00.

( X X ) ( X X ) ( X X ) ( X X ) ( X X ) 9 -- -- 0 0 -- 3 4 0-6 4 4-4 0 5 5 0-0 6 36 30 7 64 48 40 8 0 0 0 9 6 0-3 0 6 6 0 64 3 3 36 48 4 T= Zbir: 74 Zbir: 80 Zbir: 60 ˆ ρ ˆ ρ s = = = = 3 ( X X )( X X ) = ( X X ) ( X X )( X X ) = ( ˆ ρ ) = s ( ˆ ρ ) ( X X ) = T = = = 80 74 60 74 I s = 0.083 II = = 0.657 0.9 ( ˆ ρ ) s( ˆ ρ ) = 0.89 = 0.89 Ekonomski fakule, Beograd, /00.

Ocena auokorelacionog koeficijena 0.657 0.9 Sandardna greška ocene 0.89 0.89 Inerval poverenja (95% verovanoća) (-.96*0.89,.96*0.89); (-0.566;0.566) Nula hipoeza H 0 : ρ =0 H 0 : ρ =0 Ispiivanje validnosi H 0 0.657 ± [ 0.566] 0.9 [ ± 0.566] Zaključak H 0 se odbacuje. H 0 se ne odbacuje. Primer I Na osnovu 64 podaaka vremenske serije nule srednje vrednosi i sabilne varijanse ocenjeni su sledeći auokorelacioni koeficijeni (redom na docnjama od do 0): ˆρ ˆρ ˆρ 3 ˆρ 4 ˆρ 5 ˆρ 6 ˆρ 7 ˆρ 8 ˆρ 9 ˆρ 0-0.009 0.456-0.069-0.040-0.073-0.049-0.06-0.059 0.045-0.038 Da li se može smarai da je vremenska serija proces beli šum? 34 Ekonomski fakule, Beograd, /00.

Primer II Vremenska serija nule srednje vrednosi i sabilne varijanse je proces beli šum ukoliko njeni članovi nisu korelisani: auokorelacioni koeficijeni na docnjama različiim od nule su jednaki nula. Porebno je proverii valjanos nule hipoeze H 0 : ρ k =0, proiv alernaivne H : ρ k 0, k=,,...,0. Ukoliko se nula hipoeza ne može odbacii ni za jednu od prvih dese docnji, ada u vremenskoj seriji ne posoji značajna auokorelacija. To sugeriše adekvanos belog šuma. Odgovarajući inerval poverenja sa verovanoćom 95% je [ 0.53;0.53] ˆρ = 0. 456 [ 0.53;0.53] Zaključujemo da vremenska serija nije beli šum. 35 Primer III Grafički prikaz ocena auokorelacionih koeficijenaa (korelogram) omogućava brzo zaključivanje. Napomena: isprekidane linije označavaju granice inervala poverenja uz verovanoću 95%, [ 0.53;0.53].5.4 AC.3...0 -. 36 -. 3 4 5 6 7 8 9 0 Ekonomski fakule, Beograd, /00.

Primer 3: analiza korelacione srukure osnovne inflacije privrede Srbije, 00:-008:3 (T=74) I.05.00.05.00.005.000 -.005 -.00 00 003 004 005 006 007 008 Osnovna inflacija u Srbiji 37 Primer 3: analiza korelacione srukure osnovne inflacije privrede Srbije, 00:-008:3 (T=74) II Docnja Ocena običnog Značajna korelacija (k) auokorel.koeficijena 0.493 DA 0.355 DA 3 0.338 DA 4 0.75 DA 5 0.0 NE 6 0.66 NE 7 0.7 NE 8 0.05 NE Inerval poverenja sa verovanoćom 0.95: [-0.3;0.3] 38 Ekonomski fakule, Beograd, /00.

Primer 3: analiza korelacione srukure osnovne inflacije privrede Srbije III Docnja Ocena parcijalnog Značajna korelacija (k) auokorel. koeficijena 0.493 DA 0.48 NE 3 0.57 NE 4 0.047 NE 5-0.45 NE 6 0.7 NE 7-0.00 NE 8-0.078 NE Inerval poverenja sa verovanoćom 0.95: [-0.3;0.3] Zaključak: ovu seriju verovano reba modelirai na osnovu AR() forme. 39 Primer 3: analiza korelacione srukure osnovne inflacije privrede Srbije IV (analiza reziduala iz AR() modela) Auokorelacioni koeficijeni vremenske serije reziduala iz AR() modela (sa konsanom) ukazuju na o da je ocenjenim modelom obuhvaćena auokorelacija u seriji osnovne inflacije, jer nije prisuna u rezidualima. Docnja Ocena običnog auokorel.koeficijena -0.059 0.033 3 0.45 4 0.74 5-0.0 6 0.3 7 0.09 8-0.9 Inerval poverenja sa verovanoćom 0.95: [-0.3;0.3]..05.00.005.000 -.005 -.00 -.05.05.00.05.00.005.000 -.005 -.00 00 003 004 005 006 007 Reziduali Svarno kreanje osnovne inflacije Kreanje osnovne inflacije ocenjeno prema AR() modelu (ocena AR() paramera 0.49) 40 Ekonomski fakule, Beograd, /00.

Primer 3: analiza korelacione srukure osnovne inflacije privrede Srbije V (analiza reziduala iz AR() modela) H0 : ρ = ρ =... = ρm = 0, H :H0 nije acno m ˆ ρ BLj( m ) = Q( m ) = T(T + ) i : χm i= T i Serija rezidualaiz AR()modelasa konsanom:sada je T = 73, Q( m ) : χm H0 : ρ = ρ =... = ρ8 = 0, H :H0 nije acno Q( 8) = 73 75 ( 0. 059) ( 73 ) ( 0. 033) ( 73 ) ( 0. 45) ( 73 3) ( 0. 74) ( 73 4) + + + + Q( 8) = 8. 69 < χ6( 0. 05) =. 59 H0 se ne odbacuje. U modelu ne posoji zbirna auokorelacija reda8. ( 0. 0) ( 73 5) + ( 0. 3) ( 73 6) + ( 0. 09) ( 73 7) + ( 0. 9) ( 73 8) 4 Ekonomski fakule, Beograd, /00.