Klasični linearni regresioni model (KLRM)

Transcript

1 Profesor Zorca Mladeovć Klasč lear regreso model (KLRM) Zorca Mladeovć Ključe teme Postavka pretpostavke KLRM Svojstva ocea parametara u KLRM Elemet statstčkog zaključvaja u KLRM Predvđaje u KLRM Ekoomsk fakultet, Beograd, 7.

2 Profesor Zorca Mladeovć Postavka pretpostavke KLRM 3 Formulacja pretpostavke klasčog learog regresoog modela Posmatramo populacou regresou pravu: Y β + β + ε,,,..., Zavsost je leara po postavc modela. Zavsa velča Y predstavljea je zbrom: Sstematske kompoete, β + β Slučaje kompoete, ε Nvo Y dekompouje se a determstčk stohastčk deo. 4 Ekoomsk fakultet, Beograd, 7.

3 Profesor Zorca Mladeovć Formulacja pretpostavke klasčog learog regresoog modela (II) Kako Y zavs od slučaje greške potrebo je defsat pretpostavke kojma se opsuju svojstva slučaje greške ε. Uvod se ukupo 5 pretpostavk. Počet model zajedo sa pretpostavkamač klasč lear regreso model Često se dodaje prdev jedostav, jer je polaz model jedostav regreso model. 5 Pretpostavke jedostavog KLRM (I) Red broj pretpostavke.. 3. Formulacja Očekvaa vredost slučaje greške je ula Slučaje greške su homoskedastče, odoso poseduju stu varjasu Slučaje greške su međusobo ekorelsae Zaps E ( ε ) v( ε ) E( ε ) σ cov( ε, ε j ) E( εε j ). za svako za svako za svako, j koj su razlčt. 6 Ekoomsk fakultet, Beograd, 7. 3

4 Profesor Zorca Mladeovć Pretpostavke jedostavog KLRM (II) Red broj pretpostavke Formulacja Slučaja greška ma ormalu raspodelu Objašjavajuća promeljva je slučaja promeljva, već poseduje determstčku prrodu Zaps : N (, σ ) ε cov(, ε ) za svako za svako 7 Detaljje o svakoj od pretpostavk KLRM Smsao mplkacje pretpostavke. Šta ako je pretpostavka arušea? 8 Ekoomsk fakultet, Beograd, 7. 4

5 Profesor Zorca Mladeovć Pretpostavka : Očekvaa vredost slučaje greške je ula Implkacja: U proseku slučaja greška e utče a vo zavse promeljve E ( ε ) E( Y ) β + β Ako je pretpostavka arušea: Meja se počet smsao slobodogčlaa: E( ε ) k cost. ε k + u Y β + β + ε Y ( β + k) + β + u sl.cla Pretpostavka : Varjasa slučaje greške je stabla Slučaje greške su homoskedastče Implkacje:. Svaka slučaja greška ma stu varjasu ezavso od vredost objašjavajuće promeljve: v( ε ) v( ε )... v( ε ) cost.. Varjasa zavse promeljve odgovara varjas slučaje greške v( ε ) σ v( Y ) E Y E ( Y ) E ε σ σ ( ) ( ). Ekoomsk fakultet, Beograd, 7. 5

6 Profesor Zorca Mladeovć Pretpostavka : Varjasa slučaje greške je stabla Slučaje greške su homoskedastče Ako je pretpostavka arušea: Varjase slučajh grešk razlkuju se po pojedm opservacjama: v( ε ) σ v( ε ) σ σ M v( ε ) σ Slučaje greške su heteroskedastče Heteroskedastčost sečesto javlja u podacma preseka. σ... σ Pretpostavka : Lev grafk: homoskedastčost Des grafk: heteroskedastčost Ekoomsk fakultet, Beograd, 7. 6

7 Profesor Zorca Mladeovć Pretpostavka 3: Slučaje greške su međusobo ekorelsae Odsustvo autokorelacje Implkacje: Slučaje greške su ekorelsae Cov (ε, ε j ) za j Nema pravlost u korelacooj struktur slučajh grešk Pretpostavka se vezuje za podatke vremeskh serja. Elemet za slučajh grešaka su uređe u odosu a vreme: Cov (ε t, ε t-j ) za j,,... Medjusoba povezaost se opsuje termom autokorelacja. Po ovoj pretpostavc autokorelacja je ula. 3 Pretpostavka 3: Slučaje greške su međusobo ekorelsae Odsustvo autokorelacje Ako je pretpostavka arušea: Postoj autokorelacja Slučaje greške su korelsae Cov (ε, ε j ) za j slede prepozatljv obrazac u kretaju U podacma vremeskh serja: Slučaje greške koje su uređee tokom vremea su korelsae Uobčajea ozaka: Cov (ε t, ε t-j ) za j,,... 4 Ekoomsk fakultet, Beograd, 7. 7

8 Profesor Zorca Mladeovć Pretpostavka 3 (Odsustvo autokorelacje, poztva egatva autokorelacja) 5 Pretpostavka 4: Slučaja greška poseduje ormalu raspodelu Implkacje:. Slučaja greška obuhvata utcaj velkog broja međusobo ezavsh epredvdljvh utcaja.. Cetrala grača teorema: zbr velkog broja takvh člaca aproksmra se ormalom raspodelom 3. Parametr ormale raspodele: Sredja vredost je ula (. pretpostavka) Varjasa je σ (. pretpostavka) Zaps: ε : N, σ ( ) 6 Ekoomsk fakultet, Beograd, 7. 8

9 Profesor Zorca Mladeovć Pretpostavka 4: Slučaja greška poseduje ormalu raspodelu Implkacje: Zavsa promeljva takodje poseduje ormalu raspodelu Parametr ormale raspodele Y Sredja vredost je β + β Varjasa je σ E ( ε ) E ( Y ) E ( β v( ε ) σ v( Y ) E ( β ε : N (, σ Y : N ( β v( Y ) E ) + β + β, σ ). + β ( Y E ( Y )) + ε β β + ε ) β ) E ( ε ) + β. σ. 7 Pretpostavke.,. 4. Grafčk prkaz 8 Ekoomsk fakultet, Beograd, 7. 9

10 Profesor Zorca Mladeovć Pretpostavka 4: Slučaja greška poseduje ormalu raspodelu Ako je pretpostavka arušea: Slučaja greška ema ormalu raspodelu. To je ajčešće posledca pogreše postavke modela. O tome kasje. 9 Pretpostavka 5: Objašjavajuća promeljva je determstčka Implkacje: Objašjavajuća promeljva ma karakter egzogee velče. Ta velča je defsaa uutar ekoomskog segmeta kojem prpada zavsa promeljva. Objašjavajuća promeljva je korelsaa sa slučajom greškom. Ako je pretpostavka arušea: Objašjavajuća promeljva je slučaja promeljva korelsaa je sa slučajom greškom Defsaa je uutar sstema: edogea velča, kao zavsa, jer je pod utcajem ste slučaje greške. Meja se smsao ocee agba. Ekoomsk fakultet, Beograd, 7.

11 Profesor Zorca Mladeovć Ekoomsk fakultet, Beograd, 7. Implkacja avedeh pretpostavk a ocee parametara po metodu ONK Ocea b je leara fukcja slučaje promeljve Y Posledce: Ocea b je slučaja promeljva Ocea b ma ormalu raspodelu. ( )( ) ( ) ( ) ( ) ( ) ( ) + x x w, w Y Y Y Y b ),, N( : ),Y, N( : σ β β σ ε Svojstva ocea dobjeh prmeom metoda ONK u KLRM Karakterstke ocea parametara Kako se mer varjasa ocea parametara?

12 Profesor Zorca Mladeovć Svojstva ocea koje su dobjee prmeom metoda ONK Ako su zadovoljee pretpostavke KLRM tada se prmeom metoda ONK dobjaju - ajbolje - leare - eprstrase ocee (NLNO) koje su - kozstete. Bt dokaz se zvode a tabl. 3 Kako mermo preczost ocea? Svak drug uzorak daje ove ocee parametara. Ako se sa promeom uzorka ocee malo razlkuju, oda oe maju malu varjasu obrato. Preczost ocee se mer a osovu ocee varjase ocea. Kvadrat kore z ocee varjase je stadarda greška ocee. Da b se zračuale stadarde greške ocea potrebo je prethodo ocet varjabltet slučaje greške modela. U ptaju je ocea parametra σ. 4 Ekoomsk fakultet, Beograd, 7.

13 Profesor Zorca Mladeovć Ocea varjase slučaje greške modela σ Varjasa slučaje greške ε je: v(ε ) E[(ε )-E(ε )] σ odoso: v(ε ) E(ε ) Ako b slučaje greške ble pozate tada b oceu varjase dobl a sledeć ač: s ε Međutm, e zamo vredost ε. Al, pozate su am vredost rezduala e : s e Ova ocea je prstrasa ocea parametra σ. 5 Ocea varjase slučaje greške modela (II) Neprstrasa ocea σ je: s e gde je rezduala suma kvadrata uzorka. e je obm Kvadrat kore, s, je stadarda greška regresje, odoso stadarda devjacja rezduala. Sada možemo da aalzramo ocee varjas ocea parametara b b. Ozake za ocee varjas: s (b ) s (b) 6 Ekoomsk fakultet, Beograd, 7. 3

14 Profesor Zorca Mladeovć Ocee varjas ocea parametara b b v( b ) E v( b ) E vˆ( b ) s vˆ( b ) s ( b E( b )) ( b E( b )) ( b ) s ( b ) s... + x... σ + σ x x s( b ) s( b s x x ) s + x 7 Stadarde greške ocea parametara zavse od sledećh faktora:. Varjabltet modela (s l s). Što je već varjabltet modela, to je već stepe raspršeost slučaje greške modela, a tme već varjabltet zavse promeljve Y. Rezultat: eprecze ocee parametara.. Suma kvadrata odstupaja od artmetčke srede. U ptaju je mera varjablteta objašjavajuće promeljve. Veća vredost ove sume utče a povećaje preczost ocea, odoso a pad jhovog varjablteta. 3. Obm uzorka. Javlja se eksplcto u meocu formule za stadardu grešku slobodog člaa mplcto u meocu formule za obe ocee kroz zbr kvadrata odstupaja od artmetčke srede. Već obm uzorka pruža vše formacja. Tme se smajuje varjabltet ocea parametara. 4. Stadarda greška ocee slobodog člaa zavs od artmetčke srede podataka za. Podac su udaljej od y-ose što je vredost ove artmetčke srede veća. Rezultat: epreczja ocea slobodog člaa. 8 Ekoomsk fakultet, Beograd, 7. 4

15 Profesor Zorca Mladeovć Šta se dešava ako je suma relatvo velka? ( ) relatvo mala l Y Y Y Y 9 Prmer: zračuavaje odgovarajućh stadardh grešaka ocea u jedostavom modelu Prethodo je ocejea zavsost potrošje od dohotka z 5 goda: 5 x y. b x b Y b R e Ŷ y e y b x (. 686 ) Ekoomsk fakultet, Beograd, 7. 5

16 Profesor Zorca Mladeovć Prmer: zračuavaje odgovarajućh stadardh grešaka ocea u jedostavom modelu (II) Ocea varjase slučaje greške modela: s e Ocea varjase ocee agba: s ( b ) s x s( b ) 3. 6 Ocea varjase ocee slobodogčlaa: s (b ) s s(b ) x Fal zaps modela Uobčajeo se sv dobje rezultat zapsuju a sledeć ač: Ŷ R. 93 ( ) (. 53 ) Ispod ocea parametara avode se redom odgovarajuće stadarde greške ocea. Deso od ocejeog modela daje se vredost koefcjeta determacje. Model je sprema za statstčku aalzu testraja hpoteza. 3 Ekoomsk fakultet, Beograd, 7. 6

17 Profesor Zorca Mladeovć Elemet statstčkog zaključvaja u KLRM 33 Statstčko zaključvaje u KLRM Testraje hpoteza o vredostma parametara KLRM Formraje tervalh ocea parametara KLRM Progozraje budućh vredost zavse promeljve 34 Ekoomsk fakultet, Beograd, 7. 7

18 Profesor Zorca Mladeovć Testraje hpoteze: osov elemet Iteresuje as da l parametar agba uzma tačo određeu vredost. Postavljamo dve hpoteze: ultu (ozaka H ) alteratvu hpotezu (ozaka H ). Nulta hpoteza je skaz čju valjaost sptujemo, odoso testramo. Alteratva hpoteza obuhvata sva alteratva tvrđeja. Na prmer, teresuje as da l se zavsa promeljva meja u stom obmu kao objašjavajuća, odoso da l je β jedako. Korstmo sledeću otacju: H : β H : β 35 Kako ostvart dskrmacju zmeđu hpoteza? Raspodela verovatoće ocea dobjeh metodom ONK Ocee koje su dobjee prmeom metoda ONK su same ormalo raspodeljee: ε : N(, σ Y : N( β + β, σ ) b : N( β,v( b )) b ) : N( β,v( b )) 36 Ekoomsk fakultet, Beograd, 7. 8

19 Profesor Zorca Mladeovć Raspodela verovatoće ocea dobjeh metodom ONK (II) Stadardzovajem slučajh promeljvh b b dobjamo: b β v ( b ) : N (, ) b β : N v ( b) (, ) Međutm, varjase ocea v(b ) v(b) su su epozate velče. Ako h zamemo odgovarajućm oceama, tada dobjamo slučaje promeljve sa t-raspodelom (zvod se a tabl) b s β ( b ) : t b β : s t ( b) 37 Testraje hpoteza: algortam Posmatramo model oblka: Y β + β + ε,,,..., Testramo valdost hpoteze: H : β β * protv H : β β * Korac u postupku testraja:. Ocejujemo: b, b, s(b ) s(b) a pozat ač.. Račuamo test-statstku korsteć sledeću formulu: b β * t s( b ) : t gde je β * vredost β u uslovma važeja ulte hpoteze. 38 Ekoomsk fakultet, Beograd, 7. 9

20 Profesor Zorca Mladeovć Testraje hpoteza: algortam (II) 3. Sastav deo testraja hpoteze je zbor voa začajost, koj sečesto ozačava sa α. To je verovatoća odbacvaja ulte hpoteze u stuacj kada je oa tača. Uobčajeo se korst vo začajost 5%. Nvo začajost određuje velču oblast prhvataja, odoso eprhvataja valdost ulte hpoteze. Oblast odbacvaja ulte hpoteze je krtča oblast testa. 39 Testraje hpoteza: algortam (III) 4. Defšemo pravlo odlučvaja: krterjum po kojem odbacujemo ultu hpotezu. b β* Ho : β β* :t s(b) α. 5,P t P t b β* (. 5) t s(b) b β* ( α / ) t s(b) (. 5). 95. ( α / ) α f(x).5% Krtca oblast 95% Oblast prhvataja Ho.5% Krtca oblast 4 Ekoomsk fakultet, Beograd, 7.

21 Profesor Zorca Mladeovć Testraje hpoteza: algortam (IV) b β * s( b ) H b β * s( b ) H ( ± t (. 5 )) prhvatamo kao tacu hpotezu ( ± t (. 5 )) odbacujemo kao etacu hpotezu uz vo zacajost 5% Alteratva otacja b β * s( b ) H > t (. 5 ) odbacujemo kao etacu uz vo zacajost 5% 4 Testraje hpoteza: algortam (V) 5. Sprovodmo testraje: Ako zračuata test-statstka lež u oblast prhvataja ulte hpoteze, tada se ulta hpoteza e odbacuje. Obrato, ako zračuata test-statstka prpada krtčoj oblast testa, tada ultu hpotezu odbacujemo za dat vo začajost. 4 Ekoomsk fakultet, Beograd, 7.

22 Profesor Zorca Mladeovć Prmer testraja hpoteza Podsećamo a oceu modela: Ŷ R. 93 ( ) (. 53) Testramo valjaost ulte hpoteze H : β protv alteratve H : β. Potreba am je krtča vredost t raspodele za 5-3 stepe slobode vo začajost 5%. Buduć da je test dvostra da je ukupa velča krtče oblast 5%, korstmo sledeću otacju: t 3 (.5) l t 3 (.5%) Tablce: t 3 (.5).6 43 Određvaje krtče oblast testa f(x).5% krtca oblast.5% krtca oblast Ekoomsk fakultet, Beograd, 7.

23 Profesor Zorca Mladeovć Hpoteze: H : β H : β Testraje hpoteze Izračuata test-statstka: b β *. 686 t 5. 9 s( b ). 53 Kako je 5. 9 >. 6 odbacujemo hpotezu H a datom vou začajost. Ne možemo smatrat da je margala skloost a potrošj jedaka vredost jeda. 45 Testraje drugh hpoteza Može as teresovat sledeće: H : β l H : β. H : β H : β H : β H : β 46 Ekoomsk fakultet, Beograd, 7. 3

24 Profesor Zorca Mladeovć Specjal tp hpoteze: t-odos Opšt oblk testa koj smo korstl je: b β * t s( b ) Pretpostavmo da as teresuje H : β protv H : β. Ako je tača ulta hpoteza, tada objašjavajuća promeljva e utče a kretaje zavse promeljve. Tme proveravamo opravdaost postavke modela. 47 Specjal tp hpoteze: t-odos (II) Test-statstka se azva t-odos, zato što za β test-statstka postaje odos ocee odgovarajuće stadarde greške ocee: t b b s( b ) b s( b ). 686 tb. 94,. 94 > H : β prhvata se kao taco. Zaključak: dohodak () ostvaruje statstčk začaja utcaj a potrošju (Y). 48 Ekoomsk fakultet, Beograd, 7. 4

25 Profesor Zorca Mladeovć Specjal tp hpoteze: t-odos (III) Opravdaost prsustva slobodog člaa proverava se prema shodu testraja sledećh hpoteza: H : β protv H : β b tb s( b ) 8. 7 tb. 33,. 33 > H : β prhvata se kao taco. Zaključak: u ocejeom modelu potrebo je uključt sloboda čla. 49 Prmer prmee testraja hpoteza Prethod rezultat: Na osovu mesečh podataka u perodu: jauar 998- decembar 8. goda (3 podatka) oceje je model vredovaja kaptala za stopu prosa akcja kompaje Mcrosoft: ( R R ) + ε R 33 R j R f m f. Da l je rzk posedovaja ovh akcja jedak opštem tržšom rzku? Da l je ocea slobodog člaa očekvaa? Ekoomsk fakultet, Beograd, 7. 5

26 Profesor Zorca Mladeovć Prmer prmee testraja hpoteza (II) Dodat rezultat sadrž stadarde greške ocea: R (. 9) (. 6) ( R R ) j R f m f + ε R Da l je rzk posedovaja ovh akcja jedak opštem tržšom rzku? Odgovor: da, prema rezultatma testraja. H : β, H : β. 33 b. 6 t. 65 s( b ). 6 t3 N(, ) t3(. 5 ). 96 H : β se e odbacuje.. 65 <. 96 Prmer prmee testraja hpoteza (III) Dodat rezultat: (. 9) (. 6) ( R R ) R j R f m f + ε R Da l je sloboda čla statstčk začaja? Odgovor: e, prema rezultatma testraja. H : β, H : β b. t. s( b ). 9 H t3 N(, ) t3(. 5 ). 96 : β. 33 se e odbacuje. Ekoomsk fakultet, Beograd, 7. 6

27 Profesor Zorca Mladeovć Formraje tervalh ocea parametara Ocee parametara mogu bt tačkaste tervale. Do sada smo razmatral samo tačkastu oceu. Itervala ocea parametra predstavlja grace tervala uutar koga očekujemo stvaru vredost parametra uz određeu verovatoću. Korstmo pozat rezultat: P t α. 5,P t b β ( α / ) t s(b) b β (. 5) t s(b) ( α / ) α (. 5). 95. Formraje tervalh ocea parametara (II) Dvoju ejedakost rešavamo u fukcj od epozatog parametra: α ( t (. 5)s(b) β b+ t (. 5)s(b) )... 5,P b 95 Itervala ocea parametra agba sa verovatoćom 95%: β ( b ± t (. 5 )s( b )) Itervala ocea parametra slobodog člaa sa verovatoćom 95%: ( ± t (. )s( b )) β 5 b Ekoomsk fakultet, Beograd, 7. 7

28 Profesor Zorca Mladeovć Prmer obrazovaja tervalh ocea epozath parametara Rezultat prethodog ocejvaja: Ŷ ( ) (. 53 ) Itervala ocea za Tačkasta ocea Stad. greš. ocee t-krt. Izračuavaje tervale ocee Itervala ocea uz verovatoću 95% Beta ( ± ) ( ) , ± 5.35 Beta ( 8. 75± ) (. 59, ) Ekoomsk fakultet, Beograd, 7. 8