Ekonometrja Ekonometrja, Osnovne studje Predavač: Aleksandra Nojkovć
Struktura predavanja Svojstva ocena na malm uzorcma Asmptotska svojstva ocena Svojstva ocena dobjenh metodom ONK
Svojstva ocena U regresonoj analz ocenjujemo nepoznate parametre β β 0. Da l su ocene ONK kvaltetne? Da l omogućavaju pouzdano zaključvanje o nepoznatm parametrma? Uopštavanje: Pretpostavmo da se osnovn skup sastoj od vrednost koje uzma slučajna promenljva, čje vrednost su određene nekom raspodelom verovatnoće (može bt poznata).
Svojstva ocena (nastavak) Nepoznat parametar osnovnog skupa je θ. Ocena ovog parametra se dobja na osnovu svh n elemenata uzorka,,..., n ; Ocena se dobja prema svm raspoložvm podacma z uzorka (egzostvnost); Ispunjeno je za ONK ocene b b o. Ocena je slučajna promenljva funkcja je elemenata uzorka, koj su slučajne promenljve. Ocene vs ocenjena vrednost (konkretan broj). Analza ocene zasnva se na poznavanju uzoračke raspodele verovatnoće ocene θ.
Svojstva ocena na malm uzorcma (uzoračka svojstva ocena) Neprstrasnost Efkasnost Lnearnost
) Neprstrasnost (centrranost) Ocena je neprstrasna ako je njena srednja vrednost jednaka parametru koj se ocenjuje. E. Pojednačno se svaka ocenjena vrednost zračunata na baz većeg broja uzoraka stog obma može razlkovat od stvarne vrednost parametra θ.
F-ja gustne neprstrasne prstrasne ocene
Varjansa ocene U praks se ocena nepoznatog parametra dobja na baz jednog uzorka. Postoj verovatnoća da se neprstrasna ocena u zvesnoj mer razlkuje od θ. Ptanje šrne ntervla u čjm grancama varra ova ocena. Varjansa ocene se defnše: var E E.
) Efkasnost Ocena je efkasna ocena parametra θ, ako je: a) data ocena neprstrasna b) ne postoj druga neprstrasna ocena sa manjom varjansom. Efkasna je ona ocena koja ma najmanju dsperzju oko prave vrednost parametra. Efkasna ocena se često nazva najbolja neprstrasna ocena (najbolja je ona ocena koja ma najmanju varjansu).
F-ja gustne relatvno efkasne neefkasne ocene
3) Lnearnost Uslov koj pojednostavljuje problem određvanja efkasne ocene. Lnearna je ocena koja se dobja kao lnearna funkcja elemenata z uzorka: nn, gde su α, α,..., α n parametr.
Najbolja lnearna neprstrasna ocena (NLNO) Ocena uslove: je NLNO ukolko zadovoljava sledeće a) lnearna ocena, b) neprstrasna ocena c) ocena sa najmanjom varjansom. Engl. akronm BLUE (engl. Best Lnear Unbased Estmator).
Funkcje gustne ocena
Srednja kvadratna greška (SKG) U clju zbora bolje ocene korst se krterjum SKG. U clju zbora bolje ocene korst se krterjum mnmalne srednje kvadratne greške (SKG). SKG E. SKG omogućava zbor one ocene koja će mat što manju varjansu prstrasnost (zbr varjanse kvadrata prstrasnost, pokazat...). SKG jednaka je varjas samo ako je zadovoljen uslov neprstrasnost (sredstvo za zbor efkasne ocene).
Pojam asmptotske raspodele grančne vrednost Asmptotska raspodela (grančna raspodela) verovatnoće ocene jeste raspodela čja svojstva poprma ocena kada se obm uzorka povećava tež beskonačnost. Pretpostavmo da slučajnu promenljvu karakterše srednja vrednost μ σ (raspodela nje specfkovana). Na osnovu uzorka od n opservacja određujemo ocenu (čja je srednja vrednost μ a varjansa σ /n). Prema CGT, sa rastom uzorka, asmptotska raspodela se aproksmra normalnom raspodelom. Za beskonačan uzorak, varjansa je jednaka nul (spunjeno je samo za parametre...). _
Raspodela _ za uzorke razlčtog obma
Grančna vrednost ocene Kada se raspodela svod na jednu vrednost - konstantu (pr uslovu n > ), onda ocena konvergra u verovatnoć ka toj konstant. Vrednost ka kojoj konvergra ocena nazva se grančna vrednost ocene obeležava se kao: plm. Grančna vrednost ocene je μ, što se predstavlja na sledeć načn: lm E plm. n _
Asmptotska raspodela Važno je utvrdt da l asmptotska raspodela uopšte postoj ako postoj kojeg je oblka. Moguće su sledeće stuacje: uzoračka raspodela ocena je poznata dentčna za sve obme uzorka; mnoge ocene karakterše jedna raspodela za određene obme uzorka, da b sa uslovom n > raspodela poprmla nova svojstva; uzoračka raspodela pojednh ocena ne mora bt poznata, al postoj mogućnost da se odred njena _ asmptotska raspodela (npr. asm. raspodela ). Asmptotsku raspodelu karakteršu asmptotska srednja vrednost asmptotska varjansa.
Parametr asmptotske raspodele ocene Asmptotska srednja vrednost dobja se na osnovu sredje vrednost ocene pr uslovu n > predstavlja se kao: lm n E. Asmptotska varjansa (varjansa asmptotske raspodele) ocene se određuje kao: n lm n var. n
Asmptotska svojstva ocena (svojstva ocena na velkm uzorcma) Asmptotska neprstrasnost Konzstentnost Asmptotska efkasnost
) Asmptotska neprstrasnost Ocena je asmptotsk neprstrasna ocena parametra θ ako je zadovoljen sledeć uslov: E, n. Ocena je asmptotsk neprstrasna ako postaje neprstrasna sa rastom uzorka. Pr tome, varjansa ocene ne mora da se smanjuje.
Asmptotsk neprstrasna ocena
) Konzstentnost Ocena je konzstentna ocena parametra θ ako je zadovoljen sledeć uslov: plm. Ocena je konzstentna ako konvergra u verovatnoć ka stvarnoj vrednost parametra kada n >. Dovoljan uslov za konzstentnost ocene jeste da varjansa prstrasnost teže ka nul kada obm uzorka tež ka beskonačnost (potreban uslov podrazumeva da postoje asmptotska srednja vrednost varjansa), odnosno SKG tež nul kada obm uzorka tež beskonačnost.
F-ja gustne konzstentne ocene
F-ja gustne nekonzstentne ocene Ocena je nekonzstentna (plm( ) θ) kada sa rastom uzorka a) smanjuje varjansa, al ne prstrasnost l b) smanjuje prstrasnost, al ne varjansa.
Uzoračke raspodele neprstrasnh ocena
Brzna konvergencje Pretpostavmo da su moguće neprstrasne ocene parametra θ (prkazane na slc). Obe ocene su konzstentne, jer se sa rastom uzorka smanjuje njhova varjansa, tako da ocene konvergraju u verovatnoć ka θ, kada n >. Ocena konvergra u verovatnoć brže od ocene odnosno, svojstvo konzstentnost postže za manj obm uzorka ma manju asm. varjansu.
3) Asmptotska efkasnost Ako raspodela ocene konvergra ka θ po bržoj stop od, onda je varjansa raspodele ocene (pr datoj velčn uzorka) manja od varjanse raspodele verovatnoće ocene Ocena je asmptotsk efkasna ocena parametra θ ako je: a) konzstentna ocena b) ne postoj druga konzstentna ocena sa manjom asmptotskom varjansom. Ocena koja najbrže tež ka nepoznatom parametu θ..
Osobne ocena dobjenh metodom NK metodom MV Ocene dobjene metodom NK maju sve poželjne osobne u malm uzorcma. Metod maksmalne verodostojnost (MV) daje ocene parametara koje maju poželjne asmptotske osobne: konzstentost asm. efkasnost. Metod MV se korst kada su na raspolaganju velk uzorc kada se pretpostavka o normalnoj dstrbucj grešaka može smatrat opravdanom (u opštem slučaju prstrasne u malm uzorcma).
Svojstva ocena dobjenh prmenom metoda ONK Polazna relacja u analz statstčkh karakterstka ocene b: gde je sa ω označen kolčnk, x y x b n n n. x x n
Lnearnost Na osnovu sledećeg zraza: b n Y, zaključujemo da je ocena b lnearna funkcja slučajne promenljve Y, a tme raspoložvh podataka. Lnearna ocena je ocena b 0 Y b. Ovo svojstvo obezbeđuje već stepen jednostavnost u analz ocena.
Neprstrasnost Ukolko su zadovoljene pretpostavke KLRM, ocene b 0 b su neprstrasne važ: E b Eb. o o Pokazat...
Varjansa ocena Daje odgovor na ptanje u kojoj mer promena uzorka utče na ocenjene vrednost b 0 b. Varjanse ocena ONK su: var b0 n varb x x Prmećujemo da varjanse ocena zavse od:. varjanse σ,. obma uzorka n 3. zbra kvadrata odstupanja vrednost nezavsne promenljve od odgovarajuće artmetčke sredne, Σx. Pokazat...
Najbolje lnearne neprstrasne ocene Ocene b 0 b dobjene metodom ONK su NLNO, odnosno ocene sa najmanjom varjansom. Pokazat da je ocena nagba b NLNO parametra β...
Dokaz Prozvoljna ocena b* parametra β je lnearna: b*=σa Y, pr čemu su a, a,...a n prozvoljne konstante. Iz uslova neprstrasnost: E(b*)=β, sled da moraju bt spunjen uslov: Σa =0, Σa =. Varjansa ocene b* je: var (b*)=e(b*-e(b*)) =σ Σa.
Dokaz (nastavak ) Određujemo konstante a tako da var(b*) bude mnmalna uz spunjenje dva uslova koj obezbeđuju neprstrasnost ocene b*. Formramo funkcju Lagrange-ovog multplkatora: H a a, gde su λ λ Lagrange-ov multplkator. a Izjednačavamo prve parcjalne zvode H po a, λ λ sa nulom: a 0 a 0 a a 0 0
Dokaz (nastavak ) Na osnovu prvh n jednačna mamo: odakle je:, a. a n a
Dokaz (nastavak 3) Iz poslednej dve jednačne (zjednačavanje funkcje H po λ λ sa nulom) sled: Rešavajuć po λ λ dobjamo:. 0 n. n n n
Dokaz (nastavak 4) Zamenjujuć rešenja za λ λ u jednakost: dobjamo rešenje za a : Prozvoljna ocena b* je NLNO za a =ω, tako da ocena b* predstavlja ocenu b dobjenu metodom ONK. Slčno, dokaz za b o..., a. x x n n n n n a
Konzstentnost Ocene b 0 b su konzstentne što znač da konvergraju u verovatnoć parametrma β 0 β kada obm uzorka tež beskonačnost. Pokazano je da su ocene neprstrasne, pr tome varjanse teže nul sa povećanjem obma uzorka (povećavaju se vrednost n Σx u menocu zraza za varjansu), tako da je spunjeno: b 0, varb 0, n. var 0
Ocena varjanse slučajne greške σ Ocena varjase slučajne greške (s ) se određuje kao: n s n S je neprstrasna ocena σ (pokazat...) e. s je broj koj se občno nazva standardna greška regresje.