Tačkaste ocee parametara raspodele Na osovu uzorka treba da se odredi kakva je raspodela obeležja a populaciji Ako je tip raspodele pozat, treba da se odrede parametri raspodele Pošto je realizovaa vredost statistike reala broj, to ocee parametara azivamo tačkaste ocee. Neka je X, X,..., X prost slučaja uzorak obima za posmatrao obeležje X. Statistika Y =f (X, X,..., X )je slučaja promeljiva koja implicito zavisi od parametara u raspodeli obeležja X. Ako se sa Y ocejuje parametar θ, tada se statistika Y aziva ocea parametra θ i ozačava sa θˆ.
Nepristrasost Statistike koje koristimo za oceu parametara moraju da imaju određee osobie. Kvalitet tačkastih ocea se izražava pomoću matematičkog tičk očekivaja č i disperzije. ij Defiicija. Neka je X, X,..., X prost slučaja uzorak obima za obeležje e X i eka je θ epozati parametar a u raspodeli obeležja X. Statistika Y =f (X,..., X ) je epristrasa ocea parametra θ ako je: E ( f (X,..., X ))= θ Koristi se i termii: cetriraa ili epomerea ocea.
Nepristrasost, astavak Ocea θˆ parametra θ koja ema osobiu epristrasosti se zove pristrasa ocea. Veličia jee pristrasosti se meri razlikom E(ˆ (θ) θ Ako epristrasost statistike Y =f (X,..., X ) kojom ocejujemo eki parametar θ, važi u slučaju kada obim uzorka teži beskoačosti, tj. lim E ( f ( X,..., X )) = θ kažemo da statistika Y predstavlja asimptotski epristrasu oceu posmatraog parametra θ. 3
Stabilost Za realizovai uzorak x,..., x račuamo realizaciju statistike ti tik Y, tj. y=f (x,..., x ). Y je slučaja č promeljiva, pa će realizovaa vredost odstupati od E(Y). Poželjo je da se to odstupaje smajuje j ukoliko povećavamo obim uzorka. Navedeo svojstvo je stabilost (postojaost). Def. Neka je X,..., X prost slučaja uzorak obima za obeležje X i eka je θ epozati parametar u raspodeli obeležja X. Statistika Y =f (X,..., X ) je stabila ocea parametra θ ako je epristrasa i ako P Y θ, Stabilost ocee ozačava da će se sa povećajem obima uzorka razlika između realizovae vredosti statistike Y i stvare vredosti parametra θ smajivati. 4
Efikasost Def. Neka je X,..., X prost slučaja uzorak obima za obeležje X i eka je θ epozati parametar u raspodeli obeležja X. Neka su statistike Y =f (X,..., X ) i Z =g(x,..., X ) epristrase ocee parametra θ. Statistika Y je efikasija ocea parametra θ od statistike Z ako je D( Y ) D( Z) Statistika Y je ajefikasija ocea parametra θ, ako jea disperzija ij ije veća ć od ddisperzije ij bilo koje druge epristrase ocee istog parametra D ( Y ) D ( Z ) E ( Y ) = E ( Z ) = θ 5
Ocea parametra ajbolja velika varijasa pristrasa Želimo malu (ili da je ula) pristrasost Očekivaa vredost treba da teži tačoj vredosti Želimo malu varijasu Mala pristrasost i varijasa su u kofliktu E(ˆ θ) θ 6
Nejedakost Rao-Kramera Daje doju graicu disperzije epristrasih ocea jedog parametra. Neka je X,..., X prost slučaja uzorak obima za obeležje X u čijoj raspodeli figuriše epozati parametar θ. Neka je gustia raspodele obeležja X g(x;θ), x R, θ Θ obeležje Odoso, eka je zako raspodele obeležja X diskreto p(x;θ), ( x R, θ Θ obeležje Θ ozačava skup dopustivih vredosti parametra, tzv. parametarski prostor. Fukcija verodostojosti je u eprekidom slučaju: eprekido L( X ; θ) = j= g( X j ; θ) 7
Fukcija verodostojosti Fukcija verodostojosti u diskretom slučaju je L( X ; θ) = j= p( X j ; θ) Pod uslovima regularosti () skup {X: L(X;θ)>0} e zavisi od θ () L je dvaput diferecijabila po θ važi ejedakost Rao-Kramera D(ˆ) θ = l L l L E E θ θ θˆ je epristrasa ocea parametra θ 8
Primer ejedakosti Rao-Kramera Oceiti matematičko očekivaje uzorka koji ima ormalu raspodelu. g ( X m) - σ ( ) x = πσ Fukcija verodostojosti dobijea a osovu prostog slučajog uzorka X,..., X obima je L ( X m) j - σ ( X ; m ) = e j= σ π e l m L = σ D ( mˆ ) σ Opravdao korišćeje statistike X za ocejivaje 9 parametra m
Asimptotski efikasa ocea Ako disperzija statistike Y =f f (X(,..., X ) koja je epristrasa ocea ekog parametra θ, kovergira ka dojoj graici disperzije iz ejedakosti Rao-Kramera, kada obim uzorka teži beskoačosti, kažemo da statistika Y predstavlja asimptotski efikasu oceu parametra θ. 0
Metod momeata Neka je X, X,..., X prost slučaja uzorak obima za obeležje X. Pretpostavimo da postoje koači mometi reda,,..., s : E(X j ), (E( X j < ) i da u raspodeli obeležja X ima s epozatih parametara θ, θ,..., θ s. Izjedačavajem teorijskih momeata reda j i uzoračkih momeata = j M j x k k = istog reda dobijamo sistem jedačia: E(X j )=M j, j=,,..., s (*) Rešavajem prethodog sistema jedačia se dobijaju ocee za θ, θ,..., θ s.
Metoda maksimale verodostojosti Ocee koje se dobijaju j po metodi maksimale verodostojosti su često asimptotski epristrase i asimptotski efikase ocee. Neka je θ epozati parametar u raspodeli obeležja X i eka je Θ skup mogućih vredosti parametra θ, tzv. parametarski prostor. Neka je X,..., X prost slučaja uzorak za obeležje X i eka g(x;θ) ozačava gustiu raspodele obeležja X. Fukcija verodostojosti je fukcija L(X;θ)= g(x ;θ)... g(x ;θ) Parametar θ ćemo ocejivati oom statistikom za koju fukcija verodostojosti postiže supremum.
Metoda maksimale verodostojosti Ako je fukcija verodostojosti diferecijabila, ajpre se određuju (ako postoje) oe vredosti parametra koja su rešeja jedačie d L( X ; θ) = 0 dθ ili d dθ l( L( X ; θ)) = Među svim tim vredostima alazimo (ako postoje) oe vredosti za koje fukcija L, odoso l L postiže svoj supremum. 0 3
FV u diskretom slučaju U diskretom slučaju fukciju verodostojosti dobijamo kao proizvod verovatoća postizaja pojediih vredosti iz uzorka: L(X;θ)= p(x ;θ)... p(x ;θ) gde je p(t;θ)=p(x=t) Zatim se određuje ekstrema vredost te fukcije ili jeog logaritma. 4
Višedimezioali parametar θ U slučaju višedimezioalog parametra θ=(θ,...,θ s ) i diferecijabile fukcije verodostojosti ajpre se odrede (ako postoje) oe vredosti parametara iz parametarskog prostora za koje važi: ili θ θ j j L( X ; θ) = 0 l L( X ; θ) = 0 j =,..., s Najčešće su ovi sistemi jedačia elieari, pa se rešavaju koristeći umeričke metode aalize. Kada se odrede d rešeja sistema, uzimaju se oa rešeja za koja se dobija ekstrema vredost fukcije verodostojosti. 5
Primer metoda maks. verodostojosti Neka obeležje X ima Puasoovu P(λ) ( ) raspodelu, pri čemu je parametar λ epozat. Metodom maksimale verodostojosti odrediti statistiku kojom treba ocejivati parametar λ a osovu uzorka obima. Fukcija verodostojosti je Xk X k k = λ λ λ λ L( X ; λ) = e = e k = X k! X! a je logaritam k = k l L ( X ; λ ) = X λ λ k l l X k! k = k = 6
Primer metoda maks. verodostojosti d Iz uslova l( L ( X ; λ )) = 0 dλ dobijamo da je ocea epozatog parametra statistika λˆ = X U toj tački se postiže maksimum fukcije verodostojosti. Očekivaje Puasoove raspodele je E(X ) = λ pa dobijei rezultat potvrđuje da je upravo uzoračka sredia ocea za očekivau vredost obeležja. 7
Primer Neka obeležje X ima N(m,σ(, ) raspodelu, pri čemu je parametar m pozat, a parametar σ ije. Metodom maksimale verodostojosti (MMV) odrediti oceu epozatog parametra σ a osovu uzorka obima. Fukcija verodostojosti je ( X k m) - X m - ( k ) σ σ = σ = k L( X ; ) e = e = σ π k a je logaritam l L( X ; σ ) = l σ l σ ( π) π ( X k m) σσ k = 8
Primer MMV, astavak Kako je σ epozati parametar, za rešeje jedačie dobija se d l L( X ; σ ) = d( σ ) σ = ( X k m ) k = 0 U toj tački je drugi izvod logaritma fukcije verodostojosti ~ egativa, pa ovo potvrđuje izbor uzoračke disperzije S za oceu disperzije obeležja kad je očekivaje pozato. 9
Osobie ocea metodom momeata Ocee dobijee metodom momeata i metodom maksimale verodostojosti se u ekim slučajevima poklapaju, Ocee dobijee metodom momeata isu, u opštem slučaju efikase, u smislu prethodo datih defiicija, Ako sistem (*) ima jedistveo rešeje u obliku eprekidih fukcija, tada ocea za epozati parametar kovergira u verovatoći ka tom parametru. 0