Tačkaste ocene parametara raspodele

Transcript

1 Tačkaste ocee parametara raspodele Na osovu uzorka treba da se odredi kakva je raspodela obeležja a populaciji Ako je tip raspodele pozat, treba da se odrede parametri raspodele Pošto je realizovaa vredost statistike reala broj, to ocee parametara azivamo tačkaste ocee. Neka je X, X,..., X prost slučaja uzorak obima za posmatrao obeležje X. Statistika Y =f (X, X,..., X )je slučaja promeljiva koja implicito zavisi od parametara u raspodeli obeležja X. Ako se sa Y ocejuje parametar θ, tada se statistika Y aziva ocea parametra θ i ozačava sa θˆ.

2 Nepristrasost Statistike koje koristimo za oceu parametara moraju da imaju određee osobie. Kvalitet tačkastih ocea se izražava pomoću matematičkog tičk očekivaja č i disperzije. ij Defiicija. Neka je X, X,..., X prost slučaja uzorak obima za obeležje e X i eka je θ epozati parametar a u raspodeli obeležja X. Statistika Y =f (X,..., X ) je epristrasa ocea parametra θ ako je: E ( f (X,..., X ))= θ Koristi se i termii: cetriraa ili epomerea ocea.

3 Nepristrasost, astavak Ocea θˆ parametra θ koja ema osobiu epristrasosti se zove pristrasa ocea. Veličia jee pristrasosti se meri razlikom E(ˆ (θ) θ Ako epristrasost statistike Y =f (X,..., X ) kojom ocejujemo eki parametar θ, važi u slučaju kada obim uzorka teži beskoačosti, tj. lim E ( f ( X,..., X )) = θ kažemo da statistika Y predstavlja asimptotski epristrasu oceu posmatraog parametra θ. 3

4 Stabilost Za realizovai uzorak x,..., x račuamo realizaciju statistike ti tik Y, tj. y=f (x,..., x ). Y je slučaja č promeljiva, pa će realizovaa vredost odstupati od E(Y). Poželjo je da se to odstupaje smajuje j ukoliko povećavamo obim uzorka. Navedeo svojstvo je stabilost (postojaost). Def. Neka je X,..., X prost slučaja uzorak obima za obeležje X i eka je θ epozati parametar u raspodeli obeležja X. Statistika Y =f (X,..., X ) je stabila ocea parametra θ ako je epristrasa i ako P Y θ, Stabilost ocee ozačava da će se sa povećajem obima uzorka razlika između realizovae vredosti statistike Y i stvare vredosti parametra θ smajivati. 4

5 Efikasost Def. Neka je X,..., X prost slučaja uzorak obima za obeležje X i eka je θ epozati parametar u raspodeli obeležja X. Neka su statistike Y =f (X,..., X ) i Z =g(x,..., X ) epristrase ocee parametra θ. Statistika Y je efikasija ocea parametra θ od statistike Z ako je D( Y ) D( Z) Statistika Y je ajefikasija ocea parametra θ, ako jea disperzija ij ije veća ć od ddisperzije ij bilo koje druge epristrase ocee istog parametra D ( Y ) D ( Z ) E ( Y ) = E ( Z ) = θ 5

6 Ocea parametra ajbolja velika varijasa pristrasa Želimo malu (ili da je ula) pristrasost Očekivaa vredost treba da teži tačoj vredosti Želimo malu varijasu Mala pristrasost i varijasa su u kofliktu E(ˆ θ) θ 6

7 Nejedakost Rao-Kramera Daje doju graicu disperzije epristrasih ocea jedog parametra. Neka je X,..., X prost slučaja uzorak obima za obeležje X u čijoj raspodeli figuriše epozati parametar θ. Neka je gustia raspodele obeležja X g(x;θ), x R, θ Θ obeležje Odoso, eka je zako raspodele obeležja X diskreto p(x;θ), ( x R, θ Θ obeležje Θ ozačava skup dopustivih vredosti parametra, tzv. parametarski prostor. Fukcija verodostojosti je u eprekidom slučaju: eprekido L( X ; θ) = j= g( X j ; θ) 7

8 Fukcija verodostojosti Fukcija verodostojosti u diskretom slučaju je L( X ; θ) = j= p( X j ; θ) Pod uslovima regularosti () skup {X: L(X;θ)>0} e zavisi od θ () L je dvaput diferecijabila po θ važi ejedakost Rao-Kramera D(ˆ) θ = l L l L E E θ θ θˆ je epristrasa ocea parametra θ 8

9 Primer ejedakosti Rao-Kramera Oceiti matematičko očekivaje uzorka koji ima ormalu raspodelu. g ( X m) - σ ( ) x = πσ Fukcija verodostojosti dobijea a osovu prostog slučajog uzorka X,..., X obima je L ( X m) j - σ ( X ; m ) = e j= σ π e l m L = σ D ( mˆ ) σ Opravdao korišćeje statistike X za ocejivaje 9 parametra m

10 Asimptotski efikasa ocea Ako disperzija statistike Y =f f (X(,..., X ) koja je epristrasa ocea ekog parametra θ, kovergira ka dojoj graici disperzije iz ejedakosti Rao-Kramera, kada obim uzorka teži beskoačosti, kažemo da statistika Y predstavlja asimptotski efikasu oceu parametra θ. 0

11 Metod momeata Neka je X, X,..., X prost slučaja uzorak obima za obeležje X. Pretpostavimo da postoje koači mometi reda,,..., s : E(X j ), (E( X j < ) i da u raspodeli obeležja X ima s epozatih parametara θ, θ,..., θ s. Izjedačavajem teorijskih momeata reda j i uzoračkih momeata = j M j x k k = istog reda dobijamo sistem jedačia: E(X j )=M j, j=,,..., s (*) Rešavajem prethodog sistema jedačia se dobijaju ocee za θ, θ,..., θ s.

12 Metoda maksimale verodostojosti Ocee koje se dobijaju j po metodi maksimale verodostojosti su često asimptotski epristrase i asimptotski efikase ocee. Neka je θ epozati parametar u raspodeli obeležja X i eka je Θ skup mogućih vredosti parametra θ, tzv. parametarski prostor. Neka je X,..., X prost slučaja uzorak za obeležje X i eka g(x;θ) ozačava gustiu raspodele obeležja X. Fukcija verodostojosti je fukcija L(X;θ)= g(x ;θ)... g(x ;θ) Parametar θ ćemo ocejivati oom statistikom za koju fukcija verodostojosti postiže supremum.

13 Metoda maksimale verodostojosti Ako je fukcija verodostojosti diferecijabila, ajpre se određuju (ako postoje) oe vredosti parametra koja su rešeja jedačie d L( X ; θ) = 0 dθ ili d dθ l( L( X ; θ)) = Među svim tim vredostima alazimo (ako postoje) oe vredosti za koje fukcija L, odoso l L postiže svoj supremum. 0 3

14 FV u diskretom slučaju U diskretom slučaju fukciju verodostojosti dobijamo kao proizvod verovatoća postizaja pojediih vredosti iz uzorka: L(X;θ)= p(x ;θ)... p(x ;θ) gde je p(t;θ)=p(x=t) Zatim se određuje ekstrema vredost te fukcije ili jeog logaritma. 4

15 Višedimezioali parametar θ U slučaju višedimezioalog parametra θ=(θ,...,θ s ) i diferecijabile fukcije verodostojosti ajpre se odrede (ako postoje) oe vredosti parametara iz parametarskog prostora za koje važi: ili θ θ j j L( X ; θ) = 0 l L( X ; θ) = 0 j =,..., s Najčešće su ovi sistemi jedačia elieari, pa se rešavaju koristeći umeričke metode aalize. Kada se odrede d rešeja sistema, uzimaju se oa rešeja za koja se dobija ekstrema vredost fukcije verodostojosti. 5

16 Primer metoda maks. verodostojosti Neka obeležje X ima Puasoovu P(λ) ( ) raspodelu, pri čemu je parametar λ epozat. Metodom maksimale verodostojosti odrediti statistiku kojom treba ocejivati parametar λ a osovu uzorka obima. Fukcija verodostojosti je Xk X k k = λ λ λ λ L( X ; λ) = e = e k = X k! X! a je logaritam k = k l L ( X ; λ ) = X λ λ k l l X k! k = k = 6

17 Primer metoda maks. verodostojosti d Iz uslova l( L ( X ; λ )) = 0 dλ dobijamo da je ocea epozatog parametra statistika λˆ = X U toj tački se postiže maksimum fukcije verodostojosti. Očekivaje Puasoove raspodele je E(X ) = λ pa dobijei rezultat potvrđuje da je upravo uzoračka sredia ocea za očekivau vredost obeležja. 7

18 Primer Neka obeležje X ima N(m,σ(, ) raspodelu, pri čemu je parametar m pozat, a parametar σ ije. Metodom maksimale verodostojosti (MMV) odrediti oceu epozatog parametra σ a osovu uzorka obima. Fukcija verodostojosti je ( X k m) - X m - ( k ) σ σ = σ = k L( X ; ) e = e = σ π k a je logaritam l L( X ; σ ) = l σ l σ ( π) π ( X k m) σσ k = 8

19 Primer MMV, astavak Kako je σ epozati parametar, za rešeje jedačie dobija se d l L( X ; σ ) = d( σ ) σ = ( X k m ) k = 0 U toj tački je drugi izvod logaritma fukcije verodostojosti ~ egativa, pa ovo potvrđuje izbor uzoračke disperzije S za oceu disperzije obeležja kad je očekivaje pozato. 9

20 Osobie ocea metodom momeata Ocee dobijee metodom momeata i metodom maksimale verodostojosti se u ekim slučajevima poklapaju, Ocee dobijee metodom momeata isu, u opštem slučaju efikase, u smislu prethodo datih defiicija, Ako sistem (*) ima jedistveo rešeje u obliku eprekidih fukcija, tada ocea za epozati parametar kovergira u verovatoći ka tom parametru. 0