UL FGG GR B II - Verjetnostni račun in statistika. Poskus, izid. Dogodek. Notes. Notes. Notes. Uvod. Osnovni pojmi.

Transcript

1 UL FGG GR B II - Verjetnostni račun in statistika Marjeta Kramar Fijavž, oktober 2014 Uvod Osnovni pojmi Poskus in dogodek Računanje z dogodki Definicije verjetnosti Pogojna verjetnost, neodvisnost dogodkov Dvofazni poskusi in Bayesov obrazec Poskus, izid Poskus je postopek, ki ga je mogoče poljubno mnogokrat pod enakimi pogoji ponoviti. Dogajanje je bodisi sproženo namenoma bodisi ga le opazujemo. Izid je nepredvidljiv! Zgledi: met kocke, nakup srečke, štetje prometa, obteževanje nosilcev,... Vzorčni prostor S je množica vseh možnih elementarnih izidov poskusov. Lahko je diskreten ali zvezen, končen ali neskončen. Vsako ponavljanje poskusa imenujemo proces. Dogodek Poljubno podmnožico vzorčnega prostora A S imenujemo dogodek. Vsak dogodek sestavljajo elementarni izidi. Označimo izid nekega poskusa z a. Če je a A rečemo, da se je dogodek A zgodil. Posebna dogodka: G: gotov dogodek (zgodi se ob vsaki ponovitvi poskusa) N: nemogoč dogodek (ne zgodi se ob nobeni ponovitvi poskusa)

2 Operacije a A: dogodek A vsebuje izid a A B: dogodek A je način dogodka B, kadar se zgodi A se zagotovo zgodi tudi B. A = B: dogodka A in B sta enaka, vedno se zgodita sočasno. V tem primeru velja A B in B A. A B: unija dogodkov (tudi vsota: A + B), zgodi se vsaj eden od dogodkov A in B. A B: presek dogodkov (tudi produkt: AB), dogodka A in B se zgodita hkrati. A: nasproten dogodek (tudi komplement: A ), dogodek, da se A ne zgodi. Nezdružljivost, popoln sistem Dogodka A in B sta nezdružljiva, če se ne moreta zgoditi hkrati, tj. ko je A B = N. Dogodki A 1,..., A n sestavljajo popoln sistem dogodkov, če se v vsaki ponovitvi poskusa zgodi natanko eden izmed njih, tj. A i N i, A i A j = N i j, n A i = G. i=1 Teorija množic oznaka teorija množic verjetnostni račun oznaka S univerzalna množica vzorčni prostor S A množica dogodek A a element elementarni izid a prazna množica nemogoč dogodek N S cela množica gotov dogodek G A B podmnožica način A B A B unija unija/vsota A B A B presek presek/produkt A B A komplement nasproten dogodek A A B = disjunktnost nezdružljivost A B = N

3 Pravila Veljajo vsa pravila prepisana v jezik dogodkov. Lahko si pomagamo z Vennovimi diagrami. Distributivnost: (A B) C = (A C) (B C) (A B) C = (A C) (B C) De Morganovi pravili: A B = A B A B = A B Zgled Mesto M dobavlja vodo iz dveh izvirov, pri čemer vsak izvir zase zadošča vodnim potrebam mesta. Napeljava je narejena tako, da se cevi c 1 in c 2, ki peljeta od vsakega od izvirov, pred mestom združita v skupno cev c 3. Simbolno zapiši dogodka, da mestu M zaradi iztekanja iz katere od cevi primanjkuje oziroma ne primanjkuje vode. Definicije verjetnosti Verjetnost dogodka je vrednost, ki nam pove, kolikšna je možnost, da se pri izbranem poskusu zgodi določen dogodek. Izražamo jo z realnimi števili iz intervala [0, 1], v vsakdanjem življenju pogosteje z odstotki med 0 in 100%. Oznaka: P(A).

4 Klasična definicija (Pascal, Fermat, 17. stoletje) Privzamemo: S = {a 1,..., a n }, kjer so a i enako verjetni in paroma nezdružljivi izidi poskusa. Za dogodek A je ugodnih k izmed teh izidov.v tem primeru je verjetnost dogodka A enaka P(A) := k n. Zgledi 1. Kolikšna je verjetnost, da pri metu kocke pade sodo število? 2. Imamo tri tovornjake. Verjetnost, da se posamezen tovornjak v pol leta ne pokvari je 1 2. Kolikšna je verjetnost, da bosta po pol leta vsaj dva tovornjaka brezhibna? Geometrijska definicija (18. stoletje) Klasično definicijo verjetnosti lahko z diskretnega posplošimo na zvezen prostor, če elementarne izide poskusa lahko predstavimo kot enakovredne točke na delu premice, ravnine ali prostora. Štetje nadomestimo z neko mero m (kot npr. dolžino, ploščino ali prostornino). Verjetnost dogodka A tako dobimo kot P(A) := m(a) m(s).

5 Zgledi 1. Opazujemo 10-metrski nosilec, pritrjen na obeh krajiščih. Na poljubno mesto na nosilcu položimo tovor težak 100 kg. Zanima nas reakcija v levem krajišču: R L. Kolikšna je verjetnost, da je (a) 10 R L 20? (b) R L > 50? 2. V krogu slučajno izberemo točko. Kolikšna je verjetnost, da je točka bližje središču kot obodu? Statistična definicija (Bernoulli, 18. stoletje) Nek poskus ponovimo n-krat, pri tem se dogodek A zgodi k-krat. Število f n (A) = k n imenujemo relativna frekvenca dogodka A. Bernoullijev zakon stabilnosti: po dovolj veliko ponovitvah poskusa se relativne frekvence dogodkov ustalijo okoli neke fiksne vrednosti. f n (A) P(A) Zgledi Met kovanca (Buffon, Pearson) Za pravilno načrtovanje križišča nas zanima verjetnost, da več kot pet avtomobilov v danem trenutku čaka na zavijanje v levo. Rezultati opazovanj (60 štetij) so zbrani v tabeli: št. čakajočih kolikokrat opaženo relativna frekvenca

6 Aksiomatična definicija (Kolmogorov, 20. stoletje) Verjetnost je preslikava P : S R, ki ustreza naslednjim lastnostim (aksiomom): (P1) P(A) 0 za vsak A S, (P2) P(G) = 1, (P3) za nezdružljiva dogodka A in B velja: P(A B) = P(A) + P(B). Nekatere posledice lastnosti (P1)-(P3) 1. P(A) = 1 P(A) 2. P(N) = 0 3. A B = P(A) P(B) 4. P(A B) = P(A) + P(B) P(A B) 5. P(A B C) = P(A) + P(B) + P(C) P(A B) P(A C) P(B C) + P(A B C) Zgled Vrnimo se k 10-metrskemu nosilcu, pritrjenem na obeh krajiščih. Predpostavimo tokrat, da je teža tovora poljubno število med 100 in 300 kg. Zanima nas reakcija tako v levem (R L ) kot v desnem (R D ) krajišču. Kolikšna je verjetnost, da je vsaj ena od vrednosti R L oziroma R D večja od 100?

7 Pogojna verjetnost Naj bo B nek mogoč dogodek, tj. P(B) 0. S P(A B) oz. P B (A) označimo verjetnost dogodka A pri pogoju, da se je zgodil B. Velja: P(A B) P(A B) =. P(B) Zgled Vržemo dve kocki in dobimo vsoto pik na obeh kockah enako 6. Kolikšna je verjetnost, da je pri tem na eni izmed kock padla 4? Pogojna verjetnost (nad.) Pogojna verjetnost ima prav take lastnosti kot brezpogojna (veljajo ustrezno prirejeni aksiomi (P1) (P3) in vse kar iz le-teh sledi). Posledica Če je P(B) 0, za produkt dogodkov velja Če je P(A) 0, potem velja tudi P(A B) = P(B)P(A B). P(A B) = P(A)P(B A). Neodvisnost dogodkov Dogodka A in B sta neodvisna, če velja P(A B) = P(A) oz. P(B A) = P(B). Izrek Dogodka A in B sta neodvisna natanko tedaj, ko velja produktna formula P(A B) = P(A)P(B). Pozor: neodvisnost nezdružljivost!!!

8 Neodvisnost družine dogodkov Dogodki A 1,..., A n so paroma neodvisni, če je P(A i A j ) = P(A i ) za vsak par i j. To pomeni, da velja produktna formula P(A i A j ) = P(A i )P(A j ), i j. Dogodki A 1,..., A n so (medsebojno) neodvisni, če je P (A j1 A j2 A jk ) = P(A j1 ) oziroma P (A j1 A jk ) = P(A j1 ) P(A jk ) za vse možne različne indekse j 1,..., j k. Zgled Trikrat zapored vržemo kovanec. Kaj lahko povemo o neodvisnosti naslednje družine dogodkov: A... v prvem metu pade cifra, B... v drugem metu pade grb, C... v vseh treh metih je bil izid enak, D... cifra je padla natanko dvakrat zaporedoma? Dvofazni (dvostopenjski) poskus 1. faza: zgodi se natanko eden od paroma nezdružljivih izidov H 1,..., H n (= hipoteze) 2. faza: odvisna je od izida na prvi stopnji. Opazujemo dogodek A. Denimo, da poznamo P(H i ) in P(A H i ) za vse i = 1,..., n. Koliko je potem P(A)?

9 Formula o (po)polni verjetnosti Izrek Naj bo H 1,..., H n popoln sistem dogodkov. Potem je n P(A) = P(H i )P(A H i ). i=1 Zgleda 1. V neki populaciji ima 70% kadilcev in 15% nekadilcev težave z dihali. Kolikšna je verjetnost težav z dihali, če kadi 40% populacije? 2. Dvakrat vržemo kocko. Kolikšna je verjetnost, da v drugem metu vržemo strogo več pik kot v prvem? Bayesov obrazec Vprašanje obrnimo: denimo, da se je dogodek A zgodil. Kolikšna je verjetnost, da se je pred tem zgodila hipoteza H k? Izrek (Bayesov obrazec) P(H k A) = P(H k)p(a H k ) n i=1 P(H, k = 1,..., n. i)p(a H i ) (Thomas Bayes, 1763)

10 Zgleda (nad.) 1. Nek pacient ima težave z dihali. Kolikšna je verjetnost, da je kadilec? 2. Pri metu dveh kock smo v drugo vrgli strogo več pik kot v prvem metu. Kolikšna je verjetnost, da smo v prvem metu vrgli 1? Primer: testiranje redke bolezni Pogostost neke bolezni v populaciji je Test, ki je na voljo, je pozitiven za 99% obolelih (občutljivost testa, angl. sensibility) in negativen v 95% zdravih (specifičnost testa, angl. specifity). Kolikšna je verjetnost, da smo bolni, če je bil test pozitiven?

11 UL FGG GR BII - Verjetnostni račun in statistika Marjeta Kramar Fijavž, oktober 2014 Slučajne spremenljivke Diskretne slučajne spremenljivke Matematično upanje in disperzija Pomembnejše diskretne porazdelitve Zvezne slučajne spremenljivke Gostota verjetnosti Matematično upanje in disperzija Pomembnejše zvezne porazdelitve Slučajna spremenljivka Slučajna spremenljivka X je funkcija, ki vsakemu izidu poskusa priredi neko realno število: X : S R. Izid poskusa je bodisi številsko podan bodisi ga lahko primerno številsko interpretiramo. V posameznem poskusu je mogočih več vrednosti (zato spremenljivka), katera od njih nastopi je odvisno zgolj od slučaja (zato slučajna). Zgledi: met kocke, met kovanca, štetje prometa, merjenje obremenitve, ipd. Porazdelitveni zakon Slučajna spremenljivka X je določena z zalogo vrednosti Z X (lahko je diskretna ali zvezna) in s porazdelitvenim zakonom, tj. predpisom, ki elementom Z X določi njihove verjetnosti. Porazdelitvena funkcija (CDF) slučajne spremenljivke X je funkcija F X : R [0, 1], F X (x) := P(X x).

12 Lastnosti porazdelitvene funkcije 1. 0 F X (x) 1 za vsak x R 2. lim x F X (x) = 0 in lim x + F X (x) = 1 3. F X je monotono naraščajoča: x 1 < x 2 = F X (x 1 ) F X (x 2 ) 4. P(x 1 < X x 2 ) = F X (x 2 ) F X (x 1 ) 5. F X je z desne zvezna: lim F X (x + h) = F X (x), h 0,h>0 v nekaj (največ števno mnogo) točkah ima lahko skok Funkcije slučajne spremenljivke Naj bo X : S R slučajna spremenljivka in g : R R neka funkcija. Potem je Y = g(x ): S R je spet slučajna spremenljivka. V primeru, da je g strogo naraščajoča, velja F Y (y) = P(Y y) = P(g(X ) y) = P(X g 1 (y)) = F X (g 1 (y)) Zgleda Y = ax + b (a, b R, a > 0) ali Y = X 2 Opomba: Če sta X, Y : S R slučajni spremenljivki, je tudi X + Y : S R slučajna spremenljivka. Njeno porazdelitveno funkcijo bomo izračunali kasneje. Diskretne slučajne spremenljivke X imenujemo diskretna slučajna spremenljivka, kadar njeno zalogo vrednosti sestavlja števno mnogo točk: Z X = {x 1, x 2,..., x k,... } Za poznavanje X potrebujemo še verjetnostno funkcijo (PDF) p k := P(X = x k ), k = 1, 2,... Pri tem velja: p k 0 in p k = 1 k=1 Verjetnostna shema pove vse o diskretni slučajni spremenljivki: ( ) x1 x X : 2 x k p 1 p 2 p k

13 Porazdelitvena funkcija Denimo, da so x i urejeni monotono naraščajoče. Porazdelitvena funkcija X je potem enaka F X (x k ) = P(X x k ) = k i=1 p i Zgledi: met kocke, X : število pik, Y : sodo ali liho met 3 kovancev, X : število grbov met kovanca, X : število metov do prvega grba Matematično upanje Matematično upanje diskretne slučajne spremenljivke X označimo z E(X ) in definiramo kot uteženo povprečje vrednosti E(X ) = x i p i i=1 Pomen: pričakovana vrednost, srednja vrednost ( statični moment, težišče) slučajna spremenljivka X morda vrednosti E(X ) nikoli ne zavzame E(X ) ne obstaja vedno (neskončna vsota) Zgledi 1. Kolikšna je srednja vrednost števila pik pri metu kocke? 2. Kolikokrat pričakujemo, da bo potrebno vreči pošten kovanec do prvega grba? 3. Na loteriji je na voljo 1000 srečk po 10e. Organizator obljublja 100 dobitkov po 5e, 20 dobitkov za 20e, 2 dobitka za 500e in glavni dobitek 5000e. Se nam splača kupiti srečko?

14 Osnovne lastnosti matematičnega upanja za poljubno g : R R je E (g(x )) = g(x i )p i i=1 E(aX + b) = ae(x ) + b za vse a, b R posebej: E(b) = b in E (X E(X )) = 0 za X, Y : R S je E(X + Y ) = E(X ) + E(Y ) E ( (X E(X )) 2) = E(X 2 ) E(X ) 2 Disperzija in standardni odklon Disperzijo (ali varianco) diskretne slučajne spremenljivke X označimo z D(X ) (tudi V (X ), σ 2 (X )). Meri razpršenost porazdelitve, dobimo jo kot D(X ) := E ( (X E(X )) 2) = = E(X 2 ) E(X ) 2 = Standardni odklon σ(x ) je enak (x i E(X )) 2 p i i=1 ( ) 2 xi 2 p i x i p i i=1 σ(x ) = D(X ) i=1 Standardizacija slučajne spremenljivke Najprej opazimo, da za disperzijo vedno velja D(aX + b) = a 2 D(X ) za vse a, b R Denimo, da za neko slučajno spremenljivko X obstajata E(X ) in D(X ). Standardizirana slučajna spremenljivka je definirana kot X = X E(X ) σ(x ) Zanjo velja: E(X ) = 0 in D(X ) = 1.

15 Enakomerna diskretna porazdelitev imamo končno mnogo enako verjetnih izidov ( ) x1 x X 2 x n n n n Ob predpostavki, da so x i urejeni monotono naraščajoče za porazdelitveno funkcijo X velja 0, x x 1 ; i F X (x) = n, x i < x x i+1 ; 1, x > x n. V primeru x i = i velja: E(X ) = n+1 2 in D(X ) = n Zaporedje neodvisnih poskusov isti poskus ponovimo velikokrat verjetnost izidov v enem poskusa je neodvisna od preostalih poskusov Bernoullijevo zaporedje poskusov možna sta le dva izida, A ali A v vsaki ponovitvi poskusa je P(A) = p (vrednost p je enaka za vse poskuse!) Bernoullijev obrazec P n (k)... verjetnost, da se dogodek A v n ponovitvah poskusa zgodi natanko k-krat P(A) = p Izrek P n (k) = ( ) n p k (1 p) n k k

16 Bernoullijeva porazdelitev X ponazarja možna izida Bernoullijevega poskusa: A 1 in A 0 ( ) 0 1 X 1 p p Porazdelitvena funkcija: 0, x < 0; F X (x) = 1 p, 0 x < 1; 1, x 1. E(X ) = p in D(X ) = (1 p)p Binomska porazdelitev B(n, p) X = število ponovitev dogodka A v n ponovitvah Bernoullijevega poskusa ( ) ( ) 0 1 n n X P P n (0) P n (1) P n (n) n (k) = p k (1 p) n k k E(X ) = np in D(X ) = np(1 p) Zgledi 1. Kovanec vržemo 10-krat. Kolikšne so verjetnosti dogodkov, da grb pade 0-krat, 1-krat, 2-krat, vsaj 3-krat? 2. Kolikokrat moramo vreči kocko, da lahko z verjetnostjo 0.99 pričakujemo, da bo padla vsaj ena šestica?

17 Geometrijska porazdelitev X = zaporedna številka ponovitve Bernoullijevega poskusa v katerem se A prvič zgodi (oz. število poskusov med dvema ponovitvama dogodka A) ( ) 1 2 k X p p 1 p 2 p k k = (1 p) k 1 p E(X ) = 1 p in D(X ) = 1 p p 2 Pomen: E(X ) je povprečna doba med dvema ponovitvama dogodka A Zgled Radijski oddajnik je projektiran tako, da zdrži 50-letni veter (t. j. močan rušilen veter, ki se v povprečju pojavi na vsakih 50 let). Kolikšna je verjetnost (a) da se bo tak veter pojavil prvič v petem letu po zgraditvi oddajnika? (b) da se bo prvi takšen veter pojavil v prvih petih letih po zgraditvi oddajnika? (c) natanko enega takšnega vetra v petih letih? Poissonov proces Dogodki so podintervali nekega danega intervala na realni osi (zvezen proces - v času ali prostoru). Pri tem velja: dogodek se lahko zgodi kjerkoli (kadarkoli) na danem intervalu pojavitve na disjunktnih podintervalih so med seboj neodvisne verjetnost pojavitve dogodka na dovolj majhnem podintervalu je premosorazmerna dolžini podintervala. (S. Poisson, 1830)

18 Izpeljava iz Bernouillijevega procesa Opazovani interval razdelimo na n disjunktnih podintervalov. Predstavljamo si, da uspeh v i-ti ponovitvi Bernoullijevega poskusa ustreza pojavitvi dogodka na i-tem podintervalu. Za velike vrednosti n so dolžine podintervalov majhne (zato smemo privzeti, da se na enem podintervalu lahko zgodi le en dogodek). Izrek (Poissonov limitni izrek) Naj bodo λ R +, n N in p = λ n. Potem je lim n ( n )p k (1 p) n k = e λ λ k. k k! Poissonova porazdelitev: X P(λ) X = število pojavitev dogodka v Poissonovem procesu na danem intervalu ( ) 0 1 k X : p p λ (0) p λ (1) p λ (k) λ (k) = e λ λ k k! E(X ) = λ in D(X ) = λ Zgled Denimo, da pojav nevihte v nekem mestu sledi Poissonovem procesu. Podatki kažejo, da so v tem mestu v povprečju 4 nevihte na leto. Izračunaj (a) verjetnost, da v naslednjem letu ne bo nevihte, (b) verjetnost natanko 4 neviht v naslednjem letu.

19 Zvezne slučajne spremenljivke X je zvezna slučajna spremenljivka, če je njena zaloga vrednosti Z X R interval ali unija intervalov. Za zvezno slučajno spremenljivko X velja: P(x 1 < X x 2 ) = P(x 1 X x 2 ) = P(x 1 X < x 2 ) = P(x 1 < X < x 2 ) P(X = x) = 0 za katerikoli x R (čeprav to ni nujno nemogoč dogodek!) Gostota verjetnosti (PDF) Gostota verjetnosti zvezne slučajne spremenljivke je takšna pozitivna integrabilna funkcija p X, da za poljubna x 1, x 2 R, x 1 < x 2, velja P(x 1 < X x 2 ) = x2 x 1 p X (x) dx. Pri tem je p X (x) dx = 1. Porazdelitvena funkcija (CDF) x F X (x) = P(X x) = p X (t) dt Lastnosti F X v primeru zvezne slučajne spremenljivke: F X je povsod zvezna če je p X zvezna v točki x, je F X odvedljiva v x in velja: F X (x) = p X (x) veljajo vse ostale lastnosti od prej

20 Matematično upanje Matematično upanje E(X ) zvezne slučajne spremenljivke X definiramo kot E(X ) = xp X (x) dx E(X ) ne obstaja vedno (nepravi integral) veljajo enake osnovne lastnosti kot v diskretnem primeru Disperzija in standardni odklon Disperzija D(X ) zvezne slučajne spremenljivke X je definirana s predpisom D(X ) := E ( (X E(X )) 2) = = E(X 2 ) E(X ) 2 = Standardni odklon σ(x ) je enak σ(x ) = D(X ) (x E(X )) 2 p X (x) dx ( x 2 p X (x) dx xp X (x) dx ) 2 Disperzija in standardni odklon Velja: D(aX + b) = a 2 D(X ) za vse a, b R. standardizirana slučajna spremenljivka je kot prej Z = X E(X ), E(Z) = 0, D(Z) = 1. σ(x )

21 Enakomerna zvezna porazdelitev Z X = [a, b], vse točke so enako verjetne { 1 p X (x) = b a, a x b; 0, x < a; x a in F 0, sicer. X (x) = b a, a x b; 1, x > b. E(X ) = a + b 2 in D(X ) = (b a)2 12 Zgled Opazujemo 100-kilometrski odsek avtoceste, X meri razdaljo, pri kateri pride do nesreče. Predpostavimo, da je kjerkoli na odseku nesreča enako verjetna. Kolikšna je verjetnost, da se nesreča zgodi med 20-tim in 35-tim kilometrom? Kje je pričakovano mesto nesreče? Kolikšen je strandardni odklon? Eksponentna porazdelitev tudi: porazdelitev Poissonovega toka X : čakalna doba do prve pojavitve dogodka v Poissonovem procesu s parametrom λ (ali čas med dvema pojavitvama), Z X = [0, ) p X (x) = λe λx in F X (x) = 1 e λx E(X ) = 1 λ in D(X ) = 1 λ 2

22 Zgled Denimo, da je razdalja med dvema velikima razpokama na cesti porazdeljena eksponentno in je v povprečju enaka 5 km. Kolikšna je verjetnost, da na razdalji 10 km ni velike razpoke? Kolikšna je verjetnost, da se prva velika razpoka pojavi med 12 in 15-im kilometrom od začetka opazovanja? Kolikšna je verjetnost, da na dveh ločenih 5 km odsekih ni velike razpoke? Denimo, da v prvih 5 km ni razpoke. Kolikšna je verjetnost, da je tudi v naslednjih 10 km ni? Normalna ali Gaussova porazdelitev: X N(µ, σ) zvezna aproksimacija binomske porazdelitve de Moivre (1733), Gauss skoraj 100 let kasneje najpogosteje uporabljana, opisuje mnogo naravnih procesov (centralni limitni izrek!) Z X = (, ) p X (x) = 1 σ 2π e 1 2( x µ σ ) 2 E(X ) = µ in D(X ) = σ 2 Standardizirana normalna porazdelitev: Z N(0, 1) porazdelitvena funkcija je Gaussov integral: F Z (z) = Φ(z) := 1 2π z e 1 2 t2 dt tabele P(a < Z b) = Φ(b) Φ(a) X N(µ, σ) ( ) ( ) b µ a µ P(a < X b) = Φ Φ σ σ

23 Kvantile, percentile X slučajna spremenljivka, 0 < p < 1 p-ta kvantila (ali 100p-ta percentila) zvezne porazdelitve X je taka točka x p, da velja: P(X x p ) = p. Posebej: mediana je x 0.5 kvartile so x 0.25, x 0.5 in x 0.75 decile so x 0.1, x 0.2,...,x 0.9 interkvartilni razpon (IQR): x 0.75 x 0.25 pravilo (za normalno porazdelitev) Zgled Tlačno trdnost vzorca betona modeliramo z normalno porazdelitvijo z µ = 6000 kg/cm 2 in σ = 100 kg/cm 2. Kolikšna je verjetnost, da je trdnost vzorca manj kot 6250 kg/cm 2? Kolikšna je verjetnost, da je trdnost vzorca med 5800 in 5900 kg/cm 2? Kolikšno trdnost preseže 95% vzorcev? Lognormalna porazdelitev Postavimo X = e Y, kjer je Y N(µ, σ). Dobimo: Z X = (0, ), 1 p X (x) = σ 2πx e 1 ln x µ 2( σ ) 2, ( ) ln x µ F X (x) = F Y (ln x) = Φ, σ ( ) σ2 µ+ E(X ) = e 2 in D(X ) = e 2µ+σ2 e σ2 1.

24 Porazdelitev hi-kvadrat: X χ 2 (n) Z X = (0, ), n = število prostostnih stopenj, 1 p X (x) = n 2 n 2 Γ( n 2 )x 2 1 e x 2, kjer je Γ(r) = t r 1 e t dt. 0 Velja: E(X ) = n in D(X ) = 2n. če Z N(0, 1), potem je Z 2 χ 2 (1) če Z i N(0, 1) neodvisne, potem je n i=1 Z i 2 pri velikih n se približuje normalni porazdelitvi χ 2 (n) Studentova t-porazdelitev Z T = (, ), n = število prostostnih stopenj, p T (x) = n+1 Γ( 2 ) ( ) n+1 n 2 nπγ( n 2 ) n + x 2 za n > 1 je E(T ) = 0, za n > 2 je D(T ) = n n 2 če Z N(0, 1) in X χ 2 (n) neodvisni, potem je T = pri velikih n se približuje standardni normalni porazdelitvi Z X n

25 UL FGG GR BII - Verjetnostni račun in statistika Marjeta Kramar Fijavž, november 2014 Slučajni vektorji Diskretni slučajni vektorji Zvezni slučajni vektorji Funkcije slučajnega vektorja Kovarianca in korelacija Slučajni vektorji Slučajni vektor je n-terica slučajnih spremenljivk X = (X 1, X 2,..., X n ) : S R n Porazdelitveno funkcijo slučajnega vektorja (CDF) X definiramo kot F X (x 1, x 2,..., x n ) = P(X 1 x 1, X 2 x 2,..., X n x n ) : R n [0, 1] Omejimo se na primer n = 2 (dvorazsežne, bivariatne porazdelitve). Lastnosti porazdelitvene funkcije slučajnega vektorja 1. za vsako spremenljivko je naraščajoča in z desne zvezna 2. 0 F (X,Y ) (x, y) 1 za vse x, y R 3. F (X,Y ) (, ) = 0 in F (X,Y ) (+, + ) = 1 4. F (X,Y ) (, y) = F (X,Y ) (x, ) = 0 za vse x, y R 5. F (X,Y ) (+, y) = F Y (y) in F (X,Y ) (x, + ) = F X (x) imenujemo robni porazdelitvi slučajnega vektorja (X, Y ) 6. P ( (X, Y ) (a, b] (c, d] ) = F (X,Y ) (b, d) F (X,Y ) (a, d) F (X,Y ) (b, c) + F (X,Y ) (a, c)

26 Diskreten slučajni vektor (X, Y ) je diskreten slučajni vektor, kadar njegovo zalogo vrednosti predstavlja števno mnogo točk. Verjetnostna funkcija slučajnega vektorja (PDF) p ij := P(X = x i, Y = y j ), i, j N Velja p ij 0 in p ij = 1 i=1 j=1 Verjetnostna shema X \ Y y 1 y 2 p X x 1 p 11 p 12 q 1 x 2 p 21 p 22 q p Y r 1 r 2 1 Robni porazdelitvi spremeljivk X in Y : verjetnostni funkciji p X in p Y dobimo kot q i = P(X = x i ) = p ij in r j = P(Y = y j ) = j=1 i=1 p ij Zgled 1 Vržemo 2 kocki. Označimo slučajni spremenljivki: X : večje od števila pik na obeh kockah, Y : vsota pik na obeh kockah. Zapiši verjetnostno shemo slučajnega vektorja (X, Y ) in robnih porazdelitvi spremenljivk X in Y.

27 Pogojne porazdelitve Za r k 0 definiramo pogojno verjetnostno funkcijo p i k slučajne spremenljivke X pri pogoju Y = y k kot p i k := P(X = x i Y = y k ) = p ik r k Velja p i k 0 in p i k = 1 i=1 Zgled 1 (nad.) Zapiši verjetnostni shemi za pogojni porazdelitvi spremenljivke X pri pogojih Y = 4, Y = 8 in Y = 12. Pogojno matematično upanje Pogojno matematično upanje E(X y k ) je matematično upanje pogojne porazdelitve: E(X y k ) := x i p i k = 1 r k i=1 i=1 x i p ik Velja E(X ) = E(X y k )r k k=1 Zgled 1 (nad.) Izračunaj pogojna matematična upanja za porazdelitve iz zadnjega zgleda. Neodvisnost slučajnih spremenljivk Diskretni slučajni spremenljivki X in Y imenujemo neodvisni, če velja eden od ekvivalentnih pogojev F (X,Y ) (x, y) = F X (x)f Y (y) za poljubna x, y R P(X = x, Y = y) = P(X = x)p(y = y) x, y R p ij = q i r j za vse i, j N p i k = q i za vse i, k N Zgled 1 (nad.) Ali sta slučajni spremenljivki X in Y neodvisni?

28 Zvezen slučajni vektor (X, Y ) je zvezen slučajni vektor, če sta X in Y zvezni slučajni spremenljivki. Zaloga vrednosti: Z (X,Y ) = Z X Z Y R 2. Gostota verjetnosti (PDF) slučajnega vektorja (X, Y ) je takšna pozitivna integrabilna funkcija p (X,Y ), da je x y F (X,Y ) (x, y) = P(X x, Y y) = p (X,Y ) (u, v) du dv Ne obstaja vedno! Lastnosti p (X,Y ) p (X,Y ) (u, v) du dv = 1 P ((X, Y ) (a, b] (c, d]) = robni gostoti vejetnosti: b d p (X,Y ) (x, y) = 2 F (X,Y ) (x, y) x y a c p (X,Y ) (u, v) du dv p X (x) = p (X,Y ) (x, y) dy in p Y (y) = p (X,Y ) (x, y) dx Zgled 2 { xe f (x, y) = xy, x 0, y 1; 0, sicer. Preveri, da je f (x, y) gostota verjetnosti nekega zveznega slučajnega vektorja in poišči robni gostoti.

29 Pogojne porazdelitve Za p Y (y) 0 definiramo pogojno gostoto verjetnosti p X y (x) slučajne spremenljivke X pri pogoju Y = y kot p X y (x) := p (X,Y )(x, y) p Y (y) p X y (x) dx = 1 P (a X b Y = y) = b a p X y (x) dx Zgled 2 (nad.) Zapiši pogojno gostoto verjetnosti slučajne spremenljivke X pri pogoju Y = 2. Koliko je P(0 X 1 Y = 2)? Pogojno matematično upanje Pogojno matematično upanje E(X Y = y) je matematično upanje pogojne porazdelitve: E(X Y = y) := x p X y (x) dx = 1 p Y (y) x p (X,Y ) (x, y) dx Velja E(X ) = E(X Y = y)p Y (y) dy Pogojno matematično upanje E(X Y = y) zapisano kot funkcija y se imenuje tudi regresijska enačba. Neodvisnost slučajnih spremenljivk Zvezni slučajni spremenljivki X in Y imenujemo neodvisni, če velja eden od ekvivalentnih pogojev F (X,Y ) (x, y) = F X (x)f Y (y) za poljubna x, y R p (X,Y ) (x, y) = p X (x)p Y (y) za vse x, y R p X y (x) = p X (x) za vse x, y R Zgled 2 (nad.) Ali sta slučajni spremenljivki X in Y neodvisni?

30 Funkcije slučajnega vektorja Naj bo (X, Y ) : S R 2 slučajni vektor in g : R 2 R preslikava. Potem je Z(s) := g (X (s), Y (s)), s S funkcija slučajnega vektorja (X, Y ). Pišemo: Z = g(x, Y ). Za diskreten slučajni vektor (X, Y ) velja: p(z = z k ) = E(Z) = i,j:g(x i,y j )=z k p ij g(x i, y j )p ij i=1 j=1 Za zvezen slučajni vektor (X, Y ) velja: F Z (z) = p (X,Y ) (x, y) dx dy E(Z) = g(x,y) z Pomembni primeri: X + Y, XY, X Y g(x, y)p (X,Y ) (x, y) dx dy Zgled: Dvorazsežna enakomerna porazdelitev Naj bo G neko območje v ravnini s končno ploščino S(G). Zvezni slučajni vektor (X, Y ) je dvorazsežno enakomerno porazdeljen, če { 1 p (X,Y ) (x, y) = S(G), (x, y) G; 0, sicer. 1. Denimo, da je G trikotnik z oglišči (0, 0), (1, 0) in (1, 1). Ali sta X in Y porazdeljeni enakomerno zvezno? Ali sta neodvisni?

31 2. Naj bosta X in Y neodvisni enakomerno zvezno porazdeljeni slučajni spremenljivki, X na intervalu [0, 2] in Y na intervalu [0, 1]. Pokaži, da je slučajni vektor (X, Y ) dvorazsežno enakomerno porazdeljen. Poišči gostoto verjetnosti in matematično upanje slučajne spremenljivke W = XY. Izračunaj še P(X < Y ). Kovarianca Trditev Če sta X in Y neodvisni slučajni spremenljivki, velja: E(XY ) = E(X )E(Y ) in D(X + Y ) = D(X ) + D(Y ). Definicija Naj imata slučajni spremenljivki X in Y končni matematični upanji in končni disperziji. Kovarianco slučajnih spremenljivk X in Y definiramo kot Cov(X, Y ) = σ XY = K(X, Y ) := E ((X E(X ))(Y E(Y )). Lastnosti kovariance Cov(X, X ) = D(X ) Cov(X, Y ) = Cov(Y, X ) Cov(a + bx, c + dy ) = bdcov(x, Y ), a, b, c, d R Cov(X, Y ) = E(XY ) E(X )E(Y ) D(X + Y ) = D(X ) + D(Y ) + 2Cov(X, Y ) Cov(X, Y ) σ(x )σ(y )

32 Korelacija ρ(x, Y ) = Corr(X, Y ) = r(x, Y ) := Cov(X, Y ) σ(x )σ(y ) imenujemo korelacijski koeficient slučajnih spremenljivk X in Y. 1 ρ(x, Y ) 1 ρ(x, Y ) = 0: X in Y sta nekorelirani slučajni spremenljivki; v nasprotnem primeru sta X in Y korelirani ρ(x, Y ) = 1: X in Y sta linearno korelirani Če sta X in Y neodvisni, sta tudi nekorelirani. Obrat ne velja! Matematično upanje in kovariančna matrika Matematično upanje slučajnega vektorja X = (X 1,..., X n ) definiramo kot E(X ) = (E(X 1 ),..., E(X n )). Razpršenost (disperzijo) opisuje kovariančna ali disperzijska matrika K = (K ij ) n i,j=1 z elementi K ij = Cov(X i, X j ), i, j = 1,..., n. K ii = D(X i ) za vse i = 1,..., n K ji = K ij za vse i, j = 1,..., n vse lastne vrednosti K so nenegativne Dvorazsežna normalna porazdelitev Slučajni vektor (X, Y ) je porazdeljen dvorazsežno normalno s parametri µ X, µ Y R, σ X > 0, σ Y > 0 in 1 < ρ < 1, če ima gostoto verjetnosti enako p (X,Y ) (x, y) = 1 = 2πσ X σ Y 1 ρ 2 e Z (X,Y ) = R 2 ( ( ) 1 x µx 2 ( ) ) 2ρ(x µ X )(y µ Y ) y µy 2 2(1 ρ 2 + ) σ X σ X σ Y σ Y

33 Lastnosti robni porazdelitvi: X N(µ X, σ X ) in Y N(µ Y, σ Y ) pogojni porazdelitvi sta normalni regresijski krivulji sta premici - linearna regresija korelacijski koeficient ρ(x, Y ) = ρ p (X,Y ) (x, y) = p X (x)p Y (y) ρ = 0 Za normalno porazdeljeni slučajni spremenljivki X in Y torej velja: neodvisni nekorelirani! Standardna dvorazsežna normalna porazdelitev Slučajni vektor (X, Y ) je porazdeljen standardno dvorazsežno normalno s parametrom 1 < ρ < 1, če je porazeljen dvorazsežno normalno s parametri µ X = µ Y = 0 n σ X = σ Y = 1. X, Y N(0, 1) pogojna porazdelitev Y X =x N(ρx, 1 ρ 2 ) pogojna porazdelitev X Y =y N(ρy, 1 ρ 2 ) regresijski krivulji sta premici: E(Y X =x ) = ρx in E(X Y =y ) = ρy

34 UL FGG GR BII - Verjetnostni račun in statistika Marjeta Kramar Fijavž, november 2014 Limitni izreki Neenakosti Čebiševa in Markova Zakoni velikih števil Centralni limitni izrek Uvod v statistiko Vzorčenje Neenakosti Čebiševa in Markova Izrek (Čebišev) Če za slučajno spremenljivko X obstajata matematično upanje in disperzija, potem za k > 0 velja P [ E(X ) kσ(x ) < X < E(X ) + kσ(x ) ] 1 1 k 2. Izrek (Markov) Naj bo X slučajna spremenljivka z nenegativno zalogo vrednosti Z X [0, ) in za katero obstaja matematično upanje. Potem za k > 0 velja P [ X ke(x ) ] 1 k. Zgled 1000-krat vržemo kovanec. Oceni vejetnost, da bo število grbov med 400 in 600. več kot 750.

35 Zaporedje slučajnih spremenljivk Naj bo X 1, X 2,... zaporedje slučajnih spremenljivk, ki so vse enako porazdeljene kot neka slučajna spremenljivka X. Za poljuben n N označimo: X n := 1 n (X 1 + X X n ) (zaporedje delnih povprečij) S n := X 1 + X X n (zaporedje delnih vsot) Z n := S n E(S n ) (zaporedje standardiziranih delnih vsot) σ(s n ) E ( X n ) = E(X ) če X i neodvisne: D ( X n ) = 1 n D(X ) in Z n = X n E(X ) σ(x )/ n Zakon velikih števil Če za slučajne spremenljivke X i velja, da so medsebojno neodvisne, so enako porazdeljene z E(X i ) = µ < in D(X i ) <, potem zanje velja (šibki) zakon velikih števil: za vsak ε > 0 je lim P ( X n µ) < ε ) = 1. n (Bernoulli, Markov, Čebišev, Borel, Cantelli, Kolomogorov,... ) Centralni limitni izrek Če za slučajne spremenljivke X i velja, da so medsebojno neodvisne, so enako porazdeljene z E(X i ) = µ < in D(X i ) = σ 2 <, potem zanje velja centralni limitni zakon: lim P(Z n x) = Φ(x) za vse x R, n kjer je Φ Gaussov integral in Z n = X n µ σ/ zaporedje standardiziranih n delnih vsot oz. povprečij. (Laplace, de Moivre, Lindenberg, Feller, Ljapunov, Lévy,... )

36 Posebni primeri Binomska porazdelitev X B(n, p): pri velikih n se porazdelitev X približuje normalni porazdelitvi Poissonova porazdelitev X P(λ): pri velikih λ se porazdelitev X približuje normalni porazdelitvi hi-kvadrat porazdelitev X χ 2 (n): pri velikih n se porazdelitev X približuje normalni porazdelitvi Studentova t porazdelitev T z m prostostnimi stopnjami: pri velikih m se porazdelitev T približuje standardni normalni porazdelitvi Funkcije generiranja momentov Za slučajno spremenljivko X definiramo njeno funkcijo generiranja momentov kot M X (t) := E (e ) tx pause k-ti začetni moment: z k = E(X k ) = M (k) (0) za k = 0, 1, 2,.... Če sta X in Y neodvisni sulčani spremenljivki, je M X +Y (t) = M X (t)m Y (t). Če je M X (t) = M Y (t) za t δ, potem sta X in Y enako porazdeljeni. Za Z N(0, 1) je M Z (t) = e t2 /2. Statistika realen svet odločanje, načrtovanje vzorčenje zbiranje podatkov ocenjevanje parametrov izbira verjetnostnega modela opisna statistika preskušanje domnev ocene verjetnosti dogodkov verjetnostni račun teoretični model inferenčna statistika

37 Pomembni izrazi (statistična) enota = predmet proučevanja populacija P = množica vseh enot vzorec: a 1,..., a n P (statistična) spremenljivka X = lastnost enote, ki nas zanima X (a i ) = X i, i = 1,... n (opisne ali številske spremenljivke) parameter θ: značilnost populacije (ustreza porazdelitvi X ) (vzorčna) statistika: Y = f (X 1,..., X n ) meri značilnosti vzorca porazdelitev vzorčnih ocen = verjetnostna porazdelitev statistike cenilka ˆθ parametra θ je vzorčna statistika, katere porazdelitev je odvisna le od θ Vzorčenje Vzorcu ustreza slučajni vektor (X 1,..., X n ). Vzorec je enostaven slučajni, če so X i med seboj neodvisne in enako porazdeljene slučajne spremenljivke reprezentativen (t.j. dobro predstavlja populacijo), če je dovolj velik in nepristransko izbran (problem: priročni vzorci, prostovoljni vzorci) Pomembno: dobro načrtovanje eksperimentov. Utemeljitelj sodobne statistike: Sir Ronald A. Fisher ( ) Urejanje in prikazovanje podatkov tabela frekvenčna tabela histogram krožni prikaz poligon prikaz s škatlami...

38 Vzorčno povprečje X X := X 1 + X X n n Izrek Naj (X 1,..., X n ) prestavlja enostaven slučajni vzorec z E(X i ) = µ in D(X i ) = σ 2, i = 1,..., n. Potem velja E(X ) = µ in D(X ) = σ2 n. Zgled Slika : A.Field, Discovering statistics using SPSS Porazdelitev vzorčnega povprečja Če je X N(µ, σ), je tudi vzorčno povprečje normalno porazdeljeno: ( ) σ X N µ, n ne glede na osnovno porazdelitev X je po Centralnem limitnem izreku X za velike n (dovolj že n > 30) blizu normalni porazdelitvi N(µ, σ n ) oziroma: X µ σ n N(0, 1)

39 Vzorčna disperzija S 2 S 2 := 1 n 1 n (X i X ) 2 i=1 Izrek Naj (X 1,..., X n ) prestavlja enostaven slučajni vzorec z E(X i ) = µ in D(X i ) = σ 2, i = 1,..., n. Potem je E(S 2 ) = σ 2. Vzorčna standardna deviacija S:= S 2 Porazdelitev vzorčne disperzije Velja: če je X N(µ, σ), za porazdelitev vzorčne disperzije velja (n 1)S 2 σ 2 χ 2 (n 1) Po Centralnem limitnem izreku je za velike n porazdelitev χ 2 blizu normalni porazdelitvi N(n 1, 2(n 1)) in za vzorčno disperzijo velja ( ) 2 S 2 N σ 2, n 1 σ2 Standardizirano vzorčno povprečje σ 2 ne poznamo, nadomestimo s S 2 Trditev Naj bosta X vzorčno povrečje in S 2 vzorčna disperzija slučajnega vzorca, ki ustreza X N(µ, σ). Potem je T = X µ S 2 n Studentova t-porazdelitev z (n 1) prostostnimi stopnjami. (pomembno le za n < 30)

40 UL FGG GR BII - Verjetnostni račun in statistika Marjeta Kramar Fijavž, december 2014 Ocenjevanje parametrov Točkasto ocenjevanje parametrov Metoda momentov Metoda največjega verjetja Intervalsko ocenjevanje parametrov Intervali zaupanja za µ Intervali zaupanja za σ 2 in σ Intervali zaupanja za delež populacije Ocenjevanje parametrov intervalsko ocenjevanje: poiščemo slučajni interval (t. i. interval zaupanja), ki s predpisano verjetnostjo vsebuje parameter θ točkasto ocenjevanje: parameter θ ocenimo s številsko vrednostjo cenilke (statistike) ˆθ. Lastnosti cenilk Statistika ˆθ je nepristranska cenilka za θ, če je E(ˆθ) = θ in je asimptotsko nepristranska, če je lim n E(ˆθ) = θ. V primeru dveh nepristranskih cenilk ˆθ 1 in ˆθ 2 za θ je ˆθ 1 učinkovitejša od ˆθ 2, če velja: D(ˆθ 1 ) < D(ˆθ 2 ). Standardno deviacijo σ(ˆθ) = SE(ˆθ) imenujemo standardna napaka cenilke ˆθ. Statistika ˆθ je dosledna cenilka, če je za vsak ε > 0 ( ) lim P ˆθ θ ε = 0. n

41 Primeri cenilk (X 1,..., X n ) enostaven slučajni vzorec z E(X i ) = µ in D(X i ) = σ 2 Vzorčno povprečje X je nepristranska in dosledna cenilka parametra µ s standardno napako SE(X ) = σ n. Vzorčna disperzija S 2 je nepristranska in dosledna cenilka za σ 2 s standardno napako SE(S 2 ) = σ 2 2 n 1. Vzorčna standardna deviacija S je pristranska a asimptotsko nepristranska cenilka za σ. Momenti višjega reda Moment reda k glede na točko a R definiramo kot m k (a) := E ((X a) k) a = 0: začetni moment z k = m k (0) = E ( x k) a = E(X ): centralni moment m k = m k (E(X )) koeficient asimetrije γ 1 : γ 1 (X ) = A(X ) := m 3 σ 3 (X ) koeficient sploščenosti ali kurtosis γ 2 : γ 2 (X ) := m 4 σ 4 (X ) Metoda momentov ( 1880 K. Pearson) z k := E(X k ) k-ti začetni moment slučajne spremenljivke X k-ti vzorčni moment slučajnega vzorca (X 1,..., X n ): ẑ k := 1 n n i=1 X k i, k = 1, 2,... ẑ k je cenilka za z k (npr. z 1 = E(X ) in ẑ 1 = X ) če se parametri θ 1, θ 2,..., θ m izražajo z momenti θ i = f i (z 1, z 2,..., z m ), i = 1, 2,..., m, dobimo cenilke po metodi momentov kot θ i = f i (ẑ 1, ẑ 2,..., ẑ m ), i = 1, 2,..., m.

42 Zgled Naj bo (X 1,..., X n ) enostaven slučajni vzorec. Poišči cenilke po metodi momentov za parametre navedenih porazdelitev in ugotovi ali so nepristranske. 1. Poissonova porazdelitev: X P(λ) 2. eksponentna porazdelitev s parametrom λ 3. normalna porazdelitev: X N(µ, σ) Metoda največjega verjetja ( 1920 R.A. Fisher) (X 1,..., X n ) enostaven slučajni vzorec, porazdelitev je podana z verjetnostno funkcijo p(x, θ), ki je odvisna od parametrov θ = (θ 1, θ 2,..., θ m ) funkcija verjetja je L(θ) := p(x 1, θ) p(x 2, θ) p(x n, θ) cenilka po metodi največjega verjetja je vrednost θ pri kateri doseže L(θ) maksimum izračunamo ga s pomočjo parcialnih odvodov, pogosto si pomagamo z logaritmiranjem: l(θ) := ln L(θ) Zgledi 1. Poišči cenilke po metodi največjega verjetja za parameter q Bernoullijeve porazdelitve, parametra µ in σ normalne porazdeitve. 2. Primerjaj obe metodi za pridobivanje cenilk na primeru enakomerne zvezne porazdelitve na intervalu (0, a). 3. Časovne intervale med prihodi vozil v križišče modeliramo z eksponentno porazdelitvijo. Poišči cenilko za parameter λ na podlagi izmerjenih intervalov: [s]

43 Intervalsko ocenjevanje parametrov Zanima nas kvalitativna ocena cenilke nekega parametra. Poiščimo slučajen interval [A, B] (= interval zaupanja), ki s predpisano verjetnostjo 1 α (= stopnja zaupanja) vsebuje parameter θ: P(θ [A, B]) = 1 α. Število α imenujemo stopnja tveganja. Intervali zaupanja Obranavali bomo eno- in dvostranske intervale zaupanja za: matematično upanje (disperzijo poznamo ali ne) disperzijo (matematično upanje poznamo ali ne) standardno deviacijo delež populacije Interval zaupanja za µ (X 1,..., X n ) enostaven slučajni vzorec z E(X i ) = µ in D(X i ) = σ 2, i = 1,..., n X = 1 n n i=1 X i je nepristranska cenilka za µ Po centralnem limitnem izreku je za velike n Z = X µ N(0, 1) σ 2 /n simetrična porazdelitev zato simetričen interval: P ( z(α/2) Z z(α/2)) = 1 α

44 Iskanje intervala zaupanja za µ, σ 2 poznamo 1. izberemo stopnjo tveganja α 2. določimo z(α/2) = z 1 α/2 (tabele, računalnik): Φ (z(α/2)) = 1 α/2 3. izračunamo X Interval zaupanja za µ s stopnjo zaupanja 1 α je potem [ ] σ 2 σ X z(α/2) n, X + z(α/2) 2 n Posledica Če želimo, da je z verjetnostjo 1 α napaka manjša od ε, mora za ) 2 velikost vzorca veljati: n >. ( z(α/2)σ ε Zgled Opazujemo naselje z 8000 stanovanji. Na vzorcu 100 stanovanj ugotovimo, da je povprečno število avtomobilov na stanovanje 1.6 s standardnim odklonom 0.8. Kolikšna je ocenjena standardna napaka za povprečno vrednost X? Poišči 95% interval zaupanja za X. Oceni skupno število avtomobilov N v naselju in standardno napako te vrednosti. Poišči 95% interval zaupanja za N. Kako velik vzorec bi morali vzeti, da bi širino gornjega intervala zmanjšali na ±500? Enostranski interval zaupanja Včasih je smiselna le ocena v eno smer. Postopamo kot prej, le da ustrezno mejo intervala nadomestimo s + ali ter z(α/2) z z(α). Spodnja meja zaupanja za µ s stopnjo zaupanja 1 α je tako σ 2 X z(α) n µ in zgornja meja zaupanja za µ s stopnjo zaupanja 1 α σ 2 X + z(α) n µ.

45 Zgled Meritve tlačne trdnosti 100 jeklenih profilov nam povedo: X = 220 kpa S = 22 kpa Kolikšna je 95% spodnja meja zaupanja za povprečno tlačno trdnost takšnih profilov? Primerjaj dobljeno vrednost s spodnjo mejo dvostranskega intervala zaupanja pri istih podatkih. Iskanje intervala zaupanja za µ, σ 2 ne poznamo Nepoznan σ 2 nadomestimo s cenilko S 2 = 1 n 1 n i=1 (X i X ) 2 za velike vzorce (n 30) postopek enak kot prej pri majhnem vzorcu (n < 30) namesto normalne vzamemo Studentovo porazdelitev z (n 1) prostostnimi stopnjami T = X µ S 2 /n določimo t(α/2) = t 1 α/2 da velja P (T > t(α/2)) = α/2 Interval zaupanja za µ s stopnjo zaupanja 1 α je potem [ ] S 2 S X t(α/2) n, X + t(α/2) 2 n Interval zaupanja za σ 2, µ poznamo (X 1,..., X n ) enostaven slučajni vzorec z E(X i ) = µ in D(X i ) = σ 2 vzamemo cenilko D = 1 n n i=1 (X i µ) 2 če X i N(µ, σ) potem X 2 := n D σ 2 χ2 (n) porazdelitev ni simetrična, poiskati moramo taka a in b, da bo P(X 2 > b) = P(X 2 < a) = α/2: a = χ 2 α/2 in b = χ 2 1 α/2 Interval zaupanja za σ 2 s stopnjo zaupanja 1 α je potem [ n D b, n D ] a

46 Interval zaupanja za σ 2, µ ne poznamo Cenilki za µ in σ 2 sta X in S 2 če X i N(µ, σ) potem X 2 (n 1)S 2 := σ 2 χ 2 (n 1) poiščemo taka a in b, da bo P(X 2 > b) = P(X 2 < a) = α/2: a = χ 2 α/2 in b = χ 2 1 α/2 Interval zaupanja za σ 2 s stopnjo zaupanja 1 α je potem [ ] (n 1)S 2 (n 1)S 2, b a Interval zaupanja za σ Izrek Če je [A, B] interval zaupanja za σ 2 s stopnjo zaupanja 1 α, potem je [ A, B] interval zaupanja za σ z enako stopnjo zaupanja. Zgled Rezultati meritev so naslednji: Poišči 99% interval zaupanja za σ 2. Poišči 99% spodnjo mejo zaupanja za σ 2. Poišči 90% spodnjo mejo zaupanja za σ. Denimo, da poznamo µ = 25. Poišči 99% interval zaupanja za σ 2 v tem primeru.

47 Normalna aproksimacija binomske porazdelitve Zanima nas verjetnost p, da slučajen element populacije ustreza danemu kriteriju vzorec velikosti n, X = število elementov vzorca, ki ustrezajo željenemu kriteriju X B(n, p), E(X ) = np in D(X ) = np(1 p) če n velik v primerjavi s p (in p ne preblizu 0 ali 1) velja: Z = X np np(1 p) N(0, 1) v praksi: aproksimacija bo dobra za np > 5 in n(1 p) > 5 Interval zaupanja za delež populacije (velik vzorec) Cenilka za p je vzorčni delež p: Velja: Z = p = X n p p N(0, 1) p(1 p) n določimo z(α/2), da velja: Φ (z(α/2)) = 1 α/2 neznani p v standardni napaki nadomestimo s p interval zaupanja za p s stopnjo zaupanja 1 α je [ ] p(1 p) p(1 p) p z(α/2), p + z(α/2) n n Primeri 1. V proizvodnji so preizkusili 85 izdelkov in ugotovili, da 10 izmed njih ne ustreza specifikacijam. Določi 95% interval zaupanja za delež neustreznih izdelkov. 2. Na vzporednih volitvah so pred nekim voliščem slučajno izbrali 100 volivcev in ugotovili, da jih je 55 izmed njih volilo kandidata A. (a) Določi 95% interval zaupanja za delež volivcev kandidata A v celotni populaciji. (b) Kako velik bi moral biti vzorec vzporednih volitev, da bi bila verjetnost izvolitve kandidata A vsaj 95%?

48 UL FGG GR BII - Verjetnostni račun in statistika Marjeta Kramar Fijavž, december 2014 Preskušanje domnev Domneva, testna statistika, napake Preskušanje domneve o parametru porazdelitve Preskušanje skladnosti Preskušanje neodvisnosti Statistična domneva Statistična domneva ali hipoteza je izjava o porazdelitvi neke slučajne spremenljivke. Ponavadi vsebuje parametre. Govori o neki lastnosti populacije. Na podlagi vzorca želimo ugotoviti, ali je domneva pravilna. Oznake (Neyman-Pearson): H 0 : ničelna domneva (želimo preskusiti) H A : alternativne domneve (vse ostale, ničelni komplemetarne) Pri domnevah o parametrih porazdelitev ločimo enostranske in dvostranske domneve. Testna statistika (X 1,..., X n ) slučajni vzorec T : (X 1,..., X n ) R testna statistika Z(T ) R: zaloga vrednosti testne statistke na danem vzorcu W 0 Z(T ): kritično območje testa (H 0 zavrnemo) Z(T ) \ W 0 : sprejemljivo območje testa (H 0 ne zavrnemo)

49 Lastnosti testov Napaka I. vrste: zavrnemo pravilno domnevo H 0 ; maksimalno verjetnost te napake α imenujemo stopnja značilnosti ali tveganje testa (ponavadi jo določimo vnaprej - 100α% test ). Napaka II. vrste: ne zavrnemo H 0, čeprav je napačna; verjetnost te napake β je odvisna od dejanske vrednosti parametrov, velikosti vzorca, ipd. Moč testa je verjetnost zavrnitve napačne domneve = 1 β. p-vrednost je najmanjša stopnja značilnosti, pri kateri na podlagi vzorca H 0 še zavrnemo. Zgled 1 Opazujemo vzorčno vsoto 25 elementov, porazdeljenih Bernoullijevo z nekim parametrom p. Testna statistika: Y B(25, p). Postavimo domnevi: H 0 : p = 0.45 H A : p > Določi stopnjo značilnosti testa α, če je kritično območje testa: W 0 = [16, ). 2. Denimo, da je prava vrednost parametra p = Kolikšna je moč zgornjega testa? 3. Na vzorcu dobimo vrednost y = 14. Določi p-vrednost. Zgled 2 Opazujemo vzorčno vsoto 16 elementov, porazdeljenih normalno z neznanim µ in znanim σ = 10. Postavimo domnevi: H 0 : µ = 85 H A : µ Določi stopnjo značilnosti testa α, če je kritično območje testa: W 0 = (, 80.3) (89.7, ). 2. Na vzorcu dobimo X = Določi p-vrednost. 3. Ponovi prejšnjo točko za X = 80.6

50 Splošni postopek 1. postavimo domnevi H 0 in H A 2. izberemo stopnjo značilnosti α 3. določimo ustrezno testno statistiko T 4. poiščemo kritično območje W 0, da bo P(T W 0 H 0 ) = α 5. izračunamo vrednost testne statistike T na vzorcu 6. za T W 0 domnevo H 0 zavrnemo s stopnjo značilnosti α, sicer domneve ne zavrnemo (a tudi ne sprejmemo!) Preskušanje µ normalne porazdelitve (X 1,..., X n ), X N(µ, σ) H 0 : µ = µ 0, H A : µ µ 0 testna statistika: Z = X µ 0 N(0, 1) σ 2 /n W 0 = (, z(α/2)) (z(α/2), ), kjer je Φ (z(α/2)) = 1 α/2 enostranska domneva: H A : µ < µ 0 = W 0 = (, z(α)) H A : µ > µ 0 = W 0 = (z(α), ) če σ 2 ne poznamo, ga nadomestimo s S 2 in uporabimo Studentovo t-porazdelitev z n 1 prostostnimi stopnjami Preskušanje drugih parametrov porazdelitev sorodnost z intervali zaupanja preskušanje domneve o disperziji (H 0 : σ 2 = σ 2 0 ): če µ znan = uporabimo ˆD in χ 2 (n) če µ ni znan = uporabimo S 2 in χ 2 (n 1) preskušanje domneve o deležu populacije (H 0 : p = p 0 ): binomska porazdelitev, za velike vzorce uporabimo normalno aproksmacijo

51 Primeri 1. Po specifikacijah mora trdno pogonsko gorivo za vesoljska vozila izgorevati v povprečju 50 cm/s. Standardni odklon je 2 cm/s. Testiranje 25 vzorcev je vrnilo X = 51.3 cm/s. Kaj lahko s stopnjo značilnosti 0.05 rečemo o dejanski povprečni vrednosti? 2. Zveza potrošnikov objavi, da je vsaj 10% otroških avtosedežev na tržišču potencialno nevarnih. Testiranje 200 sedežev pokaže 16 neustreznih. So rezultati testiranja v skladu s trditvijo Zveze potrošnikov? Kako bi na isto vprašanje odgovorili s pomočjo intervalov zaupanja? Primeri 3. V tovarni tekočih pralnih sredstev polnijo plastenke avtomatsko. Na slučajnem vzorcu 20 plastenk so opravili meritve napolnjenega volumna in izmerili disperzijo S 2 = Po specifikacijah mora biti disperzija σ 2 < Ali na podlagi tega testa lahko sklepajo, da imajo težavo s premalo oz. preveč napolnjenimi plastenkami? Uporabi stopnjo značilnosti 0.05 in predpostavi, da je volumen polnitve normalno porazdeljen. Preskušanje skladnosti (χ 2 -test) H 0 je domneva o modelu porazdelitve za dano populacijo slučajni vzorec velikosti n razdelimo na k razredov S 1,..., S k o i = frekvenca razreda S i e i = np(x S i H 0 ) = domnevna frekvenca razreda S i testna statistika: X 2 0 := k (o i e i ) 2 i=1 če je H 0 pravilna in m nepoznano število parametrov domnevane porazdelitve, za velike n (dovolj: e i 5) velja e i X 2 0 χ 2 (k m 1) W 0 = (c α, ) : P ( χ 2 (k m 1) > c α ) = α oziroma c α = χ 2 1 α domnevo zavrnemo, če X 2 0 > c α

52 Primer 1 V tabeli so zbrani podatki o močnih deževjih na nekem območju v obdobju 66 let. št. deževij/leto št. let Na podlagi χ 2 -testa s 5% stopnjo značilnosti ugotovi, ali je Poissonova porazdelitev ustrezen model za opis letnega števila močnih deževij. Primer 2 Proizvajalec želi preveriti domnevo o normalni porazdelitvi neke lastnosti proizvoda. Na vzorcu velikosti 100 dobi X = 5.04 in S = Po splošni praksi določi frekvenčne razrede tako, da bodo pričakovane frekvence e i enake za vse razrede. Izbere 8 razredov in dobi e i = Izmerjene frekvence so v tabeli na naslednji strani. Utemelji intervale frekvenčnih razredov in ugotovi, ali s 5% stopnjo značilnosti lahko sprejmemo domnevo o normalni porazdelitvi. Tabela za Primer 2 razredni interval o i X < X < X < X < X < X < X < X 14

53 Preskušanje neodvisnosti (χ 2 -test) H 0 : izbrani lastnosti populacije sta (statistično) neodvisni vzorec velikosti n na podlagi obeh lastnosti razdelimo v r oziroma s razredov o ij = frekvenca i-tega razreda prve in j-tega razreda druge lastnosti (r s kontingenčna tabela) e ij = domnevne frekvence razredov testna statistika: X 2 0 := r i=1 j=1 s (o ij e ij ) 2 χ 2 ((r 1)(s 1)) e ij Primer Pivovarna pred načrtovano oglaševalsko akcijo preveri ciljno skupino svojih proizvodov. Ali je izbira vrste piva odvisna od starosti kupcev? Preverimo to na spodnjih podatkih s stopnjo značilnosti vrsta piva \ starost < > 65 svetlo temno brezalkoholno