Kristina Veljkovi MONTE KARLO METODE

Transcript

1 Kristina Veljkovi MONTE KARLO METODE

2 Uvod Poxto se mnoge statistiqke metode oslanjaju na sluqajne uzorke, statistiqarima je qesto potreban izvor sluqajnih brojeva. Starije statistiqke knjige su sadrжale tablice sluqajnih cifara, koje su predviđene da se koriste pri izboru uzoraka ili dizajnu eksperimenta. Sada statistiqari vrlo retko koriste odxtampane tablice sluqajnih cifara, ali ponekad se koriste takve tablice saquvane u memoriji raqunara. Međutim, najqex e se koriste raqunarski algoritmi za direktno generisanje sluqajnih brojeva. Danas se upotreba sluqajnih brojeva u statistici proxirila van sluqajnog uzorkovanja ili sluqajne dodele terapija (tretmana) eksperimentalnim jedinicama. Sluqajni brojevi se sada qex e koriste prilikom simulacijskih studija stohastiqkih procesa, analitiqki neizraqunljivih matematiqkih izraza ili populacije na osnovu ponovnog uzorkovanja 1 iz dobijenog uzorka te populacije. Ove tri opxte oblasti primene sluqajnih brojeva se ponekad nazivaju, redom, simulacija, Monte Karlo i ponovno uzorkovanje, ali mi nie emo praviti razlike između tih termina. 1 Resampling

3 Metode Monte Karlo Prouqavanje mnogih prirodnih pojava mogu e je ostvariti putem modeliranja (simulacije) tih pojava. Modeliranje pojava u cilju njihovog prouqavanja se koristi kad god je direktno ispitivanje same pojave povezano sa potexko ama (realno vreme u kome se pojava odvija moжe biti predugaqko ili prekratko da bi se svi elementi mogli uoqiti, ispitivanja same pojave mogu biti povezana sa velikim troxkovima, kao i sa rizicima po zdravlje ljudi, po ljudsku okolinu ili dovesti do unixtenja nekih objekata,itd.). U ovom radu emo govoriti o primenama metoda Monte-Karlo koje se mogu okarakterisati kao numeriqke metode za rexavanje matematiqkih problema pomo u modeliranja sluqajnih veliqina i statistiqkog ocenjivanja karakteristika tih veliqina. Naziv metode potiqe od qlanka The Monte Carlo method koji su godine objavili matematiqari Stanislav Ulam i Nikolas Metropolis. Smatra se da je metoda Monte Karlo korix ena i ranije (npr. poznato je da je Hol 1873.godine raqunao pribliжnu vrednost broja π po tom principu). Razvoj raqunara je omogu io xiroku primenu metode Monte Karlo jer je znatno ubrzao proces modeliranja vrednosti sluqajnih veliqina. Neke od oblasti primene metode Monte Karlo su: biologija, genetika, ekologija, hidrologija, atomska fizika, statistiqka fizika, statistika, sistemi masovnog opsluжivanja, itd. Metode Monte-Karlo se primenjuju posebno u sluqajevima kada bi eksperimenti sa sistemom koji prouqavamo bili dugotrajni ili dovodili do oxte enja sistema. Problemi koji se sre u u raznim oblastima se mogu prevesti ili svesti na matematiqke probleme: rexavanje sistema linearnih jednaqina ili nejednaqina, raqunanje integrala(jednostrukih ili vixestrukih), rexavanje diferencijalnih jednaqina, rexavanje parcijalnih diferencijalnih jednaqina, itd. Svaki od navedenih matematiqkih zadataka se moжe rexiti i metodom Monte Karlo, xto se naroqito koristi kad je teorijsko rexenje suvixe komplikovano ili ne moжe da se odredi, iako se zna da postoji. Metodama Monte-Karlo se mogu rexiti

4 i neki zadaci u kojima se klasiqne metode numeriqke matematike ne mogu primeniti. Takođe je znaqajno da su algoritmi Monte Karlo obiqno jednostavni i laki za programiranje. 3

5 Sluqajni brojevi Nezavisne vrednosti (realizacije) sluqajne veliqine X sa uniformnom raspodelom U(0, 1) se nazivaju sluqajni brojevi. Realizacija sluqajne veliqine ε sa diskretnom uniformnom raspodelom ( ) se naziva sluqajna cifra. Veza između sluqajnih brojeva i sluqajnih cifara je data u slede oj teoremi: Teorema 1 Dekadne cifre ε 1, ε 2,..., ε n sluqajnog broja x = 0.ε 1 ε 2... ε n... predstavljaju nezavisne realizacije sluqajne veliqine ε sa diskretnom uniformnom raspodelom i obratno. Sluqajni brojevi se mogu dobiti korix enjem nekog fiziqkog aparata (kockice, simetriqni novqi, rulet, itd.) koji se naziva generator sluqajnih brojeva. Eksperimentalno se dobija neki niz cifara (0 ili 1 pri bacanju novqi a; 1,2,...,6 pri bacanju kockice itd.) i onda se na odgovaraju i naqin dobijeni niz cifara prevodi u broj iz dekadnog brojnog sistema. Procedura dobijanja sluqajnih brojeva na ovaj naqin je sloжena i ne moжe se dvaput dobiti isti niz brojeva (xto je qesto potrebno u primenama). Prva tablica sluqajnih cifara je objavljena godine i sadrжala je cifara. Rand korporacija je godine objavila tablicu od sluqajnih cifara. Evo jednog dela te tablice: Cifre su grupisane radi lakxeg qitanja, a mogu se qitati sleva nadesno ili odozgo prema dole ili po nekom drugom pravilu, poqevxi od bilo kojeg mesta u tablici. U tablici, po potrebi se mogu qitati

6 sluqajni brojevi sa izvesnim brojem decimala (npr. uzimaju i redom iz prve vrste po dve cifre dobijaju se 0.22, 0.98, 0.96,...). Prednost tablice sluqajnih cifara je xto se moжe reprodukovati isti niz brojeva, a mane su manjak brzine pretraжivanja, rizik od iscrpljivanja tabele i to xto zauzima mnogo raqunarske memorije. Navodimo sada nekoliko primera za dobijanje sluqajnih cifara. Primer 1 Bacanjem homogenog novqi a qije su strane oznaqene sa 0 (grb) i 1 (pismo) moжemo dobiti dobru tablicu sluqajnih cifara. Kao rezultat eksperimenta dobijamo niz nula i jedinica. Odgovaraju e grupe cifara iz binarnog brojnog sistema prevodimo u dekadne cifre 0,1,2,...,9 (znaqi 0000 je 0, 0010 je 2,..., 1001 je 9, dok se ostale qetvorke binarnih cifara odbacuju). Primer 2 Za generisanje sluqajnih brojeva se koristi i rulet - okrugla ploqa koja se vrti sa podeocima za brojeve. Sluqajna cifra je podeok na koji pokaжe strelica posle zaustavljanja ruleta ili podeok u koji padne kuglica, ako se ona koristi. Na ruletu se moжe napraviti vixe podeoka, npr. 50 a numerixu se periodiqno 0,1,2,...,9, 0,1,2,...,9, qime se smanjuje odstupanje od idealne konstrukcije. Primer 3 Kao generator sluqajnih brojeva moжe posluжiti i knjiga: poqevxi od bilo koje strane, brojimo reqi u redu i ako je broj reqi paran, pixemo 0, a ako je neparan, pixemo 1. Primer 4 Generator sluqajnih brojeva je i kocka za igru koja generixe brojeve 1, 2, 3, 4, 5, 6. Verovatno a dobijanja svakog od brojeva 1 6 je ista i iznosi 1 6 i poxto su bacanja kockice međusobno nezavisna, na ovaj naqin dobijamo niz nezavisnih i jednako raspodeljenih sluqajnih cifara. Razmotrimo bacanje 4 kockice odjednom: Kocka Strane su numerisane sa

7 Sabiranjem rezultata na 4 kocke dobijaju se slede i brojevi: Zbir na kockama Dobijeni brojevi 1 0, 1, 2, 3, 4, 5 1, 2 0, 1, 2,..., 35 1, 2, 3 0, 1, 2,..., 215 1, 2, 3, 4 0, 1, 2,..., 1295 Koriste i zbirove na kockama moжemo generisati sluqajne cifre 0,1,2,...,9. Sa kockama 1 i 2, sluqajna cifra se dobija kao ostatak pri deljenju zbira za 10, pri qemu se zbirovi propuxtaju. Zbir na dve kocke 0, 10, 20 1, 11, , 19, 29 30, 31, 32, 33, 34, 35 Pixe se Svaka cifra 0-9 se tada javlja sa jednakom verovatno om. Koriste i 4 kocke moжemo generisati odjednom tri sluqajne cifre, pridruжivanjem na slede i naqin: Zbir na qetiri kocke , 1001,..., 1295 Pixe se Prvi metod propuxta oko 17% bacanja i potrebno je manje posla oko sabiranja, a drugi metod propuxta 23% bacanja za vixe posla oko sabiranja, ali daje vixe cifara. 6

8 Pseudosluqajni brojevi Brojevi iz intervala (0,1) koji se raqunaju po nekim formulama se nazivaju pseudosluqajni brojevi. Algoritam na osnovu kojega se dobija niz pseudosluqajnih brojeva se zove generator pseudosluqajnih brojeva. Dobijeni niz brojeva nije zaista sluqajan jer je u potpunosti određen skupom poqetnih vrednosti, ali zadovoljava uslove sluqajnosti. Prednost pseudosluqajnih brojeva u odnosu na sluqajne brojeve je xto se mogu dobiti na brжi i jednostavniji naqin, a imaju (skoro) sve osobine koji sluqajni brojevi treba da imaju. Takođe se za njihovu prednost smatra to xto se moжe generisati isti niz brojeva vixe od jedanput, xto znaqi da se eksperiment moжe ponoviti pod identiqnim uslovima. Niz γ 1, γ 2,..., γ k pseudosluqajnih brojeva se obiqno dobija nekom rekurentnom formulom. Jedna od prvih primenjivanih formula je tzv. metod sredine kvadrata koju je predloжio on von Nojman godine. Neka je γ m oblika 0.α 1 α 2... α 2k. Kvadriramo γ m, γm 2 = 0.β 1 β 2... β 4k i uzimamo srednjih 2k cifara γ k+1 = 0.β k+1 β k+2... β 3k ili formalno zapisano 2 : γ m+1 = D ( 10 2k C(10 3k γm) 2 ), gde D oznaqava decimalni, a C ceo deo broja. Problem nizova pseudosluqajnih brojeva dobijenih metodom sredine kvadrata je xto obiqno imaju mali period (duжina niza dok ne poqne da se ponavlja). Neki izbori za γ 1 nisu povoljni jer se prebrzo ponove iste vrednosti u nizu ili se dobije degenerisani niz (niz qiji su svi qlanovi jednaki nuli). Postoje i razne druge matematiqke formule za dobijanje pseudosluqajnih brojeva. Jedna od njih se zasniva na slede oj teoremi. Teorema 2 Neka je g proizvoljan prirodan broj i X sluqajna veliqina sa uniformnom U(0, 1) raspodelom. Tada sluqajna veliqina Y = D(gX) ima U(0, 1) raspodelu. 2 Alternativni zapis: γ m+1 = 10 2k C ( 10 2k D(10 k γm) ) 2

9 Tako npr. za g = 79 i x = , y = D( ) = predstavlja realizovanu vrednost sluqajne veliqine Y : U(0, 1). Linearni kongruentni generator Derik Henri Lehmer je godine osmislio linearni kongruentni generator. Ovaj generator proizvodi niz pseudosluqajnih brojeva (X n ) koji je određen poqetnim qlanom 3 X 0, X 0 > 0 i rekurentnom formulom X n = (ax n 1 + b) mod m gde su a, m i b dati prirodni brojevi, pri qemu je m > max{a, b, X 0 }. Koristi se oznaka LKG(m, a, b, X 0 ). Poxto je X n određen sa X n 1 i poxto postoji samo m mogu ih vrednosti za X i - ove, maksimalni period linearnog kongruentnog generatora je m. Da bismo dobili pseudosluqajni broj (tj. broj iz intervala (0, 1)) potrebno je da svaki dobijeni broj X n podelimo sa m, tj. U n = X n m. Maksimalan period m niza pseudosluqajnih brojeva dobijenog linearnim kongruentnim generatorom se moжe dobiti pri pogodnom izboru konstanti a, b i m. Vaжi slede a teorema: Teorema 3 Niz pseudosluqajnih brojeva koji se dobija linearnim kongruentnim generatorom ima maksimalan period m ako su ispunjeni slede i uslovi: 1. Brojevi m i b su uzajamno prosti. 2. Svaki prost delilac p broja m je i delilac broja a Ako je broj m deljiv sa 4, onda je i broj a 1 deljiv sa 4. Poxto raqunari koriste binarni ili dekadni brojni sistem, razmotri emo sluqajeve kada je m = 2 β ili m = 10 β, gde β oznaqava duжinu reqi određenog raqunara. 3 initial value, seed 8

10 1. Ukoliko je m = 2 β, na osnovu prethodne teoreme, maksimalan period niza pseudosluqajnih brojeva se dobija ako vaжi: b je neparan broj (m i b su uzajamno prosti). a 1 je deljivo sa 4, tj. a = 2 r + 1, r 2. Smatra se da se dobri statistiqki rezultati mogu posti i za m = 2 35, a = , b = Ukoliko je m = 10 β, na osnovu prethodne teoreme, maksimalan period niza pseudosluqajnih brojeva se dobija ako vaжi: b nije deljivo sa 2 ili 5. a 1 je deljivo sa 2, 4, 5, tj. a 1 je deljivo sa 20, a = 10 r +1, r 2. Zadovoljavaju i statistiqki rezultati se postiжu pri izboru a = 101, b = 1, r 4. U sluqaju kada je b = 0, generator određen rekurentnom formulom X n = ax n 1 (mod m) se naziva multiplikativni linearni kongruentni generator. Poxto X i ne moжe biti jednako nuli (dobio bi se degenerisani niz), maksimalni period multiplikativnog linearnog kongruentnog generatora je m 1. Da bismo dobili pseudosluqajni broj potrebno je da svaki dobijeni broj X n podelimo sa m 1, tj. U n = X n m 1. U primenama se dobro pokazao multiplikativni linearni kongruentni generator sa m = ili m = (Mersen prosti brojevi). Povoljni izbori za a su: Za m = : a = ili a = Za m = : a = ili a =

11 Drugi linearni kongruentni generatori Naredni qlan niza se dobija rekurentnom formulom pomo u prethodnih k, k 2 qlanova. Neki od primera ovakvih generatora su: 1. Multiplikativni rekurzivni generator određen rekurentnom formulom X n = (a 1 X n 1 + a 2 X n a k X n k ) mod m. Broj prethodnih qlanova niza pomo u kojih se dobija naredni qlan, k, naziva se red generatora. Maksimalan period niza je m k 1, za m prost broj. 2. Fibonaqijev kongruentni generator sa korakom 4 Fibonaqijev niz X n+2 = X n+1 + X n nema zadovoljavaju a svojstva sluqajnosti, pa se koristi Fibonaqijev kongruentni generator sa korakom X n = (X n j + X n k ) mod m. Ako je m prost broj i k > j, tada je maksimalan period niza m k 1. Nelinearni kongruentni generatori Knutov generator 5 X n = (dxn ax n 1 + c) mod m. Blum, Blum & Xabov generator 6 X n = Xn 1 2 mod m. 4 Lagged Fibonacci congruential generator 5 Knuth, Blum, Blum & Shub,

12 Kombinovani generatori pseudosluqajnih brojeva Viqman - Hilov generator predstavlja kombinaciju tri multiplikativna linearna generatora X n = 171X n 1 mod Y n = 172Y n 1 mod Z n = 170Z n 1 mod ( Xn U n = Y n Z ) n mod Poqetna vrednost ovog generatora je vektor (X 0, Y 0, Z 0 ). Ovaj generator direktno vra a brojeve U n iz intervala (0, 1). Period generatora je reda Lekijerov generator: X n = 4001X n 1 mod Y n = 40692Y n 1 mod Z n = (X n Y n ) mod U n = Z n Period ovog generatora je reda Pseudosluqajni brojevi dobijeni pomo u kombinovanih generatora imaju bolje osobine sluqajnosti u odnosu na linearne kongruentne generatore. 11

13 Preliminarna analiza kvaliteta generatora pseudosluqajnih brojeva Oqekuje se pseudosluqajni brojevi imaju zadovoljavaju a svojstva sluqajnosti. Pre nego xto formalnim testiranjem ispitamo da li je pretpostavka o njihovoj sluqajnosti ispunjena, izvrxi emo preliminarnu analizu kvaliteta generatora pseudosluqajnih brojeva. Ova analiza nam moжe u kazati na potencijalne slabe taqke generatora. Prvo, upoređujemo uzoraqku sredinu X n = 1 n n i=1 X i i uzoraqku disperziju S 2 n = 1 n 1 n i=1 (X i X n ) 2 sa matematiqkim oqekivanjem i disperzijom sluqajne veliqine X : U(0, 1), EX = 1 2, DX = Drugo, ispitujemo nezavisnost qlanova niza pseudosluqajnih brojeva preko serijskih koeficijenata korelacije. Serijski koeficijent korelacije sa korakom k se raquna na osnovu formule r k = 1 n k 1 n k n k i=1 (X i A k )(X i+k B k ) n k i=1 (X i A k ) 2 1 n k n k i=1 (X i+k B k ) 2, gde je A k = 1 n k n k i=1 X i i B k = 1 n k n k i=1 X i+k. Za dobijeni niz brojeva, raqunamo serijske koeficijente korelacije sa korakom 1-5 (koeficijente korelacije između qlanova udaljenih k = 1, 2,... 5 mesta) i oqekujemo, u skladu sa pretpostavkom nezavisnosti, da su njihove vrednosti male. Tre e, predstavljamo uzastopne parove taqaka (X i, X i+1 ), i = 1, 2,..., n na grafiku. Ravan grafika bi trebalo da je ravnomerno pokrivena taqkama. Primer 5 Razmotrimo multiplikativni kongruentni generator pseudosluqajnih brojeva sa poqetnom vrednox u x 0 X n = 12X n 1 mod 31, = 9. Period ovog generatora je 30. Uzoraqka sredina je jednaka 0.517, a uzoraqka disperzija Serijski

14 koeficijenti korelacije su r 1 = 0.008, r 2 = 0.074, r 3 = 0.251, r 4 = 0.236, r 5 = Koeficijenti korelacije sa koracima 3 i 4 su malo ve i za uzorak ovog obima, ali i dalje u okviru granica. Na slede oj slici je prikazan grafik uzastopnih parova taqaka. drugi[2:30] drugi[1:29] Slika 1. Grafik uzastopnih parova taqaka generatora X n = 12X n 1 mod 31 Uoqavamo da ravan grafika nije ravnomerno pokrivena taqkama, ve se taqke nalaze na 7 pravih sa k = 5 3 i 6 pravih sa k = 2 5. Primer 6 Razmotrimo jedan od poznatijih multiplikativnih kongruentnih generatora, RAN DU određen formulom X n = ( )X n 1 (mod m), sa poqetnom vrednox u x 0 = 1. Generisano je 1000 pseudosluqajnih brojeva. Uzoraqka sredina je jednaka 0.511, a uzoraqka disperzija

15 serijski koef. korelacije korak Slika 2. Grafik serijskih koeficijenata korelacije sa koracima 1-5 niz[2:1000] niz[1:999] Slika 3. Grafik uzastopnih parova taqaka RANDU generatora Serijski koeficijenti korelacije su jednaki r 1 = 0.028, r 2 = 0.001, r 3 = 0.010, r 4 = 0.069, r 5 = Koeficijent korelacije sa korakom 4 je veliki za uzorak ovog obima, van kontrolnih granica za dovoljno male koeficijente korelacije, xto je i prikazano na Slici 2. 14

16 Na Slici 3 je prikazan grafik uzastopnih parova taqaka. Uoqavamo da ravan grafika priliqno ravnomerno pokrivena taqkama. 15

17 Testiranje kvaliteta generatora pseudosluqajnih brojeva Жelimo da testiramo da li niz pseudosluqajnih brojeva predstavlja prost sluqajan uzorak iz uniformne U(0, 1) raspodele. Kao xto je ranije reqeno, niz pseudosluqajnih brojeva je potpuno deterministiqki, ali ako prođe bateriju statistiqkih testova (testovi sluqajnosti, testovi slaganja sa uniformnom raspodelom, testovi nezavisnosti), moжemo ga tretirati kao niz zaista sluqajnih brojeva. Test frekvencija Neka ε 1, ε 2,..., ε n predstavlja uzorak cifara niza pseudosluqajnih brojeva (npr. uzima se prva decimala svakog generisanog pseudosluqajnog broja). Жelimo da testiramo nultu hipotezu da se cifre 0 9 javljaju sluqajno, tj. da cifre pseudosluqajnih brojeva imaju uniformnu diskretnu raspodelu ( Neka M j oznaqava broj pojavljivanja (frekvenciju) cifre j, j = 0, 1, 2,..., 9 u uzorku. Test statistika je: ( 9 Mj n 2 S = 10), j=0 koja, za veliko n, ima χ 2 9 raspodelu. Kritiqne vrednosti za test-statistiku su i jako velike i jako male vrednosti. Velika vrednost test statistike znaqi da postoje velike razlike u broju pojavljivanja pojedinih cifara. Vrlo mala vrednost test-statistike je takođe neprihvatljiva jer svaki stvarni niz koji ima konaqno mnogo cifara skoro sigurno ima razliqit broj pojedinih cifara. Prema tome, kritiqna oblast je oblika n 10 ) W = [0, c 1 ] [c 2, + ),

18 gde su c 1 i c 2 kritiqne vrednosti. Za dati prag znaqajnosti α, kritiqne vrednosti su tada jednake c 1 = χ 2 9; α 2, c 2 = χ 2 9;1 α 2 Ukoliko realizovana vrednost test-statistike upada u kritiqnu oblast, odbacujemo nultu hipotezu. Test parova Uzmimo uzorak 2n cifara niza pseudosluqajnih brojeva (npr. uzimamo prve dve decimale svakog generisanog pseudosluqajnog broja). Oznaqimo ih redom sa ε 1, ε 2,..., ε 2n. Formiramo parove ε 1 ε 2, ε 3 ε 4,..., ε 2n 1 ε 2n i testiramo hipotezu da je raspodela parova diskretna uniformna raspodela ( Neka M ij oznaqava broj pojavljivanja para ij u nizu cifara. Teststatistika je S = 9 i,j=0 ( Mij n 100 n 100 koja, za veliko n, ima χ 2 99 raspodelu. Kritiqne vrednosti za teststatistiku su i jako velike i jako male vrednosti, kao u sluqaju testa frekvencija. Dakle, kritiqna oblast je oblika ) 2 W = [0, c 1 ] [c 2, + ), gde su c 1 i c 2 kritiqne vrednosti. Za dati prag znaqajnosti α, kritiqne vrednosti su tada jednake, ) c 1 = χ 2 99; α 2, c 2 = χ 2 99;1 α 2 17

19 Serijski test Serijski test se koristi za testiranje nulte hipoteze sluqajnosti uzastopnih brojeva u generisanom nizu pseudosluqajnih brojeva. Neka je U 1 = (X 1, X 2 ), U 2 = (X 3, X 4 ),..., U n = (X 2n 1, X 2n ) niz uzastopnih parova. Жelimo da testiramo hipotezu da su sluqajne veliqine U i kvadratu. nezavisne i da imaju uniformnu raspodelu na jediniqnom Podelimo jediniqni kvadrat na r 2 kvadrata, svaki povrxine 1 r i 2 oznaqimo sa V kj broj parova koji upadaju u kvadrat (element matrice ) ( j 1, j ) ( k 1, k ), j = 1, 2,..., r, k = 1, 2,..., r. r r r r Test-statistika je V = r2 n r k,j=1 (V k,j n r 2 ) 2 i, za veliko r ima χ 2 r 2 1 raspodelu. Kritiqna oblast je oblika W = [c, + ) Za prag znaqajnosti α, nalazimo kritiqnu vrednost c = χ 2 r 2 1;1 α. Test razmaka 7 Neka ε 1, ε 2,..., ε n predstavlja uzorak cifara niza pseudosluqajnih brojeva. Жelimo da testiramo hipotezu o sluqajnosti dobijenih cifara. U dobijenom nizu cifara brojimo duжine razmaka između pojavljivanja dve iste cifre. Neka sluqajna veliqina X predstavlja duжinu razmaka dok se ne pojavi ista cifra. Sluqajna veliqina X ima geometrijsku raspodelu G(0.1) sa zakonom raspodele p k = P {X = k} = 0.9 k Gap test 18

20 Pomo u Pirsonovog χ 2 testa testiramo da li raspodela G(0.1) odgovara duжini razmaka između pojavljivanja istih cifara u generisanom nizu pseudosluqajnih brojeva. Duжine razmaka podelimo na k intervala (klasa) duжine l, l > 1. Ima emo intervale [0, l), [l, 2l),..., [(k 1)l, kl]. Oznaqimo sa M j, broj pojavljivanja uzoraqkih duжina razmaka u j - tom intervalu. Teststatistika je k (M j np j ) 2, j = 1, 2,..., k np j j=1 gde su verovatno e p j jednake p j = P {X [(j 1)l, jl)} = jl 1 k=(j 1)l 0.9 k 0.1 = 0.9 (j 1)l (1 0.9 l ). Za veliko n, test-statistika ima χ 2 k 1 raspodelu. Kritiqna oblast je oblika W = [c, + ) = [χ 2 k 1;1 α, + ) gde je α unapred odabrani prag znaqajnosti. Poker test Neka ε 1, ε 2,..., ε n predstavlja uzorak cifara niza pseudosluqajnih brojeva. Жelimo da testiramo hipotezu o sluqajnosti dobijenih cifara. Formiraju se grupe po k cifara (k-torke cifara, k = 3, 4) i posmatra se broj istih cifara u svakoj grupi. Razmotri emo triling varijantu testa kada uzimamo m = 3n cifara i formiramo trojke ε 1 ε 2 ε 3, ε 4 ε 5 ε 6,..., ε 3n 2 ε 3n 1 ε 3n. Brojimo iste cifre u formiranim trojkama cifara. Neka je X sluqajna veliqina koja predstavlja broj istih cifara u trocifrenim brojevima. Tada je p 0 = P {X = 0} = P {sve cifre su razliqite} = = 0.72 p 3 = P {X = 3} = P {sve cifre su iste} = = 0.01 p 2 = P {X = 2} = P {jedan par istih cifara} = =

21 Funkcija raspodele sluqajne veliqine je tada jednaka 0, x < , 0 x < 2 F (x) = 0.99, 2 x < 3 1, x 3 Pomo u Pirsonovog χ 2 testa testiramo da li raspodela F odgovara broju istih cifara u trojkama cifara niza pseudosluqajnih brojeva. Oznaqimo sa M j, j = 0, 2, 3 broj pojavljivanja j-istih cifara u dobijenom nizu cifara. Test-statistika je tada jednaka 3 j=1 koja ima, za veliko n, χ 2 2 raspodelu. Kritiqna oblast je oblika (M j np j ) 2 np j, W = [c, + ) = [χ 2 2;1 α, + ) gde je α unapred odabrani prag znaqajnosti. Test Kolmogorova Neka je X 1, X 2,..., X n uzorak pseudosluqajnih brojeva. Жelimo da testiramo hipotezu da niz pseudosluqajnih brojeva ima uniformnu U(0, 1) raspodelu. Formiramo varijacioni niz X (1) X (2)... X (n). Oznaqimo sa F funkciju uniformne U(0, 1) raspodele i sa F n empirijsku funkciju raspodelu, 0, ako je x < X (1) F n (x) = k n, ako je X (k 1) x < X (k), k = 1, 2,..., n 1, ako je x X (n). Test-statistika je jednaka D n = sup F n (x) F (x). x R 20

22 Kolmogorov je pokazao da za neprekidne funkcije raspodele vaжi lim P { n D n λ} = lim P {D n λ } = K(λ) = n n n + k= ( 1) k e 2k2 λ 2, za svako λ > 0. Konvergencija je brza i aproksimacija zadovoljavaju a ve za n 20. Naravno, K(λ) = 0 za svako λ 0. Sa K(λ) određena je tzv. raspodela Kolmogorova. Neka je d n realizovana vrednost test statistike. Velike vrednosti d n govore u prilog nesaglasnosti empirijske (uzoraqke) raspodele sa raspodelom F. Prema tome, kritiqna oblast je oblika W = [c, + ) = [d n;α, + ). Kritiqnu vrednost c nalazimo iz tablica Kolmogorovljeve raspodele. Test koraka 8 Neka je X 1, X 2,..., X n uzorak pseudosluqajnih brojeva. Жelimo da testiramo hipotezu o sluqajnosti. Formiramo novi niz pluseva i minuseva: ukoliko je X j > X i, j > i upisujemo znak + a ukoliko je X j < X i, j > i, znak. Neka je n 1 ukupan broj pluseva i n 2 ukupan broj minuseva. Imamo da je obim uzorka n = n 1 + n 2. Ukoliko je uzorak brojeva sluqajan, + i e se javiti sa istom verovatno om. Korakom smatramo svaki podniz istih elemenata, tj. seriju pluseva ili minuseva. Test-statistika R predstavlja ukupan broj koraka u nizu pseudosluqajnih brojeva. Matematiqko oqekivanje i disperzija test-statistike R su, redom, jednaki 8 Runs test E(R) = 2n 1n 2 n 1 + n D(R) = 2n 1n 2 (2n 1 n 2 n 1 n 2 ) (n 1 + n 2 ) 2 (n 1 + n 2 1). 21

23 Statistika R = R E(R) D(R) ima pribliжno normalnu N (0, 1) raspodelu, ako je n 1 ili n 2 ve e od 20. Kritiqna oblast je oblika W = (, c] [c, + ),, gde je c = F 1 (1 α 2 ), za dati prag znaqajnosti α. Test autokorelacija Neka je X 1, X 2,..., X n uzorak pseudosluqajnih brojeva. Жelimo da testiramo hipotezu da su sluqajne veliqine X i, i = 1, 2,..., n nezavisne. Raqunamo autokorelacije između svakih m qlanova niza X i, X i+m, X i+2m,..., X i+(m+1)m, gde je M najve i prirodan broj tako da vaжi i + (M + 1)m n. Testiramo nultu hipotezu gde ρ im H 0 : ρ im = 0 protiv H 1 : ρ im 0, predstavlja autokorelaciju između svakih m qlanova niza, poqevxi od i-tog qlana. Test statistika je gde je ˆρ im = 1 M + 1 ocena autokorelacije ρ im, a ocena njene disperzije. Z 0 = ˆρ im ˆσ ρim, M X i+km X i+(k+1)m 0.25 k=0 ˆσ im = 13M (M + 1) Ukoliko je taqna nulta hipoteza, raspodela test-statistike se moжe aproksimirati normalnom raspodelom N (0, 1). 22

24 Kritiqna oblast je oblika W = (, c] [c, + ) Kritiqna vrednost c se nalazi, za dati prag znaqajnosti α na osnovu c = F 1 (1 α 2 ), gde je F funkcija N (0, 1) raspodele. Treba naglasiti da nijedan test za proveru kvaliteta generatora pseudosluqajnih brojeva nije ni sveobuhvatan ni svemo an. Ako niz pseudosluqajnih cifara prođe jedan test, ne znaqi da e pro i neki drugi test. Preporuquje se i konstruisanje prigodnih testova u zavisnosti od prirode problema za koji koristimo generisane pseudosluqajne brojeve. Na primer, ako je od posebnog znaqaja da se ne pojavi zavisnost među generisanim ciframa, treba niz pseudosluqajnih brojeva proveriti nekim testom vezanim za proveru nezavisnosti. 23

25 Modeliranje sluqajnih događaja i diskretnih sluqajnih veliqina Modeliranje (ili simulacija ) sluqajne veliqine je određivanje nezavisnih realizacija izabrane sluqajne veliqine pomo u dobijenog niza (pseudo)sluqajnih brojeva. Modeliranje diskretnih sluqajnih veliqina sa konaqno mnogo vrednosti Neka je X diskretna sluqajna veliqina sa konaqno mnogo vrednosti i neka je poznat zakon raspodele:p {X = x k } = p k, k = 1, 2,..., n, tj. sluqajna veliqina X uzima vrednost x k raspodele se moe zapisati i u obliku: sa verovatno om p k. Zakon ( ) x1 x 2... x n n X :, p k = 1. p 1 p 2... p n Neka je γ jedan (pseudo)sluqajni broj. Ako je γ p 1, smatra se da se realizovala vrednost x 1 sluqajne veliqine X. Ako je p 1 < γ p 1 + p 2, smatra se da se realizovala vrednost x 2 sluqajne veliqine X,.., ako je p 1 + p p n 1 < γ realizovala se vrednost x n. Znaqi da se za dobijanje jedne realizacije sluqajne veliqine koristi jedan (pseudo)sluqajni broj. k=1 Modeliranje sluqajnih događaja Na osnovu postupka za modeliranje diskretnih sluqajnih veliqina se mogu modelirati i realizacije sluqajnih događaja. Ako je verovatno- a događaja A jednaka p, tada je indikator događaja A sluqajna veliqina ( ) 1 0 I A : p 1 p

26 Ukoliko je γ p, realizovala se vrednost 1 indikatora, a ako je p < γ, realizovala se vrednost 0. Modeliranjem te sluqajne veliqine dobija se da se događaj A realizovao ako je dobijena modelirana vrednost 1, a da se događaj A nije realizovao ako je dobijena modelirana vrednost 0. Neka su A 1, A 2,..., A n disjunktni događaji (A i A j = 0, i j) i P (A i ) = p i, i = 1, 2,..., n. Oznaqimo sa ξ indeks događaja koji se realizovao. Sluqajna veliqina ξ ima tada zakon raspodele ( ) n ξ : p 1 p 2... p n Modeliramo vrednosti diskretne sluqajne veliqine ξ. Ukoliko je dobijena vrednost ξ = i, realizovao se događaj A i, i = 1, 2,..., n. Primer 7 Neka su A i B dva nezavisna događaja, P (A) = p A, P (B) = p B. Događaje A i B moжemo modelirati na dva naqina. 1. Neka su γ 1 i γ 2 dva nezavisna (pseudo)sluqajna broja. Ako je γ 1 p A realizovao se događaj A i ako je γ 2 p B, realizovao se događaj B. 2. Razmotrimo slede e disjunktne događaje A 1 = AB, A 2 = AB, A 3 = AB, A 4 = A B, sa odgovaraju im verovatno ama, redom, p 1 = p A p B, p 2 = p A (1 p B ), p 3 = (1 p A )p B, p 4 = (1 p A )(1 p B ). Pomo u (pseudo)sluqajnog broja γ modeliramo sluqajnu veliqinu ( ) ξ : p 1 p 2 p 3 p 4 Ukoliko je dobijena vrednost ξ = i, realizovao se događaj A i, i = 1, 2, 3, 4. Primer 8 Neka su A i B zavisni događaji, P (A) = p A, P (B) = p B, P (AB) = p AB. Događaje A i B moжemo modelirati na dva naqina. 1. Koristimo dva (pseudo)sluqajna broja γ 1 i γ 2 za modeliranje događaja A i B. Pomo u broja γ 1 modeliramo događaj A. Ukoliko se 25

27 realizovao događaj A, verovatno a da se realizovao događaj B je jednaka P (B A) = p AB p A. Ako je γ 2 P (B A), realizovao se događaj B. Ako se nije realizovao događaj A, verovatno a da se realizovao događaj B je P (B A) = p B p AB 1 p A. Ako je γ 2 P (B A), realizovao se događaj B. 2. Neka su događaji A 1, A 2, A 3 i A 4 definisani kao u prethodnom primeru sa verovatno ama jednakim, redom, p 1 = p AB, p 2 = p B p AB, p 3 = p A p AB, p 4 = 1 p A p B + p AB. Pomo u (pseudo)sluqajnog broja γ modeliramo sluqajnu veliqinu ξ : ( ) p 1 p 2 p 3 p 4 Ukoliko je dobijena vrednost ξ = i, realizovao se događaj A i, i = 1, 2, 3, 4. Modeliranje binomne raspodele Neka je verovatno a realizacije nekog događaja A u svakom eksperimentu jednaka p. Sluqajna veliqina S n koja je jednaka broju realizacija događaja A u n nezavisnih eksperimenata ima binomnu raspodelu B(n, p). Njen zakon raspodele je: ( ) n p k = P {S n = k} = p k (1 p) n k, k = 0, 1,..., n. k Na osnovu definicije, S n se moжe predstaviti kao zbir nezavisnih sluqajnih veliqina I k koje sve imaju istu raspodelu i predstavljaju indikator događaja A u k-tom eksperimentu: S n = n I k. k=1 Modeliraju se vrednosti za I k, k = 1, 2,..., n i saberu se. Dobijeni broj je realizovana vrednost sluqajne veliqine S n. Prednost ovog postupka je xto se ne moraju raqunati verovatno e p k iz zakona 26

28 raspodele za S n, a nedostatak je xto je potrebno n (pseudo)sluqajnih brojeva za dobijanje jedne realizacije sluqajne veliqine. Modeliranje diskretnih sluqajnih veliqina sa prebrojivo mnogo vrednosti Neka je X diskretna sluqajna veliqina sa prebrojivo mnogo vrednosti i neka je poznat njen zakon raspodele: ( ) x1 x 2... x n... X :, p 1 p 2... p n... p k = 1. k=1 Neka je n prirodni broj takav da je p n+1 + p n < δ, gde je δ proizvoljno mali (unapred izabrani) pozitivan realni broj. Umesto sluqajne veliqine X posmatra se zaseqena sluqajna veliqina ( ) X x1 x 2... x n :, p 1 p 2... p n gde je p n = 1 p 1... p n 1. Vrednost ove sluqajne veliqine se modelira na naqin koji je ve opisan za modeliranje vrednosti diskretne sluqajne veliqine sa konaqno mnogo vrednosti. Na taj naqin se ne e dobiti ni jedna od vrednosti sluqajne veliqine X koja je ve a od x n. Međutim, verovatno a dobijanja bilo koje vrednosti ve e od x n je manja od δ, a kako je δ unapred izabrani vrlo mali pozitivan broj, to su i verovatno e dobijanja vrednosti sluqajne veliqine X koje su ve e od x n zanemarljivo male. U zavisnosti od zadatka koji se rexava i broja vrednosti koje je potrebno modelirati bira se δ. Modeliranje geometrijske raspodele Neka je verovatno a realizacije nekog događaja A u svakom eksperimentu jednaka p i neka se eksperimenti ponavljaju (pri istim uslovima) 27

29 dok se prvi put ne ostvari događaj A. Sluqajna veliqina X koja je jednaka broju izvedenih eksperimenata ima geometrijsku raspodelu. Njen zakon raspodele je: ( ) n... X :, p (1 p)p... (1 p) n 1 p... odnosno p k = P {X = k} = (1 p) k 1 p, k = 0, 1, 2,.... Ova sluqajna veliqina se modelira tako xto, za izabrani pozitivni broj δ i poznatu verovatno u p, se odredi najmanji prirodni broj koji zadovoljava nejednakost n 0 > ln δ ln (1 p). Formira se zaseqena sluqajna veliqina: ( ) X n0 :, p (1 p)p... p n 0 gde je p n 0 = 1 ( p + (1 p)p +... (1 p) n0 2 p ), a zatim se modelira korix enjem postupka za modeliranje diskretnih sluqajnih veliqina sa konaqno mnogo vrednosti. Primer 9 Modelirajmo vrednost sluqajne veliqine X koja predstavlja broj gađanja u metu, gde je verovatno a pogotka pri svakom gađanju p = 0.6. Uzmimo da je δ = Nalazimo da je n 0 = 8 i formiramo zaseqenu sluqajnu veliqinu ( ) X :, p n 0 gde je p n 0 = 1 ( ) = Korix enjem Mersen- Tvister generatora u statistiqkom softveru R, dobijamo pseudosluqajni broj γ = Kako je γ p, realizovala se vrednost x = 1 sluqajne veliqine X. 28

30 Modeliranje Puasonove raspodele Sluqajna veliqina X ima Puasonovu raspodelu sa parametrom λ, λ > 0, ako je njen zakon raspodele oblika: p k = P {X = k} = e λ λk, k = 0, 1, 2,.... k! Ova sluqajna veliqina se modelira tako xto se, za izabrani pozitivni broj n 0 i poznati parametar λ, odredi najmanji prirodni broj koji zadovoljava nejednakost e λ λn0+1 n (n 0 + 1)! n λ < δ. Formira se zaseqena sluqajna veliqina ( ) X n0 :, p 0 p 1... p n 0 λ λk gde je p k = e k!, k = 0, 1,..., n 0 1, p n 0 = 1 n 0 1 k=0 p k i zatim se modelira korix enjem postupka za modeliranje diskretnih sluqajnih veliqina sa konaqno mnogo vrednosti. 29

31 Modeliranje neprekidnih sluqajnih veliqina Metoda inverzne funkcije Neka je X neprekidna sluqajna veliqina sa funkcijom rapodele F, za koju se moжe odrediti inverzna funkcija. Modeliranje vrednosti sluqajne veliqine X se moжe ostvariti na osnovu slede e teoreme. Teorema 4 Neka je data sluqajna veliqina X qija je funkcija raspodele F strogo monotona i neprekidna i neka je F 1 njena inverzna funkcija. Neka je Y sluqajna veliqina sa uniformnom raspodelom U(0, 1). Tada sluqajna veliqina F 1 (Y ) ima funkciju raspodele F. Dakle, realizovana vrednost x sluqajne veliqine X se dobija pomo u jednog (pseudo)sluqajnog broja γ, po formuli x = F 1 (γ). Modeliranje eksponencijalne raspodele Sluqajna veliqina X ima eksponencijalnu raspodelu sa parametrom λ > 0, u oznaci X : E(λ), ako je njena funkcija raspodele oblika: F (x) = 1 e λx, x 0. Primenjuje se metoda inverzne funkcije. Ako je γ (pseudo)sluqajni broj, tada je modelirana vrednost sluqajne veliqine X jednaka x = 1 λ ln (1 γ). Ovaj izraz se moжe pojednostaviti korix enjem slede e osobine uniformne raspodele. Tvrđenje 1 Ako sluqajna veliqina Y ima uniformnu raspodelu U(0, 1), tada i sluqajna veliqina 1 Y ima uniformnu raspodelu U(0, 1). Na taj naqin se dobija jednostavna formula za modeliranje vrednosti eksponencijalne raspodele x = 1 λ ln γ.

32 Nojmanova metoda Za sluqajne veliqine qija je gustina raspodele f razliqita od nule i ograniqena na konaqnom intervalu, modeliranje se moжe ostvariti na osnovu slede e teoreme. Teorema 5 Neka je gustina raspodele f sluqajne veliqine X definisana na konaqnom intervalu (a, b) i neka je f(x) M, x (a, b). Neka su x T i y T modelirane vrednosti nezavisnih sluqajnih veliqina sa raspodelama, redom, U(a, b) i U(0, M). Ako je y T realizovana vrednost sluqajne veliqine X jednaka x T. < f(x T ), tada je Da bi se Nojmanovom metodom dobila jedna realizacija sluqajne veliqine koja se modelira, potrebna su bar dva (pseudo)sluqajna broja. Ako nejednakost y T < f(x T ) nije zadovoljena, treba modelirati slede i par vrednosti x T i y T, itd. dok se ne dobije par vrednosti x T i y T koji zadovoljava uslove teoreme. Nojmanova metoda se moжe primeniti i na sluqajne veliqine qija je gustina raspodele razliqita od nule na beskonaqnom intervalu, ali prvo je potrebno formirati odgovaraju u zaseqenu sluqajnu veliqinu. Neka sluqajna veliqina X ima gustinu raspodele f(x), a < x < b, tj. neka je b a f(x)dx = 1. Za sluqajnu veliqinu X Z se kaжe da ima zaseqenu gustinu raspodele f ako su vrednosti sluqajne veliqine X Z iz intervala (a, b) (a, b ), a njena gustina raspodele proporcionalna gustini raspodele f. Ako se sa f Z oznaqi gustina raspodele sluqajne veliqine X Z, tada je f Z (x) = b a f(x) x (a, b). f(x)dx, Prime uje se da vaжi f Z (x) > f(x), x (a, b) Interval (a, b) se bira tako da vaжi 1 b a f(x)dx < δ, gde je δ unapred odabrani mali pozitivan broj. Primer 10 Neka je X sluqajna veliqina sa gustinom raspodele f X (x) = 1 x, x (1, e). Gustina raspodele f je ograniqena, f(x) 1, x (1, e). 31

33 Za dva pseudosluqajna broja γ 1 = i γ 2 = 0.382, dobijaju se modelirane vrednosti x T = 1 + (e 1) γ 1 = sluqajne veliqine iz U(1, e) raspodele i y T = sluqajne veliqine iz U(0, 1) raspodele. Kako je y T < f(x T ) = 0.666, realizovala se vrednost x = sluqajne veliqine X. Modeliranje vixedimenzionih sluqajnih veliqina Modeliranje n-dimenzione sluqajne taqke sa nezavisnim koordinatama Ukoliko su koordinate n-dimenzione sluqajne veliqine Q = (X 1, X 2,..., X n ) nezavisne, tada je funkcija raspodele sluqajne veliqine Q jednaka F Q (x 1, x 2,..., x n ) = F 1 (x 1 )F 2 (x 2 ) F n (x n ), gde je F i (x i ), i = 1, 2,..., n funkcija raspodele sluqajne veliqine X i. U tom sluqaju, moжemo modelirati nezavisno svaku sluqajnu veliqinu X i. Primer 11 Neka je Q sluqajna taqka sa Dekartovim koordinatama (X 1, X 2,..., X n ) ravnomerno raspodeljenim na n-dimenzionom paralelepipedu Π = {a i < x i < b i, i = 1, 2,..., n}. Gustina raspodele sluqajne taqke Q je jednaka f Q (x 1, x 2,..., x n ) = { 1 n i=1 (b i a i ), (x 1, x 2,..., x n ) Π 0, (x 1, x 2,..., x n ) / Π Gustina sluqajne veliqine X i je jednaka { 1 b f i (x i ) = i a i, x i (a i, b i ) 0, x i / (a i, b i ) a funkcija raspodele F i (x i ) = x i a i b i a i, x i (a i, b i ). 32

34 Na osnovu metode inverzne funkcije F i (x i ) = γ i dobijamo x i = a i + γ i (b i a i ), i = 1, 2,..., n. Modeliranje n-dimenzione sluqajne taqke sa zavisnim koordinatama U opxtem sluqaju, kada su koordinate (X 1, X 2,..., X n ) sluqajne taqke Q zavisne, zajedniqku gustinu raspodele moжemo predstaviti kao f Q (x 1, x 2,..., x n ) = f 1 (x 1 ) f 2 (x 2 x 1 ) f 3 (x 3 x 1, x 2 ) f n (x n x 1, x 2,..., x n 1 ). Tada imamo f 1 (x 1 ) = f Q (x 1, x 2,..., x n )dx 2... dx n + f 2 (x 2 x 1 ) =... + f Q(x 1, x 2,..., x n )dx 3... dx n f 1 (x 1 ) + f 3 (x 3 x 1, x 2 ) =... + f Q(x 1, x 2,..., x n )dx 4... dx n f 1 (x 1 ) f 2 (x 2 x 1 ). f n 1 (x n 1 x 1,..., x n 2 ) = f n (x n x 1,..., x n 1 ) = Definiximo uslovnu funkciju raspodele F i (x i x 1,..., x i 1 ) = + f Q(x 1, x 2,..., x n )dx n f 1 (x 1 ) f n 2 (x n 2 x 1,... x n 3 ) f Q (x 1, x 2,..., x n ) f 1 (x 1 ) f n 1 (x n 1 x 1,... x n 2 ) xi f i (x x 1,..., x i 1 )dx. Teorema 6 Neka su U 1, U 2,..., U n nezavisni (pseudo)sluqajni brojevi. Sluqajne veliqine X 1, X 2,..., X n koje se dobijaju kao rexenja sistema F 1 (X 1 ) = U 1 F 2 (X 2 X 1 ) = U 2. F n (X n X 1,... X n 1 ) = U n. imaju zajedniqku gustinu raspodele f Q (x 1, x 2,..., x n ). 33

35 Primer 12 Razmotrimo sluqajnu taqku (ξ, η) koja uzima vrednosti u trouglu = {(x, y) : x + y < 1, x > 0, y > 0} s gustinom raspodele f(x, y) = 6x. a) Napiximo zajedniqku funkciju raspodele kao f Q (x, y) = f X (x)f Y (y x). Marginalne gustine raspodele su jednake f X (x) = f Y (y x) = 1 x 0 6xdy = 6x(1 x), 0 < x < 1, f(x, y) f X (x) = 1 1 x, 0 < y < 1 x. Odgovaraju e funkcije raspodele su jednake F X (x) = F Y (y x) = x 0 y Dobijamo sistem jednaqina 0 6u(1 u)du = 3x 2 2x 3, 0 < x < 1, 1 1 x dy = y 1 x, 0 < y < 1 x. 3x 2 2x 3 = γ 1 y = γ 2 (1 x). koji je malo nezgodniji za rexavanje. b) Napiximo gustinu raspodele kao f Q (x, y) = f Y (y) f X (x y). Marginalne gustine raspodele su jednake f Y (y) = f X (x y) = 1 y 0 6xdx = 3(1 y) 2, 0 < y < 1 2x (1 y) 2, 0 < x < 1 y, a odgovaraju e funkcije raspodele su jednake F Y (y) = F X (x y) = y 0 x 0 3(1 u) 2 du = 1 (1 y) 3, 0 < y < 1, 2u (1 y) 2 du = x 2 (1 y) 2, 0 < x < 1 y. 34

36 Dobijamo (koristimo γ 1 umesto 1 γ 1 ) (1 y) 3 = γ 1 x 2 = γ 2 (1 y) 2, odnosno y = 1 3 γ 1 x = γ 2 3 γ 1, Modeliranje vixedimenzione sluqajne veliqine korix enjem smene promenljivih Primer 13 Sluqajna taqka Q = (X, Y, Z) je ravnomerno raspodeljena na lopti x 2 + y 2 + z 2 < R 2. Gustina raspodele sluqajne veliqine Q je jednaka f Q (x, y, z) = πr 3. Prelazimo na sferne koordinate x = r sin θ cos φ y = r sin θ sin φ z = r cos θ U novim koordinatama sfera se preslikava u paralelepiped 0 r < R, 0 θ < π, 0 φ < 2π. Jakobijan preslikavanja je jednak J = r 2 sin θ i zajedniqka gustina novih koordinata je f Q (r, θ, φ) = 3 r 2 sin θ 4 πr 3. Ova gustina predstavlja proizvod tri gustine sfernih koordinata R Q, Θ Q, Φ Q,redom, f Q (r, θ, φ) = 3r2 sin θ 1 R 3 2 2π 35

37 i prema tome, sferne koordinate R Q, Θ Q, Φ Q Imamo taqke Q su nezavisne. odakle se dobija rq 0 θq 0 φq 0 3r 2 dr R 3 = r3 Q R 3 = γ 1 sin θ 2 dθ = 1 2 (1 cos θ Q) = 1 γ 2 1 2π dφ = φ Q 2π = γ 3, r Q = R 3 γ 1 cos θ Q = 2γ 2 1 φ Q = 2πγ 3 Dekartove koordinate taqke Q su x = r Q sin θ Q cos φ Q y = r Q sin θ Q sin φ Q z = r Q cos θ Q Metoda superpozicije Neka sluqajna veliqina X ima funkciju raspodele F koja se moжe napisati u obliku F (x) = m c k F k (x), (1) k=1 gde su F k (x) funkcije raspodele, koeficijenti c k > 0, m k=1 c k = 1. Dalje, neka je Y diskretna sluqajna veliqina sa zakonom raspodele Y : ( ) m c 1 c 2... c m 36

38 Teorema 7 Neka su γ 1 i γ 2 nezavisni (pseudo)sluqajni brojevi. Ako na osnovu γ 1 modeliramo vrednost sluqajne veliqine Y, a zatim na osnovu F k (x) = γ 2 modeliramo X, tada sluqajna veliqina X ima funkciju raspodele F. Primer 14 Sluqajna veliqina X ima gustinu raspodele f(x) = 5 12 ( 1 + (x 1) 4 ), x (0, 2). Funkcija raspodele sluqajne veliqine X je F (x) = 5 (x 1)5 x Ukoliko koristimo metod inverzne funkcije, dobijamo (x 1) 5 + 5x = 12γ 1, pa bi bilo potrebno rexiti jednaqinu petog stepena za nalaжenje vrednosti sluqajne veliqine X. Razloжimo metodom superpozicije funkciju raspodele na F (x) = 5 6 F 1(x) F 2(x), gde je F 1 (x) = x 2 i F 2(x) = 1 2 (x 1) Sluqajna veliqina Y ima tada zakon raspodele Y : ( ) 1 2 Na osnovu prethodne teoreme dobijamo { 2γ 2, ako je γ x = γ 2 1, ako je γ 1 >

39 Modifikovani metod superpozicije Modifikovani metod superpozicije nam omogu ava da za modeliranje vrednosti sluqajne veliqine X koristimo samo jedan (pseudo)sluqajni broj. Teorema 8 Neka su γ 1 i γ 2 nezavisni (pseudo)sluqajni brojevi. Ako na osnovu γ 1 modeliramo vrednost sluqajne veliqine Y, a zatim modeliramo vrednost sluqajne veliqine X na osnovu F k (x) = θ, gde je θ = (γ k 1 j=1 c j) c k tada X ima funkciju raspodele F, gde je F oblika (1). Primer 15 Neka je X sluqajna veliqina sa gustinom raspodele datom u Primeru 12. Imamo da je θ = 6 5γ za y = 1 i θ = 6γ 5 za y = 2. Dobijamo { 12 5 x = γ, ako je γ γ 11, ako je γ > 5 6 Modeliranje normalne raspodele Metoda inverzne funkcije nije primenljiva za modeliranje normalne raspodele jer je, kao xto je poznato, gustina raspodele sluqajne veliqine X sa normalnom raspodelom N (m, σ 2 ), qiji su parametri m i σ > 0, oblika f(x) = 1 σ (x m) 2 2π e 2σ 2, x R pa se njena inverzna funkcija ne moжe izraziti preko elementarnih funkcija. Modeliranju vrednosti normalne raspodele se posve uje posebna paжnja zbog znaqaja i qeste primene normalne raspodele. S obzirom na tvrđenje Tvrđenje 2 Ako sluqajna veliqina X ima normalnu raspodelu N (m, σ 2 ), tada sluqajna veliqina Y = X m σ N (0, 1). ima normalnu normiranu raspodelu 38

40 dovoljno je navesti postupke modeliranja sluqajne veliqine koja ima normalnu normiranu raspodelu N (0, 1). Modeliranje normalne raspodele na osnovu centralne graniqne teoreme Neka su date nezavisne sluqajne veliqine Y 1, Y 2,... koje imaju uniformnu raspodelu U(0, 1). Tada sluqajna veliqina S n = n j=1 Y j ima matematiqko oqekivanje i disperziju, redom, E(S n ) = n 2, D(S n) = n 12, pa prema centralnoj graniqnoj teoremi za sluqajnu veliqinu ξ (n) = S n E(S n ) 3 n = (Y j 1) D(Sn ) n vaжi j=1 P {ξ (n) x} n 1 2π x e t2 2. Konvergencija je brza i ve se za n = 12 dobijaju vrlo mala odstupanja, pa ako su γ 1,..., γ 12 (pseudo)sluqajni brojevi, moжe se smatrati da je ξ (12) = 1 j=1 2γ j 6 realizovana vrednost sluqajne veliqine sa normalnom normiranom paspodelom N (0, 1). Na ovaj naqin za modeliranje jedne vrednosti sluqajne veliqine sa normalnom normiranom raspodelom N (0, 1) je potrebno 12 (pseudo)sluqajnih brojeva. Modeliranje normalne raspodele korix enjem polarnih koordinata Normalna normirana raspodela se moжe modelirati i prelaskom na polarne koordinate. Vaжi slede e tvrđenje. Tvrđenje 3 Ako su Y 1 i Y 2 nezavisne sluqajne veliqine sa uniformnom raspodelom U(0, 1), tada su sluqajne veliqine Z 1 = 2 ln Y 1 cos(2πy 2 ) i Z 2 = 2 ln Y 1 sin(2πy 2 ) nezavisne sa normalnim normiranim raspodelama. 39

41 Dakle, ako su γ 1 i γ 2 dva (pseudo)sluqajna broja, pomo u njih se dobijaju realizacije x 1 i x 2 dve nezavisne sluqajne veliqine sa normalnom normiranom raspodelom, po formulama x 1 = 2 ln γ 1 cos(2πγ 2 ) i x 2 = 2 ln γ 1 sin(2πγ 2 ). Modeliranje normalne raspodele korix enjem jedne eksponencijalne raspodele Neka su sluqajne veliqine Y : U(0, 1) i V : E(1) nezavisne. Ako je (V 1)2 Y e 2, tada se za realizaciju sluqajne veliqine X sa normalnom normiranom raspodelom uzima vrednost sluqajne veliqine V. Ovaj postupak za modeliranje jedne vrednosti normalne normirane raspodele zahteva korix enje bar dva (pseudo)sluqajna broja γ 1 i γ 2. Pomo u γ 2 se modelira vrednost v = ln γ 2 sluqajne veliqine V. Ako je γ 1 e (v 1)2 2, tada se smatra da je v realizovana vrednost sluqajne veliqine sa normalnom normiranom raspodelom. Ako nejednakost ne vaжi, postupak se ponavlja sa narednim parom (pseudo)sluqajnih brojeva. Modeliranje normalne raspodele korix enjem dve eksponencijalne raspodele Neka su sluqajne veliqine Y 1 i Y 2 nezavisne sa istom eksponencijalnom raspodelom E(1). Ako je Y 2 (Y1 1)2 2, tada se za realizaciju sluqajne veliqine X sa normalnom normiranom raspodelom uzima vrednost sluqajne veliqine Y 1. Ovaj postupak za modeliranje jedne vrednosti normalne normirane raspodele zahteva korix enje bar dva (pseudo)sluqajna broja γ 1 γ 2. Pomo u γ i, i = 1, 2 se modelira vrednost y i = ln γ i sluqajne veliqine Y i. Ako je y 2 (y1 1)2 2, tada se smatra da je y 1 realizovana vrednost sluqajne veliqine X sa normalnom normiranom raspode- i 40

42 lom. Ako nejednakost ne vaжi, postupak se ponavlja sa narednim parom (pseudo)sluqajnih brojeva. Modeliranje χ 2 n raspodele raspodele koristi se slede a definicija. Prilikom modeliranje χ 2 n Definicija 1 Ako su sluqajne veliqine X 1, X 2,... X n nezavisne i imaju normalnu normiranu raspodelu N (0, 1), tada sluqajna veliqina X1 2 + X Xn 2 ima χ 2 n raspodelu. Modelira se n nezavisnih sluqajnih veliqina sa normalnom normiranom raspodelom i saberu kvadrati dobijenih modeliranih vrednosti. 41

43 Monte Karlo integracija Razmotri emo dve Monte Karlo metode za pribliжno izraqunavanje integrala I = b a g(x)dx Prva metoda se naziva Monte Karlo metoda pogodaka i promaxaja 9 i zasnovana je na geometrijskoj interpretaciji integrala kao povrxine, a druga metoda se naziva Monte karlo metoda uzorqke sredine 10 i zasnovana je na interpretaciji integrala kao srednje vrednosti. Monte Karlo metoda pogodaka i promaxaja Neka je funkcija g(x) ograniqena 0 g(x) c, a x b, i oznaqimo sa Ω pravougaonik Ω = {(x, y) : a x b, 0 y c}. Neka je (X, Y ) sluqajni vektor sa uniformnom raspodelom na pravougaoniku Ω sa gustinom raspodele f (X,Y ) (x, y) = { 1 c(b a), (x, y) Ω 0, (x, y) / Ω (2) Oznaqimo sa S povrx ispod krive g(x), S = {(x, y) : y g(x)}. Verovatno a da se sluqajni vektor nađe ispod krive g(x) je tada jednaka b a p = g(x)dx I = c(b a) c(b a) (3) 9 The Hit and Miss Monte Carlo Method 10 The Sample Mean Monte Carlo method

44 Slika 4. Monte Karlo metoda pogotka i promaxaja Pretpostavimo da je generisano N nezavisnih sluqajnih vektora (X 1, Y 1 ), (X 2, Y 2 ),..., (X N, Y N ). Na osnovu zakona velikih brojeva, verovatno a p se moжe oceniti sa ˆp = N H N, (4) gde je N H broj sluqajeva kada je Y i g(x i ), i = 1, 2,..., N, tj. broj pogodaka i N N H je broj promaxaja (ako je Y i > g(x i ), i = 1, 2,..., N promaxujemo). Na osnovu (3) i (4) dobijamo odnosno, N H N I c(b a), I θ 1 = c(b a) N H N. (5) Drugim reqima, da bismo pribliжno izraqunali (ocenili) integral I, uzimamo uzorak obima N iz uniformne raspodele (2), prebrojimo broj pogodaka N H ispod krive g(x) i primenimo formulu (5). Poxto svaki od N pokuxaja ima Bernulijevu raspodelu sa verovatno- om pogotka p, imamo N H : B(N, p). Matematiqko oqekivanje i disperzija ocene θ 1 su, redom, jednaki c(b a) E(θ 1 ) = N E(N H) = c(b a)p = I D(θ 1 ) = c2 (b a) 2 N 2 D(N H ) = c 2 2 p(1 p) (b a) N. 43

45 Prema tome, ocena θ 1 je nepristrasna. Kako D(θ 1 ) 0, kada N, ocena θ 1 je postojana. Standardna devijacija ocene je tada jednaka σ θ1 = N 1 2 c(b a) p(1 p). Ukoliko ubacimo (3) u izraz za standardnu devijaciju dobijamo σ θ1 = N 1 2 I (c(b a) I). Standardna devijacija pruжa meru preciznosti ocene. Dakle, preciznost ocene integrala dobijene na osnovu metode pogodaka i promaxaja je reda N 1 2, tj. O(N 1 2 ). Moжemo odrediti broj potrebnih eksperimenata N tako da je P { θ 1 I ε} = β, gde je ε grexka aproksimacije a β nivo poverenja (obiqno se uzima β = 95% ili β = 99%). Za dovoljno veliko N, moжemo primeniti centralnu graniqnu teoremu, tj. Tada imamo θ 1 = θ 1 I σ θ1 : N (0, 1). P { θ 1 z β } = β, ε gde je z β = N. Iz tablice normalne raspodele nalazimo z β c(b a) p(1 p) tako da je Φ(z β ) = 1+β 2, gde je Φ funkcija normalne raspodele. Koriste i aproksimaciju p(1 p) 1 4, dobijamo N c2 (b a) 2 z 2 β 4ε 2 Algoritam za Monte Karlo metodu pogodaka i promaxaja 1. Generisati niz (U j ) 2N j=1 od 2N pseudosluqajnih brojeva. 2. Poređati brojeve u N parova (U 1, U 1), (U 2, U 2),..., (U N, U N ) na bilo koji naqin tako da se svaki broj U i pojavi taqno jedanput. 44

46 3. Izraqunati X i = a + (b a)u i, g(x i ), i Y i = cu i, i = 1, 2,... N. 4. Prebrojati broj pogodaka N H za koje vaжi Y i g(x i ). 5. Oceniti integral I sa θ 1 = c(b a) N H N. Primer 16 Ocenimo integral I = 2 0 e x2 dx. Direktnim izraqunavanjem se dobija I = (π) ( Φ(2 2) 0.5 ) = Podintegralna funkcija g(x) = e x2 je ograniqena, g(x) 1. Odredimo prvo obim uzorka N, tako da je grexka aproksimacije ε = sa nivoom poverenja β = Na osnovu N c2 (b a) 2 z 2 β 4ε 2 z 0.99 = Φ 1 (0.975) = 1.96, uze emo N = = ,gde je Korix enjem programa za pribliжno raqunanje integrala pomo u metode pogodaka i promaxaja u statistiqkom softveru R, dobija se vrednost ocene θ 1 = Monte Karlo metoda uzoraqke sredine Integral I = b g(x)dx moжemo predstaviti kao oqekivanu vrednost a neke sluqajne veliqine. Prvo napiximo integral na slede i naqin I = b a g(x) f X (x) f X(x)dx. Pretpostavimo da je f X (x) proizvoljna gustina raspodele takva da je f X (x) > 0 kada g(x) 0. Tada je ( ) g(x) I = E, f X (X) gde je X sluqajna veliqina sa gustinom raspodele f X (x). Uzmimo, jednostavnosti radi, da je f X (x) = { 1 b a, a < x < b 0, inaqe 45