Kristina Veǉkovi MONTE KARLO METODE

Uvod Poxto se mnoge statistiqke metode oslaǌaju na sluqajne uzorke, statistiqarima je qesto potreban izvor sluqajnih brojeva. Starije statistiqke kǌige su sadrжale tablice sluqajnih cifara, koje su predviđene da se koriste pri izboru uzoraka ili dizajnu eksperimenta. Sada statistiqari vrlo retko koriste odxtampane tablice sluqajnih cifara, ali ponekad se koriste takve tablice saquvane u memoriji raqunara. Međutim, najqex e se koriste raqunarski algoritmi za direktno generisaǌe sluqajnih brojeva. Danas se upotreba sluqajnih brojeva u statistici proxirila van sluqajnog uzorkovaǌa ili sluqajne dodele terapija (tretmana) eksperimentalnim jedinicama. Sluqajni brojevi se sada qex e koriste prilikom simulacijskih studija stohastiqkih procesa, analitiqki neizraqunǉivih matematiqkih izraza ili populacije na osnovu ponovnog uzorkovaǌa 1 iz dobijenog uzorka te populacije. Ove tri opxte oblasti primene sluqajnih brojeva se ponekad nazivaju, redom, simulacija, Monte Karlo i ponovno uzorkovaǌe, ali mi nie emo praviti razlike između tih termina. 1 Resampling

Metode Monte Karlo Prouqavaǌe mnogih prirodnih pojava mogu e je ostvariti putem modeliraǌa (simulacije) tih pojava. Modeliraǌe pojava u ciǉu ǌihovog prouqavaǌa se koristi kad god je direktno ispitivaǌe same pojave povezano sa potexko ama (realno vreme u kome se pojava odvija moжe biti predugaqko ili prekratko da bi se svi elementi mogli uoqiti, ispitivaǌa same pojave mogu biti povezana sa velikim troxkovima, kao i sa rizicima po zdravǉe ǉudi, po ǉudsku okolinu ili dovesti do unixteǌa nekih objekata,itd.). U ovom radu emo govoriti o primenama metoda Monte-Karlo koje se mogu okarakterisati kao numeriqke metode za rexavaǌe matematiqkih problema pomo u modeliraǌa sluqajnih veliqina i statistiqkog oceǌivaǌa karakteristika tih veliqina. Naziv metode potiqe od qlanka The Monte Carlo method koji su 1949. godine objavili matematiqari Stanislav Ulam i Nikolas Metropolis. Smatra se da je metoda Monte Karlo korix ena i ranije (npr. poznato je da je Hol 1873.godine raqunao pribliжnu vrednost broja π po tom principu). Razvoj raqunara je omogu io xiroku primenu metode Monte Karlo jer je znatno ubrzao proces modeliraǌa vrednosti sluqajnih veliqina. Neke od oblasti primene metode Monte Karlo su: biologija, genetika, ekologija, hidrologija, atomska fizika, statistiqka fizika, statistika, sistemi masovnog opsluжivaǌa, itd. Metode Monte-Karlo se primeǌuju posebno u sluqajevima kada bi eksperimenti sa sistemom koji prouqavamo bili dugotrajni ili dovodili do oxte eǌa sistema. Problemi koji se sre u u raznim oblastima se mogu prevesti ili svesti na matematiqke probleme: rexavaǌe sistema linearnih jednaqina ili nejednaqina, raqunaǌe integrala(jednostrukih ili vixestrukih), rexavaǌe diferencijalnih jednaqina, rexavaǌe parcijalnih diferencijalnih jednaqina, itd. Svaki od navedenih matematiqkih zadataka se moжe rexiti i metodom Monte Karlo, xto se naroqito koristi kad je teorijsko rexeǌe suvixe komplikovano ili ne moжe da se odredi, iako se zna da postoji. Metodama Monte-Karlo se mogu rexiti

i neki zadaci u kojima se klasiqne metode numeriqke matematike ne mogu primeniti. Takođe je znaqajno da su algoritmi Monte Karlo obiqno jednostavni i laki za programiraǌe. 3

Sluqajni brojevi Nezavisne vrednosti (realizacije) sluqajne veliqine X sa uniformnom raspodelom U(0, 1) se nazivaju sluqajni brojevi. Realizacija sluqajne veliqine ε sa diskretnom uniformnom raspodelom ( ) 0 1 2... 9 0.1 0.1 0.1... 0.1 se naziva sluqajna cifra. Veza između sluqajnih brojeva i sluqajnih cifara je data u slede oj teoremi: Teorema 1 Dekadne cifre ε 1, ε 2,..., ε n sluqajnog broja x = 0.ε 1 ε 2... ε n... predstavǉaju nezavisne realizacije sluqajne veliqine ε sa diskretnom uniformnom raspodelom i obratno. Sluqajni brojevi se mogu dobiti korix eǌem nekog fiziqkog aparata (kockice, simetriqni novqi, rulet, itd.) koji se naziva generator sluqajnih brojeva. Eksperimentalno se dobija neki niz cifara (0 ili 1 pri bacaǌu novqi a; 1,2,...,6 pri bacaǌu kockice itd.) i onda se na odgovaraju i naqin dobijeni niz cifara prevodi u broj iz dekadnog brojnog sistema. Procedura dobijaǌa sluqajnih brojeva na ovaj naqin je sloжena i ne moжe se dvaput dobiti isti niz brojeva (xto je qesto potrebno u primenama). Prva tablica sluqajnih cifara je objavǉena 1927. godine i sadrжala je 41600 cifara. Rand korporacija je 1955. godine objavila tablicu od 1 000 000 sluqajnih cifara. Evo jednog dela te tablice: 22989 64262 12716 32910 54147 01638 95954 66666 07529 10668 23743 02743 Cifre su grupisane radi lakxeg qitaǌa, a mogu se qitati sleva nadesno ili odozgo prema dole ili po nekom drugom pravilu, poqevxi od bilo kojeg mesta u tablici. U tablici, po potrebi se mogu qitati

sluqajni brojevi sa izvesnim brojem decimala (npr. uzimaju i redom iz prve vrste po dve cifre dobijaju se 0.22, 0.98, 0.96,...). Prednost tablice sluqajnih cifara je xto se moжe reprodukovati isti niz brojeva, a mane su maǌak brzine pretraжivaǌa, rizik od iscrpǉivaǌa tabele i to xto zauzima mnogo raqunarske memorije. Navodimo sada nekoliko primera za dobijaǌe sluqajnih cifara. Primer 1 Bacaǌem homogenog novqi a qije su strane oznaqene sa 0 (grb) i 1 (pismo) moжemo dobiti dobru tablicu sluqajnih cifara. Kao rezultat eksperimenta dobijamo niz nula i jedinica. Odgovaraju e grupe cifara iz binarnog brojnog sistema prevodimo u dekadne cifre 0,1,2,...,9 (znaqi 0000 je 0, 0010 je 2,..., 1001 je 9, dok se ostale qetvorke binarnih cifara odbacuju). Primer 2 Za generisaǌe sluqajnih brojeva se koristi i rulet - okrugla ploqa koja se vrti sa podeocima za brojeve. Sluqajna cifra je podeok na koji pokaжe strelica posle zaustavǉaǌa ruleta ili podeok u koji padne kuglica, ako se ona koristi. Na ruletu se moжe napraviti vixe podeoka, npr. 50 a numerixu se periodiqno 0,1,2,...,9, 0,1,2,...,9, qime se smaǌuje odstupaǌe od idealne konstrukcije. Primer 3 Kao generator sluqajnih brojeva moжe posluжiti i kǌiga: poqevxi od bilo koje strane, brojimo reqi u redu i ako je broj reqi paran, pixemo 0, a ako je neparan, pixemo 1. Primer 4 Generator sluqajnih brojeva je i kocka za igru koja generixe brojeve 1, 2, 3, 4, 5, 6. Verovatno a dobijaǌa svakog od brojeva 1 6 je ista i iznosi 1 6 i poxto su bacaǌa kockice međusobno nezavisna, na ovaj naqin dobijamo niz nezavisnih i jednako raspodeǉenih sluqajnih cifara. Razmotrimo bacaǌe 4 kockice odjednom: Kocka Strane su numerisane sa 1 0 1 2 3 4 5 2 0 6 12 18 24 30 3 0 36 72 108 144 180 4 0 216 432 648 864 1080 5

Sabiraǌem rezultata na 4 kocke dobijaju se slede i brojevi: Zbir na kockama Dobijeni brojevi 1 0, 1, 2, 3, 4, 5 1, 2 0, 1, 2,..., 35 1, 2, 3 0, 1, 2,..., 215 1, 2, 3, 4 0, 1, 2,..., 1295 Koriste i zbirove na kockama moжemo generisati sluqajne cifre 0,1,2,...,9. Sa kockama 1 i 2, sluqajna cifra se dobija kao ostatak pri deǉeǌu zbira za 10, pri qemu se zbirovi 30-35 propuxtaju. Zbir na dve kocke 0, 10, 20 1, 11, 21... 9, 19, 29 30, 31, 32, 33, 34, 35 Pixe se 0 1... 9 Svaka cifra 0-9 se tada javǉa sa jednakom verovatno om. Koriste i 4 kocke moжemo generisati odjednom tri sluqajne cifre, pridruжivaǌem na slede i naqin: Zbir na qetiri kocke 0 1... 99 100... 999 1000, 1001,..., 1295 Pixe se 000 001... 099 100... 999 Prvi metod propuxta oko 17% bacaǌa i potrebno je maǌe posla oko sabiraǌa, a drugi metod propuxta 23% bacaǌa za vixe posla oko sabiraǌa, ali daje vixe cifara. 6

Pseudosluqajni brojevi Brojevi iz intervala (0,1) koji se raqunaju po nekim formulama se nazivaju pseudosluqajni brojevi. Algoritam na osnovu kojega se dobija niz pseudosluqajnih brojeva se zove generator pseudosluqajnih brojeva. Dobijeni niz brojeva nije zaista sluqajan jer je u potpunosti određen skupom poqetnih vrednosti, ali zadovoǉava uslove sluqajnosti. Prednost pseudosluqajnih brojeva u odnosu na sluqajne brojeve je xto se mogu dobiti na brжi i jednostavniji naqin, a imaju (skoro) sve osobine koji sluqajni brojevi treba da imaju. Takođe se za ǌihovu prednost smatra to xto se moжe generisati isti niz brojeva vixe od jedanput, xto znaqi da se eksperiment moжe ponoviti pod identiqnim uslovima. Niz γ 1, γ 2,..., γ k pseudosluqajnih brojeva se obiqno dobija nekom rekurentnom formulom. Jedna od prvih primeǌivanih formula je tzv. metod sredine kvadrata koju je predloжio on von Nojman 1946. godine. Neka je γ m oblika 0.α 1 α 2... α 2k. Kvadriramo γ m, γm 2 = 0.β 1 β 2... β 4k i uzimamo sredǌih 2k cifara γ k+1 = 0.β k+1 β k+2... β 3k ili formalno zapisano 2 : γ m+1 = D ( 10 2k C(10 3k γm) 2 ), gde D oznaqava decimalni, a C ceo deo broja. Problem nizova pseudosluqajnih brojeva dobijenih metodom sredine kvadrata je xto obiqno imaju mali period (duжina niza dok ne poqne da se ponavǉa). Neki izbori za γ 1 nisu povoǉni jer se prebrzo ponove iste vrednosti u nizu ili se dobije degenerisani niz (niz qiji su svi qlanovi jednaki nuli). Postoje i razne druge matematiqke formule za dobijaǌe pseudosluqajnih brojeva. Jedna od ǌih se zasniva na slede oj teoremi. Teorema 2 Neka je g proizvoǉan prirodan broj i X sluqajna veliqina sa uniformnom U(0, 1) raspodelom. Tada sluqajna veliqina Y = D(gX) ima U(0, 1) raspodelu. 2 Alternativni zapis: γ m+1 = 10 2k C ( 10 2k D(10 k γm) ) 2

Tako npr. za g = 79 i x = 0.2374, y = D(79 0.2374) = 0.7546 predstavǉa realizovanu vrednost sluqajne veliqine Y : U(0, 1). Linearni kongruentni generator Derik Henri Lehmer je 1948. godine osmislio linearni kongruentni generator. Ovaj generator proizvodi niz pseudosluqajnih brojeva (X n ) koji je određen poqetnim qlanom 3 X 0, X 0 > 0 i rekurentnom formulom X n = (ax n 1 + b) mod m gde su a, m i b dati prirodni brojevi, pri qemu je m > max{a, b, X 0 }. Koristi se oznaka LKG(m, a, b, X 0 ). Poxto je X n određen sa X n 1 i poxto postoji samo m mogu ih vrednosti za X i - ove, maksimalni period linearnog kongruentnog generatora je m. Da bismo dobili pseudosluqajni broj (tj. broj iz intervala (0, 1)) potrebno je da svaki dobijeni broj X n podelimo sa m, tj. U n = X n m. Maksimalan period m niza pseudosluqajnih brojeva dobijenog linearnim kongruentnim generatorom se moжe dobiti pri pogodnom izboru konstanti a, b i m. Vaжi slede a teorema: Teorema 3 Niz pseudosluqajnih brojeva koji se dobija linearnim kongruentnim generatorom ima maksimalan period m ako su ispuǌeni slede i uslovi: 1. Brojevi m i b su uzajamno prosti. 2. Svaki prost delilac p broja m je i delilac broja a 1. 3. Ako je broj m deǉiv sa 4, onda je i broj a 1 deǉiv sa 4. Poxto raqunari koriste binarni ili dekadni brojni sistem, razmotri emo sluqajeve kada je m = 2 β ili m = 10 β, gde β oznaqava duжinu reqi određenog raqunara. 3 initial value, seed 8

1. Ukoliko je m = 2 β, na osnovu prethodne teoreme, maksimalan period niza pseudosluqajnih brojeva se dobija ako vaжi: b je neparan broj (m i b su uzajamno prosti). a 1 je deǉivo sa 4, tj. a = 2 r + 1, r 2. Smatra se da se dobri statistiqki rezultati mogu posti i za m = 2 35, a = 2 7 + 1, b = 1. 2. Ukoliko je m = 10 β, na osnovu prethodne teoreme, maksimalan period niza pseudosluqajnih brojeva se dobija ako vaжi: b nije deǉivo sa 2 ili 5. a 1 je deǉivo sa 2, 4, 5, tj. a 1 je deǉivo sa 20, a = 10 r +1, r 2. Zadovoǉavaju i statistiqki rezultati se postiжu pri izboru a = 101, b = 1, r 4. U sluqaju kada je b = 0, generator određen rekurentnom formulom X n = ax n 1 (mod m) se naziva multiplikativni linearni kongruentni generator. Poxto X i ne moжe biti jednako nuli (dobio bi se degenerisani niz), maksimalni period multiplikativnog linearnog kongruentnog generatora je m 1. Da bismo dobili pseudosluqajni broj potrebno je da svaki dobijeni broj X n podelimo sa m 1, tj. U n = X n m 1. U primenama se dobro pokazao multiplikativni linearni kongruentni generator sa m = 2 31 1 ili m = 2 61 1 (Mersen prosti brojevi). Povoǉni izbori za a su: Za m = 2 31 1: a = 2 15 2 10 ili a = 2 21 2 16. Za m = 2 61 1: a = 2 30 2 19 ili a = 2 42 2 31. 9

Drugi linearni kongruentni generatori Naredni qlan niza se dobija rekurentnom formulom pomo u prethodnih k, k 2 qlanova. Neki od primera ovakvih generatora su: 1. Multiplikativni rekurzivni generator određen rekurentnom formulom X n = (a 1 X n 1 + a 2 X n 2 +... a k X n k ) mod m. Broj prethodnih qlanova niza pomo u kojih se dobija naredni qlan, k, naziva se red generatora. Maksimalan period niza je m k 1, za m prost broj. 2. Fibonaqijev kongruentni generator sa korakom 4 Fibonaqijev niz X n+2 = X n+1 + X n nema zadovoǉavaju a svojstva sluqajnosti, pa se koristi Fibonaqijev kongruentni generator sa korakom X n = (X n j + X n k ) mod m. Ako je m prost broj i k > j, tada je maksimalan period niza m k 1. Nelinearni kongruentni generatori Knutov generator 5 X n = (dxn 1 2 + ax n 1 + c) mod m. Blum, Blum & Xabov generator 6 X n = Xn 1 2 mod m. 4 Lagged Fibonacci congruential generator 5 Knuth, 1998 6 Blum, Blum & Shub, 1986 10

Kombinovani generatori pseudosluqajnih brojeva Viqman - Hilov generator predstavǉa kombinaciju tri multiplikativna linearna generatora X n = 171X n 1 mod 30269 Y n = 172Y n 1 mod 30307 Z n = 170Z n 1 mod 30323 ( Xn U n = 30269 + Y n 30307 + Z ) n mod 1. 30323 Poqetna vrednost ovog generatora je vektor (X 0, Y 0, Z 0 ). Ovaj generator direktno vra a brojeve U n iz intervala (0, 1). Period generatora je reda 10 12. Lekijerov generator: X n = 4001X n 1 mod 2147483563 Y n = 40692Y n 1 mod 2147483399 Z n = (X n Y n ) mod 2147483563 U n = 4.656613Z n 10 10. Period ovog generatora je reda 10 18. Pseudosluqajni brojevi dobijeni pomo u kombinovanih generatora imaju boǉe osobine sluqajnosti u odnosu na linearne kongruentne generatore. 11

Preliminarna analiza kvaliteta generatora pseudosluqajnih brojeva Oqekuje se pseudosluqajni brojevi imaju zadovoǉavaju a svojstva sluqajnosti. Pre nego xto formalnim testiraǌem ispitamo da li je pretpostavka o ǌihovoj sluqajnosti ispuǌena, izvrxi emo preliminarnu analizu kvaliteta generatora pseudosluqajnih brojeva. Ova analiza nam moжe u kazati na potencijalne slabe taqke generatora. Prvo, upoređujemo uzoraqku sredinu X n = 1 n n i=1 X i i uzoraqku disperziju S 2 n = 1 n 1 n i=1 (X i X n ) 2 sa matematiqkim oqekivaǌem i disperzijom sluqajne veliqine X : U(0, 1), EX = 1 2, DX = 1 12. Drugo, ispitujemo nezavisnost qlanova niza pseudosluqajnih brojeva preko serijskih koeficijenata korelacije. Serijski koeficijent korelacije sa korakom k se raquna na osnovu formule r k = 1 n k 1 n k n k i=1 (X i A k )(X i+k B k ) n k i=1 (X i A k ) 2 1 n k n k i=1 (X i+k B k ) 2, gde je A k = 1 n k n k i=1 X i i B k = 1 n k n k i=1 X i+k. Za dobijeni niz brojeva, raqunamo serijske koeficijente korelacije sa korakom 1-5 (koeficijente korelacije između qlanova udaǉenih k = 1, 2,... 5 mesta) i oqekujemo, u skladu sa pretpostavkom nezavisnosti, da su ǌihove vrednosti male. Tre e, predstavǉamo uzastopne parove taqaka (X i, X i+1 ), i = 1, 2,..., n na grafiku. Ravan grafika bi trebalo da je ravnomerno pokrivena taqkama. Primer 5 Razmotrimo multiplikativni kongruentni generator pseudosluqajnih brojeva sa poqetnom vrednox u x 0 X n = 12X n 1 mod 31, = 9. Period ovog generatora je 30. Uzoraqka sredina je jednaka 0.517, a uzoraqka disperzija 0.086. Serijski

koeficijenti korelacije su r 1 = 0.008, r 2 = 0.074, r 3 = 0.251, r 4 = 0.236, r 5 = 0.236. Koeficijenti korelacije sa koracima 3 i 4 su malo ve i za uzorak ovog obima, ali i daǉe u okviru granica. Na slede oj slici je prikazan grafik uzastopnih parova taqaka. drugi[2:30] 0.0 0.2 0.4 0.6 0.8 1.0 0.0 0.2 0.4 0.6 0.8 1.0 drugi[1:29] Slika 1. Grafik uzastopnih parova taqaka generatora X n = 12X n 1 mod 31 Uoqavamo da ravan grafika nije ravnomerno pokrivena taqkama, ve se taqke nalaze na 7 pravih sa k = 5 3 i 6 pravih sa k = 2 5. Primer 6 Razmotrimo jedan od poznatijih multiplikativnih kongruentnih generatora, RAN DU određen formulom X n = (2 16 + 3)X n 1 (mod m), sa poqetnom vrednox u x 0 = 1. Generisano je 1000 pseudosluqajnih brojeva. Uzoraqka sredina je jednaka 0.511, a uzoraqka disperzija 0.082. 13

serijski koef. korelacije 0.0 0.2 0.4 0.6 0.8 1.0 0 1 2 3 4 5 korak Slika 2. Grafik serijskih koeficijenata korelacije sa koracima 1-5 niz[2:1000] 0.0 0.2 0.4 0.6 0.8 1.0 0.0 0.2 0.4 0.6 0.8 1.0 niz[1:999] Slika 3. Grafik uzastopnih parova taqaka RANDU generatora Serijski koeficijenti korelacije su jednaki r 1 = 0.028, r 2 = 0.001, r 3 = 0.010, r 4 = 0.069, r 5 = 0.040. Koeficijent korelacije sa korakom 4 je veliki za uzorak ovog obima, van kontrolnih granica za dovoǉno male koeficijente korelacije, xto je i prikazano na Slici 2. 14

Na Slici 3 je prikazan grafik uzastopnih parova taqaka. Uoqavamo da ravan grafika priliqno ravnomerno pokrivena taqkama. 15

Testiraǌe kvaliteta generatora pseudosluqajnih brojeva Жelimo da testiramo da li niz pseudosluqajnih brojeva predstavǉa prost sluqajan uzorak iz uniformne U(0, 1) raspodele. Kao xto je ranije reqeno, niz pseudosluqajnih brojeva je potpuno deterministiqki, ali ako prođe bateriju statistiqkih testova (testovi sluqajnosti, testovi slagaǌa sa uniformnom raspodelom, testovi nezavisnosti), moжemo ga tretirati kao niz zaista sluqajnih brojeva. Test frekvencija Neka ε 1, ε 2,..., ε n predstavǉa uzorak cifara niza pseudosluqajnih brojeva (npr. uzima se prva decimala svakog generisanog pseudosluqajnog broja). Жelimo da testiramo nultu hipotezu da se cifre 0 9 javǉaju sluqajno, tj. da cifre pseudosluqajnih brojeva imaju uniformnu diskretnu raspodelu ( 0 1 2... 9 0.1 0.1 0.1... 0.1 Neka M j oznaqava broj pojavǉivaǌa (frekvenciju) cifre j, j = 0, 1, 2,..., 9 u uzorku. Test statistika je: ( 9 Mj n 2 S = 10), j=0 koja, za veliko n, ima χ 2 9 raspodelu. Kritiqne vrednosti za test-statistiku su i jako velike i jako male vrednosti. Velika vrednost test statistike znaqi da postoje velike razlike u broju pojavǉivaǌa pojedinih cifara. Vrlo mala vrednost test-statistike je takođe neprihvatǉiva jer svaki stvarni niz koji ima konaqno mnogo cifara skoro sigurno ima razliqit broj pojedinih cifara. Prema tome, kritiqna oblast je oblika n 10 ) W = [0, c 1 ] [c 2, + ),

gde su c 1 i c 2 kritiqne vrednosti. Za dati prag znaqajnosti α, kritiqne vrednosti su tada jednake c 1 = χ 2 9; α 2, c 2 = χ 2 9;1 α 2 Ukoliko realizovana vrednost test-statistike upada u kritiqnu oblast, odbacujemo nultu hipotezu. Test parova Uzmimo uzorak 2n cifara niza pseudosluqajnih brojeva (npr. uzimamo prve dve decimale svakog generisanog pseudosluqajnog broja). Oznaqimo ih redom sa ε 1, ε 2,..., ε 2n. Formiramo parove ε 1 ε 2, ε 3 ε 4,..., ε 2n 1 ε 2n i testiramo hipotezu da je raspodela parova diskretna uniformna raspodela ( 00 01 02... 99 0.01 0.01 0.01... 0.01 Neka M ij oznaqava broj pojavǉivaǌa para ij u nizu cifara. Teststatistika je S = 9 i,j=0 ( Mij n 100 n 100 koja, za veliko n, ima χ 2 99 raspodelu. Kritiqne vrednosti za teststatistiku su i jako velike i jako male vrednosti, kao u sluqaju testa frekvencija. Dakle, kritiqna oblast je oblika ) 2 W = [0, c 1 ] [c 2, + ), gde su c 1 i c 2 kritiqne vrednosti. Za dati prag znaqajnosti α, kritiqne vrednosti su tada jednake, ) c 1 = χ 2 99; α 2, c 2 = χ 2 99;1 α 2 17

Serijski test Serijski test se koristi za testiraǌe nulte hipoteze sluqajnosti uzastopnih brojeva u generisanom nizu pseudosluqajnih brojeva. Neka je U 1 = (X 1, X 2 ), U 2 = (X 3, X 4 ),..., U n = (X 2n 1, X 2n ) niz uzastopnih parova. Жelimo da testiramo hipotezu da su sluqajne veliqine U i kvadratu. nezavisne i da imaju uniformnu raspodelu na jediniqnom Podelimo jediniqni kvadrat na r 2 kvadrata, svaki povrxine 1 r i 2 oznaqimo sa V kj broj parova koji upadaju u kvadrat (element matrice ) ( j 1, j ) ( k 1, k ), j = 1, 2,..., r, k = 1, 2,..., r. r r r r Test-statistika je V = r2 n r k,j=1 (V k,j n r 2 ) 2 i, za veliko r ima χ 2 r 2 1 raspodelu. Kritiqna oblast je oblika W = [c, + ) Za prag znaqajnosti α, nalazimo kritiqnu vrednost c = χ 2 r 2 1;1 α. Test razmaka 7 Neka ε 1, ε 2,..., ε n predstavǉa uzorak cifara niza pseudosluqajnih brojeva. Жelimo da testiramo hipotezu o sluqajnosti dobijenih cifara. U dobijenom nizu cifara brojimo duжine razmaka između pojavǉivaǌa dve iste cifre. Neka sluqajna veliqina X predstavǉa duжinu razmaka dok se ne pojavi ista cifra. Sluqajna veliqina X ima geometrijsku raspodelu G(0.1) sa zakonom raspodele p k = P {X = k} = 0.9 k 0.1. 7 Gap test 18

Pomo u Pirsonovog χ 2 testa testiramo da li raspodela G(0.1) odgovara duжini razmaka između pojavǉivaǌa istih cifara u generisanom nizu pseudosluqajnih brojeva. Duжine razmaka podelimo na k intervala (klasa) duжine l, l > 1. Ima emo intervale [0, l), [l, 2l),..., [(k 1)l, kl]. Oznaqimo sa M j, broj pojavǉivaǌa uzoraqkih duжina razmaka u j - tom intervalu. Teststatistika je k (M j np j ) 2, j = 1, 2,..., k np j j=1 gde su verovatno e p j jednake p j = P {X [(j 1)l, jl)} = jl 1 k=(j 1)l 0.9 k 0.1 = 0.9 (j 1)l (1 0.9 l ). Za veliko n, test-statistika ima χ 2 k 1 raspodelu. Kritiqna oblast je oblika W = [c, + ) = [χ 2 k 1;1 α, + ) gde je α unapred odabrani prag znaqajnosti. Poker test Neka ε 1, ε 2,..., ε n predstavǉa uzorak cifara niza pseudosluqajnih brojeva. Жelimo da testiramo hipotezu o sluqajnosti dobijenih cifara. Formiraju se grupe po k cifara (k-torke cifara, k = 3, 4) i posmatra se broj istih cifara u svakoj grupi. Razmotri emo triling varijantu testa kada uzimamo m = 3n cifara i formiramo trojke ε 1 ε 2 ε 3, ε 4 ε 5 ε 6,..., ε 3n 2 ε 3n 1 ε 3n. Brojimo iste cifre u formiranim trojkama cifara. Neka je X sluqajna veliqina koja predstavǉa broj istih cifara u trocifrenim brojevima. Tada je p 0 = P {X = 0} = P {sve cifre su razliqite} = 0.9 0.8 = 0.72 p 3 = P {X = 3} = P {sve cifre su iste} = 0.1 0.1 = 0.01 p 2 = P {X = 2} = P {jedan par istih cifara} = 1 0.72 0.01 = 0.27. 19

Funkcija raspodele sluqajne veliqine je tada jednaka 0, x < 0 0.72, 0 x < 2 F (x) = 0.99, 2 x < 3 1, x 3 Pomo u Pirsonovog χ 2 testa testiramo da li raspodela F odgovara broju istih cifara u trojkama cifara niza pseudosluqajnih brojeva. Oznaqimo sa M j, j = 0, 2, 3 broj pojavǉivaǌa j-istih cifara u dobijenom nizu cifara. Test-statistika je tada jednaka 3 j=1 koja ima, za veliko n, χ 2 2 raspodelu. Kritiqna oblast je oblika (M j np j ) 2 np j, W = [c, + ) = [χ 2 2;1 α, + ) gde je α unapred odabrani prag znaqajnosti. Test Kolmogorova Neka je X 1, X 2,..., X n uzorak pseudosluqajnih brojeva. Жelimo da testiramo hipotezu da niz pseudosluqajnih brojeva ima uniformnu U(0, 1) raspodelu. Formiramo varijacioni niz X (1) X (2)... X (n). Oznaqimo sa F funkciju uniformne U(0, 1) raspodele i sa F n empirijsku funkciju raspodelu, 0, ako je x < X (1) F n (x) = k n, ako je X (k 1) x < X (k), k = 1, 2,..., n 1, ako je x X (n). Test-statistika je jednaka D n = sup F n (x) F (x). x R 20

Kolmogorov je pokazao da za neprekidne funkcije raspodele vaжi lim P { n D n λ} = lim P {D n λ } = K(λ) = n n n + k= ( 1) k e 2k2 λ 2, za svako λ > 0. Konvergencija je brza i aproksimacija zadovoǉavaju a ve za n 20. Naravno, K(λ) = 0 za svako λ 0. Sa K(λ) određena je tzv. raspodela Kolmogorova. Neka je d n realizovana vrednost test statistike. Velike vrednosti d n govore u prilog nesaglasnosti empirijske (uzoraqke) raspodele sa raspodelom F. Prema tome, kritiqna oblast je oblika W = [c, + ) = [d n;α, + ). Kritiqnu vrednost c nalazimo iz tablica Kolmogorovǉeve raspodele. Test koraka 8 Neka je X 1, X 2,..., X n uzorak pseudosluqajnih brojeva. Жelimo da testiramo hipotezu o sluqajnosti. Formiramo novi niz pluseva i minuseva: ukoliko je X j > X i, j > i upisujemo znak + a ukoliko je X j < X i, j > i, znak. Neka je n 1 ukupan broj pluseva i n 2 ukupan broj minuseva. Imamo da je obim uzorka n = n 1 + n 2. Ukoliko je uzorak brojeva sluqajan, + i e se javiti sa istom verovatno om. Korakom smatramo svaki podniz istih elemenata, tj. seriju pluseva ili minuseva. Test-statistika R predstavǉa ukupan broj koraka u nizu pseudosluqajnih brojeva. Matematiqko oqekivaǌe i disperzija test-statistike R su, redom, jednaki 8 Runs test E(R) = 2n 1n 2 n 1 + n 2 + 1 D(R) = 2n 1n 2 (2n 1 n 2 n 1 n 2 ) (n 1 + n 2 ) 2 (n 1 + n 2 1). 21

Statistika R = R E(R) D(R) ima pribliжno normalnu N (0, 1) raspodelu, ako je n 1 ili n 2 ve e od 20. Kritiqna oblast je oblika W = (, c] [c, + ),, gde je c = F 1 (1 α 2 ), za dati prag znaqajnosti α. Test autokorelacija Neka je X 1, X 2,..., X n uzorak pseudosluqajnih brojeva. Жelimo da testiramo hipotezu da su sluqajne veliqine X i, i = 1, 2,..., n nezavisne. Raqunamo autokorelacije između svakih m qlanova niza X i, X i+m, X i+2m,..., X i+(m+1)m, gde je M najve i prirodan broj tako da vaжi i + (M + 1)m n. Testiramo nultu hipotezu gde ρ im H 0 : ρ im = 0 protiv H 1 : ρ im 0, predstavǉa autokorelaciju između svakih m qlanova niza, poqevxi od i-tog qlana. Test statistika je gde je ˆρ im = 1 M + 1 ocena autokorelacije ρ im, a ocena ǌene disperzije. Z 0 = ˆρ im ˆσ ρim, M X i+km X i+(k+1)m 0.25 k=0 ˆσ im = 13M + 7 12(M + 1) Ukoliko je taqna nulta hipoteza, raspodela test-statistike se moжe aproksimirati normalnom raspodelom N (0, 1). 22

Kritiqna oblast je oblika W = (, c] [c, + ) Kritiqna vrednost c se nalazi, za dati prag znaqajnosti α na osnovu c = F 1 (1 α 2 ), gde je F funkcija N (0, 1) raspodele. Treba naglasiti da nijedan test za proveru kvaliteta generatora pseudosluqajnih brojeva nije ni sveobuhvatan ni svemo an. Ako niz pseudosluqajnih cifara prođe jedan test, ne znaqi da e pro i neki drugi test. Preporuquje se i konstruisaǌe prigodnih testova u zavisnosti od prirode problema za koji koristimo generisane pseudosluqajne brojeve. Na primer, ako je od posebnog znaqaja da se ne pojavi zavisnost među generisanim ciframa, treba niz pseudosluqajnih brojeva proveriti nekim testom vezanim za proveru nezavisnosti. 23

Modeliraǌe sluqajnih događaja i diskretnih sluqajnih veliqina Modeliraǌe (ili simulacija ) sluqajne veliqine je određivaǌe nezavisnih realizacija izabrane sluqajne veliqine pomo u dobijenog niza (pseudo)sluqajnih brojeva. Modeliraǌe diskretnih sluqajnih veliqina sa konaqno mnogo vrednosti Neka je X diskretna sluqajna veliqina sa konaqno mnogo vrednosti i neka je poznat zakon raspodele:p {X = x k } = p k, k = 1, 2,..., n, tj. sluqajna veliqina X uzima vrednost x k raspodele se moe zapisati i u obliku: sa verovatno om p k. Zakon ( ) x1 x 2... x n n X :, p k = 1. p 1 p 2... p n Neka je γ jedan (pseudo)sluqajni broj. Ako je γ p 1, smatra se da se realizovala vrednost x 1 sluqajne veliqine X. Ako je p 1 < γ p 1 + p 2, smatra se da se realizovala vrednost x 2 sluqajne veliqine X,.., ako je p 1 + p 2 +... + p n 1 < γ realizovala se vrednost x n. Znaqi da se za dobijaǌe jedne realizacije sluqajne veliqine koristi jedan (pseudo)sluqajni broj. k=1 Modeliraǌe sluqajnih događaja Na osnovu postupka za modeliraǌe diskretnih sluqajnih veliqina se mogu modelirati i realizacije sluqajnih događaja. Ako je verovatno- a događaja A jednaka p, tada je indikator događaja A sluqajna veliqina ( ) 1 0 I A : p 1 p

Ukoliko je γ p, realizovala se vrednost 1 indikatora, a ako je p < γ, realizovala se vrednost 0. Modeliraǌem te sluqajne veliqine dobija se da se događaj A realizovao ako je dobijena modelirana vrednost 1, a da se događaj A nije realizovao ako je dobijena modelirana vrednost 0. Neka su A 1, A 2,..., A n disjunktni događaji (A i A j = 0, i j) i P (A i ) = p i, i = 1, 2,..., n. Oznaqimo sa ξ indeks događaja koji se realizovao. Sluqajna veliqina ξ ima tada zakon raspodele ( ) 1 2... n ξ : p 1 p 2... p n Modeliramo vrednosti diskretne sluqajne veliqine ξ. Ukoliko je dobijena vrednost ξ = i, realizovao se događaj A i, i = 1, 2,..., n. Primer 7 Neka su A i B dva nezavisna događaja, P (A) = p A, P (B) = p B. Događaje A i B moжemo modelirati na dva naqina. 1. Neka su γ 1 i γ 2 dva nezavisna (pseudo)sluqajna broja. Ako je γ 1 p A realizovao se događaj A i ako je γ 2 p B, realizovao se događaj B. 2. Razmotrimo slede e disjunktne događaje A 1 = AB, A 2 = AB, A 3 = AB, A 4 = A B, sa odgovaraju im verovatno ama, redom, p 1 = p A p B, p 2 = p A (1 p B ), p 3 = (1 p A )p B, p 4 = (1 p A )(1 p B ). Pomo u (pseudo)sluqajnog broja γ modeliramo sluqajnu veliqinu ( ) 1 2 3 4 ξ : p 1 p 2 p 3 p 4 Ukoliko je dobijena vrednost ξ = i, realizovao se događaj A i, i = 1, 2, 3, 4. Primer 8 Neka su A i B zavisni događaji, P (A) = p A, P (B) = p B, P (AB) = p AB. Događaje A i B moжemo modelirati na dva naqina. 1. Koristimo dva (pseudo)sluqajna broja γ 1 i γ 2 za modeliraǌe događaja A i B. Pomo u broja γ 1 modeliramo događaj A. Ukoliko se 25

realizovao događaj A, verovatno a da se realizovao događaj B je jednaka P (B A) = p AB p A. Ako je γ 2 P (B A), realizovao se događaj B. Ako se nije realizovao događaj A, verovatno a da se realizovao događaj B je P (B A) = p B p AB 1 p A. Ako je γ 2 P (B A), realizovao se događaj B. 2. Neka su događaji A 1, A 2, A 3 i A 4 definisani kao u prethodnom primeru sa verovatno ama jednakim, redom, p 1 = p AB, p 2 = p B p AB, p 3 = p A p AB, p 4 = 1 p A p B + p AB. Pomo u (pseudo)sluqajnog broja γ modeliramo sluqajnu veliqinu ξ : ( ) 1 2 3 4 p 1 p 2 p 3 p 4 Ukoliko je dobijena vrednost ξ = i, realizovao se događaj A i, i = 1, 2, 3, 4. Modeliraǌe binomne raspodele Neka je verovatno a realizacije nekog događaja A u svakom eksperimentu jednaka p. Sluqajna veliqina S n koja je jednaka broju realizacija događaja A u n nezavisnih eksperimenata ima binomnu raspodelu B(n, p). ǋen zakon raspodele je: ( ) n p k = P {S n = k} = p k (1 p) n k, k = 0, 1,..., n. k Na osnovu definicije, S n se moжe predstaviti kao zbir nezavisnih sluqajnih veliqina I k koje sve imaju istu raspodelu i predstavǉaju indikator događaja A u k-tom eksperimentu: S n = n I k. k=1 Modeliraju se vrednosti za I k, k = 1, 2,..., n i saberu se. Dobijeni broj je realizovana vrednost sluqajne veliqine S n. Prednost ovog postupka je xto se ne moraju raqunati verovatno e p k iz zakona 26

raspodele za S n, a nedostatak je xto je potrebno n (pseudo)sluqajnih brojeva za dobijaǌe jedne realizacije sluqajne veliqine. Modeliraǌe diskretnih sluqajnih veliqina sa prebrojivo mnogo vrednosti Neka je X diskretna sluqajna veliqina sa prebrojivo mnogo vrednosti i neka je poznat ǌen zakon raspodele: ( ) x1 x 2... x n... X :, p 1 p 2... p n... p k = 1. k=1 Neka je n prirodni broj takav da je p n+1 + p n+2 +... < δ, gde je δ proizvoǉno mali (unapred izabrani) pozitivan realni broj. Umesto sluqajne veliqine X posmatra se zaseqena sluqajna veliqina ( ) X x1 x 2... x n :, p 1 p 2... p n gde je p n = 1 p 1... p n 1. Vrednost ove sluqajne veliqine se modelira na naqin koji je ve opisan za modeliraǌe vrednosti diskretne sluqajne veliqine sa konaqno mnogo vrednosti. Na taj naqin se ne e dobiti ni jedna od vrednosti sluqajne veliqine X koja je ve a od x n. Međutim, verovatno a dobijaǌa bilo koje vrednosti ve e od x n je maǌa od δ, a kako je δ unapred izabrani vrlo mali pozitivan broj, to su i verovatno e dobijaǌa vrednosti sluqajne veliqine X koje su ve e od x n zanemarǉivo male. U zavisnosti od zadatka koji se rexava i broja vrednosti koje je potrebno modelirati bira se δ. Modeliraǌe geometrijske raspodele Neka je verovatno a realizacije nekog događaja A u svakom eksperimentu jednaka p i neka se eksperimenti ponavǉaju (pri istim uslovima) 27

dok se prvi put ne ostvari događaj A. Sluqajna veliqina X koja je jednaka broju izvedenih eksperimenata ima geometrijsku raspodelu. ǋen zakon raspodele je: ( ) 1 2... n... X :, p (1 p)p... (1 p) n 1 p... odnosno p k = P {X = k} = (1 p) k 1 p, k = 0, 1, 2,.... Ova sluqajna veliqina se modelira tako xto, za izabrani pozitivni broj δ i poznatu verovatno u p, se odredi najmaǌi prirodni broj koji zadovoǉava nejednakost n 0 > ln δ ln (1 p). Formira se zaseqena sluqajna veliqina: ( ) 1 2... X n0 :, p (1 p)p... p n 0 gde je p n 0 = 1 ( p + (1 p)p +... (1 p) n0 2 p ), a zatim se modelira korix eǌem postupka za modeliraǌe diskretnih sluqajnih veliqina sa konaqno mnogo vrednosti. Primer 9 Modelirajmo vrednost sluqajne veliqine X koja predstavǉa broj gađaǌa u metu, gde je verovatno a pogotka pri svakom gađaǌu p = 0.6. Uzmimo da je δ = 0.001. Nalazimo da je n 0 = 8 i formiramo zaseqenu sluqajnu veliqinu ( ) 1 2... 8 X :, 0.6 0.24... p n 0 gde je p n 0 = 1 ( 0.6 + 0.24 +... 0.4 6 0.6 ) = 0.0016. Korix eǌem Mersen- Tvister generatora u statistiqkom softveru R, dobijamo pseudosluqajni broj γ = 0.4813. Kako je γ p, realizovala se vrednost x = 1 sluqajne veliqine X. 28

Modeliraǌe Puasonove raspodele Sluqajna veliqina X ima Puasonovu raspodelu sa parametrom λ, λ > 0, ako je ǌen zakon raspodele oblika: p k = P {X = k} = e λ λk, k = 0, 1, 2,.... k! Ova sluqajna veliqina se modelira tako xto se, za izabrani pozitivni broj n 0 i poznati parametar λ, odredi najmaǌi prirodni broj koji zadovoǉava nejednakost e λ λn0+1 n 0 + 2 (n 0 + 1)! n 0 + 2 λ < δ. Formira se zaseqena sluqajna veliqina ( ) 0 1... X n0 :, p 0 p 1... p n 0 λ λk gde je p k = e k!, k = 0, 1,..., n 0 1, p n 0 = 1 n 0 1 k=0 p k i zatim se modelira korix eǌem postupka za modeliraǌe diskretnih sluqajnih veliqina sa konaqno mnogo vrednosti. 29

Modeliraǌe neprekidnih sluqajnih veliqina Metoda inverzne funkcije Neka je X neprekidna sluqajna veliqina sa funkcijom rapodele F, za koju se moжe odrediti inverzna funkcija. Modeliraǌe vrednosti sluqajne veliqine X se moжe ostvariti na osnovu slede e teoreme. Teorema 4 Neka je data sluqajna veliqina X qija je funkcija raspodele F strogo monotona i neprekidna i neka je F 1 ǌena inverzna funkcija. Neka je Y sluqajna veliqina sa uniformnom raspodelom U(0, 1). Tada sluqajna veliqina F 1 (Y ) ima funkciju raspodele F. Dakle, realizovana vrednost x sluqajne veliqine X se dobija pomo u jednog (pseudo)sluqajnog broja γ, po formuli x = F 1 (γ). Modeliraǌe eksponencijalne raspodele Sluqajna veliqina X ima eksponencijalnu raspodelu sa parametrom λ > 0, u oznaci X : E(λ), ako je ǌena funkcija raspodele oblika: F (x) = 1 e λx, x 0. Primeǌuje se metoda inverzne funkcije. Ako je γ (pseudo)sluqajni broj, tada je modelirana vrednost sluqajne veliqine X jednaka x = 1 λ ln (1 γ). Ovaj izraz se moжe pojednostaviti korix eǌem slede e osobine uniformne raspodele. Tvrđeǌe 1 Ako sluqajna veliqina Y ima uniformnu raspodelu U(0, 1), tada i sluqajna veliqina 1 Y ima uniformnu raspodelu U(0, 1). Na taj naqin se dobija jednostavna formula za modeliraǌe vrednosti eksponencijalne raspodele x = 1 λ ln γ.

Nojmanova metoda Za sluqajne veliqine qija je gustina raspodele f razliqita od nule i ograniqena na konaqnom intervalu, modeliraǌe se moжe ostvariti na osnovu slede e teoreme. Teorema 5 Neka je gustina raspodele f sluqajne veliqine X definisana na konaqnom intervalu (a, b) i neka je f(x) M, x (a, b). Neka su x T i y T modelirane vrednosti nezavisnih sluqajnih veliqina sa raspodelama, redom, U(a, b) i U(0, M). Ako je y T realizovana vrednost sluqajne veliqine X jednaka x T. < f(x T ), tada je Da bi se Nojmanovom metodom dobila jedna realizacija sluqajne veliqine koja se modelira, potrebna su bar dva (pseudo)sluqajna broja. Ako nejednakost y T < f(x T ) nije zadovoǉena, treba modelirati slede i par vrednosti x T i y T, itd. dok se ne dobije par vrednosti x T i y T koji zadovoǉava uslove teoreme. Nojmanova metoda se moжe primeniti i na sluqajne veliqine qija je gustina raspodele razliqita od nule na beskonaqnom intervalu, ali prvo je potrebno formirati odgovaraju u zaseqenu sluqajnu veliqinu. Neka sluqajna veliqina X ima gustinu raspodele f(x), a < x < b, tj. neka je b a f(x)dx = 1. Za sluqajnu veliqinu X Z se kaжe da ima zaseqenu gustinu raspodele f ako su vrednosti sluqajne veliqine X Z iz intervala (a, b) (a, b ), a ǌena gustina raspodele proporcionalna gustini raspodele f. Ako se sa f Z oznaqi gustina raspodele sluqajne veliqine X Z, tada je f Z (x) = b a f(x) x (a, b). f(x)dx, Prime uje se da vaжi f Z (x) > f(x), x (a, b) Interval (a, b) se bira tako da vaжi 1 b a f(x)dx < δ, gde je δ unapred odabrani mali pozitivan broj. Primer 10 Neka je X sluqajna veliqina sa gustinom raspodele f X (x) = 1 x, x (1, e). Gustina raspodele f je ograniqena, f(x) 1, x (1, e). 31

Za dva pseudosluqajna broja γ 1 = 0.292 i γ 2 = 0.382, dobijaju se modelirane vrednosti x T = 1 + (e 1) γ 1 = 1.502 sluqajne veliqine iz U(1, e) raspodele i y T = 0.382 sluqajne veliqine iz U(0, 1) raspodele. Kako je y T < f(x T ) = 0.666, realizovala se vrednost x = 1.502 sluqajne veliqine X. Modeliraǌe vixedimenzionih sluqajnih veliqina Modeliraǌe n-dimenzione sluqajne taqke sa nezavisnim koordinatama Ukoliko su koordinate n-dimenzione sluqajne veliqine Q = (X 1, X 2,..., X n ) nezavisne, tada je funkcija raspodele sluqajne veliqine Q jednaka F Q (x 1, x 2,..., x n ) = F 1 (x 1 )F 2 (x 2 ) F n (x n ), gde je F i (x i ), i = 1, 2,..., n funkcija raspodele sluqajne veliqine X i. U tom sluqaju, moжemo modelirati nezavisno svaku sluqajnu veliqinu X i. Primer 11 Neka je Q sluqajna taqka sa Dekartovim koordinatama (X 1, X 2,..., X n ) ravnomerno raspodeǉenim na n-dimenzionom paralelepipedu Π = {a i < x i < b i, i = 1, 2,..., n}. Gustina raspodele sluqajne taqke Q je jednaka f Q (x 1, x 2,..., x n ) = { 1 n i=1 (b i a i ), (x 1, x 2,..., x n ) Π 0, (x 1, x 2,..., x n ) / Π Gustina sluqajne veliqine X i je jednaka { 1 b f i (x i ) = i a i, x i (a i, b i ) 0, x i / (a i, b i ) a funkcija raspodele F i (x i ) = x i a i b i a i, x i (a i, b i ). 32

Na osnovu metode inverzne funkcije F i (x i ) = γ i dobijamo x i = a i + γ i (b i a i ), i = 1, 2,..., n. Modeliraǌe n-dimenzione sluqajne taqke sa zavisnim koordinatama U opxtem sluqaju, kada su koordinate (X 1, X 2,..., X n ) sluqajne taqke Q zavisne, zajedniqku gustinu raspodele moжemo predstaviti kao f Q (x 1, x 2,..., x n ) = f 1 (x 1 ) f 2 (x 2 x 1 ) f 3 (x 3 x 1, x 2 ) f n (x n x 1, x 2,..., x n 1 ). Tada imamo f 1 (x 1 ) = +... + f Q (x 1, x 2,..., x n )dx 2... dx n + f 2 (x 2 x 1 ) =... + f Q(x 1, x 2,..., x n )dx 3... dx n f 1 (x 1 ) + f 3 (x 3 x 1, x 2 ) =... + f Q(x 1, x 2,..., x n )dx 4... dx n f 1 (x 1 ) f 2 (x 2 x 1 ). f n 1 (x n 1 x 1,..., x n 2 ) = f n (x n x 1,..., x n 1 ) = Definiximo uslovnu funkciju raspodele F i (x i x 1,..., x i 1 ) = + f Q(x 1, x 2,..., x n )dx n f 1 (x 1 ) f n 2 (x n 2 x 1,... x n 3 ) f Q (x 1, x 2,..., x n ) f 1 (x 1 ) f n 1 (x n 1 x 1,... x n 2 ) xi f i (x x 1,..., x i 1 )dx. Teorema 6 Neka su U 1, U 2,..., U n nezavisni (pseudo)sluqajni brojevi. Sluqajne veliqine X 1, X 2,..., X n koje se dobijaju kao rexeǌa sistema F 1 (X 1 ) = U 1 F 2 (X 2 X 1 ) = U 2. F n (X n X 1,... X n 1 ) = U n. imaju zajedniqku gustinu raspodele f Q (x 1, x 2,..., x n ). 33

Primer 12 Razmotrimo sluqajnu taqku (ξ, η) koja uzima vrednosti u trouglu = {(x, y) : x + y < 1, x > 0, y > 0} s gustinom raspodele f(x, y) = 6x. a) Napiximo zajedniqku funkciju raspodele kao f Q (x, y) = f X (x)f Y (y x). Marginalne gustine raspodele su jednake f X (x) = f Y (y x) = 1 x 0 6xdy = 6x(1 x), 0 < x < 1, f(x, y) f X (x) = 1 1 x, 0 < y < 1 x. Odgovaraju e funkcije raspodele su jednake F X (x) = F Y (y x) = x 0 y Dobijamo sistem jednaqina 0 6u(1 u)du = 3x 2 2x 3, 0 < x < 1, 1 1 x dy = y 1 x, 0 < y < 1 x. 3x 2 2x 3 = γ 1 y = γ 2 (1 x). koji je malo nezgodniji za rexavaǌe. b) Napiximo gustinu raspodele kao f Q (x, y) = f Y (y) f X (x y). Marginalne gustine raspodele su jednake f Y (y) = f X (x y) = 1 y 0 6xdx = 3(1 y) 2, 0 < y < 1 2x (1 y) 2, 0 < x < 1 y, a odgovaraju e funkcije raspodele su jednake F Y (y) = F X (x y) = y 0 x 0 3(1 u) 2 du = 1 (1 y) 3, 0 < y < 1, 2u (1 y) 2 du = x 2 (1 y) 2, 0 < x < 1 y. 34

Dobijamo (koristimo γ 1 umesto 1 γ 1 ) (1 y) 3 = γ 1 x 2 = γ 2 (1 y) 2, odnosno y = 1 3 γ 1 x = γ 2 3 γ 1, Modeliraǌe vixedimenzione sluqajne veliqine korix eǌem smene promenǉivih Primer 13 Sluqajna taqka Q = (X, Y, Z) je ravnomerno raspodeǉena na lopti x 2 + y 2 + z 2 < R 2. Gustina raspodele sluqajne veliqine Q je jednaka f Q (x, y, z) = 3 1 4 πr 3. Prelazimo na sferne koordinate x = r sin θ cos φ y = r sin θ sin φ z = r cos θ U novim koordinatama sfera se preslikava u paralelepiped 0 r < R, 0 θ < π, 0 φ < 2π. Jakobijan preslikavaǌa je jednak J = r 2 sin θ i zajedniqka gustina novih koordinata je f Q (r, θ, φ) = 3 r 2 sin θ 4 πr 3. Ova gustina predstavǉa proizvod tri gustine sfernih koordinata R Q, Θ Q, Φ Q,redom, f Q (r, θ, φ) = 3r2 sin θ 1 R 3 2 2π 35

i prema tome, sferne koordinate R Q, Θ Q, Φ Q Imamo taqke Q su nezavisne. odakle se dobija rq 0 θq 0 φq 0 3r 2 dr R 3 = r3 Q R 3 = γ 1 sin θ 2 dθ = 1 2 (1 cos θ Q) = 1 γ 2 1 2π dφ = φ Q 2π = γ 3, r Q = R 3 γ 1 cos θ Q = 2γ 2 1 φ Q = 2πγ 3 Dekartove koordinate taqke Q su x = r Q sin θ Q cos φ Q y = r Q sin θ Q sin φ Q z = r Q cos θ Q Metoda superpozicije Neka sluqajna veliqina X ima funkciju raspodele F koja se moжe napisati u obliku F (x) = m c k F k (x), (1) k=1 gde su F k (x) funkcije raspodele, koeficijenti c k > 0, m k=1 c k = 1. Daǉe, neka je Y diskretna sluqajna veliqina sa zakonom raspodele Y : ( ) 1 2... m c 1 c 2... c m 36

Teorema 7 Neka su γ 1 i γ 2 nezavisni (pseudo)sluqajni brojevi. Ako na osnovu γ 1 modeliramo vrednost sluqajne veliqine Y, a zatim na osnovu F k (x) = γ 2 modeliramo X, tada sluqajna veliqina X ima funkciju raspodele F. Primer 14 Sluqajna veliqina X ima gustinu raspodele f(x) = 5 12 ( 1 + (x 1) 4 ), x (0, 2). Funkcija raspodele sluqajne veliqine X je F (x) = 5 (x 1)5 x + + 1 12 12 12. Ukoliko koristimo metod inverzne funkcije, dobijamo (x 1) 5 + 5x = 12γ 1, pa bi bilo potrebno rexiti jednaqinu petog stepena za nalaжeǌe vrednosti sluqajne veliqine X. Razloжimo metodom superpozicije funkciju raspodele na F (x) = 5 6 F 1(x) + 1 6 F 2(x), gde je F 1 (x) = x 2 i F 2(x) = 1 2 (x 1)5 + 1 2. Sluqajna veliqina Y ima tada zakon raspodele Y : ( ) 1 2 Na osnovu prethodne teoreme dobijamo { 2γ 2, ako je γ 1 5 6 x = 1 + 5 2γ 2 1, ako je γ 1 > 5 6 5 6 1 6 37

Modifikovani metod superpozicije Modifikovani metod superpozicije nam omogu ava da za modeliraǌe vrednosti sluqajne veliqine X koristimo samo jedan (pseudo)sluqajni broj. Teorema 8 Neka su γ 1 i γ 2 nezavisni (pseudo)sluqajni brojevi. Ako na osnovu γ 1 modeliramo vrednost sluqajne veliqine Y, a zatim modeliramo vrednost sluqajne veliqine X na osnovu F k (x) = θ, gde je θ = (γ k 1 j=1 c j) c k tada X ima funkciju raspodele F, gde je F oblika (1). Primer 15 Neka je X sluqajna veliqina sa gustinom raspodele datom u Primeru 12. Imamo da je θ = 6 5γ za y = 1 i θ = 6γ 5 za y = 2. Dobijamo { 12 5 x = γ, ako je γ 5 6 1 + 5 12γ 11, ako je γ > 5 6 Modeliraǌe normalne raspodele Metoda inverzne funkcije nije primenǉiva za modeliraǌe normalne raspodele jer je, kao xto je poznato, gustina raspodele sluqajne veliqine X sa normalnom raspodelom N (m, σ 2 ), qiji su parametri m i σ > 0, oblika f(x) = 1 σ (x m) 2 2π e 2σ 2, x R pa se ǌena inverzna funkcija ne moжe izraziti preko elementarnih funkcija. Modeliraǌu vrednosti normalne raspodele se posve uje posebna paжǌa zbog znaqaja i qeste primene normalne raspodele. S obzirom na tvrđeǌe Tvrđeǌe 2 Ako sluqajna veliqina X ima normalnu raspodelu N (m, σ 2 ), tada sluqajna veliqina Y = X m σ N (0, 1). ima normalnu normiranu raspodelu 38

dovoǉno je navesti postupke modeliraǌa sluqajne veliqine koja ima normalnu normiranu raspodelu N (0, 1). Modeliraǌe normalne raspodele na osnovu centralne graniqne teoreme Neka su date nezavisne sluqajne veliqine Y 1, Y 2,... koje imaju uniformnu raspodelu U(0, 1). Tada sluqajna veliqina S n = n j=1 Y j ima matematiqko oqekivaǌe i disperziju, redom, E(S n ) = n 2, D(S n) = n 12, pa prema centralnoj graniqnoj teoremi za sluqajnu veliqinu ξ (n) = S n E(S n ) 3 n = (Y j 1) D(Sn ) n vaжi j=1 P {ξ (n) x} n 1 2π x e t2 2. Konvergencija je brza i ve se za n = 12 dobijaju vrlo mala odstupaǌa, pa ako su γ 1,..., γ 12 (pseudo)sluqajni brojevi, moжe se smatrati da je ξ (12) = 1 j=1 2γ j 6 realizovana vrednost sluqajne veliqine sa normalnom normiranom paspodelom N (0, 1). Na ovaj naqin za modeliraǌe jedne vrednosti sluqajne veliqine sa normalnom normiranom raspodelom N (0, 1) je potrebno 12 (pseudo)sluqajnih brojeva. Modeliraǌe normalne raspodele korix eǌem polarnih koordinata Normalna normirana raspodela se moжe modelirati i prelaskom na polarne koordinate. Vaжi slede e tvrđeǌe. Tvrđeǌe 3 Ako su Y 1 i Y 2 nezavisne sluqajne veliqine sa uniformnom raspodelom U(0, 1), tada su sluqajne veliqine Z 1 = 2 ln Y 1 cos(2πy 2 ) i Z 2 = 2 ln Y 1 sin(2πy 2 ) nezavisne sa normalnim normiranim raspodelama. 39

Dakle, ako su γ 1 i γ 2 dva (pseudo)sluqajna broja, pomo u ǌih se dobijaju realizacije x 1 i x 2 dve nezavisne sluqajne veliqine sa normalnom normiranom raspodelom, po formulama x 1 = 2 ln γ 1 cos(2πγ 2 ) i x 2 = 2 ln γ 1 sin(2πγ 2 ). Modeliraǌe normalne raspodele korix eǌem jedne eksponencijalne raspodele Neka su sluqajne veliqine Y : U(0, 1) i V : E(1) nezavisne. Ako je (V 1)2 Y e 2, tada se za realizaciju sluqajne veliqine X sa normalnom normiranom raspodelom uzima vrednost sluqajne veliqine V. Ovaj postupak za modeliraǌe jedne vrednosti normalne normirane raspodele zahteva korix eǌe bar dva (pseudo)sluqajna broja γ 1 i γ 2. Pomo u γ 2 se modelira vrednost v = ln γ 2 sluqajne veliqine V. Ako je γ 1 e (v 1)2 2, tada se smatra da je v realizovana vrednost sluqajne veliqine sa normalnom normiranom raspodelom. Ako nejednakost ne vaжi, postupak se ponavǉa sa narednim parom (pseudo)sluqajnih brojeva. Modeliraǌe normalne raspodele korix eǌem dve eksponencijalne raspodele Neka su sluqajne veliqine Y 1 i Y 2 nezavisne sa istom eksponencijalnom raspodelom E(1). Ako je Y 2 (Y1 1)2 2, tada se za realizaciju sluqajne veliqine X sa normalnom normiranom raspodelom uzima vrednost sluqajne veliqine Y 1. Ovaj postupak za modeliraǌe jedne vrednosti normalne normirane raspodele zahteva korix eǌe bar dva (pseudo)sluqajna broja γ 1 γ 2. Pomo u γ i, i = 1, 2 se modelira vrednost y i = ln γ i sluqajne veliqine Y i. Ako je y 2 (y1 1)2 2, tada se smatra da je y 1 realizovana vrednost sluqajne veliqine X sa normalnom normiranom raspode- i 40

lom. Ako nejednakost ne vaжi, postupak se ponavǉa sa narednim parom (pseudo)sluqajnih brojeva. Modeliraǌe χ 2 n raspodele raspodele koristi se slede a definicija. Prilikom modeliraǌe χ 2 n Definicija 1 Ako su sluqajne veliqine X 1, X 2,... X n nezavisne i imaju normalnu normiranu raspodelu N (0, 1), tada sluqajna veliqina X1 2 + X2 2 +... + Xn 2 ima χ 2 n raspodelu. Modelira se n nezavisnih sluqajnih veliqina sa normalnom normiranom raspodelom i saberu kvadrati dobijenih modeliranih vrednosti. 41

Monte Karlo integracija Razmotri emo dve Monte Karlo metode za pribliжno izraqunavaǌe integrala I = b a g(x)dx Prva metoda se naziva Monte Karlo metoda pogodaka i promaxaja 9 i zasnovana je na geometrijskoj interpretaciji integrala kao povrxine, a druga metoda se naziva Monte karlo metoda uzorqke sredine 10 i zasnovana je na interpretaciji integrala kao sredǌe vrednosti. Monte Karlo metoda pogodaka i promaxaja Neka je funkcija g(x) ograniqena 0 g(x) c, a x b, i oznaqimo sa Ω pravougaonik Ω = {(x, y) : a x b, 0 y c}. Neka je (X, Y ) sluqajni vektor sa uniformnom raspodelom na pravougaoniku Ω sa gustinom raspodele f (X,Y ) (x, y) = { 1 c(b a), (x, y) Ω 0, (x, y) / Ω (2) Oznaqimo sa S povrx ispod krive g(x), S = {(x, y) : y g(x)}. Verovatno a da se sluqajni vektor nađe ispod krive g(x) je tada jednaka b a p = g(x)dx I = c(b a) c(b a) (3) 9 The Hit and Miss Monte Carlo Method 10 The Sample Mean Monte Carlo method

Slika 4. Monte Karlo metoda pogotka i promaxaja Pretpostavimo da je generisano N nezavisnih sluqajnih vektora (X 1, Y 1 ), (X 2, Y 2 ),..., (X N, Y N ). Na osnovu zakona velikih brojeva, verovatno a p se moжe oceniti sa ˆp = N H N, (4) gde je N H broj sluqajeva kada je Y i g(x i ), i = 1, 2,..., N, tj. broj pogodaka i N N H je broj promaxaja (ako je Y i > g(x i ), i = 1, 2,..., N promaxujemo). Na osnovu (3) i (4) dobijamo odnosno, N H N I c(b a), I θ 1 = c(b a) N H N. (5) Drugim reqima, da bismo pribliжno izraqunali (ocenili) integral I, uzimamo uzorak obima N iz uniformne raspodele (2), prebrojimo broj pogodaka N H ispod krive g(x) i primenimo formulu (5). Poxto svaki od N pokuxaja ima Bernulijevu raspodelu sa verovatno- om pogotka p, imamo N H : B(N, p). Matematiqko oqekivaǌe i disperzija ocene θ 1 su, redom, jednaki c(b a) E(θ 1 ) = N E(N H) = c(b a)p = I D(θ 1 ) = c2 (b a) 2 N 2 D(N H ) = c 2 2 p(1 p) (b a) N. 43

Prema tome, ocena θ 1 je nepristrasna. Kako D(θ 1 ) 0, kada N, ocena θ 1 je postojana. Standardna devijacija ocene je tada jednaka σ θ1 = N 1 2 c(b a) p(1 p). Ukoliko ubacimo (3) u izraz za standardnu devijaciju dobijamo σ θ1 = N 1 2 I (c(b a) I). Standardna devijacija pruжa meru preciznosti ocene. Dakle, preciznost ocene integrala dobijene na osnovu metode pogodaka i promaxaja je reda N 1 2, tj. O(N 1 2 ). Moжemo odrediti broj potrebnih eksperimenata N tako da je P { θ 1 I ε} = β, gde je ε grexka aproksimacije a β nivo povereǌa (obiqno se uzima β = 95% ili β = 99%). Za dovoǉno veliko N, moжemo primeniti centralnu graniqnu teoremu, tj. Tada imamo θ 1 = θ 1 I σ θ1 : N (0, 1). P { θ 1 z β } = β, ε gde je z β = N. Iz tablice normalne raspodele nalazimo z β c(b a) p(1 p) tako da je Φ(z β ) = 1+β 2, gde je Φ funkcija normalne raspodele. Koriste i aproksimaciju p(1 p) 1 4, dobijamo N c2 (b a) 2 z 2 β 4ε 2 Algoritam za Monte Karlo metodu pogodaka i promaxaja 1. Generisati niz (U j ) 2N j=1 od 2N pseudosluqajnih brojeva. 2. Poređati brojeve u N parova (U 1, U 1), (U 2, U 2),..., (U N, U N ) na bilo koji naqin tako da se svaki broj U i pojavi taqno jedanput. 44

3. Izraqunati X i = a + (b a)u i, g(x i ), i Y i = cu i, i = 1, 2,... N. 4. Prebrojati broj pogodaka N H za koje vaжi Y i g(x i ). 5. Oceniti integral I sa θ 1 = c(b a) N H N. Primer 16 Ocenimo integral I = 2 0 e x2 dx. Direktnim izraqunavaǌem se dobija I = (π) ( Φ(2 2) 0.5 ) = 0.8820814 Podintegralna funkcija g(x) = e x2 je ograniqena, g(x) 1. Odredimo prvo obim uzorka N, tako da je grexka aproksimacije ε = 0.001 sa nivoom povereǌa β = 0.95. Na osnovu N c2 (b a) 2 z 2 β 4ε 2 z 0.99 = Φ 1 (0.975) = 1.96, uze emo N = 4000000. = 3841459,gde je Korix eǌem programa za pribliжno raqunaǌe integrala pomo u metode pogodaka i promaxaja u statistiqkom softveru R, dobija se vrednost ocene θ 1 = 0.8830045. Monte Karlo metoda uzoraqke sredine Integral I = b g(x)dx moжemo predstaviti kao oqekivanu vrednost a neke sluqajne veliqine. Prvo napiximo integral na slede i naqin I = b a g(x) f X (x) f X(x)dx. Pretpostavimo da je f X (x) proizvoǉna gustina raspodele takva da je f X (x) > 0 kada g(x) 0. Tada je ( ) g(x) I = E, f X (X) gde je X sluqajna veliqina sa gustinom raspodele f X (x). Uzmimo, jednostavnosti radi, da je f X (x) = { 1 b a, a < x < b 0, inaqe 45