Slučajni proces i njegova svojsva omislav Peković sudeni 29. 1. Slučajni proces Definicija 1.1. (Slučajni proces). Slučajni ili sohasički proces je familija slučajnih varijabli X(, ω) 1. Slučajni proces možemo inerpreirai kao preslikavanje X : Ω S, gdje je vrijeme dok je S skup sanja unuar kojih proces poprima vrijednosi. Definicija 1.2. (Realizacija slučajnog procesa). Realizacija ili rajekorija slučajnog procesa je preslikavanje X(, ω) Govorimo o familiji, a ne o vekoru jer nemamo uvijek prebrojivo mnogo slučajnih varijabli. za neki fiksni ω. Neke rajekorije su manje, a neke su više vjerojane šo ovisi o odabranom dogadaju ω. Iso vrijedi i za snopove rajekorija, samo šo za snop promaramo skup koji sadrži više elemenarnih dogadaja. Fiksiramo li pak vrijeme dobivamo slučajnu varijablu. Slučajne procese uobičajeno dijelimo 1. po svojsvima vremenske varijable na (a) slučajne procese (koninuirano vrijeme), i (b) slučajne nizove (diskreno vrijeme), e 2. po mogućim iznosima na (a) koninuirane (koninuirana ampliuda), i (b) diskrene (ampliuda poprima prebrojivo mnogo vrijednosi). Zadaak 1. Neka se slučajni eksperimen sasoji od promaranja promea u nekoj nasumice odabranoj dvosmjernoj ulici. Definiraje različie vrse slučajnih procesa i nizova vezanih uz prook auomobila kroz akvu ulicu. 1 U zbirci i predavanjima smo dogadaj ω označili sa s. 1
X(, ω 1 ) = x 1 () X(, ω 2 ) = x 2 () X(, ω 3 ) = x 3 () X( 1 ) X( 2 ) X( 3 ) Definirajmo najprije diskrean slučajni niz. akav proces karakeriziraju diskrene vrijednosi koje signal poprima u diskrenim renucima vremena. Jedna od mogućnosi je promaranje ukupnog broja auomobila koji produ ulicom u odabranom inervalu. Pri ome možemo dogovorno prolaz auomobila u jednom smjeru predsavii s poziivnim brojevima, a u drugom smjeru s negaivnim brojevima. Jedna moguća realizacija prikazana je na slici 1. N 3 2 1 4 3 2 1 1 2 3 4 5 6 7 8 9 12 2 n Slika 1: Diskreni slučajni niz Promaramo li umjeso broja auomobila koji produ kroz ulicu u odredenom inervalu njihovu srednju brzinu, koja može poprimii bilo koju vrijednos, dobivamo koninuirani slučajni niz. Jedna moguća realzacija prikazana je na slici 2. Diskreni slučajni proces možemo dobii ako promaramo kumulaivan broj auomobila koji su prošli ulicom. U om slučaju za pojedinu realizaciju slučajnog procesa promjena ampliude se uvijek dogada u renuku prolaska auomobila ulicom, odnosno vrijeme je koninuirano. Jedna moguća realzacija prikazana je na slici 3. 2
v 4 2 1 1 2 3 4 6 7 8 9 12 n N 3 2 1 Slika 2: Koninuirani slučajni niz 1 2 Slika 3: Diskreni slučajni proces Promaramo li kumulaivno vrijeme izmedu prolaska dva auomobila dobivamo koninuirani slučajni proces. Jedna moguća realzacija prikazana je na slici 4. Slika 4: Koninuirani slučajni proces 2. Konsrukcija slučajnog procesa Posavlja se pianje kako konsruirai slučajni proces. Problem konsrukcije se svodi na pronalaženje σ-algebre za prosor funkcija f : R (rajekorije slučajnog procesa) e definiranje konačne mjere na njoj (vjerojanosna mjera). Uobičajeno se korisi Kolmogorovljevo proširenje. Savak 2.1. (Kolmogorovljevo proširenje). Neka su µ n, 1 n < vjerojanosne mjere na R n e neka su konzisene u slijedećem smislu za svaki n 3 Ovaj dio, kao i dobar dio prvih vježbi, namijenjen je sudenima zaineresiranim za problemaiku. Drugim riječima o nije porebno znai i neće doći na ispiu ili kolokviju.
promoramo µ n+1 kao vjerojanosnu mjeru na R n R. Sada je µ n granična mjera od µ n+1. Onda posoji jedinsvena vjerojanosna mjera µ na R akva da uz R = R n R granična mjera od µ je upravo µ n. Savak 2.2. (Hahn-Kolmogorov). Neka je A algebra podskupova skupa Ω. Ako konačno adiivna mjera µ : A R zadovoljava ( ) µ A n = µ (A n ) n 1 n 1 za svaki disjunkni niz {A n : n N} elemenaa A akav da n= A n A onda se µ na jedinsven način proširuje do mjere definirane na σ-algebri A generiranoj od A, odnosno posoji jedinsvena mjera µ A R akva da je resrikcija µ na A upravo µ. 3. Razdioba, gusoća i sacionarnos Da bi u popunosi mogli opisai slučajni proces moramo znai funkciju razdiobe F X() (x) za svaki proizvoljno odabrani. Nadalje, odaberemo li više različiih renuaka, recimo 1, 2,... n moramo znai i zajedničku funkciju razdiobe F X(1),X( 2),...,X( n)(x 1, x 2,..., x n ), šo za opći slučaj uopće nije jednosavno. Slučajni procesi od prakičnog ineresa (npr. ermički šum) ne mijenjaju svoja svojsva kroz vrijeme. Soga ne rebamo znai funkcije razdiobe za baš svaki renuak. Definicija 3.1. (Sacionarnos). Slučajni proces X(, ω) je (srikno) sacionaran ako za svaki pomak slučajni vekori ( X(1 ),..., X( n ) ) ( i X(1 + ),..., X( n + ) ) imaju jednaku zajedničku funkciju razdiobe. Definicija 3.2. (Sacionarnos I. reda). Za proces X(, ω) kažemo da je sacionaran I. reda ako za za svaki pomak slučajne varijable X( 1, ω) i X( 1 +, ω) imaju jednaku funkciju razdiobe, F X(1)(x) = F X(1+ )(x). Naravno, i funkcije gusoće su u om slučaju ise, odnosno vrijedi f X(1)(x) = f X(1+ )(x). (1) Definicija 3.3. procesa je (Očekivanje). Očekivanje ili momen prvog reda slučajnog E [ X() ] = xf X() (x) dx. 4
Zadaak 2. Pokaži da (1) daje jednakos očekivanja, odnosno pokaži da vrijedi f X(1)(x) = f X(1+ )(x) E [ X( 1 ) ] = E [ X( 2 ) ] Za neku slučajnu varijablu za fiksni renuak 1 vrijedi E [ X( 1 ) ] = xf X(1)(x) dx. Ovdje dokazujemo A B. o ne znači da vrijedi B A (no vrijedi B A). Ako vrijedi i (1) dobivamo E [ X( 1 ) ] = xf X(1)(x) dx = = E [ X( 1 + ) ]. xf X(1+ )(x) dx Kako vremenski pomak δ možemo proizvoljno odabrai dobili smo E [ X( 1 ) ] = E [ X( 2 ) ] = x. Proces za kojeg očekivanje ne ovisi o vremenu, E [ X() ] = x, zovemo sacionarnim I. reda u širem smislu. Obra ne vrijedi! Definicija 3.4. (Sacionarnos II. reda). Za proces X(, ω) kažemo da je sacionaran II. reda ako za za svaki pomak slučajni vekori ( X( 1, ω), X( 2, ω) ) i ( X( 1 +, ω), X( 2 +, ω) ) imaju jednaku funkciju razdiobe, F X(1),X( 2)(x 1, x 2 ) = F X(1+ ),X( 2+ )(x 1, x 2 ). Naravno, i funkcije gusoće su u om slučaju ise, odnosno vrijedi f X(1),X( 2)(x 1, x 2 ) = f X(1+ ),X( 2+ )(x 1, x 2 ). (2) Definicija 3.5. (Auokorelacijska funkcija). Auokorelacijska funkcija (AKF) slučajnog procesa je R XX ( 1, 2 ) = E [ X( 1 )X( 2 ) ] = x 1 x 2 f X(1),X( 2)(x 1, x 2 ) dx 1 dx 2. Zadaak 3. Pokaži da (2) daje jednakos auokorelacijske funkcije, odnosno pokaži da vrijedi f X(1),X( 2)(x 1, x 2 ) = f X(1+ ),X( 2+ )(x 1, x 2 ) R XX ( 1, 2 ) = R XX ( 2 1 ) 5
Za dvije odabrane slučajne varijable u renucima 1 i 2 je R XX ( 1, 2 ) = = x 1 x 2 f X(1),X( 2)(x 1, x 2 ) dx 1 dx 2 x 1 x 2 f X(1+ ),X( 2+ )(x 1, x 2 ) dx 1 dx 2 Pri ome pomak možemo proizvoljno odabrai. Odaberimo da je pomak upravo 1. Dobivamo R XX ( 1, 2 ) = x 1 x 2 f X(),X(2 1)(x 1, x 2 ) dx 1 dx 2. Označimo 2 1 sa τ. Sada vidimo da auokorelacijska funkcija ovisi samo o razmaku odabranih slučajnih varijabli pa pišemo odnosno R XX ( 1, 2 ) = x 1 x 2 f X(),X(τ) (x 1, x 2 ) dx 1 dx 2, R XX ( 1, 2 ) = R XX (τ). Proces za kojeg AKF ne ovisi o vremenu zovemo sacionarnim II. reda u širem smislu. Obra ne vrijedi! Zadaak 4. Zadan je slučajni proces X() čije su realizacije periodički ponavljani impulsi kako je prikazano na slici 5, gdje su B, i konsane za koje vrijedi 4, dok je E slučajna varijabla s jednolikom razdiobom na inervalu [, ]. Odredie a) funkciju disribucije vjerojanosi prvog reda F X() (x), b) funkciju gusoće vjerojanosi prvog reda f X() (x), c) očekivanje E[X()], momen drugog reda E[X 2 ()] i varijancu σ 2 X(). B E E E E + E + E + 2 Slika 5: Jedna realizacija slučajnog procesa Odredivanje funkcije disirbucije i gusoće vjerojanosi je medusobno povezano jer odredivanjem jedne funkcije odmah možemo odredii i drugu (deriviranjem ili inegriranjem). Mi ćemo odredii funkciju gusoće f X() (x) zadanog procesa iz složene funkcije gusoće vjerojanosi f X(),E (x, e). 6
1. za neki fiksirani e odredujemo uvjenu funkciju disirbucije F X() E=e = P ( X() < x E = e ) i pripadnu uvjenu funkciju gusoće, 2. iz odredene funkcije gusoće f X() E=e (x) računamo zajedničku gusoću f X(),E (x, e) = f X() E=e (x) f E (e), 3. iz zajedničke funkcije gusoće vjerojanosi f X(),E (x, e) odredujemo marginalnu gusoću vjerojanosi f X() (x) i pripadnu disribuciju F X() (x). Najprije odredujemo uvjenu disribuciju vjerojanosi F X() E=e. Iz slike 5 vidimo da je za svaki odabrani e vjerojanos P ( X() < ) =, jer proces X() nikada ne poprima negaivne vrijednosi. akoder vidimo da je vjerojanos P ( X() < B ) = 1 jer proces X() nikada ne dosiže vrijednosi veće od B. Iz slike akoder odredujemo vjerojanosi za x < B e dobivamo i P ( X() = ) = 2 P ( X() < x ) = 2 + 2 x, za < x < B. B Uvjenu funkciju disiribucije sada možemo zapisai kao, za x < 2 F X() E=e (x) = µ(x) + 2x B, za x < B, 1, za B x a iz nje dobivamo i uvjenu funkciju gusoće d dx F X() E=e(x) = f X() E=e (x) = { 2 δ(x) + 2 B,, inače za x < B. Zajednička funkcija gusoće je f X(),E (x, e) = f X() E=e (x) f E (e). Kako je f E (e) jednolika na inervalu [, ] dobivamo { 2 f X(),E (x, e) = δ(x) + 2 2 B, za (x, e) [, B, 2., inače Sada inegriranjem odredujemo f X() (x) prema f X() (x) = f X(),E (x, e)de, 7
e za funkciju gusoće vjerojanosi procesa X() dobivamo { 2 f X() (x) = δ(x) + 2 B, za x < B., inače Funkcija disribucije je, za x < 2 F X() (x) = µ(x) + 2x B, za x < B. 1, za B x Primijeie da dobivena uvjena disribucija F X() E=e (x) nije uopće ovisila o izboru slučajne varijable E = e e je soga F X() E=e (x) = F X(), odnosno koraci 2. i 3. posupka rješavanja nisu bili porebni. Preosaje nam još odredii očekivanje, momen drugog reda i varijancu procesa X(). Očekivanje je E [ X() ] = Momen drugog reda je E [ X 2 () ] = B x f X() (x)dx B = x 2 δ(x) dx + = 2 B 2B x2 = B = x = cons B x 2 f X() (x)dx = x 2 2 δ(x) dx + = 2 B 3B x3 Varijanca σx() 2 prema definiciji je B = 2 B 2 = cons 3 x 2 B dx x 2 2 B dx σx() 2 = (x x) 2 f X() (x)dx = E [ X 2 () ] ( E [ X() ]) 2, šo nakon uvršavanja daje σ 2 X() = B 2 ( 2 3 ). 8