Višekomponentne slučajne varijable Srednje vrijednosti i momenti Definicija srednje vrijednosti Ako između tri slučajne varijable postoji veza ζ = f (ξ, η) i ako su poznate sve relevantne gustoće vjerojatnosti, tada je,,, f f x y p x y dxdy. Ako je η = f (ξ 1,..., ξ n ) onda je srednja vrijednost f,...,... f x,..., x p x,..., x dx... dx 1 n 1 n 1... n 1 n 1 n. n
Višekomponentne slučajne varijable Srednje vrijednosti i momenti Osobine srednje vrijednosti Najvažnije osobine srednje vrijednosti f g f g c f, c f,, c Ove osobine mogu se iskazati jednim izrazom c f c g c f c g c, c 1 1 1 Specijalno, ako su varijable ξ i η nezavisne, tada vrijedi i f g f g
Višekomponentne slučajne varijable Srednje vrijednosti i momenti Momenti dvije slučajne varijable Združeni moment slučajnih varijabli ξ i η reda r = k + l je k l definiran relacijom m, k, l 0 kl Centralni moment dvodimenzionalne slučajne varijable: kl k Važni su praksi kovarijanca (covariance, ковариация): 11 cov, također i koeficijent korelacije (correlation coefficient, коэффициент корреляции): l cov, var var
Višekomponentne slučajne varijable Srednje vrijednosti i momenti Momenti tri i više slučajnih varijabli Neka je (ξ 1, ξ,..., ξ n ) n-dimenzionalna slučajna varijabla. obični momenti reda r = k 1 + k +... + k n : m k i n k1 k k..., 0, 1,,...,, 1... 1 n n k k k n i centralni momenti reda r = k 1 + k +... + k n : k k k 1... 1... n 1 1 k k k n n u praksi su posebno su interesantni momenti drugog reda C, k, l 1,,..., n kl k k l l k l n
Višekomponentne slučajne varijable Srednje vrijednosti i momenti Kovarijancna matrica Matrica kovarijance (covariance matrix, ковариационная матрица) C, je kvadratna matrica s elementima na glavnoj dijagonali, odnosno izvan glavne dijagonale, respektivno, C var C C cov, kk k kl lk k l k k k l Centralni momenti mogu se izraziti preko običnih, primjer cov, Iz nezavisnosti dvije slučajne varijabli slijedi njihova nekoreliranost. Obrnuto ne vrijedi u općem slučaju.
Višekomponentne slučajne varijable Srednje vrijednosti i momenti Osobine varijance i kovarijance Neka je ξ i η slučajne varijable. Tad vrijedi: 1. var(ξ) 0,. var(ξ) = 0 ξ = c, c R konstanta, 3. var(c ξ) = c var(ξ), c R konstanta, 4. var(ξ + η) = var(ξ) + var(η) + cov(ξ,η), 5. cov(a ξ + b η) = a b cov(ξ,η), a, b R konstante. Slične osobine vrijede i za više od dvije slučajne varijable.
Višekomponentne slučajne varijable Srednje vrijednosti i momenti Osobine koeficijenta korelacije Normiranje slučajnih varijabli ξ i η je transformacija: Vrijedi: var (ξ ) = 1, var (η ) = 1 i cov (ξ, η ) = ρ ξη. Centriranje slučajne varijable ξ je transformacija: '' Vrijedi: var (ξ ) = var (ξ). ' i ' Važne osobina koeficijenta korelacije je ' ' '' '' 1 1
Višekomponentne slučajne varijable Srednje vrijednosti i momenti Statistička povezanost slučajnih varijabli Ranije smo pokazali da je ρ ξη 1, te da je ρ ξη = 0 ako su slučajne varijable ξ i η nezavisne. Interesantni su druga dva ekstremna slučaja, kada je ρ ξη = 1. Tada između slučajnih varijabli ξ i η postoji linearna veza η = aξ + b, pri čemu je, 1 a, 1 ρ ξη daje informaciju o linearnoj povezanosti varijabli ξ i η.
Normalna slučajna varijabla Gustoća vjerojatnosti p (x) 1 p x e xm m 3 m m m m+ m+ m+3 x
Normalna slučajna varijabla Gustoća vjerojatnosti gustoća vjerojatnosti 1 0.9 0.8 0.7 0.6 0.5 0.4 0.3 0. 0.1 0 fiksirana varijanca =1, promjenljiva srednja vrijednost m =-1 m =0 m =1 m = -5-4 -3 - -1 0 1 3 4 5
Normalna slučajna varijabla Gustoća vjerojatnosti gustoća vjerojatnosti 1 0.9 0.8 0.7 0.6 0.5 0.4 0.3 0. 0.1 0 =0.0 =1 =4 =9-3 - -1 0 1 3 4 5 6 7
Parametri normalne razdiobe Parametri normalne (Gaußove) razdiobe vjerojatnosti (normal distribution, Gaussian distribution, нормальное распределение, распределение Гаусса) su m i σ, a koristi se oznaka ξ = N (m,σ ). Pokazuje se da vrijedi: dakle, parametri su srednja vrijednost i varijanca. Parametar m je ujedno i medijana. m, var
Kumulativna funkcija razdiobe Za normalnu slučajnu varijablu ξ funkcija razdiobe je: x x' m 1 F x p x dx e dx ' ' ' x Smjenom dobivamo x' m x '', dx '' dx ' xm x'' 1 x m F x e dx '' F
Kumulativna funkcija razdiobe 1 F (x) 0,5 m 3 m m m m+ m+ m+3 x
Kumulativna funkcija razdiobe funkcija razdiobe 1 0.9 0.8 0.7 0.6 0.5 0.4 fiksirana varijanca m =-1 m =0 m =1 m = =1, promjanljiva srednja vrijednost 0.3 0. 0.1 0-5 -4-3 - -1 0 1 3 4 5
Kumulativna funkcija razdiobe funkcija razdiobe 1 0.9 0.8 0.7 0.6 0.5 0.4 0.3 0. 0.1 0 =0.0 =1 =4 =9-3 - -1 0 1 3 4 5 6 7
Kumulativna funkcija razdiobe Funkcija razdiobe slučajne varijable y ' 1 F y e dy ' Slučajna varijabla η je normirana i centrirana. y m N 0,1 Umjesto F često se koristi komplementarna funkcija Q y ' 1 y 1 F y e dy ' y
Kumulativna funkcija razdiobe Pored funkcije razdiobe F i njoj komplementarne funkcije Q koriste se funkcija greške, komplementarna funkcija greške i Laplaceova funkcija, definirane respektivno, sa erf x x' x e dx x' erfc x 1 erf x e dx ' x' 1 x e dx ' 0 x 0 x '
Često se u vezi s normalnom razdiobom vjerojatnosti navodi tzv. pravilo tri sigme. Ako je ξ = N(m, σ ) može se pokazati da vrijedi: P Normalna (Gaußova) razdioba vjerojatnosti Kumulativna funkcija razdiobe Pravilo tri sigme m Q 3 1 3 0,9973 Vrlo je mala (manja od 3 ) vjerojatnost da će odstupanje ξ od srednje vrijednosti biti veće od 3σ. U nejednakosti Čebiševa za k = 3, dobivamo P 1 3 1 3 1 0,8889 9 m P m
Zbroj nezavisnih slučajnih varijabli Neka je ζ = ξ + η, pri čemu su ξ i η međusobno nezavisne normalne slučajne varijable Tada je N m N m,,,, N m N m m Općenito, zaključujemo da je zbroj uzajamno nezavisnih normalnih slučajnih varijabli normalna slučajna varijabla.
Centralni granični teorem (central limit theorem, центральная предельная теорема) Neka je ξ 1, ξ,..., ξ n niz međusobno nezavisnih slučajnih varijabli, pri čemu je n dovoljno velik. Neka svaka od varijabli ima poznatu srednju vrijednost, varijancu, te centralni apsolutni moment trećeg reda, respektivno: 3 k k, var k k, k k <, 1,,..., m m k n Uvedimo u razmatranje varijablu η n = ξ 1 +ξ +...+ξ n. Tada je m m... m n 1 var... n 1 n n
Centralni granični teorem Teorem (CGT): n m 3 k k k 1 n n lim 0 lim N 3 0,1 n n Ovdje kao CGT uzimamo varijantu Ljapunova (Алексaндр Ляпунов, 1857-1918). Postoji nekoliko varijanti centralnog graničnog teorema, kao što su klasični CGT, Lindenbergov CGT, višedimenzionalni CGT i drugi. n n
Centralni granični teorem Zbroj / zbir velikog broja nezavisnih slučajnih varijabli asimptotski se ponaša kao normalna slučajna varijabla, bez obzira kakve su razdiobe vjerojatnosti pojedinih varijabli. Suština početnog uvjeta CGT je u tome da su doprinosi pojedinačnih varijabli mali u odnosu na ukupan zbroj. U CGT leži osnovni značaj (pa i ime) normalne razdiobe, to je glavni razlog zašto se tako često sreće. Važno je uvjeriti se jesu li ispunjeni uvjeti primjene CGT. CGT može biti opasno oružje u rukama nestručnjaka.
Dvodimenzionalna normalna razdioba Dvodimenzionalna slučajna varijabla (ξ,η) naziva se normalnom ako je njena gustoća razdiobe funkcija Marginalne gustoće su 1 a x m b x m y n c y n p x, y Ke ac b p x e c ac b p y e a 1 b a xm c 1 b c yn a
Dvodimenzionalna normalna razdioba Zaključujemo da su i ξ i η pojedinačno normalne slučajne varijable s parametrima c a m, var, n, var ac b ac b b b cov,, ac b ac i konstantom normiranja K ac b 1 1
Dvodimenzionalna normalna razdioba Parametri a, b i c mogu se izraziti preko veličina razdiobe 1 1 a, b, c 1 1 1 Zajednička gustoća razdiobe može se napisati u obliku 1 p x, y e 1 1 xm xm yn yn 1
Dvodimenzionalna normalna razdioba Ako normalne slučajne varijable ξ i η nisu korelirane, tada je ρ ξη = 0, pa je također i b = 0, tako da zajednička gustoća razdiobe postaje p x, y Ke 1 1 a xm c y n 1 a xm c y n Ke e p x p y Slijedi važan zaključak: ako su normalne slučajne varijable ξ i η nekorelirane, tada su one istovremeno i nezavisne.
Višedimenzionalna normalna razdioba Vektorska slučajna varijabla ξ = (ξ 1, ξ,, ξ n ) je normalna ako se njena zajednička gustoća razdiobe može izraziti sa 1 aij xi mi x j m j det A i1 j1 p 1... x1, x,..., x e m n n a n n n k k a11 a1... a1 n C11 C1... C1 n a1 a... a n C1 C... C n A, C...... a a... a C C... C n1 n nn n1 n nn ij ji det A 0 C ij C a det C A i 1 j 1 det A
Višedimenzionalna normalna razdioba Važne osobine vektorske normalne slučajne varijable Razdioba je određena momentima prvog i drugog reda Svaka njena komponenta je normalna slučajna varijabla Ako je varijabla n-dimenzionalna tada bilo kojih k < n komponenti čini k-dimenzionalnu normalnu varijablu Ako su njene komponente nekorelirane, onda su one i međusobno nezavisne Svaka netrivijalna linearna kombinacija i i isto je i1 normalna slučajna varijabla (jednodimenzionalna) n k
Razdiobe povezane s normalnom Logonormalna razdioba Ako je ξ slučajna varijabla s normalnom razdiobom, tada za slučajnu varijablu η definiranu sa ξ = ln(η) kažemo da je slučajna varijabla s logonormalnom razdiobom. Gustoća razdiobe logonormalne slučajne varijable je p 0, y 0 ln ym y 1 y e, y 0
Razdiobe povezane s normalnom Polunormalna razdioba Ako je ξ slučajna varijabla s normalnom razdiobom, tada za slučajnu varijablu η definiranu sa η = ξ m ξ kažemo da je slučajna varijabla s polunormalnom razdiobom. Gustoća razdiobe polunormalne slučajne varijable je p y 0, y 0 e y, y 0
Razdiobe povezane s normalnom Rayleigheva razdioba Kažemo da ξ slučajna varijabla ima Rayleighevu (John Strutt, the 3rd baron Rayleigh, 184-1919) razdiobu ako se njena funkcija gustoće može napisati u obliku p 0, x 0 x xe, x 0 x Ako su ξ = N(0, σ ) i η = N(0, σ ) nezavisne normalne centrirane slučajne varijable s jednakim varijancama, tada Rayleighovu razdiobu vjerojatnosti ima slučajna varijabla: