ΤΥΧΑΙΑ ΔΙΑΝΥΣΜΑΤΑ Έστω Χ = (Χ 1,,Χ ) T τυχαίο διάνυσμα (τ.δ). Ονομάζουμε συνάρτηση κατανομής πιθανότητας (σ.κ.π.) του τ.δ. Χ την: F(x) = P(X 1 x 1,, X x ), x = (x 1,,x ) T 1. 0 F(x) 1, x.. Η F είναι μη φθίνουσα και δεξιά συνεχής ως προς κάθε μεταβλητή. 3. lim F(x) = 0 (i = 1,, ) και F(+,,+) = 1. x i. 4. P (α < X β ) = F(β, β..., β ) F(α, β..., β )... F(β, β..., β, α ) i=1 i i i 1 1 1-1 1 3 1 - -1 1 + F(α, α, β..., β )+...+F(β, β..., β, α, α )...+(-1) F(α, α,..., α ) 0. i) Διακριτά Τυχαία Διανύσματα: Ένα τ.δ. Χ = (Χ 1,,Χ ) T καλείται διακριτό αν παίρνει με πιθανότητα 1 πεπερασμένο ή αριθμήσιμο σύνολο τιμών {x 0, x 1,.} δηλαδή: P(X {x 0, x 1,...}) = P( X= x ) = P(X = x,...,x = x ) = 1. k 1 k1 k k=0 k= 0 Η συνάρτηση f(x k ) = P(X = x k ), k = 0, 1,, καλείται συνάρτηση μάζας πιθανότητας (σ.μ.π.) του τ.δ. Χ ή, από κοινού σ.μ.π. των τ.μ. Χ 1,,Χ και έχει τις ακόλουθες ιδιότητες: 1. f(x k ) 0, k = 0, 1,,. f( xk ) = 1. k= 0 Η περιθώρια συνάρτηση μάζας πιθανότητας μιας εκ των συνιστωσών του τ.δ. Χ, έστω της X i, δίνεται αθροίζοντας την από κοινού σ.μ.π. για όλες τις δυνατές τιμές των άλλων συνιστωσών. Δηλαδή: f (x ) = P(X = x,...,x = x ). Xi ki 1 k1 k k 1=0 k i-1=0 k i+1=0 k =0 Τέλος οι τ.μ. Χ 1,, Χ είναι ανεξάρτητες αν και μόνο αν: f(x) = P(X = x) = f X (x i i) x {x 0, x 1,.}. i=1 Δ.Φουσκάκης - Τυχαία Διανύσματα 1
ii) Συνεχή Τυχαία Διανύσματα: Ένα τ.δ. Χ=(Χ 1,,Χ ) T καλείται συνεχές αν υπάρχει πραγματική συνάρτηση f με πεδίο ορισμού το : 1. f(x) 0, x.. f( x)d x = 1. Η συνάρτηση f καλείται συνάρτηση πυκνότητας πιθανότητας (σ.π.π.) του τ.δ. Χ ή από κοινού σ.π.π. των τ.μ. Χ 1,,Χ. Ισχύουν οι εξής σχέσεις: F(x) = P(X 1 x 1,, X x ) = x1 x y y f( )d, F(x 1,..,x ) f(x) =, όπου η μικτή παράγωγος υπάρχει. x x 1 Η περιθώρια συνάρτηση πυκνότητας πιθανότητας μιας εκ των συνιστωσών του τ.δ. Χ, έστω της X i, δίνεται ολοκληρώνοντας την από κοινού σ.π.π. για όλες τις δυνατές τιμές των άλλων συνιστωσών. Δηλαδή f X (x i ) = f( x)dx1 dxi-1dx i+1 dx. i + + Τέλος οι τ.μ Χ 1,, Χ είναι ανεξάρτητες αν και μόνο αν: f(x) = f X (x i i), x i=1. Δεσμευμένες Κατανομές: α) Έστω Χ, Υ διακριτές τ.μ. με από κοινού σ.μ.π. f(x i, y j ), i, j = 0, 1,. Ορίζουμε τη δεσμευμένη σ.μ.π. της διακριτής τ.μ. X, όταν γνωρίζουμε ότι η τ.μ. Υ έχει την τιμή y j, j = 0, 1,..., ως: f (x i y j ) = f(x i,y j), f (y ) j όπου f είναι η περιθώρια σ.μ.π. της τ.μ.. β) Έστω Χ, Υ συνεχείς τ.μ. με από κοινού σ.π.π. f(x,y), x, y. Ορίζουμε την δεσμευμένη σ.π.π. της συνεχούς τ.μ. X, όταν Υ = y ως: f (x y) = όπου f είναι η περιθώρια σ.π.π. της. f(x,y), f (y) Δ.Φουσκάκης - Τυχαία Διανύσματα
Παρατήρηση: Έστω ότι το συνεχές τ.δ. (Χ,Υ) Τ ακολουθεί τη διμεταβλητή Κανονική κατανομή, δηλαδή: X X X (1 ρ ) σx σxσ σ 1 1 (x μ ) (x μ )(y μ ) (y μ ) f(x,y) = exp ρ +. πσ σ 1 ρ Τότε η περιθώρια σ.π.π. της τ.μ. X είναι η N( μ X, είναι η N( μ, σ ). σ X ) και η περιθώρια σ.π.π. της τ.μ. Επιπρόσθετα η δεσμευμένη σ.π.π. της τ.μ. X, όταν γνωρίζουμε ότι η τ.μ. Υ έχει πάρει την τιμή y, είναι η N( μ X +ρ(y-μ ) σ X / σ, σ Χ (1-ρ )), ενώ η δεσμευμένη σ.π.π. της, όταν γνωρίζουμε ότι η τ.μ. X έχει την τιμή x, είναι η N( μ +ρ(x-μ X ) σ / σ X, σ Υ (1- ρ )). Παράμετροι Πολυπαραμετρικών Κατανομών: α) Έστω Χ, Υ διακριτές τ.μ. με από κοινού σ.μ.π. f(x i, y j ), i, j = 0,1,. Αν z = g(x,y) είναι μια συνεχής συνάρτηση, τότε η μέση τιμή της τ.μ. Ζ = g(x,) είναι: E[Z] = i=0 j=0 g(x, y)f(x, y), i j i j με την προϋπόθεση ότι η διπλή σειρά συγκλίνει απολύτως. β) Έστω Χ, Υ συνεχείς τ.μ. με από κοινού σ.π.π. f(x,y), x, y. Αν z = g(x,y) είναι μια συνεχής συνάρτηση, τότε η μέση τιμή της τ.μ. Z = g(x,) δίνεται από: E[Z] = E[g(X, )] = g(x,y)f(x,y)dxdy, με την προϋπόθεση ότι το διπλό ολοκλήρωμα συγκλίνει απολύτως. Θεώρημα. Έστω Χ, Υ ανεξάρτητες τ.μ. με πεπερασμένες μέσες τιμές E[X], E[]. Τότε Ε[ΧΥ] = Ε[Χ]Ε[Υ]. Το αντίστροφο δεν ισχύει γενικά. Έστω X, τ.μ. με πεπερασμένες μέσες τιμές συνδιακύμανση των τ.μ. X, την ποσότητα εφόσον υπάρχει η ως άνω μέση τιμή. Cov(X, ) = E[(X-μ X )(-μ Υ )], Cov(X, c) = 0. Cov(X, ) = Cov(, X). Cov(X+, Z) = Cov(X, Z) + Cov(, Z). Cov(αΧ+β, γ+δ) = αγcov(x, ). Cov(X, Χ) = V[X]. μ X = E[X], μ Υ = Ε[Υ]. Ορίζουμε ως Δ.Φουσκάκης - Τυχαία Διανύσματα 3
Πρόταση. Αν η συνδιακύμανση Cov(X, ) είναι πεπερασμένη τότε: Cov(X, ) = Ε[ΧΥ] Ε[Χ]Ε[Υ]. Όταν Cov(X, ) = 0 οι τ.μ. X, καλούνται ασυσχέτιστες. Άμεση συνέπεια της παραπάνω πρότασης είναι ότι αν X, ανεξάρτητες τότε X, ασυσχέτιστες. Το αντίστροφο δεν ισχύει γενικά, όμως ισχύει το παρακάτω. Θεώρημα. Αν οι X, έχουν από κοινού σ.π.π. τη διμεταβλητή Κανονική και είναι ασυσχέτιστες, τότε είναι και ανεξάρτητες. Θεώρημα. Έστω Χ, Υ τ.μ. με E[X ], E[ ] <. Τότε: V[X+] = V[X] + V[] + Cov(X, ), ή γενικότερα: V[αX+β] = α V[X] + β V[] + αβ Cov(X, ), με α, β. Αν Χ, Υ ασυσχέτιστες τότε: V[X ± ] = V[X] + V[]. Αν Χ, Υ τ.μ. με πεπερασμένες διασπορές τότε ορίζουμε ως συντελεστή συσχέτισης αυτών την ποσότητα: Cov(X, ) ρ ρ(x,) Corr(X,) =. V[X]V[] -1 ρ 1 (όταν ρ < 0 οι τ.μ. X, καλούνται αρνητικά συσχετισμένες, όταν ρ > 0 οι τ.μ. X, καλούνται θετικά συσχετισμένες, ενώ όταν ρ = 0 οι X, είναι ασυσχέτιστες), ρ(x,x) = 1, ρ(x, ), αν αγ > 0, ρ(αx+β, γ+δ) = -ρ(x, ), αν αγ < 0. Δεσμευμένη Μέση Τιμή και Δεσμευμένη Διασπορά: α) Έστω Χ, Υ διακριτές τ.μ. και f (x i y j ), i = 0,1,, η δεσμευμένη σ.μ.π. της X δεδομένου ότι = y j, j = 0,1. Τότε η δεσμευμένη μέση τιμή της X δεδομένου ότι = y j ορίζεται από τη σχέση: μ (y)=e[=y]= xf (x y), j j i i j i=0 με την προϋπόθεση ότι η σειρά συγκλίνει απολύτως. Όμοια ορίζουμε τη δεσμευμένη μέση τιμή της Υ δεδομένου ότι X = x i, i = 0,1,. Περαιτέρω, αν z = g(x,y) μια συνεχής συνάρτηση τότε η δεσμευμένη μέση τιμή της διακριτής τ.μ. Z = g(x,), δεδομένου ότι = y j, δίδεται από την σχέση: Δ.Φουσκάκης - Τυχαία Διανύσματα 4
μ (y) = E[Z = y] = g(x,y)f (x y), Z j j i j i j i=0 με την προϋπόθεση ότι η σειρά συγκλίνει απολύτως. Εφόσον υπάρχει η δεσμευμένη μέση τιμή μ (y j) μπορούμε να ορίσουμε ανάλογα τη δεσμευμένη διασπορά της X δεδομένου ότι = y. Συγκεκριμένα έχουμε: σ (y ) = V[X = y ] = E[{X μ (y )} = y ], j j j j με την προϋπόθεση ότι υπάρχει η δεσμευμένη μέση τιμή στο δεξιό μέλος. Όμοια ορίζουμε τη δεσμευμένη διασπορά σ (x i ). X β) Έστω Χ, Υ συνεχείς τ.μ. και f (x y) η δεσμευμένη σ.π.π. της X δεδομένου ότι = y. Τότε η δεσμευμένη μέση τιμή της X δεδομένου ότι = y ορίζεται από τη σχέση: μ (y)=e[=y]= xf (x y)dx, με την προϋπόθεση ότι το ολοκλήρωμα συγκλίνει απολύτως. Όμοια ορίζουμε τη δεσμευμένη μέση τιμή μ (x). - j Περαιτέρω, αν z = g(x, y) μια συνεχής συνάρτηση, τότε η δεσμευμένη μέση τιμή της τ.μ. Z = g(x, ), δεδομένου ότι = y, δίδεται από τη σχέση: (y)=e[z =y]= g(x,y)f (x y)dx, μz - με την προϋπόθεση ότι το ολοκλήρωμα συγκλίνει απολύτως. Εφόσον πάλι υπάρχει η δεσμευμένη μέση τιμή μ (y) μπορούμε να ορίσουμε ανόλογα τη δεσμευμένη διασπορά της X δεδομένου ότι = y. Συγκεκριμένα έχουμε: σ (y) = V[X = y] = E[{X μ (y)} = y], με την προϋπόθεση ότι υπάρχει η μέση τιμή στο δεξιό μέλος. Όμοια ορίζουμε την σ (x). X Η καμπύλη με εξίσωση y = μ X (x) καλείται καμπύλη παλινδρόμησης της πάνω στην X. Παρατήρηση: Παρατηρούμε ότι η δεσμευμένη μέση τιμή της τ.μ. Χ δεδομένου ότι = y είναι σύμφωνα με τα παραπάνω μια πραγματική συνάρτηση του y. Για τη διακριτή π.χ. περίπτωση η συνάρτηση αυτή ορίζεται για κάθε Υ = y j, j = 0,1 και αντιστοιχεί στο σημείο y j τον πραγματικό αριθμό μ Χ Υ (y j ). Έτσι η ποσότητα W = E[] είναι μια διακριτή τυχαία μεταβητή η οποία παίρνει την τιμή μ Χ Υ (y j ) όταν Υ= y j με πιθανότητα P(=y j ), j=0,1,. Ως εκ τούτου η W= E[Z Υ] = E[g(X,) Υ] είναι μια διακριτή τυχαία μεταβλητή με τιμές και κατανομή που καθορίζονται από τις Δ.Φουσκάκης - Τυχαία Διανύσματα 5
τιμές και την κατανομή της διακριτής τ.μ. Υ. Ανάλογα συμπέρασμα προκύπτουν και στη συνεχή περίπτωση, καθώς επίσης και σ ότι αφορά στη δεσμευμένη διασπορά. Θεώρημα. Έστω Χ, Υ τ.μ. Εάν E[X] <, τότε E[X] = E[E[]], και αν E[X ] <, τότε V[X] = E[V[]]+V[E[]]. 1. Ε[α 1 Χ 1 + α Χ ] = α 1 Ε[Χ 1 Υ] + α Ε[Χ Υ], α 1, α.. Αν Χ = h() τότε Ε[Χ Υ] = h(). 3. Αν Χ, Υ ανεξάρτητες τ.μ. τότε Ε[Χ Υ] = Ε[Χ]. 4. Ανισότητα Cauchy Schwarz: {Ε[ΧΥ Ζ]} Ε[Χ Ζ]Ε[Υ Ζ]. Δ.Φουσκάκης - Τυχαία Διανύσματα 6