Βασικές έννοιες θεωρίας πιθανοτήτων

Βασικές έννοιες θεωρίας πιθανοτήτων Ορισµός πιθανότητας Έστω Ω το σύνολο των δυνατών αποτελεσµάτων ενός πειράµατος Συµβολίζουµε µε ω τα στοιχεία του Ω Ονοµάζουµε ενδεχόµενο (evet ένα υποσύνολο του Ω Για να ορίσουµε την έννοια της πιθανότητας θεωρούµε ότι τα ενδεχόµενα στα οποία θα αναφερόµαστε είναι υποσύνολα ενός συνόλου Q υποσυνόλων του Ω που είναι κλειστό ως προς οποιονδήποτε πεπερασµένο αριθµό πράξεων ένωσεως και τοµής Ένα τέτοιο σύνολο Q θα περιέχει σαν στοιχεία του το κενό σύνολο και το σύνολο Ω Παράδειγµα Θεωρούµε το κλασσικό πείραµα της ρίψεως ενός ζαριού όπου τα δυνατά αποτελέσµατα είναι τα στοιχεία του συνόλου Ω {,,3,4,5,6} Ορίζουµε το Q,,,,, όπου Ω,,3,4 3 4,6, σύνολο { } 3 4 5 4 {} 6, 5, { }, { } Είναι φανερό ότι το σύνολο Q δεν µπορεί να θεωρηθεί σαν

Κεφάλαιο σύνολο ενδεχοµένων γιατί, για παράδειγµα, 3 4 { 4} Q που σηµαίνει ότι το σύνολο δεν είναι κλειστό ως προς την πράξη της ενώσεως Παράδειγµα Θεωρούµε πάλι το πείραµα της ρίψεως ενός ζαριού Ορίζουµε το σύνολο Q {,, 3, 4 }, όπου Ω, {,3,5 }, 3 {,4,6 }, 4 Το Q είναι ένα σύνολο ενδεχοµένων γιατί είναι κλειστό ως προς τις πράξεις της ενώσεως και της τοµής Το Ε υποδηλώνει το βέβαιο ενδεχόµενο, το Ε είναι το ενδεχόµενο να έχουµε περιττό αριθµό, το Ε 3 είναι το ενδεχόµενο να έχουµε άρτιο αριθµό και το Ε 4 είναι το αδύνατο ενδεχόµενο Έστω ένα ζεύγος αποτελεσµάτων-ενδεχοµένων ( Ω,Q Ορισµός Ονοµάζουµε συνάρτηση πιθανότητας (robablty fucto στο ζεύγος ( Ω,Q µια συνάρτηση P : Q R + ( τέτοια ώστε: P, A Q ( A 0 P ( Ω, 3 P ( A B P( A + P( B, A,B Q Q τέτοια ώστε A B Από τον ορισµό αυτόν προκύπτουν τα εξής: P είναι ίση µε το µηδέν, γι αυτό και το κενό σύνολο ονοµάζεται αδύνατο ενδεχόµενο (mossble evet Αν A Ω τότε P ( A < Για τον λόγο αυτόν το Ω ονοµάζεται βέβαιο ενδεχόµενο (certa evet 3 Αν A B τότε P ( A B 0 Για το λόγο αυτόν δύο ενδεχόµενα Α,Β τέτοια ώστε A B ονοµάζονται αµοιβαίως αποκλειόµενα ενδεχόµενα (mutually excusve evets Η πιθανότητα του κενού συνόλου ( Εύκολα αποδεικνύονται οι εξής ιδιότητες: P( A P( A P( A B P( A + P( B P( A B R υποδηλώνει το σύνολο των µη αρνητικών πραγµατικών αριθµών +

Θεωρία πιθανοτήτων 3 3 P( A B P( A P( A B Στις επόµενες παραγράφους η τριάδα ( Ω,Q,P θα ονοµάζεται πιθανοτικός χώρος (robablty sace Πιθανότητα υπό συνθήκη Ω και δύο ενδεχόµενα A Q και B Q Την πιθανότητα να συµβεί το ενδεχόµενο Β ενώ γνωρίζουµε ότι έχει συµβεί το ενδεχόµενο εκφράζουµε µε την υπό συνθήκη πιθανότητα (codtoal robablty του Β δοθέντος του Α, που συµβολίζεται µε P ( B / A και ορίζεται από τη σχέση: Θεωρούµε τον πιθανοτικό χώρο (,Q,P P ( B / A ( A B P( A P, µε την υπόθεση ότι P( A 0 ύο ενδεχόµενα A Q και B Q θα λέγονται στατιστικώς ανεξάρτητα (statstcally deedet αν ή -ισοδυνάµως- αν ( B / A P( B P ( A / B P( A P Άµεση συνέπεια του ορισµού της υπό συνθήκη πιθανότητας είναι η πρόταση: Τα Α,Β είναι στατιστικά ανεξάρτητα αν και µόνο αν ( A B P( A P( B P 3 Τυχαίες µεταβλητές

4 Κεφάλαιο Θεωρούµε ένα πιθανοτικό χώρο ( Ω,Q,P Ορίζουµε µια συνάρτηση ( ω από το σύνολο Ω στο σύνολο των πραγµατικών αριθµών R δηλαδή : Ω R Η συνάρτηση ( ω ονοµάζεται τυχαία µεταβλητή (radom varable αν και µόνο αν για κάθε πραγµατικό αριθµό x, το σύνολο { ω Ω : ( ω x} είναι ένα ενδεχόµενο, δηλαδή αν και µόνο αν για κάθε x R ισχύει η σχέση ω Ω : ω x Q { ( } Παράδειγµα 3 Θεωρούµε το κλασσικό παράδειγµα της ταυτόχρονης ρίψεως δύο ζαριών διαφορετικού χρώµατος Το σύνολο των δυνατών αποτελεσµάτων είναι: Ω {(, (,,,,(,6,(,,,(,6,( 3,,,( 6,6 } Ορίζουµε σαν σύνολο ενδεχοµένων Q, το σύνολο που έχει σαν στοιχεία όλα τα γνήσια υποσύνολα του Ω και το ίδιο το Ω Τέλος ορίζουµε την συνάρτηση πιθανότητας ενός ενδεχόµενου A Q µε την σχέση ( A P card( A 36 όπου card ( A είναι το πλήθος των στοιχείων του Α Ας συµβολίσουµε µε ( θ,θ στοιχεία του Ω Τότε η συνάρτηση ( ω θ + θ ω, όπου θ,θ µε,, 6, είναι τα, που µπορεί να θεωρηθεί ότι εκφράζει το ποσό που κέρδισε ο παίκτης που έφερε το αποτέλεσµα ω, είναι µια τυχαία µεταβλητή στον πιθανοτικό χώρο ( Ω,P,Q Η απόδειξη του ισχυρισµού αυτού αφήνεται ως άσκηση Γενικεύοντας τον ορισµό της τυχαίας µεταβλητής στο χώρο περισσοτέρων της µιας διαστάσεων, ορίζουµε σαν -διάστατη τυχαία µεταβλητή στο χώρο Ω,P,Q µια διανυσµατική συνάρτηση ( ω, : Ω R τέτοια ώστε για κάθε ( x R να ισχύει η σχέση όπου ( ω x σηµαίνει ( και x [ x x x ] { ω Ω : ( ω x} Q ω x,,, µε [ x x ] x Με άλλα λόγια, µία συνάρτηση Χ(ω είναι τυχαία

Θεωρία πιθανοτήτων 5 µεταβλητή στον πιθανοτικό χώρο (,P,Q σύνολο { Ω : ( ω x} Ω αν για κάθε ω είναι ένα ενδεχόµενο x R το προκύπτον 4 Περιγραφή τυχαίων µεταβλητών Ο όρος τυχαία µεταβλητή δεν είναι ακριβής γιατί η ( ω δεν είναι µεταβλητή αλλά µια συνάρτηση της µεταβλητής ω Στην πράξη όµως, η ( ω θεωρείται σαν µεταβλητή γιατί δεν ενδιαφερόµαστε για το σύνολο Ω στο οποίο ορίζεται, αλλά για την πιθανότητα να λάβει η ( ω µια συγκεκριµένη τιµή x, πιθανότητα που θεωρούµε ότι ειναι ίση µε την πιθανότητα να συµβεί το ω, για το οποίο ισχύει η σχέση ( ω x (αν βέβαια µπορεί να ορισθεί µια τέτοια πιθανότητα Για τον λόγο αυτό είναι σκόπιµο η περιγραφή της τυχαίας µεταβλητής να βασίζεται στις τιµές που παίρνει η ( ω και όχι το πεδίο ορισµού της Ω Τα περισσότερο χρησιµοποιούµενα πρότυπα περιγραφής τυχαίων µεταβλητών είναι η συνάρτηση κατανοµής και η συνάρτηση πυκνότητας πιθανότητας 4 Βαθµωτές τυχαίες µεταβλητές Η συνάρτηση κατανοµής (dstrbuto fucto ( x µιας βαθµωτής τυχαίας µεταβλητής ( ω : R R που ορίζεται από την σχέση είναι µια συνάρτηση + ( a P[ { ω Ω : ( ω a} ] µε την υπόθεση ότι ( 0 Από τον ορισµό αυτό προκύπτουν άµεσα τα εξής: Η συνάρτηση κατανοµής είναι µη φθίνουσα, δηλαδή αν a a τότε ( a ( a ( + P ω Ω : a < ω a a 3 [{ ( }] ( ( a Σύµφωνα µε την τελευταία και σπουδαιότερη ιδιότητα της συνάρτησεως κατανοµής, η πιθανότητα να λάβει η τυχαία µεταβλητή µια τιµή x µεταξύ των a και a, δηλαδή να είναι a < ( ω x a, είναι ίση µε την διαφορά

6 Κεφάλαιο ( a ( a Είναι λοιπόν φανερό ότι αν γνωρίζουµε την συνάρτηση κατανοµής µιας τυχαίας µεταβλητής, δεν χρειαζόµαστε να γνωρίζουµε τίποτα άλλο σχετικό µε τον πιθανοτικό χώρο στον οποίο αυτή έχει ορισθεί Σαν συνάρτηση πυκνότητας πιθανότητας (robablty desty fucto ( x βαθµωτής τυχαίας µεταβλητής ( ω : R R + τέτοια ώστε Αν η ( x a ( a ( x dx, a R Από τον ορισµό αυτόν προκύπτουν τα εξής: ορίζουµε µια συνάρτηση είναι συνεχής σε κάθε x R και η παράγωγός της υπάρχει παντού εκτός ενδεχοµένως από ένα αριθµήσιµο πλήθος σηµείων a R,, τότε: ( x ( x d dx οτιδήποτε x a x a Αν η ( x είναι της µορφής ( x a s( x a είναι η µοναδιαία βηµατική συνάρτηση, τότε όπου R + ( x [ ( a ( a ] ( x a δ a και s( x 3 Με βάση τα και προσδιορίζεται η συνάρτηση πυκνότητας πιθανότητας µιας τυχαίας µεταβλητής της οποίας η συνάρτηση κατανοµής είναι συνεχής παντού εκτός από ένα αριθµήσιµο πλήθος σηµείων όπου έχει ασυνέχεια πρώτου είδους (δηλαδή ασυνέχεια µε πεπερασµένο άλµα και είναι επιπλέον παραγωγίσιµη παντού εκτός από ένα επίσης αριθµήσιµο πλήθος σηµείων 4 Πολυδιάστατες τυχαίες µεταβλητές

Θεωρία πιθανοτήτων 7 Θεωρούµε µια -διάστατη τυχαία µεταβλητή ( ω [ ( ( ( ] Τ ω ω ω που ορίζεται στον πιθανοτικό χώρο ( Ω,Q,P Την συνάρτηση κατανοµής της ( ω την συµβολίζουµε µε ( x ή x,x,, x και την ορίζουµε από τις σχέσεις και ( ( a,a,,a P[ { ω Ω : ( ω a,, ( ω a }] ή ισοδυνάµως από την σχέση όπου A ( a ω Ω : ( ω (,, 0 ( a,a P[ A ( a A ( a A ( a ] { a } Από τον ορισµό αυτό προκύπτουν οι εξής ιδιότητες: ( +,, + (,a,,, 0 3 H ( x,x,, x είναι µη φθίνουσα ως προς όλες τις µεταβλητές της Η πυκνότητα πιθανότητας ( x µιας -διάστατης τυχαίας µεταβλητής ( ω είναι µια βαθµωτή συνάρτηση που ικανοποιεί τις ιδιότητες: ( a 0 a R a a a ( a,a,,a ( x,,x dx dx Από τον ορισµό αυτό προκύπτει ότι αν η ( x είναι παραγωγίσιµη παντού, τότε ( x,x,,x ( x,,x x x x Ας θεωρήσουµε τώρα µια -διάστατη τυχαία µεταβλητή ( ω [ ( ( ] Τ ω,, ω που ορίζεται στον πιθανοτικό χώρο ( Ω,Q,P Είναι φανερό ότι για οποιοδήποτε, µε και οποιοδήποτε x R το σύνολο

8 Κεφάλαιο { ω Ω : ( ω x } είναι ένα ενδεχόµενο Συνεπώς, κάθε συνιστώσα ( ω,,, µίας -διάστατης τυχαίας µεταβλητής ( ω καθώς και οποιοδήποτε υποδιάνυσµα της ( ω είναι επίσης τυχαίες µεταβλητές Το ερώτηµα που τίθεται είναι το εξής: Αν γνωρίζουµε την ( x,, x είναι δυνατό να υπολογίσουµε την ( x,, x k k θετική και δίνεται από τη σχέση: k k m k k m όπου k j Η απάντηση είναι k km ( +,, +,x, +,, +,x, +,, x k k Από την σχέση αυτή προκύπτει ότι η συνάρτηση κατανοµής ( x συνιστώσας ( ω της ( ω δίνεται από την σχέση: της ( x ( +,, +,x, +,, + Με ανάλογο σκεπτικό προκύπτει ότι: και ( + + ξ,, ξk,xk, ξk +,, ξ k k k m,xk, ξ k +,, ξ dξdξ k dξk + d, ξ ( x P (,, ξ x, ξ,, ξ ξ dξ dξ dξ dξ + + 5 Αναµενόµενες τιµές Έστω µια βαθµωτή τυχαία µεταβλητή ( ω και µια συνάρτηση f : R R τέτοια ώστε η f [ ( ω ] να είναι µια τυχαία µεταβλητή στον ίδιο πιθανοτικό χώρο Ονοµάζουµε αναµενόµενη τιµή (exected value ή µέση τιµή (mea value της f [ ( ω ] και την συµβολίζουµε µε { f ( x } Το ολοκλήρωµα { f ( x } f ( x ( x dx

Θεωρία πιθανοτήτων 9 αν η ( ω έχει πυκνότητα πιθανότητας ( x Το ολοκλήρωµα Steljes ή Lebesgue: { f ( x } f ( x d ( x αν η ( ω έχει συνάρτηση κατανοµής ( x Ο τελεστής Ε είναι γραµµικός, δηλαδή { a f ( x + a g( x } a { f ( x } a { g( x } + για κάθε ( a,a R R f [ ( ω ] έχει πυκνότητα πιθανότητας ( ξ Εξ άλλου, αποδεικνύεται ότι αν η τυχαία µεταβλητή τότε: { f [ ( ω ]} ξ ( ξ dξ f ( x ( x f f Η ιδιότητα αυτή είναι γνωστή ως θεµελιώδες θεώρηµα αναµενοµένων τιµών (fudametal theorem of exectato και επιτρέπει τον υπολογισµό της αναµενόµενης τιµής της συναρτήσεως f( µίας τυχαίας µεταβλητής Χ χωρίς να είναι απαραίτητο να γνωρίζουµε την συνάρτηση πυκνότητας πιθανότητας της f Ονοµάζουµε ροπή k-τάξεως (kth-order momet της βαθµωτής τυχαίας 0 µεταβλητής ( ω την αναµενόµενη τιµή { } Προφανώς { } Ονοµάζουµε κεντρική ροπή k-τάξεως (kth-order cetral momet της βαθµωτής k τυχαίας µεταβλητής ( ω την αναµενόµενη τιµή { ( { } } Είναι φανερό ότι {( { }} 0 και ( { } dx { } { } { } Την κεντρική ροπή δεύτερης τάξεως την ονοµάζουµε διασπορά (varace την δε θετική τετραγωνική ρίζα της τυπική απόκλιση (stadard devato και τις συµβολίζουµε µε var( και σ αντίστοιχα Ας θεωρήσουµε τώρα µια -διάστατη τυχαία µεταβλητή ( ω [ ( ω ( ω ( ω ] Σαν αναµενόµενη ή µέση τιµή της ( ω ορίζουµε το διάνυσµα { } [ { } { } { }] όπου οι { } υπολογίζονται από τις σχέσεις:

0 Κεφάλαιο ή { } x d ( x { } x ( x dx Αν ( ω, ( ω πιθανοτικό χώρο, τότε ορίζουµε σαν συνδιασπορά (covarace (, είναι δύο τυχαίες µεταβλητές που ορίζονται στον ίδιο cov των (ω και Χ (ω την έκφραση cov (, { ( { }( { }} η οποία στην περίπτωση που ορίζεται η ( x, x Είναι φανερό ότι cov (, ( { }( { } ( x x, dxdx cov και (, var( υπολογίζεται από την σχέση (, { } { } { } cov Με βάση τα παραπάνω ορίζουµε σαν µήτρα διασποράς (varace matrx ω τη συµµετρική µήτρα V της -διάστατης τυχαίας µεταβλητής ( ή ισοδύναµως ( cov(, cov( (, var( cov(, var cov V cov(, cov(, var( V Τέλος, αν ( ω και ( ω {( { } ( { } } Y είναι δύο -διάστατες τυχαίες µεταβλητές που ορίζονται στον ίδιο πιθανοτικό χώρο, τότε η µήτρα V Y {( { } ( Y { Y} }

Θεωρία πιθανοτήτων ή ισοδυνάµως, η µήτρα: V Y cov cov (,Y cov(,y cov(,y ( ( (,Y cov,y cov,y ονοµάζεται µήτρα συνδιασποράς (covarace matrx των ( ω και ( ω Y 6 Υπό συνθήκη πιθανότητα τυχαίων µεταβλητών Θεωρούµε δύο τυχαίες µεταβλητές ( ω και ( ω ίδιο πιθανοτικό χώρο (Ω,Q,P Συµβολίζουµε µε A ( x και ( x ενδεχόµενα: A A ( x { ω Ω : ( ω x} ( x { ω Ω : ( ω x } που ορίζονται στον A τα όπου x και x είναι πραγµατικοί αριθµοί Από τον ορισµό προκύπτει ότι A ( x Q και A ( x Q Άρα µπορεί να ορισθεί η υπό συνθήκη πιθανότητα A και ισχύει η σχέση: του ενδεχοµένου A ( δοθέντος του ( Επειδή: και x P η σχέση ( γράφεται ( A ( x / A ( x P P x P ( A ( x A ( x P( A ( x ( A ( x A ( x ( x, x ( A ( x ( P x ( A ( x / A ( x ( x,x ( x (

Κεφάλαιο Την συνάρτηση ( x / x P( A ( x / A ( x / την ονοµάζουµε συνάρτηση κατανοµής της υπό συνθήκη πιθανότητας της δοθείσης της, και ισχύει η σχέση: ( x / x ( x,x ( x / Ας θεωρήσουµε τώρα την υπό συνθήκη πιθανότητα του ενδεχοµένου * A όπου A ( δοθέντος του ( x x Θα ισχύει προφανώς η σχέση και γενικώς P ( x { ω Ω : ( ω } A * x ( ( * * P A ( ( ( ( x A ( x A x / A x * P A ( x * ( ( x / A ( x P( A ( x / A ( x ( x / P A / x Αν ορίσουµε / x ( * ( x / x P A ( x / A ( x τότε ονοµάζουµε συνάρτηση πυκνότητας πιθανότητας της υπό συνθήκη πιθανότητας της δοθείσης της, την συνάρτηση / ( x, x για την οποία ισχύει η σχέση Από τη σχέση αυτή προκύπτει ότι: x ( x / x ( ξ,x ξ / x / d ( x,x ( x,x ( x /, (

Θεωρία πιθανοτήτων 3 και { / x } x ( x / x / dx Είναι φανερό από τα προηγούµενα ότι δεν υπάρχει καµµία σχέση µεταξύ της / και της, / την οποία ίσως θα έπρεπε να συµβολίζαµε µε / x Επειδή πάντως στην συνέχεια θα ασχοληθούµε µόνο µε υπό συνθήκη πιθανότητες της µορφής και επειδή η σχέση ( είναι η αντίστοιχη της P( A / B α / ( A B P( B / x P θα υιοθετήσουµε τους εξής συµβολισµούς: που δίνεται από την (Β β { / } αντί του { / } x Ας σηµειωθεί η κατ αυτό τον τρόπο ορισθείσα αναµενόµενη τιµή / είναι τυχαία µεταβλητή Έτσι ισχύει η ιδιότητα { } { } { { / } όπου µε τον συµβολισµό θέλουµε να δείξουµε ότι η αναµενόµενη τιµή υπολογίζεται ως προς την τυχαία µεταβλητή Πράγµατι, από την γνωστή σχέση και την ( προκύπτει ότι: { } x ( x,x dx dx { } x ( x / x ( x / dx dx ( x / x dx ( x x / dx { / } ( x { { / }} dx

4 Κεφάλαιο 7 Ανεξαρτησία και συσχέτιση τυχαίων µεταβλητών Θεωρούµε µια -διάστατη και µία m-διάστατη τυχαίες µεταβλητές ( ω και ( ω ορισµένες στον ίδιο πιθανοτικό χώρο Οι τυχαίες µεταβλητές ( ω και ( ω είναι στατιστικά ανεξάρτητες ( statstcally deedet αν για m οποιοδήποτε ζεύγος διανυσµάτων ( x ενδεχόµενα A ( x { ω Ω : ( ω } και A ( x { ω Ω : } είναι ανεξάρτητα ηλαδή ή ισοδυνάµως x P{ A ( x A ( } P{ A ( x } P{ A ( } x x x, R R, τα x m ( x,x ( x ( x ( x, x R R ή ακόµη στην περίπτωση που ορίζονται οι συναρτήσεις πυκνότητας πιθανότητας, (3 m ( x,x ( x ( x ( x, x R R (4 Τέλος, αν χρησιµοποιήσουµε την σχέση (, έχουµε τον παρακάτω ισοδύναµο ορισµό της ανεξαρτησίας δύο τυχαίων µεταβλητών: ( x / x ( x / Μια έννοια που πολλές φορές συγχέεται µε την έννοια της στατιστικής ανεξαρτησίας, είναι η έννοια της συσχετίσεως την οπία ορίζουµε στην συνέχεια Εστωσαν δύο -διάστατες τυχαίες µεταβλητές ( ω και ( ω λέµε ότι οι και είναι ασυσχέτιστες (ucorrelated αν: { } { } { } Θα (5

Θεωρία πιθανοτήτων 5 Αν συµβολίσουµε µε j ( ω,, τις συνιστώσες των ( ω ( ω τότε η σχέση (5 είναι ισοδύναµη µε τις σχέσεις: { } { } { } j,k,,, j k j k και ηλαδή δύο διανυσµατικές τυχαίες µεταβλητές είναι ασυσχέτιστες αν και µόνο αν κάθε συνιστώσα της µιας τυχαίας µεταβλητής είναι ασυσχέτιστη µε κάθε συνιστώσα της άλλης Στην συνέχεια η συµµετρική µήτρα { } θα ονοµάζεται µήτρα ω ω και θα συµβολίζεται µε συσχετίσεως (correlato matrx των ( και ( C Γίνεται φανερό από την σχέση (4 ότι δύο στατιστικά ανεξάρτητες - διάστατες τυχαίες µεταβλητές είναι και ασυσχέτιστες, χωρίς να ισχύει πάντοτε και το αντίστροφο Ας δούµε τώρα ποια σχέση συνδέει την µήτρα συσχετίσεως µήτρα συνδιασποράς ορισµού είναι: Άρα: ή C µε την ω Εξ V δύο τυχαίων µεταβλητών ( ω και ( V {( { }( { } } V { } { } { } V C { } { } Συνεπώς, συµφώνως προς την σχέση (5, οι τυχαίες µεταβλητές ( ω και ( ω είναι ασυσχέτιστες αν και µόνο αν η µήτρα συνδιασποράς τους είναι η µηδενική µήτρα Μια ερµηνεία της έννοιας της συσχετίσεως δίνεται από τις ιδιότητες του συντελεστού συσχετίσεως (correlato coeffcet ρ (, δύο βαθµωτών τυχαίων µεταβλητών που ορίζεται από την σχέση cov ( (,, var( var( Έτσι, οι τυχαίες µεταβλητές ( ω και ( ω cov(, 0 δηλαδή αν ρ (, 0 ρ είναι ασυσχέτιστες αν και µόνο αν Εξ άλλου αποδεικνύεται ότι:

6 Κεφάλαιο ρ (, και επιπλέον ότι α είναι (, ρ αν και µόνο αν β (, var { } ( ρ αν και µόνο αν var { } ( var var { } ( { } ( Συνεπώς, στην περίπτωση που ο συντελεστής συσχετίσεως παίρνει την µεγαλύτερη δυνατή απόλυτη τιµή του, αν γνωρίζουµε την τιµή της µιας τυχαίας µεταβλητής, τότε µπορούµε να προβλέψουµε µε πιθανότητα ένα (ΜΠ την τιµή που πήρε η άλλη 8 Γκαουσιανές τυχαίες µεταβλητές Η σηµαντικώτερη, ίσως, κατηγορία τυχαίων µεταβλητών στην ανάλυση στοχαστικών σηµάτων και συστηµάτων είναι εκείνη των τυχαίων µεταβλητών που περιγράφονται από µια συνάρτηση πυκνότητας πιθανότητας τύπου Gauss Μια βαθµωτή τυχαία µεταβλητή ( ω συνάρτηση πυκνότητας πιθανότητας ( x δίνεται από την σχέση: θα ονοµάζεται Γκαουσιανή (Gaussa αν η ( x m ( x ex πσ σ Μπορεί να επαληθευθεί εύκολα ότι οι δύο παράµετροι m και σ που καθορίζουν x είναι η µέση τιµή { } m και η τυπική απόκλιση πλήρως την ( ( { } { } σ αντιστοίχως Ας θεωρήσουµε τώρα µια -διάστατη τυχαία µεταβλητή Τ ω ω ω θα ονοµάζεται Γκαουσιανή αν ( ω [ ( ( ( ] Η ( ω

Θεωρία πιθανοτήτων 7 { ex[ ju ]} ex ju m u Vu (6 για κάθε u R όπου m και V είναι η µέση τιµή { x} {( { } ( { } } της ( ω και η µήτρα διασπορών αντιστοίχως Αποδεικνύεται ότι στην περίπτωση που η V αντιστρέφεται, δηλαδή αν detv 0 η συνάρτηση πυκνότητας πιθανότητας της ( ω δίνεται από την σχέση: ( x ( π ( detv ex ( x m V ( x m (7 cov V ότι: Αν οι συνιστώσες ( ω της ( ω j όταν j (, 0 είναι ασυσχέτιστες µεταξύ τους, τότε και η µήτρα διασπορών V είναι διαγώνια, άρα και η είναι διαγώνια (αν υπάρχει Στην περίπτωση αυτή από την (7 προκύπτει ( x ex σ ( π ( x m σ ( x m ex πσ σ Άρα αν οι συνιστώσες µιας -διάστατης Γκαουσιανής τυχαίας µεταβλητής είναι ασυσχέτιστες, τότε είναι ανεξάρτητες µεταξύ τους και µάλιστα Γκαουσιανές Ας δούµε τώρα µια άλλη σηµαντική ιδιότητα των Γκαουσιανών τυχαίων µεταβλητών Θεωρούµε µια Γκαουσιανή τυχαία µεταβλητή ( ω µια νέα τυχαία µεταβλητή Z ( ω από την σχέση ZΑ+b και ορίζουµε m m όπου A R και b R είναι ντετερµινιστικά µεγέθη Τότε η Ζ(ω είναι µια Γκαουσιανή τυχαία µεταβλητή µε µέση τιµή mz Am + b όπου m είναι η µέση τιµή της ( ω, ενώ η µήτρα διασπορών είναι η VZ AV A Πράγµατι,

8 Κεφάλαιο { ex[ jv Z ]} { ex[ jv ( A + b ]} ex[ jv b] { ex[ jv A ]} Εξ άλλου επειδή η ( ω είναι η Γκαουσιανή, ισχύει η σχέση (6 Απ αυτή µε αντικατάσταση του u µε v A προκύπτει ότι: { ex[ jv A ]} ex jv Am v AV A v και τέλος µε αντικατάσταση στην (8, έχουµε ότι: { [ Z] } ex[ jv b] ex jv Am v AV A v ex jv ex jv v ( Am + b v AV A Εκτός από τις ιδιότητες που αναφέραµε -από τις οποίες γίνεται φανερό ότι η µελέτη των Γκαουσιανών τυχαίων µεταβλητών είναι σχετικά απλή-, η σπουδαιότητα των Γκαουσιανών οφείλεται και στο γνωστό θεώρηµα του κεντρικού ορίου Το θεώρηµα αυτό διατυπώνεται ως εξής: ω ένα στοιχείο ενός συνόλου k ανεξάρτητων -διάστατων Εστω ( τυχαίων µεταβλητών µε ίδια συνάρτηση κατανοµής, µε µηδενική µέση τιµή και µε πεπερασµένη µήτρα διασποράς V σχέση Αν { Y k } είναι µια ακολουθία τυχαίων µεταβλητών που ορίζονται από την (8 Y k k k ( ω τότε η ακολουθία { Y k } συγκλίνει κατά κατανοµή σε µια Γκαουσιανή κατανοµή µε µηδενική µέση τιµή και µήτρα διασποράς V Σύµφωνα λοιπόν µε το θεώρηµα αυτό αν µια διαδικασία είναι το αποτέλεσµα ενός πολύ µεγάλου αριθµού υπερτιθέµενων ανεξάρτητων οµοίων διαδικασιών, τότε αυτή σχεδόν πάντοτε θα είναι Γκαουσιανή!!!

Θεωρία πιθανοτήτων 9