Ένα μέτρο πιθανότητας πάνω στο δειγματικός χώρο Ω, είναι μία συνάρτηση P ( ) που αντιστοιχεί σε υποσύνολα του Ω, έναν αριθμό στο [ 0, ], με τις εξής ιδιότητες: P ( Ω ) 2 Η πιθανότητα της αριθμήσιμης ένωσης ξένων μεταξύ τους ενδεχομένων είναι το άθροισμα των πιθανοτήτων των ενδεχομένων Συμβολίζουμε με το πεδίο ορισμού (που περιέχει υποσύνολα του Ω ) του P : 0, είναι μία μέτρου πιθανότητας Δηλαδή το μέτρο πιθανότητας [ ] συνολοσυνάρτηση από το στο [ 0, ] τέτοια ώστε για να έχουμε 0 P( ) Ποία είναι όμως η δομή του? Για παράδειγμα εάν B,, είναι λογικό να P B θέλουμε να μπορούμε να υπολογίζουμε πιθανότητες της μορφής P( ), ( ) είτε P( B) Για να υπολογίσουμε τις πιθανότητες P( ), ( ) γεγονός ότι B, εφόσον P( ) P( ) και P( B ) P( B) μεριά αυτό σημαίνει ότι θα έχουμε και, B Για την πιθανότητα P( B) έχουμε ότι P( B) P( B ) + P( B ) + P( B) P( B) P( ) + P( B ) P( B) P( B) + P( B ) P B μας αρκεί το Από την άλλη Προσθέτοντας κατά μέλη την 2 η και 3 η εξίσωση και αφαιρώντας την η παίρνουμε την γνωστή σχέση P B P + P B P B ( ) ( ) ( ) ( ) Είναι εμφανές λοιπόν ότι για να μπορούμε να υπολογίσουμε τις πιθανότητες P( ), P( B ), και P( B) θα πρέπει να ανήκουν στο εκτός από τα και B, και τα υποσύνολα του Ω B,, B, B, B, B Για πρακτικούς λόγους, θα θέλαμε να μπορούμε να βρούμε την πιθανότητα κάθε ενδεχομένου Ω δηλαδή θα θέλαμε να έχουμε πεδίο ορισμού της συνάρτησης P το δυναμοσύνολο του Ω, δηλαδή το σύνολο όλων των Ο χώρος Ω που καθορίζει το τυχαίο πείραμα ή φαινόμενο Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων
υποσυνόλων του Ω, που συμβολίζουμε με 2 Ω Αυτό όμως μπορεί να γίνει μόνο για διακριτά σύνολα Ω Αν και το δυναμοσύνολο συνεχών υποσυνόλων ορίζεται, μπορούμε να το κάνουμε μόνο όταν το Ω είναι διακριτό σύνολο Εάν για παράδειγμα το Ω είναι κάποιο πεπερασμένο υποσύνολο του, τότε το αξίωμα της επιλογής 2 μας λέει ότι εάν θέσουμε σαν μέτρο πιθανότητας 3 P ( ) legth( ) / legth( Ω) για υποσύνολα του Ω 4, τότε υπάρχουν παθολογικά υποσύνολα του Ω στα οποία η έννοια της πιθανότητας δεν μπορεί να οριστεί (για παράδειγμα σύνολα τύπου Vtal δεν έχουν μήκος) Δηλαδή σε αυτήν την περίπτωση, το δεν μπορεί να είναι το δυναμοσύνολο (power set) Ω ) αλλά 2 Ω του Ω (που συμβολίζουμε σαν 2 Ω είτε ( ) Έτσι το πεδίο ορισμού του μέτρου πιθανότητας, είναι μια οικογένεια μετρήσιμων υποσυνόλων του Ω, που όμως γενικά δεν περιέχει όλα τα δυνατά υποσύνολα του Ω δηλαδή 2 Ω Ορισμός: Ένα σ πεδίο (σ feld ή σ algebra ή Borel feld) πάνω στο δειγματικό χώρο Ω, είναι μια οικογένεια υποσυνόλων του Ω τέτοια ώστε: Ω 2 3, I, ( ) I Από τον ορισμό είναι εμφανές το card I 5 είναι κλειστό κάτω από τις πράξεις ( ),, Δηλαδή χρησιμοποιώντας αυτές τις προηγούμενες πράξεις πάνω στα στοιχεία του, το αποτέλεσμα βρίσκεται και πάλι μέσα στο Κάθε σ πεδίο Ω, (το πάνω στον δειγματικό χώρο Ω βρίσκεται μεταξύ των σ πεδίων { τετριμμένο σ πεδίο) και 2 Ω, δηλαδή { Ω, 2 Ω 2 Το αξίωμα της επιλογής μας λέει ότι από κάθε οικογένεια συνόλων { I ακριβώς στοιχείο x Sαπό κάθε σύνολο της οικογένειας, δηλαδή δοθέντος της { κατασκευάσουμε το { x I S μπορούμε να διαλέξουμε ένα S μπορούμε να 3 Για παράδειγμα εάν ( ab, ) τότε ορίζουμε σαν legth( ) ( b a) 2 b a τη μονοδιάστατη ευκλείδεια απόσταση 4 Δηλ η πιθανότητα εδώ είναι το κανονικοποιημένο μήκος του (κανονικοποιημένο μέτρο Lebesgue) 5 Ο πληθάριθμος του (cardalty) συμβολίζεται σαν card ( ) πλήθος των στοιχείων του I Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 2
Παράδειγμα Εάν οι οικογένεια υποσυνόλων είναι σ πεδίο, τότε το περιέχει και τις αριθμήσιμες τομές των στοιχείων του { { ( ) I I I I I 2 Εάν η ακολουθία ενδεχομένων { και k k Παράδειγμα k k ανήκουν στο 2 2 2 { F, SF, FSF,, F S, S F,, S ανήκει στο, τότε τα ενδεχόμενα Ω card Ω, με F και S συμπληρωματικές καταστάσεις (πχ Falure, Success), όπου P S P F p Εάν ορίσουμε την συνάρτηση X : Ω, έτσι ώστε Εάν τότε ( ) 2 ( ) ( ) X ( ω ) ο αριθμός των S στο ω, παρατηρούμε ότι ο χώρος καταστάσεων της X είναι X ( ) { 0,,, θέτοντας 2 Ω έχουμε ότι X ( B) ω : X ( ω) B X B { { Ω και Ω για κάθε B (λέμε τότε ότι η συνάρτηση X είναι μια τυχαία μεταβλητή) και μάλιστα x x X ~ B(, p ) με P{ X x B( x, p) p ( p) Για ({ ) ω ( ω) x { { X : X SF, FSF 2,, F S Ω, έχουμε P X P X P S P F p p ( ({ )) { ( ) ( ) ( ) ενώ ({ ) Ω X 0,,, X { x X ({ x ) x 0 x 0 P( Ω ) P X ({ x ) P( { X 0 { X ) x 0 x x P{ X x p ( p) ( p+ ( p) ) x 0 x 0 x, Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 3
2 Για τον δειγματικό χώρο { S, FS,, F S, Ω μπορούμε να θέσουμε 2 Ω, X : Ω έτσι ώστε X ( ω ) ο αριθμός των F στο ω αριθμός των αποτυχιών έως την πρώτη επιτυχία, Y : Ω έτσι ώστε Y( ω) X ( ω) + ο αριθμός των S και F στο ω αριθμός των δοκιμών έως την πρώτη επιτυχία Για παράδειγμα x ( ({ )) { { ότι X ~ Geo( p ), x ( ) ( ) ( ) ( ) PX x P X x P FS PF PS p px, 0 και γνωρίζουμε x P( Ω ) P X ({ x ) p( p) p x 0 x 0 ( p) Ισοδύναμα y y ( ({ )) { ( ) ( ) ( ) ( ) ~ ( ) ~+ ( ) y PY y PY y PF S PF PS p py,,ενώ X Y Geo p Y Geo p 2 2 3 Για τον δειγματικό χώρο Ω { S, FS,, SFS,, S FS, F S,, S FS, θα έχουμε 2 Ω μπορούμε να θέσουμε: X : Ω έτσι ώστε X ( ω ) ο αριθμός των F στο ω αριθμός των αποτυχιών έως την οστη επιτυχία, X ( Ω ) { 0,, 2,, Y : Ω έτσι ώστε Y( ω) X ( ω) + ο αριθμός των S και F στο ω αριθμός Y Ω, +, + 2, των δοκιμών έως την οστη επιτυχία, ( ) { { y PY P{ επιτυχίες στις πρώτες y δοκιμές, επιτυχία στην y δοκιμή P{ επιτυχίες στις πρώτες y δοκιμές P{ επιτυχία στην y δοκιμή B( y, p) B(, p) y ( ) ( y ) ( ) y y p p p p ( p), y {, +, + 2, x Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 4
Δηλαδή όπως γνωρίζουμε P{ X x NB( x, p) X Y ~ NB(, p) Y ~ + NB(, p) και Παρατήρηση Το Ω αποτελείται από τα στοιχειώδη αποτελέσματα ενός τυχαίου πειράματος (είναι ο χώρος του πειράματος) ή τυχαίου φαινομένου Ω { δειγματικά σημεία { οι δυνατές ερωτήσεις μου μπορούμε να απαντήσουμε με τα δεδομένα που έχουμε από το τυχαίο πείραμα Το λοιπόν έχει δομή πληροφορίας Εάν μάλιστα όσο περνάει ο χρόνος η πληροφορίας που διαθέτουμε αυξάνεται, το μπορεί να αντικατασταθεί με μία αύξουσα δομή πληροφορίας 2 3, τη διήθηση (fltrato) Θεώρημα Για κάθε οικογένεια υποσυνόλων του Ω υπάρχει σ πεδίο σ ( ), που περιέχει όλα τα σύνολα της και είναι το μικρότερο σ πεδίο με αυτήν την ιδιότητα Λέμε ότι το σ ( ) είναι το σ πεδίο που παράγεται από την οικογένεια υποσυνόλων του Ω Παράδειγμα Εάν B Ω, ενδεχόμενα που βρίσκονται σε γενική θέση Να βρεθεί το σ πεδίο σ { B, που παράγεται από την οικογένεια {, B Εάν τα ενδεχόμενα B, βρίσκονται σε γενική θέση Δηλαδή B αλλά και B Ω 2 Ποία η μορφή του { B, 3 Ποία η μορφή του { B, έχουμε ότι και B 4 Ποία η μορφή του { B, B Αρχίζουμε να χτίζουμε το { B, σ στην ειδική περίπτωση που έχουμε ότι B σ στην ακόμα πιο ειδική περίπτωση (2) όπου σ στην ειδική περίπτωση που BΩ αλλά σ από τον ορισμό του σ πεδίου Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 5
{ B Ω,, 2,, B { B, B, B, B, 3 2 B, B, B, B Η οικογένεια 3 δεν είναι ακόμα κλειστή κάτω από τις πράξεις ( ),, Για παράδειγμα τα σύνολα που μπορούμε να παράγουμε με ενώσεις από τα B, B, B, B είναι ( ) ( ) B B B B B B B B B B B 6 3 ( ) 3 ( ) ( ) B B B B B B B B B B B { Δεν είναι δύσκολο να δείξουμε τώρα ότι το σύνολο B ( B) κλειστό ως προς τις πράξεις ( ),,, ή ότι: σ { B, Ω,, B,,, B, B, B, B, B, 4 B, B, B, B, ( B ) ( B),( B ) ( B) 2 Στην ειδική περίπτωση που B ( B B ) έχουμε: είναι 4 3, τότε από το() 6 Η συμμετρική διαφορά B των και B, ορίζεται σαν η ένωση των και B εκτός των κοινών τους σημείων: ( ) \ ( ) ( )( ) ( )( ) ( ) ( ) B B B B B B B B B ( B) ( B) ( B) ( B ) ( B) Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 6
σ Ω,, B,,, B, B, B, B, B B B B Ω B, B, B, B, Ω,, B,,, B, B B, B ( B ) ( B),( B ) ( B) B ( B ) { B, 3 Στην ακόμα πιο ειδική περίπτωση όπου έχουμε B, αλλά και B B σ B, από το (2) έχουμε: ( ), χρησιμοποιώντας το { σ Ω,, B,,, B,,,,, B, B B Ω Ω { B { 4 Όταν BΩ και ταυτόχρονα B θα έχουμε ότι B B, τότε σ { B, Άσκηση Ω,, B,,, B, B, B, B, B Ω B B,, B,,, B Ω, B, B, B, B, B, ( B) B ( B ) B, ( B) Να βρεθεί το σ { B, όταν: Ω { abcd,,, και { ab,, B { bc, 2 Ω { abcde,,,, και { abc,,, B { cde,, Τα B, βρίσκονται σε γενική θέση στο Ω Γνωρίζουμε όμως ότι σε αυτή την card, B 6 card 2 Ω 6 ενώ και οι δύο περίπτωση ( { ) οικογένειες είναι σ πεδία, οπότε και σ { B σ και εμφανώς ( ), 2 Ω Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 7
σ { B { ab B { bc { cd B { ad {,,, {,,, {,,, {,, {, {, {, {, Ω,,,,,,,,,, B abc B abd B bcd B acd, 2 B b B a B c B d B { ac,,( B) { bd, 2 Σε αυτή τη περίπτωση τα B, δεν βρίσκονται σε γενική θέση εφόσον BΩ και B Αυτή είναι ακριβώς η περίπτωση (4) της προηγούμενης άσκησης σ { B, Πρόταση { { { { Ω,, abc,,, B cde,,, de,, B ab,, B, B, B B, B { a, b, d, e { c Ω B { c, B B, B, B, B { c, ( B) { c Δίνεται ότι τα για I είναι σ πεδία πάνω στον Ω, όπου το I είναι ένα πεπερασμένο είτε άπειρο σύνολο δεικτών Δείξτε ότι και η οικογένεια είναι σ πεδίο πάνω στον Ω I 2 Δείξτε ότι γενικά η ένωση σ πεδίων δεν είναι σ πεδίο Ω, I Ω I,, I, I, I I,,,, j J j J I I j I j j j I j J j J 2 Δείχνουμε το (2) με ένα αντιπαράδειγμα Επειδή σ { {,,, σ { B { Ω,, BB, και παρατηρούμε ότι { B, σ{ σ{ B σ{ B, Επειδή το { B, { B,, το σ{ σ{ B δεν είναι σ πεδίο Εμφανώς σ ( σ{ σ{ B ) σ{ B, σ πεδίων σ { και σ { B το συμβολίζουμε με σ{ σ{ B Ω και σ είναι το μικρότερο σ πεδίο που περιέχει την οικογένεια Το σ πεδίο που παράγεται από την ένωση των Ω Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 8
Ορισμός B( ) : Το σύνολο Borel του είναι το σ πεδίο που παράγεται από όλα τα διαστήματα της μορφής (, x] για x Δηλαδή ( ) σ {(, x]: x B Το B ( ) περιέχει όλα τα μετρήσιμα υποσύνολα (Borel sets) του Δηλαδή B( ) 2 \{ παθολογικά υποσύνολα του Ορισμός: Το μέτρο πιθανότητας P ( ) είναι μια συνάρτηση P : [ 0,] ώστε: τέτοια P( ) 0, P ( Ω ) P P, : j, j I ( ) ( ) { I I Ονομάζουμε την τριάδα ( Ω,,P( ) ) χώρο πιθανότητας Ορισμός { : Μια ακολουθία ενδεχομένων λέμε ότι είναι μονότονη όταν: Μη φθίνουσα (expadg ) όταν 2 3 Μη αύξουσα (cotractg ) όταν 2 3 Ορισμός : Το όριο μονότονης ακολουθίας ενδεχομένων { ορίζεται με τον εξής τρόπο: sup ( ), lm f ( ), οστης Ορίζουμε την τάξης ουρά (tal) της ακολουθίας { ακολουθία T( ) { στοιχείων της οστης τάξης ουράς της ακολουθίας σαν M( ) meet of the tal T ( ) ) και J( ) k (the jot of the tal ( ) Πρόταση σαν την Επίσης ορίζουμε την τομή και την ένωση των k k (the k T ) Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 9
{ { k k { J { k k Η ακολουθίες τομής ( ) ( ) M και ένωσης ( ) ( ) ενδεχομένων της οστης τάξης ουράς της ακολουθίας {, είναι μονότονες 7 δηλαδή έχουν όριο ( ) ( ) ( ) ( ) M M M + + + ( ) ( ) ( ) ( ) J J J + + + Αυτό που μας λέει η προηγούμενη πρόταση είναι ότι οι ακολουθίες ενδεχομένων J έχουν όριο M ( ) και ( ) Ορίζουμε τα ενδεχόμενα: lmf lm M( ) 2 lm sup lm J ( ), Επειδή ( ) έχουμε: lm ( ) sup ( ) ( ) ( ) k k M M, και επειδή ( ) έχουμε ότι: lm ( ) f ( ( )) ( ) k k J J Πρόταση Έστω ότι πραγματοποιείται το ενδεχόμενο, τότε αυτό είναι ισοδύναμο με την πραγματοποίηση άπειρων από τα ενδεχόμενα της ακολουθίας 8 2 Εάν πραγματοποιηθεί το ενδεχόμενο, τότε αυτό είναι ισοδύναμο με την πραγματοποίηση όλων των ενδεχομένων της ακολουθίας εκτός ίσως από κάποιο αρχικό πεπερασμένο πλήθος 9 7 Σημειώστε ότι η αρχική ακολουθία δεν χρειάζεται να είναι μονότονη 8 Το ενδεχόμενο lmsup συμβολίζεται και ως {, o δηλαδή τα ενδεχόμενα στην ακολουθία πραγματοποιούνται απείρως συχνά (ftely ofte) Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 0
Η πραγματοποίηση άπειρων από τα ενδεχόμενα της ακολουθίας είναι ισοδύναμη με το εξής: εάν ω τότε υπάρχει υπακολουθία { ω, Πράγματι ( ) ( 2 ) { k k k k k 2 k ω ω ω ω : : ω και ω και : ω, 2 τέτοια ώστε 2 Εάν ω τότε υπάρχει N τέτοιο ώστε για N να έχουμε ω Πράγματι k k ( k k k 2 k ) ( N : ω ω, N k N ) k ω ω ω ω Παράδειγμα Δίνεται η ακολουθία ενδεχομένων { {{ b { b2 { bm { α { β { α { β { α { β,,,,,,,,,,,, όπου b διαφορετικά μεταξύ τους και διαφορετικά των α και β, τότε ( ) lmf ( ) M M, { αβ { m, αβ,, { αβ,, m+ b m J( ) bm, bm,,, m lmsup J, { b, bm, bm, αβ,, ( ) { αβ 9 Το ενδεχόμενο lmf συμβολίζεται και ως {, aa δηλαδή τα ενδεχόμενα από κάποιο N και μετά, θα πραγματοποιηθούν όλα Ισοδύναμα λέμε ότι τα ενδεχόμενα πραγματοποιούνται σχεδόν πάντα (almost always) Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων
Εύκολα παρατηρούμε ότι για {{ α,{ β,{ α,{ β,, { α,{ β, και πάλι lm sup B { αβ, τότε δηλαδή η μη ύπαρξη του πεπερασμένου block { b { b2 { b Παρατηρείστε ότι εάν τα { b,{ b2,, { bm θέσεις μέσα στην ακολουθία, και πάλι θα είχαμε lm sup { αβ,,,, m στην ακολουθία, δεν επηρεάζει το τελικό αποτέλεσμα βρίσκονταν σε οποιεσδήποτε Επίσης παρατηρούμε ότι για κάθε στοιχείο του lm sup { αβ, υπάρχει υπακολουθία της { m υπακολουθίες { 2 {{ α,{ α, k+ και { {{ { 2 β, β, k Πρόταση Όταν η ακολουθία { και είναι η κοινή τιμή lmf που το περιέχει Για παράδειγμα εάν 2 k, οι + είναι μονότονη (το όριο της ακολουθίας υπάρχει) lmsup, δηλαδή lmf lm lmsup Εάν τότε γνωρίζουμε ότι k lm k M k k k k+ k+ 2 k ( ) lmf sup lm k k k k k 2 k k k k,,, ( ) lmsup f lm, k k k Εάν τότε γνωρίζουμε ότι k lm k k k k k k k lmsup k lmf k k k k k Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 2
Λήμμα: Ισχύει ότι Εάν τότε υπάρχει N τέτοιο ώστε ω k ή ότι ω k k k N k ω k, k N, αυτό όμως σημαίνει ότι το ω ανήκει σε όλες τις ενώσεις k για, που δίνει ω k k Άσκηση Να βρεθεί, εάν υπάρχει, το όριο των ακολουθιών ενδεχομένων 2 3 B, 2k, k C, 2k,2 +, /2, /2, 4 (, / 2 ], J B C B C k k k k M B C B C k k k k Επειδή δεν υπάρχει το όριο της ακολουθίας 2 J k, 2 0, 2 k k + + k k επειδή 0,, f ( ) J 0, 2 ( 0, 2] +, επειδή 2, M k,2,2 k k + k k, sup ( ) M, 2 ( 0, 2] Ενώ η δεν είναι μονότονη, έχει όριο, διότι τα lm 0, 2 τιμή ( ] Το όριο είναι η κοινή τους Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 3
, v, v, v v,, v, < 2 2 3 Παρατηρούμε ότι [ ] J ( ),, k k k 2 k 2 k 2 f ( ) J, (,) 2 M, k k 2 2 ( ) k k k ( ) M sup Ενώ η δεν είναι μονότονη, έχει όριο διότι τα lmf και lmsup ταυτίζονται Το όριο είναι η κοινή τιμή lm 4 Η (, / 2 ], είναι k lm (, /2 ] (, 0 k k k Άσκηση Δίνεται η ακολουθία ενδεχομένων {, με [ a, b] για θετικά κ και λ Να βρεθεί το lm και κ < a < κ < b < λ, εάν υπάρχει, στις εξής περιπτώσεις: a a, b b, a, a b b, a, a b b, a, a b b a, b [ ] ( ( ) ( ( k + + + + [, ], sup ( ), (, + + + + J ak, bk a, b f J a, b a, b M a b k k k a b a b a b + + μονότονη, αλλά το όριο της υπάρχει και είναι lm ( a, b 2 a, b ( ) [, ] (, ) f ( ) (, ), ) k k, k, sup,, J a b a b a b a b k k ( ) [ ] ( ) ) M a b a b a b a b k μονότονη, αλλά το όριο της υπάρχει και είναι lm a, b ) 3 a, b Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 4
[ ] [ ], lm,, + a b a b a b 4 a, b a, b lm a, b a, b [ ] [ ] ( + ) k k k Πρόταση Δίνεται ακολουθία ενδεχομένων { Δείξτε ότι η ακολουθία ενδεχομένων { B που ορίζεται σαν B έχει τις ιδιότητες BB j, j ( ) \ j j > με B 2 Δείξτε την ανισότητα του Boole για άπειρα ενδεχόμενα, δηλαδή ότι για κάθε ακολουθία { ισχύει P ( ) P ( ) < < και B \ ( ) ( ) Υποθέτουμε j ενώ Bj j \, τότε BB j Το ίδιο για < j Παρατηρούμε επίσης ότι { ( ) ( 2) ( 2 3) ( 2 3 4) B 2 ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) 2 2 3 2 3 4 2 2 3 2 3 4 ( ) ( ) ( ) ( ) 2 3 2 3 4 2 3 2 3 4 2 3 ενώ B ( ) ( ) P B P P P B P 2 P ( ) P ( B ) P ( B ) που δίνει ( ) ( ) ( ) Παράδειγμα Δείξτε την ανισότητα του Boole για πεπερασμένα ενδεχόμενα Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 5
Για 2 ισχύει P( ) P( ) P( ) P( ) P( ) P( ) Δεχόμαστε ότι P ( ) P ( ) + ( ) ( ) + + 2 2 2 2 και αποδεικνύουμε την ανισότητα για ( + ) ( ) ( + ) + + P( ) ( ) ( ) P P + P P P P + { + Πρόταση (Η πιθανότητα είναι μια συνεχής συνολοσυνάρτηση) Θέλουμε να δείξουμε ότι εάν η είναι μια μονότονη ακολουθία ενδεχομένων, τότε Εάν ( ) ( lm ) lm P P { +, έχουμε lm ( \ ) 2 2 3 3 2 και τα ενδεχόμενα B, B \, B \, είναι ξένα μεταξύ τους ( ) ( ) ( ) ( ) ( ) ( lm ) { ( \ ) \ + + + { ( ) ( ) { ( ) + + P P P P lm P + P \ lm P \ lm P Εάν τότε και από τα προηγούμενα lm P ( ) P ( lm ) P ( ) lm ( P( ) ) P ( ) P ( ) Με αποτέλεσμα lm P ( ) P ( lm ) P ( ) Άσκηση Δίνεται ακολουθία ενδεχομένων { Εάν P( ), P( M ( )), 2 P( ) P( ) ( ) ( k) ( k) ( k) Δείξτε ότι: P M ( ) P P P, εφόσον ( ) 0 k k k P k Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 6
2 Παίρνοντας το όριο για στην εξίσωση P( M ( )) ( ), έχουμε lm P M ( ) P lm M P ( ) ( ) M ( ) ( ) δίνει P( ) P( ), ή ότι P ( ) Άσκηση Δείξτε ότι ισχύουν οι ανισότητες: και επειδή Το γεγονός,, ( ) ( ) ( ) P lmf lmf P lmsup P P lmsup { ( ) ( ) ( ) ( ) P P lm M lm P M sup P M : k k { P M k P f P : k για κάθε k, έχουμε Επειδή ( ) ( ) ( ) k { ( ) { ( ) P sup f P : k : k Εμφανώς f { P( ) : k sup { P( ) : k αλλά η ακολουθία ως προς k στα αριστερά της ανισότητας είναι και στα δεξιά της είναι, οπότε παίρνοντας το και από τα δύο μέλη έχουμε: lm ( ) { { ( ) { ( ) { sup f P : k : k f sup P : k : k, ή ισοδύναμα lmf P( ) lmsup P( ) Έως τώρα λοιπόν έχουμε δείξει ότι ισχύει: ( ) lmf ( ) lmsup ( ) P P P { P k P ( ) P ( J k) Επειδή sup ( ) : για κάθε k στα δύο μέλη της προηγούμενης ανισότητας έχουμε: ( ) { ( ) { { ( ) lm sup P f sup P : k : k f P J : k k ( ) ( lm ) ( ) lm P J P J P k, παίρνοντας f ( ) k Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 7
Έτσι παίρνουμε τελικά P( ) lmf P( ) lmsup P( ) P( ) Παρατήρηση { X x : Εάν θέσουμε, τότε, lmf { lmf X x από την ανισότητα P( lmf ) lmf P( ) έχουμε και x x { lmf lmf { lmf X ( ) lmf ( ) X P X x P X x f u du f u du u Το προηγούμενο αποτέλεσμα ονομάζεται Λήμμα Fatou Πρόταση { u Εάν για τις ακολουθίες a και { b με a 0 και b > 0, ισχύει a l 0 b > όταν, τότε και οι δύο σειρές a και b ή και οι δύο συγκλίνουν ή και οι δύο αποκλίνουν 2 Εάν { a με 0 a a < ( a ) < και a 0 όταν, τότε: 0 > είτε a ( a ) 0 a Για το (), επειδή l > 0 όταν σημαίνει ότι για κάθε b ε > 0 υπάρχει 0 a τέτοιο ώστε για 0 να έχουμε l < ε ( l ε) b < a < ( l+ ε) b Εάν b διαλέξουμε ε < l, τότε έχουμε: ( ε ) ( ε ) ( ε ) ( ε ) a l b a l b < + < + b < l a b < l a Για το (2), θεωρούμε τις ακολουθίες { a με 0 < και a b log a a τότε b 0, ενώ όταν Δηλαδή από το () έχουμε ότι οι δύο σειρές b a και b, συγκλίνουν ή αποκλίνουν ταυτόχρονα Εάν a b < <, Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 8
( ( a) ) ( a) > log log 0 > a Εάν a b ( ( a) ) ( a) log log 0 a (Λήμμα των Borel Catell) Δίνεται ακολουθία ενδεχομένων { Εάν P( ) < P P lmsup P, o 0 τότε ( ) { και τα ενδεχόμενα 2 Εάν P( ) <, θα έχουμε ( ) lm ( ) lm lm lm k k lm ( ) P k P( k) s s 0, από όπου P ( ) 0 Εάν θέσουμε s P( ) είναι ανεξάρτητα, τότε P ( ) ( ) ( ) ( ) ( ) k k { k k P P J P J P P 2 Έχουμε ότι P M P P P ( ( )) ( k) ( k) ( k) k k k ( ) Επειδή P( ) με 0 P( ) < και ( ) 0 ( ( )) ( ( )) ( ( )) k k k k k k P M ( ) P 0,, 0 P P P, P όταν, θα έχουμε, οπότε και ( ) ( ( k) ) έτσι k ( ) ( ( )) ( ( )) ( ) P lmf P lm M lm P M 0 P lmf 0 ή ισοδύναμα P lm sup Παράδειγμα Εάν για οι τμ P X 0 p X είναι ανεξάρτητες Beroull με P{ X d {, δηλαδή X ~ B(, p ), ορίζουμε για ενδεχομένων { X p και την ακολουθία Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 9
p <, για παράδειγμα p 2 Εάν P( ) έχουμε: δίνει p 2 π 6, θα ( ) { ( ) { P P X, o 0 P P X 0, a a Σε αυτή την περίπτωση λέμε ότι lm X 0 με πιθανότητα, και γράφουμε P { X lm 0 Εάν P( ) p, για παράδειγμα τμ τους ανεξάρτητα, έχουμε: p δίνει p, επειδή οι X είναι μεταξύ X είναι ανεξάρτητες ή ισοδύναμα τα ενδεχόμενα { ( ) { ( ) { { P P X, o P P X 0, a a 0 P lm X 0 0 Σύγκλιση ακολουθίας τμ με πιθανότητα ισχυρή σύγκλιση Λέμε ότι η ακολουθία τμ { X συγκλίνει στην τμ X με πιθανότητα, ή ότι η X συγκλίνει σχεδόν βεβαίως (almost surely) στην X και γράφουμε as X X, όταν τα ενδεχόμενα για τα οποία η X δεν συγκλίνει στην X έχουν μηδενική πιθανότητα, δηλαδή το ενδεχόμενο { ω : lm X ( ω) X ( ω) { lm X X Ω έχει μέτρο μηδέν Η σύγκλιση της ακολουθίας τμ εξής: για κάθε 0 X στην τμ X με πιθανότητα ορίζεται ως ε > ορίζουμε την ακολουθία ενδεχομένων ( ε) { ( ε) { { ( ) : ( ) ( ) ε ω Ω X ω X ω < ε X X < ε, τότε as { { ε ( ( )) ( ) X X P lm X X P X X <, aa, ε > 0 P lm f ε, ε > 0 P ε, ε > 0 k k P { X X < ε, ε > 0 k k Είτε ισοδύναμα χρησιμοποιώντας συμπληρώματα: με Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 20
{ ( ε) as { X X P lm X X P, o 0, ε > 0 { ε P X X, o 0, ε > 0 P lm sup 0, > 0 P X X 0, > 0 k k Παρατήρηση 2 ( ε ) ε { ε ε Γνωρίζουμε από τα προηγούμενα ότι εάν {, με P( ), ( k ), k P { lmf ( ε r) r Έτσι θεωρώντας την ακολουθία ενδεχομένων έχουμε, όπου ε r 0 όταν r, τότε P lmf ( ε r) Έτσι ο r ορισμός της σύγκλισης με πιθανότητα, σε πιο συμπαγή μορφή είναι: { ( εr) { εr P lm X X P lmf P X X < r r k k Για παράδειγμα θα μπορούσαμε να θέσουμε ε / r r Πρόταση: Μια ικανή συνθήκη για σύγκλιση της ακολουθίας τμ { X P X X ε <, ε > 0 X με πιθανότητα είναι { στην τμ Θέτουμε m m X X m για m, έχουμε P( m ) <, m ε και για τα ενδεχόμενα ( ) από υπόθεση, ότι ( ) θεώρημα των Borel Catell έχουμε P lm sup m 0, m B lm sup m για m και επειδή P( B ) παίρνουμε Από το ο ( ) Θέτουμε ( ) m P B P B P B m m ( m), δηλαδή m m m P X X < από όπου και X m k m as m P Bm ή ισοδύναμα m X Παράδειγμα (Πιθανότητα ενδεχομένων σε πεπερασμένο και άπειρο χρονικό ορίζοντα) Κάποια, καθημερινά, ρίχνει m 5 νομίσματα του ενός ευρώ και εκείνα που Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 2
προσγειώνονται κεφαλή τα κάνει δωρεά Την πρώτη φορά όμως που όλα τα νομίσματα προσγειωθούν γράμματα, σταματάει οποιαδήποτε δωρεά για πάντα Έστω {,, X X η ακολουθία των ποσών που δίνονται σε δωρεά κάθε μέρα 2 Τότε, τουλάχιστον διαισθητικά, είμαστε 00% σίγουροι (δηλαδή σίγουροι με πιθανότητα ), ότι κάποια μέρα το ποσό δωρεάς θα πρέπει να γίνει 0 και θα παραμείνει 0 για πάντα (εδώ έμμεσα έχουμε χρησιμοποιήσει άπειρο χρονικό ορίζοντα, δηλαδή θεωρούμε ότι το πείραμα μπορεί να πραγματοποιηθεί άπειρες φορές) Όμως, εάν θεωρήσουμε οποιοδήποτε πεπερασμένο ορίζοντα ημερών, ας πούμε, η πιθανότητα του ενδεχομένου { την οστ ημέρα έγινε μη μηδενική > 0 πάντοτε θα παραμένει θετική δωρεά { X Για να το δούμε αυτό πρέπει πρώτα να παρατηρήσουμε ότι τα ενδεχόμενα δεν είναι μεταξύ τους ανεξάρτητα { 0 { 0, 0 { 0, 0 P X > P X > X + P X > X >, επειδή P{ X > 0, 0 0, παίρνουμε X { 0, 0 { 0 { 0 0 P X > X > P X > P X > X >, με P{ X X P{ X X > 0 > 0 0 > 0 2 m, όπου m ο αριθμός των νομισμάτων Η πιθανότητα λοιπόν { 0 m { 0 ( 2 ) P{ X 0 P X > > Ανακυκλώνοντας την προηγούμενη σχέση παίρνουμε m { > 0 ( 2 ) P{ X > 0 m m ( ) ( P{ X ) ( ) P X 2 0 2 > 0, P X > γίνεται Δηλαδή η πιθανότητα του ενδεχομένου { την οστ ημέρα έγινε μη μηδενική > 0 είναι θετική για κάθε δωρεά { X Όταν όμως το ζητούμενο είναι ο άπειρος χρονικός ορίζοντας (δηλαδή θέλουμε να απαντήσουμε στην ερώτηση: «το πείραμα μπορεί να πραγματοποιείται για πάντα;») θα πρέπει να χρησιμοποιήσουμε το ο Λήμμα των Borel Catell: Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 22
m P( ) P{ X ( ) m > 0 2 2 < ( ) ( ) { { { P 0 P P, aa P X 0, aa P lmx 0, δηλαδή είμαστε σίγουροι με πιθανότητα, ότι κάποια μέρα το ποσό δωρεάς θα γίνει 0 και θα παραμείνει 0 για πάντα Παράρτημα Α lmt feror και superor για πραγματικούς αριθμούς Έστω ( ) ( ) { a ακολουθία πραγματικών αριθμών Τότε f f a το μεγαλύτερο κάτω φράγμα της (greatest lower boud), sup sup a το μικρότερο άνω φράγμα της (lowest upper boud) f a το έχει μικρότερο στοιχείο m a f a sup a το έχει μεγαλύτερο στοιχείο max a sup a f ( ) sup( ) { x x { x x f : 0 < < f : 0 2 { x x sup : < 2 2 f ( ) :, sup ( ) : Ορίζουμε τις ακολουθίες z f a και Z sup a για Έχουμε ότι k k k ( ) { k { z lm z lm f a sup f a sup f a : k : lmf a, k k k k k { { Z lm Z lm sup a k f sup ak f sup ak : k : lmsup a k k Ισχύουν τα παρακάτω: lmf a lmsup( a ) 2 Εάν a a lmf a lm a a lmsup a 3 f a lm f a lm sup a sup a Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 23
Για να δείξουμε την τελευταία ανισότητα παρατηρούμε ότι: f a f a sup f a και f sup a sup a sup a ενώ k k k k k k k k ( ) f ak sup ak lm f ak lm sup ak sup f ak f sup ak k k k k k k Παρατηρήσεις: ( ) ( ) Έστω ότι lm a L lmf a f L, lmsup a sup L Εάν f ( L) sup( L) τότε L { a και το όριο της a υπάρχει, δηλαδή a a 2 Το σύνολο L αποτελείται από τα όρια όλων των συγκλινουσών υπακολουθιών, a στο { k Παράδειγμα { ( ) { {,,,, {, { lm 2, lm 2 a L a a από όπου a ( L) a ( L) lm f f, lm sup sup Παράδειγμα 2 s( π / 2) { a { a, a2, a3, a4, a5 5, a6, a7, a8, a9 9, 3 7 { lm 3 lm, lm a lm, L a4 4 2 lm a4 lm 0, lm a4 lm { 0,,, από όπου lm f a f ( L) 0, lm sup a sup( L) Παράδειγμα 3, odd + Θέτουμε { a με a, eve + 2k a2k, a2k 0 L { 0,, 2k 2k+ lm f a f L 0, lm sup a sup L από όπου ( ) ( ) Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 24
Παράδειγμα 4 { { a s ( π / 3) 3 3 3 3 2 2 2 2 από όπου L, 0, lm f a f ( L), lm sup a sup( L) Σπυρίδων Ι Χατζησπύρος Πιθανότητες ΙΙ Ακολουθίες ενδεχομένων 25