Μεγάλες αποκλίσεις* 17.1 Η έννοια της μεγάλης απόκλισης

7 Μεγάλες αποκλίσεις* 7. Η έννοια της μεγάλης απόκλισης Εστω (X ) ανεξάρτητες και ισόνομες τυχαίες μεταβλητές ώστε P(X = ) = P(X = ) = /2 και S = k= X k το άθροισμα των πρώτων από αυτές. Ο νόμος των μεγάλων αριθμών λέει ότι με πιθανότητα ο μέσος όρος S / συγκλίνει στο 0. Μεγάλη απόκλιση για τον μέσο όρο λέμε ένα ενδεχόμενο της μορφής { S A } όπου A R είναι ένα σύνολο «μακριά» από το 0, δηλαδή με 0 Ā. Για παράδειγμα, το A μπορεί να είναι ένα από τα (, ), ( 4, ) (0.5, 0) αλλά όχι το {/ : N + }. Επειδή η S / συγκλίνει στο 0 με πιθανότητα, μια μεγάλη απόκλιση ζητάει από την S / να κάνει κάτι που η ακολουθία δεν θέλει να κάνει. Και η πιθανότητα μιας μεγάλης απόκλισης τείνει στο 0 εξαιτίας του ασθενούς νόμου των μεγάλων αριθμών (Πόρισμα 2.). Μας ενδιαφέρει να έχουμε μια καλή εκτίμηση του πόσο σύντομα συμβαίνει αυτό. Θα δούμε ότι για πολλά σύνολα A (τα οποία θα προσδιορίσουμε) ισχύει ( S ) P A e c(a), (7.) όπου c(a) είναι μια θετική σταθερά που εξαρτάται από το σύνολο A. Θα διευκρινίσουμε τη σημασία του και θα υπολογίσουμε αυτή τη σταθερά c(a). Επίσης, δεν θα περιοριστούμε μόνο στην πιο πάνω ακολουθία (X ) αλλά θα θεωρήσουμε οποιαδήποτε ακολουθία ανεξάρτητων και ισόνομων τυχαίων μεταβλητών με τιμές στο R. Προηγουμένως όμως θα εξηγήσουμε γιατί είναι σημαντικό να ξέρουμε τον ακριβή ρυθμό με τον οποίο φθίνει η πιθανότητα μιας μεγάλης απόκλισης. Γιατί ασχολούμαστε με την πιθανότητα ενός ενδεχομένου που εκ των προτέρων ξέρουμε ότι είναι ελάχιστη (και επομένως δεν περιμένουμε το ενδεχόμενο να συμβεί); Συμβολισμος: Για (a ), (b ) ακολουθίες θετικών πραγματικών αριθμών γράφουμε a b αν log a lim =. log b 7.2 Γιατί οι μεγάλες αποκλίσεις είναι σημαντικές Θεωρούμε το εξής παιχνίδι. Ξεκινάμε με αρχική περιουσία P 0 = Ευρώ και πραγματοποιούμε μια ακολουθία ρίψεων ενός αμερόληπτου νομίσματος. Οποτε το νόμισμα φέρνει «Κεφαλή», η περιουσία μας διπλασιάζεται, όποτε φέρνει «Γράμματα», η περιουσία μας υποδιπλασιάζεται. Ερώτημα: Ποια είναι η μέση τιμή της περιουσίας μετά από βήματα; Η περιουσία μετά βήματα είναι P = 2 S, όπου S είναι η ακολουθία της προηγούμενης ενότητας. Μια διαισθητική προσέγγιση: Εστω ε := S /, που ξέρουμε ότι τείνει στο μηδέν με πιθανότητα. Τότε E(P ) = E(e S ) = E(e ε ) ; = e a 08

7.3 Η αρχή μεγάλων αποκλίσεων 09 με a ακολουθία που τείνει στο 0. Η τελευταία ισότητα είναι μια εικασία. Παίρνουμε μέση τιμή μιας ποσότητας με ρυθμό εκθετικής αύξησης log eε (= ε ) που είναι περίπου 0. Αναμένουμε η συνολική μέση τιμή να έχει ρυθμό εκθετικής αύξησης επίσης περίπου 0. Τι πραγματικά συμβαίνει: Η μέση τιμή E(P ) υπολογίζεται άμεσα ως ( ) E(P ) = E(2 X 2 + 2 ) = = e log(5/4). 2 Δηλαδή έχει θετικό εκθετικό ρυθμό ανάπτυξης ίσο με log(5/4). Εξήγηση: Ποιο είναι το πρόβλημα με τη διαισθητική προσέγγιση πιο πάνω; Το κλάσμα ε := S / παίρνει τιμές στο U := {k/ : k Z, k }. Προσεγγιστικά ισχύει P(ε = x) e I(x), με I μια συνεχή συνάρτηση στο [, ] περίπου της μορφής x 2. Δηλαδή τιμές του x μακριά από το 0 είναι δύσκολο να ληφθούν από την S /. Ο υπολογισμός της E(P ) γίνεται ως εξής: E(2 S ) = e x log 2 e I(x). (7.2) x U Η διαισθητική προσέγγιση πρότεινε να αγνοήσουμε όλους τους όρους με x 0 γιατί έχουν πολύ μικρή πιθανότητα. Βέβαια κάθε τέτοιος όρος δεν έχει μόνο κόστος (συγκεκριμένα e I(x) ) αλλά και όφελος (συγκεκριμένα e x log 2 ) το οποίο ίσως να ισοσκελίζει το κόστος. Κυρίαρχος όρος στο άθροισμα είναι αυτός που μεγιστοποιεί τη διαφορά x log 2 I(x) (όφελος μείον κόστος). Πιο κάτω που θα έχουμε την ακριβή μορφή της συνάρτησης I (Παράδειγμα 7.9), θα δούμε ότι το καλύτερο x είναι το x = 3/5. Η μέγιστη συνεισφορά στη μέση τιμή προέρχεται από μια μεγάλη απόκλιση. Η τυπική συμπεριφορά του μέσου S / είναι αδιάφορη στον υπολογισμό. Στο πιο πάνω πρόβλημα η επίκληση των μεγάλων αποκλίσεων δεν ήταν απαραίτητη αφού υπάρχει απλούστερος τρόπος αντιμετώπισης. Υπάρχουν όμως άλλα προβλήματα στα οποία μια μεγάλη απόκλιση παίζει κεντρικό ρόλο και η θεωρία των μεγάλων αποκλίσεων είναι το μόνο διαθέσιμο εργαλείο. 7.3 Η αρχή μεγάλων αποκλίσεων Εστω X μετρικός χώρος. Συνάρτηση ρυθμού στον X ονομάζουμε οποιαδήποτε συνάρτηση I : X [0, ] που είναι κάτω ημισυνεχής [δηλαδή το σύνολο [I > a] είναι ανοιχτό για κάθε a R]. Εστω τώρα (µ ) ακολουθία μέτρων πιθανότητας στον (X, B(X)) και (a ) αύξουσα ακολουθία θετικών αριθμών με lim a =. Ορισμός 7.. Λέμε ότι η ακολουθία (µ ) ικανοποιεί την αρχή μεγάλων αποκλίσεων με ταχύτητα a και συνάρτηση ρυθμού I αν για κάθε A B(X) ισχύει if I(x) lim x A log µ (A) lim log µ (A) if I(x). (7.3) x Ā Στην πράξη, συνήθως έχουμε μια ακολουθία (Y ) τυχαίων μεταβλητών στον X που συγκλίνει κατά πιθανότητα σε ένα σημείο x 0 του X και εξετάζουμε αν η ακολουθία (µ ) των κατανομών των Y ικανοποιεί την αρχή των μεγάλων αποκλίσεων. Αν την ικανοποιεί, λέμε ότι η ακολουθία (Y ) ικανοποιεί την αρχή μεγάλων αποκλίσεων. Παράδειγμα 7.2. Εστω Y ακολουθία τυχαίων μεταβλητών (στον ίδιο χώρο πιθανότητας) με την Y να ακολουθεί την εκθετική κατανομή με παράμετρο (και άρα μέση τιμή /). Η Y συγκλίνει

0 Μεγάλες αποκλίσεις* κατά πιθανότητα στο 0. Η ακολουθία (των κατανομών) των Y ικανοποιεί την αρχή των μεγάλων αποκλίσεων με ταχύτητα και συνάρτηση ρυθμού αν x < 0, I(x) = x αν x 0. Η απόδειξη αφήνεται ως άσκηση. Παρατήρηση 7.3. (α) Για κάθε σύνολο A X, εισάγουμε τη συντομογραφία I(A) = if x A I(x). (β) Οταν για ένα σύνολο Borel A X ισχύει I(A ) = I(Ā), τότε έχουμε ότι η log µ (A) συγκλίνει στην τιμή I(A ) = I(A) = I(Ā). Δηλαδή µ (A) e I(A). (γ) Η (7.3) ισοδυναμεί με την απαίτηση το άνω φράγμα να ισχύει για A κλειστό και το κάτω φράγμα να ισχύει για A ανοιχτό. Δηλαδή για κάθε F X κλειστό και lim log µ (F) if I(x) (7.4) x F lim log µ (G) if I(x) (7.5) x G για κάθε G X ανοιχτό. Επιπλέον, το κάτω φράγμα ισοδυναμεί με το εξής: Για κάθε x X και ανοιχτό σύνολο G X που περιέχει το x ισχύει lim log µ (G) I(x). (7.6) Για την απόδειξη της αρχής μεγάλων αποκλίσεων, θα χρησιμοποιούμε αυτές τις ισοδύναμες μορφές του ορισμού. 7.4 Το Θεώρημα Cramer Για f : R [, ] ορίζουμε τον μετασχηματισμό Legedre της f ως τη συνάρτηση f : R [, ] με f (x) := sup{xt f (t)} t R για κάθε x R, όπου υπενθυμίζουμε ότι sup = και sup A = αν το A R είναι μη φραγμένο. Εστω τώρα (X ) ανεξάρτητες και ισόνομες τυχαίες μεταβλητές με τιμές στο R και µ η κατανομή καθεμιάς. Συμβολίζουμε με M τη ροπογεννήτρια της X, με Λ τον λογάριθμο της M και με Λ το μετασχηματισμό Legedre της Λ. Δηλαδή M(λ) := E(e λx ) = e λx dµ(x), (7.7) για κάθε λ, x R. Λ(λ) := log M(λ), (7.8) Λ (x) := sup{λx Λ(λ)} (7.9) λ R

7.4 Το Θεώρημα Cramer Παράδειγμα 7.4. Ας δούμε την περίπτωση που η X είναι η ομοιόμορφη στο {, }. Τότε ( e λ + e λ ) Λ(λ) = log 2 για κάθε λ R και είναι άσκηση απειροστικού λογισμού (μεγιστοποίησης) να δείξει κανείς ότι Λ 2 {( + x) log( + x) + ( x) log( x)} αν x [, ], (x) = (7.0) αν x R\[, ], με τη σύμβαση 0 log 0 = 0. Το Θεώρημα Cramer λέει ότι η ακολουθία (S /) ικανοποιεί την αρχή μεγάλων αποκλίσεων με ταχύτητα και συνάρτηση ρυθμού Λ. Ξεκινάμε με ένα λήμμα που ουσιαστικά αποδεικνύει το άνω φράγμα της αρχής. Λήμμα 7.5. Υποθέτουμε ότι m := E(X ) R. Τότε (i) x m Λ (x) = sup λ 0 {λx Λ(λ)}, x m Λ (x) = sup λ 0 {λx Λ(λ)}, Λ (m) = 0. ( S ) (ii) x m P x e Λ (x), ( S ) x m P x e Λ (x). Απόδειξη. (i) Για κάθε λ R εφαρμόζοντας την ανισότητα Jese έχουμε Λ(λ) = log E(e λx ) E(λX ) = λm, επομένως λm Λ(λ) 0. Τώρα για να αποδείξουμε τον πρώτο ισχυρισμό, θέλουμε να δείξουμε ότι στο supremum που ορίζει το Λ (x) μπορούμε να αγνοήσουμε τους αριθμούς λx Λ(λ) που έχουν λ < 0. Πράγματι, για x m και λ < 0 έχουμε λx λm ( Λ(λ) όπως δείξαμε πιο πάνω), οπότε λx Λ(λ) 0. Ομως 0 είναι η τιμή του λx Λ(λ) όταν λ = 0. Αρα οι όροι με λ < 0 δεν μπορούν να αυξήσουν το supremum. Ανάλογη είναι η απόδειξη του δεύτερου ισχυρισμού. Οταν x = m, οι δύο παραπάνω ισχυρισμοί δίνουν ότι το Λ (m) ισούται με την τιμή του λx Λ(λ) για λ = 0, η οποία είναι 0. (ii) Για x m και λ 0 έχουμε ( S ) P x = P(S x) = P(λS λx) = P(e λs e λx ) e λx E(e λs ) = e λx M(λ) = e Λ(λ) λx = e {λx Λ(λ)}. Η ανισότητα στην πρώτη γραμμή προέκυψε από την ανισότητα Markov. Επειδή το φράγμα ισχύει για κάθε λ > 0, η ιδέα είναι να διαλέξουμε το λ που δίνει το καλύτερο/μικρότερο φράγμα. Συγκεκριμένα παίρνουμε ότι η πιθανότητα P(S / x) φράσσεται πάνω από την ποσότητα if λ 0 e {λx Λ(λ)} = e sup λ 0 {λx Λ(λ)} = e Λ (x). Στην τελευταία ισότητα χρησιμοποιούμε το μέρος (i) του λήμματος. Ο ισχυρισμός για x m αποδείχθηκε. Για x m και λ 0 έχουμε ( S ) P x = P(S x) = P(λS λx) = P(e λs e λx ) e λx E(e λs ) = e {λx Λ(λ)}. Και η απόδειξη συνεχίζεται όπως και στην περίπτωση x m.

2 Μεγάλες αποκλίσεις* Το επόμενο λήμμα είναι κρίσιμο για την απόδειξη του κάτω φράγματος της αρχής μεγάλων αποκλίσεων. Λήμμα 7.6. (α) Η M είναι διαφορίσιμη στο εσωτερικό του D M := {λ R : M(λ) < } με παράγωγο M (λ) = E(X e λx ). (β) Αν µ((, a)), µ((a, )) > 0 και το µ έχει συμπαγή φορέα τότε D M = R και υπάρχει λ 0 R ώστε Λ (a) = λ 0 a Λ(λ 0 ). Για αυτό το λ 0 ισχύει Λ (λ 0 ) = a Απόδειξη. (α) Ο τύπος για την παράγωγο προκύπτει διαφορίζοντας την E(e λx ) μέσα από την μέση τιμή. Πρέπει όμως να δείξουμε ότι αυτό είναι επιτρεπτό. Εστω λ εσωτερικό σημείο του D M και δ > 0 με [λ δ, λ + δ] D M. Τότε για ε [ δ, δ], ε 0 έχουμε M(λ + ε) M(λ) ε ( e (λ+ε)x e λx ) = E ε ( = E e λx eεx ). ε Το όριο για ε 0 της ποσότητας στη μέση τιμή είναι το επιθυμητό X e λx και η απόλυτή της τιμή φράσσεται από e λx eδ X δ {e (λ δ)x + e (λ+δ)x }. δ Για να δούμε το πρώτο φράγμα, αναπτύσσουμε σε δυναμοσειρά την e εx. Το δεξί μέλος της τελευταίας ανισότητας δεν εξαρτάται από το ε και έχει πεπερασμένη μέση τιμή εξαιτίας του ότι λ δ, λ + δ D M. Το συμπέρασμα έπεται από το θεώρημα κυριαρχημένης σύγκλισης. (β) Εχουμε Λ (a) = sup λ R A(λ) με A(λ) := λa Λ(λ) = log E(e λ(x a) ). Η A είναι πεπερασμένη και διαφορίσιμη στο R με όρια A( ) = A( ) = εξαιτίας της µ((, a)), µ((a, )) > 0. Αρα παίρνει μέγιστο σε ένα σημείο λ 0 R και 0 = A (λ 0 ) = a Λ (λ 0 ). Ο ισχυρισμός αποδείχθηκε. Θεώρημα 7.7 (Θεώρημα Cramer). Υποθέτουμε ότι m := E(X ) R. Η ακολουθία (S /) ικανοποιεί την αρχή μεγάλων αποκλίσεων με ταχύτητα και συνάρτηση ρυθμού I(x) := Λ (x). Απόδειξη. Εστω µ η κατανομή της τυχαίας μεταβλητής S /. Ακολουθούμε τη μέθοδο της Παρατήρησης 7.3(γ). Ανω φραγμα: Εστω F R κλειστό μη κενό. Αν I(F) = 0, δεν έχουμε να αποδείξουμε τίποτα γιατί το αριστερό μέλος της (7.4) είναι μη θετικό πάντοτε. Υποθέτουμε λοιπόν ότι I(F) > 0. Επειδή I(m) = 0 (Λήμμα 7.5), έπεται ότι το m είναι στοιχείο του ανοιχτού συνόλου R\F. Εστω (a, b) το μέγιστο υποδιάστημα του R\F που περιέχει το m. Αυτό το υποδιάστημα είναι ανοιχτό (και άρα a, b F) γιατί το R\F είναι ανοιχτό και ενδέχεται a = ή b = (όχι όμως και τα δύο γιατί F ). Επειδή F R\(a, b), όταν a, b R, έχουμε µ (F) µ ((, a]) + µ ([b, )) e Λ (a) + e Λ (b) 2e I(F). (7.) Η πρώτη ανισότητα έπεται από το Λήμμα 7.5, ενώ η δεύτερη από το ότι a, b F. Αν a =, οι ανισότητες ισχύουν αν παραλείψουμε τους όρους µ ((, a]), e Λ (a). Ανάλογα και όταν b =. Τώρα το άνω φράγμα έπεται από την (7.). Κατω φραγμα: Με βάση την (7.6), επειδή η S / παίρνει τιμές στο R, αρκεί να δείξουμε ότι για κάθε a R και δ > 0 ισχύει lim log µ ((a δ, a + δ)) Λ (a). (7.2) Περίπτωση. µ((, a)), µ((a, )) > 0 και το µ έχει συμπαγή φορέα. Τότε με βάση το Λήμμα 7.6 υπάρχει λ 0 R ώστε Λ (a) = λ 0 a Λ(λ 0 ). Ορίζουμε ένα νέο μέτρο µ από τη σχέση d µ dµ (x) = eλ 0x Λ(λ 0 ), x R. (7.3)

Το µ είναι μέτρο πιθανότητας γιατί µ(r) = e λ 0x Λ(λ 0 ) dµ(x) = και έχει μέση τιμή a γιατί R R x d µ(x) = 7.4 Το Θεώρημα Cramer 3 R xeλ 0x dµ(x) M(λ 0 ) e λ0x dµ(x) = M(λ 0 ) R = M (λ 0 ) M(λ 0 ) = Λ (λ 0 ) = a Επίσης, συμβολίζουμε με µ την κατανομή του μέσου όρου X + + X / όταν οι X, X 2,..., X είναι ανεξάρτητες ισόνομες καθεμία με κατανομή µ. Και τώρα είμαστε σε θέση να δείξουμε το ζητούμενο κάτω φράγμα. Για οποιοδήποτε ε ( δ, δ) υπολογίζουμε ( S ) µ ((a ε, a + ε)) = P (a ε, a + ε) = dµ(x ) dµ(x ) x +x 2 + +x a <ε = e Λ(λ 0) λ 0 (x + +x ) d µ(x ) dµ(x ) Αρα x +x 2 + +x a <ε e Λ(λ 0) λ 0 a λ 0 ε µ ((a ε, a + ε)) = e Λ (a) λ 0 ε µ ((a ε, a + ε)). lim log µ ((a δ, a + δ)) Λ (a) λ 0 ε lim log µ ((a δ, a + δ)). (7.4) Τώρα lim µ ((a δ, a + δ)) = από τον ασθενή νόμο των μεγάλων αριθμών γιατί ( ) X + + X µ ((a δ, a + δ)) = P (a δ, a + δ) και οι X,..., X είναι ανεξάρτητες ισόνομες με μέση τιμή a. Αρα το lim στο δεξί μέλος της ανισότητας (7.4) είναι 0 και παίρνοντας ε 0 έχουμε την (7.6). Περίπτωση 2. µ((, a)), µ((a, )) > 0 και το µ δεν έχει συμπαγή φορέα. Υπάρχει R 0 > 0 μεγάλο ώστε µ(( R 0, a)), µ((a, R 0 )) > 0. Θεωρούμε τώρα οποιοδήποτε R > R 0 και ακολουθία ( ˆX i ) i ανεξάρτητων και ισόνομων τυχαίων μεταβλητών με κατανομή αυτήν της X με τη δέσμευση X R. Δηλαδή P( ˆX A) = P(X A, X R) P( X R) για κάθε A B(R). Θέτουμε Ŝ = ˆX + ˆX 2 + + ˆX. Τότε ( S ) ( S ) P (a ε, a + ε) P (a ε, a + ε), X i R για κάθε i =, 2,..., (7.5) = P ( S (a ε, a + ε), X i R για κάθε i =, 2,..., ) (7.6) P( X i R για κάθε i =, 2,..., ) P( X i R για κάθε i =, 2,..., ) (7.7) (Ŝ ) = P (a ε, a + ε) P( X R) (7.8) Τώρα για την ακολουθία Ŝ / εφαρμόζεται η περίπτωση του κάτω φράγματος. Συμβολίζουμε με I R τη συνάρτηση ρυθμού της αρχής μεγάλων αποκλίσεων που ικανοποιεί η ακολουθία. Αρα lim log µ ((a δ, a + δ)) I R (a) + log P( X R).

4 Μεγάλες αποκλίσεις* Αρχικά, θα βελτιώσουμε την έκφραση του κάτω φράγματος. Θέτουμε C R (λ) = log E(e λx X R). Η ροπογεννήτρια της ˆX είναι E(e λx X R)/ P( X R), με λογάριθμο C R (λ) log P( X R), άρα I R (a) = sup λ R {λa C R (λ)} + log P( X R). Επομένως το προηγούμενο κάτω φράγμα είναι απλώς sup{λa C R (λ)}, λ R το οποίο είναι το αντίθετο του μετασχηματισμού Legedre C R (a) της C R στο a. Ετσι, το ζητούμενο κάτω φράγμα έπεται από τον εξής ισχυρισμό. Ισχυρισμος: lim R C R (a) Λ (a). Η CR (a) είναι φθίνουσα ως προς R γιατί η C R(λ) είναι αύξουσα ως προς R. Αρα lim R CR (a) C r(a) για κάθε r > 0. Εστω u < lim R CR (a). Θέτουμε K r := {λ R : λa C r (λ) u}. Για r R 0, το K r είναι μη κενό αφού u < C r(a) και συμπαγές γιατί η A r (λ) := λa C r (λ) είναι πεπερασμένη παντού και συνεχής ως προς λ με A r ( ) = A r ( ) = (απόδειξη όπως στο Λήμμα 7.6(β)). Επίσης η (K r ) r R0 είναι φθίνουσα ως προς r, άρα η τομή r R0 K r είναι μη κενή και έστω λ 0 ένα σημείο σε αυτήν. Τότε λ 0 a C r (λ 0 ) u για κάθε r R 0. Για r η τελευταία ανισότητα και το θεώρημα μονότονης σύγκλισης δίνουν λ 0 a log Λ(λ 0 ) u, και άρα Λ (a) u. Ο ισχυρισμός αποδείχθηκε. Περίπτωση 3. Κανένας περιορισμός στο µ (πέραν του E(X ) R). Μένει να εξετάσουμε την περίπτωση που ένα τουλάχιστον από τα µ((, a)), µ((a, )) είναι 0. Τότε Λ (a) = sup{λa log E(e λx )} = sup{ log E(e λ(x a) )} = log P(X = a). λ R λ R Η τελευταία ισότητα ισχύει γιατί κάτω από τις υποθέσεις μας, η E(e λ(x a) ) είναι μονότονη ως προς λ και άρα το ifimum της ισούται με το όριό της στο όταν µ((, a)) = 0 και με το όριο της στο όταν µ((a, )) = 0. Τώρα το συμπέρασμα έπεται γιατί µ ((a δ, a + δ)) P(X = X 2 = = X = a) = P(X = a). Παρατήρηση 7.8. (α) (Η ιδέα της αλλαγής μέτρου) Το ουσιαστικό κομμάτι της απόδειξης του κάτω φράγματος είναι η Περίπτωση. Ας πάρουμε την περίπτωση a m και ε μικρό. Το γεγονός A = {S / (a ε, a + ε)} είναι μη τυπικό όταν οι X i έχουν κατανομή µ και δυσκολευόμαστε να εκτιμήσουμε την πιθανότητά του. Αυτό που κάνουμε είναι να αλλάξουμε το νόμο των X i με τέτοιο τρόπο ώστε το A να γίνει τυπικό για αυτό το νέο νόμο. Και πράγματι, ο νόμος µ έχει μέση τιμή a, οπότε, όταν οι X i είναι ανεξάρτητες, καθεμία με κατανομή µ, το A έχει πιθανότητα που τείνει στο. Το κόστος για την αλλαγή νόμου (μέτρου) είναι η παράγωγος Rado-Nikodym, για την οποία ευτυχώς έχουμε καλό έλεγχο. Στο σύνολο A αυτή έχει τιμή περίπου e {Λ(λ 0) λ 0 a}. (β) Προσέξτε ότι για την Περίπτωση 2 του κάτω φράγματος εφαρμόσαμε την τεχνική της περικοπής ώστε να αναχθούμε στην Περίπτωση. Με τον ίδιο τρόπο αποδείξαμε την επέκταση του νόμου των μεγάλων αριθμών στην Ασκηση 2.2. (γ) Το Θεώρημα Cramer ισχύει ακόμα και χωρίς την υπόθεση ότι η E(X ) ορίζεται και είναι πραγματικός αριθμός. Αυτό αποδεικνύεται με λίγες παρεμβάσεις στην απόδειξη πιο πάνω (δες Dembo ad Zeitoui (998), Θεώρημα 2.2.3).

7.4 Το Θεώρημα Cramer 5 I(x) log 2 x Σχήμα 7.: Η συνάρτηση ρυθμού της αρχής μεγάλων αποκλίσεων για τον μέσο όρο ομοιόμορφων στο {, }. Παράδειγμα 7.9. Το Θεώρημα Cramer εφαρμόζεται στην ακολουθία (S /) της Παραγράφου 7. και δίνει ότι αυτή ικανοποιεί την αρχή μεγάλων αποκλίσεων με συνάρτηση ρυθμού I(x) τη Λ (x) της (7.0). Το γράφημά της δίνεται στο Σχήμα 7.. Να παρατηρήσουμε τα εξής Η I έχει την τιμή 0 στη μέση τιμή E(X ) = 0. Η I έχει την τιμή για x [, ], που είναι αναμενόμενο αφού η S / παίρνει τιμές στο [, ]. Οσο απομακρυνόμαστε από το 0 (τη μέση τιμή των X i ), η I(x) αυξάνει. Το γεγονός {S / είναι κοντά στο x} γίνεται ακριβότερο/πιο απίθανο. Τώρα μπορούμε να επιστρέψουμε στην Παράγραφο 7.2 και να δούμε ότι πράγματι το x που μεγιστοποιεί τη διαφορά x log 2 I(x) είναι το x = 3/5. Ασκήσεις 7. Να υπολογιστεί ο μετασχηματισμός Λ στην περίπτωση που η X ακολουθεί την κατανομή (α) Poisso(a), (β) exp(a), (γ) N(0, σ 2 ), όπου a, σ > 0. Επίσης, με χρήση Mathematica ή άλλου προγράμματος να γίνει σε κάθε περίπτωση η γραφική παράσταση του Λ. 7.2 Να υπολογιστεί ο μετασχηματισμός Λ στην περίπτωση που η X έχει πυκνότητα f (x) = (3/2) x 4 x. Τι πληροφορίες δίνει το άνω και το κάτω φράγμα της αρχής μεγάλων αποκλίσεων για την ακολουθία S /; 7.3 Εστω f : R [, ] και D f := {x R : f (x) < }. (α) Αν 0 D f, τότε και άρα lim x f (x) =. (β) Αν D f = R, τότε f (x) lim > 0, x x f (x) lim =. x x

6 Μεγάλες αποκλίσεις*

Παραρτήματα 7

8

Αʹ Αναλυτικά αποτελέσματα Κύριος στόχος αυτού του παραρτήματος είναι η διατύπωση του Λήμματος Αʹ.2 παρακάτω που αφορά υπολογισμό ορίων απειρογινομένων και χρησιμοποιείται σε αποδείξεις ασθενούς σύγκλισης μέσω χαρακτηριστικών συναρτήσεων. Για z C\(, 0], με log z συμβολίζουμε τον κύριο κλάδο του λογαρίθμου του z. Δηλαδή όπου Arg(z) ( π, π) είναι το όρισμα του z. Για z C κοντά στο 0, έχουμε log z = log z + iarg(z), e z + z, log( + z) z. Αυτές οι δύο προσεγγίσεις μας καθοδηγούν όταν κάνουμε ασυμπτωτική ανάλυση απειρογινομένων. Και έπειτα, για να δικαιολογήσουμε αυστηρά το αποτέλεσμα που μας υποδεικνύουν, χρησιμοποιούμε κάποια από τις ανισότητες στο παρακάτω λήμμα. Λήμμα Αʹ.. (i) e x + x για κάθε x R. (ii) log x x για κάθε x (0, ). (iii) e z ( + z) z 2 για κάθε z C με z. (iv) log( + z) z 2 z 2 για κάθε z C με z /2. Απόδειξη. Τα (i), (ii) είναι γνωστά από το λύκειο. (iii) Με χρήση της δυναμοσειράς για την e z έχουμε e z ( + z) = z k k! z 2 k=2 k=2 k! z 2 k=2 2 k = z 2 Για την πρώτη ανισότητα, βγάλαμε κοινό παράγοντα το z 2 και χρησιμοποιήσαμε το ότι z. (iv) Για z C με z /2 ισχύει log( + z) z = ( ) k z k k k=2 k=2 z k = z 2 z 2 z 2. Η πρώτη ισότητα ισχύει για κάθε z με z <, ενώ η τελευταία ανισότητα για z /2. Λήμμα Αʹ.2. Εστω (k ) ακολουθία φυσικών αριθμών και {a, j :, j k } μιγαδικοί αριθμοί. Υποθέτουμε ότι (i) lim k j= a, j = A με A C και (ii) lim k j= a, j 2 = 0. 9

20 Αναλυτικά αποτελέσματα Τότε lim k j= ( + a, j ) = e A. Το συμπέρασμα είναι αναμενόμενο αφού λόγω του (ii) όλα τα a, j είναι κοντά στο 0 και άρα k j= k ( + a, j ) j= e a, j = e k j= a, j. Ο εκθέτης στην τελευταία έκφραση τείνει στο A. Πρέπει να δείξουμε βέβαια αυστηρά ότι το στο όριο γίνεται =. Απόδειξη. Από την υπόθεση (ii), υπάρχει 0 N + ώστε a, j /2 για κάθε 0 j k. Επειτα, έχουμε k j= ( + a, j ) j= {log(+a, j) a, j } e = e k k j= a, j Ο εκθέτης με χρήση του Λήμματος Αʹ.(iv) φράσσεται ως εξής k k k {log( + a, j ) a, j } log( + a, j ) a, j 2 a, j 2. j= j= j= (Αʹ.) Η τελευταία ποσότητα τείνει στο 0 από υπόθεση. Αρα το πηλίκο στην (Αʹ.) τείνει στο και το λήμμα αποδείχθηκε. Πόρισμα Αʹ.3. Αν (c ) N ακολουθία στο C τέτοια ώστε c c, με c C, τότε ( lim + c ) = e c. Απόδειξη. Εφαρμόζουμε το Λήμμα Αʹ.2 με k =, a, j = c / για κάθε και j. Εχουμε j= c = c c και j= ( c ) 2 c 2 = 0 Τέλος, διατυπώνουμε την προσέγγιση Stirlig για τη συνάρτηση Γ. Ο ορισμός της Γ είναι Γ(x) = 0 t x e t dt για κάθε x > 0. Αποδεικνύονται εύκολα οι εξής βασικές ιδιότητές της. (i) Γ() =. (ii) Γ(/2) = π. (iii) Γ(x + ) = x Γ(x) για κάθε x > 0. (iv) Γ() = ( )! για κάθε N +. Η προσέγγιση Stirlig είναι η εξής. Θεώρημα Αʹ.4. Για κάθε x > 0, υπάρχει θ x (0, ) έτσι ώστε ( x ) x 2π Γ(x) = e θx/(2x). e x (Αʹ.2)

2 Για την απόδειξη του θεωρήματος, δες την Παράγραφο 2.33 στο Whittaker ad Watso (965). Για N +, έχουμε την εξής ειδική περίπτωση: ( ) 2π,! = Γ( + ) = Γ() e καθώς.

Βʹ Τεχνικές αποδείξεις Το παράρτημα αυτό περιέχει αποδείξεις κάποιων αποτελεσμάτων οι οποίες είναι πέρα από τον στόχο των σημειώσεων. Καταγράφονται εδώ για τον ενδιαφερόμενο αναγνώστη. Κεφάλαιο 0 Απόδειξη του Θεωρήματος 0.: Επειδή η οικογένεια (G j ) j J είναι ανεξάρτητη αν και μόνο αν κάθε πεπερασμένη υποοιογένεια της είναι ανεξάρτητη, αρκεί να δείξουμε το θεώρημα στην περίπτωση που το J είναι πεπερασμένο. Υποθέτουμε λοιπόν ότι J = {, 2,..., } για κάποιο 2. Για κάθε k J, ονομάζουμε C k το σύνολο των συνόλων της μορφής A i A i2 A ir όπου r και A i, A i2,..., A ir i Ik F i. Παρατηρούμε ότι σ(c k ) = G k. Θέτουμε D := {A G : P(A A 2 A ) = P(A) P(A 2 ) P(A ) για κάθε A 2 C 2,..., A C } Από υπόθεση, C D. Εύκολα δείχνουμε ότι η D είναι κλάση Dyki, άρα δ(c ) D. Ομως η C είναι κλειστή στις πεπερασμένες τομές, οπότε το θεώρημα μονότονης κλάσης δίνει ότι δ(c ) = σ(c ) = G. Αρα τα G, C 2, C 3,..., C είναι ανεξάρτητα. Με ανάλογο επιχείρημα δείχνουμε ότι τα G, G 2, C 3,..., C είναι ανεξάρτητα, και τελικά το θεώρημα. Απόδειξη του Θεωρήματος 0.2: Εστω G j := σ( i I j σ(x i )). Από την υπόθεση ανεξαρτησίας των (X i ) i I και το προηγούμενο θεώρημα, οι σ-άλγεβρες (G j ) i J είναι ανεξάρτητες. Αρκεί επομένως να δείξουμε ότι για κάθε j J, η Y j είναι G j -μετρήσιμη. Εστω W j := (X i ) i I j : Ω R I j, οπότε Y j = f j W j, και για A R σύνολο Borel, έχουμε Y j (A) = W j ( f j (A)). Δεδομένου ότι η f j είναι μετρήσιμη, μένει να δείξουμε τον εξής ισχυρισμό. Ισχυρισμος: Η W j είναι G j μετρήσιμη. Πράγματι, η οικογένεια B j := {B R I j : W j (B) G j } είναι σ-άλγεβρα [ Ασκηση.7(α)] και περιέχει τους μετρήσιμους κυλίνδρους γιατί αν πάρουμε έναν τέτοιο B = i I j B i, θα έχουμε W j (B) = i I j Xi (B i ). Σε αυτή την τομή, μόνο πεπερασμένα σύνολα είναι διαφορετικά από το Ω αφού το {i I j : B i R} είναι πεπερασμένο. Αρα, ως αριθμήσιμη (πεπερασμένη μάλιστα) τομή στοιχείων της σ-άλγεβρας G j είναι στοιχείο της G j. Και επειδή η σ-άλγεβρα γινόμενο παράγεται από τους μετρήσιμους κυλίνδρους, έπεται ότι i I j B(R) B j. Ο ισχυρισμός αποδείχθηκε. Κεφάλαιο Απόδειξη του Θεωρήματος.0: Θα δείξουμε ότι το C είναι ανεξάρτητο από τον εαυτό του. Γιατί αυτό δίνει P(C C) = P(C) P(C), δηλαδή P(C) = P 2 (C), που γράφεται P(C){ P(C)} = 0, από το οποίο προκύπτει το ζητούμενο. 22

Τεχνικές αποδείξεις 23 Ισχυρισμος : Για κάθε, οι σ-άλγεβρες D = σ({x k : k }), C είναι ανεξάρτητες. Αυτό έπεται από το ότι οι (X ) είναι ανεξάρτητες, τους Ορισμούς 0.3, 5.7, και το Θεώρημα 0. για τη διαμέριση {{, 2,..., }, { +, + 2,...}} του N +. Θέτουμε τώρα D = N D. Ισχυρισμος 2: Το C είναι ανεξάρτητο από κάθε στοιχείο της σ(d). Επειδή το C είναι στοιχείο της C για κάθε, έπεται ότι το C είναι ανεξάρτητο από κάθε D και άρα από κάθε στοιχείο της ένωσής τους, που είναι το D. Το σύνολο E των στοιχείων της σ(d) που είναι ανεξάρτητα από το C είναι μια κλάση Dyki ( Ασκηση 3.) που περιέχει την D και η D είναι κλειστή στις πεπερασμένες τομές. Αρα, από το θεώρημα π-λ, σ(d) = δ(d). Ομως δ(d) E σ(d), οπότε E = σ(d). Τώρα C σ(d) γιατί εύκολα βλέπουμε ότι σ(d) = σ({x : }). Αρα από τον Ισχυρισμό 2 έχουμε ότι το C είναι ανεξάρτητο από τον εαυτό του. Κεφάλαιο 4 Απόδειξη του Θεωρήματος 4.8: Εστω F και F η συνάρτηση κατανομής των μέτρων µ, µ αντίστοιχα. Αν τα a, b είναι σημεία συνέχειας της F, τότε για την f := (a,b] ισχύει η (4.3). Πράγματι (a,b] (x) dµ (x) = µ ((a, b]) = F (b) F (a) F(b) F(a) = (a,b] (x) dµ(x) (Βʹ.) για. Εστω τώρα f συνεχής και φραγμένη. Θέτουμε f := sup x R f (x). Παίρνουμε ε > 0. Βρίσκουμε K > 0 ώστε τα K, K να είναι σημεία συνέχειας της F και F( K) ε, F(K) ε. Σταθεροποιούμε ε > 0. Επειδή η f είναι ομοιόμορφα συνεχής στο [ K, K], υπάρχει δ > 0 ώστε x, y [ K, K], x y < δ f (x) f (y) < ε. (Βʹ.2) Βρίσκουμε στο [ K, K] σημεία K = a 0 < a < a 2 < < a N < a N = K ώστε 0 < a i a i < δ για κάθε i =, 2,..., N και η F να είναι συνεχής σε καθένα από τα a, a 2,..., a N. Εστω I i := (a i, a i ] για i =, 2,..., N και N s(x) := f (a i ) (ai,a i ](x) Τότε i= lim s(x) dµ (x) = s(x) dµ(x) λόγω της (Βʹ.) και του ότι τα a 0, a,..., a N είναι σημεία συνέχειας της F. f (x) s(x) < ε για κάθε x ( K, K]. Αρα f (x) dµ (x) s(x)dµ (x) f (x) s(x) dµ (x) (Βʹ.3) f (x) s(x) x K dµ (x) + f (x) s(x) x>k dµ (x) + f (x) s(x) x ( K,K] dµ (x) f {µ ((, K]) + µ ((K, ))} + ε µ (( K, K]) f {F ( K) + F (K)} + ε Αρα lim f (x) dµ (x) s(x)dµ (x) 2ε f + ε. Ομοια, f (x) dµ(x) s(x)dµ(x) 2ε f + 2ε. (Βʹ.4) (Βʹ.5) (Βʹ.6)

24 Τεχνικές αποδείξεις Αρα, από την τριγωνική ανισότητα, lim f (x) dµ (x) f (x) dµ(x) 4ε f + ε. Το αριστερό μέλος δεν εξαρτάται από τα ε, ε. Θεωρούμε λοιπόν ε, ε 0 + και το ζητούμενο έπεται. Εστω x 0 R σημείο συνέχειας της F. Για ε > 0, θεωρούμε τη συνεχή και φραγμένη συνάρτηση αν x x 0, f (x) = (x x 0 ε)/ε αν x (x 0, x 0 + ε], (Βʹ.7) 0 αν x x 0 + ε. η οποία ικανοποιεί (,x0 ](x) f (x) (,x0 +ε](x). Παίρνοντας ολοκλήρωμα ως προς µ στην πρώτη ανισότητα, ως προς µ στη δεύτερη ανισότητα, και χρησιμοποιώντας την υπόθεση παίρνουμε lim F (x 0 ) lim f (x) dµ (x) = f (x) dµ(x) F(x 0 + ε). Ομως το ε είναι αυθαίρετο. Και επειδή η F είναι δεξιά συνεχής στο x 0, για ε 0 παίρνουμε lim F (x 0 ) F(x 0 ). Για το κάτω φράγμα, παίρνουμε ε > 0 και θεωρούμε τη συνάρτηση αν x x 0 ε, g(x) = (x x 0 )/ε αν x (x 0 ε, x 0 ], 0 αν x x 0, (Βʹ.8) (Βʹ.9) η οποία ικανοποιεί (,x0 ε](x) g(x) (,x0 ](x). Οπως πριν παίρνουμε lim F (x 0 ) lim g(x) dµ (x) = g(x) dµ(x) F(x 0 ε). Επειδή η F είναι αριστερά συνεχής στο x 0 (εδώ μόνο χρησιμοποιούμε ότι το x 0 είναι σημείο συνέχειας της F), για ε 0 παίρνουμε lim F (x 0 ) F(x 0 ). (Βʹ.0) Η τελευταία σχέση μαζί με την (Βʹ.8) δίνουν το ζητούμενο. Απόδειξη του Θεωρήματος 4. (i) (ii): Ισχυρισμος: Αν το A είναι κλειστό, τότε lim P(X A) P(X A). Σταθεροποιούμε c > 0 και θεωρούμε τη συνάρτηση f c (x) := /( + d(x, A)) c, όπου d(x, A) := if{ x y : y A} είναι η απόσταση του x από το A. Η f c είναι συνεχής, φραγμένη, και ικανοποιεί A f c. Αρα lim P(X A) lim E f c (X ) = E f c (X). (Βʹ.) Τώρα, lim c f c (x) = A (x) για κάθε x επειδή κάθε x R\A έχει d(x, A) > 0 (το A είναι κλειστό). Οπότε, παίρνοντας c στην (Βʹ.) κατά μήκος μιας ακολουθίας (π.χ. c = k φυσικός) το θεώρημα φραγμένης σύγκλισης δίνει ότι lim k E f k (X) = E A (X) = P(X A). Και ο ισχυρισμός αποδείχθηκε. Αν το A είναι ανοιχτό, τότε εφαρμόζοντας τον ισχυρισμό για το κλειστό R\A παίρνουμε lim P(X A) P(X A).

Τεχνικές αποδείξεις 25 Τώρα για ένα A όπως στην εκφώνηση έχουμε P(X Ā) = P(X A ) + P(X A) = P(X A ). Και από τα πιο πάνω P(X A ) lim P(X A ) lim P(X A) lim P(X A) lim P(X Ā) P(X Ā). Το ζητούμενο έπεται. Κεφάλαιο 5 Απόδειξη του Λήμματος 5.: Από τον ορισμό του μετασχηματισμού Fourier του μέτρου µ έχουμε u u u ( ˆµ(t)) dt = ( e itx ) dµ(x) dt = ( cos(tx) + i si(tx)) dt dµ(x). u u Η δεύτερη ισότητα προκύπτει από το Θεώρημα 9.4 (Toelli-Fubii). Εφόσον η συνάρτηση cos(tx) είναι άρτια και η συνάρτηση si(tx) είναι περιττή, το τελευταίο ολοκλήρωμα ισούται με u ( 2 ( cos(tx)) dt dµ(x) = 2 u si(ux) ) ( dµ(x) = 2u si(ux) ) dµ(x). x ux u Παρατηρούμε τώρα ότι η συνάρτηση στο τελευταίο ολοκλήρωμα είναι μη αρνητική ( si(ux) ux 0 για κάθε x R. Αρα, αν ολοκληρώσουμε σε μικρότερο χωρίο, το ολοκλήρωμα μικραίνει) και για ux > 2 έχουμε si(ux) ux ux 2. Συνεπώς, u ({ { ˆµ(t)} dt 2u dµ(x) = uµ x : x > 2 }), (Βʹ.2) 2 u που είναι το ζητούμενο. u {x: x >2/u} u

Υποδείξεις για επιλεγμένες ασκήσεις Κεφάλαιο.5 Αν παραγόταν, τότε η διαμέριση θα ήταν αναγκαστικά η C := {{x} : x R}. Επειτα, χρησιμοποιούμε την Ασκηση.3..6 B = A, B 2 = A 2 \A, B 3 = A 3 \(A A 2 ),....7 (α) B γιατί f ( ) = και F. Επειτα, αν A B τότε f (Y\A) = X\ f (A) και εφόσον f (A) A και η A είναι σ-άλγεβρα, έχουμε ότι X\ f (A) F. Αρα Y\A B. Τέλος, αν (A ) N είναι ακολουθία στη B, τότε f ( N A ) = N f (A ) A..8 Θα αποδείξουμε ότι η A είναι σ-άλγεβρα στην περίπτωση που ισχύει το. Με παρόμοιο τρόπο αποδεικνύονται και οι άλλες δυο περιπτώσεις. Αφού η A είναι άλγεβρα, αρκεί να δείξουμε ότι είναι κλειστή στις αριθμήσιμες ενώσεις. Εστω {B } N ακολουθία στην A. Θέτουμε A = i= B i =, 2,.... Τότε, η A είναι αύξουσα και N A = N B. Αρα, λόγω του έχουμε N B A. Κεφάλαιο 2 2.2 Εχουμε ότι = P(A ) = P( = A ). Αφού η σειρά συγκλίνει, lim P(A ) = 0. 2.3 (α) Ισχύει ότι P( = A ) = P(A ) = 0. (β) Ισχύει ότι P( = A ) = P( = Ac ) = αφού P( = Ac ) = 0 λόγω του (α). 2.4 Λόγω της προηγούμενης άσκησης, πρέπει τα I, I να είναι υπεραριθμήσιμα. Εστω Ω = (0, ), F = B((0, )), P = λ το μέτρο Lebesgue, I = I = (0, ), A x := {x}, B x := (0, )\{x} για κάθε x (0, ). Τότε (α) P(A x ) = P({x}) = 0 για κάθε x (0, ), όμως P( x (0,) A x ) = P((0, )) =. (β) P(B x ) = για κάθε x (0, ), όμως P( x (0,) B x ) = P( ) = 0. 2.5 Για, θέτουμε B = {β B : P(A β ) }. Τότε B, γιατί P( β B A β ) και P( β B A β ) = β B P(A β ) B. Αφού B = = B, με B πεπερασμένο για κάθε, έχουμε το ζητούμενο. 2.6 Για την πρώτη ανισότητα έχουμε P(lim if A ) = P( = k= A k) = lim P( k= A k) lim P(A ). Η δεύτερη ισότητα ισχύει γιατί η ακολουθία B := k= A k είναι αύξουσα, ενώ η ανισότητα ισχύει γιατί B A. Η ανισότητα lim P(A ) P(lim sup A ) αποδεικνύεται όμοια. Κεφάλαιο 3 3. Χρήσιμη είναι η Πρόταση 2.2 3.2 Η A δεν περιέχει το {2} που είναι τομή των {, 2}, {2, 3}. 3.3 Από το Θεώρημα 3.6 έχουμε ότι σ(c ) = δ(c ). Κεφάλαιο 4 4. Εστω A(F) := {x R : Η F είναι ασυνεχής στο x}. Επειδή η F είναι αύξουσα, σε κάθε σημείο ασυνέχειας, η F έχει άλμα προς τα πάνω, δηλαδή, F(x ) < F(x+) (βέβαια, F(x+) = F(x), αλλά δεν το 26

Υποδείξεις για επιλεγμένες ασκήσεις 27 χρειαζόμαστε). Για x A(F) επιλέγουμε έναν ρητό q x (F(x ), F(x+)). Επειδή η F είναι αύξουσα, η απεικόνιση x q x είναι - από το A(F) στο Q. Εναλλακτικά, θεωρούμε το σύνολο B = {x R : η F είναι ασυνεχής στο x} και θέτουμε A β = {β}, β B. Τότε P(A β ) = F(β) F(β ) > 0, αφού η F έχει άλμα στο x, και εφαρμόζουμε το συμπέρασμα της Ασκησης 2.5. 4.2 (α) Εχουμε ότι P((0, 4)) = λ P ((0, 4)) + ( λ) P 2 ((0, 4)) = λ = λ( e 4 ) + ( λ) 2. 4 0 e x dx + ( λ) 2 (β) Γνωρίζουμε ότι F(x) = P((, x]) = λ P ((, x])+( λ) P 2 ((, x]). Εύκολα μπορεί κανείς να ελέγξει ότι 0 αν x < 2, ( λ) 2 αν 2 x 0, F(x) = λ( e x ) + ( λ) 2 αν 0 < x < 3, λe x αν x 3. 4.3 Για το (α), έχουμε P({x}) = P Για το (β), N + ( x ] ((x, x = lim P ]) ( (, x = lim F(y) F x )) (i) = F(y) F(x ). P ( [x, y] ) = P ( {x} ) + P ( (x, y] ) (α),(4.) = F(x) F(x ) + F(y) F(x) = F(y) F(x ). Τα (γ) και (δ) προκύπτουν με τον ίδιο τρόπο. Κεφάλαιο 5 5. Το σύνολο A := {A R : f (A) F } είναι σ-άλγεβρα [ Ασκηση.7(i)]. Εστω T η οικογένεια των ανοιχτών υποσυνόλων του R. Προφανώς το (α) συνεπάγεται τα (β), (γ). Αν υποθέσουμε το (β), δηλαδή T A, τότε σ(t ) A, που είναι το (α). Επειτα θέτουμε A 4 := {[a, b] : a < b, a, b R}. Αν ισχύει το (γ), δηλαδή A 4 A, τότε σ(a 4 ) A. Μένει να δείξουμε ότι σ(a 4 ) = B(R). 5.2 Τα σύνολα { }, { } είναι κλειστά. 5.3 Εστω f μετρήσιμη και i 0 I. Ας υποθέσουμε ότι η f παίρνει δύο διαφορετικές τιμές a < b στο A i0. Θα έπρεπε λοιπόν το σύνολο A i0 { f < b} να ανήκει στην F. Ομως, αυτό το σύνολο είναι μη κενό και γνήσιο υποσύνολο του A i0. Τέτοιο σύνολο δεν υπάρχει στην F (δες στο Παράδειγμα. για την περιγραφή της F ). Επίσης, είναι εύκολο να δείξει κανείς ότι μια συνάρτηση που είναι σταθερή σε κάθε σύνολο της διαμέρισης είναι μετρήσιμη. Αρα, αυτές είναι ακριβώς όλες οι μετρήσιμες συναρτήσεις στον (Ω, F ). 5.4 (α) {ω Ω : lim X (ω) = } = k= j= r= j {X r > k}. (β) Το lim X (ω) υπάρχει στο R αν και μόνο αν η ακολουθία (X (ω)) είναι βασική. Δηλαδή για κάθε k υπάρχει j ώστε X r (ω) X s (ω) < /k για κάθε r, s j. Αρα, το δοσμένο σύνολο γράφεται ως... Εναλλακτικά, το δοσμένο σύνολο γράφεται ως {lim X (ω) = lim X (ω)} {lim X (ω) R}. Οι lim X (ω), lim X (ω) είναι μετρήσιμες. 5.5 Χρησιμοποιούμε το Πόρισμα 5.4. Η αντίστροφη εικόνα κάθε διαστήματος είναι διάστημα (και άρα Borel-μετρήσιμο) αφού η f είναι μονότονη. 5.6 Θεωρούμε τη συνάρτηση h = f g. Τότε η h είναι μετρήσιμη και ισχύει ότι { f = g} = h ({0}) A, εφόσον {0} B(R).

28 Υποδείξεις για επιλεγμένες ασκήσεις Εναλλακτικά, από το οποίο έπεται το ζητούμενο. Ω\{ f = g} = { f g} = { f > g} {g > f } = ( q Q ({ f > q} {g < q}) ) ( q Q ({g > q} { f < q}) ) 5. Επειδή το {X > } έχει θετική πιθανότητα και ισούται με την αριθμήσιμη ένωση { {X > } = X > + }, κάποιο από τα σύνολα της ένωσης πρέπει να έχει θετική πιθανότητα. = Κεφάλαιο 6 6. Στην ισότητα i= A i = ( A )( A2 ) ( A ), αναπτύσσουμε το δεξί μέλος και παίρνουμε μέση τιμή. 6.2 Θεωρούμε την τυχαία μεταβλητή X = k= A k. 6.3 X = X k= = k= k X και θεώρημα Beppo Levi. 6.4 [X] X [X] +. 6.6 (α) Δουλεύουμε όπως στην αποδειξη της ανισότητας Chebyshev. Χρησιμοποιήσαμε το ότι ( a)ex > 0. (β) Εστω A := {ω : X(ω) > a E X}. P(X a E X) = P(X E X ( a) E X) P( X E X ( a) E X) Var(X) ( a) 2 (E X) 2. E X = E(X A c) + E(X A ) a E X + E(X 2 ) /2 P(A) /2 ( a) E X E(X 2 ) /2 P(A) /2 P(A) ( a)(e X) 2 / E(X 2 ) Στην πρώτη γραμμή χρησιμοποιήσαμε την ανισότητα Cauchy-Schwarz και το ότι X a E X στο A c. 6.7 P(X > t) = P(aX > at) = P(e ax > e at ) E(e ax )/e at. Παίρνουμε C = E(e ax ) (0, ). 6.8 Χρησιμοποιούμε την ανισότητα Cauchy-Schwarz. 6.0 Χρησιμοποιούμε την προηγούμενη άσκηση. E( XY) (E(X)) /2 (E(Y)) /2. 6.3 Η ακολουθία A := { X > }, είναι φθίνουσα με τομή το αφού η X παίρνει τιμές στο R. Αρα lim P(A ) = P( ) = 0. 6.4 Εστω a t := f t (x)dµ(x). Για οποιοδήποτε l R ισχύει lim t a t = l αν και μόνο αν για κάθε ακολουθία (t ) με t ισχύει lim a t = l. Ετσι, αναγόμαστε στο γνωστό θεώρημα κυριαρχημένης σύγκλισης. 6.5 Στην απόδειξη της ανισότητας Markov μπορούμε να είμαστε λιγότερο γεναιόδωροι και να παρατηρήσουμε ότι η ποσότητα P( X ) είναι μικρότερη από τη μέση τιμή E( X X ). 6.7 Για το (α), αρκεί να το δείξουμε για κάθε ακολουθία (ε ) θετικών αριθμών με ε 0. Χρησιμοποιούμε το θεώρημα κυριαρχημένης σύγκλισης με κυριαρχούσα συνάρτηση την αφού X ε X<ε.

Υποδείξεις για επιλεγμένες ασκήσεις 29 Κεφάλαιο 7 7.3 Εύκολα ελέγχουμε την ισότητα για Y = i= a i Ai, A i F, απλή αφού A dq = Q(A) = E P (X A ) για κάθε A F και λόγω γραμμικότητας. Αν τώρα η Y είναι μη αρνητική, γνωρίζουμε ότι υπάρχει ακολουθία (Y ) N απλών μη αρνητικών συναρτήσεων έτσι ώστε Y Y. Από το θεώρημα μονότονης σύγκλισης, έχουμε ότι lim Y dq = Y dq και lim E P (Y X) = E P (YX). Ομως, Y dq = E P (Y X) για κάθε N, άρα και πάλι το ζητούμενο ισχύει. Τέλος, αν E P ( Y X) <, από τα προηγούμενα έχουμε ότι Y dq = E P (Y X), Y + dq = E P (Y + X) όπου και οι τέσσερις αυτοί αριθμοί είναι πεπερασμένοι εφόσον E P (Y X) + E P (Y + X) = E P ( Y X) <, Y dq + Y + dq = Y dq = E P ( Y X) (η τελευταία ισότητα ισχύει αφού η Y είναι θετική). Συνεπώς, Y dq = Y + dq Y dq = E P (Y + X) E P (Y X) = E P (YX). 7.4 Για την πρώτη ανισότητα, παρατηρούμε ότι η συνάρτηση x P(X > x) έχει παράγωγο e x2 /2 / 2π και μελετούμε τη συνάρτηση της διαφοράς των δύο μελών. Κεφάλαιο 8 8. Για τα ω στο σύνολο lim sup A ε έχουμε X ε για άπειρα και άρα lim sup A ε Ω\{lim X = 0}. Για το ότι το (β) δίνει το (α), παρατηρούμε ότι Ω\{lim X = 0} = k= lim sup A/k και χρησιμοποιούμε την Ασκηση 2.3 (α). 8.2 (α) Για την τριγωνική ανισότητα. Επειδή X Z X Y + Y Z και η f (x) = x/( + x) = ( + x) είναι αύξουσα [στο [0, )], αρκεί να δείξει κανείς ότι για x, y 0 ισχύει f (x + y) f (x) + f (y). Αυτό προκύπτει με πράξεις ή παρατηρώντας ότι η x f (x + y) f (x) f (y) είναι φθίνουσα στο [0, ). 9. f (x) dx = 0 = 2 0 Κεφάλαιο 9 x r dx 2 = 2 0 x dx < Από γνωστή πρόταση [Πρόταση 6.2(iii)] έπεται ότι το σύνολο των x (0, ) με f (x) = έχει μέτρο Lebesgue 0. 9.2 Ενας τρόπος. Γράφουμε g(x) = g(0) + X 0 g (t) dt = g(0) + Παίρνουμε μέση τιμή και εφαρμόζουμε το Θεώρημα Fubii. Κεφάλαιο 0 0 g (t) t<x dt. 0. Θέλουμε P(A B) = P(A) P(B) για κάθε A F, B F 2. Θεωρούμε τα δύο σενάρια P(A) = 0 ή P(A) =. 0.2. Εστω ότι δεν υπάρχει τέτοιο c. Τότε υπάρχει a R ώστε P(X < a) = p (0, ) και επομένως P(X a) = p (0, ). Η ανεξαρτησία δίνει P(X < a, Y a) = P(X < a) P(Y a) > 0, ενώ το αριστερό μέλος είναι μικρότερο απο P(X Y) = 0 από υπόθεση. Ατοπο. 0.7 (γ) Εχουμε ότι E(S ) = E(X ) = 0 και λόγω του (α) ότι E(S ) 2 =. Εστω ɛ > 0. Τότε, ( S ) P > ɛ = P( S > ɛ) = P(S 2 > 2 ɛ 2 ) E(S ) 2 = 2 ɛ 2 2 ɛ = 2 ɛ 0 2

30 Υποδείξεις για επιλεγμένες ασκήσεις για. 0.8. Για ε > 0, χρησιμοποιώντας την ανεξαρτησία των X, X 2,..., βρίσκουμε και όμοια P( m > ε) = P(m > ε) = P(X > ε,..., X > ε) = ( ε) 0, P( M > ε) = P(M < ε) = P(X < ε,..., X < ε) = ( ε) 0. Κεφάλαιο.3. Αποδεικνύουμε το ζητούμενο για τη M. Το όριο είναι το πολύ αφού κάθε μια X i είναι το πολύ. Για το κάτω φράγμα, εφαρμόζουμε το πρώτο λήμμα Borel-Catelli. Για ε > 0, θέτουμε A ε := {M ε}. Επειδή P(A ε ) ( ε) και P(A ) <, με πιθανότητα για όλα τα μεγάλα ισχύει M ε. Αρα το σύνολο B ε := {lim M ε} έχει πιθανότητα και επομένως το ίδιο ισχύει και για το k= B /k = {lim M }. Εναλλακτικά, μπορεί να παρατηρήσει κανείς ότι P(A / ) = ( /2 ) e (με χρήση της x e x ) και e <. Το συμπέρασμα έπεται από το πρώτο λήμμα Borel-Catelli..6 Αρκεί για κάθε να βρούμε σταθερά M ώστε P( X > M ) 2. Τότε η a = M ικανοποιεί το ζητούμενο (πρώτο λήμμα Borel-Catelli)..7 Η κατεύθυνση είναι πιο εύκολη. Αν υπάρχει τέτοιο M τότε (από το πρώτο λήμμα Borel-Catelli) με πιθανότητα, ισχύει X M για όλα τα μεγάλα και έπεται το συμπέρασμα. [Να το γράψουμε και τυπικά. Το σύνολο A := lim sup {X > M} έχει πιθανότητα 0 και για κάθε ω Ω\A υπάρχει φυσικός 0 (ω) ώστε X M για κάθε 0 (ω). Αρα X (ω) max{x, X 2,..., X 0 (ω), M} <, ως μέγιστο πεπερασμένου αριθμού πραγματικών αριθμών.] Για την άλλη κατεύθυνση, έστω ότι δεν υπάρχει τέτοιο M, τότε για κάθε K N, το δεύτερο λήμμα Borel-Catelli δίνει ότι P(lim sup {X > K}) = (εδώ χρησιμοποιούμε την ανεξαρτησία των X ). Επομένως το C K := {X K} έχει πιθανότητα και άρα και το K= C K (αριθμήσιμη τομή συνόλων με πιθανότητα ). Ομως K= C K = {X = }, το οποίο από υπόθεση έχει πιθανότητα 0, και έχουμε άτοπο..8 Χρήσιμη είναι η Ασκηση 7.4..9. Το όριο είναι το πολύ λόγω της Ασκησης 2.6. Για το κάτω φράγμα, εφαρμόζουμε το πρώτο Λήμμα Borel-Catelli. Για ε > 0 ( ) M P log ε = P(X ( ε) log ) = ( ( ε) ) (e ε ) = e ε και συνεχίζουμε όπως στην προηγούμενη άσκηση. {.0. (α) Εστω ɛ > 0. Θέτουμε B ɛ = lim Εστω A = { L log 2 > + ɛ}. Τότε L log 2 + ɛ }. Θα δείξουμε ότι P(B ɛ ) =. Συνεπώς, P(A ) = P(L > ( + ɛ) log 2 ) = P(X = X + =... = X +[(+ɛ) log2 ] = K ή Γ) = 2 P(X = X + =... = X +[(+ɛ) log2 ] = K) ( [(+ɛ) log2 ] ( (+ɛ) log2 4 = 2 2 = 2) 2) 2 = 4 (+ɛ) log 2. +ɛ P(A ) < =

Υποδείξεις για επιλεγμένες ασκήσεις 3 και από το πρώτο Λήμμα Borel-Catelli, P(lim sup A ) = 0, δηλαδή P({lim sup A } c ) =. Εστω τώρα ω (lim sup A ) c. Τότε υπάρχει 0 (ω) N τέτοιο ώστε για κάθε 0 (ω) να ισχύει: άρα L (ω) log 2 + ɛ, L (ω) lim log 2 + ɛ. Προκύπτει, λοιπόν, ότι ω B ɛ. Αρα (lim sup A ) c B ɛ, οπότε P(B ɛ ) =. Επειδή { lim } L log 2 = k= B k και P(B /k ) = για κάθε k, από την Ασκηση 2.3 (β) έχουμε Ετσι, το (α) αποδείχθηκε. P ( k= B k ) =. (β) Επειδή κάθε L παίρνει τιμή που είναι ένας θετικός ακέραιος ή, το ζητούμενο ισοδυναμεί με P(L = άπειρες φορές) = (δηλαδή ο μόνος τρόπος να πλησιάσει η L το είναι να πέσει πάνω του). Εστω B = {X 2 = K, X 2+ = Γ} για κάθε. Εύκολα βλέπουμε ότι τα (B ) είναι ανεξάρτητα και ισχύει ότι P(B ) = 2 2 = 4. Αρα, P(B ) =. Από το δεύτερο Λήμμα Borel-Catelli, έχουμε ότι P(lim sup B ) =. Ομως = lim sup B {L = άπειρες φορές}. Αρα και το τελευταίο ενδεχόμενο έχει πιθανότητα.. Χρησιμοποιώντας την Ασκηση 8. και ότι οι X είναι ανεξάρτητες, δείχνουμε πρώτα ότι ο ισχυρισμός για το όριο είναι ισοδύναμος με τη = P( X ε) < για κάθε ε > 0. Επειτα χρησιμοποιούμε ότι οι X είναι ισόνομες και την Ασκηση 6.4..2 Χρησιμοποιούμε την Ασκηση 6.4 και τα δύο λήμματα Borel-Catelli..4. Αν το δεξί μέλος είναι, δεν έχουμε τίποτα να αποδείξουμε. Αν είναι πεπερασμένο, ας το ονομάσουμε a. Επεται ότι υπάρχει ένας θετικός ακέραιος 0 ώστε E(X ) < για κάθε 0. Ως πρώτο βήμα δείχουμε ότι για κάθε ε > 0, με πιθανότητα, η ανισότητα ισχύει μόνο για πεπερασμένα. log X > a + ε.7. (β) Από το προηγούμενο ερώτημα, οι (X i ) i I είναι ανεξάρτητες. Αρα ο νόμος 0- του Kolmogorov εφαρμόζεται για την τελική σ-αλγεβρα τους C := = σ(x, X +,...). Βέβαια το αν ένα ω Ω ανήκει σε ένα από τα lim if A i, lim sup A i δεν εξαρτάται από οποιαδήποτε πεπερασμένο πλήθος X (ω),..., X k (ω), οπότε και τα δύο σύνολα ανήκουν στη C. Τυπικά το αποδεικνύουμε ως εξής. Για κάθε, lim if i A i = j= k= j A k = j= k= j A k = j= k= j X k ({}) σ(x, X +,...).

32 Υποδείξεις για επιλεγμένες ασκήσεις Η δεύτερη ισότητα ισχύει γιατί έχουμε ένωση μιας αύξουσας ακολουθίας συνόλων. Ομοια lim sup A i = j= k= j A k = j= k= j A k = j= k= j X k ({}) σ(x, X +,...). i.8. (α) Από τον απειροστικό λογισμό ξέρουμε ότι R = lim X /. (β) Δείχνουμε όπως στην Ασκηση.8 ότι lim X / = με πιθανότητα. Μάλιστα εδώ αρκεί η χρήση του πρώτου λήμματος Borel-Catelli για να δείξουμε ότι lim X / =..20. Δουλεύουμε όπως στην προηγούμενη άσκηση. Κεφάλαιο 2 2. Εστω Y = S. Τότε E(Y) = E(X + X 2 +... + X ) = E(X ) = µ και Var(Y) = Var( S ) = Var(X 2 + X 2 +... + X ) = Var(X ). Εστω ɛ > 0. Τότε, ( S P µ ) ɛ = P( Y E(Y) ɛ) ɛ Var(Y) = Var(X ) 0 2 ɛ 2 για, από το οποίο προκύπτει το ζητούμενο. 2.2 Εστω M > 0. Για κάθε i θέτουμε Yi M = X i M. Οι Yi M είναι ανεξάρτητες και ισόνομες, και ισχύει ότι (Yi M ) = Xi, (Y i M ) + M. Συνεπώς E( Yi M ) E(Xi ) + M <. Θέτουμε S M = Y M + Y 2 M +... + Y M για κάθε. Τότε, με πιθανότητα, S lim lim S M = E(Y M ), όπου η ισότητα προκύπτει από το νόμο των μεγάλων αριθμών. Εστω τώρα { } S (ω) Ω M = ω Ω : lim E(X M). Δείξαμε ότι P(Ω M ) = για κάθε M > 0. Θεωρώντας το σύνολο A = k= Ω k, έχουμε ότι P(A) = και για ω A, ισχύει ότι S (ω) lim E(X k) για κάθε k. (Βʹ.3) Από το θεώρημα μονότονης σύγκλισης, E(Y k) = E(X+ k) E(X ) E(X+ ) E(X ) = για k. Αρα, για ω A, παίρνοντας k στην (Βʹ.3) έχουμε ότι lim S (ω)/ =, οπότε lim S (ω)/ =, που είναι το ζητούμενο. 2.3 Παρατηρούμε ότι X = S S = S S µ µ = 0 (Βʹ.4) για με πιθανότητα. Αυτό δίνει ότι E X < λόγω της Ασκησης., αλλά θα το αποδείξουμε και εδώ (λύνοντας τη μισή άσκηση). Η (Βʹ.4) συνεπάγεται ότι = P ( X ) < γιατί αν = P ( X ) =, { τότε το 2ο λήμμα Borel-Catelli, εφαρμοζόμενο στην ακολουθία ανεξάρτητων ενδεχομένων A = X }, θα έδινε ότι lim X / με πιθανότητα, το οποίο συγκρούεται με την (Βʹ.4). Τέλος, ισχύει ότι ( Ασκηση 6.4) P ( X ) E( X ) P ( X ) +. Αρα E(X ) R και από το νόμο των μεγάλων αριθμών S E(X ) = µ. = = E(X ). Ομως, από υπόθεση S µ, επομένως 2.4 Εχουμε ότι E(X ) = και E(X 2) = Var(X ) + E(X ) 2 = 4, καθώς επίσης και ότι οι {Xi 2, i } είναι ανεξάρτητες και ισόνομες. Γράφουμε X+X2+...+X X + X 2 +... + X (X ) 2 + (X 2 ) 2 +... + (X ) = 2 (X ) 2 +(X 2 ) 2 +...+(X ) 2.

Υποδείξεις για επιλεγμένες ασκήσεις 33 Από το νόμο των μεγάλων αριθμών ο αριθμητής συγκλίνει στο με πιθανότητα και αντίστοιχα ο X παρονομαστής στο 2. Τυπικά, για τα A = {ω Ω : lim +X 2 +...+X = } και A 2 = {ω Ω : (X lim ) 2 +(X 2 ) 2 +...+(X ) 2 = } έχουμε ότι P(A ) = P(A 2 ) =. Αρα P(A A 2 ) = και για ω A A 2 έχουμε lim από το οποίο προκύπτει το ζητούμενο. 2.5. S = (S /) E(X ) = αφού E(X ) > 0. X (ω) + X 2 (ω) +... + X (ω) (X ) 2 (ω) + (X 2 ) 2 (ω) +... + (X ) 2 (ω) = 4, 2.6. (α) (U U 2 U ) / = e (log U + +log U ) Επειδή E(log U ) = log x dx =... =, ο ισχυρός νόμος 0 των μεγάλων αριθμών για την ακολουθία (log U i ) i δίνει ότι Το συμπέρασμα έπεται. log U + + log U lim = με πιθανότητα. (β) Επεται από το (α). Επιλέγουμε θ ώστε e < θ <. Με πιθανότητα, υπάρχει 0 N ώστε για > 0 να ισχύει (U U 2 U ) / < θ. Αρα για > 0 καθώς επειδή 0 < θ <. Εναλλακτικά, U U 2 U = e log U 0 < U U 2 U < θ 0 + +log U 0 αφού το όριο του εκθέτη είναι ( ) =. (γ) Η ακολουθία (Ui a) i αποτελείται από ανεξάρτητες και ισόνομες τυχαίες μεταβλητές, καθεμία με μέση τιμή E(U a ) = x a +a αν a >, dx = 0 αν a. Το συμπέρασμα έπεται από τον ισχυρό νόμο των μεγάλων αριθμών και την Ασκηση 2.2. 2.7. Οι όροι της ακολουθίας ((X i µ) 2 ) i είναι ανεξάρτητες ισόνομες τυχαίες μεταβλητές, καθεμία με μέση τιμή E((X µ) 2 ) = V(X ) = σ 2. Ο ισχυρός νόμος των μεγάλων αριθμών δίνει το συμπέρασμα. Κεφάλαιο 3 3.4 Η ροπογεννήτρια της X είναι Η συνάρτηση f : C\[λ, ) C με ( t a M X (t) = λ) αν t < λ, αν t λ. f (z) = ( z λ) a = e a log( z λ) είναι αναλυτική στο πεδίο ορισμού της, το οποίο περιέχει το {z C : Re(z) < λ}, και M X (t) = f (t) για κάθε t ( λ, λ). Το συμπέρασμα έπεται από την Πρόταση 3.7. 3.7 Εστω u R. Τότε φ X (u) = E(e iu( X) ) = φ X ( u) = φ X (u). Συνεπώς, αν X = d X, έχουμε ότι φ X (u) = φ X (u) = φ X (u) για κάθε u R, δηλαδή φ X (u) R. Αντίστροφα, αν φ X (u) R, έχουμε ότι φ X (u) = φ X (u), όμως από τα παραπάνω φ X (u) = φ X (u), άρα X d = X. 3.8 η λύση (στοιχειώδης): Το ζευγάρι (X, Y) έχει την ίδια κατανομή με το (Y, X) (η οποία είναι το μέτρο γινόμενο P X P X ). Θεωρούμε τη συνάρτηση f (x, y) = x y. Τότε X Y = f (X, Y) d = f (Y, X) = Y X.

34 Υποδείξεις για επιλεγμένες ασκήσεις 2η λύση: Εστω u R. Τότε, φ X Y (u) = E(e iux e iuy ) = E(e iux ) E(e iuy) = φ X (u)φ Y ( u) = φ x (u)φ X ( u) = φ X (u)φ X (u) = φ X (u) 2 R, όπου η δεύτερη ισότητα προκύπτει λόγω ανεξαρτησίας. Από την Ασκηση 3.7 προκύπτει ότι η X Y έχει συμμετρική κατανομή. 3.9 (α) Η χαρακτηριστική συνάρτηση της τυχαίας μεταβλητής X+Y 2 είναι ( t ) ( t ) φ X+Y (t) = E(e ixt/2 e iyt/2 ) = E(e ixt/2 ) E(e iyt/2 ) = φ 2 X φ Y = e t /2 e t /2 = e t, 2 2 όπου η δεύτερη ισότητα προκύπτει λόγω ανεξαρτησίας. Γνωρίζουμε ότι η e t είναι χαρακτηριστική συνάρτηση μιας τυχαίας μεταβλητής με κατανομή Cauchy. Από το θεώρημα μοναδικότητας 3.9 έπεται ότι X+Y 2 Cauchy. (β) Εργαζόμαστε όμοια με το (α) βασιζόμενοι στην ανεξαρτησία των X, X 2,..., X. 3. φ X (t) = 2 (cos(tx) ) dx x 3 Το cos(x) είναι περίπου x 2 /2 όταν το x είναι κοντά στο 0 και φράσσεται από το 2 για οποιοδήποτε x. 3.2 Εχουμε ότι f X (x) = f Y (y) = (0,) (x) για κάθε x R. Από το Θεώρημα 3.23 η X + Y έχει πυκνότητα f X+Y (z) = f X (x) f Y (z x) dx. Ο ολοκληρωτέος είναι μη μηδενικός για (x, z) τέτοια ώστε 0 < x < και R 0 < z x <, δηλαδή, 0 < x <, και z < x < z. (Βʹ.5) Αν z 0 ή z 2, τότε δεν υπάρχουν x που ικανοποιούν την (Βʹ.5). Αν z (0, ), τότε από (Βʹ.5), 0 < x < z και f X+Y (z) = z dx = z. 0 Αν z (, 2) τότε από (Βʹ.5), z < x < και f X+Y (z) = dx = 2 z. z Συνδυάζοντας τα παραπάνω, προκύπτει το ζητούμενο. 4.. Η συνάρτηση κατανομής της Z είναι Κεφάλαιο 4 0 αν x < 0, F Z (x) = x αν x [0, ], αν x >, και τα σημεία συνέχειάς της είναι όλο το R. Για x [0, ], F Y (x) = P(X x) = [x] x = F Z(x) για (π.χ. x < [x] x, κ.λπ). Η σύγκλιση για τα υπόλοιπα x R είναι πιο εύκολη. 4.3. Με βάση το Θεώρημα 4., η σύγκλιση X X συνεπάγεται (μάλιστα ισοδυναμεί με) την P(X A) P(X A) για όλα τα A R Borel με P(X A) = 0.

Υποδείξεις για επιλεγμένες ασκήσεις 35 Είναι δυνατόν βέβαια η σχέση P(X A) P(X A) να ισχύει για ένα σύνολο Borel A συμπτωματικά, ίσως εξαιτίας της φύσης της ακολουθίας (X ). Πάντως δεν μας την εγγυάται η X X. (i) Οχι. Γιατί A = {2, 32., 00}, στο οποίο η κατανομή της X δίνει θετική πιθανότητα αφού περιέχει τους θετικούς ακέραιους 2, 00. (ii) Οχι. Γιατί A = Ā\A o = R\ = R, και P(X R) = > 0. (iii) Ναι. Γιατί A = {.5, 2.8} και P(X {.5, 2.8}) = 0 αφού μια γεωμετρική τυχαία μεταβλητή παίρνει μόνο ακέραιες θετικές τιμές. (iv) Ναι. Γιατί A = { 2, π} και P(X A) = 0 αφού η X είναι συνεχής τυχαία μεταβλητή και το A είναι πεπερασμένο. (v) Οχι. Γιατί A = Ā\A o = [0, /3]\ = [0, /3] και P(X [0, /3]) = /3 > 0. (vi) Οχι. Γιατί A = {0, /2, 2, 4}, και P(X {0, /2, 2, 4}) = P(X = 0) = 3/5 > 0. 4.4 (α) Εστω M > 0. Υπάρχει x M > M σημείο συνέχειας της F X. Τότε lim P(X ) lim P(X x M ) = P(X x M ) P(X M). Για M το δεξί μέλος τείνει στο. (β) Για κάθε M υπάρχουν x M (x /M, x), y M (x, x + /M) σημεία συνέχειας της F X. Τότε lim P(X [x, x + ]) lim P(X [x M, y M ]) = P(X [x M, y M ]) = F X (y M ) F X (x M ) Για M το δεξί μέλος τείνει στο F(x) F(x ) = P(X = x). Για αντιπαράδειγμα, παίρνουμε X = 2/, X = 0 (σταθερές συναρτήσεις) και x = 0. 4.5 Εστω ε > 0. Για οποιοδήποτε M > 0 έχουμε P( X Y > ε) P( Y ε/m) + P( X M) Για η πρώτη πιθανότητα στο δεύτερο μέλος τείνει στο 0, ενώ ο δεύτερος όρος είναι φραγμένος από το sup P( X M). Αρα lim P( X Y > ε) sup P( X M) Το αριστερό μέλος δεν εξαρτάται από το M, ενώ το δεξί, για M, τείνει στο 0. 4.6 (α) Εστω x σημείο συνέχειας της F X. Θα δείξουμε ότι lim F Y (x) = F X (x). Πρώτα δείχνουμε ότι lim F Y (x) F X (x). Εστω ε > 0. Τότε F Y (x) = P(Y x) = P(Y x, X x + ε) + P(Y x, X > x + ε) Αν το x + ε είναι σημείο συνέχειας της F X, τότε και P(X x + ε) + P(X Y > ε) = F X (x + ε) + P(X Y > ε). lim F X (x + ε) = F X (x + ε) lim P(X Y > ε) = 0 εφόσον X Y P 0. Αρα lim F Y (x) F X (x + ε).

36 Υποδείξεις για επιλεγμένες ασκήσεις Τα σημεία ασυνέχειας της F X είναι αριθμήσιμα, άρα υπάρχει φθίνουσα μηδενική ακολουθία (ε k ) k N έτσι ώστε το x + ε k να είναι σημείο συνέχειας της F X. Από τα παραπάνω, για κάθε k N ισχύει lim F Y (x) F X (x + ε k ). Εφόσον η F X είναι συνεχής στο x, έχουμε lim k F X (x + ε k ) = F(x), και άρα Δείχνουμε τώρα ότι lim F Y (x) F X (x). Για ε > 0, lim F Y (x) F X (x). F Y (x) = P(Y x) P(X x ε) P(Y X ε). Συνεπώς lim F Y (x) F X (x ε). Ακολουθώντας την ίδια διαδικασία όπως προηγουμένως βλέπουμε ότι lim F Y (x) F X (x). 4.7 Εστω A = R\[, ]. Τότε η A είναι φθίνουσα ακολουθία, άρα, lim p(a ) = p( = A ) = p( ) = 0. Επομένως, για κάθε ɛ > 0 υπάρχει 0 έτσι ώστε µ(r\[ 0, 0 ]) < ɛ. 4.8 Από την Ασκηση 4.7, για κάθε i I υπάρχει M i > 0 έτσι ώστε p i ([ M i, M i ]) > ɛ. Θέτοντας M = max{m i : i I} έχουμε ότι p i ([ M, M]) p i ([ M i, M i ]) > ɛ, από το οποίο προκύπτει ότι η (p i ) i I είναι σφιχτή. 4.9 Χρησιμοποιώντας ότι η h είναι αύξουσα και την ανισότητα του Markov έχουμε, P( X > M) = P(h( X ) > h(m)) h(m) E(h( X )) h(m) C, όπου C = sup E(h( X )) <. Αρα sup P( X > M) 5.. Μιμούμαστε την απόδειξη του Λήμματος 5.. 5.2. (α) Παράδειγμα 3.5(vi). (β) Για t R έχουμε φ X (t) = E(e itx ) = k= Κεφάλαιο 5 C h(m) 0 για M. e itk ( p) k p = pe it (e it ( p)) j = j=0 pe it ( p)e it. Αθροίσαμε μια γεωμετρική πρόοδο της οποίας ο λόγος έχει μέτρο ( p)e it = p < αφού p > 0. (γ) (i) Τα σημεία συνέχειας της συνάρτησης κατανομής F X της X είναι όλο το R. Εστω x > 0. Τότε ( X ) F X /(x) = P x = P(X [x]) = P(X > [x]) (( = ( p ) [x] = ) a ) [x]/. Επειδή [x]/ x και ( a ) e a, έπεται ότι lim F X /(x) = e ax = F X (x). Προφανώς το ίδιο ισχύει και για x 0. (ii) Για t R έχουμε φ X /(t) = φ X (t/) = p e it/ ( p )e = e it/ it/ e it/ a/ + e it/ it a = φ X (t)

καθώς αφού Υποδείξεις για επιλεγμένες ασκήσεις 37 e it/ lim a/ it e it/ = lim a it/ = it a. Αρα η σύγκλιση X / X έπεται από το θεώρημα συνέχειας του Lévy. 5.3. (α) Για t R έχουμε φ X (t) = E(e itx ) = k=0 e itk λ λk e k! = e λ (e it λ) k = e λ(eit ). k! k=0 (β) Για t R έχουμε (γ) Για t R έχουμε φ Y (t) = E(e ity ) = ( ) e itk p k ( p) k = k k=0 k=0 ( ) (pe it ) k ( p) k = (pe it + p). k φ X (t) = (p e it + p ) = ( + p (e it )) e λ(eit ) = φ X (t) αφού lim p (e it ) = λ(e it ). Αρα η σύγκλιση X X έπεται από το θεώρημα συνέχειας του Lévy. 5.4. ος τρόπος. Από ιδιότητες της κατανομής Γάμμα, η X έχει την ίδια κατανομή με την (W + W 2 +... + W )/ όπου οι W,..., W είναι ανεξάρτητες, ισόνομες με W Γ(c, ). Το συμπέρασμα έπεται από το κεντρικό οριακό θεώρημα γιατί E(W ) = Var(W ) = c. 2ος τρόπος. Χρησιμοποιούμε το θεώρημα συνέχειας του Lévy και τον τύπο για τη χαρακτηριστική συνάρτηση της κατανομής Γάμμα ( Ασκηση 3.4). Για t R, φ (X c) = e c ti φ X ( t) = e c ti ( = e c ( ) ti clog it i t Log είναι ο κλάδος του λογαρίθμου που είναι ολόμορφος στο C εκτός των αρνητικών πραγματικών και Log() = 0. Χρησιμοποιώντας το ανάπτυγμα σε δυναμοσειρά της Log( z) με κέντρο το 0 (στο δίσκο {z : z < }) βρίσκουμε ότι ο εκθέτης στην τελευταία ποσότητα συγκλίνει στο ct 2 /2 και έτσι έχουμε το ζητούμενο. 5.9. Χρήσιμη είναι η Ασκηση 3.0. Κεφάλαιο 6 6.2. Για την ακολουθία (S ) έχουμε ότι S / 2 κατά πιθανότητα (ασθενής νόμος των μεγάλων αριθμών) και S 2 Z N(0, ) (κεντρικό οριακό θεώρημα). (α) Η σύγκλιση S / 2 κατά πιθανότητα δίνει ( S ) ( P(S > 2.) = P > 2. S P 2 ) > 0. 0 καθώς. (β) Εχουμε P(S > 2 + ( ) S 2 ) = P > P(Z > ) = Φ() ) c