Μεγάλες αποκλίσεις* 17.1 Η έννοια της μεγάλης απόκλισης

Σχετικά έγγραφα
Μεγάλες αποκλίσεις* 17.1 Η έννοια της μεγάλης απόκλισης

Μεγάλες αποκλίσεις* 17.1 Η έννοια της μεγάλης απόκλισης

5.1 Μετρήσιμες συναρτήσεις

Εφαρμογές στην κίνηση Brown

Αναλυτικές ιδιότητες

Εισαγωγικά. 1.1 Η σ-αλγεβρα ως πληροφορία

Ο Ισχυρός Νόμος των Μεγάλων Αριθμών

Ανεξαρτησία Ανεξαρτησία για οικογένειες συνόλων και τυχαίες μεταβλητές

Ανεξαρτησία Ανεξαρτησία για οικογένειες συνόλων και τυχαίες μεταβλητές

Επίλυση ειδικών μορφών ΣΔΕ

Ανελίξεις σε συνεχή χρόνο

Παντού σε αυτό το κεφάλαιο, αν δεν αναφέρεται κάτι διαφορετικό, δουλεύουμε σε ένα χώρο πιθανότητας (Ω, F, P) και η G F είναι μια σ-άλγεβρα.

Ανεξαρτησία Ανεξαρτησία για οικογένειες συνόλων και τυχαίες μεταβλητές

Εστω X σύνολο και A μια σ-άλγεβρα στο X. Ονομάζουμε το ζεύγος (X, A) μετρήσιμο χώρο.

Martingales. 3.1 Ορισμός και παραδείγματα

Χαρακτηριστικές συναρτήσεις

Αποδεικτικές Διαδικασίες και Μαθηματική Επαγωγή.

Κατασκευή της κίνησης Brown και απλές ιδιότητες

Ας υποθέσουμε ότι ο παίκτης Ι διαλέγει πρώτος την τυχαιοποιημένη στρατηγική (x 1, x 2 ), x 1, x2 0,

Αναγνώριση Προτύπων. Σήμερα! Λόγος Πιθανοφάνειας Πιθανότητα Λάθους Κόστος Ρίσκο Bayes Ελάχιστη πιθανότητα λάθους για πολλές κλάσεις

Η εξίσωση Black-Scholes

Δημήτρης Χελιώτης ΕΝΑ ΔΕΥΤΕΡΟ ΜΑΘΗΜΑ ΣΤΙΣ ΠΙΘΑΝΟΤΗΤΕΣ

Ο τύπος του Itô. f (s) ds (12.1) f (g(s)) dg(s). (12.2) t f (B s ) db s + 1 2

Οι γέφυρες του ποταμού... Pregel (Konigsberg)

602. Συναρτησιακή Ανάλυση. Υποδείξεις για τις Ασκήσεις

Στοχαστικές διαφορικές εξισώσεις

Αναγνώριση Προτύπων. Σημερινό Μάθημα

{ i f i == 0 and p > 0

Κεφάλαιο Η εκθετική κατανομή. Η πυκνότητα πιθανότητας της εκθετικής κατανομής δίδεται από την σχέση (1.1) f(x) = 0 αν x < 0.

«ΔΙΑΚΡΙΤΑ ΜΑΘΗΜΑΤΙΚΑ»

ΕΙΣΑΓΩΓΗ ΣΤΟN ΣΤΟΧΑΣΤΙΚΟ ΛΟΓΙΣΜΟ

ΕΙΣΑΓΩΓΗ ΣΤΟN ΣΤΟΧΑΣΤΙΚΟ ΛΟΓΙΣΜΟ

ΠΑΝΕΠΙΣΤΗΜΙΑΚΑ ΦΡΟΝΤΙΣΤΗΡΙΑ ΚΟΛΛΙΝΤΖΑ ΜΑΘΗΜΑ: ΟΙΚΟΝΟΜΙΚΗ ΘΕΩΡΙΑ

HY 280. θεμελιακές έννοιες της επιστήμης του υπολογισμού ΑΣΚΗΣΕΙΣ ΠΑΝΕΠΙΣΤΗΜΙΟ ΚΡΗΤΗΣ ΤΜΗΜΑ ΕΠΙΣΤΗΜΗΣ ΥΠΟΛΟΓΙΣΤΩΝ. Γεώργιος Φρ.

Η ανισότητα α β α±β α + β με α, β C και η χρήση της στην εύρεση ακροτάτων.

Ευρωπαϊκά παράγωγα Ευρωπαϊκά δικαιώματα

Εκφωνήσεις και Λύσεις των Θεμάτων

Αναγνώριση Προτύπων. Σημερινό Μάθημα

Αναγνώριση Προτύπων. Σημερινό Μάθημα

Περίληψη. του Frostman 4.1. Τέλος, η ϑεωρία του μέτρου Hausdorff αναπτύσσεται περαιτέρω στην τελευταία παράγραφο. Εισαγωγή 2

Πιθανότητες ΙΙ 1 o Μέρος. Οικονομικό Πανεπιστήμιο Αθηνών

ΠΑΝΕΠΙΣΤΗΜΙΑΚΑ ΦΡΟΝΤΙΣΤΗΡΙΑ ΚΟΛΛΙΝΤΖΑ ΜΑΘΗΜΑ: ΕΡΩΤΗΣΕΙΣ ΟΙΚΟΝΟΜΙΚΗΣ ΘΕΩΡΙΑΣ

Εκφωνήσεις και Λύσεις των Θεμάτων

ΜΙΚΡΟΟΙΚΟΝΟΜΙΚΗ Η ΚΑΤΑΝΑΛΩΤΙΚΗ ΑΠΟΦΑΣΗ. Άσκηση με θέμα τη μεγιστοποίηση της χρησιμότητας του καταναλωτή

Το κράτος είναι φτιαγμένο για τον άνθρωπο και όχι ο άνθρωπος για το κράτος. A. Einstein Πηγή:

17 Μαρτίου 2013, Βόλος

Εξαναγκασμένες ταλαντώσεις, Ιδιοτιμές με πολλαπλότητα, Εκθετικά πινάκων. 9 Απριλίου 2013, Βόλος

ιάσταση του Krull Α.Π.Θ. Θεσσαλονίκη Χ. Χαραλαμπους (ΑΠΘ) ιάσταση του Krull Ιανουάριος, / 27

Ταξινόμηση των μοντέλων διασποράς ατμοσφαιρικών ρύπων βασισμένη σε μαθηματικά κριτήρια.

Εισαγωγικές Διαλέξεις στην Θεωρία των Αλυσίδων Markov και των Στοχαστικών Ανελίξεων. Οικονομικό Πανεπιστήμιο Αθηνών

Ισοπεριμετρικές ανισότητες για το

Επιχειρησιακή Ερευνα Ι

Αρτιες και περιττές συναρτήσεις

Κεφάλαιο 1. Πίνακες και απαλοιφή Gauss

ΜΑΘΗΜΑ: ΟΙΚΟΝΟΜΙΚΗ ΘΕΩΡΙΑ

ΠΑΝΕΠΙΣΤΗΜΙΟ ΚΥΠΡΟΥ ΤΜΗΜΑ ΠΛΗΡΟΦΟΡΙΚΗΣ. Εαρινό Εξάμηνο

Αλγόριθμοι & Βελτιστοποίηση

Εισαγωγή στη Μιγαδική Ανάλυση. (Πρώτη Ολοκληρωμένη Γραφή)

ΣΤΟ ΦΑΡΜΑΚΕΙΟ. Με την πιστοποίηση του έχει πρόσβαση στο περιβάλλον του φαρμακείου που παρέχει η εφαρμογή.

ΑΡΧΗ 1ΗΣ ΣΕΛΙΔΑΣ Γ ΤΑΞΗ

ΕΙΣΑΓΩΓΗ. H λογική ασχολείται με δύο έννοιες, την αλήθεια και την απόδειξη. Oι έννοιες αυτές έχουν γίνει

ΣΤΟ ΙΑΤΡΕΙΟ. Με την πιστοποίηση του αποκτά πρόσβαση στο περιβάλλον του ιατρού που παρέχει η εφαρμογή.

Φροντιστήριο 2: Ανάλυση Αλγόριθμου. Νικόλας Νικολάου ΕΠΛ432: Κατανεμημένοι Αλγόριθμοι 1 / 10

Δ Ι Α Κ Ρ Ι Τ Α Μ Α Θ Η Μ Α Τ Ι Κ Α. 1η σειρά ασκήσεων

Συναρτήσεις. Σημερινό μάθημα

Παραβολή ψ=αχ 2 +βχ+γ, α 0. Η παραβολή ψ = αχ 2. Γενικά : Κάθε συνάρτηση της μορφής ψ=αχ 2 + βχ +γ, α 0 λέγεται τετραγωνική συνάρτηση.

Μαθηματικά Πληροφορικής

Αρτιες και περιττές συναρτήσεις

ΑΠΟΛΥΤΗΡΙΕΣ ΕΞΕΤΑΣΕΙΣ Γ ΤΑΞΗΣ ΗΜΕΡΗΣΙΟΥ ΓΕΝΙΚΟΥ ΛΥΚΕΙΟΥ ΕΞΕΤΑΖΟΜΕΝΟ ΜΑΘΗΜΑ: ΑΡΧΕΣ ΟΙΚΟΝΟΜΙΚΗΣ ΘΕΩΡΙΑΣ ΜΑΘΗΜΑ ΕΠΙΛΟΓΗΣ Γ ΛΥΚΕΙΟΥ

τους στην Κρυπτογραφία και τα

21/11/2005 Διακριτά Μαθηματικά. Γραφήματα ΒΑΣΙΚΗ ΟΡΟΛΟΓΙΑ : ΜΟΝΟΠΑΤΙΑ ΚΑΙ ΚΥΚΛΟΙ Δ Ι. Γεώργιος Βούρος Πανεπιστήμιο Αιγαίου

Εισαγωγικές Διαλέξεις στην Θεωρία των Αλυσίδων Markov και των Στοχαστικών Ανελίξεων. Οικονομικό Πανεπιστήμιο Αθηνών

Η έκδοση αυτή είναι υπό προετοιμασία. Γιάννης Α. Αντωνιάδης, Αριστείδης Κοντογεώργης

Pointers. Σημερινό Μάθημα! Χρήση pointer Τελεστής * Τελεστής & Γενικοί δείκτες Ανάκληση Δέσμευση μνήμης new / delete Pointer σε αντικείμενο 2

ΠΙΘΑΝΟΤΗΤΕΣ 2. Σάμης Τρέβεζας

ΘΕΜΑ: Aποτελεσματικότητα της νομισματικής και δημοσιονομικής πολιτικής σε μια ανοικτή οικονομία

Γενικό Λύκειο Μαραθοκάμπου Σάμου. Άλγεβρα Β λυκείου. 13 Οκτώβρη 2016

ΣΧΟΛΙΚΟ ΕΤΟΣ ΕΥΘΥΓΡΑΜΜΗ ΟΜΑΛΗ ΚΙΝΗΣΗ ΤΡΙΩΡΗ ΓΡΑΠΤΗ ΕΞΕΤΑΣΗ ΣΤΗ ΦΥΣΙΚΗ A ΛΥΚΕΙΟΥ. Ονοματεπώνυμο Τμήμα

ΠΑΝΕΠΙΣΤΗΜΙΟ ΚΥΠΡΟΥ ΤΜΗΜΑ ΠΛΗΡΟΦΟΡΙΚΗΣ. Εαρινό Εξάμηνο

CSE.UOI : Μεταπτυχιακό Μάθημα

Χαρτοφυλάκια και arbitrage

Γραμμική Ανεξαρτησία. Τμήμα Μηχανικών Η/Υ Τηλεπικοινωνιών και ικτύων Πανεπιστήμιο Θεσσαλίας. 17 Μαρτίου 2013, Βόλος

Το Θεώρημα Μοναδικότητας των Stone και von Neumann

Φυσική Θετικής & Τεχνολογικής Κατεύθυνσης Β Λυκείου 3 ο Κεφάλαιο Ηλεκτρικό Πεδίο. Ηλεκτρικό πεδίο. Παρασύρης Κώστας Φυσικός Ηράκλειο Κρήτης

Έννοια. Η αποδοχή της κληρονομίας αποτελεί δικαίωμα του κληρονόμου, άρα δεν

Η ΓΕΩΜΕΤΡΙΑ ΤΩΝ FRACTALS

Διανυσματικές Συναρτήσεις

( ιμερείς) ΙΜΕΛΕΙΣ ΣΧΕΣΕΙΣ Α Β «απεικονίσεις»

ΣΥΝΟΛΑ (προσέξτε τα κοινά χαρακτηριστικά των παρακάτω προτάσεων) Οι άνθρωποι που σπουδάζουν ΤΠ&ΕΣ και βρίσκονται στην αίθουσα

Βελτίωση Εικόνας. Σήμερα!

1. Εστω ότι A, B, C είναι γενικοί 2 2 πίνακες, δηλαδή, a 21 a, και ανάλογα για τους B, C. Υπολογίστε τους πίνακες (A B) C και A (B C) και

Αλγόριθμοι & Βελτιστοποίηση

Ψηφιακή Εικόνα. Σημερινό μάθημα!

ΜΑΘΗΜΑ: ΠΟΛΙΤΙΚΗ ΟΙΚΟΝΟΜΙΑ-ΔΗΜΟΣΙΑ ΟΙΚΟΝΟΜΙΚΗ

Επίλυση δικτύων διανομής

ΣΤΑΤΙΣΤΙΚΗ ΠΟΣΟΤΙΚΗ ΑΝΑΛΥΣΗ ΔΕΔΟΜΕΝΩΝ

Σημειώσεις Μαθηματικών Μεθόδων. Οικονομικό Πανεπιστήμιο Αθηνών

ΜΑΘΗΜΑ: ΕΜΠΟΡΙΚΟ ΔΙΚΑΙΟ

α 0. α ν x ν +α ν 1 x ν α 1 x+α 0 α ν x ν,α ν 1 x ν 1,...,α 1 x,α 0, ...,α 1,α 0,

Συντάκτης: Παναγιώτης Βεργούρος, Οικονομολόγος Συγγραφέας βιβλίων, Μικρο μακροοικονομίας διαγωνισμών ΑΣΕΠ

Transcript:

7 Μεγάλες αποκλίσεις* 7. Η έννοια της μεγάλης απόκλισης Εστω (X ανεξάρτητες και ισόνομες τυχαίες μεταβλητές ώστε (X = = (X = = /2 και S = k= X k το άθροισμα των πρώτων από αυτές. Ο νόμος των μεγάλων αριθμών λέει ότι με πιθανότητα ο μέσος όρος S / συγκλίνει στο 0. Μεγάλη απόκλιση για τον μέσο όρο λέμε ένα ενδεχόμενο της μορφής { S A } όπου A R είναι ένα σύνολο «μακριά» από το 0, δηλαδή με 0 Ā. Για παράδειγμα, το A μπορεί να είναι ένα από τα (,, ( 4, (0.5, 0 αλλά όχι το {/ : N + }. Επειδή η S / συγκλίνει στο 0 με πιθανότητα, μια μεγάλη απόκλιση ζητάει από την S / να κάνει κάτι που η ακολουθία δεν θέλει να κάνει. Και η πιθανότητα μιας μεγάλης απόκλισης τείνει στο 0 εξαιτίας του ασθενούς νόμου των μεγάλων αριθμών (Πόρισμα 2.. Μας ενδιαφέρει να έχουμε μια καλή εκτίμηση του πόσο σύντομα συμβαίνει αυτό. Θα δούμε ότι για πολλά σύνολα A (τα οποία θα προσδιορίσουμε ισχύει A e c(a, (7. όπου c(a είναι μια θετική σταθερά που εξαρτάται από το σύνολο A. Θα διευκρινίσουμε τη σημασία του και θα υπολογίσουμε αυτή τη σταθερά c(a. Επίσης, δεν θα περιοριστούμε μόνο στην πιο πάνω ακολουθία (X αλλά θα θεωρήσουμε οποιαδήποτε ακολουθία ανεξάρτητων και ισόνομων τυχαίων μεταβλητών με τιμές στο R. Προηγουμένως όμως θα εξηγήσουμε γιατί είναι σημαντικό να ξέρουμε τον ακριβή ρυθμό με τον οποίο φθίνει η πιθανότητα μιας μεγάλης απόκλισης. Γιατί ασχολούμαστε με την πιθανότητα ενός ενδεχομένου που εκ των προτέρων ξέρουμε ότι είναι ελάχιστη (και επομένως δεν περιμένουμε το ενδεχόμενο να συμβεί; Συμβολισμός: Για (a, (b ακολουθίες θετικών πραγματικών αριθμών γράφουμε a b αν log a =. log b 7.2 Γιατί οι μεγάλες αποκλίσεις είναι σημαντικές Θεωρούμε το εξής παιχνίδι. Ξεκινάμε με αρχική περιουσία 0 = Ευρώ και πραγματοποιούμε μια ακολουθία ρίψεων ενός αμερόληπτου νομίσματος. Οποτε το νόμισμα φέρνει «Κεφαλή», η περιουσία μας διπλασιάζεται, όποτε φέρνει «Γράμματα», η περιουσία μας υποδιπλασιάζεται. Ερώτημα: Ποια είναι η μέση τιμή της περιουσίας μετά από βήματα; Η περιουσία μετά βήματα είναι = 2 S, όπου S είναι η ακολουθία της προηγούμενης ενότητας. Μια διαισθητική προσέγγιση: Εστω ε := S /, που ξέρουμε ότι τείνει στο μηδέν με πιθανότητα. Τότε E( = E(e S = E(e ε ; = e a 0

7.3 Η αρχή μεγάλων αποκλίσεων με a ακολουθία που τείνει στο 0. Η τελευταία ισότητα είναι μια εικασία. Παίρνουμε μέση τιμή μιας ποσότητας με ρυθμό εκθετικής αύξησης log eε (= ε που είναι περίπου 0. Αναμένουμε η συνολική μέση τιμή να έχει ρυθμό εκθετικής αύξησης επίσης περίπου 0. Τι πραγματικά συμβαίνει: Η μέση τιμή E( υπολογίζεται άμεσα ως ( E( = E(2 X 2 + 2 = = e log(5/4. (7.2 2 Δηλαδή έχει θετικό εκθετικό ρυθμό αύξησης ίσο με log(5/4. Εξήγηση: Ποιο είναι το πρόβλημα με τη διαισθητική προσέγγιση πιο πάνω; Το κλάσμα ε := S / παίρνει τιμές στο U := {k/ : k Z, k }. Προσεγγιστικά ισχύει (ε = x e I(x, με I μια συνεχή συνάρτηση στο [, ] περίπου της μορφής x 2. Δηλαδή τιμές του x μακριά από το 0 είναι δύσκολο να ληφθούν από την S /. Ο υπολογισμός της E( γίνεται ως εξής: E(2 S = e x log 2 (ε = x. (7.3 x U Η διαισθητική προσέγγιση πρότεινε να αγνοήσουμε όλους τους όρους με x 0 γιατί έχουν πολύ μικρή πιθανότητα. Βέβαια κάθε τέτοιος όρος δεν έχει μόνο κόστος (συγκεκριμένα e I(x αλλά και όφελος (συγκεκριμένα e x log 2 το οποίο ίσως να ισοσκελίζει το κόστος. Κυρίαρχος όρος στο άθροισμα είναι αυτός που μεγιστοποιεί τη διαφορά x log 2 I(x (όφελος μείον κόστος. Πιο κάτω που θα έχουμε την ακριβή μορφή της συνάρτησης I (Παράδειγμα 7.0, θα δούμε ότι το καλύτερο x είναι το x = 3/5. Η μέγιστη συνεισφορά στη μέση τιμή προέρχεται από μια μεγάλη απόκλιση. Η τυπική συμπεριφορά του μέσου S / είναι αδιάφορη στον υπολογισμό. Στο πιο πάνω πρόβλημα η επίκληση των μεγάλων αποκλίσεων δεν ήταν απαραίτητη αφού υπάρχει απλούστερος τρόπος αντιμετώπισης. Υπάρχουν όμως άλλα προβλήματα στα οποία μια μεγάλη απόκλιση παίζει κεντρικό ρόλο και η θεωρία των μεγάλων αποκλίσεων είναι το μόνο διαθέσιμο εργαλείο. 7.3 Η αρχή μεγάλων αποκλίσεων Εστω X μετρικός χώρος. Συνάρτηση ρυθμού στον X ονομάζουμε οποιαδήποτε συνάρτηση I : X [0, ] που είναι κάτω ημισυνεχής [δηλαδή το σύνολο [I > a] είναι ανοιχτό για κάθε a R]. Εστω τώρα (µ ακολουθία μέτρων πιθανότητας στον (X, B(X και (a αύξουσα ακολουθία θετικών αριθμών με a =. Ορισμός 7.. Λέμε ότι η ακολουθία (µ ικανοποιεί την αρχή μεγάλων αποκλίσεων με ταχύτητα a και συνάρτηση ρυθμού I αν για κάθε A B(X ισχύει if I(x log µ x A (A log µ (A if I(x. (7.4 a a x Ā Στην πράξη, συνήθως έχουμε μια ακολουθία (Y τυχαίων μεταβλητών στον X που συγκλίνει κατά πιθανότητα σε ένα σημείο x 0 του X και εξετάζουμε αν η ακολουθία (µ των κατανομών των Y ικανοποιεί την αρχή των μεγάλων αποκλίσεων. Αν την ικανοποιεί, λέμε ότι η ακολουθία (Y ικανοποιεί την αρχή μεγάλων αποκλίσεων. Παράδειγμα 7.2. Εστω Y ακολουθία τυχαίων μεταβλητών (στον ίδιο χώρο πιθανότητας με την Y να ακολουθεί την εκθετική κατανομή με παράμετρο (και άρα μέση τιμή /. Η Y συγκλίνει

2 Μεγάλες αποκλίσεις* κατά πιθανότητα στο 0. Η ακολουθία (των κατανομών των Y ικανοποιεί την αρχή των μεγάλων αποκλίσεων με ταχύτητα και συνάρτηση ρυθμού αν x < 0, I(x = x αν x 0. Η απόδειξη αφήνεται ως άσκηση. Παρατήρηση 7.3. (α Για κάθε σύνολο A X, εισάγουμε τη συντομογραφία I(A = if x A I(x. (β Οταν για ένα σύνολο Borel A X ισχύει I(A = I(Ā, τότε έχουμε ότι η log µ (A συγκλίνει στην τιμή I(A = I(A = I(Ā. Δηλαδή µ (A e I(A. (γ Η (7.4 ισοδυναμεί με την απαίτηση το άνω φράγμα να ισχύει για A κλειστό και το κάτω φράγμα να ισχύει για A ανοιχτό. Δηλαδή για κάθε F X κλειστό και log µ (F if I(x (7.5 x F log µ (G if I(x (7.6 x G για κάθε G X ανοιχτό. Επιπλέον, το κάτω φράγμα ισοδυναμεί με το εξής: Για κάθε x X και ανοιχτό σύνολο G X που περιέχει το x ισχύει log µ (G I(x. (7.7 Για την απόδειξη της αρχής μεγάλων αποκλίσεων, θα χρησιμοποιούμε αυτές τις ισοδύναμες μορφές του ορισμού. 7.4 Το Θεώρημα Cramer Για f : R [, ], ορίζουμε τον μετασχηματισμό Legedre της f ως τη συνάρτηση f : R [, ] με f (x := sup{xt f (t} t R για κάθε x R, όπου υπενθυμίζουμε ότι sup = και sup A = αν το A R είναι μη φραγμένο. Εστω τώρα (X ανεξάρτητες και ισόνομες τυχαίες μεταβλητές με τιμές στο R και µ η κατανομή καθεμιάς. Συμβολίζουμε με M τη ροπογεννήτρια της X, με Λ τον λογάριθμο της M και με Λ τον μετασχηματισμό Legedre της Λ. Δηλαδή M(λ := E(e λx = e λx dµ(x, (7.8 για κάθε λ, x R. Λ(λ := log M(λ, (7.9 Λ (x := sup{λx Λ(λ} (7.0 λ R

7.4 Το Θεώρημα Cramer 3 Παράδειγμα 7.4. Ας δούμε την περίπτωση που η X είναι η ομοιόμορφη στο {, }. Τότε ( e λ + e λ Λ(λ = log 2 για κάθε λ R και είναι άσκηση απειροστικού λογισμού (μεγιστοποίησης να δείξει κανείς ότι Λ 2 {( + x log( + x + ( x log( x} αν x [, ], (x = (7. αν x R\[, ], με τη σύμβαση 0 log 0 = 0. Το θεώρημα Cramer λέει ότι η ακολουθία (S / ικανοποιεί την αρχή μεγάλων αποκλίσεων με ταχύτητα και συνάρτηση ρυθμού Λ. Ξεκινάμε με δύο λήμματα που ουσιαστικά αποδεικνύουν το άνω φράγμα της αρχής. Λήμμα 7.5. Για κάθε x R ισχύει x e sup λ 0 {λx Λ(λ}, (7.2 x e sup λ 0 {λx Λ(λ}. (7.3 Δηλαδή μια απόκλιση προς τα πάνω ελέγχεται από τις τιμές της ροπογεννήτριας M(λ για λ 0 ενώ μια απόκλιση προς τα κάτω ελέγχεται από τις τιμές της M(λ για λ 0. Απόδειξη. Για λ 0, εφαρμόζοντας την ανισότητα Markov, έχουμε x = (S x = (λs λx = (e λs e λx e λx E(e λs = e λx M(λ = e Λ(λ λx = e {λx Λ(λ}. Επειδή το φράγμα ισχύει για κάθε λ 0, η ιδέα είναι να διαλέξουμε το λ που δίνει το καλύτερο/μικρότερο φράγμα. Συγκεκριμένα παίρνουμε ότι η πιθανότητα (S / x φράσσεται πάνω από την ποσότητα if λ 0 e {λx Λ(λ} = e sup λ 0 {λx Λ(λ}. Η πρώτη ανισότητα αποδείχθηκε. Για την απόδειξη της δεύτερης, παρατηρούμε ότι για λ 0 ισχύει x = (S x = (λs λx = (e λs e λx e λx E(e λs = e {λx Λ(λ}. Και η απόδειξη συνεχίζεται όπως και για την πρώτη ανισότητα. Λήμμα 7.6. Υποθέτουμε ότι m := E(X R. Τότε (i x m Λ (x = sup λ 0 {λx Λ(λ}. (ii x m Λ (x = sup λ 0 {λx Λ(λ}. (iii Λ (m = 0. Απόδειξη. (i Για κάθε λ R εφαρμόζοντας την ανισότητα Jese έχουμε Λ(λ = log E(e λx E(λX = λm, επομένως λm Λ(λ 0. Τώρα θέλουμε να δείξουμε ότι στο supremum που ορίζει το Λ (x μπορούμε να αγνοήσουμε τους αριθμούς λx Λ(λ που έχουν λ < 0. Πράγματι, για x m και λ < 0 έχουμε

4 Μεγάλες αποκλίσεις* λx λm ( Λ(λ όπως δείξαμε πιο πάνω, οπότε λx Λ(λ 0. Ομως 0 είναι η τιμή του λx Λ(λ όταν λ = 0. Αρα οι όροι με λ < 0 δεν μπορούν να αυξήσουν το supremum. (ii Η απόδειξη είναι ανάλογη με αυτήν στο (i. (iii Οταν x = m, οι (i, (ii δίνουν ότι το Λ (m ισούται με την τιμή του λx Λ(λ για λ = 0, η οποία είναι 0. Το επόμενο λήμμα είναι κρίσιμο για την απόδειξη του κάτω φράγματος της αρχής μεγάλων αποκλίσεων. Λήμμα 7.7. (α Η M είναι διαφορίσιμη στο εσωτερικό του D M := {λ R : M(λ < } με παράγωγο M (λ = E(X e λx. (β Αν µ((, a, µ((a, > 0 και το µ έχει συμπαγή φορέα τότε D M = R και υπάρχει λ 0 R ώστε Λ (a = λ 0 a Λ(λ 0. Για αυτό το λ 0 ισχύει Λ (λ 0 = a Απόδειξη. (α Ο τύπος για την παράγωγο προκύπτει διαφορίζοντας την E(e λx μέσα από την μέση τιμή. Πρέπει όμως να δείξουμε ότι αυτό είναι επιτρεπτό. Εστω λ εσωτερικό σημείο του D M και δ > 0 με [λ δ, λ + δ] D M. Τότε για ε [ δ, δ], ε 0 έχουμε M(λ + ε M(λ ε ( e (λ+εx e λx = E ε ( = E e λx eεx. ε Το όριο για ε 0 της ποσότητας στη μέση τιμή είναι το επιθυμητό X e λx και η απόλυτή της τιμή φράσσεται από e λx eδ X δ {e (λ δx + e (λ+δx }. δ Για να δούμε το πρώτο φράγμα, αναπτύσσουμε σε δυναμοσειρά την e εx. Το δεξί μέλος της τελευταίας ανισότητας δεν εξαρτάται από το ε και έχει πεπερασμένη μέση τιμή εξαιτίας του ότι λ δ, λ + δ D M. Το συμπέρασμα έπεται από το θεώρημα κυριαρχημένης σύγκλισης. (β Εχουμε Λ (a = sup λ R A(λ με A(λ := λa Λ(λ = log E(e λ(x a. Η A είναι πεπερασμένη και διαφορίσιμη στο R με όρια A( = A( = εξαιτίας της µ((, a, µ((a, > 0. Αρα παίρνει μέγιστο σε ένα σημείο λ 0 R και 0 = A (λ 0 = a Λ (λ 0. Ο ισχυρισμός αποδείχθηκε. Θεώρημα 7.8 (Θεώρημα Cramer. Υποθέτουμε ότι m := E(X R. Η ακολουθία (S / ικανοποιεί την αρχή μεγάλων αποκλίσεων με ταχύτητα και συνάρτηση ρυθμού I(x := Λ (x. Απόδειξη. Εστω µ η κατανομή της τυχαίας μεταβλητής S /. Ακολουθούμε τη μέθοδο της Παρατήρησης 7.3(γ. Ανω φραγμα: Εστω F R κλειστό μη κενό. Αν I(F = 0, δεν έχουμε να αποδείξουμε τίποτα γιατί το αριστερό μέλος της (7.5 είναι μη θετικό πάντοτε. Υποθέτουμε λοιπόν ότι I(F > 0. Επειδή I(m = 0 (Λήμμα 7.6, έπεται ότι το m είναι στοιχείο του ανοιχτού συνόλου R\F. Εστω (a, b το μέγιστο υποδιάστημα του R\F που περιέχει το m. Αυτό το υποδιάστημα είναι ανοιχτό (και άρα a, b F γιατί το R\F είναι ανοιχτό και ενδέχεται a = ή b = (όχι όμως και τα δύο γιατί F. Επειδή F R\(a, b, όταν a, b R, έχουμε µ (F µ ((, a] + µ ([b, e Λ (a + e Λ (b 2e I(F. (7.4 Η πρώτη ανισότητα έπεται από τα Λήμματα 7.5, 7.6, ενώ η δεύτερη από το ότι a, b F. Αν a =, οι ανισότητες ισχύουν αν παραλείψουμε τους όρους µ ((, a], e Λ (a. Ανάλογα και όταν b =. Τώρα το άνω φράγμα έπεται από την (7.4. Κατω φραγμα: Με βάση την (7.7, επειδή η S / παίρνει τιμές στο R, αρκεί να δείξουμε ότι για κάθε a R και δ > 0 ισχύει log µ ((a δ, a + δ Λ (a. (7.5

Περίπτωση. µ((, a, µ((a, > 0 και το µ έχει συμπαγή φορέα. 7.4 Το Θεώρημα Cramer 5 Τότε με βάση το Λήμμα 7.7 υπάρχει λ 0 R ώστε Λ (a = λ 0 a Λ(λ 0. Ορίζουμε ένα νέο μέτρο µ από τη σχέση (Δες Παράδειγμα 6.32 d µ dµ (x = eλ 0x Λ(λ 0, x R. (7.6 Το µ είναι μέτρο πιθανότητας γιατί µ(r = e λ 0x Λ(λ 0 dµ(x = και έχει μέση τιμή a γιατί R R x d µ(x = R xeλ 0x dµ(x M(λ 0 e λ0x dµ(x = M(λ 0 R = M (λ 0 M(λ 0 = Λ (λ 0 = a Επίσης, συμβολίζουμε με µ την κατανομή του μέσου όρου X + + X / όταν οι X, X 2,..., X είναι ανεξάρτητες ισόνομες καθεμία με κατανομή µ. Και τώρα είμαστε σε θέση να δείξουμε το ζητούμενο κάτω φράγμα. Για οποιοδήποτε ε ( δ, δ υπολογίζουμε µ ((a ε, a + ε = (a ε, a + ε = dµ(x dµ(x x +x 2 + +x a <ε = e Λ(λ 0 λ 0 (x + +x d µ(x dµ(x x +x 2 + +x a <ε e Λ(λ 0 λ 0 a λ 0 ε µ ((a ε, a + ε = e Λ (a λ 0 ε µ ((a ε, a + ε. Αρα log µ ((a δ, a + δ Λ (a λ 0 ε log µ ((a δ, a + δ. (7.7 Τώρα µ ((a δ, a + δ = από τον ασθενή νόμο των μεγάλων αριθμών γιατί ( X + + X µ ((a δ, a + δ = (a δ, a + δ και οι X,..., X είναι ανεξάρτητες ισόνομες με μέση τιμή a. Αρα το στο δεξί μέλος της ανισότητας (7.7 είναι 0 και παίρνοντας ε 0 έχουμε την (7.7. Περίπτωση 2. µ((, a, µ((a, > 0 και το µ δεν έχει συμπαγή φορέα. Υπάρχει R 0 > 0 μεγάλο ώστε µ(( R 0, a, µ((a, R 0 > 0. Θεωρούμε τώρα οποιοδήποτε R > R 0 και ακολουθία ( ˆX i i ανεξάρτητων και ισόνομων τυχαίων μεταβλητών με κατανομή αυτήν της X με τη δέσμευση X R. Δηλαδή ( ˆX A = (X A, X R ( X R για κάθε A B(R. Θέτουμε Ŝ = ˆX + ˆX 2 + + ˆX. Τότε (a ε, a + ε (a ε, a + ε, X i R για κάθε i =, 2,..., (7.8 = (a ε, a + ε, X i R για κάθε i =, 2,..., (7.9 ( X i R για κάθε i =, 2,..., ( X i R για κάθε i =, 2,..., (7.20 (Ŝ = (a ε, a + ε ( X R (7.2

6 Μεγάλες αποκλίσεις* Τώρα για την ακολουθία Ŝ / εφαρμόζεται η περίπτωση του κάτω φράγματος. Συμβολίζουμε με I R τη συνάρτηση ρυθμού της αρχής μεγάλων αποκλίσεων που ικανοποιεί η ακολουθία. Αρα log µ ((a δ, a + δ I R (a + log ( X R. Αρχικά, θα βελτιώσουμε την έκφραση του κάτω φράγματος. Θέτουμε C R (λ = log E(e λx X R. Η ροπογεννήτρια της ˆX είναι E(e λx X R/ ( X R, με λογάριθμο C R (λ log ( X R, άρα I R (a = sup λ R {λa C R (λ} + log ( X R. Επομένως το προηγούμενο κάτω φράγμα είναι απλώς sup{λa C R (λ}, λ R το οποίο είναι το αντίθετο του μετασχηματισμού Legedre C R (a της C R στο a. Ετσι, το ζητούμενο κάτω φράγμα έπεται από τον εξής ισχυρισμό. Ισχυρισμος: R C R (a Λ (a. Η CR (a είναι φθίνουσα ως προς R γιατί η C R(λ είναι αύξουσα ως προς R. Αρα R CR (a C r(a για κάθε r > 0. Εστω u < R CR (a. Θέτουμε K r := {λ R : λa C r (λ u}. Για r R 0, το K r είναι μη κενό αφού u < C r(a και συμπαγές γιατί η A r (λ := λa C r (λ είναι πεπερασμένη παντού και συνεχής ως προς λ με A r ( = A r ( = (απόδειξη όπως στο Λήμμα 7.7(β. Επίσης η (K r r R0 είναι φθίνουσα ως προς r, άρα η τομή r R0 K r είναι μη κενή και έστω λ 0 ένα σημείο σε αυτήν. Τότε λ 0 a C r (λ 0 u για κάθε r R 0. Για r η τελευταία ανισότητα και το θεώρημα μονότονης σύγκλισης δίνουν λ 0 a log Λ(λ 0 u, και άρα Λ (a u. Ο ισχυρισμός αποδείχθηκε. Περίπτωση 3. Κανένας περιορισμός στο µ (πέραν του E(X R. Μένει να εξετάσουμε την περίπτωση που ένα τουλάχιστον από τα µ((, a, µ((a, είναι 0. Τότε Λ (a = sup{λa log E(e λx } = sup{ log E(e λ(x a } = log (X = a. λ R λ R Η τελευταία ισότητα ισχύει γιατί κάτω από τις υποθέσεις μας, η E(e λ(x a είναι μονότονη ως προς λ και άρα το ifimum της ισούται με το όριό της στο όταν µ((, a = 0 και με το όριο της στο όταν µ((a, = 0. Τώρα το συμπέρασμα έπεται γιατί µ ((a δ, a + δ (X = X 2 = = X = a = (X = a. Παρατήρηση 7.9. (α (Η ιδέα της αλλαγής μέτρου Το ουσιαστικό κομμάτι της απόδειξης του κάτω φράγματος είναι η Περίπτωση. Ας πάρουμε την περίπτωση a m και ε μικρό. Το γεγονός A = {S / (a ε, a + ε} είναι μη τυπικό όταν οι X i έχουν κατανομή µ, και δυσκολευόμαστε να εκτιμήσουμε την πιθανότητά του. Αυτό που κάνουμε είναι να αλλάξουμε τον νόμο των X i με τέτοιο τρόπο ώστε το A να γίνει τυπικό για αυτόν τον νέο νόμο. Και πράγματι, ο νόμος µ έχει μέση τιμή a, οπότε, όταν οι X i είναι ανεξάρτητες, καθεμία με κατανομή µ, το A έχει πιθανότητα που τείνει στο. Το κόστος για την αλλαγή νόμου (μέτρου είναι η παράγωγος Rado-Nikodym, για την οποία ευτυχώς έχουμε καλό έλεγχο. Στο σύνολο A αυτή έχει τιμή περίπου e {Λ(λ 0 λ 0 a}. (β Προσέξτε ότι για την Περίπτωση 2 του κάτω φράγματος εφαρμόσαμε την τεχνική της περικοπής ώστε να αναχθούμε στην Περίπτωση. Με τον ίδιο τρόπο αποδείξαμε την επέκταση του νόμου των μεγάλων αριθμών στην Ασκηση 2.2.

7.4 Το Θεώρημα Cramer 7 I(x log 2 x Σχήμα 7.: Η συνάρτηση ρυθμού της αρχής μεγάλων αποκλίσεων για τον μέσο όρο ομοιόμορφων στο {, }. (γ Το θεώρημα Cramer ισχύει ακόμα και χωρίς την υπόθεση ότι η E(X ορίζεται και είναι πραγματικός αριθμός. Αυτό αποδεικνύεται με λίγες παρεμβάσεις στην απόδειξη πιο πάνω (Δες Dembo ad Zeitoui (998, Θεώρημα 2.2.3. Παράδειγμα 7.0. Το θεώρημα Cramer εφαρμόζεται στην ακολουθία (S / της Παραγράφου 7. και δίνει ότι αυτή ικανοποιεί την αρχή μεγάλων αποκλίσεων με συνάρτηση ρυθμού I(x τη Λ (x της (7.. Το γράφημά της δίνεται στο Σχήμα 7.. Να παρατηρήσουμε τα εξής Η I έχει την τιμή 0 στη μέση τιμή E(X = 0. Η I έχει την τιμή για x [, ], που είναι αναμενόμενο αφού η S / παίρνει τιμές στο [, ]. Οσο απομακρυνόμαστε από το 0 (τη μέση τιμή των X i, η I(x αυξάνει. Το γεγονός {S / είναι κοντά στο x} γίνεται ακριβότερο/πιο απίθανο. Τώρα μπορούμε να επιστρέψουμε στην Παράγραφο 7.2 και να δούμε ότι πράγματι η διαφορά x log 2 I(x λαμβάνει τη μέγιστη τιμή της όταν x = 3/5 και αυτή η τιμή είναι η log(5/4, σε συμφωνία με την (7.2. Ασκήσεις 7. Να υπολογιστεί ο μετασχηματισμός Λ στην περίπτωση που η X ακολουθεί την κατανομή: (α oisso(a, (β exp(a, (γ N(0, σ 2, όπου a, σ > 0. Επίσης, με χρήση Mathematica ή άλλου προγράμματος να γίνει σε κάθε περίπτωση η γραφική παράσταση του Λ. 7.2 Να υπολογιστεί ο μετασχηματισμός Λ στην περίπτωση που η X έχει πυκνότητα f (x = (3/2 x 4 x. Τι πληροφορίες δίνει το άνω και το κάτω φράγμα της αρχής μεγάλων αποκλίσεων για την ακολουθία S /; 7.3 Εκτελούμε μια ακολουθία ανεξάρτητων ρίψεων ενός αμερόληπτου νομίσματος και ονομάζουμε S το πλήθος των φορών που ήρθε η ένδειξη «Κεφαλή» στις πρώτες ρίψεις. (α Να δειχθεί ότι η ακολουθία (S / ικανοποιεί την αρχή μεγάλων αποκλίσεων με ταχύτητα και συνάρτηση ρυθμού log 2 + x log x + ( x log( x αν x [0, ], I(x := αν x R \ [0, ].

8 Μεγάλες αποκλίσεις* (β Για την πιθανότητα (S 000 700 να προσδιοριστεί το άνω φράγμα που δίνουν τα Λήμματα 7.5 και 7.6 και η προσέγγιση που δίνει το κεντρικό οριακό θεώρημα. 7.4 Εστω ακολουθία μέτρων πιθανότητας (µ σε έναν μετρικό χώρο X η οποία ικανοποιεί την αρχή μεγάλων αποκλίσεων με ταχύτητα a και συνάρτηση ρυθμού I. Να δειχθεί ότι if{i(x : x X} = 0. 7.5 Για κάθε N +, έστω Y τυχαία μεταβλητή που ακολουθεί την κατανομή N(0, /. Να δειχθεί ότι η ακολουθία (Y ικανοποιεί την αρχή μεγάλων αποκλίσεων με ταχύτητα και συνάρτηση ρυθμού I(x = x 2 /2, x R. 7.6 Να αποδειχθεί ο ισχυρισμός του Παραδείγματος 7.2. 7.7 Εστω f : R [, ] και D f := {x R : f (x < }. (α Αν 0 D f, τότε και άρα x f (x =. (β Αν D f = R, τότε f (x > 0, x x f (x =. x x 7.8 Εστω ότι η τυχαία μεταβλητή X (με τιμές στο R έχει μέση τιμή m = E(X και ροπογεννήτρια M η οποία είναι πεπερασμένη για όλα τα λ σε μια περιοχή του μηδενός. Να δειχθεί ότι για τη συνάρτηση ρυθμού της αρχής μεγάλων αποκλίσεων που δίνει το θεώρημα Cramer ισχύει I(x > 0 για κάθε x m. Οπότε, παίρνοντας υπόψιν το Λήμμα 7.6(iii, έχουμε ότι το m είναι το μοναδικό μηδενικό της I. 7.9 Εστω (X ανεξάρτητες και ισόνομες τυχαίες μεταβλητές με τιμές στο [0, ώστε η ροπογεννήτρια της X να είναι η e C t a αν t 0, M(t = αν t > 0, όπου C > 0 και a (0,. Θέτουμε S k := X + X 2 + + X k για κάθε k N +. Να δειχθεί ότι για κάθε t > 0 ισχύει (S k < tk /a e C t a a (7.22 με C := ( a(ca a ( a. Σχόλια: Αποδεικνύεται ότι για κάθε C > 0 και a (0, υπάρχει τυχαία μεταβλητή με ροπογεννήτρια όπως πιο πάνω. Μάλιστα αυτή η τυχαία μεταβλητή έχει μέση τιμή. 2 Μπορούμε να δείξουμε ότι η S k /k /a συγκλίνει κατά κατανομή σε μια μη σταθερή τυχαία μεταβλητή Y με πυκνότητα. Αρα το όριο για k της πιθανότητας στην (7.22 είναι (Y < t. Προσέξτε ότι η (7.22 ισχύει για όλα τα k και όχι απλώς για τα μεγάλα k.