Μπεϋζιανή Στατιστική και MCMC Μέρος 2 ο : MCMC



Σχετικά έγγραφα
Μπεϋζιανή Στατιστική και MCMC Μέρος 2 ο : MCMC

Παράδειγμα. Στις χρονοσειρές σημαντικό ρόλο παίζει η αυτοσυσχέτιση: η αυτοσυσχέτιση. (lag k) ισούται με όπου γ

HMY 795: Αναγνώριση Προτύπων

Ανάλυση Δεδοµένων µε χρήση του Στατιστικού Πακέτου R

4 o Μάθημα Διάστημα Εμπιστοσύνης του Μέσου

4 o Μάθημα Διάστημα Εμπιστοσύνης του Μέσου

ΠΑΝΕΠΙΣΤΗΜΙΟ ΑΙΓΑΙΟΥ ΣΧΟΛΗ ΕΠΙΣΤΗΜΩΝ ΤΗΣ ΔΙΟΙΚΗΣΗΣ ΤΜΗΜΑ ΜΗΧΑΝΙΚΩΝ ΟΙΚΟΝΟΜΙΑΣ ΚΑΙ ΔΙΟΙΚΗΣΗΣ ΣΤΑΤΙΣΤΙΚΗ

Στατιστική Συμπερασματολογία

ΠΑΝΕΠΙΣΤΗΜΙΟ ΑΙΓΑΙΟΥ ΣΧΟΛΗ ΕΠΙΣΤΗΜΩΝ ΤΗΣ ΔΙΟΙΚΗΣΗΣ ΤΜΗΜΑ ΜΗΧΑΝΙΚΩΝ ΟΙΚΟΝΟΜΙΑΣ ΚΑΙ ΔΙΟΙΚΗΣΗΣ ΣΤΑΤΙΣΤΙΚΗ

ΠΑΝΕΠΙΣΤΗΜΙΟ ΑΙΓΑΙΟΥ ΣΧΟΛΗ ΕΠΙΣΤΗΜΩΝ ΤΗΣ ΔΙΟΙΚΗΣΗΣ ΤΜΗΜΑ ΜΗΧΑΝΙΚΩΝ ΟΙΚΟΝΟΜΙΑΣ ΚΑΙ ΔΙΟΙΚΗΣΗΣ ΣΤΑΤΙΣΤΙΚΗ

Σ ΤΑΤ Ι Σ Τ Ι Κ Η. Statisticum collegium iv

HMY 795: Αναγνώριση Προτύπων

Σ ΤΑΤ Ι Σ Τ Ι Κ Η ΤΜΗΜΑ ΔΙΟΙΚΗΣΗΣ ΕΠΙΧΕΙΡΗΣΕΩΝ

ΠΑΝΕΠΙΣΤΗΜΙΟ ΑΙΓΑΙΟΥ ΠΟΛΥΤΕΧΝΙΚΗ ΣΧΟΛΗ ΤΜΗΜΑ ΜΗΧΑΝΙΚΩΝ ΟΙΚΟΝΟΜΙΑΣ ΚΑΙ ΔΙΟΙΚΗΣΗΣ ΣΤΑΤΙΣΤΙΚΗ

ΣΤΟΧΑΣΤΙΚΕΣ ΔΙΕΡΓΑΣΙΕΣ & ΒΕΛΤΙΣΤΟΠΟΙΗΣΗ Αίθουσα Νέα Κτίρια ΣΗΜΜΥ Ε.Μ.Π.

ΛΥΣΕΙΣ ΘΕΜΑΤΩΝ ΣΤΑΤΙΣΤΙΚΗ Ι ΜΕΡΟΣ Α (Σ. ΧΑΤΖΗΣΠΥΡΟΣ) . Δείξτε ότι η στατιστική συνάρτηση T = X( n)

Στατιστική Συμπερασματολογία

Σ ΤΑΤ Ι Σ Τ Ι Κ Η. Statisticum collegium Iii

Παράδειγμα. Για τα ΝΒ10 δεδομένα έχουμε το μοντέλο:

ΔΙΑΣΤΗΜΑΤΑ ΕΜΠΙΣΤΟΣΥΝΗΣ

Εφαρμοσμένη Στατιστική Δημήτριος Μπάγκαβος Τμήμα Μαθηματικών και Εφαρμοσμένων Μαθηματικών Πανεπισ τήμιο Κρήτης 14 Μαρτίου /34

Μέρος II. Στατιστική Συμπερασματολογία (Inferential Statistics)

Μαρκοβιανές Αλυσίδες

Απλή Γραμμική Παλινδρόμηση και Συσχέτιση 19/5/2017

Διαστήματα Εμπιστοσύνης

Το Κεντρικό Οριακό Θεώρημα

Ανάλυση Δεδομένων με χρήση του Στατιστικού Πακέτου R

ΕΦΑΡΜΟΣΜΕΝΗ ΣΤΑΤΙΣΤΙΚΗ Ι Συμπληρωματικές Σημειώσεις Δημήτριος Παντελής

Εφαρμοσμένη Στατιστική

Το Κεντρικό Οριακό Θεώρημα

ΑΚΟΛΟΥΘΙΑΚΕΣ ΜΕΘΟΔΟΙ MONTE CARLO ΜΕ ΕΦΑΡΜΟΓΗ ΣΤΗ

HMY 795: Αναγνώριση Προτύπων

Εκτιμητές Μεγίστης Πιθανοφάνειας (Maximum Likelihood Estimators MLE)

Πανεπιστήμιο Κύπρου Πολυτεχνική Σχολή

ΣΤΟΧΑΣΤΙΚΕΣ ΔΙΕΡΓΑΣΙΕΣ & ΒΕΛΤΙΣΤΟΠΟΙΗΣΗ

WinBUGS. Το BUGS (Bayesian inference Using Gibbs Sampling) είναι ένα ελεύθερο λογισµικό στο διαδίκτυο (

Σημειακή εκτίμηση και εκτίμηση με διάστημα. 11 η Διάλεξη

Έλεγχος Υποθέσεων. Δρ. Αθανάσιος Δαγούμας, Επ. Καθηγητής Οικονομικής της Ενέργειας & των Φυσικών Πόρων, Πανεπιστήμιο Πειραιώς

Στατιστική. Εκτιμητική

ΔΙΑΣΤΗΜΑΤΑ ΕΜΠΙΣΤΟΣΥΝΗΣ ΓΙΑ AΝΑΛΟΓΙΕΣ

Δειγματικές Κατανομές

Εθνικό Μετσόβιο Πολυτεχνείο

ΠΑΝΕΠΙΣΤΗΜΙΟ ΑΙΓΑΙΟΥ ΣΧΟΛΗ ΕΠΙΣΤΗΜΩΝ ΤΗΣ ΔΙΟΙΚΗΣΗΣ ΤΜΗΜΑ ΜΗΧΑΝΙΚΩΝ ΟΙΚΟΝΟΜΙΑΣ ΚΑΙ ΔΙΟΙΚΗΣΗΣ ΣΤΑΤΙΣΤΙΚΗ

ΠΑΝΕΠΙΣΤΗΜΙΟ ΑΙΓΑΙΟΥ ΠΟΛΥΤΕΧΝΙΚΗ ΣΧΟΛΗ ΤΜΗΜΑ ΜΗΧΑΝΙΚΩΝ ΟΙΚΟΝΟΜΙΑΣ ΚΑΙ ΔΙΟΙΚΗΣΗΣ ΣΤΑΤΙΣΤΙΚΗ

REVERSIBLE JUMP MCMC ΣΕ ΜΕΙΞΕΙΣ ΚΑΝΟΝΙΚΩΝ ΚΑΤΑΝΟΜΩΝ ΜΕ ΚΟΙΝΕΣ ΜΕΣΕΣ ΤΙΜΕΣ

Εκτιμήτριες. Κώστας Γλυκός ΜΑΘΗΜΑΤΙΚΟΣ. Ασκήσεις για ΑΕΙ και ΤΕΙ. Kglykos.gr. σε Εκτιμήτριες. μέθοδος ροπών και μέγιστης πιθανοφάνειας

Δειγματοληψία στην εκπαιδευτική έρευνα. Είδη δειγματοληψίας

ΚΕΦΑΛΑΙΟ 0. Απλή Γραμμική Παλινδρόμηση. Ένα Πρόβλημα. Η επιδιωκόμενη ιδιότητα. Ένα χρήσιμο γράφημα. Οι υπολογισμοί. Η μέθοδος ελαχίστων τετραγώνων ...

HMY 795: Αναγνώριση Προτύπων

Αριθμητικές Προσομοιώσεις του πρότυπου ISING στις Τρεις Διαστάσεις

3. ΣΤΡΩΜΑΤΟΠΟΙΗΜΕΝΗ ΤΥΧΑΙΑ ΔΕΙΓΜΑΤΟΛΗΨΙΑ (Stratified Random Sampling)

Εφαρμοσμένη Στατιστική

Εισαγωγή στη θεωρία ακραίων τιμών

Το Κεντρικό Οριακό Θεώρημα

ΜΕΘΟΔΟΛΟΓΙΑ ΕΡΕΥΝΑΣ ΓΙΑ ΔΙΟΙΚΗΤΙΚΑ ΣΤΕΛΕΧΗ

X = = 81 9 = 9

HMY 795: Αναγνώριση Προτύπων

Εισαγωγή στην Εκτιμητική

Μελετώντας τον αλγόριθµο Metropolis-Hastings

Η ΜΠΕΫΖΙΑΝΗ ΠΡΟΣΕΓΓΙΣΗ ΣΤΗΝ ΣΤΑΤΙΣΤΙΚΗ ΣΥΜΠΕΡΑΣΜΑΤΟΛΟΓΙΑ ΚΑΙ Η ΣΥΓΚΡΙΣΗ ΤΗΣ ΜΕ ΤΗΝ ΚΛΑΣΣΙΚΗ ΣΥΜΠΕΡΑΣΜΑΤΟΛΟΓΙΑ

ΠΑΝΕΠΙΣΤΗΜΙΟ ΑΙΓΑΙΟΥ ΣΧΟΛΗ ΕΠΙΣΤΗΜΩΝ ΤΗΣ ΔΙΟΙΚΗΣΗΣ ΤΜΗΜΑ ΜΗΧΑΝΙΚΩΝ ΟΙΚΟΝΟΜΙΑΣ ΚΑΙ ΔΙΟΙΚΗΣΗΣ ΣΤΑΤΙΣΤΙΚΗ

Υ ΑΤΙΚΟ ΠΕΡΙΒΑΛΛΟΝ ΚΑΙ ΑΝΑΠΤΥΞΗ. Πιθανοτική προσέγγιση υδρολογικών µεταβλητών

HMY 795: Αναγνώριση Προτύπων. Διάλεξη 2

Διάλεξη 1: Στατιστική Συμπερασματολογία - Εκτίμηση Σημείου

Εφαρμοσμένη Στατιστική

Είδη Μεταβλητών Κλίμακα Μέτρησης Οι τεχνικές της Περιγραφικής στατιστικής ανάλογα με την κλίμακα μέτρησης Οι τελεστές Π και Σ

(X1 X 2 ) 2}. ( ) f 1 (x i ; θ) = θ x i. (1 θ) n x i. x i log. i=1. i=1 t2 i

Μέρος V. Ανάλυση Παλινδρόμηση (Regression Analysis)

Περιγραφική στατιστική

2.5.1 ΕΚΤΙΜΗΣΗ ΠΟΣΟΣΤΙΑΙΩΝ ΣΗΜΕΙΩΝ ΜΙΑΣ ΚΑΤΑΝΟΜΗΣ

Αναγνώριση Προτύπων. Baysian Θεωρία Αποφάσεων ΕΠΙΣΚΟΠΗΣΗ-ΑΣΚΗΣΕΙΣ

Εφαρμοσμένη Στατιστική Δημήτριος Μπάγκαβος Τμήμα Μαθηματικών και Εφαρμοσμένων Μαθηματικών Πανεπισ τήμιο Κρήτης 13 Μαρτίου /31

Σημερινό μάθημα: Εκτιμήτριες συναρτήσεις και σημειακή εκτίμηση παραμέτρων Στατιστική συμπερασματολογία (ή εκτιμητική ): εξαγωγή συμπερασμάτων για το σ

Στατιστική Συμπερασματολογία

HMY 795: Αναγνώριση Προτύπων

Λήψη αποφάσεων κατά Bayes

ΣΤΑΤΙΣΤΙΚΗ ΣΥΜΠΕΡΑΣΜΑΤΟΛΟΓΙΑ για τη λήψη αποφάσεων

ΚΕΦΑΛΑΙΟ 8. Εισαγωγή στη Μέθοδο Bootstrap

Σημερινό μάθημα: Εκτιμήτριες συναρτήσεις, σημειακή εκτίμηση παραμέτρων και γραμμική παλινδρόμηση Στατιστική συμπερασματολογία (ή εκτιμητική ): εξαγωγή

ΠΑΝΕΠΙΣΤΗΜΙΟ ΑΙΓΑΙΟΥ ΠΟΛΥΤΕΧΝΙΚΗ ΣΧΟΛΗ ΤΜΗΜΑ ΜΗΧΑΝΙΚΩΝ ΟΙΚΟΝΟΜΙΑΣ ΚΑΙ ΔΙΟΙΚΗΣΗΣ ΣΤΑΤΙΣΤΙΚΗ

Μάστερ στην Εφαρµοσµένη Στατιστική

Πρόλογος... xv. Κεφάλαιο 1. Εισαγωγικές Έννοιες... 1

HMY 795: Αναγνώριση Προτύπων

Κεφάλαιο 10 Εισαγωγή στην Εκτίμηση

Πολυτεχνείο Κρήτης Σχολή Ηλεκτρονικών Μηχανικών Και Μηχανικών Η/Υ. ΠΛΗ 513 Αυτόνομοι Πράκτορες

Ενότητα 2: Μέθοδοι δειγματοληψίας & Εισαγωγή στην Περιγραφική Στατιστική

ΠΑΝΕΠΙΣΤΗΜΙΟ ΑΙΓΑΙΟΥ ΣΧΟΛΗ ΕΠΙΣΤΗΜΩΝ ΤΗΣ ΔΙΟΙΚΗΣΗΣ ΤΜΗΜΑ ΜΗΧΑΝΙΚΩΝ ΟΙΚΟΝΟΜΙΑΣ ΚΑΙ ΔΙΟΙΚΗΣΗΣ ΣΤΑΤΙΣΤΙΚΗ

ΣΤΑΤΙΣΤΙΚΗ ΣΥΜΠΕΡΑΣΜΑΤΟΛΟΓΙΑ

ΣΤΑΤΙΣΤΙΚΗ ΕΠΙΧΕΙΡΗΣΕΩΝ ΕΙΔΙΚΑ ΘΕΜΑΤΑ. Κεφάλαιο 10. Εισαγωγή στην εκτιμητική

Μέθοδο Απόρριψης (Rejection Sampling von Neumann, 1951)

ΠΑΝΕΠΙΣΤΗΜΙΟ ΠΕΙΡΑΙΑ

ΤΙ ΕΙΝΑΙ ΣΤΑΤΙΣΤΙΚΗ; Στατιστική είναι η διαδικασία εξαγωγής πληροφορίας από τα δεδομένα. Διαχείριση Πληροφοριών 1.1

ΙΑΣΤΗΜΑΤΑ ΕΜΠΙΣΤΟΣΥΝΗΣ. Γρηγόρης Χλουβεράκης, Ph.D. Αναπληρωτής Καθηγητής Πανεπιστήμιο Κρήτης

ΠΕΡΙΕΧΟΜΕΝΑ ΠΡΟΛΟΓΟΣ 7. ΚΕΦΑΛΑΙΟ 1: Εισαγωγικές Έννοιες 13

10.7 Λυμένες Ασκήσεις για Διαστήματα Εμπιστοσύνης

Θεωρία Πιθανοτήτων & Στατιστική

Bayesian Biostatistics Using BUGS 1

Είδη Μεταβλητών. κλίµακα µέτρησης

ΠΑΝΕΠΙΣΤΗΜΙΑΚΑ ΦΡΟΝΤΙΣΤΗΡΙΑ ΚΟΛΛΙΝΤΖΑ. Ερωτήσεις πολλαπλής επιλογής. Συντάκτης: Δημήτριος Κρέτσης

ΤΙΤΛΟΣ ΜΑΘΗΜΑΤΟΣ: ΣΤΑΤΙΣΤΙΚΗ ΕΝΟΤΗΤΑ: Εισαγωγικές Έννοιες ΟΝΟΜΑ ΚΑΘΗΓΗΤΗ: ΦΡ. ΚΟΥΤΕΛΙΕΡΗΣ ΤΜΗΜΑ: Τμήμα Διαχείρισης Περιβάλλοντος και Φυσικών Πόρων

Transcript:

Μπεϋζιανή Στατιστική και MCMC Μέρος 2 ο : MCMC

Περιεχόμενα Μαθήματος Εισαγωγή στο Πρόβλημα. Monte Carlo Εκτιμητές. Προσομοίωση. Αλυσίδες Markov. Αλγόριθμοι MCMC (Metropolis Hastings & Gibbs Sampling). WinBugs. Διαγνωστικοί Έλεγχοι. MCMC στα Γενικευμένα Γραμμικά Μοντέλα.

Δεδομένα Παράμετρος Μπεϋζιανή Στατιστική Πιθανοφάνεια (Likelihood) Εκ των προτέρων (Prior) y = (y 1,..., y n) θ = ( θ1,..., θk) Θ L( y θ) Εκ των υστέρων (Posterior) p( θ y) = Θ L( y θ) p( θ) p( θ) L( y θ) p( θ)dθ Posterior Likelihood x Prior Σταθερά κανονικοποίησης

Παραδείγματα Υ,..., Υ N( θ,1) 1 n 1 p( θ ) = π +θ 2 (1 ) 1 2 1+ θ n 2 (y i θ) i= 1 θ p( y) exp 2 n( θ y) 1 exp 2 1+θ 2 2

Παραδείγματα Υ Υ μ σ 2 1,..., n N(, ) 2 p( μσ, ) 1 σ 2 n 2 n (y i μ) + 1 2 i= 1 1 2 2 p( θ y) exp 2σ σ

Εισαγωγή Παρατηρούμε από τα δύο προηγούμενα παραδείγματα ότι ο πλήρης υπολογισμός της εκ των υστέρων κατανομής είναι δύσκολος σε κάποιες περιπτώσεις. Το πρόβλημα γίνεται ακόμα πιο περίπλοκο αν η παράμετρος είναι πολυδιάστατη. Λύσεις: Συζυγείς εκ των προτέρων (conjugate priors). Ασυμπτωτικές Προσεγγίσεις. MCMC.

MCMC Εισαγωγή 1949 Metropolis Ulam (αρχική ιδέα). 1954 Metropolis et al. (Metropolis Algorithm). 1970 Hastings (Metropolis Hastings Algorithm). 1984 Geman & Geman (Gibbs Sampling). 1990 Gelfand & Smith (Εφαρμογη MCMC σε Μπεϋζιανή Στατιστική). 1995 Green (Reversible Jump MCMC).

Εισαγωγή ΙΔΕΑ Ότι θέλεις να μάθεις για μια κατανομή μπορεί να επιτευχθεί απλά προσομοιώνοντας τυχαίες τιμές από αυτή (Metropolis Ulam 1949).

Monte Carlo Εκτιμητές Ας υποθέσουμε ότι ενδιαφερόμαστε για την p( θ y) την οποία δεν μπορούμε να υπολογίσουμε αναλυτικά και ας υποθέσουμε χάριν ευκολίας ότι το θ είναι μονοδιάστατο. Στην Μπεϋζιανή συμπερασματολογία συνήθως ενδιαφερόμαστε για διάφορα χαρακτηριστικά της εκ των υστέρων κατανομής όπως:

Μέσος Monte Carlo Εκτιμητές μ =Ε( θ y). Τυπική Απόκλιση Γράφημα. σ= V( θ y). Τεταρτημόρια (π.χ. για την κατασκευή ενός 95% εκ των υστέρων διάστημα εμπιστοσύνης για το θ πρέπει να γνωρίζεις τα 2.5% και 97.5% τεταρτημόρια της εκ των υστέρων κατανομής. Ας υποθέσουμε ότι με κάποιον τρόπο * * προσομοιώσαμε τιμές 1,..., από την θ y m Τότε μπορούμε εύκολα να εκτιμήσουμε όλα τα παραπάνω: θ θ p( ).

Monte Carlo Εκτιμητές Μέσος Τυπική Απόκλιση m * 1 * μ ˆ =Εˆ ( θ y) =θ = θi. m i = 1 m 1 ( * *) 2 σ= ˆ V( ˆ θ y) = θi θ. m 1 i = 1 Γράφημα Ιστόγραμμα των Τεταρτημόρια Μετράμε πόσες από τις τιμές * θ i των είναι μικρότερες από μια σειρά καθορισμένων τιμών, π.χ. γιαναεκτιμήσουμετο2.5% τεταρτημόριο, λύνουμε ως προς t την εξίσωση i= 1 θ *. i m 1 * ˆF θ(t) = I( θi t) = 0.025, I: δείκτρια συνάρτηση. m

Monte Carlo Εκτιμητές Αποδεικνύεται ότι για μεγάλο m, οι συγκεκριμένες Monte Carlo εκτιμήτριες, συγκλίνουν στην ως προς εκτίμηση ποσότητα με αρκετά μεγάλη πιθανότητα, * υπό την προϋπόθεση το δείγμα των θ να είναι τυχαίο. Ένας τρόπος επιλογής * τέτοιου δείγματος είναι τα θ i να είναι ανεξάρτητα και ισόνομα (IID), αλλά όπως τελικά θα δούμε παρακάτω αυτό δεν είναι αναγκαίο.

Monte Carlo Εκτιμητές Αν για παράδειγμα m * * θi m i = 1 θ = από IID δείγμα μεγέθους m από την προέρχεται τότε χρησιμοποιώντας κλασική στατιστική 1 p( θ y) έχουμε ότι * 2 V( θ ) =σ / m με σ 2 η διασπορά της p( θ y). Άρα μπορούμε να δημιουργήσουμε ένα Monte Carlo τυπικό σφάλμα για το * SE( θ ˆ ) = σˆ Χρησιμοποιείται συνήθως για να m * θ αποφασίσουμε πόσο μεγάλο πρέπει να είναι το m

IID Παράδειγμα Έστωηεκτωνυστέρωνκατανομή p( λ y) =Γ(29.001,14.001) Τότε μ =Ε( λ y) = 29.001/14.001 = 2.071 Ας δούμε πόσο καλά εκτιμά αυτή την ποσότητα ο Monte Carlo εκτιμητής

IID Παράδειγμα gamma.sim<- function(m,alpha,beta,n.sim,seed) { set.seed(seed) theta.out <- matrix(0,n.sim,2) for(i in 1:n.sim) { theta.sample<-rgamma(m,alpha,beta) theta.out[i,1]<-mean(theta.sample) theta.out[i,2]<-sqrt(var(theta.sample)/m) } return(theta.out) }

IID Παράδειγμα Η παραπάνω R συνάρτηση προσομοιώνει (n.sim φορές) m τυχαίες τιμές, ανεξάρτητες και ισόνομες από την κατανομή Γ(α,β) και επιστρέφει τον μέσο τους μαζί με το τυπικό σφάλμα.

IID Παράδειγμα

IID Παράδειγμα Άρα οι τιμές του δειγματικού μέσου είναι πολύ κοντά στις πραγματικές τιμές συν-πλην περίπου 0.012 που είναι επίσης πολύ κοντά στο πραγματικό τυπικό σφάλμα σ / m = α/ β m = 0.01216.