Βιοστατιστική κατά Bayes µε τη χρήση του Λογισµικού BUGS

Transcript

1 ΠΑΝΕΠΙΣΤΗΜΙΟ ΑΘΗΝΩΝ ΜΕΤΑΠΤΥΧΙΑΚΟ ΙΠΛΩΜΑ ΒΙΟΣΤΑΤΙΣΤΙΚΗΣ ΜΑΘΗΜΑ: ΜΠΕΫΖΙΑΝΗ ΣΥΜΠΕΡΑΣΜΑΤΟΛΟΓΙΑ Ι ΑΣΚΟΝΤΕΣ: Ι. Ντζούφρας, Π. Τσιαµυρτζής Ι ΑΚΤΙΚΟ ΥΛΙΚΟ ΓΙΑ ΤΟ ΜΑΘΗΜΑ ΜΠΕΫΖΙΑΝΗ ΣΥΜΠΕΡΑΣΜΑΤΟΛΟΓΙΑ: Βιοστατιστική κατά Bayes µε τη χρήση του Λογισµικού BUGS ΙΩΑΝΝΗΣ ΝΤΖΟΥΦΡΑΣ Χίος, Μάιος 2004 Αθήνα, Ιανουάριος 2006

2 ΜΕΤΑΠΤΥΧΙΑΚΟ ΙΠΛΩΜΑ ΒΙΟΣΤΑΤΙΣΤΙΚΗΣ ΜΑΘΗΜΑ: ΜΠΕΫΖΙΑΝΗ ΣΥΜΠΕΡΑΣΜΑΤΟΛΟΓΙΑ Ι ΑΣΚΟΝΤΕΣ: Ι. Ντζούφρας, Π. Τσιαµυρτζής ΜΕΡΟΣ ΙΙ: Βιοστατιστική κατά Bayes µε τη χρήση του Λογισµικού BUGS ιδάσκων: Ιωάννης Ντζούφρας, ιεύθυνση Ηλεκτρονικού Ταχυδροµείου: Ιστοσελίδα Μαθήµατος (Μέρος ΙΙ): Προγράµµατα/MCMC Software 1. Classic BUGS 0.6, available at 2. WINBUGS 1.4 available at Registration page 3. CODA available at Εγχειρίδια/Manuals 1. Spiegelhalter, D., Thomas, A., Best, N. and Gilks, W. (1996). BUGS 0.5: Bayesian Inference Using Gibbs Sampling Manual. MRC Biostatistics Unit, Institute of Public health, Cambridge, UK. available at 2. Spiegelhalter, D., Thomas, A., Best, N. and Gilks, W. (1996). BUGS 0.5: Examples Volume 1. MRC Biostatistics Unit, Institute of Public health, Cambridge, UK. available at 3. Spiegelhalter, D., Thomas, A., Best, N. and Gilks, W.(1996). BUGS 0.5: Εxamples Volume 2. MRC Biostatistics Unit, Institute of Public health, Cambridge, UK. available at 4. Spiegelhalter, D., Thomas, A., Best, N. and Lunn, D. (2003). WinBUGS User Manual, Version 1.4, MRC Biostatistics Unit, Institute of Public Health and 1

3 Department of Epidemiology & Public Health, Imperial College School of Medicine. available at 5. Additional documentation and manuals for BUGS/CODA available at 6. New examples for WinBUGS available at 7. Additional electronic material (tutorial, courses papers) for WINBUGS available at Βιβλιογραφία/Bibliography 1. Scollnik D.P.M. (2000). Actuarial modeling with MCMC and BUGS: Additional Worked Examples. Actuarial Research Clearing House, , , available at 2. Scollnik, D.P.M (2001). Actuarial modeling with MCMC and BUGS. North American Actuarial Journal, 5(2), , available at 3. Congdon, P. (2001). Bayesian Statistical Modelling. Willey and Sons, ISBN: Jackman, S. (2004). Estimation and inference via MCMC: a Resource for Social Scientists; available at 5. Ibrahim, J.G., Chen, M.-H. and Sinha, D. (2001). Bayesian Survival Analysis, examples are available at Επιπλέον Πηγές/ Additional Resources 1. Social science: Simon Jackman's MCMC Resource for Social Scientists features a wide range of models concerned with ordered outcomes, missing data, random coefficients, generalized link functions, latent autoregressive structure and so on. WinBUGS code and Splus data files are provided, as well as tutorial papers on MCMC for social scientists. o Web-page: 2. Pharmacokinetics: David Lunn's PKBugs Page contains details of an `add-on' to WinBUGS for pharmokinetic modelling, developed by David Lunn at Imperial College. This can be run using WinBUGS 1.3. o Web-page: 3. Actuarial science: Actuarial Modelling with MCMC and BUGS has been provided by David Scollnik in Calgary, and has a range of worked examples designed for an actuarial context but using models of much wider applicability. 2

4 An excellent tutorial paper on WinBUGS can also be downloaded - better than the WinBUGS documentation! o Web-page: 4. Population genetics: Kent Holsinger's Population Genetics course ( has a whole set of examples using WinBUGS for estimating inbreeding coefficients, selfing rates, analysing variability selection and so on. Kent also has a set of notes and WinBUGS code ( from the Summer Institute for Statistical Genetics at NC State, which form an introduction to using WinBUGS in population genetics. 5. Cost-effectiveness analysis: Tony O'Hagan's Research Page contains draft papers and WinBUGS code for running Bayesian cost-effectiveness analysis. o Web-page: 6. Programs for analysing imperfect diagnostic tests: The Epidemiologic Diagnostics group at UC Davis provide WinBUGS code and examples for analyzing data derived from imperfect diagnostic test. o Web-page: 7. Complex epidemiological modelling: Tom Smith at the Swiss Tropical Institute ( has models and documentation for 1) A latent class model for non-parametric resolution of a two component mixture, with a training set available for one component: 2) Two-state Hidden Markov Model with covariates 3) A non-linear regression model with Poisson errors in both x and y. Brad Carlin's software page also has a variety of examples for longitudinal and spatial models ( 8. Educational testing: Dan Segall's site concerns an item-response model for test compromise, and includes a manuscript and related WinBUGS programs. o Web-page: 9. Archeology: Andrew Millard's `WinBUGS and Bayesian tools for Archaeology' site shows how to use WinBUGS to analyse many Bayesian examples from the archeological literature. o Web-page: 3

5 Bayesian BioStatistics Using BUGS Βιοστατιστική κατά Bayes µε τη χρήση του Λογισµικού BUGS Ioannis Ntzoufras Department of Statistics, Athens University of Economics & Business ΠΕΡΙΕΧΟΜΕΝΑ ΜΑΘΗΜΑ 1: ΕΙΣΑΓΩΓΗ ΣΤΟ BUGS ΜΑΘΗΜΑ 2: ΕΙΣΑΓΩΓΗ ΣΤΟ WINBUGS ΜΑΘΗΜΑ 3: ΣΥΝΘΕΤΑ ΠΑΡΑ ΕΙΓΜΑΤΑ ΜΑΘΗΜΑ 4: ΣΥΓΚΡΙΣΗ ΜΟΝΤΕΛΩΝ Bayesian Biostatistics Using BUGS (1) 1.1

6 Bayesian BioStatistics Using BUGS ΜΑΘΗΜΑ 1: ΕΙΣΑΓΩΓΗ ΣΤΟ BUGS Ioannis Ntzoufras Department of Statistics, Athens University of Economics & Business ΠΕΡΙΕΧΟΜΕΝΑ 1ου ΜΑΘΗΜΑΤΟΣ 1 ΕΙΣΑΓΩΓΗ ΣΤΑ ΓΕΝΙΚΕΥΜΕΝΑ ΓΡΑΜΜΙΚΑ ΜΟΝΤΕΛΑ 2 ΕΙΣΑΓΩΓΗ ΣΤΟΥΣ ΑΛΓΟΡΙΘΜΟΥΣ MCMC 3 ΜΠΕΥΖΙΑΝΗ ΣΥΜΠΕΡΑΣΜΑΤΟΛΟΓΙΑ ΜΕ ΤΗ ΧΡΗΣΗ ΤΟΥ BUGS Bayesian Biostatistics Using BUGS (1) 1.2

7 1 ΕΙΣΑΓΩΓΗ ΣΤΑ ΓΕΝΙΚΕΥΜΕΝΑ ΓΡΑΜΜΙΚΑ ΜΟΝΤΕΛΑ ΓΕΝΙΚΕΥΣΗ ΤΩΝ ΠΑΛΙΝ ΡΟΜΙΚΩΝ ΜΟΝΤΕΛΩΝ ΞΕΚΙΝΗΣΑΝ ΑΠΟ ΤΟΝ LEGENDRE (1805) KAI TON GAUSS (1809) 1.1. Ε ΟΜΕΝΑ RESPONSE VARIABLE (Υ): εξαρτηµένη ή ενδογενής µεταβλητή ή µεταβλητή απόκρισης/αντίδρασης Y είναι τυχαία µεταβλητή EXPLANATORY VARIABLES (Χ j ): Ανεξάρτητες ή εξογενείς ή επεξηγηµατικές µεταβλητές Χ j θεωρούνται συνήθως σταθερές από το σχεδιασµό τουπειράµατος Bayesian Biostatistics Using BUGS (1) 1.3

8 ΚΥΡΙΕΣ ΣΥΝΙΣΤΩΣΕΣ ΤΥΧΑΙΑ ΣΥΝΙΣΤΩΣΑ (random component) Υ i ~ ΚΑΤΑΝΟΜΗ( θ ) θ : διάνυσµα παραµέτρων ΣΥΣΤΗΜΑΤΙΚΗ ΣΥΝΙΣΤΩΣΑ (systematic component) η i = β 0 +β 1 Χ 1i + + β p Χ pi η i λέγεται γραµµικός προσδιορισµός του µοντέλου (linear predictor) ΣΥΝ ΕΤΙΚΗ ΣΥΝΑΡΤΗΣΗ (link function) Ο τρόπος συνδεσης των παραµέτρων της τυχαίας συνιστώσας µε το γραµµικό προσδιορισµό g(θ) = η i = β 0 +β 1 Χ 1i + + β p Χ pi συνήθως θ είναι ο µέσος της Υ Bayesian Biostatistics Using BUGS (1) 1.4

9 1.3. ΚΑΝΟΝΙΚΟ ΜΟΝΤΕΛΟ ΤΥΧΑΙΑ ΣΥΝΙΣΤΩΣΑ: Υ ποσοτική µεταβλητή Υ i ~ NORMAL( µ i, σ 2 ) ΣΥΣΤΗΜΑΤΙΚΗ ΣΥΝΙΣΤΩΣΑ: Χ j ποσοτικές ή κατηγορικές ΣΥΝ ΕΤΙΚΗ ΣΥΝΑΡΤΗΣΗ µ i = η i = β 0 +β 1 Χ 1i + + β p Χ pi αρα συνδετική συνάρτηση: g(µ)=µ 1.4. ΜΟΝΤΕΛΑ BERNOULLI ΤΥΧΑΙΑ ΣΥΝΙΣΤΩΣΑ: Υ δίτιµη µεταβλητή (0/1) Υ i ~ Bernoulli ( p i ) ΣΥΣΤΗΜΑΤΙΚΗ ΣΥΝΙΣΤΩΣΑ: Χ j ποσοτικές ή κατηγορικές ΣΥΝ ΕΤΙΚΗ ΣΥΝΑΡΤΗΣΗ log ( p i /(1- p i ) ) = η i = β 0 +β 1 Χ 1i + + β p Χ pi αρα συνδετική συνάρτηση: g(p)=logit(p) Bayesian Biostatistics Using BUGS (1) 1.5

10 1.5. ΙΩΝΥΜΙΚΑ ΜΟΝΤΕΛΑ ΤΥΧΑΙΑ ΣΥΝΙΣΤΩΣΑ: Υ: # επιτυχιών σε σύνολο n επαναλήψεων Υ i ~ Binomial ( p i, n i ) ΣΥΣΤΗΜΑΤΙΚΗ ΣΥΝΙΣΤΩΣΑ: Χ j ποσοτικές ή κατηγορικές ΣΥΝ ΕΤΙΚΗ ΣΥΝΑΡΤΗΣΗ log ( p i /(1- p i ) ) = η i = β 0 +β 1 Χ 1i + + β p Χ pi αρα συνδετική συνάρτηση: g(p)=logit(p) 1.6. ΜΟΝΤΕΛΑ POISSON ΤΥΧΑΙΑ ΣΥΝΙΣΤΩΣΑ: Υ: # επιτυχιών σε ένα χρονικό διάστηµα Υ i ~ Poisson ( λ i ) ΣΥΣΤΗΜΑΤΙΚΗ ΣΥΝΙΣΤΩΣΑ: Χ j ποσοτικές ή κατηγορικές ΣΥΝ ΕΤΙΚΗ ΣΥΝΑΡΤΗΣΗ log (λ i )= η i = β 0 +β 1 Χ 1i + + β p Χ pi αρα συνδετική συνάρτηση: g(λ)=log(λ) Bayesian Biostatistics Using BUGS (1) 1.6

11 1.7. ΓΕΝΙΚΕΣ ΑΡΧΕΣ ΜΟΝΤΕΛΟΠΟΙΗΣΗΣ ΕΙΝΑΙ ΤΕΧΝΗ ΟΛΑ ΤΑ ΜΟΝΤΕΛΑ ΕΙΝΑΙ ΛΑΘΟΣ ΜΕΡΙΚΑ ΠΙΟ ΧΡΗΣΙΜΑ ΨΑΧΝΟΥΜΕ ΕΝΑ ΜΟΝΤΕΛΟ ΠΟΥ ΠΕΡΙΓΡΑΦΕΙ ΠΕΡΙΛΗΠΤΙΚΑ ΤΗΝ ΠΡΑΓΜΑΤΙΚΟΤΗΤΑ ΕΛΕΓΧΟΥΜΕ ΠΟΛΛΑ ΙΑΦΟΡΕΤΙΚΑ ΜΟΝΤΕΛΑ ΠΡΕΠΕΙ ΝΑ ΓΙΝΕΤΑΙ ΕΛΕΓΧΟΣ ΚΑΛΗΣ ΠΡΟΣΑΡΜΟΓΗΣ 1.8. ΜΕΡΙΚΑ ΙΣΤΟΡΙΚΑ ΣΤΟΙΧΕΙΑ 1805: LEGENDRE: ορίζει τα κατάλοιπα Εκτιµάει τις παραµέτρους παλινδρόµησης µέσω των ελαχίστων τετραγώνων 1809: GAUSS: Εισάγει την Κανονική κατανοµή Bayesian Biostatistics Using BUGS (1) 1.7

12 1.8. ΜΕΡΙΚΑ ΙΣΤΟΡΙΚΑ ΣΤΟΙΧΕΙΑ 1805: LEGENDRE: ορίζει τα κατάλοιπα Εκτιµάει τις παραµέτρους παλινδρόµησης µέσω των ελαχίστων τετραγώνων 1823: GAUSS (Theoria Combinationis) Εγκαταλείπει την κανονικότητα Η οµοσκεδαστικοτητα διατηρεί κάποιες καλές ιδιότητες Wedderburn (1974, biometrika) απέδειξε το ίδιο για τα GLM 1.8. ΜΕΡΙΚΑ ΙΣΤΟΡΙΚΑ ΣΤΟΙΧΕΙΑ : Fisher διατυπώνει τη θεωρία Πειραµατικού σχεδιασµού (Experimental Design). 1922: Ο Έλεγχος Περιεκτικότητας του Fisher και τo 1o γενικευµένο γραµµικό µοντέλο (RSS) 1935: Η Μελέτη βιολογική περιεκτικότητας του Bliss. Τα µοντέλα Probit (Ann.Appl.Biol.) & 1951: O Berkston εισάγει τα µοντέλα logit (JASA & Biometrics) 1952 (biometrics) Dyke & Patterson εφαρµογή λογιστικής παλινδρόµησης σε κατηγορικά δεδοµένα µε 4µεταβλητές Bayesian Biostatistics Using BUGS (1) 1.8

13 Bayesian Biostatistics Using BUGS 2 ΕΙΣΑΓΩΓΗ ΣΤΟΥΣ ΑΛΓΟΡΙΘΜΟΥΣ MCMC Department of Statistics, Athens University of Economics & Business 2 ΕΙΣΑΓΩΓΗ ΣΤΟΥΣ ΑΛΓΟΡΙΘΜΟΥΣ MCMC Η ΜΠΕΥΖΙΑΝΗ ΠΡΟΣΕΓΓΙΣΗ ΠΡΟΣΟΜΟΙΩΣΗ ΑΠΟ ΤΗΝ ΕΚ-ΤΩΝ-ΥΣΤΕΡΩΝ (posterior) ΚΑΤΑΝΟΜΗ O Αλγόριθµος Metropolis-Hastings Ο ειγµατολήπτης Gibbs ΠΑΡΑ ΕΙΓΜΑ ΑΠΛΗΣ ΠΑΛΙΝ ΡΟΜΙΣΗΣ Bayesian Biostatistics Using BUGS (1) 1.9

14 2.1. Η Μπευζιανή προσέγγιση Κλασσική στατιστική: βασίζεται στην πιθανοφάνεια f (y θ) θ διάνυσµα παραµέτρων=> άγνωστες προς εκτίµηση ποσότητες Εκτίµηση γίνεται µέσω εκτιµητριών συναρτήσεων µε κάποιες καλές ιδιότητες (π.χ. µεροληψία) Εκτιµήτριες βρίσκονται µεγιστοποιώντας την πιθανοφάνεια ΠΑΡΑ ΕΙΓΜΑ: για Υ i ~Ν(µ,σ 2 ) n 1 µ εκτιµάται από το δειγµατικό µέσο y = y i n i= 1 Στατιστική κατά Μπέυες: Θεωρεί τις παραµέτρους τυχαίες µεταβλητές Ορίζει εκ-των-προτέρων (prior) κατανοµών f(θ) βασίζεται στην εκ-των-υστερων (posterior) κατανοµή f (θ y) Bayesian Biostatistics Using BUGS (1) 1.10

15 Πλεονεκτήµατα Πιο καθάρη και πιθανοθεωρητική προσέγγιση Μπορεί να συµπεριλάβει πληροφορία ειδικών ή αποτελέσµατα άλλων µελετών (metaanalysis) Μειονεκτήµατα Υποκειµενικότητα αποτελεσµάτων λόγω της prior υσκολίες υπολογισµου των posterior Κατανοµών Η Εκ-των-υστέρων κατανοµή υπολογίζεται απότοθεώρηµα τουbayes f (θ y) = f (θ,y) / f (y) = f (y θ)f (θ) / f (y) f (y θ)f (θ) Posterior Likelihood x Prior Bayesian Biostatistics Using BUGS (1) 1.11

16 ΠΑΡΑ ΕΙΓΜΑ: ΕΚΤΙΜΗΣΗ ΜΕΣΟΥ ΠΙΘΑΝΟΦΑΝΕΙΑ: Υ i ~ N( µ, σ 2 ) σ 2 γνωστή σταθερή ποσότητα PRIOR: µ ~ N( µ 0, τ 2 ) POSTERIOR: f (µ y) = N( w y + (1-w) µ 0, w σ 2 /n) w= τ 2 /(τ 2 + σ 2 /n) 2.2. ΠΡΟΣΟΜΟΙΩΣΗ ΑΠΟ ΤΗΝ ΕΚ-ΤΩΝ-ΥΣΤΕΡΩΝ ΚΑΤΑΝΟΜΗ Υπολογισµός της posterior Κατανοµής είναι δύσκολος. Συζυγείς εκ-των-προτέρων κατανοµές (conjugate priors, 70s) Ασυµπτωτικές Προσεγγίσεις (80ς) Προσοµοίωση µέσω MCMC (90ς) Bayesian Biostatistics Using BUGS (1) 1.12

17 2.2. ΠΡΟΣΟΜΟΙΩΣΗ ΑΠΟ ΤΗΝ ΕΚ-ΤΩΝ-ΥΣΤΕΡΩΝ ΚΑΤΑΝΟΜΗ MCMC Προϋπήρχαν σε άλλες επιστήµες 1954 Metropolis etal. (Metropolis Algorithm) 1970 Hastings (Metropolis-Hastings Algorithm) 1984 Geman and Geman (Gibbs Sampling) 1990 Smith etal (Εφαρµογή των MCMC σε Μπευζιανά Προβλήµατα) 1995 Green (Reversible Jump MCMC) 2.2. ΠΡΟΣΟΜΟΙΩΣΗ ΑΠΟ ΤΗΝ ΕΚ-ΤΩΝ-ΥΣΤΕΡΩΝ ΚΑΤΑΝΟΜΗ Η Ι ΕΑ: ΑΦΟΥ ΕΝ ΜΠΟΡΟΥΜΕ ΝΑ ΥΠΟΛΟΓΙΣΟΥΜΕ ΤΗΝ ΕΚ-ΤΩΝ-ΥΣΤΕΡΩΝ ΚΑΤΑΝΟΜΗ ΤΟΤΕ ΝΑ ΒΡΟΥΜΕ ΕΝΑ ΑΛΓΟΡΙΘΜΟ ΚΑΙ ΝΑ ΠΡΟΣΟΜΟΙΩΣΟΥΜΕ ΤΥΧΑΙΕΣ ΤΙΜΕΣ ΑΠΟ ΑΥΤΗ Bayesian Biostatistics Using BUGS (1) 1.13

18 2.2. ΠΡΟΣΟΜΟΙΩΣΗ ΑΠΟ ΤΗΝ ΕΚ-ΤΩΝ-ΥΣΤΕΡΩΝ ΚΑΤΑΝΟΜΗ ΗΛΟΓΙΚΗ: ΦΤΙΑΧΝΟΥΜΕ ΜΙΑ ΜΑΡΚΟΒΙΑΝΗ ΑΛΥΣΙ Α ΤΗΣ ΟΠΟΙΑΣ Η ΣΤΑΣΙΜΗ ΚΑΤΑΝΟΜΗ ΕΙΝΑΙ ΙΣΗ ΜΕ ΤΗ ΖΗΤΟΥΜΕΝΗ (ΕΚ-ΤΩΝ-ΥΣΤΕΡΩΝ) ΚΑΤΑΝΟΜΗ. ΚΑΘΕ ΒΗΜΑ ΕΞΑΡΤΑΤΑΙ ΜΟΝΟ ΑΠΟ ΤΟ ΠΡΟΗΓΟΥΜΕΝΟ ΧΡΗΣΙΜΟΠΟΙΟΥΜΕ ΑΥΤΗ ΤΗΝ ΑΛΥΣΙ Α ΓΙΑ ΝΑ ΚΑΤΑΣΚΕΥΑΣΟΥΜΕ ΕΝΑ ΕΙΓΜΑ ΑΠΟ ΤΗ ΣΤΑΣΙΜΗ ΚΑΤΑΝΟΜΗ 2.2. ΠΡΟΣΟΜΟΙΩΣΗ ΑΠΟ ΤΗΝ ΕΚ-ΤΩΝ-ΥΣΤΕΡΩΝ ΚΑΤΑΝΟΜΗ Η ΙΑ ΙΚΑΣΙΑ ΟΡΙΖΟΥΜΕ ΑΥΘΑΙΡΕΤΑ ΚΑΠΟΙΕΣ ΑΡΧΙΚΕΣ ΤΙΜΕΣ ΓΙΑ ΤΙΣ ΠΑΡΑΜΕΤΡΟΥΣ ΜΑΣ θ (0) ΓΙΑ t=1,..., T ΓΕΝΝΑΜΕ ΤΙΜΕΣ ΣΥΜΦΩΝΑ ΜΕ ΤΟΝ ΑΛΓΟΡΙΘΜΟ ΜΑΣ ΟΤΑΝ ΒΕΒΑΙΩΘΟΥΜΕ ΟΤΙ Η ΑΛΥΣΙ Α ΓΕΝΝΑΕΙ ΤΙΜΕΣ ΑΠΟ ΤΗ ΣΤΑΣΙΜΗ ΙΑ ΙΚΑΣΙΑ ( ΗΛΑ Η ΕΧΕΙ ΣΥΓΚΛΙΝΕΙ) ΣΤΑΜΑΤΑΜΕ ΠΕΤΑΜΕ ΤΙΣ ΠΡΩΤΕΣ Κ ΤΙΜΕΣ ΓΙΑ ΝΑ ΑΠΟΦΥΓΟΥΜΕ ΤΥΧΟΝ ΕΠΙΡΡΟΗ ΤΟΥ ΑΡΧΙΚΟΥ ΣΗΜΕΙΟΥ. Bayesian Biostatistics Using BUGS (1) 1.14

19 2.2. ΠΡΟΣΟΜΟΙΩΣΗ ΑΠΟ ΤΗΝ ΕΚ-ΤΩΝ-ΥΣΤΕΡΩΝ ΚΑΤΑΝΟΜΗ ΟΡΟΛΟΓΙΑ INITIAL VALUES (ΑΡΧΙΚΕΣ ΤΙΜΕΣ) ΤΗΣ ΑΛΥΣΙ ΑΣ ΛΕΓΟΝΤΑΙ ΟΙ ΤΙΜΕΣ θ (0) ΑΠΟ ΟΠΟΥ ΞΕΚΙΝΑΜΕ ΤΟΝ ΑΛΓΟΡΙΘΜΟ ΜΑΣ ITERATION (ΕΠΑΝΑΛΗΨΗ): ΚΑΘΕ ΠΡΟΣΟΜΟΙΩΜΕΝΗ ΠΑΡΑΤΗΡΗΣΗ ΑΝΤΙΣΤΟΙΧΕΙ ΣΕ ΜΙΑ ΕΠΑΝΑΛΗΨΗ ΤΟΥ ΑΛΓΟΡΙΘΜΟΥ BURN-IN PERIOD: ΟΙ ΠΕΡΙΟ ΟΣ ΜΕΧΡΙ ΝΑ ΑΡΧΙΣΟΥΜΕ ΝΑ ΠΕΡΝΟΥΜΕ ΤΙΜΕΣ ΑΠΟ ΤΗ ΣΤΑΣΙΜΗ ΚΑΤΑΝΟΜΗ 2.2. ΠΡΟΣΟΜΟΙΩΣΗ ΑΠΟ ΤΗΝ ΕΚ-ΤΩΝ-ΥΣΤΕΡΩΝ ΚΑΤΑΝΟΜΗ ΟΡΟΛΟΓΙΑ CONVERGENCE (ΣΥΓΚΛΙΣΗ): ΟΤΑΝ Η ΙΑ ΙΚΑΣΙΑ ΜΑΣ ΕΧΕΙ ΩΣΕΙ ΤΙΜΕΣ ΑΠΟ ΤΗ ΣΤΑΣΙΜΗ ΚΑΤΑΝΟΜΗ CONVERGENCE DIAGNOSTICS: ΙΑΓΝΩΣΤΙΚΟΙ ΕΛΕΓΧΟΙ ΣΥΓΛΙΣΗΣ EQUILIBRIUM: ΣΤΑΣΙΜΗ ΚΑΤΑΝΟΜΗ MCMC OUTPUT: ΤΟ ΠΡΟΣΟΜΟΙΩΜΕΝΟ ΕΙΓΜΑ Bayesian Biostatistics Using BUGS (1) 1.15

20 2.2. ΠΡΟΣΟΜΟΙΩΣΗ ΑΠΟ ΤΗΝ ΕΚ-ΤΩΝ-ΥΣΤΕΡΩΝ ΚΑΤΑΝΟΜΗ ΟΡΟΛΟΓΙΑ ΕΠΕΙ Η ΟΙ ΑΛΓΟΡΙΘΜΟΙ MCMC ΒΑΣΙΖΟΝΤΑΙ ΣΕ ΜΑΡΚΟΒΙΑΝΕΣ ΑΛΥΣΙ ΕΣ, ΤΟ ΠΡΟΣΟΜΟΙΩΜΕΝΟ ΕΙΓΜΑ ΕΝ ΕΙΝΑΙ I.I.D. ΕΞΑΛΕΙΨΗ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ ΒΛΕΠΟΥΜΕ ΤΙΣ ΑΥΤΟΣΥΣΧΕΤΙΣΕΙΣ (AUTOCORRELATIONS) ΚΡΑΤΑΜΕ 1 ΠΑΡΑΤΗΡΗΣΗ ΑΝΑ L ΕΠΑΝΑΛΗΨΕΙΣ. Η ΠΟΣΟΤΗΤΑ L ΛΕΓΕΤΑΙ THIN (ΛΕΠΤΥΝΣΗ) ΤΗΣ ΑΛΥΣΙ ΑΣ ΛΕΠΤΥΝΣΗ ΕΝΟΣ ΠΡΟΣΟΜΟΙΩΜΕΝΟΥ ΕΙΓΜΑΤΟΣ ΜΠΟΡΕΙ ΝΑ ΓΙΝΕΙ ΚΑΙ ΛΟΓΩ ΑΝΑΛΥΣΗΣ Η ΑΠΟΘΗΚΕΥΤΙΚΟΥ ΧΩΡΟΥ 2.2. ΠΡΟΣΟΜΟΙΩΣΗ ΑΠΟ ΤΗΝ ΕΚ-ΤΩΝ-ΥΣΤΕΡΩΝ ΚΑΤΑΝΟΜΗ ΑΛΓΟΡΙΘΜΟΙ ΑΛΓΟΡΙΘΜΟΣ METROPOLIS-HASTINGS ΕΙΓΜΑΤΟΛΗΠΤΗΣ GIBBS Bayesian Biostatistics Using BUGS (1) 1.16

21 ΑΛΓΟΡΙΘΜΟΣ METROPOLIS- HASTINGS Έστω θ old η τρέχουσα τιµή των παραµέτρων ειγµατοληπτούµε θ can από µία κατανοµή εισήγησης (proposal distribution) q(θ can θ old ). can old can f ( θ y) q( θ θ ) Υπολογίζουµε a = min 1, old can old f ( θ y) q( θ θ ) Θέτουµε θ new= θ can µε πιθανότητα α και θ new= θ old µε πιθανότητα (1-α) ΑΛΓΟΡΙΘΜΟΣ METROPOLIS- HASTINGS Συνήθως q(θ can θ old ) = Ν(θ old, c 2 ). c 2 λέγεται και tuning parameter και επηρεάζει τη σύγκλιση. Επιλέγεται έτσι ωστε να δεχόµαστε 30-40% Η πιθανότητα αποδοχής α απλοποιείται can f ( θ y) a = min 1, old f ( θ y) Bayesian Biostatistics Using BUGS (1) 1.17

22 ΕΙΓΜΑΤΟΛΗΠΤΗΣ GIBBS Έστω θ old η τρέχουσα τιµή των παραµέτρων και θ old =(θ old 1,, θ old p ) Τ θ new 1 ~f (θ 1 θ old 2,, θ old p,y) θ new j ~f (θ j θ new 1,,θ new j-1,θ old j+1,, θ old p,y) θ new p ~f (θ j θ new 1,,θ new p-1,y) ΕΙΓΜΑΤΟΛΗΠΤΗΣ GIBBS f (θ j θ new 1,,θ new j-1,θ old j+1,, θ old p,y) ονοµαζέται full conditional posterior distribution και συµβολίζεταιf (θ j ) Bayesian Biostatistics Using BUGS (1) 1.18

23 ΕΙΓΜΑΤΟΛΗΠΤΗΣ GIBBS ιαφορές µε Μ-Η θ can θ old σε κάθε επανάληψη Gibbs υπο-περίπτωση Μ-Η για q()=f (θ j ) Κάθε φορά ανανεώνουµε µία-µία τις τιµές f (θ j ) µπορεί να είναι άγνωστη => Χρήση adaptive rejection sampling για log-convave κατανοµές (Gilks & Wild, 1992) Στα GLM οι posterior είναι log-concave (Dellaportas & Smith, 1993) Χρησιµοποιείται στο BUGS 2.3 ΠΑΡΑ ΕΙΓΜΑ: GIBBS SAMPLING ΣΤΗΝ ΑΠΛΗ ΠΑΛΙΝ ΡΟΜΗΣΗ Y i ~ N( µ i, σ 2 ) για i=1,2,...,n µ i = α + β Χ i θ=(α,β,σ 2 ) Τ PRIORS: f (θ)=f (α,β,σ 2 )= f (α)f (β)f (σ 2 ) f (α) = Normal(µ α, τ α2 ) f (β) = Normal(µ β, τ β2 ) f (σ 2 )=Inverse Gamma(γ, δ) αν τ= σ -2 τότε f(τ)=gamma(γ, δ) Bayesian Biostatistics Using BUGS (1) 1.19

24 2.3 ΠΑΡΑ ΕΙΓΜΑ: GIBBS SAMPLING ΣΤΗΝ ΑΠΛΗ ΠΑΛΙΝ ΡΟΜΗΣΗ Full Conditional Posteriors f(α β, σ 2,y)= N w ( y bx) + (1 w w 1 = τ 2 /(τ 2 +σ 2 /n) 1 1 )µ α, w1 2 σ n n xi yi anx f(β α, σ 2,y)= i= 1 N w + (1 w n 2 xi i= 1 w 2 = τ 2 /(τ 2 +σ 2 / Σx i2 ) 2 2 )µ, β w 2 2 σ n i= 1 x 2 i 2.3 ΠΑΡΑ ΕΙΓΜΑ: GIBBS SAMPLING ΣΤΗΝ ΑΠΛΗ ΠΑΛΙΝ ΡΟΜΗΣΗ Full Conditional Posteriors f(σ 2 α, β,y)=ig( γ+n/2, δ+ Σ(y i -α-βx i ) 2 /2) Bayesian Biostatistics Using BUGS (1) 1.20

25 Bayesian Biostatistics Using BUGS 3... Μπεϋζιανή Συµπερασµατολογία µε τη Xρήση του BUGS Department of Statistics, Athens University of Economics & Business 3.1. Εισαγωγή: Τι είναι το BUGS BUGS: Bayesian inference Using Gibbs Sampling Γλώσσα προγραµµατισµού που ορίζουµε µοντέλο (πιθανοφάνεια, prior) Υπολογίζει τις full conditional και προσοµοιώνει από log-convave posterior κατανοµές Bayesian Biostatistics Using BUGS (1) 1.21

26 3.1. Εισαγωγή: Τι είναι το BUGS Ξεκίνησε γύρω στο 1995 Γύρω στο 1998 βγήκε η έκδοση για Windows (Winbugs) Οφείλεται σε µια οµάδα του MRC στο Cambridge (Spiegelhalter, Gilks, Best, Thomas) 3.1. Εισαγωγή: Τι είναι το BUGS ΠΡΟΣΟΧΗ: Ο ΕΙΓΜΑΤΟΛΗΠΤΗΣ GIBBS ΜΠΟΡΕΙ ΝΑ ΕΙΝΑΙ ΕΠΙΚΙΝ ΥΝΟΣ ΓΙΑΤΙ; Bayesian Biostatistics Using BUGS (1) 1.22

27 3.1. Εισαγωγή: Τι είναι το BUGS ΓΙΑΤΙ; ΛΑΘΟΣ ΑΠΟΤΕΛΕΣΜΑΤΑ ΛΟΓΩ ΜΗ ΣΥΓΚΛΙΣΗΣ ΠΟΛΥ ΑΡΓΗ ΣΥΓΚΛΙΣΗ ΚΑΚΕΣ ΑΡΧΙΚΕΣ ΤΙΜΕΣ ΚΑΚΗ ΕΠΙΛΟΓΗ ΜΟΝΤΕΛΟΥ ΥΠΕΡ-ΠΑΡΑΜΕΤΡΟΠΟΙΗΣΗ (overparametrazation) ΣΠΑΣΙΜΟ ΝΕΥΡΩΝ 3.1. Εισαγωγή: Τι είναι το BUGS ΓΙΑΤΙ; ΛΑΘΟΣ ΑΠΟΤΕΛΕΣΜΑΤΑ ΛΟΓΩ ΜΗ ΣΥΓΚΛΙΣΗΣ ΠΟΛΥ ΑΡΓΗ ΣΥΓΚΛΙΣΗ ΚΑΚΕΣ ΑΡΧΙΚΕΣ ΤΙΜΕΣ ΚΑΚΗ ΕΠΙΛΟΓΗ ΜΟΝΤΕΛΟΥ ΥΠΕΡ-ΠΑΡΑΜΕΤΡΟΠΟΙΗΣΗ (overparametrazation) ΣΠΑΣΙΜΟ ΝΕΥΡΩΝ Bayesian Biostatistics Using BUGS (1) 1.23

28 3.1. Εισαγωγή: Τι είναι το BUGS ΑΡΧΕΙΑ BUGS *.DAT:Αρχείο εδοµένων *.INI: Αρχείο Αρχικών τιµών *.BUG: Αρχείο Moντέλου *.CMD: Αρχείο Εντολών προσοµοίωσης *.LOG: Αρχείο Αποτελεσµάτων προσοµοίωσης *.OUT: Αρχείο Προσοµοιωµένων τιµών *.IND: Αρχείο µε Περιεχόµενα του *.OUT 3.1. Εισαγωγή: Τι είναι το BUGS Προετοιµασίατων των εδοµένων Μπευζιανή Ανάλυση Ανάλυση Προσοµοιωµένων Τιµών Τιµών Συντάκτης Κειµένων Στατιστικά Πακέτα Spread sheet WinBUGS BUGS R/Splus STATA Bayesian Biostatistics Using BUGS (1) 1.24

29 3.2. Ένα Απλό Παράδειγµα στοbugs Green & Touchston (1963, Am.Jour. Of Obsterics & Gynecology) Μελέτη σχέσης Y : Βάρος γέννησης (birthweight) ενός παιδιού X : Επίπεδο οιστριόλης (estriol) των εγκύων γυναικών n=31 Το γράφηµα που ακολουθεί δείχνει ότι υπάρχει συσχέτιση 3.2. Ένα Απλό Παράδειγµα στοbugs BIRTHWEIGHT g/ ESTRIOL mg/24hr Bayesian Biostatistics Using BUGS (1) 1.25

30 Χτίζοντας το Μοντέλο ΤΥΧΑΙΑ ΣΥΝΙΣΤΩΣΑ: Birth i ~ Normal(µ i, σ 2 ) ΣΥΣΤΗΜΑΤΙΚΗ ΣΥΝΙΣΤΩΣΑ: η i = α+β Estriol i ΣΥΝ ΕΤΙΚΗ ΣΥΝΑΡΤΗΣΗ: µ i =η i =α+β Estriol i για i=1,...,31 PRIORS (Non-informative) f (α)=normal ( 0, 10 4 ) f (β)=normal ( 0, 10 4 ) f (σ 2 )=Inverse Gamma (10-4, 10-4 ) ή f (τ=σ -2 )=Gamma (10-4, 10-4 ) ηµιουργία Μοντέλων στο BUGS ΣΕ *.BUG Ορίζουµε το µοντέλο µας Εντολές => BUGS MANUAL σελ ΟΜΗ: Προκαταρκτικό κοµµάτι: δηλώνουµε µεταβλητές, σταθερές, δεδοµένα και αρχικές τιµές Κυρίως µοντέλο: εδώ ορίζουµε πιθανοφάνεια και priors Bayesian Biostatistics Using BUGS (1) 1.26

31 ηµιουργία Μοντέλων στο BUGS ΠΡΟΚΑΤΑΡΚΤΙΚΟ ΚΟΜΜΑΤΙ <;>: τελειώνει κάθε εντολή του BUG file model <όνοµα µοντέλου>; const <σταθερά 1=#>,..., <σταθερά κ=#>; Ορισµός σταθερών παραµέτρων var <µεταβλητή 1>,..., <µεταβλητή κ>; Ορισµός τυχαίων µεταβλητών data <µεταβλητή 1>,..., <µεταβλητή κ> in <ονοµα αρχείου>, <µεταβλητή κ+1>,..., <µεταβλητή κ+λ> in <ονοµα αρχείου2> : ορισµός αρχείων δεδοµένων inits in <ονοµα αρχείου> : ορισµός αρχείων µε αρχικές τιµές ηµιουργία Μοντέλων στο BUGS ΚΥΡΙΩΣ ΜΟΝΤΕΛΟ Το κυρίως µοντέλο αρχίζει και τελειώνει µε {} ~ : ορίζουµε τις τυχαίες µεταβλητές <- : ισότητα/ ανάθεση Οι κατανοµές ορίζονται στις σελίδες Αν θέλουµε ναπεριορίσουµε µία κατανοµή σεένα διάστηµα (α,β) τότε η κατανοµή ακολουθείται από Ι(α,β) Bayesian Biostatistics Using BUGS (1) 1.27

32 ηµιουργία Μοντέλων στο BUGS ΚΥΡΙΩΣ ΜΟΝΤΕΛΟ Κανονικη Κατανοµη: y~dnorm( mu, tau ) mu= µέσος tau= ακρίβεια (precision) =1/σ 2 Γάµµα Κατανοµη: y~dgamma( a, b ) µέσος = a/b x[i] : i στοιχείο του διανύσµατος x d[i,j] : στοιχείο της i γραµµής και j στήλης του πίνακα d Εισαγωγή του Μοντέλου του Παραδείγµατος στο BUGS (1) Birth i ~ Normal(µ i, σ 2 ) (2) η i = α+β Estriol i (3) µ i =η i =α+β Estriol i για i=1,...,31 PRIORS f (α)=normal ( 0, 10 4 ) f (β)=normal ( 0, 10 4 ) f (τ=σ -2 )=Gamma(10-4, 10-4 ) σ 2 =1/ τ for (i in 1:n) { Birth[i]~dnorm(mu[i],tau) mu[i] <-a+b*estriol[i] } a~dnorm(0.0,1.0e-04) b~dnorm(0.0,1.0e-04) tau~dgamma(1.0e-04,1.0e-04) s2<-1/tau Bayesian Biostatistics Using BUGS (1) 1.28

33 Εισαγωγή του Μοντέλου του Παραδείγµατος στο BUGS ΠΡΟΚΑΤΑΡΚΤΙΚΟ ΚΟΜΜΑΤΙ model example1; const n=31; # n=sample size var estriol[n], # estriol level of pregnant woman birth[n], # birthweight mu[n], # regression expected value a,b,tau,s2; # model parameters, # tau = precision, s2=1/tau variance data estriol,birth in 'estriol.dat'; inits in 'estriol.in'; Προσοµοιώνοντας από την posterior ΕΝΤΟΛΕΣ ΠΡΟΣΟΜΟΙΩΣΗΣ (σελ 31, BUGS MANUAL) bugs [enter] ΞΕΚΙΝΗΜΑ ΤΟΥ BUGS compile( estriol.bug ) ΤΣΕΚΑΡΕΙ ΤΗ ΣΥΝΤΑΞΗ ΤΟΥ ΜΟΝΤΕΛΟΥ, update(1000) monitor(a) monitor(b) monitor(s2) monitor(s2,10) ΒΡΙΣΚΕΙ ΤΙΣ CONDITIONALS ΚΑΙ ΤΙΣ ΑΡΧΙΚΕΣ ΤΙΜΕΣ ΠΡΟΣΟΜΟΙΩΝΕΙ 1000 ΤΙΜΕΣ ΑΠΟ ΤΗ ΣΤΙΓΜΗ ΑΥΤΗ ΑΠΟΘΗΚΕΥΕΙ ΤΙΣ ΠΡΟΣΟΜΟΙΩΜΕΝΕΣ ΤΙΜΕΣ ΑΠΟΘΗΚΕΥΣΗ ΑΝΑ 10 (ΤΗΙΝ=10) Bayesian Biostatistics Using BUGS (1) 1.29

34 Προσοµοιώνοντας από την posterior ΕΝΤΟΛΕΣ ΠΡΟΣΟΜΟΙΩΣΗΣ (σελ 31, BUGS MANUAL) update(1000) ΠΡΟΣOΜΟΙΩΝΟΥΜΕ 1000 ΤΙΜΕΣ stats(a) ΣΤΑΤΙΣΤΙΚΟΙ ΕΙΚΤΕΣ stats(b) ΤΩΝ ΠΡΟΣΟΜΟΙΩΜΕΝΩΝ ΤΙΜΩΝ stats(s2) (ΤΗΣ posterior ΚΑΤΑΝΟΜΗΣ) diag(a) diag(b) diag(s2) q() ΙΑΓΝΩΣΤΙΚΟ ΤΕΣΤ ΣΥΓΚΛΙΣΗΣ ΕΞΟ ΟΣ ΑΠΟ ΤΟ BUGS EDIT BUGS.LOG ΒΛΕΠΟΥΜΕ ΟΛΑ ΤΑ ΑΠΟΤΕΛΕΣΜΑΤΑ EDIT BUGS.IND ΠΕΡΙΕΧΟΜΕΝΑ BUGS.OUT ΕΙΣΑΓΟΥΜΕ ΤΟ BUGS.OUT ΣΕ ΣΤΑΤΙΣΤΙΚΟ ΠΑΚΕΤΟ ΓΙΑ ΑΝΑΛΥΣΗ Προσοµοιώνοντας από την posterior ΠΡΟΣΟΜΟΙΩΣΗ ΣΤΟ ΠΑΡΑΣΚΗΝΙΟ Γράφουµε τις εντολές ένα αρχείο µε κατάληξη CMD πχ. Example1.cmd Τρέχουµε το µοντέλο στο παρασκήνιο µε την εντολη backbugs <όνοµα αρχείου CMD> π.χ. backbugs example.cmd Τα αποτελέσµατα τα βλέπουµε µε τον ίδιο τρόπο όπως παραπάνω δηλ. EDIT BUGS.LOG ΒΛΕΠΟΥΜΕ ΟΛΑ ΤΑ ΑΠΟΤΕΛΕΣΜΑΤΑ EDIT BUGS.IND ΠΕΡΙΕΧΟΜΕΝΑ BUGS.OUT ΕΙΣΑΓΟΥΜΕ ΤΟ BUGS OUT ΣΕ ΣΤΑΤΙΣΤΙΚΟ ΠΑΚΕΤΟ ΓΙΑ Bayesian Biostatistics Using BUGS (1) 1.30

35 ΙΑΓΡΑΜΜΑ 1: Trace of Posterior Values Simulated Values alpha ΕΝ ΕΙΞΗ ΜΗ ΣΥΓΚΛΙΣΗΣ ΚΑΙ ΥΨΗΛΩΝ ΑΥΤΟΣΥΣΧΕΤΙΣΕΩΝ Iterations Simulated Values beta Iterations Simulated Values Sigma^ Iterations ΙΑΓΡΑΜΜΑ 2: ΕΡΓΟ ΙΚΟΙ ΜΕΣΟΙ ERGODIC MEAN alpha Iterations ERGODIC MEAN beta Iterations ERGODIC MEAN sigma^ Iterations Bayesian Biostatistics Using BUGS (1) 1.31

36 ΙΑΓΡΑΜΜΑ 3: ΑΥΤΟΣΥΣΧΕΤΙΣΕΙΣ ΓΙΑ ΤΗΝ ΠΑΡΑΜΕΤΡΟ α Series : a ACF Lag ΙΑΓΡΑΜΜΑ 4: ΑΥΤΟΣΥΣΧΕΤΙΣΕΙΣ ΓΙΑ ΤΗΝ ΠΑΡΑΜΕΤΡΟ β Series : b ACF Lag Bayesian Biostatistics Using BUGS (1) 1.32

37 ΙΑΓΡΑΜΜΑ 5: ΑΥΤΟΣΥΣΧΕΤΙΣΕΙΣ ΓΙΑ ΤΗΝ ΠΑΡΑΜΕΤΡΟ σ 2 Series : s2 ACF Lag Προσοµοιώνοντας από την posterior ΙΟΡΘΩΣΗ ΤΗΣ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ (1) ΑΥΞΑΝΟΥΜΕ ΤΟ ΙΑΣΤΗΜΑ ΛΕΠΤΥΝΣΗΣ (Thin=25) ΣΤΟ CMD ΑΡΧΕΙΟ ΤΟΥ BUGS monitor(a,25) monitor(b,25) Bayesian Biostatistics Using BUGS (1) 1.33

38 ΙΑΓΡΑΜΜΑ 6: Trace of Posterior Values (5000 Iterations, Thin=25) a :200 b :200 s :200 ΙΑΓΡΑΜΜΑ 7: ΑΥΤΟΣΥΣΧΕΤΙΣΕΙΣ (5000 Iterations, Thin=25) Series : a Lag Series : b Lag Series : s Lag Bayesian Biostatistics Using BUGS (1) 1.34

39 Προσοµοιώνοντας από την posterior ΙΟΡΘΩΣΗ ΤΗΣ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ (2) ΑΛΛΑΖΟΥΜΕ ΤΗΝ ΠΑΡΑΜΕΤΡΟΠΟΙΗΣΗ ΤΟΥ ΜΟΝΤΕΛΟΥ ΑΦΑΙΡΕΣΗ ΤΟΥ ΜΕΣΟΥ ΑΠΟ ΚΑΘΕ ΕΠΕΞΗΓΗΜΑΤΙΚΗ ΜΕΤΑΒΛΗΤΗ ΒΟΗΘΑΕΙ ΣΤΗ ΣΥΓΚΛΙΣΗ ΑΡΑ η i = α*+β(x i - x) α= α*-β x Προσοµοιώνοντας από την posterior ΙΟΡΘΩΣΗ ΤΗΣ ΑΥΤΟΣΥΣΧΕΤΙΣΗΣ (2) ΑΛΛΑΖΟΥΜΕ ΤΗΝ ΠΑΡΑΜΕΤΡΟΠΟΙΗΣΗ ΤΟΥ ΜΟΝΤΕΛΟΥ ΑΦΑΙΡΕΣΗ ΤΟΥ ΜΕΣΟΥ ΑΠΟ ΚΑΘΕ ΕΠΕΞΗΓΗΜΑΤΙΚΗ ΜΕΤΑΒΛΗΤΗ ΒΟΗΘΑΕΙ ΣΤΗ ΣΥΓΚΛΙΣΗ ΑΡΑ ΣΤΟ BUGS mu[i]) <- a.star+b*(estriol[i]-mean(estriol[])); a<-a.star-b*mean(estriol[]); a.star~dnorm(0.0, 1.0E-04); Bayesian Biostatistics Using BUGS (1) 1.35

40 ΙΑΓΡΑΜΜΑ 8: Trace of Posterior Values a :1000 b :1000 s :1000 ΙΑΓΡΑΜΜΑ 9: ΑΥΤΟΣΥΣΧΕΤΙΣΕΙΣ Series : a Lag Series : b Lag Series : s Lag Bayesian Biostatistics Using BUGS (1) 1.36

41 ΙΑΓΡΑΜΜΑ 10: ΙΣΤΟΓΡΑΜΜΑΤΑ POSTERIOR ΤΙΜΩΝ Histogram of Posterior Values for alpha a2 Histogram of Posterior Values for beta b2 Histogram of Posterior Values for sigma^ s22 ΙΑΓΡΑΜΜΑ 11: ΕΚΤΙΜΩΜΕΝΕΣ POSTERIOR ΚΑΤΑΝΟΜΕΣ ksmooth(a2, bandwidth = 5)$y ksmooth(b2, bandwidth = 0.3)$y ksmooth(s22, bandwidth = 5.3)$y Posterior Density of alpha ksmooth(a2, bandwidth = 5)$x Posterior Density of beta ksmooth(b2, bandwidth = 0.3)$x Posterior Density of sigma^ ksmooth(s22, bandwidth = 5.3)$x Bayesian Biostatistics Using BUGS (1) 1.37

42 Προσοµοίωση στο Παρασκήνιο ΗΜΙΟΥΡΓΟΥΜΕ ΕΝΑ ΑΡΧΕΙΟ ΜΕ ΤΙΣ ΠΡΟΗΓΟΥΜΕΝΕΣ ΕΝΤΟΛΕΣ (ESTRIOL.CMD) ΠΡΟΣΟΜΟΙΩΝΟΥΜΕ ΤΙΜΕΣ ΜΕ BACKBUGS ESTRIOL.CMD ΣΤΟΝ ΚΑΤΑΛΟΓΟ ΤΟΥ BUGS ΒΛΕΠΟΥΜΕ ΤΑ ΑΠΟΤΕΛΕΣΜΑΤΑ ΣΤΟ ΑΡΧΕΙΟ BUGS.LOG 3.3. Παράδειγµα 2: Μοντέλα για ιωνυµικά εδοµένα ΠΑΡΑ ΕΙΓΜΑ 12, BUGS EXAMPLES vol 2 σελ. 43 Bliss (1935) Εκθέτουµε 8 οµάδες εντόµων σε διαφορετικά επίπεδα Carbon dislphide και καταγράφουµε Συγκέντρωση (Χ i ) Συνολικός Αριθµός εντόµων στην οµάδα (n i ) Αριθµός εντόµων που απεβίωσαν (r i ) Bayesian Biostatistics Using BUGS (1) 1.38

43 3.3. Παράδειγµα 2: Μοντέλα για ιωνυµικά εδοµένα (1) r i ~ Binomial(p i, n i ) (2) η i = α*+β(x i - x) (3) logit(p i )=η i για i=1,...,8 PRIORS f (α)=normal ( 0, 10 4 ) f (β)=normal ( 0, 10 4 ) α=α*-β x LINK FUNCTIONS logit(p)=log{p/(1-p)} probit(p)=φ -1 (p) cloglog(p)=log(-log(1-p)) for (i in 1:n) { r[i]~dbinom(p[i],n[i]) logit(p[i])<-a.star+b*x[i] } a~dnorm(0.0,1.0e-04) b~dnorm(0.0,1.0e-04) a<-a.star-b*mean(x[]) 3.3. Παράδειγµα 2: Μοντέλα για ιωνυµικά εδοµένα ΜΕΡΙΚΑ ΣΧΟΛΙΑ ΑΝΑΜΕΝΟΜΕΝΕΣ ΤΙΜΕΣ ΥΠΟΛΟΓΙΖΟΝΤΑΙ ΩΣ r.hat[i]<-n[i]*p[i]; ODDS RATIO ΓΙΑ LOGIT MODELS odds.ratio<-exp(b); Bayesian Biostatistics Using BUGS (1) 1.39

44 3.4. Παράδειγµα 3: Μοντέλα για ίτιµες Μεταβλητές Ένα δείγµα ηλικιωµένων ατόµων εξετάστηκαν ψυχιατρικά αν έχουν κάποια συµπτώµατα γηρατειών (senility symptoms). Μια επεξηγηµατική µεταβλητή είναι είναι το σκορ σε ένα υπο-τεστ της κλίµακας ενήλικης ευφυΐας Wechsler (Wecshler Adult Intelligence Scale - WAIS). Να βρεθεί ποιο x αντιστοιχεί σε p=1/2 και να βρεθεί και η posterior κατανοµή της πιθανότητας για κάποιον µε WAIS ίσο µε τοµέσο όρο 3.4. Παράδειγµα 3: Μοντέλα για ίτιµες Μεταβλητές ΜΕΡΙΚΑ ΣΧΟΛΙΑ Το µοντέλο for (i in 1:n) { symptom[i]~dbern( p[i] ); logit( p[i] ) <- a+b*wais[i]; } Το x για p=1/2 βρίσκεται ως x.half<- -a/b; To ποσοστό για κάποιον µε µέσο σκορ WAIS p.mean<exp(a+b*mean(x[]))/(1+exp(a+b*mean(x[]))); Bayesian Biostatistics Using BUGS (1) 1.40

45 3.5. Παράδειγµα 4: Μοντέλα Poisson για 2x2 Πίνακες Συνάφειας & Η Posterior Κατανοµή του Odds Ratio Mahon et.al. (1970) bulletin of the world health organazation Μελέτη για την πιθανή θετική σχέση µεταξύ ηλικίας στην 1η γέννα και καρκίνου του µαστο. Οι περιπτώσεις (cases) προέρχονται από επιλεγµένα νοσοκοµεία στις ΗΠΑ, Ελλάδα, Γιουγκοσλαβία, Βραζιλία, Ταϊβάν & Ιαπωνία Οι Μάρτυρες (controls) επιλέχθηκαν απο γυναίκες µε συγκρίσιµη ηλικία από τα ίδια νοσοκοµεία 3.5. Παράδειγµα 4: Μοντέλα Poisson για 2x2 Πίνακες Συνάφειας & Η Posterior Κατανοµή του Odds Ratio AGE AT FIRST BIRTH STATUS Age>29 (1) Age<30 (0) Case (1) Control (0) Bayesian Biostatistics Using BUGS (1) 1.41

46 3.5. Παράδειγµα 4: Μοντέλα Poisson για 2x2 Πίνακες Συνάφειας & Η Posterior Κατανοµή του Odds Ratio Status Age Counts Παράδειγµα 4: Μοντέλα Poisson για 2x2 Πίνακες Συνάφειας & Η Posterior Κατανοµή του Odds Ratio ΤΟ ΜΟΝΤΕΛΟ for (i in 1:4) { counts[i]~dpois(lambda[i]); log (lambda[i])<-mu+ a*status[i]+b*age[i]+ab*status[i]*age[i]; } ODDS RATIO odds.ratio<-exp(ab); Bayesian Biostatistics Using BUGS (1) 1.42

47 3.6. Παράδειγµα 5: Εκτίµηση κοινού Odds Ratio σε 2x2xJ Πίνακες Συνάφειας Σε πίνακες 2x2xJ η εκτίµηση ενός κοινού OR γίνεται από το Maentel-Haenzel OR MH =(Σα i d i /n i )/(Σb i c i /n i ) Sandler, Everson & Wilcox (1985) Amer.Journal of Epidemiology Μελέτη µε 518 καρκινοπαθείς µε ηλικίες και 518 µάρτυρες (οµάδα ελέγχου) ταιριασµένοι (matched) ως προς φύλο και ηλικία Σκοπός: εκτίµηση της επίδρασης του παθητικού καπνίσµατος στον κίνδυνο εµφάνισης καρκίνου. Το παθητικό κάπνισµα ορίστικε θετικά αν η σύζυγος κάπνιζε τουλάχιστον 1 τσιγάρο ηµερησίως τους τελευταίους 6 µήνες. Συγχυτικός παράγοντας (confounder) αν το ίδιο άτοµο καπνίζει 3.6. Παράδειγµα 5: Εκτίµηση κοινού Odds Ratio σε 2x2xJ Πίνακες Συνάφειας Non Smokers (0) Smokers (1) Passive Smoker (1) Non Passive Smoker(0) Passive Smoker (1) Non Passive Smoker (0) Case(1) Control (0) Bayesian Biostatistics Using BUGS (1) 1.43

48 3.6. Παράδειγµα 5: Εκτίµηση κοινού Odds Ratio σε 2x2xJ Πίνακες Συνάφειας ΚΑΝΟΥΜΕ ΥΟ ΑΝΑΛΥΣΕΙΣ ΑΝΑΛΥΣΗ 1: ΧΕΙΡΙΖΟΜΑΣΤΕ ΞΕΧΩΡΙΣΤΑ ΤΟΝ ΚΑΘΕ ΠΙΝΑΚΑ ΚΑΙ ΕΚΤΙΜΟΥΜΕ ΕΝΑ ODDS RATIO ΓΙΑ ΚΑΘΕ ΠΙΝΑΚΑ (ΟΠΩΣ ΠΑΡΑ ΕΙΓΜΑ 4) ΣΥΓΚΡΙΝΟΥΜΕ ΤΙΣ POSTERIOR ΚΑΤΑΝΟΜΕΣ ΤΟΥΣ ΑΝΑΛΥΣΗ 2: ΧΕΙΡΙΖΟΜΑΣΤΕ ΞΕΧΩΡΙΣΤΑ ΤΟΝ ΚΑΘΕ ΠΙΝΑΚΑ ΕΚΤΙΜΟΥΜΕ ΕΝΑ ΚΟΙΝΟ ODDS RATIO ΓΙΑ ΚΑΘΕ ΠΙΝΑΚΑ 3.6. Παράδειγµα 5: Εκτίµηση κοινού Odds Ratio σε 2x2xJ Πίνακες Συνάφειας ΑΝΑΛΥΣΗ 1: ΠΡΟΚΑΤΑΡΤΙΚΟ ΚΟΜΜΑΤΙ var, b[2,4], or[2]; ΜΟΝΤΕΛΟ #model for 1st table (nonsmokers) for (i in 1:4) { counts[i]~dpois( lambda[i] ); log(lambda[i])<-b[1,1]+b[1,2]*status[i] +b[1,3]*passive[i] +b[1,4]*status[i]*passive[i]; } Bayesian Biostatistics Using BUGS (1) 1.44

49 3.6. Παράδειγµα 5: Εκτίµηση κοινού Odds Ratio σε 2x2xJ Πίνακες Συνάφειας ΑΝΑΛΥΣΗ 1: ΠΡΟΚΑΤΑΡΤΙΚΟ ΚΟΜΜΑΤΙ var, b[2,4], or[2]; ΜΟΝΤΕΛΟ #model for 2nd table (smokers) for (i in 5:8) { counts[i]~dpois( lambda[i] ); log(lambda[i])<-b[2,1]+b[2,2]*status[i] +b[2,3]*passive[i] +b[2,4]*status[i]*passive[i]; } 3.6. Παράδειγµα 5: Εκτίµηση κοινού Odds Ratio σε 2x2xJ Πίνακες Συνάφειας ΑΝΑΛΥΣΗ 1: ΠΡΟΚΑΤΑΡΤΙΚΟ ΚΟΜΜΑΤΙ var, b[2,4], or[2]; ΜΟΝΤΕΛΟ #priors for (i in 1:2){ for (j in 1:p){ b[i,j]~dnorm(0.0, 1.0E-04) } } Bayesian Biostatistics Using BUGS (1) 1.45

50 3.6. Παράδειγµα 5: Εκτίµηση κοινού Odds Ratio σε 2x2xJ Πίνακες Συνάφειας ΑΝΑΛΥΣΗ 2: ΜΟΝΤΕΛΟ #model for 1st table (nonsmokers) for (i in 1:4) { counts[i]~dpois( lambda[i] ); log(lambda[i])<-b[1,1]+b[1,2]*status[i] +b[1,3]*passive[i] +b[1,4]*status[i]*passive[i];} #model for 2nd table (smokers) for (i in 5:8) { counts[i]~dpois( lambda[i] ); log(lambda[i])<-b[2,1]+b[2,2]*status[i] +b[2,3]*passive[i] +b[2,4]*status[i]*passive[i]; } 3.6. Παράδειγµα 5: Εκτίµηση κοινού Odds Ratio σε 2x2xJ Πίνακες Συνάφειας ΑΝΑΛΥΣΗ 2: ΜΟΝΤΕΛΟ #model for 1st table (nonsmokers) for (i in 1:4) { counts[i]~dpois( lambda[i] ); log(lambda[i])<-b[1,1]+b[1,2]*status[i] +b[1,3]*passive[i] + ab *status[i]*passive[i];} #model for 2nd table (smokers) for (i in 5:8) { counts[i]~dpois( lambda[i] ); log(lambda[i])<-b[2,1]+b[2,2]*status[i] +b[2,3]*passive[i] + ab *status[i]*passive[i]; } Bayesian Biostatistics Using BUGS (1) 1.46

51 3.6. Παράδειγµα 5: Εκτίµηση κοινού Odds Ratio σε 2x2xJ Πίνακες Συνάφειας ΑΠΟΤΕΛΕΣΜΑΤΑ 95% posterior MLE Posterior Mean credible interval ΑΝΑΛΥΣΗ 1 OR ± OR ± ΑΝΑΛΥΣΗ 2 Common OR MH ± ΙΑΓΡΑΜΜΑ 12: ΕΚΤΙΜΩΜΕΝΕΣ POSTERIOR ΚΑΤΑΝΟΜΕΣ ΤΩΝ ODDS RATIOS Density OR 1 ( Καπνιστές) OR 0 (Μη Καπνιστές) Odds Ratio Values Bayesian Biostatistics Using BUGS (1) 1.47

52 ΙΑΓΡΑΜΜΑ 13: ΕΚΤΙΜΩΜΕΝΕΣ POSTERIOR ΚΑΤΑΝΟΜΕΣ ΤΩΝ ODDS RATIOS Density OR 1 ( Καπνιστές) Κοινό OR OR 0 (Μη Καπνιστές) Odds Ratio Values Bayesian Biostatistics Using BUGS ΤΕΛΟΣ ΕΙΣΑΓΩΓΙΚΟΥ ΜΑΘΗΜΑΤΟΣ ΕΠΟΜΕΝΟ: WINBUGS ntzoufras@aueb.gr Department of Statistics, Athens University of Economics & Business Bayesian Biostatistics Using BUGS (1) 1.48

53 ΠΑΡΑΡΤΗΜΑ Α (1 ου ΜΑΘΗΜΑΤΟΣ): ΠΑΡΑ ΕΙΓΜΑΤΑ BUGS 1 EXAMPLE 1: BIRTHWEIGHT & ESTRIOL LEVEL 1.1 Model (Bug file) model example1; const n=31; # n=sample size var estriol[n], # estriol level of pregant woman birth[n], # birthweight mu[n], # regression expected value a.star,a,b,tau,s2; # model parameters, # tau = precision, s2=1/tau error variance data estriol,birth in 'estriol.dat'; inits in 'estriol2.ini'; { # definition of likelihood function # for (i in 1:n) { birth[i]~dnorm( mu[i], tau ); # random component # systematic component & link function mu[i]<-a.star+b*(estriol[i]-mean(estriol[])); } # prior distributions # a.star~dnorm( 0, 1.0E-04 ); # normal prior for a b~dnorm( 0, 1.0E-04 ); # normal prior for b tau~dgamma( 1.0E-04, 1.0E-04 ); # gamma prior for precision s2<-1/tau; a<-a.star-b*mean(estriol[]); } 1.2 Initial Values (estriol2.ini) list(a.star=0.0, b=0.0, tau=1.0) 1.3 Data (estriol.dat)

54 EXAMPLE 2: BEETLES DATASET 2.1 Model (Bug file) model beetles; const N = 8; # number of doses var r[n],p[n],x[n],n[n],alpha,alpha.star,beta,r.hat[n], odds.ratio; data x, n, r in "beetles.dat"; inits in "beetles.in"; { for (i in 1:N) { r[i] ~ dbin(p[i], n[i]); logit(p[i]) <- alpha.star + beta*(x[i]-mean(x[])); r.hat[i] <- p[i]*n[i]; # fitted values } alpha.star ~ dnorm(0.0, 1.0E-3); beta ~ dnorm(0.0, 1.0E-3); alpha <- alpha.star - beta*mean(x[]); odds.ratio <- exp( beta ) } 2.2 Initial Values (beetles.ini) list(alpha.star=0, beta=0) 2.3 Data (beetles.dat)

55 3 EXAMPLE 3: WAIS & SENILITY SYMPTOMS 3.1 Model (Bug file) model example3; const n=54; # number of observations var wais[n], # wais measurement symptom[n], # symptom binary indicator p[n], # probability of symptom appearance alpha, # alpha parameter beta, # beta parameter odds.ratio, # odds ratio x.fifty, # value of x for p=1/2 p.meanx; # fitted probability for x=mean(x) data wais, symptom in 'wais.dat'; inits in 'wais.ini'; { # Likelihood Definition for (i in 1:n) { # random component symptom[i]~dbern( p[i] ); # systemantic component & link function logit( p[i] ) <- alpha + beta * wais[i]; } # calculation of odds ratio odds.ratio<-exp(beta); # priors for alpha and beta alpha~dnorm(0.0, ); beta~dnorm(0.0, ); # x.fifty x.fifty<- -alpha/beta # symptom probability for mean of observed wais p.meanx<-exp( alpha+beta*mean(wais[]) )/ (1+exp(alpha+beta*mean(wais[]) ) ) } 3.2 Initial Values (wais.ini) list( alpha=0.0, beta=0.0 ) 3.3 Data (wais.dat)

56

57 4 EXAMPLE 4: BREAST CANCER & AGE AT 1 st BIRTH 4.1 Model (Bug file) model example4; const n=4; # number of cells var status[n], # study group (1=case, 0=control) age[n], # age at 1st birth (0=age<30, 1=age>29) counts[n], # cell counts lambda[n], # expected number of cells mu, # constant parameter a, # status effect b, # age effect ab, # interactio between status and age odds.ratio; # odds ratio data status, age, counts in 'breast.dat'; inits in 'breast.ini'; { # Likelihood Definition for (i in 1:n) { # random component counts[i]~dpois( lambda[i] ); # systemantic component & link function log( lambda[i] ) <- mu + a*status[i] +b*age[i]+ ab*status[i]*age[i]; } # calculation of odds ratio odds.ratio<-exp(ab); # priors for model parameters mu~dnorm(0.0, ); a~dnorm(0.0, ); b~dnorm(0.0, ); ab~dnorm(0.0, ); } 4.2 Initial Values (breast.ini) list(mu=0,a=0,b=0,ab=0) 4.3 Data (breast.dat)

58 5 EXAMPLE 5: 2x2x2 COMMON ODDS RATIO ESTIMATION: PASSIVE SMOKING & CANCER ADJUSTING FOR SMOKING STATUS 5.1 ANALYSIS 1: DIFFERENT RISK PER SMOKING STATUS Model (Bug File) model ex5notcommonor; const n=8, p=4; var smoking[n], status[n], passive[n], counts[n], b[2,p], lambda[n], or[2]; data smoking, status, passive, counts in 'smoke.dat'; inits in 'smoke.ini'; { # # model for 1st table (nonsmokers) for (i in 1:4) { counts[i]~dpois( lambda[i] ); log(lambda[i])<- b[1,1] + b[1,2]*status[i] + b[1,3]*passive[i] + b[1,4]*status[i]*passive[i]; } # # model for 2nd table (smokers) for (i in 5:8) { counts[i]~dpois( lambda[i] ); log(lambda[i])<- b[2,1] + b[2,2]*status[i] + b[2,3]*passive[i] + b[2,4]*status[i]*passive[i]; } # priors for (i in 1:2){ for (j in 1:p){ b[i,j]~dnorm(0.0, 1.0E-04) } } # odds ratios or[1]<-exp(b[1,4]) or[2]<-exp(b[2,4]) } Initial Values (smoke.ini) list(b=c(0,0,0,0,0,0,0,0)) Data (smoke.dat)

59 5.2 ANALYSIS 2: COMMON RISK PER SMOKING STATUS Model (Bug File) model ex5commonor; const n=8, p=4; var smoking[n], status[n], passive[n], counts[n], b[2,p-1], ab, lambda[n], or; data smoking, status, passive, counts in 'smoke.dat'; inits in 'smoke2.ini'; { # # model for 1st table (nonsmokers) for (i in 1:4) { counts[i]~dpois( lambda[i] ); log(lambda[i])<- b[1,1] + b[1,2]*status[i] + b[1,3]*passive[i] + ab*status[i]*passive[i]; } # # model for 2nd table (smokers) for (i in 5:8) { counts[i]~dpois( lambda[i] ); log(lambda[i])<- b[2,1] + b[2,2]*status[i] + b[2,3]*passive[i] + ab*status[i]*passive[i]; } # priors for (i in 1:2){ for (j in 1:p-1){ b[i,j]~dnorm(0.0, 1.0E-04); } } ab~dnorm(0.0, 1.0E-04); # odds ratios or<-exp(ab) } Initial Values (smoke2.ini) list(b=c(0,0,0,0,0,0),ab=0) 1.55

60 Bayesian Biostatistics Using BUGS Βιο-Στατιστική κατά Bayes µε τη χρήση του Λογισµικού BUGS ΜΑΘΗΜΑ 2: ΕΙΣΑΓΩΓΗ ΣΤΟ WINBUGS I. Ntzoufras Department of Statistics, Athens University of Economics & Business 4 WINBUGS version Εισαγωγή: ιαφορές από το BUGS Ένα Απλό Παράδειγµα Καθορισµός Νέας Πιθανοφάνειας και Prior [µόνο στο WINBUGS] Προσοµοίωση στο Παρασκήνιο [µόνο στο 1.4]. Bayesian Biostatistics Using BUGS (2) 2.1

61 4 WINBUGS 4.1. ΕΙΣΑΓΩΓΗ: ΙΑΦΟΡΕΣ ΜΕ ΤΟ ΚΛΑΣΣΙΚΟ BUGS Γενικά η λογική είναι ίδια µε το κλασσικό BUGS Επιπλέον νέες µεθοδολογίες και αλγόριθµοι (Metropolis-Hastings και Slice Gibbs) Γράφουµε κατευθείαν το κώδικα για το «κυρίως µοντέλο» εν χρειαζόµαστε το προπαρασκευαστικό κώδικα (preamble). 4 WINBUGS 4.1. ΕΙΣΑΓΩΓΗ: ΙΑΦΟΡΕΣ ΜΕ ΤΟ ΚΛΑΣΣΙΚΟ BUGS (2) Γραφική αναπαράσταση του µοντέλου µέσω του DoodleBUGS Φιλικά µενού για το χειρισµό της προσοµοίωσης Μπορούµε να έχουµε κατευθείαν περιγραφική ανάλυση και διαγράµµατα της posterior κατανοµής Υπάρχει δυνατότητα «Αποκοπής και επικόλλησης» (Cut/paste) σε άλλα προγράµµατα Bayesian Biostatistics Using BUGS (2) 2.2

62 4 WINBUGS 4.1. ΕΙΣΑΓΩΓΗ: ΙΑΦΟΡΕΣ ΜΕ ΤΟ ΚΛΑΣΣΙΚΟ BUGS (3) Μπορούµε να ορίσουµε Πιθανοφάνεια και Prior που δε συµπεριλαµβάνονται στην προκαθορισµένη λίστα του WINBUGS Στην έκδοση 1.4 µπορούµε να προσοµοιώσουµε στο παρασκήνιο κάτι που γινόταν στο BUGS αλλά όχι στον WINBUGS WINBUGS 4.2. Ένα Απλό Παράδειγµα Green & Touchston (1963, Am.Jour. Of Obsterics & Gynecology) Μελετάµε τη σχέση µεταξύ Y : Βάρος γέννησης (Birthweight) X : Επίπεδο Εστριόλης της µητέρας (Estriol level) Μέγεθος είγµατος n=31 Bayesian Biostatistics Using BUGS (2) 2.3

63 4 WINBUGS Ορισµός του Μοντέλου στο WINBUGS Ξεκινάµε το WinBUGS Επιλέγουµε New στο µενού file 4 WINBUGS Ορισµός του Μοντέλου στο WINBUGS Γράφουµε τον κώδικα του µοντέλου Bayesian Biostatistics Using BUGS (2) 2.4

64 4 WINBUGS Ορισµός του Μοντέλου στο WINBUGS Γράφουµε τον κώδικα του µοντέλου Ακολουθούµενο από τις αρχικες τιµές list(a.star=0.0, b=0.0, tau=1.0) και τα δεδοµένα list(n=31) estriol[] birth[] END [ENTER] [ENTER] ΠΡΟΣΟΧΗ: ΑΥΤΟ ΕΝ ΧΡΕΙΑΖΕΤΑΙ ΣΤΟ WINBUGS WINBUGS Προσοµοίωση στο WINBUGS Check Check Model Model Load Load Data Data Compile Model Model Initial Initial Values Values Update Sampler Checks Checks Syntax Syntax Start Start Sampler Bayesian Biostatistics Using BUGS (2) 2.5

65 4 WINBUGS Προσοµοίωση στο WINBUGS 1 Έλεγχος του Μοντέλου (Check Model) 4 WINBUGS Προσοµοίωση στο WINBUGS 1 Έλεγχος του Μοντέλου (Check Model) ΜΑΥΡΙΖΟΥΜΕ (µε double click) ΤΗΝ ΕΝΤΟΛΗ model Bayesian Biostatistics Using BUGS (2) 2.6

66 4 WINBUGS Προσοµοίωση στο WINBUGS 1 Έλεγχος του Μοντέλου (Check Model) ΕΠΙΛΕΓΟΥΜΕ SPECIFICATION ΑΠΟ ΤΟ ΜΕΝΟΥ MODEL 4 WINBUGS Προσοµοίωση στο WINBUGS 1 Έλεγχος του Μοντέλου (Check Model) ΕΠΙΛΕΓΟΥΜΕ ΤΟ ΚΟΥΤΙ CHECK MODEL Bayesian Biostatistics Using BUGS (2) 2.7

67 4 WINBUGS Προσοµοίωση στο WINBUGS 1 Έλεγχος του Μοντέλου (Check Model) ΕΑΝ Η ΣΥΝΤΑΞΗ ΕΙΝΑΙ ΣΩΣΤΗ ΤΟΤΕ 4 WINBUGS Προσοµοίωση στο WINBUGS 2 Φόρτωση των εδοµένων (Load Data) ΜΑΥΡΙΖΟΥΜΕ ΤΟ list Ή ΤΗΝ 1η ΓΡΑΜΜΗ ΤΩΝ Ε ΟΜΕΝΩΝ Bayesian Biostatistics Using BUGS (2) 2.8

68 4 WINBUGS Προσοµοίωση στο WINBUGS 2 Φόρτωση των εδοµένων (Load Data) ΕΠΙΛΕΓΟΥΜΕ ΤΟ ΚΟΥΤΙ LOAD DATA 4 WINBUGS Προσοµοίωση στο WINBUGS 2 Φόρτωση των εδοµένων (Load Data) ΜΑΥΡΙΖΟΥΜΕ ΕΠΙΠΛΕΟΝ Ε ΟΜΕΝΑ ΓΙΑ ΦΟΡΤΩΜΑ Bayesian Biostatistics Using BUGS (2) 2.9

69 4 WINBUGS Προσοµοίωση στο WINBUGS 2 Φόρτωση των εδοµένων (Load Data) ΞΑΝΑΕΠΙΛΕΓΟΥΜΕ ΤΟ ΚΟΥΤΙ LOAD DATA 4 WINBUGS Προσοµοίωση στο WINBUGS 2 Φόρτωση των εδοµένων (Load Data) ΕΑΝ ΤΑ Ε ΟΜΕΝΑ ΦΟΡΤΩΘΟΥΝ ΣΩΣΤΑ ΤΟΤΕ Bayesian Biostatistics Using BUGS (2) 2.10

70 4 WINBUGS Προσοµοίωση στο WINBUGS 3 Εκκίνηση του Μοντέλου (Compile Model) ΜΑΥΡΙΖΟΥΜΕ ΤΗΝ ΕΝΤΟΛΗ model (ΞΑΝΑ) 4 WINBUGS Προσοµοίωση στο WINBUGS 3 Εκκίνηση του Μοντέλου (Compile Model) ΕΠΙΛΕΓΟΥΜΕ ΤΟ ΚΟΥΤΙ COMPILE Bayesian Biostatistics Using BUGS (2) 2.11

71 4 WINBUGS Προσοµοίωση στο WINBUGS 3 Εκκίνηση του Μοντέλου (Compile Model) ΕΑΝ ΤΟ ΜΟΝΤΕΛΟ ΕΚΚΙΝΗΘΕΙ ΣΩΣΤΑ ΤΟΤΕ 4 WINBUGS Προσοµοίωση στο WINBUGS 4 Φόρτωση ή Προσοµοίωση Αρχικών Τιµών ΜΑΥΡΙΖΟΥΜΕ ΤΗΝ ΕΝΤΟΛΗ list ΤΩΝ ΑΡΧΙΚΩΝ ΤΙΜΩΝ Bayesian Biostatistics Using BUGS (2) 2.12

72 4 WINBUGS Προσοµοίωση στο WINBUGS 4 Φόρτωση ή Προσοµοίωση Αρχικών Τιµών ΕΠΙΛΕΓΟΥΜΕ ΤΟ ΚΟΥΤΙ LOAD INITS 4 WINBUGS Προσοµοίωση στο WINBUGS 4 Φόρτωση ή Προσοµοίωση Αρχικών Τιµών ΕΑΝ ΟΙ ΑΡΧΙΚΕΣ ΤΙΜΕΣ ΦΟΡΤΩΘΟΥΝ ΣΩΣΤΑ ΤΟΤΕ Bayesian Biostatistics Using BUGS (2) 2.13

73 4 WINBUGS Προσοµοίωση στο WINBUGS 4 Φόρτωση ή Προσοµοίωση Αρχικών Τιµών ΤΟ WINBUGS ΕΙΝΑΙ ΕΤΟΙΜΟ ΓΙΑ ΝΑ ΠΡΟΣΟΜΟΙΩΣΕΙ ΕΝΑ ΕΙΓΜΑ ΑΠΟ ΤΗΝ ΕΚ-ΤΩΝ-ΥΣΤΕΡΩΝ ΚΑΤΑΝΟΜΗ ΜΕ ΤΗ ΧΡΗΣΗ ΤΟΥ ΕΙΓΜΑΤΟΛΗΠΤΗ GIBBS. 4 WINBUGS Προσοµοίωση στο WINBUGS 5 Προσοµοίωση Τιµών Burn-in ΕΠΙΛΕΓΟΥΜΕ UPDATE ΣΤΟ ΜΕΝΟΥ MODEL Bayesian Biostatistics Using BUGS (2) 2.14

74 4 WINBUGS Προσοµοίωση στο WINBUGS 5 Προσοµοίωση Τιµών Burn-in ΓΡΑΦΟΥΜΕ ΣΤΟ updates ΤΟΝ ## ΤΩΝ BURN-IN ΕΠΑΝΑΛΗΨΕΩΝ 4 WINBUGS Προσοµοίωση στο WINBUGS 5 Προσοµοίωση Τιµών Burn-in ΕΠΙΛΕΓΟΥΜΕ ΤΟ UPDATE ΓΙΑ ΝΑ ΠΡΟΣΟΜΟΙΩΣΟΥΜΕ Bayesian Biostatistics Using BUGS (2) 2.15

75 4 WINBUGS Προσοµοίωση στο WINBUGS 6 Παρακολούθηση Παραµέτρων ΕΠΙΛΕΓΟΥΜΕ ΤΟ SAMPLES ΣΤΟ ΜΕΝΟΥ INFERENCE 4 WINBUGS Προσοµοίωση στο WINBUGS 6 Παρακολούθηση Παραµέτρων ΓΡΑΦΟΥΜΕ ΣΤΟ node ΤΟ ΟΝΟΜΑ ΤΗΣ ΠΑΡΑΜΕΤΡΟΥ Bayesian Biostatistics Using BUGS (2) 2.16

76 4 WINBUGS Προσοµοίωση στο WINBUGS 6 Παρακολούθηση Παραµέτρων ΚΑΙ ΜΕΤΑ ΕΠΙΛΕΓΟΥΜΕ ΤΟ ΚΟΥΤΙ SET 4 WINBUGS Προσοµοίωση στο WINBUGS 6 Παρακολούθηση Παραµέτρων ΓΡΑΦΟΥΜΕ a ΚΑΙ ΕΠΙΛΕΓΟΥΜΕ ΤΟ ΚΟΥΤΙ SET ΓΡΑΦΟΥΜΕ b ΚΑΙ ΕΠΙΛΕΓΟΥΜΕ ΤΟ ΚΟΥΤΙ SET ΓΡΑΦΟΥΜΕ s2 ΚΑΙ ΕΠΙΛΕΓΟΥΜΕ ΤΟ ΚΟΥΤΙ SET Bayesian Biostatistics Using BUGS (2) 2.17

77 4 WINBUGS Προσοµοίωση στο WINBUGS 7 Προσοµοίωση Εκ-των-υστέρων Τιµών ΕΠΙΛΕΓΟΥΜΕ ΤΟ UPDATE TOOL ΓΡΑΦΟΥΜΕ ΣΤΟ updates ΤΟΝ ΑΡΙΘΜΟ ΤΩΝ ΕΠΑΝΑΛΗΨΕΩΝ ΠΟΥ ΕΠΙΘΥΜΟΥΜΕ (Ε Ω 1000) 4 WINBUGS Προσοµοίωση στο WINBUGS 8 Περιγραφή της Εκ-των-Υστέρων Κατανοµής ΕΠΙΛΕΓΟΥΜΕ ΤΟ SAMPLE MONITOR TOOL. Bayesian Biostatistics Using BUGS (2) 2.18

78 4 WINBUGS Προσοµοίωση στο WINBUGS 8 Περιγραφή της Εκ-των-Υστέρων Κατανοµής ΓΡΑΦΟΥΜΕ ΣΤΟ node ΤΟ ΟΝΟΜΑ ΤΗΣ ΠΑΡΑΜΕΤΡΟΥ ΠΟΥ ΘΕΛΟΥΜΕ ΝΑ ΠΕΡΙΓΡΑΨΟΥΜΕ [*=ΟΛΕΣ ΟΙ ΠΑΡΑΜΕΤΡΟΙ ΠΟΥ ΗΛΩΣΑΜΕ ΣΤΟ MONITOR] 4 WINBUGS Προσοµοίωση στο WINBUGS 8 Περιγραφή της Εκ-των-Υστέρων Κατανοµής ΕΠΙΛΕΓΟΥΜΕ ΤΟ ΚΟΥΤΙ STATS. Bayesian Biostatistics Using BUGS (2) 2.19

79 4 WINBUGS Προσοµοίωση στο WINBUGS 8 Περιγραφή της Εκ-των-Υστέρων Κατανοµής ΒΛΕΠΟΥΜΕ ΤΟΥΣ ΠΕΡΙΓΡΑΦΙΚΟΥΣ ΣΤΑΤΙΣΤΙΚΟΥΣ ΕΙΚΤΕΣ ΤΗΝ ΕΚ-ΤΩΝ-ΥΣΤΕΡΩΝ ΚΑΤΑΝΟΜΗΣ. 4 WINBUGS Προσοµοίωση στο WINBUGS 8 Περιγραφή της Εκ-των-Υστέρων Κατανοµής ΕΠΙΛΕΓΟΝΤΑΣ ΤΟ ΚΟΥΤΙ HISTORY ΣΤΟ SAMPLE MONITOR TOOL... Bayesian Biostatistics Using BUGS (2) 2.20

80 4 WINBUGS Προσοµοίωση στο WINBUGS 8 Περιγραφή της Εκ-των-Υστέρων a Κατανοµής 35.0 ΠΑΙΡΝΟΥΜΕ ΤΟ ΙΑΓΡΑΜΜΑ ΤΩΝ ΠΡΟΣΟΜΟΙΩΜΕΝΩΝ ΙΑΓΡΑΜΜΑΤΩΝ (TRACE PLOTS) iteration b iteration s iteration 4 WINBUGS Προσοµοίωση στο WINBUGS 8 Περιγραφή της Εκ-των-Υστέρων Κατανοµής ΕΠΙΛΕΓΟΝΤΑΣ ΤΟ ΚΟΥΤΙ DENSITY ΣΤΟ SAMPLE MONITOR TOOL... Bayesian Biostatistics Using BUGS (2) 2.21

81 4 WINBUGS Προσοµοίωση στο WINBUGS 8 Περιγραφή της Εκ-των-Υστέρων Κατανοµής ΠΑΙΡΝΟΥΜΕ ΤΑ ΙΑΓΡΑΜΜΑΤΑ ΤΗΣ ΕΚΤΙΜΩΜΕΝΗΣ ΣΥΝΑΡΤΗΣΗΣ ΠΥΚΝΟΤΗΤΑΣ ΠΙΘΑΝΟΤΗΤΑΣ ΤΗΣ ΕΚ-ΤΩΝ- ΥΣΤΕΡΩΝ ΚΑΤΑΝΟΜΗΣ a sample: b sample: s2 sample: WINBUGS Προσοµοίωση στο WINBUGS 8 Περιγραφή της Εκ-των-Υστέρων Κατανοµής ΕΠΙΛΕΓΟΝΤΑΣ ΤΟ ΚΟΥΤΙ QUANTILES ΣΤΟ SAMPLE MONITOR TOOL... Bayesian Biostatistics Using BUGS (2) 2.22

82 4 WINBUGS Προσοµοίωση στο WINBUGS 8 Περιγραφή της Εκ-των-Υστέρων Κατανοµής ΠΑΙΡΝΟΥΜΕ ΤΑ ΙΑΓΡΑΜΜΑΤΑ ΤΩΝ ΠΟΣΟΣΤΗΜΟΡΙΩΝ ΤΗΣ ΕΚ-ΤΩΝ-ΥΣΤΕΡΩΝ ΚΑΤΑΝΟΜΗΣ a iteration b iteration s iteration 4 WINBUGS Προσοµοίωση στο WINBUGS 8 Περιγραφή της Εκ-των-Υστέρων Κατανοµής ΕΠΙΛΕΓΟΝΤΑΣ ΤΟ ΚΟΥΤΙ AUTOC ΣΤΟ SAMPLE MONITOR TOOL... Bayesian Biostatistics Using BUGS (2) 2.23

83 4 WINBUGS Προσοµοίωση στο WINBUGS 8 Περιγραφή της Εκ-των-Υστέρων Κατανοµής ΠΑΙΡΝΟΥΜΕ ΤΑ ΙΑΓΡΑΜΜΑΤΑ ΤΩΝ ΑΥΤΟ-ΣΥΣΧΕΤΙΣΕΩΝ ΤΩΝ ΠΡΟΣΟΜΟΙΩΜΕΝΩΝ ΤΙΜΩΝ a lag b lag s lag 4 WINBUGS Προσοµοίωση στο WINBUGS 8 Περιγραφή της Εκ-των-Υστέρων Κατανοµής ΤΟ ΚΟΥΤΙ TRACE ΠΑΡΑΓΕΙ ΕΝΑ ΥΝΑΜΙΚΟ ΙΑΓΡΑΜΜΑ ΤΩΝ ΠΡΟΣΟΜΟΙΩΜΕΝΩΝ ΤΙΜΩΝ ON LINE ΤΟ ΚΟΥΤΙ CODA ΠΑΡΑΓΕΙ ΜΙΑ ΛΙΣΤΑ ΜΕ ΤΙΣ ΠΡΟΣΟΜΟΙΩΜΕΝΕΣ ΤΙΜΕΣ ΠΟΥ ΜΠΟΡΕΙ ΝΑ ΙΑΒΑΣΤΕ ΑΠΟ ΤΟ ΠΡΟΓΡΑΜΜΑ CODA ΠΟΥ ΟΥΛΕΥΕΙ ΣΤΟ R Ή ΣΤΟ SPLUS. ΤΟ ΚΟΥΤΙ GR DIAG ΠΑΡΑΓΕΙ ΕΝΑ ΙΑΓΝΩΤΙΚΟ ΕΛΕΓΧΟ ΓΙΑ ΤΗ ΣΥΓΚΛΙΣΗ ΤΗΣ ΑΛΥΣΙ ΑΣ (ΓΙΑ ΠΟΛΛΑΠΛΕΣ ΑΛΥΣΙ ΕΣ) Bayesian Biostatistics Using BUGS (2) 2.24

84 4 WINBUGS 4.3. Καθορισµός Νεας Πιθανοφάνειας και Prior [MONO STO WINBUGS] Τι γίνεται αν θέλουµε να χρησιµοποίησουµε µια κατανοµή που δεν υπάρχει στο WINBUGS; ΤΟ ΚΟΛΠΟ ΜΕ ΤΑ ΜΗ ΕΝΙΚΑ! 4 WINBUGS Καθορισµός Νεας Prior [MONO STO WINBUGS] ΤΟ ΚΟΛΠΟ ΜΕ ΤΑ ΜΗ ΕΝΙΚΑ! Έστω ότι θέλουµε να ορίσουµε µια prior f(θ) για την παράµετρο θ 1 Θέτουµε ότι η prior του θ είναι επίπεδη στο πεδίο τιµών της ( dflat() ή dunif() ) 2 Θέτουµε µια µεταβλητή (π.χ. zero) ίση µε µηδέν 3 Ορίζουµε ότι ακολουθεί την κατανοµή Poisson µέ µέσο λ 4 Θέτουµε λ=-logf(θ) Bayesian Biostatistics Using BUGS (2) 2.25

85 4 WINBUGS Καθορισµός Νεας Prior [MONO STO WINBUGS] ΤΟ ΚΟΛΠΟ ΜΕ ΤΑ ΜΗ ΕΝΙΚΑ! Π.χ. f(θ) = z (z + ωθ) θ-1 e -(z + ω θ) /(θ!). Γενικευµένη/Lagrangian Poisson µε µέσο=z/(1-ω), ιακύµανση= z/(1-ω) 3, DI= 1/(1-ω) 2 theta ~ dflat() zero <- 0 zero ~ dpois(lambda) lambda <- -( log(zeta)+(theta-1)* log(zeta+omega*theta)-(zeta+omega*theta)- logfact(theta) ) 4 WINBUGS Καθορισµός Νεας Prior Γιατί δουλέυει αυτό το κόλπο; f(zero θ) είναι η Poisson µε µέση τιµή ίση -log-likelihood φ(θ) είναι η επίπεδη ψεύτο-prior που χρησιµοποιούµε για να ορίσουµε έµµεσα την πραγµατική prior. f(θ zero) είναι η prior που τελικά ορίζουµε. f(θ zero) f(zero=0 θ) φ(θ) = e -λ 1 = e -(-logf(θ)) 1 = f(θ) Bayesian Biostatistics Using BUGS (2) 2.26

86 4 WINBUGS Καθορισµός Νεας Prior [MONO STO WINBUGS] ΤΟ ΚΟΛΠΟ ΜΕ ΤΑ ΜΗ ΕΝΙΚΑ! είτε στο manual του WINBUGS στην ενότητα newprior για παράδειγµα µε την κανονική κατανοµή ΠΡΟΣΟΧΗ: Αυτή η µέθοδος παράγει δείγµατα µε Μεγάλη αυτο-συσχέτιση Αργή Σύγκλιση Υψηλά Μόντε Κάρλο σφάλµατα είναι δηλ. αργή υπολογιστικά και χρειάζεται να αφήσουµε το WINBUGS να τρέξει για αρκετές επαναλήψεις. 4 WINBUGS Καθορισµός Νεας Πιθανοφάνειας Έστω ότι θέλουµε να ορίσουµε µε y i ~f(y i θ) µε παράµετρο θ 1 Θέτουµε µια σταθερά C ίση µε ένα µεγάλο νούµερο για να εξασφαλίσουµε ότι το 2 Θέτουµε ένα διάνυσµα ψευτο-δεδοµένων zero (µε µήκος ίσο µε το µέγεθος των πραγµατικών µας δεδοµένων) ίσο µε µηδέν 3 Ορίζουµε ότι ακολουθεί την κατανοµή Poisson µέ µέσο λ i 4 Θέτουµε λ i =-logf(y i θ) Bayesian Biostatistics Using BUGS (2) 2.27

87 4 WINBUGS Καθορισµός Νεας Πιθανοφάνειας Π.χ. f(y i z, ω) = z (z + ωy i ) yi-1 e -(z + ωyi) /(y i!). Γενικευµένη/Lagrangian Poisson µε παραµέτρους θ=(z,ω) µέσος=z/(1-ω) και ιακύµανση= z/(1-ω) 3, C < for (i in 1:N) { zeros[i] <- 0 zeros[i] ~ dpois(lambda[i]) lambda[i] <- -L[i] + C L[i] <- -( log(zeta)+(y[i]-1)* log(zeta+omega*y[i])-(zeta+omega*y[i])- logfact(y[i]) ) } 4 WINBUGS Καθορισµός Νεας Πιθανοφάνειας Γιατί δουλέυει αυτό το κόλπο; n i= 1 f ( zero i y, θ) i = n i= 1 e λ i = n i= 1 e ( L + C ) i = n i= 1 e log f ( y θ ) C i n i= 1 f ( y i θ) Bayesian Biostatistics Using BUGS (2) 2.28

88 4 WINBUGS Καθορισµός Νεας Πιθανοφάνειας ΠΑΡΑ ΕΙΓΜΑ ΓΕΝΙΚΕΥΜΕΝΗΣ POISSON (Rosner 1994, page 94) Αριθµός Θανάτων από πολιοµυελίτιδα την περίοδο WINBUGS Καθορισµός Νεας Πιθανοφάνειας ΠΑΡΑ ΕΙΓΜΑ ΓΕΝΙΚΕΥΜΕΝΗΣ POISSON model { C< for (i in 1:9) { zeros[i]<-0 zeros[i]~dpois( lambda[i] ) lambda[i]<- C - loglike[i] loglike[i] <- log(zeta)+(y[i]-1)* log(zeta+omega*y[i])- (zeta+omega*y[i])-logfact(y[i]) } zeta~dgamma(0.001, 0.001) omega~dbeta(1,1) mean<-zeta/(1-omega) var<-zeta/pow(1-omega,3) DI<-1/((1-omega)*(1-omega)) } DATA : list( y=c(24, 13, 7, 18, 2, 10, 3, 9, 16) ) INITS: list( zeta=1, omega=0.5 ) Bayesian Biostatistics Using BUGS (2) 2.29

89 4 WINBUGS 4.4. Προσοµοίωση στο Παρασκήνιο ΕΙΣΑΓΩΓΗ BATCH MODE METHOD: SCRIPTING [µόνο στο WINBUGS 1.4]. Εναλλακτικός τρόπος προσοµοίωσης χωρίς να περιµένουµε για αποτελέσµατα Χρειάζονται τουλάχιστον 4 αρχεία σε WINBUGS (*.odc) ή text (*.txt) format Εντολές Προσοµοίωσης (script) Μοντέλο εδοµένων (µπορεί να είναι περισσότερα από 1) Αρχικές τιµές (1 αρχείο για κάθε αλυσίδα) 4 WINBUGS 4.4. Προσοµοίωση στο Παρασκήνιο Παράδειγµα script.odc Επιλέξτε BackBugs14.lnk Στον κατάλογο του WINBUGS14 συνήθως c:\program Files\Winbugs14\ Bayesian Biostatistics Using BUGS (2) 2.30

90 4 WINBUGS 4.4. Προσοµοίωση στο Παρασκήνιο Ανοίγουµε το script file c:\program Files\Winbugs14\script.odc και τρέχουµε το µοντέλο στο παρασκήνιο επιλέγοντας MODEL>SCRIPT 4 WINBUGS 4.4. Προσοµοίωση στο Παρασκήνιο Μερικές Σηµαντικές Εντολές display('log') : Ανοίγει ένα αρχείο log που αποθηκεύει τα αποτελέσµατα check('test/seeds_mod.txt'): Έλεγχος µοντέλου που βρίσκεται στο αρχείο Seeds_mod.txt και στον υποκατάλογο του WINBUGS, Test. data('test/seeds_dat.txt'): Φόρτωση εδοµένων από το αρχείο Seeds_dat.txt και στον υποκατάλογο του WINBUGS, Test. compile(2) : Εκκίνηση 2 προσοµοιωµένων αλυσίδων. inits(1, 'Test/Seeds_in.txt'): Φόρτωση Αρχικών Τιµών της 1ης αλυσίδας το αρχείο Seeds_in.txt και στον υποκατάλογο του WINBUGS, Test. Bayesian Biostatistics Using BUGS (2) 2.31

91 4 WINBUGS 4.4. Προσοµοίωση στο Παρασκήνιο Μερικές Σηµαντικές Εντολές gen.inits(): Προσοµοίωση Αρχικών Τιµών. update(500): Προσοµοίωση 500 Τιµών (Burn-in). set(alpha0): Αρχίζουµε και αποθηκεύουµε τις προσοµοιωµένες τιµές για την παράµετρο alpha0. update(1000): Προσοµοίωση 1000 Τιµών. stats(*): Στατιστικοί δείκτες για το προσοµοιωµένο δείγµα όλων των παραµέτρων έχουν οριστεί µέσω του της εντολής set. history(*): ιάγραµµα προσοµοιωµένων τιµών ανά επανάληψη για τις παραµέτρους που έχουν οριστεί µέσω του της εντολής set. trace(*): υναµικό (on-line) ιάγραµµα προσοµοιωµένων τιµών ανά επανάληψη για τις παραµέτρους που έχουν οριστεί µέσω του της εντολής set. 4 WINBUGS 4.4. Προσοµοίωση στο Παρασκήνιο Μερικές Σηµαντικές Εντολές density(*): ιάγραµµα της εκτιµώµενης εκ-των-υστέρων συνάρτησης πιθανότητας ή πυκνότητας πιθανότητας για τις παραµέτρους που έχουν οριστεί µέσω του της εντολής set. autoc(*): ιάγραµµα αυτοσυσχετίσεων των προσοµοιωµένων τιµών για τις παραµέτρους που έχουν οριστεί µέσω του της εντολής set. quantiles(*): ιάγραµµα ποσοστηµορίων των προσοµοιωµένων τιµών ανά επανάληψη για τις παραµέτρους που έχουν οριστεί µέσω του της εντολής set. Bayesian Biostatistics Using BUGS (2) 2.32

92 4 WINBUGS 4.4. Προσοµοίωση στο Παρασκήνιο Μερικές Σηµαντικές Εντολές coda(*,output): Αποθήκευση όλων των monitored παραµέτρων στο αρχείο output το οποίο είναι σε format CODA. Αν το όνοµα του αρχείου µείνει κενό ανοίγει παράθυρο στο WINBUGS. save('seedslog'): Αποθήκευση όλων των αποτελεσµάτων του log παραθύρου στο αρχείο seedlog.odc (format WINBUGS µαζί µε διαγράµµατα). Αν το αρχείο έχει κατάληξη txt τότε αποθηκεύονται σε αρχείο text µόνο το κείµενο (όχι διαγράµµατα και άλλα γραφικά). quit(): Έξοδος από το WINBUGS. 4 WINBUGS 4.4. Προσοµοίωση στο Παρασκήνιο Μερικές Σηµαντικές Εντολές coda(*,output): Αποθήκευση όλων των monitored παραµέτρων στο αρχείο output το οποίο είναι σε format CODA. Αν το όνοµα του αρχείου µείνει κενό ανοίγει παράθυρο στο WINBUGS. save('seedslog'): Αποθήκευση όλων των αποτελεσµάτων του log παραθύρου στο αρχείο seedlog.odc (format WINBUGS µαζί µε διαγράµµατα). Αν το αρχείο έχει κατάληξη txt τότε αποθηκεύονται σε αρχείο text µόνο το κείµενο (όχι διαγράµµατα και άλλα γραφικά). quit(): Έξοδος από το WINBUGS. Bayesian Biostatistics Using BUGS (2) 2.33

93 4 WINBUGS 4.4. Προσοµοίωση στο Παρασκήνιο Προσοµοιώνοντας το Παράδειγµα Εστριόλης στο Παρασκήνιο 1 ΦΤΙΑΧΝΟΥΜΕ 5 ΑΡΧΕΙΑ script.odc model.odc data.odc data2.odc inits.odc 2 ΑΝΟΙΓΟΥΜΕ ΤΟ SCRIPT.ODC ΚΑΙ ΤΡΕΧΟΥΜΕ ΤΟ ΜΟΝΤΕΛΟ ΣΤΟ ΠΑΡΑΣΚΗΝΙΟ ΑΠΟ ΤΟ ΜΕΝΟΥ MODEL>SCRIPT. Bayesian Biostatistics Using BUGS ΤΕΛΟΣ ΕΥΤΕΡΟΥ ΜΑΘΗΜΑΤΟΣ ntzoufras@aueb.gr Department of Statistics, Athens University of Economics & Business Bayesian Biostatistics Using BUGS (2) 2.34

94 ΠΑΡΑΡΤΗΜΑ Β (2ου ΜΑΘΗΜΑΤΟΣ): ΠΑΡΑ ΕΙΓΜΑΤΑ WINBUGS 1 EXAMPLE 1: BIRTHWEIGHT & ESTRIOL LEVEL { # definition of likelihood function # for (i in 1:n) { birth[i]~dnorm( mu[i], tau ); # random component mu[i]<-a.star+b*(estriol[i]-mean(estriol[])); } # prior distributions # a.star~dnorm( 0, 1.0E-04 ); # normal prior for a b~dnorm( 0, 1.0E-04 ); # normal prior for b tau~dgamma( 1.0E-04, 1.0E-04 ); # gamma prior for precision s2<-1/tau; a<-a.star-b*mean(estriol[]); } list(a.star=0.0, b=0.0, tau=1.0) # initial values # systematic component # & link function # data list(n=31) estriol[] birth[] END 2.35

95 2.36

96 2 Example 2: BEETLES DATASET model beetles; { for (i in 1:N) { r[i] ~ dbin(p[i], n[i]); logit(p[i]) <- alpha.star + beta*(x[i]-mean(x[])); r.hat[i] <- p[i]*n[i]; # fitted values } alpha.star ~ dnorm(0.0, 1.0E-3); beta ~ dnorm(0.0, 1.0E-3); alpha <- alpha.star - beta*mean(x[]); odds.ratio <- exp( beta ) } list(x = c(1.6907, , , , , , , ) n = c(59, 60, 62, 56, 63, 59, 62, 60) r = c(6, 13, 18, 28, 52, 53, 61, 60), N=8) #data list(alpha.star=0, beta=0) #initial values p[i] r[i] alpha.star x[i] n[i] for(i IN 1 : N) alpha beta 2.37

97 3 EXAMPLE 3: ΧΡΗΣΗ ΝΕΑΣ ΠΙΘΑΝΟΦΑΝΕΙΑΣ (ΓΕΝΙΚΕΥΜΕΝΗ POISSON) model { C< for (i in 1:9) { zeros[i]<-0 zeros[i]~dpois( lambda[i] ) lambda[i]<- C - loglike[i] loglike[i] <- log(zeta)+(y[i]-1)* log(zeta+omega*y[i])-(zeta+omega*y[i])-logfact(y[i]) } zeta~dgamma(0.001, 0.001) omega~dbeta(1,1) } mean<-zeta/(1-omega) var<-zeta/pow(1-omega,3) DI<-1/((1-omega)*(1-omega)) DATA list( y=c(24, 13, 7, 18, 2, 10, 3, 9, 16) ) INITS list( zeta=1, omega=0.5 ) 4 EXAMPLE 4: ΠΡΟΣΟΜΟΙΩΣΗ ΣΤΟ ΠΑΡΑΣΚΗΝΙΟ ΤΟΥ ΠΑΡΑ ΕΙΓΜΑΤΟΣ ESTRIOL 4.1 ΑΡΧΕΙΟ script.odc display('log') check('c:/myfiles/courses/bugs_course/01_presentations/bugs_files/lec2/ex1_estriol_back/model.odc') data('c:/myfiles/courses/bugs_course/01_presentations/bugs_files/lec2/ex1_estriol_back/data.odc') data('c:/myfiles/courses/bugs_course/01_presentations/bugs_files/lec2/ex1_estriol_back/data2.odc') compile(1) inits(1,'c:/myfiles/courses/bugs_course/01_presentations/bugs_files/lec2/ex1_estriol_back/inits.odc') update(1000) set(a) set(b) update(1000) trace(*) update(1000) stats(*) history(*) density(*) autoc(*) quantiles(*) dic.stats() coda(*,output) save('seedslog') 2.38

98 4.2 ΑΡΧΕΙΟ model.odc { # definition of likelihood function # for (i in 1:n) { birth[i]~dnorm( mu[i], tau ); # random component mu[i]<-a.star+b*(estriol[i]-mean(estriol[])); } # prior distributions # a.star~dnorm( 0, 1.0E-04 ); b~dnorm( 0, 1.0E-04 ); tau~dgamma( 1.0E-04, 1.0E-04 ); s2<-1/tau; a<-a.star-b*mean(estriol[]); } # systematic component # & link function # normal prior for a # normal prior for b # gamma prior for precision 4.3 ΑΡΧΕΙΟ data.odc estriol[] birth[] END 4.4 ΑΡΧΕΙΟ data2.odc list(n=31) 4.5 ΑΡΧΕΙΟ inits.odc list(a.star=0.0, b=0.0, tau=1.0) # initial values 2.39

99 Bayesian Biostatistics Using BUGS Βιο-Στατιστική κατά Bayes µε τη χρήση του Λογισµικού BUGS ΜΑΘΗΜΑ 3: ΣΥΝΘΕΤΑ ΜΟΝΤΕΛΑ Ioannis Ntzoufras Department of Statistics, Athens University of Economics & Business 5. ΣΥΝΘΕΤΑ ΜΟΝΤΕΛΑ ΣΤΟ BUGS ΜΑΘΗΜΑ 3 (ΠΕΡΙΕΧΟΜΕΝΑ): 5.1 Prior Distributions 5.2 Parameterization 5.3 Random Effects 5.4 Examples Rats (Repeated Measures Regression) Seeds (Random Effects Logistic Regression) Surgical (Institutional Ranking) Equiv (Bioequivalence in Cross-over Trials) Bayesian Biostatistics Using BUGS (3) 3.1

100 5. ΣΥΝΘΕΤΑ ΜΟΝΤΕΛΑ ΣΤΟ BUGS ΜΑΘΗΜΑ 3 (ΠΕΡΙΕΧΟΜΕΝΑ): 5.1 Prior Distributions 5.2 Parameterization 5.3 Random Effects 5.4 Examples Dyes (Variance Component Models) Blocker (Meta analysis & random Effects) Mice (Weibull Survival Analysis) Alli(Multinomial-Logistic Models) 5.1. ΚΑΘΟΡΙΣΜΟΣ PRIOR ΚΑΤΑΝΟΜΩΝ Εάν έχουµε εκ-των-προτέρων πληροφορία από άλλες µελέτες τοτε µπορουµε να χρησιµοποιήσουµε: Κανονική για ποσοτικές (µέσος=prior belief, διακύµανση = αβεβαιότητα για την prior γνώση) Γάµµα ή Λογαριθµο-κανονική για ποσοτικές θετικές Βήτα για ποσοστά ή παραµέτρους στο [0,1] Bayesian Biostatistics Using BUGS (3) 3.2

101 5.1. ΚΑΘΟΡΙΣΜΟΣ PRIOR ΚΑΤΑΝΟΜΩΝ Μη πληροφοριακές εκ-των-προτέρων κατανοµες (non-informative prior distributions) : δεν επηρεάζουν την συµπερασµατολογία µας βασιζόµαστε µόνο στα δεδοµένα εκ-των-υστερων αποτελέσµατα είναι παρόµοια µε της µέγιστης πιθανοφάνειας 5.1. ΚΑΘΟΡΙΣΜΟΣ PRIOR ΚΑΤΑΝΟΜΩΝ Μη πληροφοριακές εκ-των-προτέρων κατανοµες : δίνουν ίδια πιθανότητα εµφάνισης µίας τιµής ή ενός ισοµηκους διαστήµατος (οµοιόµορφη κατανοµή). Η οµοιόµορφη ορίζεται σε ένα διαστήµα [α,β]. Για µεταβλητές στο R => U(-1000,1000) Για µεταβλητές στο [0,+ ) => U(0,1000) Για µεταβλητές στο [0,1] => U(0,1) ΚΙΝ ΥΝΟΣ: Να χασουµε τιµές λόγω των ορίων α,β Bayesian Biostatistics Using BUGS (3) 3.3

102 5.1. ΚΑΘΟΡΙΣΜΟΣ PRIOR ΚΑΤΑΝΟΜΩΝ Μη πληροφοριακές εκ-των-προτέρων κατανοµες : Εναλλακτικά µπορούµε να χρησιµοποιήσουµε improper prior κατανοµες f(x) 1/c (σταθερά) Στο BUGS προτείνουµε Για µεταβλητές στο R => Κανονική µε µεγάλη διακύµανση (µικρή ακρίβεια) Για µεταβλητές στο [0,+ ) => Γάµµα µε α=β (µικρές τιµές) [µέση τιµή 1, διάκύµανση µεγάλη = 1/β] ΠΑΡΑΜΕΤΡΟΠΟΙΗΣΗ ΤΟΥ ΜΟΝΤΕΛΟΥ ΠΑΡΑΜΕΤΡΟΠΟΙΗΣΗ: Σηµαντική για τον υπολογισµό των παραµέτρων Μια παράµετρος δεν ειναι προσδιορίσιµη (identifiable) όταν τα δεδοµένα δεν δίνουν αρκετή πληροφορία για τον υπολογισµό της. Για το λόγο αυτό θέτουµε περιορισµούς: Περιορισµός Αθροίσµατος στο µηδέν (Sum-to-zero constraint) Γωνιακός Περιορισµός (corner constraint) [treatment effect] Bayesian Biostatistics Using BUGS (3) 3.4

103 5.2. ΠΑΡΑΜΕΤΡΟΠΟΙΗΣΗ ΤΟΥ ΜΟΝΤΕΛΟΥ ΠΑΡΑΜΕΤΡΟΠΟΙΗΣΗ: Αν έχουµε το ίδιο µοντέλο µε διαφορετική παραµετροποίση τοτε Η ερµηνεία των παραµέτρων είναι διαφορετική Οι προσαρµοσµένες ή προβλεπόµενες τιµές είναι ίδιες Οι παράµετροι του ίδιου µοντέλου µπορούν να µετασχηµατιστουν σε παραµέτρους µε άλλους περιορισµους µε απλές συναρτησεις Η παραµετροποίηση αλλάζει και χρησιµοποιώντας διαφορετικές ψευδοµεταβλητές (dummy variables) ΠΑΡΑΜΕΤΡΟΠΟΙΗΣΗ ΤΟΥ ΜΟΝΤΕΛΟΥ ΠΑΡΑ ΕΙΓΜΑ 1: One-way Anova Έχουµε µία ποσοτική Υ και µία κατηγορική A µε κ επίπεδα Υ i ~ Normal ( µ i, σ 2 ) Παραµετροποίηση 1: Εκτιµούµε κατευθείαν τους µέσους ανά οµάδα Bayesian Biostatistics Using BUGS (3) 3.5

104 5.2. ΠΑΡΑΜΕΤΡΟΠΟΙΗΣΗ ΤΟΥ ΜΟΝΤΕΛΟΥ ΠΑΡΑ ΕΙΓΜΑ 1: One-way Anova Έχουµε µία ποσοτική Υ και µία κατηγορική A µε κ επίπεδα Υ i ~ Normal ( µ i, σ 2 ) Παραµετροποίηση 2: µ i = µ + α i α 1 +α 2 + +α κ =0 (STZ) Ερµηνεία: µ=συνολικό µέσος α i =διαφορά της οµάδας i από το συνολικό µέσο (group effect) 5.2. ΠΑΡΑΜΕΤΡΟΠΟΙΗΣΗ ΤΟΥ ΜΟΝΤΕΛΟΥ ΠΑΡΑ ΕΙΓΜΑ 1: One-way Anova Έχουµε µία ποσοτική Υ και µία κατηγορική A µε κ επίπεδα Υ i ~ Normal ( µ i, σ 2 ) Παραµετροποίηση 3: µ i = µ + α i α 1 =0 (CR) Ερµηνεία: µ=µέσος µιάς οµάδας βάσης (baseline group) συνήθως η οµάδα ελέγχου (control group) α i =διαφορά της οµάδας i από τη οµάδα βάσης Bayesian Biostatistics Using BUGS (3) 3.6

105 5.2. ΠΑΡΑΜΕΤΡΟΠΟΙΗΣΗ ΤΟΥ ΜΟΝΤΕΛΟΥ ΨΕΥ ΟΜΕΤΑΒΛΗΤΕΣ: One-way Anova Παραµετροποίηση 3: µ i = µ + α i α 1 =0 (CR) µ = Χ β, µε β Τ =(µ, α 2,, α κ ) κ-1 dummies (D 2, D 3,, D κ ) D j = 1 αν Α=j D j = 0 διαφορετικα 5.2. ΠΑΡΑΜΕΤΡΟΠΟΙΗΣΗ ΤΟΥ ΜΟΝΤΕΛΟΥ ΨΕΥ ΟΜΕΤΑΒΛΗΤΕΣ: One-way Anova Παραµετροποίηση 2: µ i = µ + α i α 1 +α 2 + +α κ =0 (STZ) µ = Χ β, µε β Τ =(µ, α 2,, α κ ) κ-1 dummies (D 2, D 3,, D κ ) D j = -1 αν Α=1 D j = 1 αν Α=j D j = 0 διαφορετικα Bayesian Biostatistics Using BUGS (3) 3.7

106 5.2. ΠΑΡΑΜΕΤΡΟΠΟΙΗΣΗ ΤΟΥ ΜΟΝΤΕΛΟΥ ΨΕΥ ΟΜΕΤΑΒΛΗΤΕΣ: One-way Anova για κ=3 j D 2 D 3 S 2 S ΠΑΡΑΜΕΤΡΟΠΟΙΗΣΗ ΤΟΥ ΜΟΝΤΕΛΟΥ ΣΧΕΣΕΙΣ ΠΑΡΑΜΕΤΡΩΝ: One-way Anova µ i = µ CR + α i CR => a µ i =µ CR + + α i CR - => µ i = µ STZ +α i STZ µε µ STZ = µ CR + α i STZ = α i CR - a a Γενικά θέτουµε Χ STZ β STZ = Χ CR β CR => β STZ = (Χ STZ ) -1 Χ CR β CR β CR = (Χ CR ) -1 Χ STZ β STZ a Bayesian Biostatistics Using BUGS (3) 3.8

107 5.2. ΠΑΡΑΜΕΤΡΟΠΟΙΗΣΗ ΤΟΥ ΜΟΝΤΕΛΟΥ ΠΑΡΑ ΕΙΓΜΑ 2: Απλή Παλινδρόµιση Έχουµε µία ποσοτική Υ και µία επεξηγηµατική ποσοτική Χ => Υ i ~ Normal ( µ i, σ 2 ) Παραµετροποίηση 1: µ i = α + β Χ i Παραµετροποίηση 2: µ i = α * + β * (Χ i -µ x ) Παραµετροποίηση 3: µ i = α ** + β ** (Χ i -µ x )/σ x 5.2. ΠΑΡΑΜΕΤΡΟΠΟΙΗΣΗ ΤΟΥ ΜΟΝΤΕΛΟΥ ΠΑΡΑ ΕΙΓΜΑ 2: Απλή Παλινδρόµιση ΕΡΜΗΝΕΙΑ ΠΑΡΑΜΕΤΡΩΝ Παραµετροποίηση 1: α = Αναµενόµενος µέσος της Υ όταν Χ=0 β = Αναµενόµενη αύξηση της Υ όταν Χ αυξηθεί κατά µία µονάδα Bayesian Biostatistics Using BUGS (3) 3.9

108 5.2. ΠΑΡΑΜΕΤΡΟΠΟΙΗΣΗ ΤΟΥ ΜΟΝΤΕΛΟΥ ΠΑΡΑ ΕΙΓΜΑ 2: Απλή Παλινδρόµιση ΕΡΜΗΝΕΙΑ ΠΑΡΑΜΕΤΡΩΝ Παραµετροποίηση 2: α* = Αναµενόµενος µέσος της Υ όταν Χ= µ x β* = Αναµενόµενη αύξηση της Υ όταν Χ αυξηθεί κατά µία µονάδα 5.2. ΠΑΡΑΜΕΤΡΟΠΟΙΗΣΗ ΤΟΥ ΜΟΝΤΕΛΟΥ ΠΑΡΑ ΕΙΓΜΑ 2: Απλή Παλινδρόµιση ΕΡΜΗΝΕΙΑ ΠΑΡΑΜΕΤΡΩΝ Παραµετροποίηση 3: α** = Αναµενόµενος µέσος του Υ όταν Χ= µ x β** = Αναµενόµενη αύξηση της Υ όταν Χ αυξηθεί κατά ποσότητα ίση µε την τυπική απόκλιση του Χ [είναι ίσος µε το συντελεστή συσχέτισης, λέγεται και beta parameter] Bayesian Biostatistics Using BUGS (3) 3.10

109 5.2. ΠΑΡΑΜΕΤΡΟΠΟΙΗΣΗ ΤΟΥ ΜΟΝΤΕΛΟΥ ΠΑΡΑ ΕΙΓΜΑ 2: Απλή Παλινδρόµιση ΣΧΕΣΕΙΣ ΠΑΡΑΜΕΤΡΩΝ Παραµετροποίηση 2: µ i = α * + β * (Χ i -µ x ) = α * -β * µ x + β * Χ i α = α * -β * µ x β = β * Παραµετροποίηση 3: µ i = α ** +β ** (Χ i -µ x )/σ x = α ** -β ** µ x /σ x + β ** Χ i /σ x α = α ** -β ** µ x /σ x β = β ** /σ x 5.2. ΠΑΡΑΜΕΤΡΟΠΟΙΗΣΗ ΤΟΥ ΜΟΝΤΕΛΟΥ ιαφορετική προσδιορίσιµη παραµετροποίηση δεν επιδρά στις posterior ιαφορετική προσδιορίσιµη παραµετροποίηση επιδρά στη σύγκλιση του MCMC [πρεπει οι παράµετροι να είναι όσο το δυνατόν λιγότερο συσχετισµένοι] Για τις µη-προσδιορίσιµες παράµετρους ενός µοντέλου 1 MCMC -> δε συγκλίνει 2 H posterior θα είναι improper 3 Συναρτήσεις αυτών µπορει να συγκλίνουν!? Bayesian Biostatistics Using BUGS (3) 3.11

110 5.3. RANDOM EFFECTS Tι είναι τα random effects Τυχαίο σφάλµα στον γραµµικό προσδιορισµό (η) Οι παράµετροι (στην κλασσική στατιστική) δεν είναι σταθερές αλλά τυχαίες µεταβλητές 5.3. RANDOM EFFECTS Πότε χρησιµοποιούµε random effects Επαναλαµβανόµενες µετρήσεις στα ίδια άτοµα την ίδια χρονική περίοδο (διασπορά λόγω σφάµατος µέτρησης ή τυχαιότητας του ίδιου παράγοντα) Επαναλαµβανόµενες µετρήσεις σε διαφορετικές χρονικές περιόδους Χρήση πιο σύνθετων κατανοµών (Mixtures) ιόρθωση Υπερ-διασποράς (overdispersion) Εκτίµηση της within-subject variability Bayesian Biostatistics Using BUGS (3) 3.12

111 Bayesian Biostatistics Using BUGS 5.4. ΠΑΡΑ ΕΙΓΜΑΤΑ ΣΤΟ BUGS Department of Statistics, Athens University of Economics & Business Normal Hierarchical Model with Missing Data (Rats) BUGS Examples Vol.1, σελ.4, Example 1 Section 6 of Gelfand et al (1990, JASA), 30 young rats weights for 5 weeks. Bayesian Biostatistics Using BUGS (3) 3.13

112 Normal Hierarchical Model with Missing Data (Rats) Part of the data: Weights Yij of rat i on day xj xj = Rat Rat Rat Y ij is the weight of the ith rat measured at age xj Normal Hierarchical Model with Missing Data (Rats) Bayesian Biostatistics Using BUGS (3) 3.14

113 Normal Hierarchical Model with Missing Data (Rats) The model is essentially a random effects linear growth curve Y ij ~ Normal(α i + β i (x i - xbar), τ c ) α i ~ Normal(α c, τ α ) β i ~ Normal(β c, τ β ) where xbar = 22, and τ represents the precision (1/variance) of a normal distribution. see the Birats example in Volume 2 which models the covariance between α i and β i. standardise the x i 's around their mean to reduce dependence (for the full balanced data, complete independence is achieved) Normal Hierarchical Model with Missing Data (Rats) a c,t a, b c,t b,t c are given independent ``noninformative'' priors. Interest particularly focuses on the intercept at zero time (birth), denoted a 0 = a c -b c xbar. RANDOM EFFECTS => two sources of variability 1 within each subject (rat) 2 across subjects Bayesian Biostatistics Using BUGS (3) 3.15

114 Normal Hierarchical Model with Missing Data (Rats) Graphical model for rats example: alpha.tau alpha.c alpha0 beta.c beta.tau alpha[i] beta[i] tau.c mu[i, j] x[j] sigma Y[i, j] for(j IN 1 : T) for(i IN 1 : N) Normal Hierarchical Model with Missing Data (Rats) BUGS language for rats example: model { for( i in 1 : N ) { for( j in 1 : T ) { Y[i, j] ~ dnorm(mu[i, j],tau.c) mu[i, j] <- alpha[i] + beta[i] * (x[j]- xbar) } alpha[i] ~ dnorm(alpha.c,alpha.tau) beta[i] ~ dnorm(beta.c,beta.tau) } tau.c ~ dgamma(0.001,0.001) sigma <- 1 / sqrt(tau.c) alpha.c ~ dnorm(0.0,1.0e-6) alpha.tau~ dgamma(0.001,0.001) beta.c ~ dnorm(0.0,1.0e-6) beta.tau ~ dgamma(0.001,0.001) alpha0 <- alpha.c - xbar * beta.c } Bayesian Biostatistics Using BUGS (3) 3.16

115 Normal Hierarchical Model with Missing Data (Rats) alpha iteration beta.c iteration sigma iteration Normal Hierarchical Model with Missing Data (Rats) node mean sd MC error 2.5% median 97.5% start sample alpha beta.c sigma Bayesian Biostatistics Using BUGS (3) 3.17

116 Normal Hierarchical Model with Missing Data (Rats) MISSING VALUES ANALYSIS(ratmiss) Missing Value -> NA Rat 26 -> 153 NA NA NA NA Monitor (Y[26,]) -> predicted values of Missing node mean sd MC error 2.5% median97.5% Y[26,2] Y[26,3] Y[26,4] Y[26,5] Normal Hierarchical Model with Missing Data (Rats) FULL DATA ANALYSIS node mean sd MC error 2.5% median 97.5% start sample alpha beta.c sigma MISSING DATA ANALYSIS node mean sd MC error 2.5% median 97.5% start sample alpha beta.c sigma Bayesian Biostatistics Using BUGS (3) 3.18

117 Random Effects Logistic Regression (Seeds) BUGS Examples Vol.1, σελ.10, Example 3 Table 3 of Crowder (1978, Ap.Stat.), also analysed by Breslow & Cleyton (1993, Ap.Stat.) % of germinated seeds on 21 plates 2 by 2 factorial layout by seed and type of root extract r i = # germinated seeds in i plate n i = total # seeds in i plate i=1,,n=21 plates Random Effects Logistic Regression (Seeds) seed O. aegyptiaco 75 seed O. aegyptiaco 73 Bean Cucumber Bean Cucumber r n r/n r n r/n r n r/n r n r/n Bayesian Biostatistics Using BUGS (3) 3.19

118 Random Effects Logistic Regression (Seeds) DATA IN BUGS r[] n[] x1[] x2[] x1 = dummy for seed type x2 = dummy for root extract Random Effects Logistic Regression (Seeds) MODEL 1.. RANDOM COMPONENT: r i ~ Binomial(p i, n i ) 2.. Systematic Component & link: logit(p i ) = α 0 + α 1 x 1i + α 2 x 2i + α 12 x 1i x 2i + b i 3.. Random Effect: b i ~ Normal(0, τ) Bayesian Biostatistics Using BUGS (3) 3.20

119 Random Effects Logistic Regression (Seeds) alpha0 alpha1 alpha2 alpha12 tau x1[i] x2[i] p[i] b[i] sigma n[i] r[i] for(i IN 1 : N) Random Effects Logistic Regression (Seeds) model { # Model Likelihood for( i in 1 : N ) { r[i] ~ dbin(p[i],n[i]) # random component b[i] ~ dnorm(0.0,tau) # random effect #systematic component logit(p[i]) <- alpha0 + alpha1 * x1[i] + alpha2 * x2[i] + alpha12 * x1[i] * x2[i] + b[i] } Bayesian Biostatistics Using BUGS (3) 3.21

120 Random Effects Logistic Regression (Seeds) # Prior distributions alpha0 ~ dnorm(0.0,1.0e-6) alpha1 ~ dnorm(0.0,1.0e-6) alpha2 ~ dnorm(0.0,1.0e-6) alpha12 ~ dnorm(0.0,1.0e-6) tau ~ dgamma(0.001,0.001) sigma <- 1 / sqrt(tau) } Random Effects Logistic Regression (Seeds) node mean sd MC error 2.5% median 97.5% start sample alpha alpha alpha alpha sigma We may compare simple logistic, maximum likelihood (from EGRET), penalized quasi-likelihood (PQL) Breslow and Clayton (1993) with the BUGS results Logistic maximum PQL regression likelihood variable β SE β SE β SE α α α α σ Bayesian Biostatistics Using BUGS (3) 3.22

121 Random Effects Logistic Regression (Seeds) CONSTRAINING RANDOM EFFECTS 1 Sum-to-zero constraints 2 Hierachical Centering ALTERNATIVE PARAMETRAZATION FOR Sigma Random Effects Logistic Regression (Seeds) CONSTRAINING RANDOM EFFECTS 1 Sum-to-zero constraints Why: (a) Unconstrained b i may not converge (b) Estimate fixed effects for each subject Use c[i]: c[i]~dnorm(0,tau) b[i]<-c[i]-mean(c[]) Bayesian Biostatistics Using BUGS (3) 3.23

122 Random Effects Logistic Regression (Seeds) CONSTRAINING RANDOM EFFECTS 2 Hierachical Centering µ i = α 0 + α 1 x 1i + α 2 x 2i + α 12 x 1i x 2i β i = µ i + b i logit(p i ) = β i β i ~ Normal(µ i, τ) Random Effects Logistic Regression (Seeds) alpha0 alpha1 alpha2 alpha12 tau x1[i] x2[i] p[i] b[i] sigma n[i] r[i] for(i IN 1 : N) Bayesian Biostatistics Using BUGS (3) 3.24

123 Random Effects Logistic Regression (Seeds) alpha0 alpha1 alpha2 alpha12 x1[i] mu[i] tau x2[i] beta[i] sigma p[i] n[i] r[i] for(i IN 1 : N) Random Effects Logistic Regression (Seeds) CONSTRAINING RANDOM EFFECTS 2 Hierachical Centering advantages: (a) Gibbs sampler with better correlation properties (b) Conditionals for the α parameters are conjugate=> reduced generation time Bayesian Biostatistics Using BUGS (3) 3.25

124 Random Effects Logistic Regression (Seeds) ALTERNATIVE PARAMETRAZATION FOR Sigma b[i] ~ dnorm(0.0,1.0) # random effect #systematic component logit(p[i]) <- alpha0 + alpha1 * x1[i] + alpha2 * x2[i] + alpha12 * x1[i] * x2[i] + sigma*b[i] # exponential prior on sigma sigma~dexp(1.0) Institutional Ranking (Surgical) BUGS Examples Vol.1, σελ.15, Example 4 Mortality rates in 12 hospitals performing cardiac surgery in babies. Bayesian Biostatistics Using BUGS (3) 3.26

125 Institutional Ranking (Surgical) Hospital No of ops No of deaths A 47 0 B C D E F G H I J 97 8 K L Institutional Ranking (Surgical) MODEL r i ~ Binomial(p i,n i ) (1) Fixed Effects Model: p i ~ Beta(1.0, 1.0) [Uniform Prior on each p i ] (2) Random Effects Model: logit(p i ) = b i ~ Normal(mu, tau) b i mu ~ Normal(0.0,10-6 ) [Prior] tau ~ Gamma(10-6,10-6 ) [Prior] Bayesian Biostatistics Using BUGS (3) 3.27

126 Institutional Ranking (Surgical) BUGS CODE: FIXED EFFECTS MODEL model{ for( i in 1 : N ) { r[i] ~ dbin(p[i], n[i]) } p[i] ~ dbeta(1.0, 1.0) } Institutional Ranking (Surgical) BUGS CODE: RANDOM EFFECTS MODEL model{ for( i in 1 : N ) { b[i] ~ dnorm(mu,tau) r[i] ~ dbin(p[i],n[i]) logit(p[i]) <- b[i] } pop.mean <- exp(mu) / (1 + exp(mu)) mu ~ dnorm(0.0,1.0e-6) sigma <- 1 / sqrt(tau) tau ~ dgamma(0.001,0.001) } Bayesian Biostatistics Using BUGS (3) 3.28

127 Institutional Ranking (Surgical) p[i] n[i] r[i] for(i IN 1 : N) Institutional Ranking (Surgical) mu tau sigma pop.mean b[i] p[i] n[i] r[i] for(i IN 1 : N) Bayesian Biostatistics Using BUGS (3) 3.29

128 Institutional Ranking (Surgical) RANKING HOSPITALS (WINBUGS) 1 Update 1000 [burnin] 2 Select Inference>Rank 3 Set the rank monitor for p 4 Update 10,000 iterations 5 Select "histogram" or Stats option Institutional Ranking (Surgical) RANKING HOSPITALS (WINBUGS) Bayesian Biostatistics Using BUGS (3) 3.30

129 Institutional Ranking (Surgical) RANKING HOSPITALS (WINBUGS) Institutional Ranking (Surgical) Bayesian Biostatistics Using BUGS (3) 3.31