ΕΚΣΙΜΗΗ ΣΨΝ ΠΑΡΑΜΕΣΡΨΝ ΣΗ ΔΙΠΑΡΑΜΕΣΡΙΚΗ ΕΚΘΕΣΙΚΗ ΚΑΣΑΝΟΜΗ ΑΠΟ ΕΝΑ ΔΙΠΛΑ ΔΙΑΚΕΚΟΜΜΕΝΟ ΔΕΙΓΜΑ

Transcript

1 ΙΨΑΝΝΑ Ε. ΔΑΚΑΛΑΚΗ ΕΚΣΙΜΗΗ ΣΨΝ ΠΑΡΑΜΕΣΡΨΝ ΣΗ ΔΙΠΑΡΑΜΕΣΡΙΚΗ ΕΚΘΕΣΙΚΗ ΚΑΣΑΝΟΜΗ ΑΠΟ ΕΝΑ ΔΙΠΛΑ ΔΙΑΚΕΚΟΜΜΕΝΟ ΔΕΙΓΜΑ ΜΕΣΑΠΣΤΦΙΑΚΗ ΔΙΑΣΡΙΒΗ ΣΜΗΜΑ ΜΑΘΗΜΑΣΙΚΨΝ ΠΑΝΕΠΙΣΗΜΙΟ ΠΑΣΡΨΝ ΕΠΣΕΜΒΡΙΟ, ΠΑΣΡΑ

2 [] Στη μνόμη του παππού μου...

3 Περιεχόμενα Ειςαγωγή... 5 Βαςικοί Οριςμοί και Θεωρήματα Ειςαγωγή -Αμερόληπτοι Εκτιμητζσ Συνάρτηςη Ζημίασ (Loss Fucto)-Συνάρτηςη Κινδφνου(Rsk Fucto) ΑΟΕΔ εκτιμητζσ Επάρκεια....5 Πληρότητα Συνζπεια Εκτίμηςη με την Μζθοδο Μζγιςτησ Πιθανοφάνειασ Εκτιμητζσ Byes Θεϊρημα Μεταςχηματιςμοφ.... Αναλλοίωτο Πρόβλημα Εκτίμηςησ... Διπαραμετρική Εκθετική κατανομή και εκτίμηςη παραμζτρων ςε διπλά διακεκομμζνο δείγμα Συνάρτηςη πυκνότητασ πιθανότητασ Διπαραμετρική εκθετική κατανομή ςε διπλά διακεκομμζνο δείγμα Συνάρτηςη πυκνότητασ πιθανότητασ... 7 τησ X διατεταγμζνησ παρατήρηςησ Μζςη τιμή και διαςπορά τησ U διατεταγμζνησ παρατήρηςησ Επαρκήσ και πλήρησ ςτατιςτική ςυνάρτηςη Εκτίμηςη παραμζτρων Διπαραμετρικήσ Εκθετικήσ κατανομήσ ςε διπλά διακεκομμζνο δείγμα Αμερόληπτοσ εκτιμητήσ ελάχιςτησ διαςποράσ Μmum Vrce Used Estmtor (MVUE) Εκτίμηςη μζγιςτησ πιθανοφάνειασ Mxmum Lkelhood Estmto (MLE) Εκτίμηςη με την μζθοδο των ροπϊν Method of Momets Estmtors (MME) Αναλλοίωτοι εκτιμητζσ Εκτιμητζσ τφπου Ste για τισ παραμζτρουσ τησ Διπαραμετρικήσ Εκθετικήσ κατανομήσ ςε διπλά διακεκομμζνο δείγμα Εκτιμητήσ τφπου Ste για την παράμετρο λ Εκτιμητήσ τφπου Ste για την παράμετρο ς Εκτιμητήσ τφπου Ste για την παράμετρο μ... 5 [3]

4 4 Εκτιμητζσ τφπου Byes Byes Estmtors Εκ των υςτζρων ςυνάρτηςη πυκνότητασ των μ και ς ςε διπλά διακεκομμζνο δείγμα εκθετικήσ διπαραμετρικήσ κατανομήσ Εκ των υςτζρων ςυνάρτηςη πυκνότητασ των μ και ς Πρόβλεψη κατά Βyes Βιβλιογραφία [4]

5 Ειςαγωγό Η παρούςα μεταπτυχιακό διατριβό εντϊςςεται ερευνητικϊ ςτην περιοχό τησ τατιςτικόσ Θεωρύασ Αποφϊςεων και ειδικότερα ςτην εκτύμηςη των παραμϋτρων ςτο μοντϋλο τησ διπαραμετρικόσ εκθετικόσ κατανομόσ με παρϊμετρο θϋςησ μ και παρϊμετρο κλύμακοσ ς. Θεωρούμε ϋνα δεύγμα τυχαύων μεταβλητών, καθεμύα από τισ οπούεσ ακολουθεύ την διπαραμετρικό εκθετικό κατανομό. Αποκόβουμε κϊποιεσ αρχικϋσ παρατηρόςεισ και ϋςτω ότι τερματύζουμε το πεύραμϊ μασ πριν αποτύχουν όλεσ οι ςυνιςτώςεσ. Σότε προκύπτει ϋνα διπλϊ διακεκομμϋνο δεύγμα διατεταγμϋνων παρατηρόςεων. Η εκτύμηςη των παραμϋτρων τησ διπαραμετρικόσ εκθετικόσ κατανομόσ, γύνεται από το ςυγκεκριμϋνο δεύγμα. Πρώτα μελετϊμε κϊποιεσ βαςικϋσ ϋννοιεσ τησ τατιςτικόσ και τησ Εκτιμητικόσ και βρύςκουμε εκτιμητϋσ για τισ παραμϋτρουσ. Πιο ςυγκεκριμϋνα, βρύςκουμε αμερόληπτο εκτιμητό ελϊχιςτησ διαςπορϊσ, εκτιμητό μϋγιςτησ πιθανοφϊνειασ, εκτιμητό με την μϋθοδο των ροπών και τον βϋλτιςτο αναλλούωτο εκτιμητό ςε ςυγκεκριμϋνη κλϊςη, αντύςτοιχα και για τισ δύο παραμϋτρουσ. αν βελτύωςη των προηγούμενων εκτιμητών, ακολουθούν οι εκτιμητϋσ τύπου Ste και, ολοκληρώνοντασ, και ολοκληρώνοντασ αςχολούμαςτε με πρόβλεψη κατϊ Byes για μια μελλοντικό παρατόρηςη. [5]

6 Βαςικού Οριςμού και Θεωρόματα ' αυτό το κεφαλαύο θα αναφϋρουμε κϊποιουσ βαςικούσ οριςμούσ και Θεωρόματα,χωρύσ τισ αποδεύξεισ τουσ,οι οπούεσ εμπεριϋχονται ςε βιβλύα Μαθηματικόσ τατιςτικόσ.. Ειςαγωγό -Αμερόληπτοι Εκτιμητϋσ Ϊςτω ότι δύνονται δεδομϋνα με από κοινού πυκνότητα πιθανότητασ,που εξαρτϊται από μια ϊγνωςτη παρϊμετρο,η οπούα ανόκει ςε κϊποιο ςύνολο.to λϋγεται ϊγνωςτη παρϊμετροσ και το καλεύται παραμετρικόσ χώροσ.κοπόσ μασ εύναι να εκτιμόςουμε μια ςυνϊρτηςη του,ϋςτω,,η οπούα ονομϊζεται παραμετρικό ςυνϊρτηςη.σο τυχαύο διϊνυςμα αναφϋρεται ςαν δεύγμα.αν επιπλϋον οι τυχαύεσ μεταβλητϋσ εύναι ανεξϊρτητεσ και ιςόνομεσ,δηλαδό ϋχουν την ύδια κατανομό,τότε το τυχαύο δεύγμα. αναφϋρεται ςαν Οριςμόσ.. Μια ςυνάρτηςη μόνο του δείγματοσ καλείται ςτατιςτικό ςυνϊρτηςη. Οριςμόσ. Μια ςτατιςτική ςυνάρτηςη,έςτω, που χρηςιμοποιείται για την εκτίμηςη τησ τιμήσ τησ άγνωςτησ παραμέτρου,(ή γενικότερα για την εκτίμηςη τησ παραμετρικήσ ςυνάρτηςησ,όπου, )αναφέρεται ςαν εκτιμητόσ του. Οριςμόσ..3 O εκτιμητήσ,ονομάζεται αμερόληπτοσ εκτιμητόσ τησ παραμετρικήσ ςυνάρτηςησ,αν. Ϊνα από τα πιο ςυνηθιςμϋνα κριτόρια επιλογόσ εκτιμητών εύναι το Μϋςο Σετραγωνικό φϊλμα του εκτιμητό,ςυμβολικϊ που ορύζεται παρακϊτω, [6]

7 Οριςμόσ..4 Το Μέςο Τετραγωνικό Σφάλμα του εκτιμητή,ορίζεται ωσ εξήσ, Πρόταςη... Η ποςότητα καλείται μεροληψύα ή ςυςτηματικό ςφάλμα του εκτιμητή για την ποςότητα,οπότε Παρατόρηςη.. Αν είναι αμερόληπτοσ εκτιμητήσ τησ παραμετρικήσ ςυνάρτηςησ,τότε. Οριςμόσ..5 Ο εκτιμητήσ ονομάζεται καλύτεροσ από τον (ωσ προσ το Μέςο Τετραγωνικό Σφάλμα)για την,αν, και επιπλϋον Οριςμόσ..6 Εάν ο εκτιμητήσ είναι καλύτεροσ από τον (ωσ προσ το το Μέςο Τετραγωνικό Σφάλμα)για την,τότε ο λέγεται μη αποδεκτόσ για την εκτίμηςη τησ παραμετρικήσ ςυνάρτηςησ. Οριςμόσ..7 Ο Σφάλμα)για την ςυνάρτηςησ ονομάζεται βϋλτιςτοσ εκτιμητόσ(ωσ προσ το το Μέςο Τετραγωνικό,αν είναι καλύτεροσ από κάθε άλλο εκτιμητή τησ παραμετρικήσ Οι ακόλουθεσ Προτϊςεισ μασ βοηθϊνε να βρούμε αμερόληπτουσ εκτιμητϋσ τόςο για την μϋςη τιμό,όςο για τη διαςπορϊ μιασ κατανομόσ,όταν το δεύγμα μασ εύναι τυχαύο. [7]

8 Πρόταςη.. Έςτω είναι ένα τυχαίο δείγμα από μια κατανομή με πυκνότητα πιθανότητασ και, η μέςη τιμή τησ κατανομήσ, τότε ο δειγματικόσ μέςοσ,είναι αμερόληπτοσ εκτιμητήσ του. Πρόταςη..3 Έςτω και είναι ένα τυχαίο δείγμα από μια κατανομή η διαςπορά τησ κατανομήσ,τότε η δειγματική διαςπορά είναι αμερόληπτοσ εκτιμητήσ του.. Συνϊρτηςη Ζημύασ (Loss Fucto)-Συνϊρτηςη Κινδύνου(Rsk Fucto) Γενικϊ,η εκτύμηςη τησ παραμετρικόσ παρϊςταςησ από μια τιμό,μετριϋται από την ςυνϊρτηςη ζημιϊσ ( Loss fucto) για την οπούα ιςχύουν, και ϋτςι ώςτε η ζημιϊ να εύναι μηδϋν όταν η παρϊμετροσ εκτιμϊται από τη ςωςτό τιμό. Οριςμόσ.. Η ακρίβεια ή μη-ακρίβεια,ενόσ εκτιμητή,μετριέται από την ςυνϊρτηςη κινδύνου( rsk fucto)που ορίζεται ωσ Σο Μϋςο Σετραγωνικό φϊλμα εύναι μια ςυνϊρτηςη ζημύασ. Οπότε μπορούμε να επαναδιατυπώςουμε τουσ παραπϊνω οριςμούσ αντικαθιςτώντασ το Μϋςο Σετραγωνικό φϊλμα,με μια οποιαδόποτε ςυνϊρτηςη ζημιϊσ. Οριςμόσ.. Μια πραγματική ςυνάρτηςη οριςμένη ςτο ςύνολο των πραγματικών αριθμών καλείται owl-shped (αντίςτοιχα αυςτηρά owl-shped),αν υπάρχει τέτοιο ώςτε η να είναι φθίνουςα (αντίςτοιχα,γνηςίωσ φθίνουςα) για και αύξουςα (αντίςτοιχα,γνηςίωσ αύξουςα) για. [8]

9 .3 ΑΟΕΔ εκτιμητϋσ Eπειδό εύναι γενικϊ δύςκολο να βρούμε τον βϋλτιςτο εκτιμητό ςτην κλϊςη όλων των εκτιμητών,περιορι-ζόμαςτε ςε αυτό των αμερόληπτων εκτιμητών. Οριςμόσ.3. H ςτατιςτική ςυνάρτηςη ονομάζεται Αμερόληπτοσ Εκτιμητόσ Ελϊχιςτησ Διαςπορϊσ(ΑΟΕΔ) για το εάν,.t αμερόληπτοσ, δηλαδό.. και για κϊθε ϊλλο αμερόληπτο εκτιμητό του. Από τον παραπϊνω οριςμό,φαύνεται ότι για να βρούμε ΑΟΕΔ εκτιμητό πρϋπει να ελαττώςουμε όςον το δυνατόν περιςςότερο τη διαςπορϊ μύασ ςτατιςτικόσ ςυνϊρτηςησ ςε ςχϋςη με την προσ εκτύμηςη ποςότητα,δηλαδό εύναι επιθυμητό να βρούμε ϋνα κϊτω φρϊγμα για τη διαςπορϊ των αμερόληπτων εκτιμητών αυτόσ τησ ποςότητασ. Αυτό το κϊτω φρϊγμα μασ προςφϋρει το Θεώρημα Crmer-Ro το οπούο ιςχύει όταν επαληθεύονται οι παρακϊτω ςυνθόκεσ: (Ι)Ο παραμετρικόσ χώροσ εύναι ανοικτό υποςύνολο του. (I)To ςύνολο δεν εξαρτϊται από το. (I3) (I4) και κϊθε ςτατιςτικό ςυνϊρτηςη. (Ι5)Αν,τότε. Η ποςότητα ονομϊζεται αριθμόσ ό μϋτρο πληροφορύασ Fsher. Θεώρημα.3. (Θεώρημα Crmer-Ro) Έςτω ένα δείγμα με από κοινού πυκνότητα πιθανότητασ.εάν είναι ςτατιςτική ςυνάρτηςη με και ιςχύουν οι ςυνθήκεσ (Ι)-(Ι5),τότε [9]

10 Σο κϊτω φρϊγμα για την διαςπορϊ των αμερόληπτων εκτιμητών του ονομϊζεται Crmer-Ro Φρϊγμα (C.R.-Κ.Υ.) ενώ για τον υπολογιςμό του αριθμού πληροφορύασ Fsher χρηςιμοποιούμε ςυνόθωσ κϊποιεσ βοηθητικϋσ ιδιότητεσ. Ιδιότητεσ..Αν το δεύγμα αποτελεύται από ανεξϊρτητεσ και τυχαύεσ μεταβλητϋσ,όπου κϊθε μια από τισ πιθανότητασ,,τότε ακολουθεύ μύα κατανομό με πυκνότητα όπου. 3.Αν το δεύγμα εύναι τυχαύο,τότε, όπου εύναι ο αριθμόσ πληροφορύασ Fsher για κϊθε μύα από τισ. Η δυςκολύα του Θεωρόματοσ Crmer-Ro βρύςκεται ςτη επαλόθευςη των ςυνθηκών (Ι)-(Ι5),η οπούα ϊρεται όταν η οικογϋνεια του τυχαύου διανύςματοσ ανόκει ςτην Μονοπαραμετρικό Εκθετικό Οικογϋνεια Κατανομών (ΜΕΟΚ). Οριςμόσ.3. Η οικογένεια κατανομών ανήκει ςτην Μονοπαραμετρικό Εκθετικό Οικογϋνεια Κατανομών (ΜΕΟΚ) αν,.σο ςύνολο δεν εξαρτϊται από το... Θεώρημα.3. Αν το δείγμα έχει κατανομή με πυκνότητα πιθανότητασ η οποία ανήκει ςτην ΜΕΟΚ και η (που εμφανίζεται ςτον τύπο τησ έχει κατανομή και μη μηδενική παράγωγο,τότε οι ςυνθήκεσ (Ι),(Ι3) και (Ι4) του Θεωρήματοσ Crmer-Ro ιςχύουν και η (Ι4) ιςχύει για κάθε ςτατιςτική ςυνάρτηςη. Η παρακϊτω Πρόταςη δύνει,ουςιαςτικϊ,ϋναν τρόπο εύρεςησ του ΑΟΕΔ εκτιμητό για μια παραμετρικό ςυνϊρτηςη και γραμμικούσ ςυνδυαςμούσ αυτόσ. []

11 Πρόταςη.3. Αν το δείγμα έχει κατανομή με πυκνότητα πιθανότητασ η οποία ανήκει ςτην ΜΕΟΚ και ιςχύουν, α)σο ςύνολο εύναι ανοικτό υποςύνολο του. β)σο ϋχει ςυνεχό και μη μηδενικό κατανομό. γ). Σότε,.Η ςτατιςτικό ςυνϊρτηςη εύναι ΑΟΕΔ εκτιμητόσ τησ..h ςτατιςτικό ςυνϊρτηςη με ςταθερϋσ εύναι ΑΟΕΔ εκτιμητόσ τησ. Ιςχύει όμωσ και η εξόσ Πρόταςη. Πρόταςη.3. Έςτω ότι ιςχύουν οι ςυνθήκεσ (Ι),(Ι),(Ι3) και (Ι5) του Θεωρήματοσ Crmer-Ro και η (Ι4) ιςχύει για κάποια ςτατιςτική ςυνάρτηςη,αμερόληπτο εκτιμητή του. Έςτω,ακόμα,η παραμετρική ςυνάρτηςη είναι μη ςταθερά (ςαν ςυνάρτηςη του ) και η επιτυγχάνει το C.R.-Κ.Φ.,δηλαδή Σότε,,δηλαδό η κατανομό του δεύγματοσ ανόκει ςτην ΜΕΟΚ. Παρατόρηςη.3. Οι Προτάςεισ 3. και 3. ςυνεπάγονται το γεγονόσ ότι η εύρεςη του εκτιμητή για κάποια παραμετρική ςυνάρτηςη είναι δυνατή με τη χρήςη του Θεωρήματοσ Crmer-Ro αν και μόνο αν η κατανομή του δείγματοσ ανήκει ςτην ΜΕΟΚ και η έχει μια ςυγκεκριμένη μορφή ή κάποιοσ γραμμικόσ μεταςχηματιςμόσ τησ. []

12 Όπωσ γύνεται εύκολα αντιληπτό από την παραπϊνω Παρατόρηςη η μϋθοδοσ εύρεςησ ΑΟΕΔ εκτιμητό με χρόςη του Θεωρόματοσ Crmer-Ro (Θεώρημα.3.) μασ περιορύζει τόςο ωσ προσ την οικογϋνεια του δεύγματοσ,όςο και ωσ προσ την μορφό των παραμετρικών ςυναρτόςεων για τισ οπούεσ βρύςκουμε ΑΟΕΔ εκτιμητϋσ, οπότε χρειϊζεται μια διαφορετικό μϋθοδοσ από την προηγούμενη η οπούα να μην ϋχει αυτού του εύδουσ τα προβλόματα.αρχικϊ,ειςϊγουμε δύο ϋννοιεσ (Επϊρκεια και Πληρότητα)προσ αυτόν την κατεύθυνςη..4 Επϊρκεια Οριςμόσ.4. Έςτω το δείγμα έχει κατανομή με πυκνότητα πιθανότητασ τότε η ςτατιςτική ςυνάρτηςη ονομάζεται επαρκόσ αν η δεςμευμένη κατανομή του δεν εξαρτάται από το για κάθε τιμή για την οποία μπορεί να οριςτεί η δεςμευμένη κατανομή. Ϊνασ τρόποσ εύρεςησ μιασ επαρκούσ ςτατιςτικόσ ςυνϊρτηςησ,εκτόσ του οριςμού,δύνεται απο την παρακϊτω πρόταςη,η οπούα αναφϋρεται και ωσ παραγοντικό κριτόριο των Neym-Fsher. Θεώρημα.4. (παραγοντικό κριτόριο των Fsher) Η ςτατιςτική ςυνάρτηςη είναι επαρκήσ αν και μόνο αν και,όπου και είναι ςυναρτήςεισ. Παρατόρηςη.4. Ιςχύουν οι παρακάτω ιδιότητεσ για τισ επαρκείσ ςτατιςτικέσ ςυναρτήςεισ. )Σο δεύγμα εύναι τετριμμϋνα επαρκόσ ςτατιςτικό ςυνϊρτηςη. )Η ςτατιςτικό ςυνϊρτηςη εύναι επαρκόσ,όπου οι εύναι οι διατεταγμϋνεσ παρατηρόςεισ. 3)Ϊςτω επαρκόσ ςτατιςτικό ςυνϊρτηςη και,όπου εύναι - ςυνϊρτηςη,τότε η ςτατιςτικό ςυνϊρτηςη εύναι επαρκόσ. υνόθωσ,όταν μιλϊμε για επαρκό ςτατιςτικό ςυνϊρτηςη αναφερόμαςτε ςτην ελϊχιςτη επαρκό. []

13 Οριςμόσ.4. Eλϊχιςτη επαρκόσ ςτατιςτικό ςυνϊρτηςη είναι μια επαρκήσ ςτατιςτική ςυνάρτηςη η οποία προέρχεται από την μεγαλύτερη δυνατή ςύμπτηξη (δηλ. έχει την μικρότερη δυνατή διάςταςη). Παρατόρηςη.4. Σχεδόν πάντα,η διάςταςη τησ παραμετρικήσ ςυνάρτηςησ ςυμπίπτει με την διάςταςη τησ ελάχιςτησ επαρκούσ ςτατιςτικήσ ςυνάρτηςησ. το παρακϊτω Θεώρημα χρηςιμοποιεύται η ϋννοια τησ επϊρκειασ ςτη βελτύωςη εκτιμητών. Θεώρημα.4. ( Ro-Blckwell) Έςτω είναι μια επαρκήσ ςτατιςτική ςυνάρτηςη και είναι εκτιμητήσ τησ παραμετρικήσ ςυνάρτηςησ.θέτουμε Τότε,.Η εύναι ςτατιςτικό ςυνϊρτηςη..,ϋτςι αν εύναι αμερόληπτοσ εκτιμητόσ για την,τότε εύναι αμερόληπτοσ εκτιμητόσ για την. 3. και ιςχύει αυςτηρό ανιςότητα,εκτόσ εϊν εύναι ςυνϊρτηςη τησ ςτατιςτικόσ ςυνϊρτηςησ,οπότε. 4.MT ΜΣ και ιςχύει αυςτηρό ανιςότητα εκτόσ εϊν εύναι ςυνϊρτηςη τησ ςτατιςτικόσ ςυνϊρτηςησ,οπότε. Eπομϋνωσ, αν εύναι ϋνασ εκτιμητόσ τησ ο οπούοσ δεν εύναι ςυνϊρτηςη τησ επαρκούσ ςτατιςτικόσ ςυνϊρτηςησ,τότε o εύναι μη αποδεκτόσ και βελτιώνεται από τον που ονομϊζεται βελτύωςη του κατϊ Ro-Blckwell ό Ro- Blckwell βελτύωςη του. Παρατόρηςη.4.3 Έςτω και είναι επαρκείσ ςτατιςτικέσ ςυναρτήςεισ και είναι αμερόληπτοσ εκτιμητήσ τησ.τότε είναι η Ro-Blckwell βελτίωςη του μέςω τησ και είναι η η Ro-Blckwell βελτίωςη του, μέςω τησ.όμωσ,μέςω του Θεωρήματοσ.4. δεν μπορούμε να ςυγκρίνουμε αυτέσ τισ δύο βελτιώςεισ. Η έννοια τησ πληρότητασ θα βοηθήςει ςε αυτή την ςύγκριςη. [3]

14 .5 Πληρότητα Οριςμόσ.5. Η ςτατιςτική ςυνάρτηςη ονομάζεται πλόρησ,αν ιςχύει η ακόλουθη ςχέςη, για κϊθε δυνατό τιμό τησ,δηλαδό. Θεώρημα.5. ( Lehm-Scheffé) Έςτω είναι επαρκήσ και πλήρησ ςτατιςτική ςυνάρτηςη και είναι ένασ αμερόληπτοσ εκτιμητήσ τησ.τότε είναι ο μοναδικόσ ΑΟΕΔ εκτιμητήσ τησ. Ωρα με τη βοόθεια του Θεωρόματοσ των Lehm-Scheffé μπορούμε να βρούμε ΑΟΕΔ εκτιμητό με την χρόςη επαρκούσ και πλόρουσ ςτατιςτικόσ ςυνϊρτηςησ και μϊλιςτα,αν υπϊρχει αυτόσ ο ΑΟΕΔ εκτιμητόσ,εύναι και μοναδικόσ. Πόριςμα.5. (Lehm-Scheffé) Έςτω είναι επαρκήσ και πλήρησ ςτατιςτική ςυνάρτηςη και είναι ένασ αμερόληπτοσ εκτιμητήσ τησ,ο οποίοσ είναι ςυνάρτηςη τησ επαρκούσ και πλήρουσ.τότε είναι μοναδικόσ ΑΟΕΔ εκτιμητήσ τησ. Όπωσ καταλαβαύνουμε,ςε αυτό την μεθοδολογύα εύναι ςημαντικό η εύρεςη μιασ επαρκούσ και πλόρουσ ςτατιςτικόσ ςυνϊρτηςησ και μϋςω του οριςμού δεν εύναι πϊντα εύκολο,αλλϊ αν η κατανομό του δεύγματοσ ανόκει ςτην Πολυπαραμετρικό Εκθετικό Οικογϋνεια Κατανομών(ΠΕΟΚ) τα πρϊγματα απλοποιούνται. Οριςμόσ.5. Η οικογένεια κατανομών ανήκει ςτην Πολυπαραμετρική Εκθετική Οικογένεια Κατανομών(ΠΕΟΚ),διάςταςησ,αν.Σο ςύνολο δεν εξαρτϊται από το... Παρατόρηςη.5. Η ΠΕΟK διάςταςησ ςυμπίπτει με την ΜΕΟΚ. [4]

15 Πρόταςη.5. Έςτω ότι το δείγμα έχει κατανομή η οποία ανήκει ςτην ΠΕΟΚ διάςταςησ,τότε ιςχύουν τα εξήσ:.η ςτατιςτικό ςυνϊρτηςη εύναι επαρκόσ..αν το πεδύο τιμών του διανύςματοσ υποςύνολο του,τότε η εύναι πλόρησ. περιϋχει ϋνα ανοικτό Σο παρακϊτω θεώρημα,γνωςτό και ωσ Θεώρημα Bsu,πιςτοποιεύ και μια ϊλλη χρόςη τησ επϊρκειασ και τησ πληρότητασ, αυτόσ τησ απόδειξησ ανεξαρτηςύασ μεταξύ ςτατιςτικών ςυναρτόςεων(δηλαδό τυχαύων μεταβλητών). Θεώρημα.5. (Bsu) Έςτω επαρκήσ και πλήρησ ςτατιςτική ςυνάρτηςη και είναι μία ςτατιςτική ςυνάρτηςη,η κατανομή τησ οποίασ δεν εξαρτάται από το,τότε οι ςτατιςτικέσ ςυναρτήςεισ και είναι ανεξάρτητεσ..6 Συνϋπεια Οριςμόσ.6. Έςτω ςυνάρτηςησ.τότε ο εκτιμητήσ ονομάζεται ςυνεπόσ αν ένασ εκτιμητήσ τησ παραμετρικήσ Η παρακϊτω Πρόταςη δύνει ικανϋσ ςυνθόκεσ ϋτςι ώςτε ϋνασ εκτιμητόσ για την εύναι ςυνεπόσ. να Πρόταςη.6. Έςτω ότι ο εκτιμητήσ ικανοποιεί τισ παρακάτω ςυνθήκεσ,.. Σότε ο εύναι ςυνεπόσ εκτιμητόσ τησ παραμετρικόσ ςυνϊρτηςησ. [5]

16 .7 Εκτύμηςη με την Μϋθοδο Μϋγιςτησ Πιθανοφϊνειασ Οριςμόσ.7. Θεωρούμε ότι το δείγμα έχει ςυνάρτηςη πυκνότητασ πιθανότητασ πιθανοφϊνεια) του,τότε η ςυνϊρτηςη πιθανοφϊνειασ (ό απλϊ ορίζεται από την ςχέςη, Αναφϋρουμε παρακϊτω τον οριςμό του Εκτιμητό Μεγύςτησ Πιθανοφϊνειασ (Ε.Μ.Π.). Οριςμόσ.7. Ο εκτιμητήσ,που ικανοποιεί τη ςχέςη ονομϊζεται Εκτιμητόσ Μϋγιςτησ Πιθανοφϊνειασ(Ε.Μ.Π.) του. Παρατόρηςη.7. Από τον προηγουμένο οριςμό φαίνεται ότι ο Ε.Μ.Π. του είναι εκείνη η τιμή του,η οποία μεγιςτοποιεί τη ςυνάρτηςη πιθανοφάνειασ.επειδή η ςυνάρτηςη είναι γνηςίωσ αύξουςα ςυνάρτηςη του,η τιμή του που μεγιςτοποιεί την είναι η ίδια με αυτήν που μεγιςτοποιεί την.συνήθωσ ακολουθούμε αυτήν την διαδικαςία όταν το μέγιςτο μπορεί να βρεθεί με παραγώγιςη. Παρατόρηςη 7..Η μέθοδοσ μέγιςτησ πιθανοφάνειασ ιςχύει και για το διάνυςμα.εύναι δυνατόν ο εκτιμητόσ να μην μπορεύ να βρεθεύ ςε αναλυτικό μορφό,τότε η τιμό του για την οπούα επιτυγχϊνεται η μεγιςτοποιόςη τησ βρύςκεται με μεθόδουσ αριθμητικόσ ανϊλυςησ. 3.Οριςμϋνεσ φορϋσ υπϊρχουν παθολογικϋσ καταςτϊςεισ με την ϋννοια ότι εύτε δεν υπϊρχει τιμό του η οπούα να μεγιςτοποιεύ τη ςυνϊρτηςη πιθανοφϊνειασ,εύτε υπϊρχουν περιςςότερα μϋγιςτα για την και ςυνεπώσ περιςςότεροι του ενόσ Ε.Μ.Π. [6]

17 Παρατόρηςη.7.3 Σε αυτό το ςημείο αναφέρουμε κάποιεσ γενικέσ ιδιότητεσ των Ε.Μ.Π..Από τον Oριςμό.7. προκύπτει ότι ο Ε.Μ.Π(αν υπϊρχει) παύρνει τιμϋσ μϋςα ςτον παραμετρικό χώρο..αν ο Ε.Μ.Π. του ςυνϊρτηςησ. εύναι μοναδικόσ,τότε εύναι ςυνϊρτηςη τησ επαρκούσ ςτατιςτικόσ 3.Αν εύναι Ε.Μ.Π. του,τότε o Ε.Μ.Π. τησ παραμετρικόσ ςυνϊρτηςησ εύναι ο. 4.Οι Ε.Μ.Π. εύναι(υπό οριςμϋνεσ ςυνθόκεσ) ςυνεπεύσ εκτιμητϋσ (βλ. Οριςμό.6. ). Παρατόρηςη.7.4 Οι Ε.Μ.Π έχουν(υπό οριςμένεσ ςυνθήκεσ) κάποιεσ αςυμπτωτικέσ ιδιότητεσ.αν είναι ένα τυχαίο δείγμα από κατανομή με πυκνότητα πιθανοτητασ και ςυμβολίςουμε με τον Ε.Μ.Π. του,τότε.η κατανομό του εύναι κατϊ προςεγγύςη η κανονικό κατανομό δηλαδό όπου εύναι ο αριθμόσ πληροφορύασ του Fsher..O εύναι αςυμπτωτικϊ αποτελεςματικόσ εκτιμητόσ αν κϊποιοσ ϊλλοσ εκτιμητόσ του,ϋςτω,ϋχει κατϊ προςϋγγιςη κανονικό κατανομό,τότε υπό οριςμϋνεσ ςυνθόκεσ. Οι παραπϊνω ιδιότητεσ των Ε.Μ.Π. ςυνεπϊγονται ότι ο εύναι αςυμπτωτικϊ ΑΟΕΔ για το,δηλαδό αν υπϊρχουν ΑΟΕΔ και Ε.Μ.Π. για κϊποια,τότε αυτού δεν διαφϋρουν αςυμπτωτικϊ. [7]

18 .8 Εκτιμητϋσ Byes Η εκτύμηςη κατϊ Byes γύνεται από μια διαφορετικό ςκοπιϊ ςε ςχϋςη με ότι ϋχουμε αντιμετωπύςει μϋχρι τώρα, που αντιλαμβανόμαςταν το απλϊ ςαν ϋνα πραγματικό αριθμό χωρύσ καμιϊ ιδιότητα. Αν π.χ. θεωρόςουμε μια βιομηχανύα η οπούα παρϊγει ηλεκτρικούσ λαμπτόρεσ,τότε ο χρόνοσ αυτών των λαμπτόρων ακολουθεύ την εκθετικό κατανομό με ϊγνωςτη παρϊμετρο και αυτό η παρϊμετροσ εκφρϊζει τον μϋςο χρόνο ζωόσ των λαμπτόρων. Επομϋνωσ δεν πρϋπει να αναμϋνουμε μεγϊλεσ τιμϋσ για το,αλλϊ ούτε και μικρϋσ. Δηλαδό ςε ςχϋςη με το πρόβλημα και την εμπειρύα που διαθϋτουμε πρϋπει να δώςουμε μια διαφορετικό βαρύτητα ςτισ διϊφορεσ τιμϋσ του για να εκμεταλλευτούμε αυτόν την εμπειρύα ώςτε να δώςουμε καλύτερη εκτύμηςη για το. Oπότε,θεωρούμε το,και τισ εξόσ ιδιότητεσ, ςαν μια τυχαύα μεταβλητό με πυκνότητα πιθανότητασ H ςυνϊρτηςη ονομϊζεται εκ των προτϋρων κατανομό του και εκφρϊζει εύτε την προςωπικό μασ αντύληψη για την πιθανό τιμό του προτϋρων(δηλ. πριν την ςυλλογό δεδομϋνων)πληροφορύεσ για το ςυνϊρτηςη ζημύασ,εύτε ςυνοψύζει κϊποιεσ εκ των.θεωρούμε μια και προςπαθούμε να ελαχιςτοποιόςουμε τη ςυνϊρτηςη κινδύνου Επειδό ϋχουμε θεωρόςει ότι το εύναι μια τυχαύα μεταβλητό, προφανώσ, η ςυνϊρτηςη κινδύνου εύναι και αυτό μύα τυχαύα μεταβλητό,επομϋνωσ εύναι λογικό ςε αυτό την περύπτωςη,να προςπαθούμε να ελαχιςτοποιόςουμε την μϋςη τιμό τησ,δηλαδό την η οπούα ονομϊζεται κύνδυνοσ Byes του εκτιμητό. υνεπώσ βϋλτιςτοσ εκτιμητόσ εύναι εκεύνοσ που ελαχιςτοποιεύ τον κύνδυνο Byes,οπότε καταλόγουμε ςτον εξόσ οριςμό για τον εκτιμητό Byes. Οριςμόσ.8. Ο εκτιμητήσ ονομάζεται εκτιμητήσ Byes του,ωσ προσ τη ςυνάρτηςη ζημίασ και την εκ των προτέρων κατανομή αν, για κϊθε εκτιμητό. [8]

19 υνόθωσ,για να υπολογύςουμε αυτόν τον εκτιμητό Byes πρϋπει να βρούμε πρώτα την εκ των υςτϋρων κατανομό του όπου. Η εκ των υςτϋρων κατανομό ςυνοψύζει την πληροφορύα για το μετϊ την ςυλλογό των δεδομϋνων και ϋχει τισ ιδιότητεσ τησ ςυνϊρτηςησ πυκνότητασ πιθανότητασ. Παρατόρηςη.8. Είναι ςημαντικό να τονίςουμε,ςε αυτό το ςημείο,ότι δεν μασ ενδιαφέρει ιδιαίτερα η ακριβήσ ςυνάρτηςη ),αλλά η μορφή τησ εκ των υςτέρων κατανομήσ για την οποία διαπιςτώνουμε, ςυνήθωσ, ότι ακολουθεί κάποια από τισ γνωςτέσ κατανομέσ. το επόμενο θεώρημα δύνουμε ϋναν διαφορετικό τρόπο υπολογιςμού του εκτιμητό Byes. Θεώρημα.8. Για ο εκτιμητήσ Byes τησ παραμετρικήσ ςυνάρτηςησ ωσ προσ τη ςυνάρτηςη και την εκ των προτέρων κατανομή έχει τιμή,όπου είναι η τιμή του που ελαχιςτοποιεί τη ςυνάρτηςη Αν επιπλϋον, η ςυνϊρτηςη ζημύασ εύναι το τετραγωνικό ςφϊλμα, δηλαδό,τότε η εύρεςη του εκτιμητό φαύνεται και ςτο παρακϊτω Θεώρημα. Byes γύνεται πιο απλϊ,όπωσ Θεώρημα.8. Έςτω ότι η ςυνάρτηςη ζημίασ για την εκτίμηςη του είναι το τετραγωνικό ςφάλμα.τότε για ο εκτιμητήσ Byes τησ παραμετρικήσ ςυνάρτηςησ έχει τιμή,όπου είναι μια τυχαία μεταβλητή με κατανομή την εκ των υςτέρων κατανομή. [9]

20 Οριςμόσ.8. Έςτω π.χ. ένα τυχαίο δείγμα με.αν (δηλαδή δίνω ίςη πιθανότητα για όλεσ τισ τιμέσ του να ςυμβούν),τότε Η ονομϊζεται mproper pror και ϋχει τισ ακόλουθεσ ιδιότητεσ, Οι εκτιμητϋσ Byes που βαςύζονται ςτισ mproper prors(ό αλλιώσ o-formtve prors όπωσ αναφϋρονται ςτην βιβλιογραφύα),ονομϊζονται γενικευμϋνοι εκτιμητϋσ Byes..9 Θεώρημα Μεταςχηματιςμού Θεώρημα.9. Έςτω μια ςυνεχήσ τυχαία μεταβλητή με ςυνάρτηςη πυκνότητασ πιθανότητασ.θέτουμε. Τποθϋτουμε ότι: εύναι ϋνασ αμφιμονοςόμαντοσ (ϋνα -προσ -ϋνα) μεταςχηματιςμόσ (μετρόςιμη ςυνϊρτηςη) που απεικονύζει το ςύνολο ςε ϋνα ςύνολο των. η αντύςτροφη ςυνϊρτηςη ςυνεχόσ και μη μηδενικό για κϊθε. Σότε η τυχαύα μεταβλητό πιθανότητασ εύναι παραγωγύςιμη και η παρϊγωγοσ τησ εύναι ςυνεχόσ με ςυνϊρτηςη πυκνότητασ όπου ςημαύνει την απόλυτο τιμό τησ ςυνϊρτηςησ. Πρόταςη.9. Αν η τ,μ Απόδειξη και []

21 ύμφωνα με το Θεώρημα 9., προκύπτει ότι, Δηλαδό, ϊρα.. Αναλλούωτο Πρόβλημα Εκτύμηςησ Θεωρούμε ότι εύναι μια τυχαύα μεταβλητό η οπούα παύρνει τιμϋσ ςε ϋνα δειγματικό χώρο,ςύμφωνα με μύα πυκνότητα πιθανότητασ από την οικογϋνεια κατανομών (..) Ορύζουμε ςαν μια κλϊςη - μεταςχηματιςμών. Οριςμόσ.. Έςτω είναι - μεταςχηματιςμόσ. Αν,επίςησ, για κάθε,η κατανομή τησ τ.μ., είναι μέλοσ τησ κλάςησ,έςτω,όπου,τότε η οικογένεια κατανομών τησ Σχέςησ (..) ονομάζεται αναλλούωτη ωσ προσ τον μεταχηματιςμό g. Αν η ιςχύει για κϊθε μϋλοσ τησ κλϊςησ των μεταςχηματιςμών,τότε η οικογϋνεια κατανομών εύναι αναλλούωτη ωσ προσ την. Παρατόρηςη.. Μια κλάςη μεταςχηματιςμών, η οποία αφήνει μια οικογένεια κατανομών αναλλοίωτη μπορεί πάντα να θεωρηθεί ότι είναι μια ομάδα η οποία γεννιέται από την κλάςη. Ϊςτω εύναι μια ομϊδα μεταςχηματιςμών του δειγματικού χώρου,η οπούα αφόνει την οικογϋνεια κατανομών αναλλούωτη.αν η τ.μ. ϋχει κατανομό,τότε εύναι μια ςυνϊρτηςη και ο μεταςχηματιςμόσ εύναι -, δεδομϋνου ότι οι κατανομϋσ εύναι διαφορετικϋσ. Επιπλϋον,οι μεταςχηματιςμού δημιουργούν μύα ομϊδα μεταςχηματιςμών,η οπούα θα αναφϋρεται ωσ.από τον οριςμό τησ,ϋπεται ότι, (..) []

22 Θεωρούμε το γενικό πρόβλημα εκτύμηςησ μύα παραμετρικόσ ςυνϊρτηςησ ςτην οικογϋνεια κατανομών (..), η οπούα θεωρεύται ότι εύναι αναλλούωτη ωσ προσ τουσ μεταςχηματιςμούσ Μια επιπλϋον ςυνθόκη που απαιτεύται εύναι ότι για κϊθε,η εξαρτϊται από το,μόνο μϋςω τησ,δηλαδό ιςχύει ότι (..3) Η κοινό τιμό του,για όλα τα για τα οπούα η παύρνει την ύδια τιμό θα ορύζεται από τη ςχϋςη, Αν εύναι το ςύνολο των τιμών τησ, οι μεταςχηματιςμού (..4) δημιουργούν μύα ομϊδα μεταςχηματιςμών. Η εκτιμώμενη τιμό τησ,όταν εκφραςθεύ ςτισ καινούργιεσ ςυντεταγμϋνεσ,γύνεται, (..5) Αφού τα προβλόματα εκτύμηςησ εύτε τησ ςε ςχϋςη με την τριϊδα,εύτε τησ ςε ςχϋςη με την τριϊδα αναπαριςτϊ την ύδια φυςικό κατϊςταςη εκφραςμϋνη ςε καινούργιο ςύςτημα ςυντεταγμϋνων, η ςυνϊρτηςη ζημύασ θα πρϋπει να ικανοποιεύ τη ςχϋςη, Οριςμόσ.. Αν η οικογένεια κατανομών (..) είναι αναλλοίωτη ωσ προσ την ςυνάρτηςη ζημίασ ικανοποιεί τη ςχέςη η (..6) και η ικανοποιεύ τη χϋςη (..3),τότε το πρόβλημα εκτύμηςησ τησ με ςυνϊρτηςη ζημύασ εύναι αναλλούωτο ωσ προσ την. Οριςμόσ..3 Σ' ένα αναλλοίωτο πρόβλημα εκτίμηςησ,ένασ εκτιμητήσ αναλλούωτοσ(equvrt) αν, ονομάζεται. []

23 το τϋλοσ αυτού του κεφαλαύου αναφϋρουμε μια πρόταςη η οπούα θα μασ χρηςιμεύςει ςτη ςυνϋχεια. Πρόταςη..4 Έςτω και πυκνότητεσ πιθανότητασ,όπου είναι αυςτηρά θετική ςε ςύνολο το οποίο είναι υποςύνολο του,όπου είναι αυςτηρά θετική η και είναι αύξουςα ςυνάρτηςη του. Ϊϊν εύναι μια αύξουςα ςυνϊρτηςη τησ τυχαύασ μεταβλητόσ Τ τότε. Εϊν εύναι μια φθύνουςα ςυνϊρτηςη τησ τυχαύασ μεταβλητόσ Τ τότε. Απόδειξη. Αρκεύ να δεύξουμε ότι. Θεωρούμε τα ςύνολα και Επύςησ θϋτουμε και. Ϊςτω, Επομϋνωσ ιςχύει ότι και επειδό εύναι αύξουςα ςυνϊρτηςη του,ϋπεται ότι,δηλαδό και ϋχουμε. τη ςυνϋχεια παρατηρούμε ότι,αφού αν ϋχουμε και,δηλαδό ό διαφορετικϊ. Ϊςτω,τότε αφού και, ϋπεται ότι ό αλλιώσ. [3]

24 Όμωσ, όπου (..7) (..8) Aν (..9) Αθρούζοντασ τισ χϋςεισ (..7),(..7) και (..8) προκύπτει ότι, Όμωσ, = Οπότε, [4]

25 Eπομϋνωσ, Αφού και εύναι αύξουςα ςυνϊρτηςη του,, δηλαδό και όταν, ςυνεπώσ, Σελικϊ, Ϊςτω,τότε αφού,, Ϊςτω για με, τότε Επύςησ καταλόγουμε ςε ϊτοπο αν θεωρόςουμε το ςύνολο,για το οπούο,. Επομϋνωσ ϋχουμε δεύξει ότι για ιςχύει. [5]

26 Διπαραμετρικό Εκθετικό κατανομό και εκτύμηςη παραμϋτρων ςε διπλϊ διακεκομμϋνο δεύγμα το κεφϊλαιο αυτό παραθϋτουμε διϊφορουσ οριςμούσ που αφορούν το μοντϋλο τησ διπαραμετρικόσ εκθετικόσ κατανομόσ ςε ϋνα διπλϊ διακεκομμϋνο δεύγμα, όπωσ και εκτύμηςη των παραμϋτρων τησ.. Συνϊρτηςη πυκνότητασ πιθανότητασ Αρχικϊ ορύζουμε το μοντϋλο τησ διπαραμετρικόσ εκθετικόσ κατανομόσ μϋςω τησ πυκνότητασ πιθανότητϊσ τησ και ςτη ςυνϋχεια θα μελετόςουμε την κατανομό ςε ϋνα διπλϊ διακεκομμϋνο δεύγμα και υπολογύζοντασ τουσ εκτιμητϋσ των παραμϋτρων τησ ςε ϋνα τυχαύο δεύγμα. Οριςμόσ.. Μια ςυνεχόσ τυχαύα μεταβλητό Φ με ςυνϊρτηςη πυκνότητασ πιθανότητασ ( x)/ f ( x; ; ) e λϋμε ότι ακολουθεύ την διπαραμετρικό εκθετικό κατανομό με παραμϋτρουσ μ (θϋςησ) και ς (κλύμακοσ) (όπου x μ, μ και ς>.) Πρόταςη.. Αν Φ εύναι μια διπαραμετρικό εκθετικό τυχαύα μεταβλητό, τότε η ςυνϊρτηςη κατανομόσ τησ δύνεται από την ςχϋςη Απόδειξη Από τον Οριςμό.. προκύπτει ότι F x f t dt e dt e F ( x) e ( )/ ( )/ ( ) x x t x x ( ). x ( x)/.. Διπαραμετρικό εκθετικό κατανομό ςε διπλϊ διακεκομμϋνο δεύγμα Θεωρούμε ϋνα δεύγμα τυχαύων μεταβλητών, όπου η καθεμύα ακολουθεύ την διπαραμετρικό εκθετικό κατανομό (βλ. Οριςμό..). Ϊςτω ότι ϋχουμε διακόψει κϊποιεσ αρχικϋσ παρατηρόςεισ και τελειώνουμε το πεύραμϊ μασ πριν αποτύχουν όλεσ οι ςυνιςτώςεσ. Σότε προκύπτει ϋνα διπλϊ διακεκομμϋνο δεύγμα διατεταγμϋνων παρατηρόςεων, X X... X με. [6]

27 .. Συνϊρτηςη πυκνότητασ πιθανότητασ τησ X διατεταγμϋνησ παρατόρηςησ Για τον υπολογιςμό τησ X διατεταγμϋνησ παρατόρηςησ ςτο ςυγκεκριμϋνο δεύγμα, θα υπολογύςουμε πρώτα τον γενικό τύπο τησ ςυνϊρτηςησ πυκνότητασ των διατεταγμϋνων παρατηρόςεων. Πρόταςη.. Ϊςτω τυχαύο δεύγμα διατεταγμϋνων παρατηρόςεων X(),..., X ( ). Σότε η ςυνϊρτηςη πυκνότητασ τησ k-οςτόσ παρατόρηςησ δύνεται από τον τύπο! k k fx ( x) [ F( x)] [ F( x)] f ( x) ( k ) ( k )!( k)! Απόδειξη Για την ςυνϊρτηςη κατανομόσ ϋχουμε F ( x) P( X x) P( ακριβώσ k από τα εύναι μικρότερα ό ύςα του x ) x( k ) ( k) = P( ακριβώσ k επιτυχύεσ από τισ πρώτεσ με p F ( x)) = [ P( X x)] [ P( X x)] [ F( x)] [ F( x)] jk j jk j Ωρα j j j j d j j j j fx ( x) F ( ) [ ( )] [ ( )] [ ( )] [ ( )] ( ) ( k) x x j F x F x F x F x f x ( k) dx jk j j! j j j!( j) j j [ F( x)] [ F( x)] [ F( x)] [ F( x)] f ( x) jk j!( j)! jk j!( j)! j j j j f ( x) [ F( x)] [ F( x)] [ F( x)] [ F( x)] jk j jk j k ( k ) f ( x) [ F( x)] [ F( x)] [ F( x)] [ F( x)] k! k k [ F( x)] [ F( x)] f ( x) ( k )!( k)! Επομϋνωσ η ςυνϊρτηςη πυκνότητασ πιθανότητασ για την x X, εύναι:! f x F x F x f x ( )!( )! x ( ) [ ( )] [ ( )] ( ) x x x, με ( x)/ fx( x) e [, ) ( x) και ( x)/ Fx ( x) [ e ] [, ) ( x). [7]

28 .. Μϋςη τιμό και διαςπορϊ τησ U διατεταγμϋνησ παρατόρηςησ το μοντϋλο που μελετϊμε, θεωρούμε τον μεταςχηματιςμό U X (),,...,. Πρόταςη.. Η μϋςη τιμό τησ U X(), δύνεται από τον τύπο E( U ),,..., j Απόδειξη j!! f ( u) [ F ( u)] [ F ( u)] f ( u) e e ( )!( )! ( )!( )! ( ) u/ u/ u u u u! ( ) u/ u/ E( U ) u e e du ( )!( )! ( ) u! / u ue e ( )!( )!! ( ) u/ u/ u ( ) u/ u/ e e e e ( )!( )! du ( ) u ( ) u/ u/ u/!! e e dx u e e du ( )!( )! ( )!( )! j j Ωρα EU ( ) j j..3 Επαρκόσ και πλόρησ ςτατιςτικό ςυνϊρτηςη Για να βρούμε την επαρκό ςτατιςτικό ςυνϊρτηςη των παραμϋτρων μ και ς, θα χρηςιμοποιόςουμε το κριτόριο Neym-Fsher, αφού πρώτα υπολογύςουμε την από κοινού ςυνϊρτηςη πυκνότητασ των διατεταγμϋνων παρατηρόςεων X X... X. [8]

29 Πρόταςη..3 Η ςτατιςτικό ςυνϊρτηςη ( V, X ) με V ( ) X X... X ( ) X εύναι επαρκόσ ςτατιςτικό ςυνϊρτηςη των μ και ς. Απόδειξη Η από κοινού ςυνϊρτηςη πυκνότητασ των διατεταγμϋνων παρατηρόςεων εύναι: ( ;, ) [ ( )] x( ) [ ( )] ~ f x c F x f x F x με! c ( )!( )! Επομϋνωσ, ( X ) ( X ) f ( x;, ) e e [, ) ( x) ~ ( X ) ( )( ) ( ) X X e e [, ) ( x) ( X ) ( X X X ) ( )( X ) X X [, ) e ( x ) e ( ) ( X ) ( ) ( X ) X X X X... X X ( ) X ( ) X [, ) e ( x ) e e ( X ) ό τελικϊ, f ( x;, ) h( X ;, ) h( V;, ) όπου, ~ V X X... X ( ) X ( ) X ( ) X V ( ) X X... X ( ) X και από το κριτόριο των Neym-Fsher (βλ. Θεώρημα.4.) θϋτοντασ όπου hx ( ), ~ T( x; ) ( V, X ) και (, ), προκύπτει ότι η ( V, X ) εύναι επαρκόσ ~ ςτατιςτικό ςυνϊρτηςη. Η ςτατιςτικό ςυνϊρτηςη ( V, X ) εύναι και πλόρησ, αλλϊ για το αποδεύξουμε αυτό, θα πρϋπει πρώτα να υπολογύςουμε την ςυνϊρτηςη πυκνότητασ τησ V και ϋπειτα την από κοινού ςυνϊρτηςη πυκνότητασ των ( V, X ). [9]

30 Πρόταςη..4 Η ςυνϊρτηςη V ( ) X X... X ( ) X ακολουθεύ κατανομό Gmm με παραμϋτρουσ και, δηλαδό V Gmm(, ). Απόδειξη Παρατηρούμε ότι V ( ) X X... X ( ) X ( ) X X ( ) X ( ) X... X ( ) X ( ) X ( ) X ( )( X X ) ( )( X X )... ( )( X X ) ( )( X X ) W Θϋτοντασ Y X X, τότε Y μετρϊει τον χρόνο αναμονόσ ανϊμεςα ςε δύο «επιτυχημϋνεσ» αποτυχύεσ. Ωρα Y ακολουθεύ εκθετικό κατανομό με παρϊμετρο EY ( ). Για να υπολογύςουμε την μϋςη τιμό τησ Y, χρειαζόμαςτε την μϋςη τιμό τησ τη βοόθεια τησ Πρόταςησ.. υπολογύζεται ότι, E( Y ) E( X X ) E( X ) E( X ) E( X ) E( X ) j j j j Δηλαδό κϊθε Y ακολουθεύ εκθετικό με παρϊμετρο, ό διαφορετικϊ X, οπότε με Y ~ E ( ) Y ~ E( ) Gmm(, ) ( ) Y Gmm(, ) V Gmm(, ) Πρόταςη..5 Οι τυχαύεσ μεταβλητϋσ V, X εύναι ανεξϊρτητεσ. Απόδειξη την απόδειξη τησ Πρόταςησ..4 δεύξαμε ότι V ( )( X X ). Θϋτοντασ Y X X, ϋχουμε Y X X X Y X X Y Y X... X Y, ανεξϊρτητο του μ. j j [3]

31 Ωρα και η κατανομό του τυχαύου διανύςματοσ ( )( X X ),( )( X X ),...,( )( X X ) δεν εξαρτϊται από το μ, ϊρα V, X εύναι ανεξϊρτητεσ τυχαύεσ μεταβλητϋσ αφού επαρκόσ και πλόρησ ςτατιςτικό ςυνϊρτηςη (βλ. Θεώρημα.5.). X εύναι Πρόταςη..5 Η ςτατιςτικό ςυνϊρτηςη ( V, X ) εύναι πλόρησ Απόδειξη Για να δεύξουμε ότι ( V, X ) εύναι πλόρησ ςτατιςτικό ςυνϊρτηςη του (, ) αρκεύ να δεύξουμε ότι E V, X, V, X ( ) x ` v/ x/ E V, X c v e e e ( v, x) dvdx Θϋτουμε ` / ( ) v h x v e ( v, x) dv ϋχουμε και ( )/ / E V, X e e h( ) h( ), Ωρα ` v/ ( ) (, ) (, ),,, h x v e v x dv v x v x Επομϋνωσ ( V, X ) εύναι πλόρησ ςτατιςτικό ςυνϊρτηςη του (, ). Πόριςμα..5 Επειδό οι V, X εύναι ανεξϊρτητεσ τυχαύεσ μεταβλητϋσ μεταξύ τουσ, η από κοινού ςυνϊρτηςη πυκνότητασ πιθανότητασ δύνεται από την ςχϋςη f ( V, X ) f ( v) f ( x) v x ( ) x! v/ x/ f ( V, X ) v e e e, v, x ( ) ( )!( )! [3]

32 .3 Εκτύμηςη παραμϋτρων Διπαραμετρικόσ Εκθετικόσ κατανομόσ ςε διπλϊ διακεκομμϋνο δεύγμα ε αυτό την ενότητα θα αςχοληθούμε με τουσ ςύνηθεισ τρόπουσ εκτύμηςησ των παραμϋτρων τησ διπαραμετρικόσ εκθετικόσ κατανομόσ ςε διπλϊ διακεκομμϋνο δεύγμα. Επύςησ αναφϋρονται κϊποια γενικϊ αποτελϋςματα όςον αφορϊ την απόδοςό τουσ..3. Αμερόληπτοσ εκτιμητόσ ελϊχιςτησ διαςπορϊσ Μmum Vrce Used Estmtor (MVUE) Πρόταςη.3. Ϊςτω ϋνα τυχαύο δεύγμα παρατηρόςεων που ακολουθούν την διπαραμετρικό εκθετικό κατανομό και X, X,..., X εύναι ϋνα διπλϊ Διακεκομμϋνο δεύγμα, με X X... X, τότε οι αμερόληπτοι εκτιμητϋσ ελϊχιςτησ διαςπορϊσ των παραμϋτρων μ και ς, εύναι Απόδειξη * * ˆ και ˆ, με ˆ * * X ˆ j * V και ˆ j Αρκεύ να βρούμε αμερόληπτο εκτιμητό για τισ ϊγνωςτεσ παραμϋτρουσ μ και ς. Αν αυτόσ εύναι ςυνϊρτηςη τησ επαρκούσ και πλόρουσ ςτατιςτικόσ ςυνϊρτηςησ, τότε θα εύναι αμερόληπτοσ εκτιμητόσ ελϊχιςτησ διαςπορϊσ. Αποδεύξαμε ςτην Πρόταςη..4 ότι V Gmm(, ). Ωρα E( V ) V V E( V ) ( ) E, δηλαδό εύναι αμερόληπτοσ εκτιμητόσ του ς και ςυνϊρτηςη τησ επαρκούσ και πλόρουσ ςτατιςτικόσ ςυνϊρτηςησ ( V, X ) * V Επομϋνωσ ˆ εύναι αμερόληπτοσ εκτιμητόσ ελϊχιςτησ διαςπορϊσ του ς. Επιπλϋον λόγω τησ Πρόταςησ.., * * * E( X ) E( X ) E( X ) j j j X j Ωρα j j j * j εύναι αμερόληπτοσ εκτιμητόσ του μ και ςυνϊρτηςη τησ επαρκούσ και πλόρουσ ( V, X ), ϊρα διαςπορϊσ του μ. ˆ * * X ˆ j εύναι αμερόληπτοσ εκτιμητόσ ελϊχιςτησ j [3]

33 .3. Εκτύμηςη μϋγιςτησ πιθανοφϊνειασ Mxmum Lkelhood Estmto (MLE) Πρόταςη.3. Ϊςτω ϋνα τυχαύο δεύγμα παρατηρόςεων που ακολουθούν την διπαραμετρικό εκθετικό κατανομό και X, X,..., X ϋνα διπλϊ Διακεκομμϋνο δεύγμα, με X X... X, τότε οι εκτιμητϋσ μϋγιςτησ πιθανοφϊνειασ των παραμϋτρων μ και ς, εύναι ˆ X ˆ l και V. Απόδειξη την από κοινού ςυνϊρτηςη πυκνότητασ πιθανότητασ που υπολογύςτηκε ςτο Πόριςμα X..5, θϋτουμε U και προκύπτει ότι, f ( u; ) exp U F U exp U l f ( u; ) ( )l U ( ) U ( )l F( U) Οι εκτιμητϋσ μϋγιςτησ πιθανοφϊνειασ των μ και ς εύναι η λύςη του ςυςτόματοσ l f l f Λύνοντασ το ςύςτημα ϋχουμε l f f( U ) FU ( ) l f f( U ) U U U FU ( ).(.3.).(.3.) Απαλεύφοντασ την ποςότητα f ( U ) από τισ δύο εξιςώςεισ, ϋχουμε: FU ( ) [33]

34 U U U U U ( ) ( ) U X ( ) ( ) ( ) ( ) ( ) X X X ( ) ( ) X X ( ) X X ( ) ( ) X ( ) X X X... X ( ) X ˆ ( ) X X... X ( ) X ˆ Ωρα ˆ V εύναι ο εκτιμητόσ μϋγιςτησ πιθανοφϊνειασ του ς. Αντικαθιςτώντασ ςτη χϋςη (.3.) U X ϋχουμε, ( X ) ( X) ( X) e e ( ) ( X) ( X) e e ( X) ( X) e e e ( X ) e ( X ) X X e l l X l X l Ωρα ˆ X ˆ l εύναι εκτιμητόσ μϋγιςτησ πιθανοφϊνειασ του μ. [34]

35 Πόριςμα.3. Ο εκτιμητόσ μϋγιςτησ πιθανοφϊνειασ του εύναι, ˆ «καλύτεροσ» από * τον αντύςτοιχο αμερόληπτο εκτιμητό ελϊχιςτησ διαςπορϊσ, ˆ, ωσ προσ το μϋςο τετραγωνικό ςφϊλμα. Απόδειξη Αρκεύ να δεύξουμε ότι m s e ˆ *...( ) m. s. e.( ) ˆ Για τουσ εκτιμητϋσ του ς ϋχουμε: * V ˆ * ˆ ˆ V ˆ E( V ) ( ) V Gmm(, ) Vr ( V ) ( ) * V ( ) * Vr( ˆ ) Vr Vr( V ) Vr( ˆ ) * V ( ) * E( ˆ ) E E( V) E( ˆ ) V ( ) ( ) Vr( ˆ ) Vr Vr( V ) Vr( ˆ ) V ˆ ( ( ) ( ) ) ( ˆ) ( E E E V E ) Ϊχουμε ( ) ( ) m. s. e.( ˆ ) E ˆ Vr( ˆ ) E( ˆ ) ( ) ( ) ( ) ( ) ( ) ( ) m. s. e.( ˆ ) (.3.3) [35]

36 Ενώ για τον ΑΟΕΔ εκτιμητό προκύπτει ότι, * * * * m. s. e.( ˆ ) E ˆ Vr( ˆ ) E( ˆ ) * m. s. e.( ˆ ) (.3.4) Από τισ χϋςεισ (.3.3) και (.3.4) εύναι προφανϋσ ότι, m s e ˆ *...( ) m. s. e.( ). ˆ Πόριςμα.3. Αν τότε ο εκτιμητόσ μϋγιςτησ πιθανοφϊνειασ του μ εύναι καλύτεροσ από τον αντύςτοιχο αμερόληπτο εκτιμητό ελϊχιςτησ διαςπορϊσ, ωσ προσ το μϋςο τετραγωνικό ςφϊλμα, ενώ για ιςχύει το αντύςτροφο. Απόδειξη Ο ΕΜΠ του ςχϋςεισ,,, ˆ και ο ΑΟΕΔ εκτιμητόσ, * ˆ, δύνονται αντύςτοιχα από τουσ παρακϊτω * * ˆ X ˆ j j ˆ X ˆ l Θϋτοντασ E ˆ * ( ) j j προκύπτει ότι, * * * Vr( ˆ ) Vr( X ˆ ) ( ) ( ˆ Vr X Vr ) j j Vr( ˆ ) Vr X ˆ l ( ) l ( ˆ Vr X Vr ) ( ) l j ( ) j E( ˆ ) E X ˆ l ( ) l ( ˆ E X E ) l j j [36]

37 η περύπτωςη Για α=, ϋχουμε, * Vr( ˆ ) ( ) E ˆ * ( ) * * * * ( ) m. s. e.( ˆ ) E ˆ Vr( ˆ ) E( ˆ ) ( ) ( ) Ενώ, όςον αφορϊ τον ΕΜΠ του,, ˆ ϋχουμε, Vr( ˆ ) E( ˆ ) Οπότε, m. s. e.( ˆ ) E ˆ Vr( ˆ ) E( ˆ ) Επειδό, καταλόγουμε ςτο ςυμπϋραςμα ότι m s e ˆ ˆ. *...( ) m. s. e.( ) η περύπτωςη Για, δεν εύναι εύκολο να αποδειχθεύ υπολογιςτικϊ ότι ο εκτιμητόσ μϋγιςτησ πιθανοφϊνειασ του μ εύναι καλύτεροσ από τον αντύςτοιχο αμερόληπτο ελϊχιςτησ διαςπορϊσ, γιατύ δεν υπϊρχει κλειςτόσ τύποσ. Θα το αποδεύξουμε αριθμητικϊ, για, 8,. Ϊχουμε ότι, 8 8 * Vr( ˆ ) j j 3 j j E ˆ * ( ) [37]

38 Επομϋνωσ, 8 8 * m. s. e.( ˆ ) j j 3 j j Ενώ, όςον αφορϊ τον ΕΜΠ του,, ˆ ϋχουμε, Vr 8 3 ( ˆ ) l j 9 j 8 3 E( ˆ ) l j j j j 3 3 m. s. e.( ˆ ) l l j 9 j 3 Επειδό l l j 3 j 9, καταλόγουμε ςτο j j ςυμπϋραςμα ότι m s e ˆ ˆ. *...( ) m. s. e.( ).4 Εκτύμηςη με την μϋθοδο των ροπών Method of Momets Estmtors (MME) Πρόταςη.4. Ϊςτω ϋνα τυχαύο δεύγμα παρατηρόςεων που ακολουθούν την διπαραμετρικό εκθετικό κατανομό και X, X,..., X ϋνα διπλϊ διακεκομμϋνο δεύγμα, με X X... X, τότε οι εκτιμητϋσ με την μϋθοδο των ροπών ˆ X ˆ j j των παραμϋτρων μ και ς, εύναι ˆ, ˆ, όπου X X ˆ j ( j) / [38]

39 Απόδειξη Για την εκτύμηςη με την μϋθοδο των ροπών θα χρειαςτούμε την μϋςη τιμό και την! ( ) x/ x/ διαςπορϊ τησ X με fx ( x) e e ( )!( )!. Ϊχουμε ότι: Y ~ E. Ωρα EY και Vr Y ( ) Θϋτοντασ Y X X, προκύπτει ότι, Y X X X Y X X Y Y X... X Y,ϊρα j j Vr X Vr Y Vr Y Επομϋνωσ, ( ) j j j ( j ) j ( j ) j j j E( X ) E( X ) E( X ) j j j και. Vr X j ( j ) j( j ) Vr X E( X ) E( X ) E( X ) j ( j ) j ( j ) j ( j ) Φρηςιμοποιώντασ τη μϋθοδο των ροπών, προκύπτει το ςύςτημα των εξιςώςεων, E( X ) X j j j ( j ) E( X ) X X X ˆ X ˆ j j X X ˆ j ( j) / X [39]

40 .5 Αναλλούωτοι εκτιμητϋσ την ενότητα αυτό θα θεωρόςουμε την παρϊμετρο λ, όπου και θα υπολογύςουμε τουσ αναλλούωτουσ εκτιμητϋσ των λ, ς και μ, δηλαδό τουσ «καλύτερουσ» εκτιμητϋσ, με ςυνϊρτηςη ζημύασ το τετραγωνικό ςφϊλμα, μϋςα ςε ςυγκεκριμϋνη κλϊςη. Βελτύωςη αυτών των εκτιμητών, αποτελούν οι εκτιμητϋσ τύπου Ste, που θα αναπτύξουμε ςτο επόμενο κεφϊλαιο. c Πρόταςη.5. Ο βϋλτιςτοσ αναλλούωτοσ εκτιμητόσ του λ ςτην κλϊςη C, c V, με ςυνϊρτηςη ζημύασ το τετραγωνικό ςφϊλμα εύναι ο ˆeq V Απόδειξη c Για αναζητούμε τον καλύτερο εκτιμητό ςτην κλϊςη C, c, ωσ προσ V ςυνϊρτηςη ζημύασ το τετραγωνικό ςφϊλμα L( ˆ, ) ˆ. Καλύτεροσ εκτιμητόσ ωσ προσ την κλϊςη αυτό, εύναι εκεύνοσ ο εκτιμητόσ με την μικρότερη ςυνϊρτηςη κινδύνου. R( ˆ, ) E L( ˆ, ) E ˆ Vr( ˆ ) E( ˆ ) c c ( ) ) ( ) ( ) Vr E c Vr V c E V V V Ϊχουμε ότι V Gmm(, ) Gmm(, ) v v E v e dv v e dv V v ( ) ( ) ( ) v v e dv ( ) ( ) ( ) E ( ) v V v ( ) v v e dv v e dv ( ) ( ) v v e dv ( ) ( ) [4]

41 Ωρα, Vr E E V V V ˆ c c R(, ) c c c Δευτϋρου βαθμού πολυώνυμο, παύρνει την ελϊχιςτη τιμό του για: c c m Ωρα ˆeq V Πρόταςη.5. Ο βϋλτιςτοσ αναλλούωτοσ εκτιμητόσ του ς ςτην κλϊςηc c V, c με ςυνϊρτηςη ζημύασ το τετραγωνικό ςφϊλμα εύναι ο ˆ Απόδειξη eq V ( ) Σον αντύςτοιχο «καλύτερο» εκτιμητό του ς θα τον μελετόςουμε ςτην, κλϊςηc c V, c με ςυνϊρτηςη ζημύασ το τετραγωνικό ςφϊλμα L( ˆ, ) ˆ. Καλύτεροσ εκτιμητόσ ωσ προσ την κλϊςη, εύναι εκεύνοσ ο εκτιμητόσ με την μικρότερη ςυνϊρτηςη κινδύνου. R( ˆ, ) E L( ˆ, ) E ˆ Vr( ˆ ) E( ˆ ) Vr( V c ) E V c ) c Vr( V ) c E( V ) E( V ) ( ) V Gmm(, ) Vr ( V ) ( ) Ωρα ϋχουμε: R( ˆ, ) c ( ) c ( ) ( )( ) c ( ) c Πολυώνυμο δευτϋρου βαθμού ωσ προσ c, ελαχιςτοποιεύται για c m ( ) c m ϊρα ˆ ( )( ) ( ) [4] eq V. ( )

42 Πρόταςη.5.3 Ο βϋλτιςτοσ αναλλούωτοσ εκτιμητόσ του μ ςτην C X cv, c με ςυνϊρτηςη ζημύασ το τετραγωνικό ςφϊλμα εύναι ο κλϊςη eq eq j ˆ X ˆ, j όπου ˆeq δύνεται ςτην Πρόταςη.5.. Απόδειξη Διακρύνουμε τισ εξόσ περιπτώςεισ, η περύπτωςη: Αν το ς εύναι γνωςτό, τότε ο καλύτεροσ εκτιμητόσ του μ ˆ eq X εύναι j j αφού E( X ) E( X ) ˆ X j j j eq j j j η περύπτωςη: Αν το ς εύναι ϊγνωςτο, και ˆeq αντύςτοιχοσ αναλλούωτοσ εκτιμητόσ του μ θα εύναι ˆ ο αναλλούωτοσ εκτιμητόσ του ς, τότε ο X Καλύτεροσ εκτιμητόσ του μ ςτην κλϊςηc X c V, c ˆ eq eq j j, με ςυνϊρτηςη ζημύασ το τετραγωνικό ςφϊλμα, εύναι εκεύνοσ ο εκτιμητόσ με τη μικρότερη ςυνϊρτηςη κινδύνου. R( ˆ, ) E L( ˆ, ) E ˆ Vr ˆ E ˆ Vr( X V c ) E X V c ) c Vr( V ) c E( V ) j j c Vr( V ) c E( V ) c E( V ) j j j j c j j j j c Πολυώνυμο δευτϋρου βαθμού ωσ προσ c, ελαχιςτοποιεύται για c m j j j j c m, ϊρα ˆ ˆ eq X eq. j j [4]

43 3 Εκτιμητϋσ τύπου Ste για τισ παραμϋτρουσ τησ Διπαραμετρικόσ Εκθετικόσ κατανομόσ ςε διπλϊ διακεκομμϋνο δεύγμα το κεφϊλαιο αυτό θα παρουςιϊςουμε βελτιωμϋνουσ εκτιμητϋσ ςε ςχϋςη με αυτούσ που παρουςιϊςτηκαν ςτην Ενότητα.5. O Ste το 964 απϋδειξε ότι ο βϋλτιςτοσ αναλλούωτοσ εκτιμητόσ τησ διαςπορϊσ κανονικόσ κατανομόσ με ϊγνωςτη μϋςη τιμό εύναι μη αποδεκτόσ, με ςυνϊρτηςη ζημύασ το τετραγωνικό ςφϊλμα., θεωρώντασ ϋναν καλύτερό του, ο οπούοσ να περιϋχει όλη την πληροφορύα που χρειϊζεται για την εκτύμηςη των αγνώςτων παραμϋτρων, πληροφορύα η οπούα παρϋχεται ςτο δεύγμα. 3. Εκτιμητόσ τύπου Ste για την παρϊμετρο λ ε αυτό την ενότητα ςτόχοσ μασ εύναι να βρούμε εκεύνον τον εκτιμητό του που εύναι καλύτεροσ από τον αντύςτοιχο αναλλούωτο (ωσ προσ την τετραγωνικό ζημύα), δηλαδό αυτόν με την μικρότερη ςυνϊρτηςη κινδύνου, χρηςιμοποιώντασ την τεχνικό του Ste (964). Ο εκτιμητόσ που θα προκύψει, θα ονομϊζεται εκτιμητόσ τύπου Ste. Σα αποτελϋςματα αυτόσ τησ ενότητασ βρύςκονται ςτην εργαςύα του Elfess (997). Θεωρούμε μια γενικότερη κλϊςη εκτιμητών ( U ) D, ( ) V, Y όπου U, Y X, W V και : [, ). W Χϊχνουμε εκεύνον τον εκτιμητό του λ που ελαχιςτοποιεύται, ωσ προσ την τετραγωνικό ζημύα, ςτην γενικότερη κλϊςη των εκτιμητών D. ˆ ˆ ˆ ( U ) R(, ) E L(, ) E E V ( U ) ( U ) ( U ) Eu E U u E u E U u V V V ( U) ( U) Eu E U u E U u V V Eu ( U ) E U u ( U ) E U u V V [43]

44 Η μϋςη τιμό ελαχιςτοποιεύται για εκεύνη την τιμό που ελαχιςτοποιεύται η ποςότητα ( U ) E U u ( U ) E U u V V. Η ελϊχιςτη τιμό του ( U ), δύνεται από τη ςχϋςη, opt E U u E U u E U u V W W opt 4 E U u E U u E U u V W W E U u ( ) Πρόταςη 3.. Ιςχύει ότι W opt, u( ) E U u W Απόδειξη Για τον υπολογιςμό του κϊτω φρϊγματοσ του opt, χρειϊζεται πρώτα να βρούμε την Y ςυνϊρτηςη πυκνότητασ των U,W, υπενθυμύζουμε ότι U, Y X, W V. W Η Ιακωβιανό ορύζουςα του μεταςχηματιςμού ( Y, W) ( U, W) εύναι w. Επιπλϋον οι Τ,W εύναι ανεξϊρτητεσ, οπότε ( y )( )/ ( y )/ με f y, w f ( y) f ( w) f ( y) ce e, y και Y Y W f w w e w ( ) w/ W ( ), Ωρα για την ςυνϊρτηςη πυκνότητασ του μεταςχηματιςμού, ϋχουμε: uw w uw g u, w c w e e Ενώ όταν ( ) προκύπτει ότι, uw w uw g u w c w e e, [44]

45 Για, g u, w c e g u, w c e e uw ( w) uw uw uw uw uw uw u u u e e e e e e '( w) uw uw e e g g u, w u, w w, ϊρα, χρηςιμοποιώντασ την Πρόταςη..4 (βλ. Lehm, 986) καταλόγουμε ςτο ςυμπϋραςμα ότι, opt w g w g u, w dw u, w dw uw u( ) w, uw uw uw c u( ) w u e ( ) w e w e e dw u w g u, wdw u( ) c w g u w dw c w e e dw uw uw uw u( ) w u e w e e w e dw 3.. Επειδό, uw uw uw uw u u u w e e w e e w (ιςχύει αφού w ). ςυμπεραύνουμε ότι, uw uw uw uw uw uw u w e e w e w e e e uw w e [45]

46 Επομϋνωσ w g u w dw ce w e dw uw ( ) u w, u( ) w g u w dw, Ωρα w g w g u, w dw u, w dw u( ) Θεώρημα 3.. Καλύτεροσ εκτιμητόσ του, με ςυνϊρτηςη ζημύασ το τετραγωνικό ( ) ςφϊλμα ςτην κλϊςη των εκτιμητών U D, ( ) V, Y U, Y X, W V εύναι W * * ( ) * ο ˆ U, ( U) mx ( U),. V U( ) Απόδειξη Για να δεύξουμε ότι, ˆ, που ανόκει ςτην κλϊςη κινδύνου του * ˆ εύναι καλύτεροσ εκτιμητόσ του λ, από οποιονδόποτε εκτιμητό του ( U ) D, ( ), αρκεύ να δεύξουμε ότι η ςυνϊρτηςη V * ˆ εύναι μικρότερη ό ύςη από αυτόν του ˆ. Δηλαδό, αρκεύ να δεύξουμε ότι: ˆ* ˆ ˆ* ˆ ˆ* ˆ Rsk( ) Rsk( ) Rsk( ) Rsk( ) E E ˆ* ˆ * ( U) ( U) E E E E V V * ( U) ( U) E u E U u Eu E U u V V * * ( U ) ( U ) ( U ) ( U) E u E U u E u E U u V V V V [46]

47 * * ( U ) ( U ) ( U ) ( U ) Eu E U u E U u Eu E U u E U u V V V V * * Eu ( U ) E U u ( U ) E U u E ( ) ( ) u U E U u U E U u V V V V * * 4 Eu ( U ) ( U ) E U u ( U ) ( U ) E U u W W opt * * 4 Eu E W U u ( U ) ( U ) ( U ) ( U ) * * Θεωρούμε A Eu E W U u U U U U opt 4 ( ) ( ) ( ) ( ). Αρκεύ να δεύξουμε ότι A, U. η περύπτωςη Αν ( U ), τότε * ( U) ( U) και επομϋνωσ A, U ( ) * δηλ. Rsk( ˆ ) Rsk( ˆ ). η περύπτωςη Αν ( U ), τότε * ( U) ( U). Οπότε για να δεύξουμε ότι A, αρκεύ U ( ) * ( U) ( U) I( U). opt Από την Πρόταςη 3.. ϋχουμε ότι opt ( ), U ( ) * ϊραopt ( U) ( U) ( U) δηλαδό IU ( ), επομϋνωσ και A Rsk ˆ Rsk * ( ) ( ). ˆ Σελικϊ, κλϊςη D. Rsk ˆ ˆ * ( ) Rsk( ), για οποιονδόποτε εκτιμητό ˆ του που ανόκει ςτην Πόριςμα 3.. Με το προηγούμενο θεώρημα, αποδεύξαμε ότι ο καλύτεροσ εκτιμητόσ ( U ) ςτην κλϊςη D, ( ) V εύναι ο * ˆ * ( U) *, ( U) mx ( U), V U ( U) *, ( U ) * ( ) ( ) Δηλαδό ˆ U V U V, ( ) U u( ) V U( ). ( ) [47]

48 ,( ) X / V / ( ) Πρόταςη 3.. Ο εκτιμητόσ ˆ V,( ) X / V / ( ) V ( ) X εύναι καλύτεροσ από τον ˆeq, ωσ προσ την τετραγωνικό ζημύα. Απόδειξη Ουςιαςτικϊ, πρόκειται για εφαρμογό του προηγούμενου θεωρόματοσ με ( U). Ακολουθώντασ την ύδια διαδικαςύα με αυτόν ςτην Πρόταςη 3.., υπολογύζουμε ϋνα καινούριο φρϊγμα,, για την opt ωσ εξόσ, Από τη χϋςη (3..) παρατηρούμε ότι uw u w e επομϋνωσ, uw uw uw uw uw u w e e w e w e e δηλαδό, w g u w dw ce w e dw uw ( ) u w, u( ) w g u w dw, Ωρα, w g w g u, w dw u, w dw u( ). η περύπτωςη: X Αν ( ), τότε «κρατϊμε» ςαν καλύτερο εκτιμητό V ( U ) ςτην κλϊςη D, ( ) τον ˆeq και ϋχουμε ˆ ˆeq. V V η περύπτωςη: X ( ), τότε ˆ ˆ. V V V ( ) X [48]

49 3. Εκτιμητόσ τύπου Ste για την παρϊμετρο ς ε αυτό την ενότητα ςτόχοσ μασ εύναι να βρούμε εκεύνον τον εκτιμητό του ς που εύναι καλύτεροσ από τον αντύςτοιχο αναλλούωτο (ωσ προσ την τετραγωνικό ζημύα), δηλαδό αυτόν με την μικρότερη ςυνϊρτηςη κινδύνου. όπου U Θεωρούμε μια γενικότερη κλϊςη εκτιμητών D ( U) V, ( ) V W και : [, ). Y, Y X, W Χϊχνουμε εκεύνον τον εκτιμητό του ς που ελαχιςτοποιεύται, ωσ προσ την τετραγωνικό ζημύα, ςτην γενικότερη κλϊςη των εκτιμητών D. ε αντιςτοιχύα με τα προηγούμενα, ϋχουμε: ( ) u ( ) ( ) R( ˆ, ) E L( ˆ, ) E ˆ E ( U ) V u ( ) ( ) Eu E U V U u E U V U u E ( U ) E V U u ( U ) E V U u. u E E U V U u E E U V U V U u Η ςυνϊρτηςη κινδύνου ελαχιςτοποιεύται ςτην τιμό opt όπου, opt W E U u E V U u E W U u opt E V U u W E W U u E U u 4 E( W / U u) u( ) Πρόταςη 3.. Ιςχύει ότι opt, E( W / U u) Απόδειξη Τπενθυμύζουμε ότι ςτην απόδειξη τησ Πρόταςησ 3.. η από κοινού κατανομό των UW, δύνεται από τη ςχϋςη, uw w uw g u, w c w e e [49]

50 Ενώ όταν ( ) προκύπτει ότι, uw w uw g u, w c w e e Επειδό, g g u, w w g u, w w, opt u, w, dw w w g u w dw..4 (βλ. Lehm, 986) ςυμπεραύνουμε ότι, και χρηςιμοποιώντασ την Πρόταςη opt wg u, w dw w. w g u, w dw w g u, w dw w g u, w dw Τπολογύζουμε ότι, uw u( ) w, uw uw uw c u( ) w u e ( ) w e w e e dw u w g u, w dw c u( ) w g u w dw c w e e dw uw uw uw u( ) w u e w e e w e dw ε αντιςτοιχύα με την Πρόταςη 3.., βρύςκουμε ϋνα ϊνω φρϊγμα για την τιμό. opt (3..) uw u w e, από τη χϋςη (3..) προκύπτει ότι, Επειδό, w g u w dw ce w e dw uw ( ) u w, u( ) wg u w dw, [5]

51 Επομϋνωσ, opt wg u, w dw E W U u u( ) E W U u w g u, wdw Ωρα βρόκαμε ϋνα φρϊγμα,, για την κλϊςη των εκτιμητών του ς με o u( ) V,( ) X / V / ( ) Πρόταςη 3.. Ο εκτιμητόσ ˆ V ( ) X,( ) X / V / ( ) εύναι καλύτεροσ από τον ˆ V eq, ωσ προσ την τετραγωνικό ζημύα,,. Απόδειξη Εύναι προφανϋσ, αν λϊβουμε υπ όψιν μασ το αποτϋλεςμα τησ Πρόταςησ 3.. και ότι ϋχουμε μια owl-shped ςυνϊρτηςη ζημύασ (το τετραγωνικό ςφϊλμα). 3.3 Εκτιμητόσ τύπου Ste για την παρϊμετρο μ Πρόταςη 3.3. Ο εκτιμητόσ ˆ ˆ X eq eq j j του μ, εύναι καλύτεροσ από τον j ˆ X ˆ, j όπου ˆ V eq,με ςυνϊρτηςη ζημύασ το τετραγωνικό ςφϊλμα. Απόδειξη Αρκεύ να δεύξουμε ότι η ςυνϊρτηςη κινδύνου του ˆ εύναι μικρότερη από την αντύςτοιχη ςυνϊρτηςη κινδύνου του ˆeq. Δηλαδό R( ˆ ˆ ˆ ˆ ) R( eq ) RD R( ) R( eq) [5]

52 RD R( ˆ ) R( ˆ ) E( ˆ ) E( ˆ ) eq eq ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ E f f dx dv eq eq eq eq με f, fη ςυναρτόςεισ πυκνότητασ των X, V αντύςτοιχα. Σο ολοκλόρωμα ορύζεται εκεύ που ˆ ˆeq, δηλαδό εκεύ που ˆ ˆeq. Βϊςει τησ Πρόταςησ 3.., το διϊςτημα ςτο οπούο εύναι διαφορετικού αυτού οι δύο εκτιμητϋσ μεταξύ τουσ εύναι: B [( ) X / V / ( )] Θϋλουμε να δεύξουμε ότι ˆ ˆ ˆ ˆ eq eq Ϊςτω ˆ ˆ ˆ ˆ eq eq T T, όπου ςτο ςύνολο B. T ˆ ˆ X ˆ X ˆ j j eq eq j j ( X ) ( ˆ ˆ eq ) j j ( X ) V ( ) X V j j j j ( X ) ( ) X j j j j V γιατύ ( ) X / V / ( ) ( ) X ( ) και T ˆ ˆ X ˆ X ˆ j j eq eq j j V V ( ) X ˆ ˆ eq j j j j V X j j Ωρα TT και R( ˆ ˆ ) R( eq ). [5]

53 , 4 Εκτιμητϋσ τύπου Byes Byes Estmtors ε αυτό το κεφϊλαιο υπολογύζουμε την εκ των υςτϋρων ςυνϊρτηςη κατανομόσ ςε διπλϊ διακεκομμϋνο δεύγμα εκθετικόσ διπαραμετρικόσ κατανομόσ. Με χρόςη αυτόσ, βρύςκουμε όρια εμπιςτοςύνησ για την μελλοντικό παρατόρηςη. 4. Εκ των υςτϋρων ςυνϊρτηςη πυκνότητασ των μ και ς ςε διπλϊ διακεκομμϋνο δεύγμα εκθετικόσ διπαραμετρικόσ κατανομόσ Ϊςτω X ( X, X,..., X ) το διακεκομμϋνο δεύγμα, τότε η από κοινού ςυνϊρτηςησ πυκνότητασ του δεύγματοσ εύναι, m x ( ) S x L(, / x) exp exp [, ) ( x ) όπου m, S( x) x ( ) x Η εκ των προτϋρων ςυνϊρτηςη πιθανότητασ που θα χρηςιμοποιόςουμε για τα μ ς, εύναι g z kc ( ) (, ) exp [, ] ( ),, (4..) όπου k, z, c, M. την περύπτωςη που k, z, c, M τότε η εκ των προτϋρων ςυνϊρτηςη πυκνότητασ εύναι η g(, ),, Θα αςχοληθούμε με την εκ των προτϋρων κατανομό των μ και ς όπωσ αυτό δύνεται ςτη χϋςη (4..). 4.. Εκ των υςτϋρων ςυνϊρτηςη πυκνότητασ των μ και ς Για την εκ των υςτϋρων ςυνϊρτηςη πυκνότητασ πιθανότητασ ϋχουμε, ( z m) k c S( x) ( ) x (, / x) exp [, ] ( ) exp exp [, ) ( x ) [53]

54 Θεωρούμε M m M, x ( ) ( ) ( ) [, ] [, ) x x [, ] Σότε, προκύπτει ότι, ( z m) S( x) c ( ) x (, / x) A exp exp [, ]( ). Δεδομϋνου ότι, (, / x) dd j A j j c j ( z m ) ( z m ) S ( x) k j x c j M Ωρα, z m S( x) k j x zm S( x) ( c ) x exp exp [, ]( ) (, / x) zm ( z m ) B όπου, j A j j c j ( z m ) ( z m ) S ( x) k j x c j M z m S( x) k j x zm ( zm) B S( x) k c M F S( x) k c M, z m, x M ( zm) S( x) k F S( x) k, z m, x (4..) και v j t F [ u, v, t]. j j c j u [54]

55 4.. Πρόβλεψη κατϊ Βyes την πρόβλεψη κατϊ Byes θα χρηςιμοποιόςουμε τουσ ( ) χρόνουσ ζωόσ του δεύγματοσ. Θεωρούμε yl xl, l. Η ςυνϊρτηςη πυκνότητασ των y l, με παραμϋτρουσ δύνεται, από τη ςχϋςη, l l ( ) f ( y /,, x) D ( l) F( y /, ) F( x /, ) F( y /, ) F( x /, ) f ( y /, ), y t (4..3) l l l l l l όπου D ( l) l. l Από τον Οριςμό.., την Πρόταςη.. και τη χϋςη (4..3), ϋχουμε ότι, x yl fl( yl /,, x) D ( l) exp exp l ( ) yl x yl exp exp exp l l l l x l yl D ( l) exp, yl Η ςυνϊρτηςη πυκνότητασ για την πρόβλεψη κατϊ Byes, δύνεται από τον τύπο h( y, x) f ( y /, x) ( / x) d (4..4) l l Όπου f ( yl /, x) εύναι η ςυνϊρτηςη πυκνότητασ του yl και ( / x) η εκ των υςτϋρων ςυνϊρτηςη του (, ). Από τισ χϋςεισ (4..),(4..3) και (4..4), προκύπτει ότι, M h( y, x) f ( y /,, x) (, / x) dd l l l D l ( l) ( z m ) l ( ) A F A, m, x M C F C, m, x, y x B όπου ( zm) ( zm) l l A S( x) k l x y c M C S( x) k l x y. l x [55]

56 Για να βρούμε τα όρια, για την πρόβλεψη κατϊ Byes, των πιθανότητα yl υπολογύζουμε την M * l l l l l * * y y P( y y / x) h( y, x) f ( y /,, x) (, / x) d d dy Ολοκληρώνοντασ προκύπτει ότι, l * D() l l l P( yl yl / x) ( ) B l z m,,,, D F D m x M E F E m x ( zm) ( ) (4..5) Όπου D ϋχει τον ύδιο τύπο με την ποςότητα A, αντικαθιςτώντασ το y με το y * και E ϋχει τον ύδιο τύπο με την ποςότητα C αντικαθιςτώντασ το * l * l D S( x) k l x y c M E S( x) k l x y. l l y με το y *, δηλαδό, Σο Διϊςτημα εμπιςτοςύνησ ύςων ουρών, κατϊ Byes, τησ yl xl με ςυντελεςτό εμπιςτοςύνησ δύνεται από τον τύπο, P( L( x) y U( x)), με L( x), U( x) εύναι το κϊτω και ϊνω όριο αντύςτοιχα, τϋτοια ώςτε να ιςχύει l P( yl L( x)), P( yl U( x)). Η επύλυςη αυτόσ τησ εξύςωςησ μπορεύ να γύνει μόνο για δεδομϋνο l. την περύπτωςη όπου l τότε η χϋςη (4..5) γύνεται P( y y / x) A F A, z m, x M C F C, z m, x B z m * ( zm) ( ) l l όπου l l * l * l A S( x) k c M x y C S( x) k x y. (4..6) [56]

57 την περύπτωςη όπου l τότε η χϋςη (4..5) γύνεται * P( y yr / x) ( ) B z m,,,, A F A z m x M C F C z m x ( zm) ( ) όπου * * A S( x) k c M x y C S( x) k x y. (4..7) Παρακϊτω δύνουμε ϋνα αριθμητικό παρϊδειγμα για να κατανοόςουμε τα αποτελϋςματα τησ Ενότητασ 4... Παρϊδειγμα 4.. Δύνονται οι παρϊμετροι k, z 3, c 4, M. ε τυχαύο δεύγμα παρατηρόςεων που ακολουθούν την διπαραμετρικό εκθετικό κατανομό με 5, το διακεκομμϋνο δεύγμα των διατεταγμϋνων παρατηρόςεων εύναι X6,..., X5 οι τιμϋσ των οπούων εύναι, Φρηςιμοποιώντασ τα δεδομϋνα τησ χϋςησ (4..6) με.5 οι L Ylg, et l. (5) βρόκαν ότι το κατώτερο και ανώτερο όριο εμπιςτοςύνησ, κατϊ Byes πρόβλεψησ, με ςυντελεςτό εμπιςτοςύνησ 95%, τησ τιμόσ τησ εύναι X και αντύςτοιχα. Επύςησ, χρηςιμοποιώντασ τα δεδομϋνα ςτην χϋςη (4..7), το κατώτερο και ανώτερο όριο εμπιςτοςύνησ, κατϊ Byes πρόβλεψησ, με ςυντελεςτό εμπιςτοςύνησ 95%, τησ τιμόσ τησ εύναι X και αντύςτοιχα. [57]

58 Βιβλιογραφύα [] N. Blkrsh, R. A. Sdhu (996). Best Ler Used d Mxmum Lkelhood Estmto for Expoetl Dstrutos uder Geerl Progressve Type- II Cesored, Skhyā: The Id Jourl of Sttstcs, Seres B Smples, 58(), -9. [] Dvd, H. A., (98). Order Sttstcs, d Edto, New York, Wley. [3] Adulzz Elfess, (997). Estmto of ler fucto of the prmeters of expoetl dstruto from douly cesored smples, Sttstcs & Prolty Letters,36(3) [4] Bejm Epste, (956). Smple estmtors of the prmeters of expoetl dstrutos whe smples re cesored, 8(), 5-6. [5] Bejm Epste, Mlto Soel, (953). Lfe Testg, Jourl of the Amerc Sttstcl Assocto, 48(63), [6] B. Epste, M. Soel (954). Some Theorems Relevt to Lfe Testg from Expoetl Dstruto, The Als of Mthemtcl Sttstcs, 5(), [7] Arturo J. Ferádez, José I. Brvo d Íñgo De Fuetes, (). Computg mxmum lkelhood estmtes from type II douly cesored expoetl dt, Sttstcl Methods & Applctos, (), 87-. [8] N.S. Kmo, (978). Mxmum lkelhood estmtors of the locto d scle prmeters of the expoetl dstruto from cesored smple, Commuctos Sttstcs - Theory d Methods,7(), 9-3. [9] C. Ste (964). Idmsslty of the usul estmtor for the vrce of orml dstruto wth ukow me. Als of the Isttute of Sttstcl Mthemtcs, 6(), [] M. L. Tku (967). A Note o Estmtg the Locto d Scle Prmeters of the Expoetl Dstruto from Cesored Smple, Austrl & New Zeld Jourl of Sttstcs, 9(), [] Ylg L, Xum Zho d Wex Xe, (5). Byes predcto for the two-prmeter expoetl dstruto sed o type II douly cesorg, Appled Mthemtcs - A Jourl of Chese Uverstes, (), [58]