ΕΚΤΙΜΗΣΗ ΤΩΝ ΠΑΡΑΜΕΤΡΩΝ ΣΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΤΡΙΠΑΡΑΜΕΤΡΙΚΗΣ ΓΑΜΜΑ ΚΑΤΑΝΟΜΗΣ

Transcript

1 Αντρουλα. ηµητριου ΕΚΤΙΜΗΣΗ ΤΩΝ ΠΑΡΑΜΕΤΡΩΝ ΣΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΤΡΙΠΑΡΑΜΕΤΡΙΚΗΣ ΓΑΜΜΑ ΚΑΤΑΝΟΜΗΣ Μεταπτυχιακη ιπλωµατικη Εργασια Επιβλέπων : Πετρόπουλος Κωνσταντίνος Επίκουρος Καθηγητής Τµήµα Μαθηµατικών, Πανεπιστήµιο Πατρών ΠΑΝΕΠΙΣΤΗΜΙΟ ΠΑΤΡΩΝ ΣΧΟΛΗ ΘΕΤΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ιατµηµατικο Προγραµµα Μεταπτυχιακων Σπουδων Μαθηµατικα των Υπολογιστων και των Αποφασεων ΙΟΥΛΙΟΣ 2016, ΠΑΤΡΑ

2

3 Αντρουλα. ηµητριου ΕΚΤΙΜΗΣΗ ΤΩΝ ΠΑΡΑΜΕΤΡΩΝ ΣΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΤΡΙΠΑΡΑΜΕΤΡΙΚΗΣ ΓΑΜΜΑ ΚΑΤΑΝΟΜΗΣ Μεταπτυχιακη ιπλωµατικη Εργασια Εγκρίθηκε από την τριµελή εξεταστική επιτροπή την 7η Ιουλίου Σ. Κουρούκλης Κ. Πετρόπουλος Ν. Τσάντας Καθηγητής Επίκουρος Καθηγητής Καθηγητής Τµήµα Μαθηµατικών Τµήµα Μαθηµατικών Τµήµα Μαθηµατικών Πανεπιστήµιο Πατρών Πανεπιστήµιο Πατρών Πανεπιστήµιο Πατρών ΠΑΝΕΠΙΣΤΗΜΙΟ ΠΑΤΡΩΝ ΣΧΟΛΗ ΘΕΤΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ιατµηµατικο Προγραµµα Μεταπτυχιακων Σπουδων Μαθηµατικα των Υπολογιστων και των Αποφασεων ΙΟΥΛΙΟΣ 2016, ΠΑΤΡΑ

4 Πανεπιστήµιο Πατρών, Τµήµα Μαθηµατικών Αντρούλα. ηµητρίου Με την επιφύλαξη παντός δικαιώµατος.

5 Περίληψη Η παρούσα µεταπτυχιακή διατριβή εντάσσεται στην περιοχή της Στατιστικής Θεωρίας Α- ποφάσεων και ειδικότερα στην (σηµειακή) εκτίµηση των παραµέτρων µορφής, κλίµακας και ϑέσης στο µοντέλο της τριπαραµετρικής Γάµµα κατανοµής ή αλλιώς Pearson Τύπου ΙΙΙ. Είναι µία κατανοµή µε ϑετική ασυµµετρία (λοξότητα), η οποία χρησιµοποιείται ευρέως και παίζει σηµαντικό ϱόλο στη ϑεωρία αξιοπιστίας καθώς και σε µελέτες διάρκειας Ϲωής και χρόνων αντίδρασης. Το µοντέλο της τριπαραµετρικής Γάµµα κατανοµής αναλύεται ως εξής, έστω X µία τυχαία µεταβλητή η οποία ακολουθεί την κατανοµή G(α, ϐ, γ), τότε η συνάρτηση πυκνότητας πιθανότητας της είναι, f (x; α, ϐ, γ) = { 1 Γ(α)ϐ (x α γ)α 1 exp x γ } ϐ, x > γ όπου α (α > 0) είναι η παράµετρος µορφής, ϐ (ϐ > 0) είναι η παράµετρος κλίµακας, γ ( < γ < ) η παράµετρος ϑέσης και Γ( ) η γάµµα συνάρτηση. Αντικείµενο της µεταπτυχιακής διατριβής είναι η µελέτη του µοντέλου και των ιδιοτήτων του, καθώς και του προβλήµατος εκτίµησης των παραµέτρων του µοντέλου της τριπαραµετρικής Γάµµα κατανοµής, τις οποίες αναφέραµε προηγουµένως. Στο Κεφάλαιο 1, παρατίθενται κάποιοι ϐασικοί ορισµοί και ϑεωρήµατα και παρουσιάζονται, για λόγους πληρότητας, ορισµένα σχετικά αποτελέσµατα. i

6 Στο Κεφάλαιο 2, παρατίθεται το µοντέλο της τριπαραµετρικής Γάµµα κατανοµής, µελετώνται ιδιότητες σχετικές µε τη συνάρτηση πυκνότητας πιθανότητας και τις ϱοπές. Στη συνέχεια, αναφέρουµε τις επαρκείς και πλήρεις στατιστικές συναρτήσεις που προκύπτουν από ένα τυχαίο δείγµα παρατηρήσεων, το οποίο ακολουθεί την τριπαραµετρική Γάµµα κατανοµή, υπολογίζοντας επιπλέον και την αµεροληψία αυτών των στατιστικών συναρτήσεων. Στο Κεφάλαιο 3, µελετάµε διαφορετικές µεθόδους εκτίµησης των παραµέτρων της τριπαραµετρικής Γάµµα κατανοµής. Συγκεκριµένα αναφερόµαστε στη Μέθοδο Μέγιστης Πιθανοφάνειας (Maximum Likelihood Estimation), στη Μέθοδο Ροπών (Moment Estimation ) και στη Μέθοδο Τροποποιηµένων Ροπών (Modified Moment Estimation). Ακόµη, υπολογίζουµε τον πίνακα διασπορών - συνδιασπορών των εκτιµητών µέγιστης πιθανοφάνειας, συγκρίνοντας τους εκτιµητές µέγιστης πιθανοφάνειας µε τους εκτιµητές µεθόδου ϱοπών. Στο Κεφάλαιο 4, µελετάµε τη Μέθοδο Πρόβλεψης - ιόρθωσης (Predict - Corrector Method), η οποία είναι µια διαφοροποιηµένη Μέθοδος Μέγιστης Πιθανοφάνειας. Η µέ- ϑοδος αυτή υιοθετεί ένα αναπαραµετρικοποιηµένο µοντέλο της τριπαραµετρικής Γάµµα κατανοµής και ακολουθώντας ένα επαναληπτικό σχήµα εντοπίζει τους εκτιµητές µέγιστης πιθανοφάνειας. Στη συνέχεια, παραθέτουµε κάποια υπολογιστικά αποτελέσµατα από τη ϐιβλιογραφία, µετά την εφαρµογή της µεθόδου. Στο Κεφάλαιο 5, παρουσιάζουµε µια Μέθοδο Μέγιστης Πιθανοφάνειας, η οποία ϐασίζεται σε στατιστικές συναρτήσεις µε κατανοµή ανεξάρτητη των παραµέτρων ϑέσης και κλίµακας, γνωστή και ως Location and Scale Parameters Free Maximum Likelihood Method (LSPF). Ακολούθως, παραθέτουµε µια πρόσφατη µέθοδο εκτίµησης, τη λεγόµενη Location Parameter Free Maximum Likelihood Method (LPF), η οποία στηρίζεται σε στατιστικές συναρτήσεις µε κατανοµή ανεξάρτητη από την παράµετρο ϑέσης, και ϕαίνεται να ii

7 είναι ισοδύναµη µε τη Μέθοδο Μέγιστης Πιθανοφάνειας µε ϐάση τη διάταξη, (Maximum Likelihood Method based on spacing). Α. ηµητρίου, Πάτρα iii

8 Λέξεις - Κλειδιά Τριπαραµετρική Γάµµα κατανοµή, Εκτιµητές Μέγιστης Πιθανοφάνειας, Εκτιµητές Μεθόδου Ροπών, Τροποποιηµένοι Εκτιµητές Μεθόδου Ροπών, Μέθοδος Πρόβλεψης - ιόρθωσης, Εκτιµητές Μέγιστης Πιθανοφάνειας ελεύθεροι παραµέτρων, Μέθοδος LSPF, Μέθοδος LPF. iv

9 Abstract This thesis belongs to the Statistical Decision Theory and particularly the (point) estimation of the shape, scale and location parameters for the three - parameter Gamma distribution model. The three - parameter Gamma distribution is also well known as Pearson Type III distribution. It is a distribution with positive skewness, which is frequently employed as a model for life spans, reaction times, and related phenomena. If a random variable X has the three - parameter Gamma distribution, G(α, ϐ, γ), then its probability density function is given by, f (x; α, ϐ, γ) = { 1 Γ(α)ϐ (x α γ)α 1 exp x γ } ϐ, x > γ where α (α > 0) is the shape parameter, ϐ (ϐ > 0) is the scale parameter, γ ( < γ < ) is the location parameter and Γ( ) is the Gamma function. The subject of this thesis is the study of the model and its properties as well as the estimation problem for the parameters of the three - parameter Gamma distribution model, which we mentioned earlier. In Chapter 1, there are listed some basic definitions and theorems and are also presented some basic results, for completeness reasons. Chapter 2 outlines the model of the three - parameter Gamma distribution. We study some properties associated with the probability density function and moments. Then, we report on sufficient and complete statistical functions generated from a ranv

10 dom sample of observations, which has the three - parameter Gamma distribution, calculating additionally the bias of these statistical functions. In Chapter 3, we study different parameter estimation methods for the three - parameter Gamma distribution, specifically referring to the Maximum Likelihood Method, the Moment Method and the Modified Moment Method. Still, we calculate the variance - covariance matrix of the maximum likelihood estimators, comparing them with the moment estimators. In Chapter 4, we study the Predict - Corrector Method, which is a diversified Maximum Likelihood method. The proposed method adopts a reparametrized distribution function and following an iterative scheme identifies the maximum likelihood estimators. Then we present some computational results from the literature, after the application of the method. In Chapter 5, we present the Location and Scale Parameters Free Maximum Likelihood Method (LSPF) which is a Maximum Likelihood Method based on statistics that are not depending on location and scale parameters. Then we provide a recent estimation method, the so called Location Parameter Free Maximum Likelihood Method (LPF), which is based on statistics with distribution independent on the location parameter, and seems to be equivalent to the Maximum Likelihood Method based on spacing. A. Dimitriou, Patras vi

11 Keywords Three - parameter Gamma Distribution, Maximum Likelihood Estimators, Moment E- stimators, Modified Moment Estimators, Predict - Corrector Method, Location and Scale Parameters Free Maximum Likelihood Method (LSPF), Location Parameter Free Maximum Likelihood Method (LPF). vii

12 Κατάλογος Σχηµάτων 2.1 Η καµπύλη της κατανοµής για διάφορες τιµές των παραµέτρων Γραφική παράσταση του α 3 συναρτήσει των z 1 και n για την Γάµµα κατανοµή Συγκρίσεις ανάµεσα στα ˆσ(λ) και ˆγ(λ) σε σχέση µε τη διακύµανση του λ Τοπικά ακρότατα Πολλαπλά τοπικά ακρότατα Γραφική παράσταση του l V (α, ϐ; v 2,, v n ) ϐάσει των δεδοµένων από τον Πίνακα Γραφική παράσταση του l V (α, ϐ; v 2,, v n ) ϐάσει των δεδοµένων από τον Πίνακα viii

13 Κατάλογος Πινάκων 3.1 εδοµένα από τους Dumonceaux and Antle (1973) Εκτιµήσεις για το Παράδειγµα 1 (Γάµµα κατανοµή) εδοµένα από τον McCool (1974) Εκτιµήσεις για το Παράδειγµα 2 (Γάµµα κατανοµή) Μετασχηµατισµένα δεδοµένα (Dumonceaux and Antle (1973)) Εκτιµήσεις των α, ϐ και γ για το Παράδειγµα Μετασχηµατισµένα δεδοµένα (McCool (1974)) Εκτιµήσεις των α, ϐ και γ για το Παράδειγµα ix

14 Περιεχόµενα Περίληψη i Abstract v Κατάλογος Σχηµάτων viii Κατάλογος Πινάκων ix 1 Βασικοί Ορισµοί και Θεωρήµατα Γενικές Ιδιότητες Αµερόληπτοι Εκτιµητές ΑΟΕ εκτιµητές Επάρκεια Πληρότητα Συνέπεια Εκτίµηση µε την Μέθοδο Μεγίστης Πιθανοφάνειας Θεώρηµα Μετασχηµατισµού x

15 ΠΕΡΙΕΧΟΜΕΝΑ xi 2 Το µοντέλο της κατανοµής Συνάρτηση Πυκνότητας Πιθανότητας Βασικά Χαρακτηριστικά της κατανοµής Επάρκεια, Πληρότητα και Αµεροληψία Εκτίµηση Παραµέτρων Εκτιµητές Μέγιστης Πιθανοφάνειας Ασυµπτωτικός Πίνακας ιασπορών - Συνδιασπορών Εκτιµητές Μεθόδου Ροπών Τροποποιηµένοι Εκτιµητές Μεθόδου Ροπών ιπαραµετρική Εκθετική Κατανοµή Εκτιµητές Μέγιστης Πιθανοφάνειας Εκτιµητές Μεθόδου Ροπών Τροποποιηµένοι Εκτιµητές Μεθόδου Ροπών Σύγκριση Εκτιµητών Παράδειγµα Παράδειγµα Μέθοδος Πρόβλεψης - ιόρθωσης Εισαγωγή Το αναπαραµετρικοποιηµένο µοντέλο Μέθοδος Πρόβλεψης - ιόρθωσης Υπολογιστικά αποτελέσµατα

16 ΠΕΡΙΕΧΟΜΕΝΑ xii Παράδειγµα Πολλαπλά τοπικά µέγιστα (multiple local MLEs) Ε.Μ.Π. ελεύθερη παραµέτρων Εισαγωγή Μέθοδοι Εκτίµησης Μέθοδος LSPF Μέθοδος LPF Μέθοδος Μέγιστης Πιθανοφάνειας µε ϐάση τη διάταξη Σύγκριση Εκτιµητών Παράδειγµα Παράδειγµα Βιβλιογραφία 113 Αʹ Βασικά Θεωρήµατα 116

17 Κεφάλαιο 1 Βασικοί Ορισµοί και Θεωρήµατα Σε αυτό το κεφαλαίο ϑα αναφέρουµε κάποιους ϐασικούς ορισµούς και Θεωρήµατα, χωρίς τις αποδείξεις τους, οι οποίες εµπεριέχονται σε ϐιβλία Μαθηµατικής Στατιστικής (π.χ. Φερεντίνου). 1.1 Γενικές Ιδιότητες Ορισµός Εάν µια οικογένεια πυκνοτήτων πιθανότητας µε παράµετρο s είναι της µορφής f s (x) = f (x s)(1/s), όπου f είναι η συνάρτηση πυκνότητας πιθανότητας, τότε το s ονοµάζεται παράµετρος κλίµακας (scale parameter). Η τιµή της καθορίζει την κλίµακα της κατανοµής. Οσο µεγαλύτερη η τιµή του s τόσο η κατανοµή έχει πιο ϐαριές ουρές. Ορισµός Εάν µια οικογένεια πυκνοτήτων πιθανότητας µε παράµετρο µ είναι της µορφής f µ (x) = f (x µ), όπου f είναι η συνάρτηση πυκνότητας πιθανότητας, τότε το µ ονοµάζεται παράµετρος ϑέσης (location parameter). 1

18 ΚΕΦΑΛΑΙΟ 1. ΒΑΣΙΚΟΙ ΟΡΙΣΜΟΙ ΚΑΙ ΘΕΩΡΗΜΑΤΑ 2 Ορισµός Εστω X µια συνεχής τυχαία µεταβλητή. Αν υπάρχει h > 0 τέτοιο ώστε E(e tx ) < στην περιοχή t < h, τότε η ποσότητα αυτή ονοµάζεται ϱοπογεννήτρια της τυχαίας µεταβλητής X και συµβολίζεται M X (t). Αν η M X (t) υπάρχει, τότε, M X (t) = E(e tx ) = + e tx f (x) dx. Στην παρακάτω Πρόταση συνοψίζονται κάποιες γνωστές ιδιότητες των ϱοπογεννητριών συναρτήσεων. Πρόταση Εστω X µια τυχαία µεταβλητή ϱοπογεννήτρια M X (t), τότε, M αx+ϐ (t) = e ϐt M X (αt), α Αν X 1,, X n ανεξάρτητες τυχαίες µεταβλητές µε ϱοπογεννήτριες, αντίστοιχα, M Xi (t), i = 1, 2,, n, τότε, M X i (t) = n M Xi (t). Ακολουθούν ορισµοί σχετικά µε την έννοια των ϱοπών. Η έννοια της Ροπής προέρχεται από τη µηχανική και αναφέρεται στη µέτρηση της τάσης µιας δύναµης να παράγει περιστροφή. Ορισµός Εστω X µια συνεχής τυχαία µεταβλητή και r ένας ϑετικός αριθµός. Η ποσότητα E(X r ), αν υπάρχει, ονοµάζεται Ροπή r τάξης γύρω από το µηδέν ή Απλή Ροπή r τάξης της X και συµβολίζεται µε µ r. ηλαδή, έχουµε, E(X r ) = µ r = + x r f (x) dx.

19 ΚΕΦΑΛΑΙΟ 1. ΒΑΣΙΚΟΙ ΟΡΙΣΜΟΙ ΚΑΙ ΘΕΩΡΗΜΑΤΑ 3 Ορισµός Εστω X µια συνεχής τυχαία µεταβλητή και r ένας ϑετικός αριθµός. Η ποσότητα E[(X µ) r ], αν υπάρχει, ονοµάζεται Ροπή r τάξης γύρω από τη Μέση Τιµή ή Κεντρική Ροπή r τάξης της X και συµβολίζεται µε µ r. ηλαδή, έχουµε, E[(X µ) r ] = µ r = + (x µ) r f (x) dx. Πρόταση Οι Ροπές r τάξης γύρω από τη Μέση Τιµή συνδέονται µε τις Ροπές r τάξης γύρω από το µηδέν ως εξής, µ 2 = µ 2 (µ 1 )2 µ 3 = µ 3 3µ 2 µ 1 + 2(µ 1 )3 µ 4 = µ 4 4µ 3 µ 1 + 6µ 2 µ 1 3(µ 1 )4 Γενικός Τύπος : ( ) ( ) ( ) µ r = µ r r µ r r 1 1 µ 1 + µ 2 r 2(µ 1) r 2 + ( 1) r (µ r 1) r Ορισµός Εστω X µια συνεχής τυχαία µεταβλητή και k ένας ϑετικός αριθµός. Η [ X µ ] k, ποσότητα E αν υπάρχει, ονοµάζεται τυπική ή τυποποιηµένη ϱοπή k τάξης σ της X και συµβολίζεται µε α k. ηλαδή έχουµε : [ X µ ] k α k = E, k = 1, 2, 3, σ Παρατηρούµε ότι α 1 = 0 και α 2 = 1. Ιδιαίτερο όµως ενδιαφέρον παρουσιάζουν οι ϱοπές α 3 και α 4. α 3 Μέτρο ή συντελεστής λοξότητας (ασυµµετρίας) Αν η κατανοµή είναι συµµετρική τότε α 3 = 0. Αν α 3 > 0 τότε η καµπύλη είναι λοξή προς τα δεξιά, ενώ αν α 3 < 0 προς τα αριστερά.

20 ΚΕΦΑΛΑΙΟ 1. ΒΑΣΙΚΟΙ ΟΡΙΣΜΟΙ ΚΑΙ ΘΕΩΡΗΜΑΤΑ 4 α 4 Μέτρο ή συντελεστής κύρτωσης Μεγάλες τιµές του α 4 σηµαίνουν πολύ κυρτή καµπύλη. 1.2 Αµερόληπτοι Εκτιµητές Εστω ότι δίνονται δεδοµένα X = (X 1, X 2,..., X n ) µε από κοινού πυκνότητα πιθανότητας f X (x; θ), που εξαρτάται από µια άγνωστη παράµετρο θ, η οποία ανήκει σε κάποιο σύνολο Θ. Το θ λέγεται άγνωστη παράµετρος και το Θ καλείται παραµετρικός χώρος. Σκοπός µας είναι να εκτιµήσουµε µια συνάρτηση του θ, έστω g( ) : Θ R κ, κ > 1, η οποία ονοµάζεται παραµετρική συνάρτηση. Το τυχαίο διάνυσµα X αναφέρεται σαν δείγµα. Αν επιπλέον οι τυχαίες µεταβλητές X i, i = 1, 2,..., n είναι ανεξάρτητες και ισόνοµες, δηλαδή έχουν την ίδια κατανοµή, τότε το X αναφέρεται σαν τυχαίο δείγµα. Ορισµός Μια συνάρτηση µόνο του δείγµατος καλείται στατιστική συνάρτηση. Ορισµός Μια στατιστική συνάρτηση, έστω δ(x), που χρησιµοποιείται για την εκτί- µηση της τιµής της άγνωστης παραµέτρου θ, (ή γενικότερα για την εκτίµηση της παρα- µετρικής συνάρτησης g(θ), όπου g(.) : Θ R κ, κ > 1 ) αναφέρεται σαν εκτιµητής του θ. Ορισµός Ο εκτιµητής T = T(X ), ονοµάζεται αµερόληπτος εκτιµητής της παρα- µετρικής συνάρτησης g(θ),αν E θ (T(X )) = g(θ), θ Θ. Ενα από τα πιο συνηθισµένα κριτήρια επιλογής εκτιµητών είναι το Μέσο Τετραγωνικό Σφάλµα του εκτιµητή T(X ), συµβολικά MTΣ(T, θ) που ορίζεται παρακάτω. Ορισµός Το Μέσο Τετραγωνικό Σφάλµα του εκτιµητή T(X ),ορίζεται ως εξής,

21 ΚΕΦΑΛΑΙΟ 1. ΒΑΣΙΚΟΙ ΟΡΙΣΜΟΙ ΚΑΙ ΘΕΩΡΗΜΑΤΑ 5 MTΣ(T, θ) = E θ (T(X ) g(θ)) 2 Πρόταση MTΣ(T, θ) = Var θ (T(X )) + (E θ (T(X )) g(θ)) 2. Η ποσότητα b(t, θ) = E θ (T(X )) g(θ) καλείται µεροληψία ή συστηµατικό σφάλµα του εκτιµητή T για την ποσότητα g(θ),οπότε MTΣ(T, θ) = Var θ (T(X)) + b 2 (T, θ). Παρατήρηση Αν T είναι αµερόληπτος εκτιµητής της παραµετρικής συνάρτησης g(θ), τότε MTΣ(T, θ) = Var θ (T(X )). Ορισµός Ο εκτιµητής T 1 ονοµάζεται καλύτερος από τον T 2 ( ως προς το Μέσο Τετραγωνικό Σφάλµα ) για την g(θ), αν, MTΣ(T 1, θ) MTΣ(T 2, θ), θ Θ και επιπλέον MTΣ(T 1, θ 0 ) < MTΣ(T 2, θ 0 ), για κάποιο θ 0 Θ. Ορισµός Εάν ο εκτιµητής T 1 είναι καλύτερος από τον T 2 (ως προς το Μέσο Τετραγωνικό Σφάλµα) για την g(θ),τότε ο T 2 λέγεται µη αποδεκτός για την εκτίµηση της παραµετρικής συνάρτησης g(θ). Ορισµός Ο T ονοµάζεται ϐέλτιστος εκτιµητής (ως προς το Μέσο Τετραγωνικό Σφάλµα)για την g(θ),αν είναι καλύτερος από κάθε άλλο εκτιµητή της παραµετρικής συνάρτησης g(θ). Οι ακόλουθες Προτάσεις δίνουν τους αµερόληπτους εκτιµητές τόσο για την µέση τιµή, όσο για τη διασπορά µιας κατανοµής, όταν το δείγµα µας είναι τυχαίο.

22 ΚΕΦΑΛΑΙΟ 1. ΒΑΣΙΚΟΙ ΟΡΙΣΜΟΙ ΚΑΙ ΘΕΩΡΗΜΑΤΑ 6 Πρόταση Εστω X 1, X 2,..., X n είναι ένα τυχαίο δείγµα από µια κατανοµή µε πυκνότητα πιθανότητας f 1 (x, θ), θ Θ και g(θ) = µ, η µέση τιµή της κατανοµής, τότε ο δειγµατικός µέσος X = 1 X i, είναι αµερόληπτος εκτιµητής του µ. n Πρόταση Εστω X 1, X 2,..., X n είναι ένα τυχαίο δείγµα από µια κατανοµή µε πυκνότητα πιθανότητας f 1 (x, θ), θ Θ και g(θ) = σ 2 η διασπορά της κατανοµής, τότε η δειγµατική διασπορά S 2 = 1 (X i X) 2 είναι αµερόληπτος εκτιµητής του σ 2. n ΑΟΕ εκτιµητές Επειδή είναι δεν µπορούµε να ϐρούµε τον ϐέλτιστο εκτιµητή στην κλάση όλων των εκτι- µητών, περιοριζόµαστε σε αυτή των αµερόληπτων εκτιµητών. Ορισµός Η στατιστική συνάρτηση T = T(X ) ονοµάζεται Αµερόληπτος Εκτιµητής Ελάχιστης ιασποράς (ΑΟΕ ) για το g(θ) εάν, 1. Τ αµερόληπτος, δηλαδή E θ (T) = g(θ), θ Θ. 2. Var θ (T) Var θ (T 1 ), θ Θ και για κάθε άλλο αµερόληπτο εκτιµητή T 1 του g(θ). Ορισµός Η ποσότητα I x (θ) = E [ lnf (x;θ) θ ] 2, λέγεται µέτρο πληροφορίας του Fisher που περιέχεται στο X για την παράµετρο θ. Αν το θ είναι διάστασης k, δηλαδή θ = (θ 1,, θ k ), τότε η αντίστοιχη ποσότητα λέγεται πίνακας πληροφορίας του Fisher και ορίζεται ως, ( I x (θ) = E [ ]) lnf (x; θ) lnf (x; θ), θ i θ j k k όπου ( ) k k συµβολίζει ένα k k πίνακα.

23 ΚΕΦΑΛΑΙΟ 1. ΒΑΣΙΚΟΙ ΟΡΙΣΜΟΙ ΚΑΙ ΘΕΩΡΗΜΑΤΑ 7 Από τα παραπάνω, ϕαίνεται ότι για να ϐρούµε ΑΟΕ εκτιµητή πρέπει να ελαττώσουµε όσον το δυνατόν περισσότερο τη διασπορά µίας στατιστικής συνάρτησης σε σχέση µε την προς εκτίµηση ποσότητα, δηλαδή είναι επιθυµητό να ϐρούµε ένα κάτω ϕράγµα για τη διασπορά των αµερόληπτων εκτιµητών αυτής της ποσότητας. Αυτό το κάτω ϕράγµα µας προσφέρει το Θεώρηµα Cramer - Rao το οποίο ισχύει όταν επαληθεύονται οι παρακάτω συνθήκες : (Ι1) Ο παραµετρικός χώρος Θ είναι ανοικτό υποσύνολο του R. (Ι2) Το σύνολο S = {x ; f X (x ; θ)} δεν εξαρτάται από το θ. (Ι3) (Ι4) θ f X(x; θ)dx = f X (x; θ)dx, θ Θ. θ R n R n R n T(x) θ f X(x; θ)dx = θ T(X ). R n T(x )f X (x ; θ)dx, θ Θ και κάθε στατιστική συνάρτηση (Ι5) Αν I(θ) = E θ ( θ ln f X (x ; θ)) 2, τότε 0 < I(θ) <, θ Θ. Η ποσότητα I(θ) ονοµάζεται αριθµός ή µέτρο πληροφορίας Fisher. Θεώρηµα (Θεώρηµα Cramer - Rao) Εστω X = (X 1, X 2,..., X n ) ένα δείγµα µε από κοινού πυκνότητα πιθανότητας f X (x; θ), θ Θ. Εάν T(X) είναι στατιστική συνάρτηση µε E θ (T(X)) = g(θ), θ Θ και ισχύουν οι συνθήκες (Ι1) - (Ι5), τότε Var θ (T(X)) (g (θ)) 2, θ Θ. I(θ) Το κάτω ϕράγµα για την διασπορά των αµερόληπτων εκτιµητών του g(θ) ονοµάζεται Cramer - Rao Φράγµα (C.R. - Κ.Φ.) ενώ για τον υπολογισµό του αριθµού πληροφορίας Fisher χρησιµοποιούµε συνήθως κάποιες ϐοηθητικές ιδιότητες. Ιδιότητες

24 ΚΕΦΑΛΑΙΟ 1. ΒΑΣΙΚΟΙ ΟΡΙΣΜΟΙ ΚΑΙ ΘΕΩΡΗΜΑΤΑ 8 ( ) I(θ) = E θ θ ln f 2 X(x; θ), θ Θ. 2. Αν το δείγµα X = (X 1, X 2,..., X n ) αποτελείται από ανεξάρτητες τυχαίες µεταβλητές, όπου κάθε µια από τις X i ακολουθεί µία κατανοµή µε πυκνότητα πιθανότητας, f Xi (x i ; θ), i = 1, 2,..., n, τότε όπου I i (θ) = E θ ( θ ln f X i (x i ; θ)) 2. I(θ) = I i (θ) 3. Αν το δείγµα X = (X 1,..., X n ) είναι τυχαίο, τότε I(θ) = ni 1 (θ) όπου I 1 (θ) είναι ο αριθµός πληροφορίας Fisher για κάθε µία από τις X 1, X 2,..., X n. Η δυσκολία του Θεωρήµατος Cramer - Rao ϐρίσκεται στη επαλήθευση των συνθηκών (Ι1) - (Ι5), η οποία άρεται όταν η οικογένεια του τυχαίου διανύσµατος X ανήκει στην Μονοπαραµετρική Εκθετική Οικογένεια Κατανοµών (ΜΕΟΚ). Ορισµός Η οικογένεια κατανοµών {f X (x ; θ), θ Θ} ανήκει στην Μονοπαραµετρική Εκθετική Οικογένεια Κατανοµών (ΜΕΟΚ) αν, 1. Το σύνολο S = {x; f X (x ; θ) > 0} δεν εξαρτάται από το Θ. 2. f X (x ; θ) = e A(θ)+B(x )+c(θ)d(x ), x S, θ Θ. Θεώρηµα Αν το δείγµα X = (X 1, X 2,..., X n ) έχει κατανοµή µε πυκνότητα πιθανότητας f X (x; θ) η οποία ανήκει στην ΜΕΟΚ και η c(θ) (που εµφανίζεται στον τύπο της f X (x; θ)) έχει κατανοµή και µη µηδενική παράγωγο θ Θ, τότε οι συνθήκες (Ι2), (Ι3) και (Ι4) του Θεωρήµατος Cramer - Rao ισχύουν και η (Ι4) ισχύει για κάθε στατιστική συνάρτηση T = T(X).

25 ΚΕΦΑΛΑΙΟ 1. ΒΑΣΙΚΟΙ ΟΡΙΣΜΟΙ ΚΑΙ ΘΕΩΡΗΜΑΤΑ 9 Η παρακάτω Πρόταση δίνει, ουσιαστικά, έναν τρόπο εύρεσης του ΑΟΕ εκτιµητή για µια παραµετρική συνάρτηση g(θ) και γραµµικούς συνδυασµούς αυτής. Πρόταση Αν το δείγµα X = (X 1, X 2,..., X n ) έχει κατανοµή µε πυκνότητα πιθανότητας f X (x; θ), η οποία ανήκει στην ΜΕΟΚ (f X (x ; θ) = e A(θ)+B(x )+c(θ)d(x ) ) και ισχύουν, α. Το σύνολο Θ είναι ανοικτό υποσύνολο του R. ϐ. Το c(θ) έχει συνεχή και µη µηδενική κατανοµή θ Θ. γ. 0 < I(θ) <. Τότε, 1. Η στατιστική συνάρτηση D(X ) είναι ΑΟΕ εκτιµητής της g(θ) = E θ (D(X )). 2. Η στατιστική συνάρτηση c 1 D(X ) + c 2 µε c 1, c 2 σταθερές c 1 0 είναι ΑΟΕ εκτιµητής της c 1 g(θ) + c 2. Ισχύει όµως και η εξής Πρόταση. Πρόταση Εστω ότι ισχύουν οι συνθήκες (Ι1), (Ι2), (Ι3) και (Ι5) του Θεωρήµατος Cramer-Rao και η (Ι4) ισχύει για κάποια στατιστική συνάρτηση T(X ), αµερόληπτο εκτι- µητή του g(θ). Εστω, ακόµα, η παραµετρική συνάρτηση g(θ) είναι µη σταθερά (σαν συνάρτηση του θ) και η T(X ) επιτυγχάνει το C.R. - Κ.Φ., δηλαδή Var θ (T(X)) = g (θ)) 2, θ Θ I(θ) Τότε, f X (x ; θ) = e A(θ)+B(x )+c(θ)t(x ), x S, θ Θ, δηλαδή η κατανοµή του δείγµατος X ανήκει στην ΜΕΟΚ.

26 ΚΕΦΑΛΑΙΟ 1. ΒΑΣΙΚΟΙ ΟΡΙΣΜΟΙ ΚΑΙ ΘΕΩΡΗΜΑΤΑ 10 Παρατήρηση Οι Προτάσεις και συνεπάγονται το γεγονός ότι η εύρεση του εκτιµητή για κάποια παραµετρική συνάρτηση g(θ) είναι δυνατή µε τη χρήση του Θεωρήµατος Cramer-Rao αν και µόνο αν η κατανοµή του δείγµατος X = (X 1, X 2,..., X n ) ανήκει στην ΜΕΟΚ και η g(θ) έχει µια συγκεκριµένη µορφή g(θ) = E θ (D(X)) ή κάποιος γραµµικός µετασχηµατισµός της E θ (D(X)). Οπως γίνεται εύκολα αντιληπτό από την παραπάνω Παρατήρηση η µέθοδος εύρεσης ΑΟΕ εκτιµητή µε χρήση του Θεωρήµατος Cramer-Rao (Θεώρηµα 1.3.1) µας περιορίζει τόσο ως προς την οικογένεια του δείγµατος, όσο και ως προς την µορφή των παραµετρικών συναρτήσεων για τις οποίες ϐρίσκουµε ΑΟΕ εκτιµητές, οπότε χρειάζεται µια διαφορετική µέθοδος από την προηγούµενη η οποία να µην έχει αυτού του είδους τα προβλήµατα. Αρχικά, εισάγουµε δύο έννοιες (Επάρκεια και Πληρότητα) προς αυτήν την κατεύθυνση. 1.4 Επάρκεια Ορισµός Εστω το δείγµα X = (X 1, X 2,..., X n ) έχει κατανοµή µε πυκνότητα πι- ϑανότητας f X (x ; θ), θ Θ τότε η στατιστική συνάρτηση T(X ) ονοµάζεται επαρκής αν η δεσµευµένη κατανοµή του X δεν εξαρτάται από το θ για κάθε τιµή t για την οποία µπορεί να οριστεί η δεσµευµένη κατανοµή. Ενας τρόπος εύρεσης µιας επαρκούς στατιστικής συνάρτησης, εκτός του ορισµού, δίνεται από την παρακάτω πρόταση, η οποία αναφέρεται και ως παραγοντικό κριτήριο των Neyman - Fisher. Θεώρηµα (Παραγοντικό κριτήριο των Neyman-Fisher). Η στατιστική συνάρτηση T(X ) είναι επαρκής αν και µόνο αν f X (x ; θ) = q(t(x ); θ)h(x ), x και θ Θ, όπου q και h είναι συναρτήσεις.

27 ΚΕΦΑΛΑΙΟ 1. ΒΑΣΙΚΟΙ ΟΡΙΣΜΟΙ ΚΑΙ ΘΕΩΡΗΜΑΤΑ 11 Παρατήρηση Ισχύουν οι παρακάτω ιδιότητες για τις επαρκείς στατιστικές συναρτήσεις. 1. Το δείγµα X = (X 1,..., X n ) είναι τετριµµένα επαρκής στατιστική συνάρτηση. 2. Η στατιστική συνάρτηση T(X ) = (X (1),..., X (n) ) είναι επαρκής, όπου οι X (i), i = 1,..., n είναι οι διατεταγµένες παρατηρήσεις. 3. Εστω T 1 = T 1 (X ) επαρκής στατιστική συνάρτηση και T 2 = K(T 1 (X )), όπου K( ) είναι 1-1 συνάρτηση, τότε η στατιστική συνάρτηση T 2 (X ) είναι επαρκής. Συνήθως, όταν µιλάµε για επαρκή στατιστική συνάρτηση αναφερόµαστε στην ελάχιστη επαρκή. Ορισµός Ελάχιστη επαρκής στατιστική συνάρτηση είναι µια επαρκής στατιστική συνάρτηση η οποία προέρχεται από την µεγαλύτερη δυνατή σύµπτηξη (δηλαδή έχει την µικρότερη δυνατή διάσταση). Παρατήρηση Σχεδόν πάντα, η διάσταση της παραµετρικής συνάρτησης g(θ) συ- µπίπτει µε την διάσταση της ελάχιστης επαρκούς στατιστικής συνάρτησης. µητών. Στο παρακάτω Θεώρηµα χρησιµοποιείται η έννοια της επάρκειας στη ϐελτίωση εκτι- Θεώρηµα (Rao-Blackwell) Εστω T = T(X ) είναι µια επαρκής στατιστική συνάρτηση και S = S(X ) είναι εκτιµητής της παραµετρικής συνάρτησης g(θ). Θέτουµε S = E θ (S T). Τότε, 1. Η S είναι στατιστική συνάρτηση. 2. E θ (S ) = E θ (S), θ Θ,έτσι αν S είναι αµερόληπτος εκτιµητής για την g(θ),τότε S είναι αµερόληπτος εκτιµητής για την g(θ).

28 ΚΕΦΑΛΑΙΟ 1. ΒΑΣΙΚΟΙ ΟΡΙΣΜΟΙ ΚΑΙ ΘΕΩΡΗΜΑΤΑ Var θ (S ) Var θ (S), θ Θ και ισχύει αυστηρή ανισότητα, εκτός εάν S είναι συνάρτηση της στατιστικής συνάρτησης T, οπότε S = S. 4. ΜΤΣ(S, θ) ΜΤΣ(S, θ), θ Θ και ισχύει αυστηρή ανισότητα εκτός εάν S είναι συνάρτηση της στατιστικής συνάρτησης T, οπότε S = S. Εποµένως, αν S είναι ένας εκτιµητής της g(θ) ο οποίος δεν είναι συνάρτηση της ε- παρκούς στατιστικής συνάρτησης T, τότε ο S είναι µη αποδεκτός και ϐελτιώνεται από τον S = E θ (S T) που ονοµάζεται ϐελτίωση του S κατά Rao - Blackwell ή Rao - Blackwell ϐελτίωση του S. Παρατήρηση Εστω T 1 και T 2 είναι επαρκείς στατιστικές συναρτήσεις και S είναι αµερόληπτος εκτιµητής της g(θ). Τότε S 1 = E θ(s T 1 ) είναι η Rao - Blackwell ϐελτίωση του S µέσω της T 1 και S 2 = E θ(s T 2 ) είναι η η Rao - Blackwell ϐελτίωση του S, µέσω της T 2. Οµως, µέσω του Θεωρήµατος δεν µπορούµε να συγκρίνουµε αυτές τις δύο ϐελτιώσεις. Η έννοια της πληρότητας ϑα ϐοηθήσει σε αυτή τη σύγκριση. 1.5 Πληρότητα Ορισµός Η στατιστική συνάρτηση T = T(X ) ονοµάζεται πλήρης, αν ισχύει η ακόλουθη σχέση, E θ (φ(t)) = 0, θ Θ φ(t) = 0 για κάθε δυνατή τιµή t της T, δηλαδή φ(t) = 0. Θεώρηµα (Lehmann-Scheffé) Εστω T = T(X ) είναι επαρκής και πλήρης στατιστική συνάρτηση και S είναι ένας αµερόληπτος εκτιµητής της g(θ).τότε S = E θ (S T) είναι µοναδικός ΑΟΕ εκτιµητής της g(θ).

29 ΚΕΦΑΛΑΙΟ 1. ΒΑΣΙΚΟΙ ΟΡΙΣΜΟΙ ΚΑΙ ΘΕΩΡΗΜΑΤΑ 13 Άρα µε τη ϐοήθεια του Θεωρήµατος των Lehmann - Scheffé µπορούµε να ϐρούµε ΑΟΕ εκτιµητή µε την χρήση επαρκούς και πλήρους στατιστικής συνάρτησης και µάλιστα, αν υπάρχει αυτός ο ΑΟΕ εκτιµητής, είναι και µοναδικός. Πόρισµα (Lehmann-Scheffé) Εστω T = T(X ) είναι επαρκής και πλήρης στατιστική συνάρτηση και S είναι ένας αµερόληπτος εκτιµητής της g(θ), ο οποίος είναι συνάρτηση της επαρκούς και πλήρους T. Τότε S είναι µοναδικός ΑΟΕ εκτιµητής της g(θ). Οπως καταλαβαίνουµε, σε αυτή την µεθοδολογία είναι σηµαντική η εύρεση µιας ε- παρκούς και πλήρους στατιστικής συνάρτησης και µέσω του ορισµού δεν είναι πάντα εύκολο,αλλά αν η κατανοµή του δείγµατος X ανήκει στην Πολυπαραµετρική Εκθετική Οικογένεια Κατανοµών (ΠΕΟΚ) τα πράγµατα απλοποιούνται. Ορισµός Η οικογένεια κατανοµών {f X (x ; θ), θ Θ} ανήκει στην Πολυπαραµετρική Εκθετική Οικογένεια Κατανοµών (ΠΕΟΚ), διάστασης k, αν 1. Το σύνολο S = {x ; f X (x ; θ) > 0} δεν εξαρτάται από το θ. 2. f X (x ; θ) = e A(θ)+B(x )+ k j=1 c j D j (x ), x S, θ Θ. Παρατήρηση Η ΠΕΟΚ διάστασης 1 συµπίπτει µε την ΜΕΟΚ. Πρόταση Εστω ότι το δείγµα X = (X 1, X 2,..., X n ) έχει κατανοµή η οποία ανήκει στην ΠΕΟΚ διάστασης k, τότε ισχύουν τα εξής, 1. Η στατιστική συνάρτηση T(X ) = (D 1 (X ), D 2 (X ),..., D k (X )) είναι επαρκής. 2. Αν το πεδίο τιµών του διανύσµατος (c 1 (θ), c 2 (θ),..., c k (θ)) περιέχει ένα ανοικτό υποσύνολο του R k, τότε η T(X ) είναι πλήρης.

30 ΚΕΦΑΛΑΙΟ 1. ΒΑΣΙΚΟΙ ΟΡΙΣΜΟΙ ΚΑΙ ΘΕΩΡΗΜΑΤΑ 14 Το παρακάτω Θεώρηµα, γνωστό και ως Θεώρηµα Basu, πιστοποιεί και µια άλλη χρήση της επάρκειας και της πληρότητας, αυτής της απόδειξης ανεξαρτησίας µεταξύ στατιστικών συναρτήσεων (δηλαδή τυχαίων µεταβλητών). Θεώρηµα (Basu) Εστω T(X ) επαρκής και πλήρης στατιστική συνάρτηση και S(X ) είναι µία στατιστική συνάρτηση, η κατανοµή της οποίας δεν εξαρτάται από το θ, τότε οι στατιστικές συναρτήσεις T(X ) και S(X ) είναι ανεξάρτητες. 1.6 Συνέπεια Ορισµός Εστω T n = T(X 1, X 2,..., X n ), n = 1, 2,... ένας εκτιµητής της παραµετρικής συνάρτησης g(θ). Τότε ο εκτιµητής T n ονοµάζεται συνεπής αν lim n P( T n g(θ) > ε) = 0, ε > 0. Η παρακάτω Πρόταση δίνει ικανές συνθήκες έτσι ώστε ένας εκτιµητής για την g(θ) να είναι συνεπής. Πρόταση Εστω ότι ο εκτιµητής T n ικανοποιεί τις παρακάτω συνθήκες, 1. Var θ T n 0, n + 2. b(t n, θ) = E θ T n g(θ) 0, n + Τότε ο T n είναι συνεπής εκτιµητής της παραµετρικής συνάρτησης g(θ). 1.7 Εκτίµηση µε την Μέθοδο Μεγίστης Πιθανοφάνειας Ορισµός Θεωρούµε ότι το δείγµα X = (X 1, X 2,..., X n ) έχει συνάρτηση πυκνότητας πιθανότητας f X (x ; θ), θ Θ, τότε η συνάρτηση πιθανοφάνειας (ή απλά πιθανοφάνεια)

31 ΚΕΦΑΛΑΙΟ 1. ΒΑΣΙΚΟΙ ΟΡΙΣΜΟΙ ΚΑΙ ΘΕΩΡΗΜΑΤΑ 15 του θ ορίζεται από τη σχέση, L(θ) = L(θ x ) = f X (x ; θ). Αναφέρουµε παρακάτω τον ορισµό του Εκτιµητή Μεγίστης Πιθανοφάνειας (Ε.Μ.Π.). Ορισµός Ο εκτιµητής ˆθ = ˆθ(X ), που ικανοποιεί τη σχέση L(ˆθ) = sup L(θ) θ Θ ονοµάζεται Εκτιµητής Μεγίστης Πιθανοφάνειας(Ε.Μ.Π.) του θ. Παρατήρηση Από τον προηγούµενο ορισµό ϕαίνεται ότι ο Ε.Μ.Π. του θ είναι εκείνη η τιµή του θ, η οποία µεγιστοποιεί τη συνάρτηση πιθανοφάνειας. Επειδή η συνάρτηση ln x είναι γνησίως αύξουσα συνάρτηση του x, η τιµή του θ που µεγιστοποιεί την L(θ) είναι η ίδια µε αυτήν που µεγιστοποιεί την ln L(θ). Συνήθως ακολουθούµε αυτήν την διαδικασία όταν το µέγιστο µπορεί να ϐρεθεί µε παραγώγιση. Παρατήρηση Η µέθοδος µεγίστης πιθανοφάνειας ισχύει και για το διάνυσµα θ = (θ 1, θ 2,..., θ k ). 2. Είναι δυνατόν ο εκτιµητής ˆθ να µην µπορεί να ϐρεθεί σε αναλυτική µορφή, τότε η τιµή του θ για την οποία επιτυγχάνεται η µεγιστοποίηση της L(θ) ϐρίσκεται µε µεθόδους αριθµητικής ανάλυσης. 3. Ορισµένες ϕορές υπάρχουν παθολογικές καταστάσεις µε την έννοια ότι είτε δεν υπάρχει τιµή του θ η οποία να µεγιστοποιεί τη συνάρτηση πιθανοφάνειας, είτε υπάρχουν περισσότερα µέγιστα για την L(θ) και συνεπώς περισσότεροι του ενός Ε.Μ.Π. Παρατήρηση Σε αυτό το σηµείο αναφέρουµε κάποιες γενικές ιδιότητες των Ε.Μ.Π.

32 ΚΕΦΑΛΑΙΟ 1. ΒΑΣΙΚΟΙ ΟΡΙΣΜΟΙ ΚΑΙ ΘΕΩΡΗΜΑΤΑ Από τον Ορισµό προκύπτει ότι ο Ε.Μ.Π (αν υπάρχει) παίρνει τιµές µέσα στον παραµετρικό χώρο Θ. 2. Αν ο Ε.Μ.Π. του θ είναι µοναδικός, τότε είναι συνάρτηση της επαρκούς στατιστικής συνάρτησης. 3. Αν ˆθ = ˆθ(X ) είναι Ε.Μ.Π. του θ, τότε ο Ε.Μ.Π. της παραµετρικής συνάρτησης g(θ) είναι ο g(ˆθ). 4. Οι Ε.Μ.Π. είναι (υπό ορισµένες συνθήκες) συνεπείς εκτιµητές (ϐλ. Ορισµό ). Παρατήρηση Οι Ε.Μ.Π έχουν (υπό ορισµένες συνθήκες) κάποιες ασυµπτωτικές ιδιότητες. Αν X 1, X 2,..., X n είναι ένα τυχαίο δείγµα από κατανοµή µε πυκνότητα πιθανότητας f 1 (x; θ) και συµβολίσουµε µε ˆθ τον Ε.Μ.Π. του θ, τότε 1. Η κατανοµή του ˆθ είναι κατά προσέγγιση (n + ) η κανονική κατανοµή δηλαδή ˆθ N(θ, 1 I(θ) ) όπου I(θ) είναι ο αριθµός πληροφορίας του Fisher. 2. Ο ˆθ είναι ασυµπτωτικά αποτελεσµατικός εκτιµητής αν κάποιος άλλος εκτιµητής του θ,έστω S n, έχει κατά προσέγγιση κανονική κατανοµή N(θ 2, σ 2 (θ)), τότε υπό ορισµένες συνθήκες σ 2 θ (θ) 1 I(θ). Οι παραπάνω ιδιότητες των Ε.Μ.Π. συνεπάγονται ότι ο ˆθ είναι ασυµπτωτικά ΑΟΕ για το θ, δηλαδή αν υπάρχουν ΑΟΕ και Ε.Μ.Π. για κάποια g(θ), τότε αυτοί δεν διαφέρουν ασυµπτωτικά.

33 ΚΕΦΑΛΑΙΟ 1. ΒΑΣΙΚΟΙ ΟΡΙΣΜΟΙ ΚΑΙ ΘΕΩΡΗΜΑΤΑ Θεώρηµα Μετασχηµατισµού Θεώρηµα Εστω X µια συνεχής τυχαία µεταβλητή µε συνάρτηση πυκνότητας πι- ϑανότητας f X (x). Θέτουµε S = {x : f X (x) > 0}. Υποθέτουµε ότι, (i) y = h(x) είναι ένας αµφιµονοσήµαντος (ένα -προς -ένα) µετασχηµατισµός (µετρήσι- µη συνάρτηση) που απεικονίζει το σύνολο S σε ένα σύνολο T των y. (ii) η αντίστροφη συνάρτηση x = h 1 (y) είναι παραγωγίσιµη και η παράγωγος της συνεχής και µη µηδενική για κάθε y T. Τότε, η τυχαία µεταβλητή Y = h(x) είναι συνεχής µε συνάρτηση πυκνότητας πιθανότητας, f X [h 1 (y)] dh 1 (y) dy, y T f Y (y) = 0, αλλού όπου σηµαίνει την απόλυτο τιµή της συνάρτησης.

34 Κεφάλαιο 2 Το µοντέλο της κατανοµής Σε αυτό το κεφάλαιο παραθέτουµε διάφορους ορισµούς που αφορούν το µοντέλο της τριπαραµετρικής Γάµµα κατανοµής, όπως και κάποιες ϐασικές ιδιότητες αυτής. 2.1 Συνάρτηση Πυκνότητας Πιθανότητας Αρχικά ορίζουµε το µοντέλο της τριπαραµετρικής Γάµµα κατανοµής µέσω της συνάρτησης πυκνότητας πιθανότητας. Ορισµός Μια συνεχής τυχαία µεταβλητή X, ακολουθεί την τριπαραµετρική Γάµµα κατανοµή µε παραµέτρους α, ϐ και γ, εάν η συνάρτηση πυκνότητας πιθανότητας της είναι, f X (x) = 1 (x γ) α 1 e x γ Γ(α)ϐ α ϐ, x > γ (2.1) 0, διαφορετικά όπου α (α > 0) είναι η παράµετρος µορφής, ϐ (ϐ > 0) είναι η παράµετρος κλίµακας, γ ( < γ < ) η παράµετρος ϑέσης και Γ( ) η γάµµα συνάρτηση. 18

35 ΚΕΦΑΛΑΙΟ 2. ΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΚΑΤΑΝΟΜΗΣ 19 Συµβολικά γράφουµε X G(α, ϐ, γ). 2.2 Βασικά Χαρακτηριστικά της κατανοµής Πρόταση Η ϱοπογεννήτρια συνάρτηση της τυχαίας µεταβλητής X G(α, ϐ, γ) είναι, M X (t) = e γt (1 ϐt) α, t < 1 ϐ. (2.2) Απόδειξη. M X (t) = E(e tx ) = = γ γ = eγt Γ(α)ϐ α = eγt Γ(α)ϐ α e tx f X (x) dx e tx 1 Γ(α)ϐ (x α γ)α 1 e γ γ = eγt ( 1 ϐ t) α ϐ α x γ ϐ e tx tγ (x γ) α 1 e x γ ϐ (x γ) α 1 e x γ ϐ γ dx +t(x γ) dx dx 1 Γ(α)( 1 ϐ t) α (x γ)α 1 e (x γ)( 1 ϐ t) dx. Κάνοντας τον µετασχηµατισµό u = x γ, η παραπάνω σχέση γίνεται, M X (t) = eγt ( 1 ϐ t) α ϐ α 0 1 Γ(α)( 1 ϐ t) α uα 1 e u( 1 ϐ t) du = eγt ( 1 ϐ t) α = eγt ϐ α ( ϐ α ϐ 1 ϐt ) α = e γt (1 ϐt) α, για 1 ϐ t > 0 t < 1 ϐ.

36 ΚΕΦΑΛΑΙΟ 2. ΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΚΑΤΑΝΟΜΗΣ 20 Τρεις ϐασικές ιδιότητες της τριπαραµετρικής Γάµµα κατανοµής, οι οποίες προκύπτουν άµεσα µε τη χρήση της ϱοπογεννήτριας συνάρτησης δίνονται στην παρακάτω Πρόταση. Πρόταση Εάν X G(α, ϐ, γ), τότε cx G(α, cϐ, cγ), για c > Εάν X G(α, ϐ, γ), τότε X + c G(α, ϐ, γ + c), για c R. 3. Εστω ότι έχουµε n ανεξάρτητες τυχαίες µεταβλητές X i, i = 1, 2,, n οι οποίες ακολουθούν την τριπαραµετρική Γάµµα κατανοµή, δηλαδή X i G(α i, ϐ, γ i ), i = 1, 2,, n, τότε, X i G α i, ϐ, γ i. Απόδειξη. 1. Γνωρίζοντας τη ϱοπογεννήτρια της τυχαίας µεταβλητής X, M X (t) από τη σχέση (2.2) και χρησιµοποιώντας ιδιότητες την ϱοπογεννήτριας συνάρτησης ( δες Πρόταση ), υπολογίζουµε τη ϱοπογεννήτρια της τυχαίας µεταβλητής cx, ως εξής, M cx (t) = E(e t(cx) ) = E(e (ct)x ) = e γ(ct) (1 ϐ(ct)) α = e (cγ)t (1 (cϐ)t) α, t < 1 cϐ, η οποία είναι η ϱοπογεννήτρια µιας τριπαραµετρικής Γάµµα κατανοµής µε παραµέτρους α, cϐ και cγ, δηλαδή, cx G(α, cϐ, cγ). (2.3)

37 ΚΕΦΑΛΑΙΟ 2. ΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΚΑΤΑΝΟΜΗΣ Με τον ίδιο τρόπο, όπως και προηγουµένως, υπολογίζουµε τη ϱοπογεννήτρια της τυχαίας µεταβλητής X + c, χρησιµοποιώντας τη ϱοπογεννήτρια της τυχαίας µεταβλητής X, M X (t) από τη σχέση (2.2) καθώς και ιδιότητες των ϱοπογεννητριών, οπότε έχουµε, M X+c (t) = E(e t(x+c) ) = E(e ct+tx ) = e ct e γt (1 ϐt) α = e (γ+c)t (1 ϐ(t)) α, t < 1 ϐ, η οποία είναι η ϱοπογεννήτρια µιας τριπαραµετρικής Γάµµα κατανοµής µε παραµέτρους α, ϐ και γ + c, δηλαδή, X + c G(α, ϐ, γ + c). (2.4) 3. Εχουµε, λοιπόν, ότι για κάθε i = 1, 2,, n, X i G(α i, ϐ, γ i ) µε ϱοπογεννήτρια α- ντίστοιχα M Xi (t) = e γ it (1 ϐt) α i συνάρτησης n X i. για t < 1. Υπολογίζουµε τη ϱοπογεννήτρια της στατιστικής ϐ Για να µπορέσουµε, λοιπόν, να την υπολογίσουµε και τελικώς να αποδείξουµε την ιδιότητα αυτή, χρησιµοποιούµε την Πρόταση Συνεπώς, M n (t) = M Xi (t) X i = = e t n e γit (1 ϐt) α i γ i (1 ϐt) n α i,

38 ΚΕΦΑΛΑΙΟ 2. ΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΚΑΤΑΝΟΜΗΣ 22 η οποία είναι η ϱοπογεννήτρια µιας τριπαραµετρικής Γάµµα κατανοµής µε παραµέτρους α = n α i, ϐ και γ = n γ i. ηλαδή, έχουµε δείξει ότι, X i G α i, ϐ, γ i. (2.5) Παρατήρηση Είναι προφανές ότι εάν είχαµε n ανεξάρτητες και ισόνοµες τυχαίες µεταβλητές X i, i = 1, 2,, n οι οποίες ακολουθούν την τριπαραµετρική Γάµµα κατανο- µή, δηλαδή X i G(α, ϐ, γ), i = 1, 2,, n, τότε, X i G (nα, ϐ, nγ). Πρόταση Η Μέση Τιµή και η ιασπορά της τυχαίας µεταβλητής X G(α, ϐ, γ) είναι, αντίστοιχα, E(X) = αϐ + γ (2.6) και Var(X) = αϐ 2. (2.7) Απόδειξη. E(X) = = = γ xf X (x) dx 1 x γ Γ(α)ϐ (x α γ)α 1 e 1 ( x γ x Γ(α)ϐ ϐ γ x γ ϐ dx ) α 1 e x γ ϐ dx. (2.8) Χρησιµοποιώντας το µετασχηµατισµό, z = x γ ϐ η σχέση (2.8) γίνεται,

39 ΚΕΦΑΛΑΙΟ 2. ΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΚΑΤΑΝΟΜΗΣ 23 ηλαδή, E(X) = 1 Γ(α) = ϐ Γ(α) 0 0 ϐγ(α + 1) = Γ(α) = ϐαγ(α) Γ(α) (ϐz + γ) z α 1 e z dz z α e z dz + + γ. + γγ(α) Γ(α) γ Γ(α) 0 z α 1 e z dz E(X) = αϐ + γ. (2.9) Ακολουθούµε την ίδια διαδικασία για να υπολογίσουµε την ποσότητα E(X 2 ), για να µπορέσουµε να υπολογίσουµε τη διασπορά, εφόσον γνωρίζουµε ότι, Var(X) = E(X 2 ) (E(X)) 2. (2.10) Εποµένως, E(X 2 ) = = γ γ = 1 Γ(α) = 1 Γ(α) = 1 Γ(α) = 1 Γ(α) x 2 f X (x) dx x 2 1 Γ(α)ϐ (x α γ)α 1 e 0 (ϐz + γ) 2 z α 1 e z dz [ϐ 2 z α+1 e z dz + 2ϐγ 0 x γ ϐ 0 dx [ϐ 2 Γ(α + 2) + 2ϐγΓ(α + 1) + γ 2 Γ(α) ] [ ϐ 2 α(α + 1)Γ(α) + 2αϐγΓ(α) + γ 2 Γ(α) ]. ] z α e z dz + γ 2 z α 1 e z dz E(X 2 ) = ϐ 2 α(α + 1) + 2αϐγ + γ 2. (2.11) 0 Ετσι, αντικαθιστώντας στη σχέση (2.10), τις (2.9) και (2.11) προκύπτει ότι,

40 ΚΕΦΑΛΑΙΟ 2. ΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΚΑΤΑΝΟΜΗΣ 24 Var(X) = E(X 2 ) (E(X)) 2 = ϐ 2 α(α + 1) + 2αϐγ + γ 2 (αϐ + γ) 2 = ϐ 2 α 2 + ϐ 2 α + 2αϐγ + γ 2 (α 2 ϐ 2 + αϐγ + γ 2 ) = αϐ 2. Πρόταση Η λοξότητα και η κύρτωση της κατανοµής υπολογίζονται, αντίστοιχα, ως α 3 = 2 α και α 4 = α. Απόδειξη. Αρχικά, για να µπορέσουµε να αποδείξουµε τις πιο πάνω σχέσεις ϑα πρέπει να υπολογίσουµε τη ϱοπή κ - τάξης µ k, E(X γ) k = = = + γ 1 Γ(α)ϐ α (x γ) k + γ Γ(α + k)ϐα+k Γ(α)ϐ α 1 Γ(α)ϐ (x α γ)α 1 e x γ ϐ dx (x γ) α+k 1 e x γ ϐ dx + γ 1 Γ(α + k)ϐ (x α+k γ)α+k 1 e x γ ϐ dx. Κάνοντας τον µετασχηµατισµό u = x γ, προκύπτει ότι, E(X γ) k = Γ(α + k) Γ(α) ϐ k. (2.12) Εποµένως, µε τη ϐοήθεια της σχέσης (2.12), η λοξότητα υπολογίζεται ως ακολούθως,

41 ΚΕΦΑΛΑΙΟ 2. ΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΚΑΤΑΝΟΜΗΣ 25 ( X µ ) 3 α 3 = E σ ( X (αϐ γ) = E σ ) 3 = 1 E((X γ) αϐ)3 σ3 = 1 [ E (X γ) 3 3E (X γ) 2 αϐ + 3E (X γ) α 2 ϐ 2 α 3 ϐ 3] σ 3 = 1 σ 3 [ α(α + 1)(α + 2)ϐ 3 3α(α + 1)ϐ 2 αϐ + 3α 3 ϐ 3 α 3 ϐ 3] = 2αϐ3 σ 3 = 2αϐ3 ( αϐ 2 ) 3 = 2 α. Οµοίως, για την κυρτότητα έχουµε, ( X µ ) 4 α 4 = E σ ( X (αϐ γ) = E σ ) 4 = 1 E((X γ) αϐ)4 σ4 = 1 [ E(X γ) 4 4E(X γ) 3 αϐ + 6α 2 ϐ 2 E(X γ) 2 4E (X γ) α 3 ϐ 3 + α 4 ϐ 4] σ 4 = 1 σ 4 [ α(α + 1)(α + 2)(α + 3)ϐ 4 4αϐα(α + 1)(α + 2)ϐ 3 + 6α 2 ϐ 2 α(α + 1)ϐ 2 3α 4 ϐ 4] = 1 σ 4 [ 3α 2 ϐ 4 + 6αϐ 4] = α.

42 ΚΕΦΑΛΑΙΟ 2. ΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΚΑΤΑΝΟΜΗΣ 26 Παρατήρηση Η λοξότητα της κατανοµής µετριέται από τον συντελεστή, α 3 = E ( X E(X) σ ) 3 ο οποίος µπορεί να είναι ϑετικός, µηδέν ή αρνητικός. Η Γάµµα κατανοµή είναι µια συνεχής κατανοµή µε ϑετική λοξότητα (α 3 > 0), δηλαδή είναι κατανοµή λοξή προς τα δεξιά. Η καµπύλη που περιγράφει τη συνάρτηση πυκνότητας πιθανότητας αυτής της κατανοµής εξαρτάται από την παράµετρο µορφής και µπορεί να έχει διάφορα σχήµατα, όπως αντίστροφο J σχήµα ή καµπανοειδές. Σχήµα 2.1: Η καµπύλη της κατανοµής για διάφορες τιµές των παραµέτρων Η κατανοµή, λοιπόν, αυτή ανήκει στις κατανοµές Pearson τύπου III, και όπως προαναφέραµε αναλόγως της παραµέτρου µορφής, α, µπορεί να έχει καµπανοειδές ή αντίστρο- ϕο J σχήµα. Εάν α > 1 (α 3 < 2), έχει καµπανοειδές σχήµα, ενώ, εάν α 1 (α 3 2),

43 ΚΕΦΑΛΑΙΟ 2. ΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΚΑΤΑΝΟΜΗΣ 27 έχει αντίστροφο J σχήµα, όπως ϕαίνεται στο Σχήµα 2.1. Η τριπαραµετρική Γάµµα κατανοµή είναι πιο γενική από την αντίστοιχη διπαραµετρική, αφού περιέχει επιπλέον την παράµετρο ϑέσης γ, την οποία δεν έχει η αντίστοιχη διπαραµετρική. Εποµένως, η διπαρα- µετρική Γάµµα κατανοµή προκύπτει από τη σχέση (2.1) ϑεωρώντας την παράµετρο ϑέσης µηδενική (γ = 0). Η κλασική µορφή της κατανοµής Η κλασική µορφή της Γάµµα κατανοµής δηµιουργείται ϑεωρώντας ϐ = 1 και γ = 0, στο µοντέλο (2.1), δηλαδή, f X (x) = 1 Γ(α) x α 1 e x, x 0 (2.13) Επίσης, εάν το α = 1, τότε έχουµε την εκθετική κατανοµή µε παράµετρο λ = 1, ενώ εάν το α είναι ϑετικός ακέραιος αριθµός τότε έχουµε την κατανοµή Erlang. Η ϱοπογεννήτρια συνάρτηση της (2.13) δίνεται από τη σχέση, M X (t) = (1 t) α, t < 1. Οι τέσσερις πρώτες ϱοπές,καθώς και η λοξότητα και η κυρτότητα δίνονται από τις ακόλουθες σχέσεις, E(X) = α, Var(X) = α, µ 3 = 2α, µ 4 = 3α 2 + 6α α 3 = 2 α, α 4 = α Η συνάρτηση κατανοµής της (2.13) είναι,

44 ΚΕΦΑΛΑΙΟ 2. ΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΚΑΤΑΝΟΜΗΣ 28 P(X x) = = x 0 x 0 = 1 Γ(α) και είναι µια µη πλήρης γάµµα συνάρτηση. Η ποσότητα Γ X (α) = x f (t) dt 1 Γ(α) tα 1 e t dt x 0 t α 1 e t dt 0 tα 1 e t dt, ονοµάζεται Γάµµα Ολοκλήρωµα και εξαρτάται από το x και το α, εποµένως ϑα ήταν ϕυσικό να χρησιµοποιούµε ένα συµβολισµό που ϑα το αντιπροσώπευε ως συνάρτηση αυτών των µεταβλητών. Ωστόσο, ο Pearson (1922) ϐρήκε πιο λογικό να χρησιµοποιήσει στη ϑέση του x, το u = x α 1/2 για σκοπούς πινακοποίησης και έτσι όρισε τη µη πλήρη γάµµα συνάρτηση ως, I(u, α 1) = 1 u α t α 1 e t dt, Γ(α) 0 όπου x α 1/2 = u x = u α. Κάποιες από τις ιδιότητες της συνάρτησης Γάµµα είναι οι εξής, 1. Γ(r)Γ(s) Γ(r+s) = 1 0 tr 1 (1 t) s 1 dt, (t > 0, s > 0) 2. Γ(α + 1) = αγ(α) 3. Γ(n) = (n 1)!, n N. Η ϐασική σηµασία της κλασικής Γάµµα κατανοµής, η οποία δίνεται στη Στατιστική Θεωρία Αποφάσεων είναι το γεγονός ότι εάν έχουµε n ανεξάρτητες τυχαίες µεταβλητές U 1, U 2,, U n από τυπική κανονική κατανοµή, τότε η κατανοµή του n U 2 i είναι της µορ- ϕής (2.1) µε α = n/2, ϐ = 2 και γ = 0, δηλαδή n µορφή της Γάµµα κατανοµής ονοµάζεται X 2 συµβολίζεται ως X n 2. U 2 i G( n, 2, 0). Αυτή η ειδικότερη 2 κατανοµή µε n ϐαθµούς ελευθερίας και

45 ΚΕΦΑΛΑΙΟ 2. ΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΚΑΤΑΝΟΜΗΣ 29 Εχουµε n ανεξάρτητες τυχαίες µεταβλητές U 1, U 2,, U n µε U i N(0, 1), τότε, U i 2 X 1 2 U 2 2 i X n U 2 i G ( n 2, 2, 0 ) Είναι σαφές, λοιπόν, ότι η Γάµµα κατανοµή µε παραµέτρους α (ϑετικός ακέραιος), ϐ = 2 και γ = 0 ταυτίζεται µε την X 2 κατανοµή ως εξής, X 2 2α G ( 2α 2, 2, 0 ) Σε αυτό το σηµείο, ϑα αναφέρουµε δύο ϐασικές ιδιότητες της Γάµµα κατανοµής µε παραµέτρους α, ϐ και γ = 0 (G(α, ϐ, 0)). Για να µπορέσουµε να αποδείξουµε αυτές τις ιδιότητες, ϑα χρειαστούµε τη ϱοπογεννήτρια της τυχαίας µεταβλητής X. Πρόταση Αν η τυχαία µεταβλητή X G(α, ϐ, 0), τότε η ϱοπογεννήτρια της δίνεται από τη σχέση, M X (t) = (1 ϐt) α, t < 1 ϐ. (2.14) Απόδειξη. Εχουµε, λοιπόν, µια τυχαία µεταβλητή X G(α, ϐ, 0) µε πυκνότητα, f X (x) = 1 Γ(α)ϐ α x α 1 e x/ϐ, x 0. Τότε, η ϱοπογεννήτρια της είναι,

46 ΚΕΦΑΛΑΙΟ 2. ΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΚΑΤΑΝΟΜΗΣ 30 M X (t) =E(e tx ) = + 0 = 1 ϐ α + 0 e tx Γ(α)ϐ α x α 1 e x/ϐ dx 1 Γ(α) x α 1 e x ( 1 ϐ t ) dx = 1 ( ) α 1 + ϐ α ϐ t 1 0 Γ(α) ( 1 ) t α x α 1 e x ϐ = 1 ϐ α ( 1 ϐ t ) α ( 1 ϐ t ) dx = 1 ( ) α 1 ϐt ϐ α ϐ = (1 ϐt) α, για 1 ϐ t > 0 t < 1 ϐ. Κάποιες ϐασικές ιδιότητες της διπαραµετρικής Γάµµα κατανοµής (µε γ = 0) αναφέρονται στην παρακάτω Πρόταση, η απόδειξη της οποίας είναι άµεση συνέπεια της Πρότασης Πρόταση Εάν X G(α, ϐ, 0), τότε cx G(α, cϐ, 0), c > Αν έχουµε n ανεξάρτητες τυχαίες µεταβλητές X 1, X 2,, X n µε X i G(α i, ϐ, 0), i = ( ) 1, 2,, n, τότε n n X i G α i, ϐ, 0. Παρατήρηση Είναι σαφές, λοιπόν, µε ϐάση τις πιο πάνω ιδιότητες ότι 1 2 G ( n U 2 i 2, 1, 0 ), δηλαδή την κλασική Γάµµα κατανοµή για α = n/2, µε συνάρτηση πυκνότητας, P X 2 n (x 2 ) = { Γ ( n 2 )} 1 ( x 2) n 2 1 e x2.

47 ΚΕΦΑΛΑΙΟ 2. ΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΚΑΤΑΝΟΜΗΣ 31 Εχοντας, λοιπόν, αποδείξει κάποιες από τις ϐασικές ιδιότητες της τριπαραµετρικής Γάµµα κατανοµής, αλλά και της αντίστοιχης διπαραµετρικής (γ = 0), στη συνέχεια ϑα αναγνωρίσουµε την κατανοµή κάποιων στατιστικών συναρτήσεων, υπολογίζοντας παράλληλα και τη µέση τιµή τους. Πρόταση Εάν η τυχαία µεταβλητή X G(α, ϐ, γ), τότε X α α G ( α, ϐ α, γ α α ). Απόδειξη. Εχουµε ότι X G(α, ϐ, γ), άρα χρησιµοποιώντας τη σχέση (2.4) παρατηρούµε ότι, X α G (α, ϐ, γ α). Επίσης, από τη σχέση (2.3), εύκολα καταλήγουµε στην απόδειξη της πρότασης, δηλαδή ( X α ϐ G α,, γ α ). α α α Παρατήρηση Γνωρίζουµε από την Πρόταση 2.2.3, ότι αν X G(α, ϐ, γ) τότε E(X) = αϐ + γ. Εφόσον, λοιπόν, αποδείξαµε ότι, X α α G ( α, ϐ, γ α ), α α παρατηρούµε ότι, E ( ) X α = α ϐ + γ α. α α α Πρόταση Εάν η τυχαία µεταβλητή X G(α, ϐ, γ), τότε 2 ϐ (X γ) X 2 2α. Απόδειξη. Εχουµε ότι X G(α, ϐ, γ), άρα χρησιµοποιώντας τη σχέση (2.4) προκύπτει ότι, X γ G (α, ϐ, 0). Επίσης, από τη σχέση (2.3) καταλήγουµε στην κλασική µορφή της κατανοµής, X γ ϐ G (α, 1, 0).

48 ΚΕΦΑΛΑΙΟ 2. ΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΚΑΤΑΝΟΜΗΣ 32 Ενώ, πολλαπλασιάζοντας µε τον αριθµό 2 και χρησιµοποιώντας πάλι τη σχέση (2.3) καταλήγουµε στην X 2 κατανοµή µε 2α ϐαθµούς ελευθερίας, δηλαδή ( 2 2α ) ϐ (X γ) G 2, 2, 0 X 2 2α. Πρόταση Εάν X 1 G(α 1, 1, 0) και X 2 G(α 2, 1, 0) ανεξάρτητες τυχαίες µεταβλητές, τότε οι στατιστικές συναρτήσεις X 1 X 1 +X 2 και X 1 + X 2 είναι ανεξάρτητες και η κατανοµή της στατιστικής συνάρτησης X 1 X 1 +X 2 είναι Βήτα µε παραµέτρους α 1, α 2 (Beta(α 1, α 2 )). Απόδειξη. Αρχικά, για να αποδείξουµε ότι δύο στατιστικές συναρτήσεις U = X 1 +X 2 και V = X 1 X 1 +X 2 είναι ανεξάρτητες, αρκεί να υπολογίσουµε τις αντίστοιχες συναρτήσεις πυκνότητας πιθανότητας f U (u), f V (v), f U,V (u, v) και να δείξουµε ότι, f U,V (u, v) = f U (u) f V (v). Θέτουµε, λοιπόν, U = X 1 + X 2 = g(x 1, X 2 ) V = X 1 X 1 + X 2 = h(x 1, X 2 ). Άρα, έχουµε, u = x 1 + x 2 x 1 = uv = g (u, v) v = x 1 x 1 +x 2 x 2 = u uv = h (u, v)

49 ΚΕΦΑΛΑΙΟ 2. ΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΚΑΤΑΝΟΜΗΣ 33 µε σύνολα τιµών, D 1 = {(x, y) (0, + ) (0, + )} D 2 = {(u, v) (0, + ) (0, + ) : u > 0, 0 < v < 1}. Επίσης, J = v u = uv u(1 v) = u J = u. 1 v u Εφόσον, οι τυχαίες µεταβλητές X 1 G(α 1, 1, 0) και X 2 G(α 2, 1, 0) είναι ανεξάρτητες, τότε η από κοινού συνάρτηση πυκνότητας πιθανότητας τους είναι, f X1,X 2 (x 1, x 2 ) = 1 Γ(α 1 )Γ(α 2 ) x α x α e x 1 x 2, x 1, x 2 > 0. Εποµένως, τώρα µπορούµε να υπολογίσουµε την από κοινού συνάρτηση πυκνότητας πιθανότητας των U και V, αντικαθιστώντας στον ακόλουθο τύπο, f U,V (u, v) =f X1,X 2 (g (u, v), h (u, v)) J 1 = Γ(α 1 )Γ(α 2 ) (uv)α 1 1 (u uv) α 2 1 e uv (u uv) u 1 = Γ(α 1 )Γ(α 2 ) uα 1+α 2 1 v α 1 1 (1 v) α 2 1 e u, u > 0, 0 < v < 1. Σε αυτό το σηµείο, υπολογίζουµε τις περιθώριες συναρτήσεις f U (u), f V (v), f U (u) = Γ(α 1 )Γ(α 2 ) uα 1+α 2 1 v α 1 1 (1 v) α 2 1 e u dv = uα 1+α 2 1 e u Γ(α 1 )Γ(α 2 ) = uα 1+α 2 1 e u Γ(α 1 )Γ(α 2 ) = uα 1+α 2 1 e u Γ(α 1 + α 2 ) 1 0 v α 1 1 (1 v) α 2 1 dv Γ(α 1 )Γ(α 2 ) Γ(α 1 + α 2 ), u > 0.

50 ΚΕΦΑΛΑΙΟ 2. ΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΚΑΤΑΝΟΜΗΣ 34 Άρα, U G(α 1 + α 2, 1, 0). Ενώ, f V (v) = Γ(α 1 )Γ(α 2 ) uα 1+α 2 1 v α 1 1 (1 v) α 2 1 e u du = vα 1 1 (1 v) α 2 1 Γ(α 1 )Γ(α 2 ) + 0 u α 1+α 2 1 e u du = Γ(α 1 + α 2 ) Γ(α 1 )Γ(α 2 ) vα 1 1 (1 v) α 2 1, 0 < v < 1. ηλαδή, V Beta(α 1, α 2 ). Συνεπώς, καταλήγουµε στο συµπέρασµα ότι οι U και V είναι ανεξάρτητες στατιστικές συναρτήσεις, αφού, f U (u) f V (v) = uα 1+α 2 1 e u Γ(α 1 + α 2 ) Γ(α 1 + α 2 ) Γ(α 1 )Γ(α 2 ) vα 1 1 (1 v) α 2 1 = 1 Γ(α 1 )Γ(α 2 ) uα 1+α 2 1 v α 1 1 (1 v) α 2 1 e u = f U,V (u, v). 2.3 Επάρκεια, Πληρότητα και Αµεροληψία Εχουµε X = (X 1, X 2,..., X n ) δείγµα αποτελούµενο από n ανεξάρτητες και ισόνοµες τυχαίες µεταβλητές που ακολουθούν την τριπαραµετρική Γάµµα κατανοµή µε παραµέτρους α, ϐ, γ 0 (γνωστό) και έχουν συνάρτηση πυκνότητας πιθανότητας, f X (x) = 1 Γ(α)ϐ α (x γ)α 1 e x γ ϐ, x > γ.

51 ΚΕΦΑΛΑΙΟ 2. ΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΚΑΤΑΝΟΜΗΣ 35 Η από κοινού συνάρτηση πυκνότητας πιθανότητας του τυχαίου δείγµατος είναι, f X (x ; α, ϐ, γ) = = = n f (x i ; α, ϐ, γ) n 1 Γ(α)ϐ (x α i γ) α 1 e xi γ ϐ 1 Γ(α) n ϐ αn n (x i γ) α 1 e 1 ϐ (x i γ) α 1 1 n = Γ(α) n ϐ (x αn i γ) e 1 (x ϐ i γ) = exp n lnγ(α) nαln(ϐ) + (α 1) ln(x i γ) 1 (x i γ) ϐ = exp n lnγ(α) nαln(ϐ) + (α 1) ln(x i γ) + n ϐ γ 1 x i ϐ. Πρόταση Εστω X = (X 1, X 2,, X n ) τυχαίο δείγµα από την τριπαραµετρική Γάµµα ( ) n κατανοµή, τότε η στατιστική συνάρτηση ln(x i γ), X i είναι επαρκής και πλήρης. Απόδειξη. Από το Θεώρηµα παρατηρούµε ότι, ln(x i γ), είναι επαρκής στατιστική συνάρτηση. X i Επίσης, έχουµε ότι, ( c(θ) = (c 1 (θ), c 2 (θ)) = α 1, 1 ) ϐ µε α > 0 και ϐ > 0 τότε, ( c(θ) = α 1, 1 ) ( 1, + ) (, 0) περιέχει ανοιχτό υποσύνολο του R 2. ϐ

52 ΚΕΦΑΛΑΙΟ 2. ΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΚΑΤΑΝΟΜΗΣ 36 Οπότε, από την Πρόταση 1.5.1, παρατηρούµε ότι είναι πλήρης η στατιστική συνάρτηση, ln(x i γ), X i. Πρόταση Εστω X µια τυχαία µεταβλητή, η οποία προέρχεται από την τριπαραµετρική Γάµµα κατανοµή, τότε E (ln(x γ)) = ψ(α) + ln(ϐ), (2.15) όπου ψ( ) είναι η δίγαµµα συνάρτηση. Απόδειξη. Εχουµε ότι η τυχαία µεταβλητή X G(α, ϐ, γ) µε συνάρτηση πυκνότητας πι- ϑανότητας f (x) = 1 (x γ) α 1 exp { } x γ, x > γ, για την οποία ισχύουν οι ακόλουθες Γ(α)ϐ α ϐ δύο σχέσεις, + γ f (x) dx = 1, (2.16) + γ ln(x γ)f (x) dx = E(ln(x γ)). (2.17) Υπολογίζοντας το λογάριθµο της συνάρτησης πυκνότητας πιθανότητας, έχουµε, (x γ) ln f (x) = α ln(ϐ) ln Γ(α) + (α 1) ln (x γ) ϐ = α ln(ϐ) ln Γ(α) + γ ϐ 1 x + (α 1) ln (x γ). (2.18) ϐ Οπότε µπορούµε να γράψουµε τη συνάρτηση πυκνότητας πιθανότητας στην ακόλουθη µορφή, f (x) = exp { λ 0 λ 1 x λ 2 ln(x γ)}, (2.19)

53 ΚΕΦΑΛΑΙΟ 2. ΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΚΑΤΑΝΟΜΗΣ 37 όπου λ 0 = α ln(ϐ) + lnγ(α) γ ϐ λ 1 = 1 ϐ λ 2 = (α 1). Αντικαθιστώντας, λοιπόν, τη σχέση (2.19) στη σχέση (2.16), έχουµε, + f (x) dx = 1 + γ γ e λ 0 e λ 0 e λ 0 e λ 0 exp { λ 0 λ 1 x λ 2 ln(x γ)} dx = 1 + γ + γ + γ + γ exp { λ 1 x λ 2 ln(x γ)} dx = 1 e λ 1x e λ 2ln(x γ) dx = 1 e λ1x e ln(x γ) λ 2 dx = 1 (x γ) λ 2 e λ 1x dx = 1. Άρα, e λ 0 = + γ (x γ) λ 2 e λ 1x dx. (2.20) Κάνοντας το µετασχηµατισµό, y = x γ, έχουµε, e λ 0 = + 0 = e λ 1γ = e λ 1γ λ 1 λ 2 = e λ 1γ λ 1 1 λ 2 y λ 2 e λ 1(y+γ) dy y λ 2 e λ 1y dy (λ 1 y) λ 2 e λ 1y dy (λ 1 y) λ 2 e λ 1y λ 1 dy. Θέτοντας, όπου z = λ 1 y, η πιο πάνω σχέση γίνεται,

54 ΚΕΦΑΛΑΙΟ 2. ΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΚΑΤΑΝΟΜΗΣ 38 e λ 0 = e λ 1γ λ 1 1 λ 2 Εφόσον, Γ(α) = + x α 1 e x dx, τότε 0 Γ(1 λ 2 ) = + Εποµένως, η σχέση (2.21) γίνεται, e λ 0 = e λ 1γ Γ(1 λ 2 ) λ 1 1 λ x 1 λ 2 1 e x dx = λ 0 = ln z λ 2 e z dz. (2.21) + ( e λ 1γ ) Γ(1 λ 2 ) λ 1 1 λ 2 0 x λ 2 e x dx. λ 0 = λ 1 γ (1 λ 2 ) ln(λ 1 ) + lnγ(1 λ 2 ). Συνοπτικά, έχουµε τις ακόλουθες δύο σχέσεις, λ 0 = λ 1 γ (1 λ 2 ) ln(λ 1 ) + lnγ(1 λ 2 ), (2.22) λ 0 = ln + γ exp { λ 1 x λ 2 ln(x γ)} dx. (2.23) Υπολογίζοντας τη µερική παράγωγο του λ 0 ως προς λ 2 από τις σχέσεις (2.22) και (2.23) αντίστοιχα, έχουµε, λ 0 λ 2 = lnλ 1 ψ(1 λ 2 ) (2.24) λ 0 λ 2 = + γ = = = exp { λ 1 x λ 2 ln(x γ)} ( ln(x γ)) dx + γ + γ + γ + γ exp { λ 1 x λ 2 ln(x γ)} dx exp { λ 1 x λ 2 ln(x γ)} ln(x γ) dx e λ 0 exp { λ 0 λ 1 x λ 2 ln(x γ)} ln(x γ) dx ln(x γ) f (x) dx.

55 ΚΕΦΑΛΑΙΟ 2. ΤΟ ΜΟΝΤΕΛΟ ΤΗΣ ΚΑΤΑΝΟΜΗΣ 39 Άρα, Ταυτίζοντας, λοιπόν, τις σχέσεις (2.24) και (2.25), έχουµε, λ 0 λ 2 = E(ln(X γ)). (2.25) E(ln(X γ)) = lnλ 1 ψ(1 λ 2 ) E(ln(X γ)) = lnλ 1 + ψ(1 λ 2 ). (2.26) οθέντος ότι, λ 1 = 1 και λ ϐ 2 = (α 1), η σχέση (2.26) γίνεται, ( ) 1 E(ln(X γ)) = ln + ψ(α) E(ln(X γ)) = ψ(α) + lnϐ. (2.27) ϐ Πρόταση Εστω X = (X 1, X 2,, X n ) τυχαίο δείγµα από την τριπαραµετρική Γάµµα κατανοµή, τότε η στατιστική συνάρτηση n ln(x i γ) είναι αµερόληπτος εκτιµητής του n(ψ(α)+lnϐ), και η στατιστική συνάρτηση n X i είναι αµερόληπτος εκτιµητής του n(αϐ+γ), δηλαδή, E ln(x i γ) = n(ψ(α) + lnϐ), (2.28) και E X i = n(αϐ + γ). (2.29) Απόδειξη. Από την Πρόταση 2.3.2, εύκολα αποδεικνύουµε ότι, E ln(x i γ) = E (ln(x i γ)) = n(ψ(α) + lnϐ). Επίσης, από την Πρόταση εύκολα αποδεικνύουµε ότι, E X i = E (X i ) = n(αϐ + γ).

56 Κεφάλαιο 3 Εκτίµηση Παραµέτρων Μέθοδοι εκτίµησης µέγιστης πιθανοφάνειας για την τριπαραµετρική Γάµµα κατανοµή έχουν περιγραφεί στο παρελθόν από τους Johnson and Kotz (1970), Cohen and Nargaard (1977), Cohen and Whitten (1982, 1986), Harter and Moore (1965), Bowman et al. (1987) και Bowman and Shenton (1988). Πιο συγκεκριµένα, οι Harter and Moore (1965) περιγράφουν µια επαναληπτική µέθοδο για την εύρεση των εκτιµητών µέγιστης πιθανο- ϕάνειας για πλήρη (complete) και λογοκριµένα (censored) δείγµατα, υπό τον περιορισµό ότι η παράµετρος ϑέσης γ ϑα πρέπει να είναι µεγαλύτερη ή ίση του µηδενός. Από την άλλη, οι Johnson and Kotz (1970) επισηµαίνουν τη δυσκολία στην εύρεση εκτιµήσεων µέγιστης πιθανοφάνειας, όταν η παράµετρος µορφής α είναι κοντά στο 1, και προτείνουν τη χρήση της µεθόδου για α > 2.5. Προφανώς, όταν α < 1 ο εκτιµητής µέγιστης πιθανοφάνειας για το γ είναι η ελάχιστη διατεταγµένη παρατήρηση x (1), ενώ για τα α και ϐ δεν υπάρχουν εκτιµητές µέγιστης πιθανοφάνειας, καθώς η συνάρτηση πιθανοφάνειας τείνει στο άπειρο όταν x γ. Επίσης, οι Cohen and Nargaard (1977) και Cohen and Whitten (1982, 1986) ανέπτυξαν την τροποποιηµένη µέθοδο µέγιστης πιθανοφάνειας και την τροποποιηµένη µέθοδο ϱοπών για να αποφύγουν τέτοιου είδους 40

57 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 41 προβλήµατα όταν α < 2, ενώ ο Kappenmann (1985) πρότεινε έναν κλειστής - µορφής τύπο. Σε αυτό,λοιπόν, το κεφάλαιο ασχολούµαστε µε το πρόβληµα εκτίµησης των παραµέτρων της τριπαραµετρικής Γάµµα κατανοµής. Τα κύρια αποτελέσµατα αυτού του κεφαλαίου προέρχονται από την εργασία των Cohen and Whitten (1982), καθώς και από το ϐιβλίο των Johnson et al. (1994). 3.1 Εκτιµητές Μέγιστης Πιθανοφάνειας Σε αυτή την ενότητα αναφέρουµε το πρόβληµα εκτίµησης της µέγιστης πιθανοφάνειας, όσον αφορά τις παραµέτρους του µοντέλου της τριπαραµετρικής Γάµµα κατανοµής. Πρόταση Εστω X = (X 1, X 2,..., X n ) τυχαίο δείγµα από την τριπαραµετρική Γάµ- µα κατανοµή, µε παραµέτρους α, ϐ, γ, τότε οι εκτιµητές µέγιστης πιθανοφάνειας ˆα, ˆϐ, ˆγ, αντίστοιχα, υπολογίζονται από το παρακάτω σύστηµα εξισώσεων, ln(x i ˆγ) nln(ˆϐ) nψ( ˆα) = 0 (3.1) (x i ˆγ) n ˆα ˆϐ = 0 (3.2) (x i ˆγ) 1 + n ˆϐ( ˆα 1) όπου ψ(α) είναι η ίγαµµα συνάρτηση (digamma function). = 0, (3.3) Απόδειξη. Εστω X = (X 1, X 2,..., X n ) δείγµα αποτελούµενο από n ανεξάρτητες και ισόνο- µες τυχαίες µεταβλητές που ακολουθούν την τριπαραµετρική Γάµµα κατανοµή µε παρα- µέτρους α, ϐ, γ και έχουν συνάρτηση πυκνότητας πιθανότητας f (x i ; α, ϐ, γ), η οποία δίνεται από τη σχέση (2.1).

58 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 42 Από τη σχέση (2.1), λοιπόν, υπολογίζουµε την από κοινού συνάρτηση πυκνότητας πιθανότητας του τυχαίου δείγµατος ως εξής, f X (x ; α, ϐ, γ) = n f (x i ; α, ϐ, γ) n { 1 = Γ(α)ϐ (x α i γ) α 1 exp x } i γ ϐ α 1 1 n = Γ(α) n ϐ (x αn i γ) exp 1 (x i γ) ϐ. Εποµένως, f X (x; α, ϐ, γ) = exp n lnγ(α) nαln(ϐ) + (α 1) ln(x i γ) 1 ϐ Από τη σχέση (3.4), λογαριθµώντας, προκύπτει ότι, (x i γ) (3.4) lnl = ln f X (x ; α, ϐ, γ) = n lnγ(α) nαln(ϐ) + (α 1) ln(x i γ) 1 ϐ (x i γ). Για να ϐρούµε ακρότατο, πρέπει να υπολογίσουµε τις µερικές παραγώγους της συνάρτησης ln f X (x ; α, ϐ, γ) ως προς τις τρεις άγνωστες παραµέτρους που έχουµε, α, ϐ και γ, δηλαδή, α ln f X (x ; α, ϐ, γ) = 0 (3.5) ϐ ln f X (x ; α, ϐ, γ) = 0 (3.6) γ ln f X (x ; α, ϐ, γ) = 0. (3.7)

59 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 43 Από τη σχέση (3.5), έχουµε, nψ(α) nln(ϐ) + ln(x i γ) = 0 ln(x i γ) nln(ϐ) nψ(α) = 0, όπου ψ(α) είναι η πρώτη παράγωγος της συνάρτησης Γάµµα ως προς α και ονοµάζεται ίγαµµα συνάρτηση (digamma function). Από τη σχέση (3.6), προκύπτει ότι, nα ϐ + 1 (x ϐ 2 i γ) = 0 (x i γ) nαϐ = 0, και τέλος, από τη σχέση (3.7), (α 1) (x i γ) 1 + n ϐ = 0 (x i γ) 1 n + ϐ(α 1) = 0. Άρα, για να ϐρούµε τους Εκτιµητές Μέγιστης Πιθανοφάνειας ˆα, ˆϐ, ˆγ των α, ϐ, γ πρέπει να λύσουµε το ακόλουθο σύστηµα εξισώσεων, ln(x i ˆγ) nln(ˆϐ) nψ( ˆα) = 0 (x i ˆγ) n ˆα ˆϐ = 0 (x i ˆγ) 1 + n ˆϐ( ˆα 1) = 0.

60 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 44 Από τη σχέση (3.3) παρατηρούµε ότι αν το ˆα είναι µικρότερο του 1, τότε ϑα πρέπει κάποια από τα x i να είναι µικρότερα του ˆγ για να ικανοποιείται αυτή η σχέση. Αυτό, όµως, δεν µπορεί να συµβεί καθώς για x i < γ η συνάρτηση πυκνότητας ισούται µε µηδέν. Είναι σαφές, λοιπόν, ότι οι πιο πάνω εξισώσεις ϑα δώσουν επισφαλή αποτελέσµατα εάν το ˆα είναι κοντά στο 1, ακόµα και αν υπερβαίνει το 1. Είναι καλύτερο να µην χρησιµοποιούµε αυτές τις εξισώσεις, εκτός και αν αναµένουµε το ˆα να είναι τουλάχιστον 2.5, όπως αναφέρουν οι Johnson et al. (1994, σελίδα 356). Είναι δυνατόν να λύσουµε τις πιο πάνω εξισώσεις µε επαναληπτικές µεθόδους. Μια ϐολική (αλλά όχι µοναδική) µέθοδος είναι να χρησιµοποιήσουµε τη σχέση (3.1) και να καθορίσουµε µια τιµή για το ˆϐ, δοθέντος ˆα και ˆγ. Στη συνέχεια, από τη σχέση (3.2) να καθορίσουµε µια νέα τιµή για το ˆγ, δοθέντος ˆα και ˆϐ και τέλος από τη σχέση (3.3) µια νέα τιµή για το ˆα, δοθέντος ˆϐ και ˆγ. Επίσης, λόγω του ότι οι εκτιµητές µέγιστης πιθανοφάνειας παρουσιάζουν υπολογιστικές δυσκολίες και απαιτούν τη χρήση της δίγαµµα συνάρτησης, οι Cohen and Whitten (1982) προτείνουν την ακόλουθη επαναληπτική διαδικασία, ως τροποποίηση της µεθόδου. Αρχικά, απαλείφεται η παράµετρος ϐ από τις σχέσεις (3.2) και (3.3), και στη συνέχεια χρησιµοποιείται µια πρώτη εκτίµηση γ 1 της παραµέτρου γ, για να υπολογιστούν αρχικές τιµές α 1 και ϐ 1 των παραµέτρων α και ϐ. Στη συνέχεια, αντικαθιστώνται οι τιµές α 1, ϐ 1 και γ 1 στην εξίσωση (3.1) και ελέγχεται εάν το αποτέλεσµα είναι µηδέν. Εάν δεν επαληθεύεται η πρώτη σχέση, τότε η διαδικασία επαναλαµβάνεται µε σκοπό να ϐρούµε µια δεύτερη εκτίµηση του γ, γ 2. Η διαδικασία αυτή επαναλαµβάνεται όσες ϕορές χρειαστεί µέχρι να ϐρεθούν τιµές των παραµέτρων τέτοιες ώστε να ισχύει προσεγγιστικά η εξίσωση (3.1). Οι Cohen and Whitten (1982) προτείνουν, λοιπόν, ως αρχική εκτίµηση για την παράµετρο γ τον εκτιµητή µεθόδου ϱοπών του γ, ο οποίος δίνεται στη σχέση (3.16), µε την προϋπόθεση ότι γ 1 < x (1).

61 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ Ασυµπτωτικός Πίνακας ιασπορών - Συνδιασπορών Ο ασυµπτωτικός πίνακας διασπορών - συνδιασπορών των εκτιµητών µέγιστης πιθανοφάνειας ˆα, ˆϐ και ˆγ, όπως αναφέρουν οι Cohen and Whitten (1982), δίνονται µε την αντιστροφή του πίνακα πληροφορίας του Fisher (Fisher information matrix), του οποίου τα στοιχεία είναι αρνητικά καθώς προέρχονται από τις αναµενόµενες τιµές των δεύτερων µερικών παραγώγων της λογαριθµικής συνάρτησης πιθανοφάνειας. Πρόταση Εστω X = (X 1, X 2,..., X n ) τυχαίο δείγµα από την τριπαραµετρική Γάµµα κατανοµή, µε παραµέτρους α, ϐ, γ και από κοινού συνάρτηση πυκνότητας πιθανότητας να δίνεται από τη σχέση (3.4), τότε χρησιµοποιώντας τον Ορισµό ο πίνακας πληροφορίας του Fisher είναι, n (α 2)ϐ 2 n ϐ 2 n (α 1)ϐ I(γ, ϐ, α) = n ϐ 2 n (α 1)ϐ nα ϐ 2 n ϐ n ϐ nψ (α) (3.8) Απόδειξη. Για να µπορέσουµε να υπολογίσουµε τον πίνακα πληροφορίας του Fisher ϑα χρησιµοποιήσουµε τον τύπο, ( ) 2 (I(θ)) i,j = E lnf X (x; θ) θ i θ j, όπου θ = (γ, ϐ, α). Οπότε, αρχικά χρειάζεται να ϐρούµε τις µερικές παραγώγους του λογαρίθµου της από κοινού συνάρτησης πυκνότητας πιθανότητας, η οποία δίνεται από τη σχέση lnl = ln f X (x ; α, ϐ, γ) = n lnγ(α) nαln(ϐ) + (α 1) ln(x i γ) 1 ϐ (x i γ), και στη συνέχεια να υπολογίσουµε την µέση τιµή τους. Εποµένως, τα διαγώνια στοιχεία του πίνακα υπολογίζονται από τις δεύτερες µερικές παραγώγους ως προς κάθε παράµετρο του µοντέλου, δηλαδή,

62 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 46 συνεπώς, Επίσης, ( ) 1 γ lnl = (α 1) nϐ 2 + x i γ γ lnl = (α 1) (x 2 i γ) 2, ( ) 2 E γ lnl = E (α 1) (x 2 i γ) 2 = (α 1) E(x i γ) 2 (α 1)nϐ 2 = (α 1)(α 2) n = (α 2)ϐ. 2 α lnl = nψ(α) nln(ϐ) + ln(x i γ) 2 α lnl = 2 nψ (α), άρα, Ακόµη, έτσι, ϐ lnl = nα ϐ + 1 ϐ 2 ( ) 2 E α lnl = E ( nψ (α) ) = nψ (α). 2 (x i γ) 2 nα lnl = ϐ2 ϐ 2 2 ϐ 3 ( ) 2 E ϐ lnl = E nα 2 ϐ 2 2 ϐ 3 = nα ϐ ϐ 3 = nα ϐ ϐ 3 = nα ϐ 2 = nα ϐ 2 (x i γ) E(x i γ) αϐ + 2 ϐ 3 nαϐ (x i γ)

63 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 47 Ακολούθως, υπολογίζουµε τις αναµενόµενες τιµές των δεύτερων µερικών παραγώγων του λογαρίθµου της από κοινού συνάρτησης πυκνότητας πιθανότητας ως προς α, γ, ϐ, γ και α, ϐ. Ετσι, έχουµε, ( ) 2 E α γ lnl = E (X i γ) 1 = = = E(X i γ) 1 Γ(α 1) Γ(α)ϐ n (α 1)ϐ. Επίσης, ( ) ) 2 E ϐ γ lnl = E ( nϐ2 = n ϐ 2, και τέλος, ( ) 2 E α ϐ lnl = E ( n ) ϐ = n ϐ. Με τον τρόπο αυτό προκύπτει ότι, V(ˆγ, ˆϐ, ˆα) = (aij ) 1, i, j = 1, 2, 3 όπου

64 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 48 a 11 = n σ 2 α α 2, a 12 = a 21 = n σ 2 α a 22 = n σ 2 α 2, a 13 = a 31 = n σ 2 ( αϐ α 1 a 33 = n σ 2 αϐ 2 ψ (α), a 23 = a 32 = n σ 2 αϐ, σηµειώνουµε ότι η ψ (α) είναι η πρώτη παράγωγος της ίγαµµα συνάρτησης ως προς α και ονοµάζεται Τρίγαµµα συνάρτηση (Trigamma function). Υπολογίζοντας αναλυτικά τον αντίστροφο πίνακα, καταλήγουµε στον ασυµπτωτικό πίνακα διασπορών - συνδιασπορών, ο οποίος είναι, ) σ 2 n Φ 11 σ 2 n Φ 12 σ 2 nϐ Φ 13 V = σ 2 n Φ 21 σ 2 Φ nϐ 31 σ 2 n Φ 22 σ 2 nϐ Φ 32 σ 2 nϐ Φ 23 σ 2 Φ nϐ 2 33 (3.9) όπου Φ 11 = αψ (α) 1 αm, Φ 22 = (α 1)2 ψ (α) (α 2) α(α 1) 2 (α 2)M 2 Φ 33 =, Φ α(α 2)M 12 = 1 (α 1)ψ (α) α(α 1)M Φ 13 = 1, Φ 1 α(α 1)M 23 = α(α 1)(α 2)M και M = 2(α 1)2 ψ (α) (2α 3). (α 1) 2 (α 2) Τα προαναφερθέντα αποτελέσµατα συµφωνούν µε τις αντίστοιχες διακυµάνσεις και συνδιακυµάνσεις των Johnson and Kotz (1970), τα οποία ϑα αναφέρουµε στη συνέχεια. υστυχώς, αυτά τα αποτελέσµατα γίνονται αποδεκτά µόνο όταν το α > 2, αλλά όπως έχου- µε ήδη αναφέρει οι εκτιµητές µέγιστης πιθανοφάνειας έχουν αµφίβολη χρησιµότητα εκτός και αν το α είναι µεγαλύτερο από 2.5 (α > 2.5). Κατά συνέπεια, όταν α 2.5 καθίσταται

65 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 49 αναγκαίο να ϑεωρήσουµε άλλους εκτιµητές, όπως για παράδειγµα τους Τροποποιηµένους Εκτιµητές Μεθόδου Ροπών, [ϐλέπε Ενότητα 3.3]. Οταν, λοιπόν µπορούν να εφαρµοστούν, οι διασπορές της σχέσης (3.9), µας επιτρέπουν να υπολογίσουµε ασυµπτωτικά διαστή- µατα εµπιστοσύνης µε συντελεστή εµπιστοσύνης 100(1 a)%, για τις παραµέτρους Est ± z a/2 Var(Est), όπου µε Est συµβολίζουµε τους αντίστοιχους εκτιµητές των παραµέτρων και z a/2 είναι το ποσοστιαίο σηµείο της τυπικής κανονικής κατανοµής. Για να µπορέσουµε να υπολογίσουµε τις διασπορές των εκτιµητών, αναφέρουµε τον ασυµπτωτικό πίνακα διασπορών - συνδιασπορών, όπως αυτός παρουσιάζεται από τους Johnson et al., (1970). Αρχικά, χρησιµοποιώντας τη λογαριθµική συνάρτηση πιθανο- ϕάνειας ln L = ln f X (x ; α, ϐ, γ) και υπολογίζοντας όλες τις µερικές παραγώγους της, ως προς α, ϐ και γ, δηµιουργούµε έναν ασυµπτωτικό πίνακα διασπορών - συνδιασπορών των n ˆα, n ˆϐ και n ˆγ, ο οποίος είναι ο αντίστροφος του ακόλουθου πίνακα, ψ (α) ϐ 1 ϐ 1 (α 1) 1 A = ϐ 1 αϐ 2 ϐ 2 ϐ 1 (α 1) 1 ϐ 2 ϐ 2 (α 2) 1 Η ορίζουσα του πιο πάνω πίνακα ισούται µε, [ ] [ ] ] αϐ det(a) = ψ 4 (α) (α 2) ϐ 4 ϐ 1 ϐ 3 (α 2) ϐ 3 + [ϐ ϐ 1 3 αϐ 3 (α 1) (α 1) (α 1) [ ] [ ] [ ] = ψ (α)ϐ 4 α (α 2) 1 ϐ 4 1 (α 2) 1 + ϐ 4 α 1 (α 1) (α 1) (α 1) [ ] 2ψ (α) = ϐ 4 (α 2) 1 (α 1)(α 2) 1 (α 1) 2 = ϐ 4 [ 2ψ (α) (α 2) 2α 3 (α 1) 2 (α 2) ]. Εποµένως, το πρώτο στοιχείο του πίνακα διασπορών - συνδιασπορών ϑα ισούται µε το

66 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 50 Var( n ˆα), δηλαδή, Var( 1 n ˆα) = [αϐ 4 (α 2) 1 ϐ 4] det(a) [ ] 2ψ 1 (α) = ϐ 4 (α 2) 2α 3 2ϐ 4 (α 1) 2 (α 2) (α 2) [ = 2 2ψ (α) (2α 3)(α 1) 2] 1. Εφόσον, έχουµε ϐρει ότι Var( n ˆα) = 2 [ 2ψ (α) (2α 3)(α 1) 2] 1, τότε η διασπορά του ˆα ϑα ισούται µε, Var( ˆα) = 2n 1[ 2ψ (α) (2α 3)(α 1) 2] 1. Οµοίως, το δεύτερο και το τρίτο διαγώνιο στοιχείο του πίνακα διασπορών - συνδιασπο- ϱών ϑα είναι ίσο µε το Var( n ˆϐ) και Var( n ˆγ) αντίστοιχα. Var( 1 n ˆϐ) [ = det(a) ϐ 2 ψ (α)(α 2) 1 (α 1) 2] [ ] 2ψ 1 [ ] (α) = ϐ 4 (α 2) 2α 3 (α 1) 2 ϐ 2 ψ (α) (α 2) (α 1) 2 (α 2) (α 1) 2 (α 2) [ ] [ ] = ϐ 2 (α 1) 2 (α 2) (α 1) 2 ψ (α) (α 2) 2ψ (α)(α 1) 2 (2α 3) (α 1) 2 (α 2) = [ ] [ 1. ϐ 2 (α 1) 2 ψ (α) α + 2 2ψ (α)(α 1) 2 2α + 3] Ενώ, Var( n ˆγ) = 1 (αϐ 2 ψ (α) ϐ 2) det(a) = ϐ 4 [ 2ψ (α) (α 2) 2α 3 (α 1) 2 (α 2) ] 1 ( αϐ 2 ψ (α) ϐ 2) = ϐ 2 (α 2) ( αψ (α) 1 ) [2ψ (α) (2α 3)(α 1) 2] 1. Άρα, οι διασπορές των ˆϐ και ˆγ ϑα είναι,

67 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 51 Var(ˆϐ) [ ] [ 1, = ϐ 2 n 1 (α 1) 2 ψ (α) α + 2 2ψ (α)(α 1) 2 2α + 3] και Var(ˆγ) = ϐ 2 n 1 (α 2) ( αψ (α) 1 ) [2ψ (α) (2α 3)(α 1) 2] 1. Ετσι, συνοπτικά έχουµε αποδείξει ότι οι διασπορές των εκτιµητών µέγιστης πιθανοφάνειας ˆα, ˆϐ και ˆγ είναι, Var( ˆα) 2n 1[ 2ψ (α) (2α 3)(α 1) 2] 1 Var(ˆϐ) [ ] [ ϐ 2 n 1 (α 1) 2 ψ (α) α + 2 2ψ (α)(α 1) 2 2α + 3 Var(ˆγ) ϐ 2 n 1 (α 2) ( αψ (α) 1 ) [2ψ (α) (2α 3)(α 1) 2] 1. ] 1 Χρησιµοποιώντας, όµως, την προσέγγιση της τρίγαµµα συνάρτησης, ψ (α) α α α 3 (3.10) καταλήγουµε στις ακόλουθες απλές σχέσεις, Var( ˆα) 6n 1 α 3 Var(ˆϐ) 3n 1 ϐ 2 α Var(ˆγ) 3 2 n 1 ϐ 2 α 3, οι οποίες δίνουν την τάξη του µεγέθους των διασπορών, όταν το α είναι µεγάλο. Ο Fisher (1922) κατέληξε σε µία πιο ακριβή προσέγγιση της διασποράς του εκτιµητή ˆα, χρησιµοποιώντας περισσότερους όρους από την προσέγγιση της σχέσης (3.10). Var( ˆα) 6n 1 [ (α 1) (α 1) ].

68 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ Εκτιµητές Μεθόδου Ροπών Σε αυτή την ενότητα, χρησιµοποιούµε τη µέθοδο ϱοπών για να εκτιµήσουµε τις παρα- µέτρους α, ϐ και γ, δηλαδή χρησιµοποιούµε το σύστηµα εξισώσεων m i = µ i, i = 1, 2, 3, οπότε παίρνουµε τις ακόλουθες σχέσεις, γ + α ϐ = X (3.11) α ϐ2 = m 2 (3.12) 2 α ϐ3 = m 3 (3.13) όπου m = 1 X = 1 X n i, m 1 = m = 1 X m = 1 2 X 2 n i, m 2 = 1 2 (X n i X) m 3 = 1 n X 3 i, m 3 = 1 n 3 (X i X) Πρόταση Αν έχουµε τυχαίο δείγµα X = (X 1, X 2,..., X n ) από την τριπαραµετρική Γάµµα κατανοµή µε παραµέτρους α, ϐ, γ, G(α, ϐ, γ), τότε οι εκτιµητές µε τη µέθοδο των ϱοπών είναι, αντίστοιχα, α = 4m3 2 m 2 3 (3.14) ϐ = m 3 2m 2 (3.15) γ = X 2m 2 2 m 3. (3.16) Απόδειξη. Επειδή η τυχαία µεταβλητή X ακολουθεί την τριπαραµετρική Γάµµα κατανοµή µε άγνωστες παραµέτρους α, ϐ και γ > 0, έχει συνάρτηση πυκνότητας πιθανότητας, f X (x) = { 1 Γ(α)ϐ (x α γ)α 1 exp x γ } ϐ, x > γ.

69 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 53 Αρχικά, ϑα πρέπει να υπολογίσουµε τη ϱοπή κ - τάξης µ k, E(X γ) k = = = + γ 1 Γ(α)ϐ α (x γ) k + γ Γ(α + k)ϐα+k Γ(α)ϐ α 1 Γ(α)ϐ (x α γ)α 1 e x γ ϐ dx (x γ) α+k 1 e x γ ϐ dx + γ 1 Γ(α + k)ϐ (x α+k γ)α+k 1 e x γ ϐ dx, δηλαδή, E(X γ) k = Γ(α + k) Γ(α) ϐ k (3.17) Συνεπώς, από την Πρόταση 2.2.3, εφόσον έχουµε αποδείξει ότι E(X) = αϐ + γ, ταυτίζοντας τη ϱοπή 1 ης τάξης µ 1 = E(X) µε τη δειγµατική ϱοπή 1 ης τάξης έχουµε τη σχέση (3.11), δηλαδή, µ 1 = m 1 1 γ + α ϐ = n X i γ + α ϐ = X. Επίσης, για να αποδείξουµε τη σχέση (3.12) πρέπει να χρησιµοποιήσουµε τη διασπορά της τυχαίας µεταβλητής X, Var(X) = αϐ 2, την οποία έχουµε αποδείξει στην Πρόταση Εποµένως, ταυτίζοντας τη ϱοπή 2 ης τάξης µ 2 = α ϐ2 + ( γ + α ϐ) 2 µε τη δειγµατική διασπορά έχουµε τη σχέση (3.12), δηλαδή, µ 2 = m 2 α ϐ2 + X 2 = 1 n X 2 i α ϐ2 = 1 n 2 (X i X) Ακόµη, για να αποδείξουµε τη σχέση (3.13) χρειάζεται να υπολογίσουµε το E(X µ) 3 = E(X 3 ) 3µE(X 2 ) + 3µ 2 E(X) µ 3. Εχοντας, όµως, υπολογίσει από τη σχέση (3.17) ότι, E(X γ) 3 = Γ(α + 3) Γ(α) ϐ 3 = α(α + 1)(α + 2)ϐ 3

70 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 54 Τότε, E(X 3 ) = α(α + 1)(α + 2)ϐ 3 + 3γE(X 2 ) 3γ 2 E(X) + γ 3 = α(α + 1)(α + 2)ϐ 3 + 3γ(α(α + 1)ϐ 2 + 2αϐγ + γ 2 ) 3γ 2 (αϐ + γ) + γ 3 = α 3 ϐ 3 + 3α 2 ϐ 3 + 2αϐ 3 + 3αϐ 2 γ + 3α 2 ϐ 2 γ + 3αϐγ 2 + γ 3 = (αϐ + γ) 3 + 3αϐ 2 (αϐ + γ) + 2αϐ 3 = µ 3 + 3αϐ 2 µ + 2αϐ 3 Εποµένως, ταυτίζοντας τη ϱοπή 3 ης τάξης µ 3 = ( γ + α ϐ)3 + 3 α ϐ2 ( γ + α ϐ)2 + 2 α ϐ3 µε τη δειγµατική κεντρική ϱοπή 3 ης τάξης m = 1 3 X 3 n i έχουµε τη σχέση (3.13), δηλαδή, Εφόσον, όµως, µ 3 = m 3 ( γ + α ϐ) α ϐ2 ( γ + α ϐ) α ϐ3 = 1 n X (X i X)2 X + 2 α n ϐ3 = 1 n 2 α ϐ3 = 1 n 2 α ϐ3 = 1 n X 3 i X 3 i 3 1 n X 3 X X 3 i (X i X) 2 3 X X 3 i (X i X) 2 3 n X. (3.18) (X i X) 3 = = = = (X 3 i 3X 2 i X + 3X i X 2 X 3 ) X 3 i X 3 i X 3 i 3 X 3 X 3 X X 2 i + 3 X 2 X 2 3 X i n X 2 i X n 3 X ( Xi X) 2 n X 3,

71 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 55 τότε, η σχέση (3.18) γίνεται, 2 α ϐ3 = 1 n (X i X) 3. Συνοπτικά, λοιπόν, έχουµε δείξει ότι οι εκτιµητές των α, ϐ και γ χρησιµοποιώντας τη µέθοδο των ϱοπών επαληθεύουν τις ακόλουθες σχέσεις, γ + α ϐ = X α ϐ2 = m 2 όπου X = 1 n X i, m 2 = 1 n 2 α ϐ3 = m 3 (X i X) 2, m 3 = 1 n η δεύτερη και τρίτη κεντρική ϱοπή αντίστοιχα. (X i X) 3 είναι ο δειγµατικός µέσος, εδοµένου ότι η µέθοδος αυτή χρησιµοποιείται όταν το n είναι αρκετά µεγάλο, δεν χρειάζεται να προσπαθήσουµε να κάνουµε τους εκτιµητές αµερόληπτους, και επίσης δεν είναι σαφές ότι αυτό ϑα ϐελτιώσει την ακρίβεια της εκτίµησης. Λύνοντας τις πιο πάνω εξισώσεις καταλήγουµε ότι οι Εκτιµητές Μεθόδου Ροπών (Moment Estimators) είναι, α = 4m3 2 m 2 3 (3.19) ϐ = m 3 2m 2 (3.20) γ = X 2m 2 2 m 3 (3.21) Παρατήρηση Οι εκτιµητές Μεθόδου Ροπών δεν υπάρχουν όταν ο δειγµατικός συντελεστής λοξότητας, α 3 = m 3 /m 3/2 2, είναι αρνητικός. Αυτό µπορεί να συµβεί όταν ο ϑεωρητικός συντελεστής λοξότητας α 3 είναι κοντά στο µηδέν και το δείγµα δεν είναι αρκετά µεγάλο.

72 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 56 Παρατήρηση Αν και αυτοί είναι δειγµατικοί τύποι, οι εκτιµητές συχνά, δυστυχώς, είναι πολύ µικρότερης ακρίβειας από τους εκτιµητές µέγιστης πιθανοφάνειας ˆα, ˆϐ και ˆγ. Μπορεί να δειχθεί ότι εάν το n και το α είναι µεγάλα, τότε, Var( α) 6 α(α + 1)(α + 5). n Συγκρίνοντας το Var( α) και Var( ˆα), παρατηρούµε ότι η αναλογία των προσεγγιστικών τιµών Var( ˆα)/Var( α) είναι ουσιαστικά µικρότερη της µονάδας, εκτός και αν το α είναι αρκετά µεγάλο. Η αναλογία είναι Var( ˆα) Var( α) (α 1)3 + 1 (α 1) 5 α(α + 1)(α + 5) και αυξάνεται µε το α, ϕτάνοντας την τιµή 0.8 όταν το α = Από την άλλη, έχουµε επισηµάνει ότι εάν το α είναι µικρότερο από 2.5 οι εκτιµητές µέγιστης πιθανοφάνειας έχουν αµφίβολη χρησιµότητα. Για αυτό το λόγο, καθιστά αναγκαίο να εξετάσουµε νέες µεθόδους εκτίµησης. 3.3 Τροποποιηµένοι Εκτιµητές Μεθόδου Ροπών Για να ξεπεραστούν, λοιπόν, αυτού του είδους τα προβλήµατα, έχουν προταθεί διάφο- ϱες παραλλαγές των εκτιµητών µέγιστης πιθανοφάνειας και µεθόδου ϱοπών, ϐλέπε για παράδειγµα Bai et al. (1991) και Hirose (1995). Συγκεκριµένα, οι Cohen and Whitten (1986) πρότειναν µια παραλλαγή για τους εκτι- µητές της µεθόδου ϱοπών, οι οποίοι ονοµάζονται Τροποποιηµένοι Εκτιµητές Μεθόδου Ροπών (Modified Moment Estimators MME). Οι εκτιµητές αυτοί είναι αµερόληπτοι για τη µέση τιµή και τη διακύµανση της κατανοµής µας. Επίσης, εφαρµόζονται σε ολόκληρο τον παραµετρικό χώρο και όπως αποδεικνύεται σε µελέτες προσοµοίωσης των Cohen and

73 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 57 Whitten (1982, 1986), η εκτίµηση των διακυµάνσεων τους είναι ελάχιστη ή τουλάχιστον σχεδόν ελάχιστη σε σύγκριση µε τις αντίστοιχες διακυµάνσεις των εκτιµητών µεθόδου ϱοπών (ΜΜ) και µέγιστης πιθανοφάνειας (MLE). Με τη ϐοήθεια των γραφηµάτων και των πινάκων που παρέχονται από τους Cohen and Whitten (1986) είναι αρκετά εύκολο να υπολογιστούν. Στη συνέχεια, λοιπόν, ϑα παρουσιάσουµε τη µελέτη που έγινε σε αυτή την εργασία. Πρόταση Αν έχουµε τυχαίο δείγµα X = (X 1, X 2,..., X n ) από την τριπαραµετρική Γάµµα κατανοµή µε παραµέτρους α, ϐ, γ, G(α, ϐ, γ), τότε οι τροποποιηµένοι εκτιµητές µεθόδου ϱοπών είναι, όπου s 2 = 1 n 1 n (x i x) 2, ˆ α 3 = 2 ˆα ˆα = 4ˆ α 2 3 ˆϐ = sαˆ 3 2 (3.22) (3.23) ˆγ = x 2s, (3.24) αˆ 3 τέτοιο ώστε G(z (1) ; 0, 1, αˆ 3 ) = 1, συνάρτηση κατα- n+1 νοµής της τυποποιηµένης Γάµµα κατανοµής Γ(0, 1, αˆ 3 ) και z (1) η ελάχιστη τυποποιηµένη παρατήρηση του δείγµατος. Απόδειξη. Οι εξισώσεις που χρησιµοποιούµε για την εκτίµηση µε την τροποποιηµένη µέ- ϑοδο των ϱοπών είναι, E(X) = x, Var(X) = s 2 = 1 n 1 (x i x) 2, E [ F(X (1) ) ] = F(x (1) ) όπου F( ) είναι η συνάρτηση κατανοµής, X (1) είναι η ελάχιστη διατεταγµένη τυχαία µετα- ϐλητή και x (1) είναι η ελάχιστη παρατηρηθείσα τιµή του δείγµατος. Ετσι, η τροποποίηση που προτείνεται είναι η αντικατάσταση της εξίσωσης που περιλαµβάνει την τρίτη ϱοπή µε την εξίσωση P(X < x (1) ) = 1 n+1, η οποία περιλαµβάνει την ελάχιστη τιµή του δείγµατος, x (1).

74 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 58 Ετσι, οι εξισώσεις που χρησιµοποιούνται για την εύρεση των τροποποιηµένων εκτιµητών µεθόδου ϱοπών, γίνονται αϐ + γ = x, αϐ 2 = s 2, F(x (1) ) = 1 n + 1. (3.25) Προκειµένου να χρησιµοποιήσουµε την τρίτη εξίσωση από τη σχέση (3.25), χρησιµοποιούµε την τυποποιηµένη συνάρτηση πυκνότητας πιθανότητας και συνάρτηση κατανο- µής. Κάνοντας το µετασχηµατισµό τυποποίησης Z = [X E(X)]/ Var(X), η συνάρτηση πυκνότητας πιθανότητας της παραγόµενης τυποποιηµένης Γάµµα κατανοµής (0, 1, α 3 ) µε µέση τιµή 0, διασπορά 1 και α 3 να είναι η παράµετρος σχήµατος, γίνεται, g(z ; 0, 1, α 3 ) = 1 Γ(4/α 2 3 ) ( 2 α 3 ) ( 4/α 2 3 z + 2 ) 4/α 2 )] 3 1 exp [ (z 2α3 + 2α3 α3, 2 α 3 < z < αντίστοιχα, η συνάρτηση κατανοµής γράφεται, οθέντος ότι Ê(X) = x και G(z ; 0, 1, α 3 ) = z 2/α 3 g(t ; 0, 1, α 3 ) dt ˆ σ2 = s 2, γράφουµε z (1) = (x (1) x)/s. Εφόσον, λοιπόν, F(x (1) ) = G(z (1) ) από τη σχέση (3.25) καταλήγουµε στις ακόλουθες εξισώσεις, G(z (1) ; 0, 1, αˆ 3 ) = 1 n + 1, sαˆ 3 ˆϐ = 2 2s, ˆγ = x, ˆα = 4ˆ. (3.26) αˆ 3 α 2 3 Η πρώτη εξίσωση των σχέσεων (3.26) πρέπει να λυθεί για το αˆ 3. Θα µπορούσε να λυθεί και άµεσα από το α, αλλά για να γίνουν συγκρίσεις µε τις λοξές κατανοµές, ϕάνηκε σκόπιµο να ϑεωρήσουµε το αˆ 3, ως η κύρια παράµετρος σχήµατος και να εξετάσουµε το

75 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 59 α ως συνάρτηση του α 3. Εφόσον, λοιπόν, καθοριστεί το αˆ 3, στη συνέχεια ακολουθούν οι εκτιµήσεις των ˆα, ˆϐ και ˆγ χρησιµοποιώντας τις υπόλοιπες εξισώσεις των (3.26). εδοµένου ότι γ < x (1), από την τρίτη σχέση των (3.26) παρατηρούµε ότι α 3 < 2s/( x x (1) ). Αυτή η ανισότητα µας ορίζει ένα άνω ϕράγµα για το αˆ 3 το οποίο µπορεί να διευκολύνει την επίλυση της πρώτης εξίσωσης για την εκτίµηση. Ενα ισοδύναµο κάτω ϕράγµα για το ˆα είναι ˆα > ( x x (1) ) 2 /s 2, εφόσον γνωρίζουµε ότι α 3 = 2/ α. 3.4 ιπαραµετρική Εκθετική Κατανοµή Σε αυτή την ενότητα αναφερόµαστε επιγραµµατικά στη διπαραµετρική Εκθετική κατανο- µή, καθώς και σε κάποια ϐασικά χαρακτηριστικά της. Υπολογίζουµε, επίσης, τους εκτι- µητές µέγιστης πιθανοφάνειας, τους εκτιµητές µεθόδου ϱοπών και τους τροποποιηµένους εκτιµητές µεθόδου ϱοπών. Η Εκθετική κατανοµή, όπως έχουµε προαναφέρει, είναι µία ειδική περίπτωση της Γάµµα κατανοµής, καθώς δηµιουργείται από τη Γάµµα κατανοµή εάν ορίσουµε την πα- ϱάµετρο µορφής α ίση µε ένα (α = 1), στη σχέση (2.1). Ετσι, η συνάρτηση πυκνότητας πιθανότητας και η συνάρτηση κατανοµής της διπαραµετρικής Εκθετικής κατανοµής γίνονται, αντίστοιχα, f (x ; ϐ, γ) = 1 ( )} x γ { ϐ exp ϐ, x > γ, ϐ > 0, (3.27) Ακόµη, η µέση τιµή και η διασπορά της είναι, { ( )} x γ F(x ; ϐ, γ) = 1 exp. (3.28) ϐ

76 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 60 E(X) = ϐ + γ και V(X) = ϐ 2. (3.29) Εκτιµητές Μέγιστης Πιθανοφάνειας Σε αυτή την ενότητα αναφέρουµε το πρόβληµα εκτίµησης της µέγιστης πιθανοφάνειας, όσον αφορά τις παραµέτρους του µοντέλου της διπαραµετρικής Εκθετικής κατανοµής. Πρόταση Εστω X = (X 1, X 2,..., X n ) τυχαίο δείγµα από τη διπαραµετρική Εκ- ϑετική κατανοµή, µε παραµέτρους ϐ, γ, τότε οι εκτιµητές µέγιστης πιθανοφάνειας ˆϐ, ˆγ, αντίστοιχα, είναι, ˆϐ = X X(1) (3.30) ˆγ = X (1) (3.31) Απόδειξη. Εστω X = (X 1, X 2,..., X n ) δείγµα αποτελούµενο από n ανεξάρτητες και ισόνο- µες τυχαίες µεταβλητές που ακολουθούν τη διπαραµετρική Εκθετική κατανοµή µε παρα- µέτρους ϐ, γ και έχουν συνάρτηση πυκνότητας πιθανότητας f (x i ; ϐ, γ), η οποία δίνεται από τη σχέση (3.27). Από τη σχέση (3.27), λοιπόν, υπολογίζουµε την από κοινού συνάρτηση πυκνότητας πιθανότητας του τυχαίου δείγµατος ως εξής, f X (x ; ϐ, γ) = n f (x i ; ϐ, γ) n { ( )} 1 = ϐ exp xi γ ϐ = 1 ϐ exp n 1 (x i γ) ϐ.

77 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 61 Εποµένως, f X (x; ϐ, γ) = exp nlnϐ + n ϐ γ 1 ϐ Από τη σχέση (3.32), λογαριθµώντας, προκύπτει ότι, lnl = ln f X (x ; ϐ, γ) = nlnϐ + n ϐ γ 1 ϐ x i x i. (3.32) Παρατηρούµε ότι ο εκτιµητής µέγιστης πιθανοφάνειας για την παράµετρο γ είναι η ελάχιστη διατεταγµένη παρατήρηση, δηλαδή ˆγ = X (1), όπου X (1) = min {X 1,, X n }. Επίσης, παραγωγίζοντας ως προς ϐ τη συνάρτηση lnl, καταλήγουµε στον εκτιµητή µέγιστης πιθανοφάνειας για την παράµετρο ϐ, δηλαδή, ϐ lnl = 0 n ϐ n ϐ γ ϐ 2 nϐ nγ + ϐ + γ X = 0 ˆϐ = X X(1) x i = 0 x i = Εκτιµητές Μεθόδου Ροπών Σε αυτή την ενότητα χρησιµοποιούµε τη µέθοδο ϱοπών προκειµένου να εκτιµήσουµε τις παραµέτρους του µοντέλου της διπαραµετρικής Εκθετικής κατανοµής, δηλαδή χρησιµοποιούµε το σύστηµα εξισώσεων m i = µ i, i = 1, 2, οπότε παίρνουµε τις ακόλουθες σχέσεις, γ + ϐ = X (3.33) ϐ 2 = m 2 (3.34)

78 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 62 όπου m = 1 X = 1 X n i, m 1 = m = 1 X m = 1 2 X 2 n i, m 2 = 1 2 (X n i X) Πρόταση Αν έχουµε τυχαίο δείγµα X = (X 1, X 2,..., X n ) από τη διπαραµετρική Εκθετική κατανοµή µε παραµέτρους ϐ, γ, G(1, ϐ, γ), τότε οι εκτιµητές µε τη µέθοδο των ϱοπών είναι, ϐ = m 1/2 2 (3.35) γ = X m 1/2 2 (3.36) Απόδειξη. Γνωρίζοντας ότι E(X) = ϐ + γ, ταυτίζοντας τη ϱοπή 1 ης τάξης µ 1 = E(X) µε τη δειγµατική ϱοπή 1 ης τάξης έχουµε τη σχέση (3.33), δηλαδή, µ 1 = m 1 1 γ + ϐ = n X i γ + ϐ = X Επίσης, για να αποδείξουµε τη σχέση (3.34) πρέπει να χρησιµοποιήσουµε τη διασπορά της τυχαίας µεταβλητής X, Var(X) = ϐ 2. Εποµένως, ταυτίζοντας τη ϱοπή 2 ης τάξης µ 2 µε τη δειγµατική διασπορά έχουµε τη σχέση (3.36), δηλαδή, µ 2 = m 2 ϐ2 + X 2 = 1 n X 2 i ϐ2 = 1 n 2 (X i X) όπου E(X 2 ) = Var(X) + (E(X)) 2 = ϐ 2 + (ϐ + γ) 2.

79 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 63 Εποµένως, έχουµε δείξει ότι οι εκτιµητές των ϐ και γ χρησιµοποιώντας τη µέθοδο των ϱοπών επαληθεύουν τις ακόλουθες σχέσεις, γ + ϐ = X όπου X = 1 n X i, m 2 = 1 n κεντρική ϱοπή, αντίστοιχα. ϐ 2 = m 2 (X i X) 2, είναι ο δειγµατικός µέσος και η δεύτερη Λύνοντας τις πιο πάνω εξισώσεις καταλήγουµε ότι οι Εκτιµητές Μεθόδου Ροπών (Moment Estimators) είναι, ϐ = m 1/2 2 = s (3.37) γ = X s (3.38) Τροποποιηµένοι Εκτιµητές Μεθόδου Ροπών Σε αυτή την ενότητα ϑα αναφέρουµε τους τροποποιηµένους εκτιµητές µεθόδου ϱοπών, για τις παραµέτρους του µοντέλου της διπαραµετρικής Εκθετικής κατανοµής, έτσι όπως περιγράφονται από τους Cohen and Whitten (1988) και Balakrishnan and Cohen (1990). Πρόταση Αν έχουµε τυχαίο δείγµα X = (X 1, X 2,..., X n ) από τη διπαραµετρική Εκ- ϑετική κατανοµή µε παραµέτρους ϐ, γ, τότε οι τροποποιηµένοι εκτιµητές µεθόδου ϱοπών είναι, όπου x = 1 n ˆϐ = n( x x (1)) n 1 x i είναι ο δειγµατικός µέσος. (3.39) ˆγ = nx (1) x n 1, (3.40)

80 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 64 Απόδειξη. Οι εξισώσεις που χρησιµοποιούµε για την εκτίµηση µε την τροποποιηµένη µέ- ϑοδο των ϱοπών είναι, E(X) = x, E ( X (1) ) = x(1) όπου X (1) είναι η ελάχιστη διατεταγµένη τυχαία µεταβλητή και x (1) είναι η παρατηρηθείσα τιµή του δείγµατος. Αρχικά, ϑα πρέπει να υπολογίσουµε τη συνάρτηση πυκνότητας πιθανότητας της τυχαίας µεταβλητής X (1) και τη µέση τιµή της, προκειµένου να γίνει η τροποποίηση που προτείνεται στην εξίσωση που περιλαµβάνει τη δεύτερη ϱοπή. Ετσι, χρησιµοποιώντας τις σχέσεις (3.27) και (3.32) έχουµε, f X(1) (x) = n f (x) [1 F(x)] n 1 = n 1 ( )} [ { ( x γ x γ { ϐ exp exp ϐ ϐ = n ( )} x γ { n ϐ exp, x > γ, ϐ > 0, ϐ εποµένως, E(X (1) ) = γ + ϐ/n και Var(X (1) ) = (ϐ/n) 2. )}] n 1 Ετσι, οι εξισώσεις που χρησιµοποιούνται για την εύρεση των τροποποιηµένων εκτιµητών µεθόδου ϱοπών, γίνονται ϐ + γ = x, γ + ϐ n = x (1). (3.41) Λύνοντας, λοιπόν, τις πιο πάνω εξισώσεις καταλήγουµε στους ακόλουθους τροποποιη- µένους εκτιµητές µεθόδου ϱοπών, ˆϐ = n( x x (1)) n 1 ˆγ = nx (1) x n 1.

81 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 65 Οι τροποποιηµένοι εκτιµητές µεθόδου ϱοπών για τη διπαραµετρική Εκθετική κατανοµή είναι Βέλτιστοι Γραµµικοί Αµερόληπτοι Εκτιµητές (Best Linear Unbiased (BLUE)), καθώς και Αµερόληπτοι Εκτιµητές Ελάχιστης ιασποράς (Minimum Variance Unbiased (MVUE)), όπως έχουν αποδείξει οι Cohen and Helm (1973) και Sarhan and Greenberg (1956). Οι ακριβείς διασπορές όπως και η συνδιασπορά των τροποποιηµένων εκτιµητών µεθόδου ϱοπών, όπως έχουν δείξει οι Cohen and Helm (1973) είναι, V(ˆϐ) = ϐ 2 n 1 ϐ 2 V(ˆγ) = n(n 1) ϐ 2 Cov(ˆϐ, ˆγ) = n(n 1). (3.42) 3.5 Σύγκριση Εκτιµητών Σε αυτή την ενότητα παρουσιάζονται µερικά παραδείγµατα, τα οποία αναφέρονται από τους Cohen and Whitten (1988), για την τριπαραµετρική Γάµµα κατανοµή, χρησιµοποιώντας και την Εκθετική κατανοµή, µε σκοπό να συγκρίνουµε τους Εκτιµητές Μέγιστης Πιθανοφάνειας, τους Εκτιµητές Μεθόδου Ροπών, καθώς επίσης και τους Τροποποιηµένους Εκτιµητές Μεθόδου Ροπών Παράδειγµα 1 Τα µέγιστα επίπεδα από τις πληµµύρες σε εκατοµµύρια κυβικά πόδια ανά δευτερόλεπτο για τον ποταµό Susquehanna στο Harrisburg, Pennsylvania, πάνω από 20 περιόδους τεσσάρων ετών από το 1890 έως το 1969 είναι,

82 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 66 Πίνακας 3.1: εδοµένα από τους Dumonceaux and Antle (1973) Για αυτό το παράδειγµα, έχουµε ότι, n = 20, x = , s 2 = , s = , x (1) = 0.265, α 3 = και z (1) = Από το Σχήµα 3.1, για n = 20 και z (1) = 1.262, ϐλέπουµε ότι αˆ 3 = Γνωρίζοντας, λοιπόν, ό- τι αˆ 3 = 1.174, στη συνέχεια χρησιµοποιούµε τη σχέση (3.26) για να υπολογίσουµε ότι ˆα = 2.902, ˆϐ = και ˆγ = µε E( ˆX) = και ˆσ = Αυτές οι τιµές ϑα έπρεπε να είναι αρκετά ακριβείς για αρκετούς σκοπούς. Τουλάχιστον, ϑα µπορούσαν να παρέχουν µία αρκετά καλή πρώτη προσέγγιση για µια επαναληπτική διαδικασία για τον υπολογισµό των Εκτιµητών Μέγιστης πιθανοφάνειας, όταν αυτές οι εκτιµήσεις α- παιτούνται. Για το συγκεκριµένο παράδειγµα, έγιναν υπολογισµοί χρησιµοποιώντας το πρόγραµµα σε FORTRAN των Cohen and Whitten (1982) και τα αποτελέσµατα παρουσιάζονται στον Πίνακα 3.2. Σηµειώνουµε ότι αυτές οι τιµές διαφέρουν ελαφρώς από τις προσεγγίσεις. Για να µπορέσουν να γίνουν συγκρίσεις, ο εκτιµητής µέγιστης πιθανοφάνειας υπολογίστηκε σε πρόγραµµα FORTRAN από τους Cohen and Whitten (1982) και παρουσιάζεται µαζί µε τους εκτιµητές µεθόδου ϱοπών και τροποποιηµένων ϱοπών στον Πίνακα 3.2. Λόγω του ότι, το µέγεθος του δείγµατος είναι µικρό και το γεγονός ότι η παράµετρος α είναι επίσης µικρή, αντιµετωπίστηκαν κάποιες δυσκολίες στην απόκτηση επαρκούς αριθµού σηµαντικών ψηφίων για τον υπολογισµό των εκτιµητών µέγιστης πιθανοφάνειας.

83 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 67 Πίνακας 3.2: Εκτιµήσεις για το Παράδειγµα 1 (Γάµµα κατανοµή) Εκτιµητής ˆγ ˆα ˆϐ Ê(X) ˆV(X) α3 ˆ (X) ME MLE MME (approx) α MME (exact) ϐ α Υπολογίστηκε γραφικά από το Σχήµα 3.1. ϐ Υπολογίστηκε χρησιµοποιώντας το πρόγραµµα FORTRAN από τους Cohen and Whitten (1988). Η ασυµπτωτική τυπική απόκλιση υπολογίστηκε χρησιµοποιώντας τη σχέση (3.9): σˆγ = 0.032, σ ˆα = 1.47, σˆϐ = Από το κεντρικό οριακό ϑεώρηµα έχουµε σ X = Παράδειγµα 2 Αυτό το παράδειγµα προέρχεται από την εργασία του McCool (1974), όπως αναφέρουν οι Cohen and Whitten (1988). Τα δεδοµένα προέρχονται από τη διάρκεια της ωφέλιµης Ϲωής, σε ώρες, δέκα εδράνων (ϱουλεµάν), συγκεκριµένου τύπου. Τα δεδοµένα αυτά ακολουθούν κατά αύξουσα σειρά, Πίνακας 3.3: εδοµένα από τον McCool (1974) Για αυτό, λοιπόν, το παράδειγµα έχουµε ότι, n = 10, x = , s 2 = , s = , x (1) = 152.7, α 3 = και z (1) = Από το Σχήµα 3.1, για n = 10 και z (1) = 0.864, ϐλέπουµε ότι αˆ 3 = Γνωρίζοντας, λοιπόν, ότι αˆ 3 = 2.153, στη συνέχεια χρησιµοποιούµε τη σχέση (3.26) για να υπολογίσουµε ότι ˆα =

84 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ , ˆϐ = και ˆγ = µε Ê(X) = και ˆσ = Εγιναν υπολογισµοί, χρησιµοποιώντας πρόγραµµα σε FORTRAN, από τους Cohen and Whitten (1982), των οποίων τα αποτελέσµατα παρουσιάζονται στον Πίνακα 3.4. Σηµειώνουµε, επίσης, ότι αυτές οι τιµές διαφέρουν ελαφρώς από τις προσεγγίσεις και σε αυτό το παράδειγµα. Ακόµη, οι εκτιµητές µέγιστης πιθανοφάνειας δεν υπολογίστηκαν για αυτό το παράδειγµα. Πίνακας 3.4: Εκτιµήσεις για το Παράδειγµα 2 (Γάµµα κατανοµή) Εκτιµητής ˆγ ˆα ˆϐ Ê(X) ˆV(X) α3 ˆ (X) ME MLE (not calculated) MME (approx) α MME (exact) ϐ BLUE / MVUE ς α Υπολογίστηκε γραφικά από το Σχήµα 3.1. ϐ Υπολογίστηκε χρησιµοποιώντας το πρόγραµµα FORTRAN από τους Cohen and Whitten (1988). ς Υπολογίστηκε χρησιµοποιώντας τις σχέσεις (3.39) (3.40) υποθέτοντας ότι α = 1. Η ασυµπτωτική τυπική απόκλιση υπολογίστηκε χρησιµοποιώντας τη σχέση (3.42): σˆγ = 7.938, σˆϐ = , Cov(ˆϐ, ˆγ) = Οι ασυµπτωτικές διασπορές από τη σχέση (3.9) δεν είναι εφαρ- µόσιµες, εφόσον α < 2. Από το κεντρικό οριακό ϑεώρηµα έχουµε σ X = Σηµειώνουµε, ακόµη, ότι αυτό το δείγµα µπορεί να επιλεχθεί και για τη διπαραµετρική Εκθετική κατανοµή. Εποµένως, υπολογίστηκαν οι τροποποιηµένοι εκτιµητές µεθόδου ϱοπών για τις παραµέτρους του µοντέλου της διπαραµετρικής Εκθετικής κατανοµής, οι οποίοι είναι Βέλτιστοι Γραµµικοί Αµερόληπτοι εκτιµητές (Best Linear Unbiased (BLUE)), καθώς και Αµερόληπτοι Εκτιµητές Ελάχιστης ιασποράς (Minimum Variance Unbiased (MVUE)), όπως αναφέραµε και στην Ενότητα 3.4.

85 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 69 Εφόσον, η Εκθετική κατανοµή είναι µα ειδική περίπτωση της Γάµµα κατανοµής, στην οποία έχουµε για α = 1 και α 3 = 2, οι εκτιµήσεις αυτές συµπεριλαµβάνονται στον Πίνακα 3.4 µε σκοπό να γίνουν συγκρίσεις µεταξύ των εκτιµήσεων της Γάµµα κατανοµής.

86 ΚΕΦΑΛΑΙΟ 3. ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 70 Σχήµα 3.1: Γραφική παράσταση του α 3 συναρτήσει των z 1 και n για την Γάµµα κατανοµή

87 Κεφάλαιο 4 Μέθοδος Πρόβλεψης - ιόρθωσης 4.1 Εισαγωγή Σε αυτό το κεφάλαιο, ϑα αναφερθούµε σε µία εργασία του Hirose (1995), η οποία δείχνει ένα εξαιρετικά επιτυχηµένο σχήµα εκτίµησης µέγιστης πιθανοφάνειας για την τριπαραµετρική Γάµµα κατανοµή. Σε αυτή την εργασία, λοιπόν, η προτεινόµενη µέθοδος υιοθετεί µία αναπαραµετρικοποιηµένη συνάρτηση πυκνότητας και µία µέθοδο πρόβλεψης - διόρ- ϑωσης (predict - corrector method). Επίσης, παρουσιάζει ένα πολύ ενδιαφέρον γεγονός, ότι υπάρχουν πολλαπλές (πεπερασµένου πλήθους) τοπικές εκτιµήσεις µέγιστης πιθανοφάνειας στην τριπαραµετρική Γάµµα κατανοµή. Οπως επεσήµαναν οι Bowman and Shenton (1988), η µοναδικότητα της λύσης των εξισώσεων πιθανοφάνειας είναι ακόµα ανοιχτό ερώτηµα. Για αυτό το λόγο, η µέθοδος Πρόβλεψης - ιόρθωσης υιοθετείται σε αυτή την εργασία για να εντοπίσει τα κρίσιµα σηµεία. Οπως επεσήµαναν οι Bowman and Shenton (1988), οι αποτυχηµένες περιπτώσεις εύ- ϱεσης εκτιµήσεων µέγιστης πιθανοφάνειας αντιστοιχούν, σε µεγάλο ϐαθµό, σε περιπτώσεις 71

88 ΚΕΦΑΛΑΙΟ 4. ΜΕΘΟ ΟΣ ΠΡΟΒΛΕΨΗΣ - ΙΟΡΘΩΣΗΣ 72 δειγµάτων µε αρνητική ασυµµετρία, στις οποίες ο εκτιµητής µέγιστης πιθανοφάνειας για το γ τείνει στο. Η συνάρτηση πυκνότητας πιθανότητας, η οποία περιγράφεται από τη σχέση (2.1), δεν µπορεί να εφαρµοστεί σε τέτοιες περιπτώσεις. Χρησιµοποιώντας, όµως, το αναπαραµετρικοποιηµένο µοντέλο το οποίο υιοθετεί ϑετικές και αρνητικές παραµέτρους µορφής, τέτοιου είδους προβλήµατα µπορούν να αποφευχθούν. 4.2 Το αναπαραµετρικοποιηµένο µοντέλο Η συνάρτηση πυκνότητας πιθανότητας της τριπαραµετρικής Γάµµα κατανοµής, η οποία περιγράφεται από τη σχέση (2.1), µπορεί να διευρυνθεί µε σκοπό να περιλαµβάνει περιπτώσεις µοτίβων µε αρνητική ασυµµετρία. Αυτό µπορεί να συµβεί εάν χρησιµοποιηθεί η αναπαραµετρικοποίηση των Cheng and Iles (1990) και τροποποιηθεί ελαφρώς ο παραµετρικός χώρος. Η διεύρυνση της συνάρτησης πυκνότητας πιθανότητας, δηµιουργείται χρησιµοποιώντας την ακόλουθη παραµετρικοποίηση, α = λ 2 (4.1) ϐ = σ λ (4.2) γ = µ σλ 1. (4.3) Ετσι, αντικαθιστώντας στη σχέση (2.1), τις σχέσεις (4.1), (4.2) και (4.3), παίρνουµε την διευρυµένη (extended) συνάρτηση πυκνότητας,

89 ΚΕΦΑΛΑΙΟ 4. ΜΕΘΟ ΟΣ ΠΡΟΒΛΕΨΗΣ - ΙΟΡΘΩΣΗΣ 73 f (x; σ, µ, λ) = = = = f (x; σ, µ, λ) = 1 σλγ(λ 2 ) 1 σλγ(λ 2 ) 1 σλγ(λ 2 ) 1 σλγ(λ 2 ) [ ] x (µ σλ 1 λ ) 2 1 { ( )} x (µ σλ 1 ) exp σλ σλ [ ] λ x µ 2 σλ + σλ 1 1 { ( )} x µ exp σλ σλ + σλ 1 σλ [ λ 2 + x µ ] λ 2 1 { ( exp λ 2 + x µ )} σλ σλ ( ( x µ ))] λ [λ ( ( x µ ))} 1 + λ exp { λ λ ( 1 [λ σλγ(λ 2 ) λ σ ( x µ σ ))] λ 2 1 exp { λ 2 ( 1 + λ σ ( x µ ))} σ (4.4) όπου σ, µ και λ είναι η παράµετρος κλίµακας, ϑέσης και µορφής, αντίστοιχα. Οταν το λ > 0, η συνάρτηση πυκνότητας (4.4) εκφράζει τη συνήθη (ϑετικής συµµετρίας) Γάµµα κατανοµή, και η διεύρυσνη παρατηρείται όταν το λ < 0 το οποίο αντιστοιχεί στη Γάµµα κατανοµή µε αρνητική ασυµµετρία. Επίσης, όταν το λ 0 η σχέση (4.4) γίνεται, f (x; σ, µ) = } 1 (x µ)2 exp { 2πσ 2σ 2, σ > 0 (4.5) η οποία είναι συνάρτηση πυκνότητας πιθανότητας της Κανονικής κατανοµής (ϐλέπε Cheng and Iles, 1990). Πρόταση Οι εξισώσεις πιθανοφάνειας για τη σχέση (4.4) είναι, lnl σ = 1 1 z 2 i = 0 (4.6) σ 1 + λz i lnl µ = 1 λ + z i = 0 (4.7) σ 1 + λz i { lnl 2 } λ = n λ 3 ψ(λ 2 ) + 2 lnλ { + 2 λ ln(1 + λz i) + λ(1 + } z2 i ) + 2z i = 0 (4.8) 3 λ 2 (1 + λz i ) όπου z i = x i µ, L = n σ f (x i; σ, µ, λ) και ψ( ) είναι η δίγαµµα συνάρτηση.

90 ΚΕΦΑΛΑΙΟ 4. ΜΕΘΟ ΟΣ ΠΡΟΒΛΕΨΗΣ - ΙΟΡΘΩΣΗΣ 74 Απόδειξη : Αρχικά, για να µπορέσουµε να υπολογίσουµε τις εξισώσεις πιθανοφάνειας της σχέσης (4.4) χρειάζεται να υπολογίσουµε την από κοινού συνάρτηση πυκνότητας πιθανότητας, η οποία είναι, L = = = = n f (x i ; σ, µ, λ) n { 1 σλγ(λ 2 ) 1 [λ 2 ( 1 + λ n [λ 2 ( 1 + λ ( xi µ ))] λ 2 1 exp { λ 2 ( 1 + λ σ ( xi ))] µ λ 2 1 exp λ 2 σ n λ n (Γ(λ 2 )) n σ 1 n ( σ n λ n (Γ(λ 2 )) λ (1 2 xi )) µ + λ λ 2 1 exp n σ λ 2 ( xi ))}} µ ( 1 + λ ( 1 + λ σ ( xi )) µ σ ( xi )) µ. σ Κάνοντας, λοιπόν, το µετασχηµατισµό z i = x i µ, έχουµε, σ λ 1 n 2 1 L = σ n λ n (Γ(λ 2 )) λ 2 (1 + λz n i ) exp = exp nln(σ) nlnλ nlnγ(λ 2 ) + (λ 2 1) λ 2 (1 + λz i ) ln ( λ 2 (1 + λz i ) ) λ 2 Εποµένως, ο λογάριθµος της συνάρτησης πυκνότητας πιθανότητας είναι, (1 + λz i ). lnl = nln(σ) nlnλ nlnγ(λ 2 ) + (λ 2 1) ln ( λ 2 (1 + λz i ) ) λ 2 (1 + λz i ). (4.9) Σε αυτό το σηµείο, υπολογίζουµε αναλυτικά τις µερικές παραγώγους της συνάρτησης lnl ως προς σ, µ και λ, αντίστοιχα.

91 ΚΕΦΑΛΑΙΟ 4. ΜΕΘΟ ΟΣ ΠΡΟΒΛΕΨΗΣ - ΙΟΡΘΩΣΗΣ 75 lnl σ = n σ + (λ 2 1) ( λσ 1 z i ) 1 + λz i λ 2 ( λσ 1 z i ) = n σ + ( λσ 1 z i ) ( λσ 1 z i ) λ 2 λ 2 ( λσ 1 z i ) 1 + λz i 1 + λz i = n ( )) ( λσ σ + λ ( ) λσ 1 z i z i λz i 1 + λz i = n ( ( )) 1 1 σ + λ 2 λσ 1 λzi ( ) λσ 1 z i z i 1 + λz i 1 + λz i = n ( ) λ 2 σ + σ 1 z 2 ( ) λ 2 i λσ 1 z i ) 1 + λz i 1 + λz i = n ( ) σ 1 σ + z 2 ( ) i λσ 1 z i 1 + λz i 1 + λz i = 1 ( z 2 i 1 λz ) i σ 1 + λz i 1 + λz i ( ) 1 + λzi z 2 i + λz i = 1 σ = 1 σ 1 λz i ( ) 1 z 2 i 1 + λz i lnl σ = 1 σ ( ) 1 z 2 i. (4.10) 1 + λz i Ετσι, εξισώνοντας τη σχέση (4.10) µε το µηδέν καταλήγουµε στη σχέση (4.6), lnl σ = 0 1 σ ( ) 1 z 2 i = 0. (4.11) 1 + λz i

92 ΚΕΦΑΛΑΙΟ 4. ΜΕΘΟ ΟΣ ΠΡΟΒΛΕΨΗΣ - ΙΟΡΘΩΣΗΣ 76 lnl µ = (λ 2 1) ( λ 1 σ 1 ) λ 2 (1 + λz i ) λ 2 ( λσ 1 ) = (λ 2 ( λσ 1 ) 1) λ 2 ( λσ 1 ) 1 + λz i = λ 2 ( λσ 1 ) (λσ 1 ) + λ 2 ( λσ 1 ) 1 + λz i 1 + λz i ( ) = λ 2 ( λσ 1 1 (λσ 1 ) ) λz i 1 + λz i ( ) 1 1 = λ 1 ( σ 1 λzi (λσ 1 ) ) λz i 1 + λz i ( ) = σ 1 z i ( ) + σ 1 λ 1 + λz i 1 + λz i ( ) λ + = σ 1 zi 1 + λz i lnl µ = σ 1 ( ) λ + zi. (4.12) 1 + λz i Ετσι, εξισώνοντας τη σχέση (4.12) µε το µηδέν καταλήγουµε στη σχέση (4.7), lnl µ = 0 σ 1 ( ) λ + zi = 0. (4.13) 1 + λz i

93 ΚΕΦΑΛΑΙΟ 4. ΜΕΘΟ ΟΣ ΠΡΟΒΛΕΨΗΣ - ΙΟΡΘΩΣΗΣ 77 lnl λ = nλ 1 n( 2λ 3 )ψ(λ 2 ) + 4nλ 3 ln(λ) 2n(λ 2 1)λ 1 2λ 3 + (λ 2 1) ( ) z i + 2λ λz i (1 + λz i ) λ 2 = nλ 1 + 2nλ 3 ψ(λ 2 ) + 4nλ 3 ln(λ) 2λ 3 + λ 2 ( ) z i 1 + λz i ( ) z i + λ λz i = nλ 1 + 2nλ 3 ψ(λ 2 ) + 4nλ 3 ln(λ) 2λ 3 + λ 2 ( ) 1 λ 2 z i λz i 1 + λz i = 2nλ 3 ψ(λ 2 ) + 4nλ 3 ln(λ) 2λ 3 + λ 2 z i ( ) 1 λ λz i 1 + λz i = 2nλ 3 ψ(λ 2 ) + 4nλ 3 ln(λ) 2λ 3 + λ 2 z i ln(1 + λz i )+ z i ln(1 + λz i )+ ln(1 + λz i ) + λ 1 ln(1 + λz i )+ ( ) λ(1 + λzi ) + z i (2 λ 2 + λz i ) 1 + λz i = 2nλ 3 ( ψ(λ 2 ) + 2ln(λ) ) 2λ 3 = 2nλ 3 ( ψ(λ 2 ) + 2ln(λ) ) + ln(1 + λz i ) + λ 2 1+ ln(1 + λz i )+ ( λ(1 + z 2 i ) + 2z i 1 + λz i { 2 λ 3 ln(1 + λz i) + λ(1 + z2 i ) + 2z i λ 2 (1 + λz i ) } ) lnl λ = 2n λ 3 { ψ(λ 2 ) + 2ln(λ) } + { 2 λ ln(1 + λz i) + λ(1 + } z2 i ) + 2z i. (4.14) 3 λ 2 (1 + λz i ) Ετσι, εξισώνοντας τη σχέση (4.14) µε το µηδέν καταλήγουµε στη σχέση (4.8), lnl λ = 0 2n λ 3 { ψ( 1 λ 2 ) + 2ln(λ) }+ { 2 λ ln(1 + λz i) + λ(1 + } z2 i ) + 2z i = 0. (4.15) 3 λ 2 (1 + λz i )

94 ΚΕΦΑΛΑΙΟ 4. ΜΕΘΟ ΟΣ ΠΡΟΒΛΕΨΗΣ - ΙΟΡΘΩΣΗΣ 78 Εχοντας, λοιπόν, αποδείξει τις τρεις εξισώσεις πιθανοφάνειας (4.6), (4.7), (4.8), παρατηρούµε ότι αν προσθέσουµε τη σχέση (4.6), πολλαπλασιασµένη µε λ, µε τη σχέση (4.7) καταλήγουµε στο συµπέρασµα ότι n z i = 0, η οποία µας δίνει τον εκτιµητή µέγιστης πιθανοφάνειας για την παράµετρο µ. ηλαδή, λ lnl σ + lnl µ = 0 λ σ 1 σ 1 σ 1 σ ( ) 1 z 2 i λz i σ λ + λz 2 i ( ) λ + zi = λz i + λ + z i 1 + λz i = 0 z i (1 + λz i ) 1 + λz i = 0 z i = 0 z i = 0. Εφόσον, όµως, z i = x i µ σ η πιο πάνω σχέση γίνεται, x i µ σ = 0 x i nµ = 0 ˆµ = 1 n X i. (4.16) Εποµένως, ο εκτιµητής µέγιστης πιθανοφάνειας για την παράµετρο µ, είναι ο δειγµατικός µέσος, ˆµ = X. Ως εκ τούτου, αρκεί να επιλύσουµε µόνο τις δύο εξισώσεις πιθανοφάνειας, lnl/ σ = 0 και lnl/ λ = 0, επαναληπτικά για να µπορέσουµε να ϐρούµε τους εκτιµητές µέγιστης πιθανοφάνειας για τις παραµέτρους σ και λ.

95 ΚΕΦΑΛΑΙΟ 4. ΜΕΘΟ ΟΣ ΠΡΟΒΛΕΨΗΣ - ΙΟΡΘΩΣΗΣ 79 Παρατηρούµε, επίσης, ότι είναι πολύ εύκολο να ϐρούµε το αρχικό σηµείο για την επαναληπτική διαδικασία και αυτό είναι ένα ακόµα πλεονέκτηµα που έχουµε χρησιµοποιώντας αυτό το µοντέλο. Επίσης, το σ δεν µεταβάλλεται πάνω στην τροχιά των ϐέλτιστων σηµείων ˆσ(λ) σε αντίθεση µε τη διακύµανση του λ, σηµειώνοντας ότι ˆσ(λ) είναι η ϐέλτιστη τιµή του σ όταν το λ είναι σταθερό. 4.3 Μέθοδος Πρόβλεψης - ιόρθωσης Οπως αναφέραµε και προηγουµένως, η παράµετρος κλίµακας σ δεν αλλάζει την τιµή της συνάρτησης πιθανοφάνειας στην (αναπαραµετρικοποιηµένη) τριπαραµετρική Γάµµα κατανοµή, όσο η παράµερος µορφής λ. Η Εικόνα 4.1, δείχνει τις συγκρίσεις ανάµεσα στα ˆσ(λ) και ˆγ(λ) σε σχέση µε τη διακύµανση του λ, οι οποίες εφαρµόστηκαν σε δεδοµένα των Dumonseaux and Antle (1973), όπου το ˆσ(λ) αποτελείται από ένα σύνολο {σ > 0 lnl/ σ = 0, lnl/ µ = 0} και το ˆγ(λ) υπολογίζεται από τις σχέσεις (4.1), (4.2), (4.3) υπό τον περιορισµό ότι {γ > 0 lnl/ σ = 0, lnl/ µ = 0}. Σχήµα 4.1: Συγκρίσεις ανάµεσα στα ˆσ(λ) και ˆγ(λ) σε σχέση µε τη διακύµανση του λ

96 ΚΕΦΑΛΑΙΟ 4. ΜΕΘΟ ΟΣ ΠΡΟΒΛΕΨΗΣ - ΙΟΡΘΩΣΗΣ 80 Ετσι, η παράµετρος σ από το εγκιβωτισµένο (embedded) µοντέλο, µπορεί να είναι χρήσιµη για την αρχική πρόβλεψη στην επαναληπτική διαδικασία εύρεσης εκτιµήσεων µέγιστης πιθανοφάνειας για την τριπαραµετρική Γάµµα κατανοµή. Εφαρµόζοντας, λοιπόν, όσα αναφέρθηκαν πιο πάνω, µπορεί να κατασκευαστεί µια κα- µπύλη C(ˆσ(λ), ˆµ(λ), λ) = 0 έτσι ώστε ˆσ(λ) και ˆµ(λ) να είναι ϐέλτιστα. Η καµπύλη, C = 0 αποτελείται από ένα σύνολο { (σ, µ, λ) R 3, σ > 0, 1 + λ(x µ)/σ > 0 lnl σ = 0, lnl µ = 0 }. Είναι προφανές, λοιπόν, ότι οι εκτιµήσεις µέγιστης πιθανοφάνειας για την Κανονική κατανοµή αλλά και για τη Γάµµα κατανοµή ϑα ϐρίσκονται πάνω στην καµπύλη. Ετσι, τώρα µπορούµε να κατασκευάσουµε µια µέθοδο εκτίµησης χρησιµοποιώντας τη µέθοδο Πρόβλεψης - ιόρθωσης (predictor - corrector (PC) method). Αλγόριθµος Μεθόδου Βήµα 1: Βρίσκουµε τους εκτιµητές µέγιστης πιθανοφάνειας, ˆσ N και ˆµ N, από την Κανονική κατανοµή. Ο εκτιµητής µέγιστης πιθανοφάνειας, ˆµ N, είναι ίδιος µε τον εκτιµητή µέγιστης πιθανοφάνειας, ˆµ, για την Γάµµα κατανοµή. Σηµειώνουµε ότι σ 0 = ˆσ N. Βήµα 2: Χρησιµοποιώντας το σ 0 ως αρχική τιµή, ϐρίσκουµε τα επόµενα σηµεία (σ 1, µ 1, λ 1 ) και (σ 1, µ 1, λ 1 ), µε τη (µονοπαραµετρική) Μέθοδο Newton - Raphson, όπου λ 1 = λ και λ 1 = λ ( λ > 0), µ i = ˆµ. Επίσης, σ 0 και σ ±1 είναι αντίστοιχα η πρώτη πρόβλεψη και οι πρώτες διορθώσεις. Βήµα 3: Υποθέτοντας ότι τα σ ν 2, σ ν 1 και σ ν έχουν ήδη ϐρεθεί από τα προηγούµενα ϐή- µατα, τότε το σ ν+1 για λ ν+1 = λ ν + λ υπολογίζεται µε τη Μέθοδο Newton - Ra-

97 ΚΕΦΑΛΑΙΟ 4. ΜΕΘΟ ΟΣ ΠΡΟΒΛΕΨΗΣ - ΙΟΡΘΩΣΗΣ 81 phson χρησιµοποιώντας το σ 0 ν+1 ως αρχική τιµή. Σηµειώνουµε ότι, σ0 ν+1 προκύπτει από τα (σ ν 2, λ ν 2 ), (σ ν 1, λ ν 1 ) και (σ ν, λ ν ). Εάν ο περιορισµός, σ j ν+1 > 0 ή 1 + λ j ν+1 {(x µj ν+1 )/σj ν+1 } > 0, παραβιάζεται σε κάποια επανάληψη της µεθόδου Newton - Raphson, χρησιµοποιούµε ένα εναλλακτικό εκτιµώµενο σηµείο, το οποίο είναι πιο κοντά στο σηµείο (σ ν, µ ν, λ ν ), όπου j είναι ο αριθµός της επανάληψης της µεθόδου Newton - Raphson από το σηµείο (σ ν+1, µ ν+1, λ ν+1 ) πάνω στην καµπύλη C. Επίσης, σηµειώνουµε ότι σ 0 ν+1 και σ ν+1 είναι η (ν + 1) πρόβλεψη και διόρθωση, αντίστοιχα. Εάν λ είναι επαρκώς µικρό τότε η σύγκλιση επιβεβαιώνεται. ( Οι πα- ϱάγωγοι lnl/ λ λ=λν+1 ϑα χρησιµοποιηθούν σε µεταγενέστερα ϐήµατα.) Από ν = 1, η διαδικασία επαναλαµβάνεται µέχρι λ = 1 λ. Ειδική µεταχείριση χρειάζεται στη γωνία, όπου έχουµε λ = 1. Βήµα 4: Παρόµοιο σχήµα εκτίµησης, όπως στο ϐήµα 3, από λ = λ 2 µέχρι λ = 1 + λ. Βήµα 5: Αναζητούµε ένα σηµείο (σ ν, µ ν, λ ν ) τέτοιο ώστε lnl/ λ λ=λν < 0 και lnl/ λ λ=λν+1 > 0, από λ = 1 + λ. Εάν αυτό το σηµείο υπάρχει, τότε εφαρµόζουµε τη µέθοδο Newton - Raphson (δύο παραµέτρων) χρησιµοποιώντας για αρχικές τιµές τα σ ν και λ ν ( εάν ν = 0, τότε χρησιµοποιούµε το επόµενο σηµείο (σ 1, µ 1, λ 1 )). Οι συγκλίνουσες µεταβλητές µπορεί να είναι οι εκτιµητές µέγιστης πιθανοφάνειας (τοπικό µέγιστο). Ωστόσο, αν και ϐρέθηκε το σηµείο, ϑα πρέπει να συνεχίσουµε την αναζήτηση για µια άλλη τοπική εκτίµηση µέγιστης πιθανοφάνειας για όσο το λ < 1. Εάν, όµως, ένα τέτοιο σηµείο δεν υπάρχει, τότε το σηµείο που µεγιστοποιεί τη συνάρτηση lnl(σ(λ), µ(λ), λ) πάνω στην καµπύλη C, πιθανότατα να ϐρίσκεται στις γωνίες, όπου έχουµε λ = ±1.

98 ΚΕΦΑΛΑΙΟ 4. ΜΕΘΟ ΟΣ ΠΡΟΒΛΕΨΗΣ - ΙΟΡΘΩΣΗΣ 82 Βήµα 6: Επέλεξε το ϐέλτιστο σηµείο µεταξύ των τοπικών σηµείων µέγιστης πιθανοφάνειας και των σηµείων στις γωνίες. Αυτό το σηµείο γίνεται ο εκτιµητής µέγιστης πιθανοφάνειας, υπό τον περιορισµό ότι λ Υπολογιστικά αποτελέσµατα Παράδειγµα Ενα τυπικό παράδειγµα, από τους Dumonseaux and Antle, (1973), εξετάζεται για την εφαρµογή της µεθόδου Πρόβλεψης και ιόρθωσης στην τριπαραµετρική Γάµµα κατανοµή. Η αρχική πρόβλεψη για τις τρεις παραµέτρους στην αναπαραµετρικοποιηµένη Γάµµα κατανοµή είναι σ 0 = , µ 0 = και λ 0 = Το σηµείο ό- που οι συνθήκες lnl/ λ λ=λν < 0 και lnl/ λ λ=λν+1 > 0 ικανοποιούνται είναι το σηµείο (σ 85, µ 85, λ 85 ) = ( , , 0.85) µε το λ να είναι ίσο µε Η επαναληπτική διαδικασία Newton - Raphson χρησιµοποιώντας το αρχικό σηµείο (σ 85, µ 85, λ 85 ) µας δίνει τους εκτιµητές µέγιστης πιθανοφάνειας, ˆσ = , ˆλ = Μετατρέποντας, λοιπόν, τα σ, µ, λ σε α, ϐ, γ από τις σχέσεις (4.1), (4.2), (4.3), ϐρίσκονται τα ˆα = , ˆϐ = και ˆγ = Η µέγιστη τιµή του λογαρίθµου της συνάρτησης πιθανοφάνειας είναι Αυτές οι τιµές είναι ελαφρώς διαφορετικές από τα αποτελέσµατα που είχαν δώσει οι Cohen and Whitten, (1986), (( ˆα, ˆϐ, ˆγ) = (1.1940, , ), lnl = ), αλλά η τελευταία στην ουσία αντιστοιχεί σε ένα σελοειδές ή σαγµατικό σηµείο, όπως ϕαίνεται στο Σχήµα 4.2. Αυτό αποδεικνύει πόσο δύσκολο είναι το επαναληπτικό σχήµα χωρίς την αναπαραµετρικοποίηση. Η µέγιστη τιµή της συνάρτησης πιθανοφάνειας lnl = , επιτυγχάνεται στη γωνία (σ, µ, λ) = ( , , 1) υπό τον περιορισµό ότι λ 1.

99 ΚΕΦΑΛΑΙΟ 4. ΜΕΘΟ ΟΣ ΠΡΟΒΛΕΨΗΣ - ΙΟΡΘΩΣΗΣ 83 Σχήµα 4.2: Τοπικά ακρότατα Επίσης, να σηµειώσουµε ότι η συνήθης µέθοδος Newton - Raphson µε αρχικό σηµείο (σ, λ) = ( , 0.01) (µε απευθείας χρήση των εκτιµήσεων µέγιστης πιθανοφάνειας από την Κανονική κατανοµή) απέτυχε στην εύρεση τοπικών εκτιµητών µέγιστης πιθανο- ϕάνειας Πολλαπλά τοπικά µέγιστα (multiple local MLEs) Η µοναδικότητα της λύσης των εξισώσεων πιθανοφάνειας, οι οποίες δίνονται στις σχέσεις (4.6), (4.7) και (4.8), είναι ακόµα ένα ανοιχτό ερώτηµα, όπως αναφέρουν οι Bowman and Shenton, (1988). Στη συνέχεια ϑα παρουσιάσουµε ένα πολύ ενδιαφέρον παράδειγµα, από την εργασία του Hirose (1995). Τα δεδοµένα είναι, 1.78, 1.51, 1.28, 1.10, 1.603, , , 0.168, 0.452, 0.955

100 ΚΕΦΑΛΑΙΟ 4. ΜΕΘΟ ΟΣ ΠΡΟΒΛΕΨΗΣ - ΙΟΡΘΩΣΗΣ 84 και δηµιουργήθηκαν υπό τις συνθήκες ότι σ = 1, µ = 0 και λ = Οπως ϕαίνεται στο Σχήµα 4.3 υπάρχουν δύο τοπικά µέγιστα και τρία σαγµατικά σηµεία (το ένα σαγµατικό σηµείο είναι κρυµµένο), υπό τον περιορισµό ότι λ 1. Τα τοπικά µέγιστα δηµιουργήθηκαν στα σηµεία (σ, µ, λ) = ( , , ) και ( , , ), ενώ τα σαγµατικά σηµεία στα σηµεία (1.3926, , ), ( , , ) και (1.2005, , ). Σχήµα 4.3: Πολλαπλά τοπικά ακρότατα Αυτό το παράδειγµα αποδεικνύει ότι δεν ϑα πρέπει να χρησιµοποιούµε απλές µεθόδους αναζήτησης, όπως είναι για παράδειγµα η απλή µέθοδος Newton - Raphson, καθώς ο λογάριθµος της συνάρτησης πιθανοφάνειας ln L max (λ) δεν είναι µονοκόρυφη (unimodal) συνάρτηση ακόµα και µε τον περιορισµό ότι λ > 0. Η προτεινόµενη, λοιπόν, µέθοδος ϐρίσκει όλα τα κρίσιµα σηµεία.

101 Κεφάλαιο 5 Εκτίµηση Μέγιστης Πιθανοφάνειας ελεύθερη παραµέτρων 5.1 Εισαγωγή Σε αυτό το κεφάλαιο, αρχικά ϑα περιγράψουµε τη µέθοδο Μέγιστης Πιθανοφάνειας ελεύ- ϑερη παραµέτρων ϑέσης και κλίµακας, λεγόµενη και ως µέθοδος Location and Scale Parameter Free Maximum Likelihood (LSPF), η οποία προτάθηκε πρόσφατα από τους Nagatsuka et al. (2012, 2014). Η ϐασική ιδέα της µεθόδου LSPF είναι η εξής, για να αποφύγουµε το πρόβληµα της µη ϕραγµένης πιθανοφάνειας χρησιµοποιώντας ένα µετασχηµατισµό δεδοµένων. Με ϐάση αυτό το µετασχηµατισµό δηµιουργούµε στατιστικές συναρτήσεις ανεξάρτητες των παραµέτρων ϑέσης και κλίµακας, οι οποίες αντικαθιστώνται στη ϑέση του αρχικού δείγµατος. Ενα ακόµα ϐασικό χαρακτηριστικό της µεθόδου αυτής είναι ότι, υπό ορισµένες υποθέσεις, τα αποτελέσµατα των εκτιµήσεων είναι πάντα µοναδικά και συνεπή σε όλο τον παραµετρικό χώρο, το οποίο σηµαίνει ότι στη µέθοδο LSPF δεν αντιµετωπίζουµε τα προβλήµατα που αντιµετωπίζαµε στις κλασικές προσεγγίσεις. 85

102 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 86 Για τις παραµέτρους α, ϐ και γ, η µέθοδος LSPF γενικά δίνει καλύτερες εκτιµήσεις από άλλες υπάρχουσες µεθόδους όσον αφορά την µεροληψία (bias) και το µέσο τετραγωνικό σφάλµα (MSE). Ενα, όµως, από τα µειονεκτήµατά της είναι ότι για την εκτίµηση του α, έχουµε πάντα δύο τυχαίες µεταβλητές οι οποίες είναι εκφυλισµένες, εφόσον δηµιουργούνται από στατιστικές συναρτήσεις ανεξάρτητες των παραµέτρων ϑέσης και κλίµακας. Ετσι, η µείωση του αριθµού των εκφυλισµένων τυχαίων µεταβλητών πιθανόν να οδηγήσει σε καλύτερη απόδοση για την εκτίµηση του α. Αρχικά, υπολογίζεται η εκτίµηση για την παράµετρο α, µεγιστοποιώντας τη συνάρτηση πιθανοφάνειας ως προς α. Για την εκτίµηση αυτή δεν χρειάζεται κάποια ιδιαίτερη προσοχή στην επιλογή του αρχικού σηµείου για την επαναληπτική διαδικασία, εφόσον η συνάρτηση πιθανοφάνειας είναι µονοκόρυφη και έτσι η σύγκλιση γίνεται γρήγορα. Ακολούθως, οι εκτιµήσεις των ϐ και γ υπολογίζονται σε κλειστή µορφή. Ετσι, ένα ακόµη χαρακτηριστικό της µεθόδου είναι ότι οι εκτιµήσεις των παραµέτρων υπολογίζονται σχεδόν ξεχωριστά, το οποίο µας επιτρέπει να αποφεύγουµε τα υπολογιστικά προβλήµατα τα οποία εµφανίζονται, συνήθως, στην πολυδιάστατη αριθµητική αναζήτηση. Λόγω των µειονεκτηµάτων της µεθόδου LSPF, τα οποία αναφέραµε πιο πάνω, στη συνέχεια αναφέρουµε µια νέα προτεινόµενη µέθοδο για την εκτίµηση των παραµέτρων της τριπαραµετρικής Γάµµα κατανοµής, η οποία παρουσιάζεται στην εργασία των Nagatsuka and Balakrishnan (2012). Η νέα αυτή µέθοδος ονοµάζεται Μέθοδος Μέγιστης Πιθανοφάνειας ελεύθερη παραµέτρου ϑέσης, (Location Parameter Free Maximum Likelihood (LPF)) και ϐασίζεται στη δηµιουργία στατιστικών συναρτήσεων, οι οποίες είναι ανεξάρτητες από την παράµετρο ϑέσης. Επιπλέον, αναφέρουµε και τη Μέθοδο Μέγιστης Πιθανο- ϕάνειας µε ϐάση τη διάταξη, η οποία συνδέεται άµεση µε τις δύο προαναφερθέντες µεθόδους.

103 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ Μέθοδοι Εκτίµησης Εστω ότι έχουµε n ανεξάρτητες τυχαίες µεταβλητές, X 1, X 2,, X n µε κοινή συνάρτηση πυκνότητας πιθανότητας την τριπαραµετρική Γάµµα κατανοµή G(α, ϐ, γ). Σε αυτό το σηµείο δίνουµε δύο ϐασικές υποθέσεις, οι οποίες απαιτούνται για όλες τις υπάρχουσες µεθόδους εκτίµησης για τριπαραµετρικές κατανοµές. Υπόθεση 1: Το µέγεθος του δείγµατος είναι µεγαλύτερου του 2. Υπόθεση 2: X i X j µε πιθανότητα 1, για κάποια i j. Επίσης, για i = 1, 2,, n, έστω ότι η X (i) είναι η i οστή διατεταγµένη παρατήρηση µεταξύ των X 1, X 2,, X n. Αρχικά, ϑα περιγράψουµε τη µέθοδο LSPF και στη συνέχεια ϑα παρουσιάσουµε µία νέα µέθοδο εκτίµησης για τις παραµέτρους της τριπαραµετρικής Γάµµα κατανοµής. Επιπρόσθετα, στην τελευταία ενότητα ϑα αναφερθούµε σε κάποιες ιδιότητες των µεθόδων αυτών Μέθοδος LSPF Πρόσφατα, δόθηκε από τους Nagatsuka et al.(2012, 2014) µια νέα µέθοδος εκτίµησης για την τριπαραµετρική Γάµµα κατανοµή, αναφερόµενη και ως LSPF µέθοδος, η οποία αποτελείται από δύο στάδια. Στο πρώτο στάδιο, εκτιµάται η παράµετρος µορφής, α, χρησιµοποιώντας στατιστικές συναρτήσεις ανεξάρτητες των παραµέτρων ϑέσης και κλίµακας, γ και ϐ, αντίστοιχα. Στο δεύτερο στάδιο, εκτιµώνται οι παράµετροι γ και ϐ µέσω εκτιµητών µειωµένης µεροληψίας (bias - reduced estimators), αφού πρώτα αντικαταστήσουµε την εκτίµηση του α, την οποία έχουµε ϐρει από το πρώτο στάδιο. Ειδικότερα, στο αρχικό στάδιο ορίζουµε τις ακόλουθες στατιστικές συναρτήσεις, W (i) = X (i) X (1) X (n) X (1), i = 1, 2,, n. (5.1)

104 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 88 Είναι εύκολο να παρατηρήσουµε ότι η κατανοµή της W (i), δεν εξαρτάται από τις παραµέτρους γ και ϐ, αλλά µόνο από την παράµετρο µορφής, α. Επίσης, παρατηρούµε ότι η τυχαία µεταβλητή W (1) παίρνει την τιµή µηδέν και η τυχαία µεταβλητή W (n) παίρνει την τιµή ένα, δηλαδή έχουµε δύο εκφυλισµένες τυχαίες µεταβλητές. Πρόταση Εστω ότι έχουµε n ανεξάρτητες τυχαίες µεταβλητές, X 1, X 2,, X n µε κοινή συνάρτηση πυκνότητας πιθανότητας, η οποία δίνεται από τη σχέση (3.4), και ορί- Ϲουµε τη στατιστική συνάρτηση W (i) = X (i) X (1) X (n) X (1), i = 1, 2,, n. Τότε, η από κοινού συνάρτηση πυκνότητας πιθανότητας των W (2), W (3),, W (n 1) είναι, n! n ξ(w 2,, w n 1 ; α) = v n 2 (Γ(α)) (u + w n i v) α 1 exp (u + w i v) dvdv w 2 w n 1 1. (5.2) Απόδειξη. Αρχικά, ορίζουµε τα ακόλουθα, g(x; α) = f (x; α, 1, 0) = 1 Γ(α) x α 1 e x, x > 0, (5.3) G(x; α) = F(x; α, 1, 0) = x 0 1 Γ(α) tα 1 e t dt. (5.4) Επίσης, f Z(1),Z (n) (u, v) = n(n 1) g(u; α) g(v; α) [G(v; α) G(u; α)] n 2. (5.5) Θεωρούµε, ακόµη, ότι z i = u + (v u)w i, i = 1, 2,, n. Επειδή, όµως, w 1 = 0 και w n = 1, τότε z 1 = u και z n = v. Ετσι, η από κοινού συνάρτηση πυκνότητας πιθανότητας των Z (2), Z (3),, Z (n 1) δεδοµένου ότι Z (1) = u και Z (n) = v είναι,

105 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 89 f Z(2),,Z (n 1) Z 1,Z n (z 2,, z n 1 z 1, z n ) = f Z (1),,Z (n) (z 1,, z n ) f Z(1),Z (n) (z 1, z n ) n g(z i ; α) = n(n 1)g(z 1 ; α)g(z n ; α) [G(z n ; α) G(z 1 ; α)] n 2 = n 1 g(z i ; α) i=2 n(n 1) [G(z n ; α) G(z 1 ; α)] n 2 f Z(2),,Z (n 1) Z 1,Z n (z 2,, z n 1 /z 1, z n ) = n 1 i=2 g(z i ; α). (5.6) n 2 n(n 1) [G(z n ; α) G(z 1 ; α)] Οπότε, έχουµε, = = P(Z (i) z i, i = 2,, n 1 Z (1) = u, Z (n) = v) = zn 1... z2 n! n 1 i=2 g(t i ; α) n(n 1) [G(v; α) G(u; α)] dt n 2 2 dt n 1 G(z i ; α) n! n 1 i=2 n(n 1) [G(v; α) G(u; α)] n 2 = = = = Εποµένως, P(W (i) w i, i = 2,, n 1) = P 0 u 0 u 0 u 0 0 ( ) Z(i) Z (1) w i, i = 2,, n 1 Z (n) Z (1) P ( Z (i) u + (v u)w i, i = 2,, n 1 Z (1) = u, Z (n) = v ) f Z(1),Z (n) (u, v) dvdu n! n 1 i=2 G(u + (v u)w i ; α) n(n 1) [G(v; α) G(u; α)] n(n 1) g(u; α) g(v; α) [G(v; α) G(u; n 2 α)]n 2 dvdu n 1 n!g(u; α) g(v; α) G(u + (v u)w i ; α)dvdu i=2 n 1 n!g(u; α) g(v; α) G(u + vw i ; α)dvdu i=2

106 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 90 Ετσι, από το Θεώρηµα 16.8(ii) του Billingsley (1994), η µερική παράγωγος της P(W (i) w i, i = 2,, n 1) ως προς w i, i = 2,, n 1 είναι, n 2 P(W n 1 (i) w i, i = 2,, n 1) = w i i= n 1 n!g(u; α) g(v; α)v n 2 g(u+vw i ; α)dvdu ηλαδή, η από κοινού συνάρτηση πυκνότητας πιθανότητας είναι, n! n ξ(w 2,, w n 1 ; α) = v n 2 (Γ(α)) (u + w n i v) α 1 exp (u + w i v) dvdv 0 w 2 w n 1 1. i=2 (5.7) Στη συνέχεια, οι Nagatsuka et al. (2012, 2014) ϑεώρησαν τον εκτιµητή µέγιστης πι- ϑανοφάνειας για την παράµετρο α, ϐασιζόµενοι στη σχέση (5.1). Η από κοινού συνάρτηση πυκνότητας πιθανότητας των W (2),, W (n 1), όπως έχουµε αποδείξει στην Πρόταση 5.2.1, δίνεται από τη σχέση, ξ(w 2,, w n 1 ; α) = n! (Γ(α)) n 0 0 v n 2 n (u + w i v) α 1 exp (u + w i v) dvdv, 0 w 2 w n 1 1, όπου w 1 = 0 και w n = 1. Ετσι, δηµιουργούµε τη συνάρτηση πιθανοφάνειας για την παράµετρο α, ϐάσει των W (2),, W (n 1) ως, l w (α ; w 2,, w n 1 ) = ξ(w 2,, w n 1 ; α) όπου w 2,, w n 1 είναι οι πραγµατικές τιµές των W (2),, W (n 1). Τότε, ο εκτιµητής µέγιστης πιθανοφάνειας για το α, ϐάσει των W (i), ορίζεται ως ˆα w και δηµιουργείται µεγιστοποιώντας τη συνάρτηση πιθανοφάνειας l w ως προς α, και αντικαθιστώντας τα W (i) µε w (i).

107 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 91 Το λήµµα που ακολουθεί, δείχνει ότι η συνάρτηση πιθανοφάνειας l(α ; w 2,, w n 1 ) είναι διαφορίσιµη ως προς α και δίνει τις παραγώγους της l (α ; w 2,, w n 1 ). Το λήµµα αυτό χρειάζεται για να αποδείξουµε το ϐασικό ϑεώρηµα αυτής της ενότητας. Λήµµα Για α > 0 και δοθέντος w 2,, w n 1 τέτοια ώστε 0 w 2 w n 1 1, η συνάρτηση πιθανοφάνειας l(α ; w 2,, w n 1 ) είναι διαφορίσιµη ως προς α και η παράγωγός της l (α ; w 2,, w n 1 ) δίνεται από τη σχέση, l (α ; w 2,, w n 1 ) = n! v n 2 (Γ(α)) n nψ(α) + ln(u + w i v) n (u + w i v) α exp (u + w i v) dvdu, όπου w 1 = 0, w n = 1 και ψ( ) είναι η δίγαµµα συνάρτηση. 0 w 2 w n 1 1, (5.8) Απόδειξη. Για α > 0 και δοθέντος w 2,, w n 1 τέτοια ώστε 0 w 2 w n 1 1, η συνάρτηση πιθανοφάνειας l(α ; w 2,, w n 1 ) ορίζεται ως εξής, n! l(α ; w 2,, w n 1 ) = v n 2 n (Γ(α)) n (u + w i v) α 1 exp (u + w i v) dvdu 0 0 = n! exp nlnγ(α) + (n 2)lnv + (α 1) ln(u + w i v) 0 0 (u + w i v) dvdu = n! όπου 0 0 exp { η (α, u, v ; w 2,, w n 1 ) } dvdu, η (α, u, v ; w 2,, w n 1 ) = η (α, u, v) = nlnγ(α)+(n 2)lnv+(α 1) ln(u+w i v) (u+w i v),

108 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 92 και w 1 = 0, w n = 1. Για κάθε u > 0, v > 0, n > 2, α > 0 και w 2,, w n 1 τέτοια ώστε 0 w 2 w n 1 1, η µερική παράγωγος του exp { η (α, u, v) } ως προς α, δίνεται από τη σχέση η (α, u, v) exp { η (α, u, v) }, όπου η (α, u, v) είναι η µερική παράγωγος του η (α, u, v) ως προς α, δηλαδή, η (α, u, v) = nψ(α) + ln(u + w i v). (5.9) Για κάθε u > 0, v > 0, n > 2, α > 0 και w 2,, w n 1 τέτοια ώστε 0 w 2 w n 1 1, τότε η (α, u, v) exp { η (α, u, v) } είναι άνω ϕραγµένη από µία ϑετική σταθερά M 2 τέτοια ώστε η (α, u, v) exp { η (α, u, v) } M2. Ετσι, 0 0 η (α, u, v) exp { η (α, u, v) } dvdu M2 0 M 2 ( < exp { η (α, u, v)/2 } dvdu exp { η (α, u, v) } dvdu ) 1/2 Στη συνέχεια, εφαρµόζοντας το Θεώρηµα 16.8(ii) του Billingsley (1994), η παράγωγος της συνάρτησης πιθανοφάνειας l(α ; w 2,, w n 1 ) δίνεται από τη σχέση, l (α ; w 2,, w n 1 ) = n! 0 0 exp { η (α, u, v) } α dvdu = n! η (α, u, v) exp { η (α, u, v) } dvdu 0 0 n! = v n 2 (Γ(α)) n nψ(α) + ln(u + w i v) n (u + w i v) α exp (u + w i v) dvdu.

109 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 93 Θεώρηµα Για α > 0 και δοθέντος w 2,, w n 1 τέτοια ώστε 0 w 2 w n 1 1, η παράγωγος της συνάρτησης πιθανοφάνειας l (α ; w 2,, w n 1 ) = 0 έχει πάντα µοναδική λύση. Απόδειξη. Αρχικά ϑα πρέπει να δείξουµε ότι η συνάρτηση πιθανοφάνειας έχει τουλάχιστον µία λύση, και στη συνέχεια ϑα δείξουµε τη µοναδικότητα της. Χωρίς ϐλάβη της γενικότητας, δοθέντος w 2,, w n 1 τέτοια ώστε 0 w 2 w n 1 1, συµβολίζουµε τη συνάρτηση πιθανοφάνειας l(α ; w 2,, w n 1 ) µε l(α), και την παράγωγο της συνάρτησης πιθανοφάνειας l (α ; w 2,, w n 1 ) µε l (α). Εφόσον exp { η(α, u, v) } > 0, lim α 0 η (α, u, v) = και lim α η (α, u, v) = για κάθε α > 0 και u, v > 0, υπάρχει µία ϑετική πραγµατική τιµή δ 1 τέτοια ώστε l (α) > 0 για κάθε α (0, δ 1 ) και µία ϑετική πραγµατική τιµή δ 2 τέτοια ώστε l (α) < 0 για κάθε α > δ 2. Ακόµη, για α > 0, η l (α) είναι συνεχής ως προς α. Ετσι, η εξίσωση l (α) = 0 έχει πάντα τουλάχιστον µία λύση. Ακολούθως, ϑα δείξουµε ότι ο αριθµός των λύσεων της l (α) = 0 είναι ακριβώς ένα. Θέτουµε, T u,v = n ln(u + vw i ), ( < T u,v < ), τότε οι συναρτήσεις η(α, u, v) και η (α, u, v) µπορούν να γραφούν, αντίστοιχα, ως, η(α, u, v) =η(α, T u,v ) = nlnγ(α) + (n 2)lnv + (α 1)T u,v (u + w i v) και η (α, u, v) = η (α, T u,v ) = nψ(α) + T u,v. Σηµειώνουµε ότι < T u,v <, έτσι υπάρχει µια µοναδική τιµή του T u,v, τέτοια ώστε η (α, T u,v ) = 0 για οποιοδήποτε σταθερό α > 0. Συµβολίζουµε αυτή την τιµή µε T 0 (α). Παρατηρούµε ότι η (α, T u,v ) < 0 για T u,v < T 0 (α) και η (α, T u,v ) > 0 για T u,v > T 0 (α) για

110 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 94 κάθε α > 0. Για α, έχουµε, φ(α, α, T u,v ) = η (α + α, T u,v ) exp { η(α + α, T u,v ) } η (α, T u,v ) exp { η(α, T u,v ) } = nψ(α + α) + T ( ) n u,v Γ(α) exp { } α T u,v, (5.10) nψ(α) + T u,v Γ(α + α) τότε, l (α + α) = C n φ(α, α, T u,v )η (α, T u,v ) exp { η(α, T u,v ) } dvdu, (5.11) (u>0,v>0) όπου C n = n!. Στο εξής, επικεντρωνόµαστε στην περίπτωση όπου α 0. Σηµειώνουµε ότι, lim φ(α, α, T u,v ) = φ(α, 0, T u,v ) = 1 για (u, v) { T u,v T 0 (α) }, (5.12) α 0 όπου 1, εάν α = 0 φ(α, α, T u,v ) =, εάν α > 0 για (u, v) { T u,v = T 0 (α) }, (5.13) για οποιοδήποτε α. Εστω τώρα ότι α είναι µία λύση της l (α) = 0. Τότε, l (α + α) l (α ) lim α 0 α = lim α 0 C n = lim α 0 l (α + α) α (u>0,v>0) φ(α, α, T u,v )η (α, T u,v ) exp { η(α, T u,v ) } dvdu α {T u,v =T 0 (α = C n lim )} φ(α, α, T u,v )η (α, T u,v ) exp { η(α, T u,v ) } dvdu α 0 α {T u,v T 0 (α + )} φ(α, α, T u,v )η (α, T u,v ) exp { η(α, T u,v ) } dvdu α. (5.14)

111 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 95 Από τις σχέσεις (5.12) και (5.13), είναι εύκολο να παρατηρήσουµε ότι το φ(α, α, T u,v ), για οποιαδήποτε (u, v) { T u,v T 0 (α ) }, τείνει στο 1 γρηγορότερα από ότι το φ(α, α, T u,v ), για οποιαδήποτε (u, v ) { T u,v T 0(α ) }, τείνει στο 1, όταν α µειώνεται. Ως εκ τούτου, {T u,v T 0 (α )} φ(α, α, T u,v )η (α, T u,v ) exp { η(α, T u,v ) } dvdu προσεγγίζει γρηγορότερα το {T u,v T 0 (α )} η (α, T u,v ) exp { η(α, T u,v ) } dvdu, από ότι το {T u,v =T 0 (α )} φ(α, α, T u,v )η (α, T u,v ) exp { η(α προσεγγίζει το {T u,v =T 0 (α )} η (α, T u,v ) exp { η(α, T u,v ) } dvdu, όταν α µειώνεται. Σηµειώνουµε, επίσης, ότι {T u,v T 0 (α )} η (α, T u,v ) exp { η(α, T u,v ) } dvdu = {T u,v =T 0 (α )} η (α, T u,v ) exp { η(α, T u,v ) } 0. Ετσι, από το ϑεµελιώδες ϑεώρηµα του διαφορικού λογισµού, το πρόσηµο της τελευταίας ισότητας στη σχέση (5.14) συµφωνεί µε το πρόσηµο της σχέσης {T u,v =T 0 (α )} φ(α, α, T u,v )η (α, T u,v ) exp { η για αρκετά µικρό α > 0, γεγονός που συνεπάγεται ότι l (α + α) l (α ) lim α 0 α < 0, (5.15) εφόσον, για οποιοδήποτε α > 0, η (α + α, T 0 (α )) < 0 και exp { η(α + α.t u,v ) } > 0, και έτσι {T u,v =T 0 (α )} φ(α, α, T u,v )η (α, T u,v ) exp { η(α, T u,v ) } dvdu = {T u,v =T 0 (α )} η (α + α, T u,v ) exp { η(α + α, T u,v ) } dvdu < 0. Ανάλογα, όπως αποδείξαµε τη σχέση (5.15), καταλήγουµε και στην ακόλουθη σχέση, l (α + α) l (α ) lim α 0 α < 0. (5.16) Από τις σχέσεις (5.15) και (5.16), και το γεγονός ότι η l (α) είναι διαφορίσιµη ως προς α µε l (α ) α < 0, καταλήγουµε στο συµπέρασµα ότι η συνάρτηση l (α) αλλάζει πρόσηµο µόνο µία ϕορά, ως προς α. Εποµένως, αποδείξαµε ότι η εξίσωση l (α ) = 0 έχει µοναδική λύση ως προς α. Από το Θεώρηµα προκύπτει το παρακάτω πόρισµα.

112 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 96 Πόρισµα Για α > 0 και δοθέντος w 2,, w n 1 τέτοια ώστε 0 w 2 w n 1 1, η συνάρτηση πιθανοφάνειας l(α ; w 2,, w n 1 ) είναι µονοκόρυφη ως προς α. Σε αυτό το σηµείο, αναφέρουµε το ϐασικό ϑεώρηµα αυτής της ενότητας, το οποίο αποδεικνύει τη συνέπεια του εκτιµητή για την παράµετρο α, αˆ w. Προτού, όµως, παρουσιάσουµε το ϑεώρηµα αυτό χρειάζεται να αναφέρουµε το ακόλουθο λήµµα. Λήµµα Για κάθε α α 0, όπου α 0 είναι η πραγµατική τιµή της παραµέτρου α, lim n + Pr( l(α ; W (2),, W (n 1) ) < l(α 0 ; W (2),, W (n 1) )) = 1. Απόδειξη. Εστω W i, i = 2,, n 1 τυχαίες µεταβλητές των οποίων οι διατεταγµένες πα- ϱατηρήσεις είναι οι W (i), i = 2,, n 1. Για κάθε u και v τέτοια ώστε 0 < u < v µε τις προϋποθέσεις ότι Z (1) = u, Z (n) = v, όπου Z (1) = (X (1) γ 0 )/ϐ 0, Z (n) = (X (1) γ 0 )/ϐ 0 και ϐ 0, γ 0 είναι οι πραγµατικές τιµές των παραµέτρων ϐ και γ, αντίστοιχα. Η δεσµευµένη από κοινού συνάρτηση πυκνότητας πιθανότητας των τυχαίων µεταβλητών W i και των διατεταγµένων παρατηρήσεων W (i) δοθέντος ότι Z (1) = u, Z (n) = v, δίνονται αντίστοιχα από τις ακόλουθες σχέσεις, n 1 (n 2)! (v u)g(u + (v u)w i ; α 0 )/ {G(v; α 0 ) G(u; α 0 )}, i=2 0 w 2 w n 1 1, και (v u)g(u + (v u)w; α 0 )/ {G(v; α 0 ) G(u; α 0 )}, 0 w 1, (5.17) και αυτές είναι υπό συνθήκη ανεξάρτητες, δοθέντος ότι Z (1) = u, Z (n) = v. Ορίζουµε ως, n 1 l u,v (α; W (2),, W (n 1) ) = (n 2)! (v u)g(u + (v u)w i ; α 0 )/ {G(v; α 0 ) G(u; α 0 )}. i=2

113 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 97 Για οποιαδήποτε σταθερά u και v τέτοια ώστε 0 < u < v, υπό τις συνθήκες ότι Z (1) = u, Z (n) = v, για κάθε α α 0 και n > 2, ϑεωρούµε ότι, 1 n 2 ln l u,v(α; W (2),, W (n 1) ) l u,v (α 0 ; W (2),, W (n 1) ) = 1 n 1 ln (v u)g(u + (v u)w i; α)/ {G(v; α) G(u; α)} n 2 (v u)g(u + (v u)w i ; α 0 )/ {G(v; α 0 ) G(u; α 0 )}. (5.18) i=2 Από το νόµο των µεγάλων αριθµών, η σχέση (5.18) συγκλίνει κατά πιθανότητα στη [ ] (v u)g(u + (v u)w; α)/ {G(v; α) G(u; α)} E ln, (5.19) (v u)g(u + (v u)w; α 0 )/ {G(v; α 0 ) G(u; α 0 )} όπου W είναι η τυχαία µεταβλητή µε κατανοµή, η οποία δίνεται από τη σχέση (5.17). Από την ανισότητα του Jensen, έχουµε ότι, [ ] (v u)g(u + (v u)w; α)/ {G(v; α) G(u; α)} E ln (v u)g(u + (v u)w; α 0 )/ {G(v; α 0 ) G(u; α 0 )} [ ] (v u)g(u + (v u)w; α)/ {G(v; α) G(u; α)} < lne (v u)g(u + (v u)w; α 0 )/ {G(v; α 0 ) G(u; α 0 )} = ln 1 0 (v u)g(u + (v u)w; α)/ {G(v; α) G(u; α)} dw = 0. (5.20) Τότε, έπεται ότι, ( lim P 1 n n 2 ln l ) u,v(α; W (2),, W (n 1) ) l u,v (α 0 ; W (2),, W (n 1) ) < 0 Z (1) = u, Z (n) = v = 1, ή lim n P ( l u,v (α; W (2),, W (n 1) ) < l u,v (α 0 ; W (2),, W (n 1) ) Z (1) = u, Z (n) = v ) = 1. (5.21) Από τη ϑετικότητα και την ολοκληρωσιµότητα των l u,v (α; W (2),, W (n 1) ) και l u,v ( α0 ; W (2),, W (n 1) ), η σχέση (5.21) συνεπάγεται, lim n P ( l(α; W (2),, W (n 1) ) < l(α 0 ; W (2),, W (n 1) ) Z (1) = u, Z (n) = v ) = 1. (5.22)

114 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 98 Επίσης, και 0 u 0 u n(n 1)g(u; α 0 )g(v; α 0 ) {G(v; α 0 ) G(u; α 0 )} n 2 dvdu = 1 (5.23) n(n 1)g(u; α 0 )g(v; α 0 ) {G(v; α 0 ) G(u; α 0 )} n 2 = P ( l(α; W (2),, W (n 1) ) < l(α 0 ; W (2),, W (n 1) ) Z (1) = u, Z (n) = v ) dvdu 0 u 0 u n(n 1)g(u; α 0 )g(v; α 0 ) {G(v; α 0 ) G(u; α 0 )} n 2 dvdu n(n 1)g(u; α 0 )g(v; α 0 ) {G(v; α 0 ) G(u; α 0 )} n 2 dvdu = 1, (5.24) εφόσον P ( l(α; W (2),, W (n 1) ) < l(α 0 ; W (2),, W (n 1) ) Z (1) = u, Z (n) = v ) είναι ϕραγµένη από το 1. Στη συνέχεια, εφαρµόζοντας το ϑεώρηµα κυριαρχηµένης σύγκλισης, από τις σχέσεις (5.23) και (5.24), έχουµε ότι, lim P ( l(α; W (2),, W (n 1) ) < l(α 0 ; W (2),, W (n 1) ) ) n = = 0 u n(n 1)g(u; α 0 )g(v; α 0 ) {G(v; α 0 ) G(u; α 0 )} n 2 P ( l(α; W (2),, W (n 1) ) < l(α 0 ; W (2),, W (n 1) ) Z (1) = u, Z (n) = v ) dvdu 0 u = lim n 0 = 1. lim n(n 1)g(u; α 0)g(v; α 0 ) {G(v; α 0 ) G(u; α 0 )} n 2 dvdu n u n(n 1)g(u; α 0 )g(v; α 0 ) {G(v; α 0 ) G(u; α 0 )} n 2 dvdu Θεώρηµα Ο εκτιµητής για την παράµετρο α, ˆα w είναι συνεπής για α > 0.

115 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 99 Απόδειξη. Η απόδειξη του Θεωρήµατος αυτού, είναι άµεση συνέπεια του Θεωρήµατος των Lehmann και Casella (1998), [ϐλέπε Παράρτηµα, Θεώρηµα Αʹ.0.2]. Εφόσον, λοιπόν, έχουµε καθορίσει τον εκτιµητή για την παράµετρο α, µε τη διαδικασία που αναφέραµε προηγουµένως, στη συνέχεια ϑα περιγράψουµε τη µέθοδο που ακολου- ϑούµε για την εκτίµηση των ϐ και γ. Οι εκτιµητές αυτοί έχουν τις ακόλουθες ιδιότητες. Ιδιότητα 1: Οι εκτιµήσεις υπάρχουν και είναι µοναδικές για κάθε n > 2 και για κάθε α, ϐ και γ, µε α > 0, ϐ > 0 και < γ < +. Ιδιότητα 2: Οι εκτιµητές είναι συνεπείς για τις παραµέτρους ϐ και γ, αντίστοιχα. Αρχικά, ϑεωρούµε τους ακόλουθους εκτιµητές (µέγιστης πιθανοφάνειας) για τις παρα- µέτρους γ και ϐ, Οι εκτιµήσεις x (1) και 1 n ˆ α w ˆγ init = X (1) (5.25) ˆϐ init = 1 (X i ˆγ init ). n ˆα w (5.26) (x i x (1) ) υπάρχουν και είναι µοναδικές, δοθέντος των παρατηρήσεων x 1,, x n όπου ˆα w είναι η πραγµατική τιµή του ˆα w. Γνωρίζουµε ότι η X (1) συγκλίνει κατά πιθανότητα στο γ, όταν n για κάθε γ, όπως αναφέρουν οι Arnold et al. (1992). Εποµένως, ο εκτιµητής ˆγ init είναι συνεπής εκτιµητής του γ. Υποθέτοντας, λοιπόν, ότι τα α και γ είναι γνωστά, αντικαθιστώντας το α µε ˆα w και το γ µε ˆγ init στη σχέση (5.26), ϐρίσκουµε τον εκτιµητή µέγιστης πιθανοφάνειας του ϐ, ˆϐinit, ο οποίος είναι συνεπής για το ϐ. Ετσι, σε αυτό το σηµείο χρειάζεται να διορθώσουµε τη µεροληψία αυτών των εκτιµητών. Εφόσον, E [ ] + X (1) = γ + ϐ {1 F(z; α, 1, 0)} n dz, (5.27) 0

116 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 100 αντικαθιστώντας µε αˆ w όπου α και µε ˆϐinit όπου ϐ, ο εκτιµητής µειωµένης µεροληψίας (bias - corrected) για το γ γίνεται, + ˆγ w = X (1) ˆϐinit {1 F(z; ˆα w, 1, 0)} n dz. (5.28) 0 Στη συνέχεια, υπολογίζουµε τον εκτιµητή µειωµένης µεροληψίας (bias - corrected) για το ϐ, ο οποίος είναι, ˆϐ w = 1 n ˆα w (X i ˆγ w ). (5.29) Συνοπτικά, λοιπόν,µε τη µέθοδο αυτή στο δεύτερο στάδιο, καθορίζουµε τους εκτιµητές µειωµένης µεροληψίας (bias - corrected) για το γ και το ϐ ως εξής, όπου + ˆγ w = X (1) ˆϐinit {1 F(z; ˆα w, 1, 0)} n dz (5.30) ˆϐ w = 1 n ˆα w 0 (X i ˆγ w ) (5.31) ˆγ init = X (1) ˆϐ init = 1 n ˆα w (X i ˆγ init ) = 1 n ˆα w (X i X (1) ) Ακολούθως, οι Nagatsuka et al. (2012, 2014) απέδειξαν ότι αυτές οι εκτιµήσεις των παραµέτρων υπάρχουν πάντα και είναι µοναδικές, καθώς και ότι είναι συνεπείς σε όλο το παραµετρικό χώρο, αποφεύγοντας έτσι τα προβλήµατα που αντιµετωπίζαµε από τις κλασικές µεθόδους εκτίµησης. Επιπρόσθετα, για την εκτίµηση των α, ϐ και γ, η µέθοδος LSPF γενικά υπερτερεί µεταξύ άλλων γνωστών µεθόδων όσον αφορά τη µεροληψία και το µέσο τετραγωνικό σφάλµα (MSE). Ωστόσο, ένα µειονέκτηµα της µεθόδου LSPF είναι ότι, ενώ έχουµε στατιστικές συναρτήσεις ανεξάρτητες των παραµέτρων ϑέσης και κλίµακας του αρχικού δείγµατος, για την εκτίµηση του α, δύο µεταβλητές εξ αυτών είναι πάντα εκφυλισµένες. Ενα ακόµα χαρακτηριστικό της µεθόδου αυτής, είναι ότι οι εκτιµήσεις των α,

117 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 101 ϐ και γ λαµβάνονται σχεδόν ξεχωριστά. Αυτό µας επιτρέπει να αποφύγουµε τα υπολογιστικά προβλήµατα που συνήθως εµφανίζονται στην πολυδιάστατη αριθµητική αναζήτηση, αλλά η µέθοδος µπορεί να έχει χαµηλή απόδοση όταν και οι τρεις εκτιµήσεις χρειάζονται ταυτόχρονα, όπως για παράδειγµα στην εκτίµηση ποσοστιαίων σηµείων Μέθοδος LPF Υποκινούµενοι από τα προαναφερθέντα µειονεκτήµατα της µεθόδου LSPF, ϑα αναφέρουµε µια νέα προτεινόµενη µέθοδο εκτίµησης για τις παραµέτρους της τριπαραµετρικής Γάµµα κατανοµής. Η νέα αυτή µέθοδος, αποτελείται επίσης από δύο στάδια, αλλά η ϐασική ιδέα σε αυτή τη µέθοδο είναι η χρήση στατιστικών συναρτήσεων, οι οποίες δεν εξαρτώνται από την παράµετρο ϑέσης, γ, οπότε έχουµε µόνο µία εκφυλισµένη µεταβλητή. Ακόµα µία ιδέα είναι η εκτίµηση των παραµέτρων ϐ και γ, να γίνεται ταυτόχρονα και όχι διαδοχικά, χρησι- µοποιώντας τη συνήθη µέθοδο µέγιστης πιθανοφάνειας, εφόσον όµως έχουµε υπολογίσει την εκτίµηση του α, από το πρώτο στάδιο. Η µέθοδος αυτή παρουσιάζεται στην εργασία των Nagatsuka and Balakrishnan (2012) και αναφέρεται ως Μέθοδος Μέγιστης Πιθανοφάνειας ελεύθερη παραµέτρου ϑέσης (Location Parameter Free Maximum Likelihood (LPF)). Θεωρούµε, λοιπόν, τις ακόλουθες στατιστικές συναρτήσεις, V (i) = X (i) X (1), i = 1,, n (5.32) Είναι προφανές ότι οι στατιστικές συναρτήσεις V (i), δεν εξαρτώνται από το γ, αλλά εξαρτώνται από τα α και ϐ, [ ϐλέπε Πρόταση (5.2.2) ]. Παρατηρούµε, επίσης, ότι η V (1) παίρνει την τιµή 0, δηλαδή είναι η µοναδική εκφυλισµένη τυχαία µεταβλητή που έχουµε, σε αντίθεση µε τις δύο που είχαµε στη µέθοδο LSPF. Επίσης, ϑεωρούµε τον εκτιµητή µέγιστης πιθανοφάνειας για το α και το ϐ, ϐασιζόµενοι

118 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 102 στις V (2),, V (n). Η συνάρτηση πιθανοφάνειας µπορεί να ϕράσσεται δεδοµένου ότι δεν εξαρτάται από το γ. Για να υπολογίσουµε τους εκτιµητές µέγιστης πιθανοφάνειας για το α και το ϐ, ϑα πρέπει πρώτα να παραγωγίσουµε την από κοινού συνάρτηση πυκνότητας πιθανότητας των V (2),, V (n). Πρόταση Για α > 0 και ϐ > 0, η από κοινού συνάρτηση πυκνότητας πιθανότητας των V (2),, V (n), όπου V (i) = X (i) X (1), i = 2,, n και X i G(α, ϐ, γ) δίνεται από τη σχέση, φ(v 2,, v n ; α, ϐ) = n! (ϐγ(α)) n 0 n ( u + vi ϐ ) α 1 exp ( ) u + vi du ϐ v 1 = 0, 0 v 2 v n. (5.33) Απόδειξη. Αρχικά, ορίζουµε τα ακόλουθα, g(x; α, ϐ) = f (x; α, ϐ, 0) = G(x; α, ϐ) = F(x; α, ϐ, 0) = ( 1 x ϐγ(α) ϐ x 0 1 ϐγ(α) ) α 1 { exp x } ϐ ( t ϐ, x > 0, (5.34) ) α 1 { exp t } dt. (5.35) ϐ Υποθέτοντας ότι Y 1,, Y n είναι n ανεξάρτητες τυχαίες µεταβλητές από τη διπαραµετρική Γάµµα κατανοµή µε παράµετρο µορφής α και κλίµακας ϐ. Για i = 1,, n, έστω ότι η Y (i) είναι η i διατεταγµένη τυχαία µεταβλητή µεταξύ των Y 1,, Y n. Εποµένως, η συνάρτηση πυκνότητας πιθανότητας της Y (1), δίνεται από τη σχέση, f Y(1) (u) = ng(u; α, ϐ) [1 G(u; α, ϐ)] n 1, Y (1) = u, (5.36) και η από κοινού συνάρτηση πυκνότητας πιθανότητας των Y (2),, Y (n) δεδοµένου ότι Y (1) = u δηµιουργείται ως εξής, ϑεωρούµε y i = u + v i, i = 1,, n, επειδή όµως v 1 = 0 y 1 = u, έχουµε,

119 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 103 Οπότε, f Y(2),,Y (n) (y 2,, y n y 1 ) = f Y (1),,Y (n) (y 1,, y n ) f Y(1) (y 1 ) n! n g(y i ; α, ϐ) = ng(y 1 ; α, ϐ) [1 G(y 1 ; α, ϐ)] n 1 n! n g(y i ; α, ϐ) i=2 = n [1 G(y 1 ; α, ϐ)] n 1 P(Y (i) y i, i = 2,, n Y (1) = u) = = n! yn i=2 y2 n! n g(t yi ; α, ϐ) i=2 n [1 G(u; α, ϐ)] dt n 1 y 2 dt yn n 1 (G(y i ; α, ϐ)) n [1 G(u; α, ϐ)]. n 1 Συνεπώς, για τις πραγµατικές τιµές 0 v 2 v n, έχουµε, P(V (i) v i, i = 2,, n) = P(Y (i) Y (1) v i, i = 2,, n) = = = = P(Y (i) u + v i, i = 2,, n Y (1) = u) f Y(1) (u)du P(Y (i) u + v i, i = 2,, n Y (1) = u) n g(u; α, ϐ) [1 G(u; α, ϐ)] n 1 du n n g(u; α, ϐ) [1 G(u; α, ϐ)]n 1 n! (G(u + v i ; α, ϐ)) du n [1 G(u; α, ϐ)] n 1 i=2 n n! g(u; α, ϐ) (G(u + v i ; α, ϐ)) du Για κάθε α > 0, ϐ > 0 και n > 0, το n! g(u; α, ϐ) i=2 n (G(u + v i ; α, ϐ)) ολοκληρώνεται ως προς u στο διάστηµα (0, + ), εφόσον 0 n! g(u; α, ϐ) n (G(u + v 0 i ; α, ϐ)) du 1, και i=2 n έχει µερικές παραγώγους ως προς v i, i = 2,, n, n! g(u; α, ϐ) (g(u + v i ; α, ϐ)). Υπάρχει µια ϑετική τιµή M, τέτοια ώστε, n n! g(u; α, ϐ) (g(u + v i ; α, ϐ)) du 0 i=2 0 i=2 i=2 n! g(u; α, ϐ) [1 G(u; α, ϐ)] n 1 Mdu = M (5.37)

120 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 104 αφού, (n 1)! n (g(u + v i ; α, ϐ)) i=2 [1 G(u + v i ; α, ϐ)] n 1 είναι η δεσµευµένη από κοινού συνάρτηση πυκνότητας πιθανότητας των V i δοθέντος ότι Y (1) = u, και τότε είναι άνω ϕραγµένη. Ετσι, από το Θεώρηµα 16.8(ii) του Billingsley (1994), η µερική παράγωγος της P(V (i) v i, i = 2,, n) ως προς v i, i = 2,, n είναι, n 1 P(V n (i) v i, i = 2,, n) = n! v i i=2 0 = n! 0 g(u; α, ϐ) 1 ϐ n (Γ(α)) n n (g(u + v i ; α, ϐ)) du i=2 n ( ) u + (u + v i ) α 1 exp vi ϐ du, v 1 = 0, 0 v 2 v n. Εποµένως, αποδείχθηκε η πρόταση, n! φ(v 2,, v n ; α, ϐ) = ϐ n (Γ(α)) n 0 n ( u + vi ϐ ) α 1 exp ( ) u + vi du, ϐ v 1 = 0, 0 v 2 v n. (5.38) Ετσι, από την Πρόταση ϐρίσκουµε τη συνάρτηση πυκνότητας πιθανότητας των α και ϐ, η οποία εξαρτάται από τις V (2),, V (n), l V (α, ϐ; v 2,, v n ) = φ(v 2,, v n ; α, ϐ) (5.39) όπου v 2,, v n είναι οι πραγµατικές τιµές των V (2),, V (n). Τότε, οι εκτιµητές µέγιστης πιθανοφάνειας των α και ϐ, αˆ v και ϐv ˆ, αντίστοιχα, δηµιουργούνται µεγιστοποιώντας τη συνάρτηση πιθανοφάνειας l V (α, ϐ; v 2,, v n ) ως προς α και ϐ, αντικαθιστώντας τα V (i) µε v i.

121 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 105 Σηµειώνουµε ότι η συνάρτηση πιθανοφάνειας (5.39) είναι ϕραγµένη και για αυτό το λόγο αποφεύγει το πρόβληµα της µη ϕραγµένης πιθανοφάνειας, όπως και η µέθοδος LSPF. και ϐ, Στο πρώτο στάδιο, λοιπόν, αποκτούµε τους εκτιµητές µέγιστης πιθανοφάνειας των α αˆ v και ˆ ϐv, αντίστοιχα. Στο δεύτερο στάδιο, χρησιµοποιούµε µόνο τον αˆ v και όχι τον ˆ ϐv. Εκτενείς προσοµοιώσεις έδειξαν ότι ο ˆ ϐv έχει ελαφρώς χαµηλότερη απόδοση από άλλους εκτιµητές, και ο λόγος που συµβαίνει αυτό είναι γιατί δηµιουργήθηκε µόνο από τις n 1 τυχαίες µεταβλητές V (2),, V (n). Μετά από τον υπολογισµό της εκτίµησης του α, χρησιµοποιώντας τη µέθοδο που πε- ϱιγράφηκε παραπάνω, ϑα αναφερθούµε στη µέθοδο εκτίµησης των ϐ και γ. Για την εκτίµηση, λοιπόν, των ϐ και γ, υιοθετούµε τη συνήθη µέθοδο µέγιστης πιθανοφάνειας στην οποία αντικαθιστούµε το α µε αˆ v. Πρόταση Εστω ότι έχουµε n ανεξάρτητες και ισόνοµες τυχαίες µεταβλητές, οι οποίες ακολουθούν την τριπαραµετρική Γάµµα κατανοµή G( αˆ v, ϐ, γ) µε από κοινού συνάρτηση πυκνότητας πιθανότητας, L = 1 ϐ n (Γ( αˆ v )) n n ( xi γ Τότε, οι εξισώσεις πιθανοφάνειας είναι, όπου X = 1 n ϐ ) αv ˆ 1 1 ψ( αˆ v ) ln( αˆ v ) + ln( X γ) n ( ) exp xi γ ϐ. ln(x i γ) = 0 (5.40) X i και ψ(z) = d lnγ(z) η δίγαµµα συνάρτηση. dz ϐ = X γ (5.41) αˆ v Απόδειξη. Εχοντας την από κοινού συνάρτηση πυκνότητας πιθανότητας, στη συνέχεια λογαριθµώντας και παραγωγίζοντας ως προς α και ϐ αντίστοιχα, δηµιουργούµε τις δύο εξισώσεις πιθανοφάνειας.

122 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 106 Ο λογάριθµος της από κοινού συνάρτησης πυκνότητας πιθανότητας είναι, lnl = nlnγ( αˆ v ) nαlnϐ + (α 1) ln(x i γ) 1 ϐ (x i γ). (5.42) Αρχικά, παραγωγίζουµε ως προς ϐ για να αποδειχθεί η σχέση (5.41), δηλαδή, ϐ lnl = 0 nαˆ v ϐ + 1 ϐ 2 nαˆ v ϐ = nαˆ v ϐ = (x i γ) = 0 (x i γ) (x i ) nγ ϐ = X γ ˆ α v Στη συνέχεια, παραγωγίζουµε ως προς α το λογάριθµο της από κοινού συνάρτησης πυκνότητας πιθανότητας και αντικαθιστούµε τη σχέση (5.41), για να αποδειχθεί η σχέση (5.40), δηλαδή lnl = 0 nψ( αˆ v ) + αˆ v ψ( ˆ α v ) 1 n ψ( ˆ α v ) 1 n ln(x i γ) n lnϐ = 0 ln(x i γ) + lnϐ = 0 ( ) X γ ln(x i γ) + ln = 0 αˆ v ln(x i γ) = 0 1 ψ( αˆ v ) lnαˆ v + ln( X γ) n Ετσι, οι εκτιµητές των παραµέτρων ϐ και γ, ϐv ˆ και γˆ v, αντίστοιχα, υπολογίζονται λύνοντας τις πιο πάνω εξισώσεις πιθανοφάνειας.

123 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ Μέθοδος Μέγιστης Πιθανοφάνειας µε ϐάση τη διάταξη Σε αυτή την ενότητα, αναφέρουµε µια µέθοδο µέγιστης πιθανοφάνειας µε ϐάση τη διάταξη, η οποία ορίζεται από τις στατιστικές συναρτήσεις, S (i) = X (i) X (i 1), i = 2,, n. (5.43) Η µέθοδος Maximum Product of spacing (MPS), προτάθηκε από τους Cheng and A- min (1983) και Ranneby (1984), ανεξαρτήτως, και είναι γνωστή ως µια µέθοδος η οποία ϐασίζεται στη διάταξη, αλλά δεν είναι ακριβώς µέθοδος µέγιστης πιθανοφάνειας ϐάσει διάταξης. Η ακριβής µέθοδος µε ϐάση τη διάταξη για την τριπαραµετρική Γάµµα κατανοµή, δεν έχει αναφερθεί ακόµα στη ϐιβλιογραφία. Η µέθοδος LPF, την οποία αναφέραµε προηγουµένως, ϕαίνεται να είναι ισοδύναµη µε τη µέθοδο µέγιστης πιθανοφάνειας µε ϐάση τη διάταξη, υπό την έννοια των ϑεωρηµάτων που ακολουθούν. Θεώρηµα Οι εκτιµητές από τη µέθοδο LPF συµφωνούν µε τους εκτιµητές µέγιστης πιθανοφάνειας ϐάσει διάταξης από τη σχέση (5.43). Θεώρηµα Οι εκτιµητές από τη µέθοδο LSPF συµφωνούν µε τους εκτιµητές µέγιστης πιθανοφάνειας µε ϐάση την ακόλουθη διάταξη, Απόδειξη. Αρχικά, έχουµε την ακόλουθη σχέση, T (i) = X (i) X (i 1) X (n) X (1), i = 2,, n 1. (5.44) W (i) = T (i) + T (i 1) + + T (2), i = 2,, n 1, ή αλλιώς, T (i) = W (i) W (i 1), i = 2,, n 1, µε W (1) = 0. (5.45) Είναι εύκολο να αποδείξουµε ότι ο Ιακωβιανός πίνακας ισούται µε ένα, χρησιµοποιώντας το µετασχηµατισµό από τη σχέση (5.45). Σύµφωνα µε την από κοινού συνάρτηση

124 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 108 πυκνότητας πιθανότητας των W (2),, W (n 1), την οποία έχουµε αποδείξει στην Πρόταση 5.2.1, η από κοινού συνάρτηση πυκνότητας πιθανότητας των T (2),, T (n 1) δίνεται από τη σχέση, ξ (t 2,, t n 1 ; α) = ξ(t 2, t 2 + t 3,, t t n 1 ; α). (5.46) Από τη σχέση (5.46), παρατηρούµε ότι η συνάρτηση πιθανοφάνειας του α ϐάσει των W (2),, W (n 1) συµφωνεί µε τη συνάρτηση πιθανοφάνειας του α ϐάσει των T (2),, T (n 1), πράγµα που σηµαίνει ότι οι εκτιµητές µέγιστης πιθανοφάνειας ϐάσει των W (2),, W (n 1) ϑα είναι οι ίδιοι µε τους εκτιµητές µέγιστης πιθανοφάνειας ϐάσει των T (2),, T (n 1). 5.3 Σύγκριση Εκτιµητών Σε αυτή την ενότητα παρουσιάζονται µερικά παραδείγµατα, τα οποία αναφέρονται στην εργασία των Nagatsuka end Balakrishnan (2012). Η προτεινόµενη µέθοδος LPF συγκρίνεται µε τη µέθοδο LSPF και τη µέθοδο Τροποποιηµένων Ροπών (MM) των Cohen and Whitten (1982) Παράδειγµα 1 Το πρώτο παράδειγµα αναφέρεται στα µέγιστα επίπεδα από τις πληµµύρες σε εκατοµ- µύρια κυβικά πόδια ανά δευτερόλεπτο για τον ποταµό Susquehanna στο Harrisburg, Pennsylvania, πάνω από 20 περιόδους τεσσάρων ετών από το 1890 έως το 1969, τα οποία παρουσιάζονται στον Πίνακα 3.1. Τα µετασχηµατισµένα δεδοµένα, σύµφωνα µε τη σχέση (5.32), αναφέρονται στον ακόλουθο πίνακα, Βασιζόµενοι στα πιο πάνω δεδοµένα, µεγιστοποιούµε τη συνάρτηση l V, η οποία δίνε-

125 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 109 Πίνακας 5.1: Μετασχηµατισµένα δεδοµένα (Dumonceaux and Antle (1973)) ται από τη σχέση (5.39), και υπολογίζουµε την εκτίµηση του α να είναι ίση µε Στη συνέχεια, υπολογίζονται οι εκτιµήσεις των ϐ και γ, οι οποίες είναι και 0.229, αντίστοιχα, λύνοντας τις σχέσεις (5.40), (5.41). Στο Σχήµα 5.1, ϐλέπουµε τη γραφική παράσταση της συνάρτησης l V (α, ϐ; v 2,, v n ) = φ(v 2,, v n ; α, ϐ) µε ϐάση τα δεδοµένα από τον Πίνακα 3.1. Από αυτή τη γραφική πα- ϱάσταση παρατηρούµε ότι η συνάρτηση πιθανοφάνειας έχει µόνο ένα τοπικό µέγιστο ως προς α και ϐ, και παίρνει τη µέγιστη τιµή της στην εκτίµηση του α. Σχήµα 5.1: Γραφική παράσταση του l V (α, ϐ; v 2,, v n ) ϐάσει των δεδοµένων από τον Πίνακα 3.1

126 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 110 Οι εκτιµήσεις των παραµέτρων εφαρµόζοντας τις µεθόδους MM και LSPF παρουσιά- Ϲονται στον Πίνακα 5.2. Οι αντίστοιχες στατιστικές των Kolmogorov - Smirnov (KS) πα- ϱουσιάζονται, επίσης, σε αυτό τον πίνακα, και παρατηρούµε ότι όλες οι µέθοδοι δείχνουν την ακρίβεια της τριπαραµετρικής Γάµµα κατανοµής για αυτά τα δεδοµένα σε επίπεδο σηµαντικότητας 10%. Πίνακας 5.2: Εκτιµήσεις των α, ϐ και γ για το Παράδειγµα 1 Μέθοδος α ϐ γ KS MM LSPF LPF Παράδειγµα 2 Τα δεδοµένα για αυτό το παράδειγµα είναι από τον McCool (1974), όπως αναφέρουν στην εργασία τους οι Nagatsuka end Balakrishnan (2012) και παρουσιάζονται στον Πίνακα 3.3. Τα δεδοµένα προέρχονται από τη διάρκεια της ωφέλιµης Ϲωής, σε ώρες, δέκα εδράνων (ϱουλεµάν), συγκεκριµένου τύπου. Τα µετασχηµατισµένα δεδοµένα, σύµφωνα µε τη σχέση (5.32), αναφέρονται στον ακόλουθο πίνακα, Πίνακας 5.3: Μετασχηµατισµένα δεδοµένα (McCool (1974)) Βασιζόµενοι στα πιο πάνω δεδοµένα, µεγιστοποιούµε τη συνάρτηση l V, η οποία δίνεται από τη σχέση (5.39), και υπολογίζουµε την εκτίµηση του α να είναι ίση µε Στη συνέχεια, υπολογίζονται οι εκτιµήσεις των ϐ και γ, οι οποίες είναι και , αντίστοιχα, λύνοντας τις σχέσεις (5.40), (5.41).

127 ΚΕΦΑΛΑΙΟ 5. Ε.Μ.Π. ΕΛΕΥΘΕΡΗ ΠΑΡΑΜΕΤΡΩΝ 111 Σχήµα 5.2: Γραφική παράσταση του l V (α, ϐ; v 2,, v n ) ϐάσει των δεδοµένων από τον Πίνακα 3.3 Στο Σχήµα 5.2, ϐλέπουµε τη γραφική παράσταση της συνάρτησης l V (α, ϐ; v 2,, v n ) = φ(v 2,, v n ; α, ϐ) µε ϐάση τα δεδοµένα από τον Πίνακα 3.3. Από αυτή τη γραφική πα- ϱάσταση παρατηρούµε ότι η συνάρτηση πιθανοφάνειας έχει µόνο ένα τοπικό µέγιστο ως προς α και ϐ, και παίρνει τη µέγιστη τιµή της στην εκτίµηση του α. Οι εκτιµήσεις των παραµέτρων εφαρµόζοντας τις µεθόδους MM και LSPF παρουσιά- Ϲονται στον Πίνακα 5.4. Οι αντίστοιχες στατιστικές των Kolmogorov - Smirnov (KS) πα- ϱουσιάζονται, επίσης, σε αυτό τον πίνακα, και παρατηρούµε ότι όλες οι µέθοδοι δείχνουν την ακρίβεια της τριπαραµετρικής Γάµµα κατανοµής για αυτά τα δεδοµένα σε επίπεδο σηµαντικότητας 10%.