Έλεγχοι Υποθέσεων βάσει Mέτρων Απόκλισης

Transcript

1 ΔΘΝΙΚΟ ΜΔΣΟΒΙΟ ΠΟΛΤΣΔΥΝΔΙΟ ΥΟΛΗ ΔΦΑΡΜΟΜΔΝΩΝ ΜΑΘΗΜΑΣΙΚΩΝ ΚΑΙ ΦΤΙΚΩΝ ΔΠΙΣΗΜΩΝ Γ.Π.Μ. ΔΦΑΡΜΟΜΔΝΔ ΜΑΘΗΜΑΣΙΚΔ ΔΠΙΣΗΜΔ Έλεγχοι Υποθέσεων βάσει έτρων Απόκλισης ΜΔΣΑΠΣΤΥΙΑΚΗ ΓΙΠΛΩΜΑΣΙΚΗ ΔΡΓΑΙΑ ΣΑΤΡΟΠΟΤΛΟ ΓΗΜΗΣΡΙΟ Δπιβλέποσζα Καθηγήηρια Βόνηα Φιλία ΑΘΗΝΑ

2 Η παπούζα Γιπλωμαηική Δπγαζία εκπονήθηκε ζηα πλαίζια ηων ζποςδών για ηην απόκηηζη ηος Μεηαπηστιακού Γιπλώμαηος Διδίκεσζης πος απονέμει ηο Γιαημημαηικό Πρόγραμμα Μεηαπηστιακών ποσδών «Δθαρμοζμένες Μαθημαηικές Δπιζηήμες» ηηρ σολήρ Δθαπμοζμένων Μαθημαηικών και Φςζικών Δπιζηημών ηος Δθνικού Μεηζόβιος Πολςηεσνείος Δγκπίθηκε από Δξεηαζηική Δπιηποπή αποηελούμενη από ηοςρ: Ονομαηεπώνσμο Βόνηα Φιλία (Δπιβλέποςζα) Καπώνη Υπςζηίρ Κοςκοςβίνορ Υπήζηορ Βαθμίδα Δπίκοςπη Καθηγήηπια Δ.Μ.Π Αναπληπώηπια Καθηγήηπια Δ.Μ.Π Καθηγηηήρ Δ.Μ.Π Ιούλιος

3 Δσταριζηίες Θα ήθελα να εςσαπιζηήζω ηην επιβλέποςζα ηηρ διπλωμαηικήρ επγαζίαρ, Δπίκοςπη Καθηγήηπια κα Βόνηα Φιλία, για ηην πολύηιμη καθοδήγηζη και ηην εμπιζηοζύνη πος μος έδειξε και κςπίωρ για ηον σπόνο πος αθιέπωζε ζε όλη ηη διάπκεια ηηρ εκπόνηζηρ ηηρ παπούζαρ επγαζίαρ. Δπιπλέον θα ήθελα να εςσαπιζηήζω ηην Αναπληπώηπια Καθηγήηπια κα Καπώνη Υπςζηίρ και ηον Καθηγηηή κ Κοςκοςβίνο Υπήζηο για ηην ηιμή πος μος έκαναν να είναι μέλη ηηρ ηπιμελούρ επιηποπήρ.

4

5 Περιεχόμενα. Ειςαγωγι 9. Η Ζννοια των μζτρων απόκλιςθσ και θ χρθςιμότθτά τουσ Κατθγοριοποίθςθ των μζτρων απόκλιςθσ Στοιχειϊδεισ ζννοιεσ από τθ Θεωρία Πικανότθτων Σκοπόσ και δομι τθσ εργαςίασ φ-μζτρα απόκλιςθσ :οριςμοί και ιδιότθτεσ 4. Μζτρα απόκλιςθσ μεταξφ δυο κατανομϊν πικανότθτασ Βαςικζσ Ιδιότθτεσ των μζτρων απόκλιςθσ Ανιςότθτεσ Καλι προςαρμογι απλισ μθδενικισ υπόκεςθσ βάςει φ-ςυναρτιςεων 8 3. Ειςαγωγι Αποκλίςεισ και ζλεγχοι καλισ προςαρμογισ με μθ μεταβαλλόμενο αρικμό κλάςεων Ζλεγχοσ υποκζςεων παραμετρικϊν κατανομϊν Έλεγχοι καλισ προςαρμογισ για κατανομζσ παρελκοντικών και υπολειπόμενων χρόνων ηωισ Πειράματα προςομοίωςθσ για κατανομζσ παρελκοντικϊν χρόνων επιβίωςθσ Πειράματα προςομοίωςθσ για κατανομζσ υπολειπόμενων χρόνων Επιβίωςθσ Ερμθνεία Αποτελεςμάτων-Συμπεράςματα Παράρτθμα: Εντολζσ ςτθν R για εξαγωγι των αποτελεςμάτων 65 Βιβλιογραφία 75 7

6 8

7 ΚΕΦΑΛΑΙΟ Ειςαγωγι. Η Έννοια των μζτρων απόκλιςθσ και θ χρθςιμότθτά τουσ Με τον όρο μζτρα απόκλιςθσ ςτον τομζα τθσ κεωρίασ πικανοτιτων και τθσ ςτατιςτικισ εννοοφμε τα ςτατιςτικά εργαλεία που χρθςιμοποιοφμε για να αξιολογιςουμε τθν ομοιότθτα ι τθν ανομοιότθτα μεταξφ δφο πλθκυςμϊν. Πολλζσ φορζσ επικυμοφμε να βροφμε ζνα κατάλλθλο μζτρο απόκλιςθσ για να εκτιμιςουμε τθν απόςταςθ ι τθ διαφορά μεταξφ δφο πλθκυςμϊν ι δφο κατανομϊν πικανότθτασ. Επομζνωσ, λόγω αυτισ τθσ χρθςιμότθτάσ τουσ μποροφμε να επιςθμάνουμε ότι τα μζτρα απόκλιςθσ ζχουν κακοριςτικι ςθμαςία ςε ζνα πολφ μεγάλο εφροσ τθσ κεωρθτικισ και εφαρμοςμζνθσ ςτατιςτικισ ςυμπεραςματολογίασ και ςτα προβλιματα επεξεργαςίασ δεδομζνων, όπωσ θ εκτίμθςθ, ανίχνευςθ, διάγνωςθ, αναγνϊριςθ, επιλογι του καλφτερου μοντζλου κ.α.. Κατθγοριοποίθςθ των μζτρων απόκλιςθσ Για να διαχωρίςoυμε αυτά τα μζτρα κατάλλθλα μποροφμε να τα κατθγοριοποιιςουμε ωσ παραμετρικά, μθ παραμετρικά και μζτρα εντροπίασ τθσ πλθροφορίασ. Τα παραμετρικά μζτρα υπολογίηουν τον όγκο των πλθροφοριϊν ςχετικά με μια άγνωςτθ παράμετρο κ που παρζχονται από τα δεδομζνα και είναι ςυναρτιςεισ του κ. Το πιο γνωςτό μζτρο αυτισ τθσ κατθγορίασ είναι το μζτρο πλθροφορίασ του Fsher. Τα μθ παραμετρικά μζτρα χρθςιμοποιοφνται για τθ μζτρθςθ τθσ απόςταςθσ ι τθ ςυγγζνεια μεταξφ δυο κατανομϊν πικανότθτασ F και F. Το μζτρο των Kullback-Lebler (95) είναι το πιο γνωςτό ςε αυτι τθν κατθγορία. Σαν ςυμμετρικι απόκλιςθ χρθςιμοποιείται ςυχνά θ J-απόκλιςθ των Jeffreys- Kullback-Lebler. Τα μζτρα τθσ εντροπίασ εκφράηουν το ποςό των πλθροφοριϊν που περιλαμβάνεται ςε μια κατανομι, δθλαδι το ποςό αβεβαιότθτασ που ςυνδζεται με τθν ζκβαςθ ενόσ πειράματοσ. Τα κλαςςικά μζτρα αυτοφ του τφπου είναι τα μζτρα Shannon και Rény. Ο Rény (96) γενίκευςε τόςο τθν εντροπία Shannon όςο και τθν απόκλιςθ Kullback-Lebler με τθν ειςαγωγι μιασ παραμζτρου κλίμακασ. Οι Burbea και Rao (98), και ο Taneja (989) ζχουν προτείνει διάφορουσ εναλλακτικοφσ τρόπουσ για τθν γενίκευςθ τθσ J-απόκλιςθσ, ενϊ τα προτεινόμενα μζτρα Burbea και Rao περιλαμβάνουν μια παράμετρο. Μια άλλθ γνωςτι κατθγορία μζτρων απόκλιςθσ είναι θ απόκλιςθ Al-Slvey που καλείται και Csszár οικογζνεια φ-αποκλίςεων (Csszar 963, Al και Slvey 966). Επίςθσ οι Cresse και Read (984) όριςαν τθν οικογζνεια απόκλιςθσ δφναμθσ μεταξφ δφο κατανομϊν 9

8 πικανότθτασ, που εξαρτάται από μια παράμετρο και χρθςιμοποιείται για τον ζλεγχο καλισ προςαρμογισ για πολυωνυμικζσ κατανομζσ. Η κατθγορία αυτι περιλαμβάνει μεταξφ άλλων το γνωςτό μζτρο απόκλιςθσ X του Pearson και για πολυωνυμικοφσ πλθκυςμοφσ το ςτατιςτικό κριτιριο του λόγου τθσ λογαρικμο-πικανοφάνειασ. Πρόςφατα ορίςκθκε από τον Basu (998) το μζτρο απόκλιςθσ δφναμθσ Basu-Harrs-Hjort-Jones το οποίο ςυμβολίηεται ωσ BHHJ. Αυτι θ οικογζνεια των μζτρων προτάκθκε για τθν ανάπτυξθ μιασ μεκόδου εκτίμθςθσ τθσ ελάχιςτθσ απόκλιςθσ για τθν αξιόπιςτθ εκτίμθςθ των παραμζτρων. Η οικογζνεια αποκλίςεων BHHJ εξαρτάται από ζναν δείκτθ που ελζγχει τθν αποδοτικότθτα του μζτρου όταν χρθςιμοποιείται ωσ κριτιριο υπολογιςμοφ για τθν εκτίμθςθ των παραμζτρων..3 Στοιχειώδεισ ζννοιεσ από τθ Θεωρία Πικανοτιτων Ζςτω X μια τυχαία μεταβλθτι που παίρνει τιμζσ ςε ζναν δειγματικό χϊρο n (ςυνικωσ ο κα είναι ζνα υποςφνολο του ). Υποκζτουμε ότι θ ςυνάρτθςθ κατανομισ F τθσ X εξαρτάται από ζναν ςυγκεκριμζνο αρικμό παραμζτρων και υποκζτουμε αργότερα ότι ο τφποσ τθσ ςυνάρτθςθσ κατανομισ τθσ F είναι γνωςτόσ εκτόσ ίςωσ από ζναν πεπεραςμζνο αρικμό από αυτζσ τισ παραμζτρουσ. Θα ςυμβολίηουμε με το διάνυςμα των άγνωςτων παραμζτρων που ςυνδζονται με τθν F. Ζςτω,, P να είναι ο χϊροσ πικανοτιτων που ςχετίηεται με τθν τυχαία μεταβλθτι X, όπου είναι θ ς-άλγεβρα Borel των υποςυνόλων A και P μια οικογζνεια κατανομϊν πικανότθτασ που ορίηεται για το μετριςιμο χϊρο με Θ ζνα ανοιχτό υποςφνολο του, Μ., Υποκζτουμε ότι οι κατανομζσ πικανότθτασ P είναι απολφτωσ ςυνεχείσ ςε ςχζςθ με ζνα ς-πεπεραςμζνο μζτρο ςτον χϊρο,. Για χάριν ευκολίασ το κα είναι είτε το μζτρο Lebesgue, ι ζνα απαρικμθτικό μζτρο (δθλαδι κα υπάρχει ζνα πεπεραςμζνο ι αρικμιςιμο ςφνολο S με τθν ιδιότθτα P S ). Η παρακάτω ςχζςθ (.) x, αν είναι το μζτρο Lebesgue αν είναι ζνα απαρικμθτικό μζτρο dp f f x x d Pr X x p x, x S κα δθλϊνει τθν οικογζνεια των ςυναρτιςεων πυκνότθτασ πικανότθτασ αν το είναι το μζτρο Lebesgue ι τθν οικογζνεια των ςυναρτιςεων μάηασ πικανότθτασ αν είναι ζνααπαρικμθτικό μζτρο. Στθν πρϊτθ περίπτωςθ θ X είναι μια τυχαία μεταβλθτι με απολφτωσ ςυνεχι κατανομι και ςτθ δεφτερθ περίπτωςθ είναι μια διακριτι τυχαία μεταβλθτι με ςτιριγμα S ( όπου S είναι το ςφνολο των ςτοιχείων x για τα οποία ζχουμε f x ).

9 Ζςτω h μια μετριςιμθ ςυνάρτθςθ. Η μζςθ τιμι τθσ h X κα δίνεται από τθν ςχζςθ: E h X xs x h( x) f ( x) dx, εάν το μ είναι το μζτρο Lebesgue h( x) p ( x), εάν το μ είναι ζνα απαρικμθτικό μζτρο. Στθ ςυνζχεια κα δοκοφν οι οριςμοί δφο ςθμαντικϊν αποςτάςεων τθσ κεωρίασ πικανοτιτων, τθσ απόςταςθσ Kolmogorov και τθσ απόςταςθσ Lévy. Ζςτω P και δφο μζτρα πικανοτιτων με αντίςτοιχεσ ςυναρτιςεισ κατανομισ απόςταςθ Kolmogorov που ειςιγαγε ο Kolmogorov το 933, μεταξφ των δίνεται από τθν ςχζςθ : K ( F θ, F θ ) = sup F θ (x) - F θ (x), x θ θ P θ F, F. Τότε θ θ Fθ και θ οποία καλείται επίςθσ και ομοιόμορφθ απόςταςθ και παίρνει τιμζσ ςτο διάςτθμα,. Στθν παραπάνω απόςταςθ βαςίηεται το κεϊρθμα των Glvenko-Cantell το οποίο ορίηει ότι θ εμπειρικι ςυνάρτθςθ κατανομισ είναι ομοιόμορφα ιςχυρά ςυνεπισ εκτιμιτρια τθσ αλθκοφσ ςυνάρτθςθσ κατανομισ, δθλαδι ζχοντασ ζνα τυχαίο δείγμα X,...,X n από ζνα πλθκυςμό με ςυνάρτθςθ κατανομισ, τότε για κάκε ζχουμε όπου όπου n lm Pr K F, F, n n F είναι θ εμπειρικι ςυνάρτθςθ κατανομισ και ορίηεται ωσ n Fn x I, x, x n I είναι θ δείκτρια ςυνάρτθςθ του ςυνόλου A και ορίηεται ωσ A F F θ I A x, αν x A, αν x A. Η απόςταςθ Lévy που ειςιγαγε ο Lévy το 95 ορίηεται ωσ εξισ K ( F θ, F θ ) = nf{ : F ( - ) ( ) ( ), x F x F x για όλα τα x } και παίρνει τιμζσ ςτο διάςτθμα,

10 .4 Σκοπόσ και δομι τθσ εργαςίασ Τα μζτρα απόκλιςθσ χρθςιμοποιοφνται ωσ δείκτεσ τθσ ομοιότθτασ ι ανομοιότθτασ μεταξφ δυο πλθκυςμϊν και ζχουν αρκετζσ εφαρμογζσ ςτουσ ελζγχουσ υποκζςεων και ςτθν καταςκευι κατάλλθλων ελεγχοςυναρτιςεων. Σκοπόσ τθσ παροφςασ εργαςίασ είναι να παρουςιάςει οριςμζνα ςθμαντικά μζτρα απόκλιςθσ και να μελετιςει τισ ςτατιςτικζσ ελεγχοςυναρτιςεισ που προκφπτουν από αυτά κακϊσ και να παρζχει ςυςτάςεισ ςχετικά με ποιοσ από αυτοφσ τουσ ελζγχουσ είναι πιο ιςχυρόσ από τουσ υπόλοιπουσ, με βάςθ το μζγεκοσ και τθν ιςχφ του ελζγχων. Οι κατανομζσ πικανότθτασ που εξετάηουμε κάτω από τθν μθδενικι υπόκεςθ ι κάτω από διάφορεσ εναλλακτικζσ υποκζςεισ είναι υπό ςυνκικθ κατανομζσ ςχεδιαςμζνεσ να περιγράφουν τθν κατανομι παρελκοντικϊν (past) χρόνων αξιοπιςτίασ ι επιβίωςθσ ι τθν κατανομι υπολειπόμενων (resdual) χρόνων αξιοπιςτίασ ι επιβίωςθσ. Στο πρϊτο κεφάλαιο κάνουμε μια ειςαγωγι ςτθν ζννοια των μζτρων απόκλιςθσ και τα κατθγοριοποιοφμε. Επιπλζον, ςυνοψίηουμε κάποιεσ βαςικζσ ζννοιεσ που κα χρειαςτοφν ςτα επόμενα κεφάλαια. Στο δεφτερο κεφάλαιο κα παρουςιάςουμε μερικά από τα πιο ςθμαντικά μζτρα απόκλιςθσ μεταξφ δυο κατανομϊν πικανότθτασ, κα επικεντρωκοφμε ςτα μζτρα απόκλιςθσ που ανικουν ςτθν οικογζνεια των φ-μζτρων απόκλιςθσ και κα παρουςιάςουμε τισ πιο γνωςτζσ περιπτϊςεισ αποκλίςεων που ανικουν ςτθν κατθγορία αυτι δίνοντασ του οριςμοφσ και τισ βαςικζσ ιδιότθτζσ τουσ. Στο τρίτο κεφάλαιο κα μελετιςουμε ελζγχουσ υποκζςεων που βαςίηονται ςτα φ-μζτρα απόκλιςθσ. Αρχικά, ςτθν παράγραφο 3. κα παρουςιάςουμε τισ κυριότερεσ ςτατιςτικζσ ελεγχοςυναρτιςεισ που βαςίηονται ςτα φ-μζτρα απόκλιςθσ και χρθςιμοποιοφνται για τον ζλεγχο τθσ μθδενικισ υπόκεςθσ H: F F δθλαδι τθν υπόκεςθ ότι ζνα τυχαίο δείγμα προζρχεται από μια γνωςτι κατανομι. Στθ ςυνζχεια, ςτθν παράγραφο 3. κα μελετιςουμε τθν αςυμπτωτικι κατανομι των προθγοφμενων ελεγχοςυναρτιςεων και τθν ιςχφ των ελζγχων. Τζλοσ κα αςχολθκοφμε με τον ζλεγχο τθσ υπόκεςθσ H : F F, δθλαδθ τθν υπόκεςθ οτι το τυχαίο δείγμα προζρχεται από μια γνωςτι κατανομι F θ οποία όμωσ εξαρτάται από άγνωςτεσ παραμζτρουσ. Στθν περίπτωςθ αυτι οι άγνωςτεσ παράμετροι εκτιμϊνται από τα δεδομζνα και παρουςιάηουμε τθν αςυμπτωτικι κατανομι τθσ αντίςτοιχθσ ςτατιςτικισ ελεγχοςυνάρτθςθσ. Στο τζλοσ του κεφαλαίου δίνονται κάποια παραδείγματα και εφαρμογζσ χρθςιμοποιϊντασ κατάλλθλεσ ελεγχοςυναρτιςεισ, οι οποίεσ μασ υποδεικνφουν αν κα πρζπει να απορρίπτουμε ι να αποδεχόμαςτε τθν μθδενικι υπόκεςθ ςε κάκε περίπτωςθ. Επίςθσ, ςε κάποιεσ εφαρμογζσ υπολογίηουμε τθν ελάχιςτθ εκτιμιτρια τθσ άγνωςτθσ παραμζτρου και τθν αςυμπτωτικι κατανομι τθσ εκτιμιτριασ αυτισ.

11 Στο τζταρτο κεφάλαιο προτείνουμε κάποιεσ ελεγχοςυναρτιςεισ βάςει των μζτρων απόκλιςθσ για τον ζλεγχο τθσ ςφνκετθσ μθδενικισ υπόκεςθσ που αναφζρεται ςε κατανομι παρελκοντικϊν ι υπολοιπόμενων χρόνων ηωισ και παρουςιάηουμε μια μελζτθ προςομοίωςθσ για τθν ανάλυςθ τθσ ςυμπεριφοράσ τθσ οικογζνειασ των ςτατιςτικϊν ελεγχοςυναρτιςεων απόκλιςθσ. Συγκρίνουμε τουσ ελζγχουσ με βαςθ το μζγεκοσ και τθν ιςχφ τουσ και δίνουμε κάποια γενικά ςυμπεράςματα και προτάςεισ για το ποιο μζτρο απόκλιςθσ είναι καλφτερο ςε κακε περίπτωςθ και για διάφορεσ τιμζσ του δείγματοσ. Θα παρουςιάςουμε τα αποτελζςματα των πειραμάτων προςομοίωςθσ που ζγιναν και κα τα ερμθνεφςουμε δίνοντασ και κάποια γενικζσ παρατθριςεισ. Η εξαγωγι των αποτελεςμάτων του κεφαλαίου 4 εκπονικθκε με τθ βοικεια ενόσ προγράμματοσ που υλοποιικθκε ςτθν ςτατιςτικι γλϊςςα προγραμματιςμοφ R. Ο κϊδικασ του προγράμματοσ δίνεται ςτο Παράρτθμα. 3

12 Κεφάλαιο φ-μζτρα απόκλιςθσ : οριςμοί και ιδιότθτεσ. Μζτρα απόκλιςθσ μεταξφ δφο κατανομών πικανότθτασ P και Ζνα από τα πιο γνωςτά μζτρα απόκλιςθσ μεταξφ δυο κατανομϊν πικανότθτασ P είναι το μζτρο απόκλιςθσ Kullback-Lebler (KL), που ειςιγαγαν και μελζτθςαν οι Solomon Kullback και Rchard Lebler (95) και ορίηεται ωσ f ( x) f ( X ) K P, P f ( x)log d ( x) E log, (.) f ( x) f ( X ) Ο Jeffreys (946) χρθςιμοποίθςε μια ςυμμετρικι ζκδοςθ τθσ (.) και όριςε τθν J-απόκλιςθ που δίνεται από τθν ςχζςθ,,, J P P D P P D P P K P, P K P, P f ( x) f ( x) f x d x f x d x ( )log ( ) ( )log ( ) f ( x) f ( x) f ( x) f ( x) ( f ( x) f ( x))log d ( x) Ο Rény (96) παρουςίαςε τθν πρϊτθ παραμετρικι γενίκευςθ τθσ (.) ωσ εξισ r r Dr (, ) log f ( x) f ( x) d ( x) ( r ) r f ( X) ( r ) f ( X ) log, r >, r. Αργότερα οι Lese και Vajda (987) επζκτειναν τθν παραπάνω ζκφραςθ για όλα τα r,, ωσ 4

13 r r Dr ( P, P ) log ( ) ( ) ( ) f x f x d x rr ( ) r f ( X) r( r ) f ( X ) log, r, r. (.) Η ςχζςθ (.), κα αναφζρεται και ωσ απόκλιςθ Rény. Για τισ περιπτϊςεισ r = και r = ορίηεται ωσ D ( P, P ) lm D ( P, P ) K( P, P ) και r r D ( P, P ) lm D ( P, P ) K( P, P ), r r αντίςτοιχα. Το μζτρο απόκλιςθσ K( P, P ) ονομάηεται και μζτρο διάκριςθσ ελάχιςτθσ πλθροφορίασ μεταξφ των κατανομϊν πικανότθτασ P και P. Άλλεσ δυο πολφ γνωςτζσ παραμετρικζσ γενικεφςεισ τθσ (.) δόκθκαν από τουσ Sharma και ttal (977) και ονομάηονται μζτρα απόκλιςθσ r-τάξθσ και s-βακμοφ και -τάξθσ και s-βακμοφ. Ορίηονται αντίςτοιχα ωσ εξισ s s r r r Dr ( P, P ) f ( x) f ( x) d ( x) ( s ) f ( X) ( s ) f ( X ) s r r, r, s (.3) f ( x) s και D ( P, P ) exp(( ) ( )log ( )) s f x d x ( s ) f ( x) f ( X) exp ( s ) log ( s ) f ( X ), για s. (.4) Από τισ (.), (.3), (.4) μπορεί εφκολα να δειχκεί ότι lm D ( P, P ) rd ( P, P ) ) s r s r ) lm s s Dr ( P, P ) D (, ) P P r 5

14 ) v) lm s D (, ) P P K( P, P ) s lm Dr ( P, P ) (, ) r K P P. Ο Pearson (9) όριςε το μζτρο απόκλιςθσ Χ που δίνεται από τθ ςχζςθ ( f ( x) f ( x)) X P P d x f ( x) (, ) ( ) ( f ( x)) d( x) f ( x) (.5) Το μζτρο απόκλιςθσ Kullback-Lebler και το μζτρο απόκλιςθσ Χ είναι οι πιο γνωςτζσ ειδικζσ περιπτϊςεισ τθσ οικογζνειασ φ-αποκλίςεων των μζτρων απόκλιςθσ που όριςαν ταυτόχρονα ο Csszár (963) και οι Al και Slvey (966) ωσ εξισ : Οριςμόσ. Το φ-μζτρο απόκλιςθσ μεταξφ των κατανομϊν πικανότθτασ ςχζςθ P και f ( x) D ( P, P ) D (, ) f ( x) d( x) f ( x) P ορίηεται από τθν E f f ( X) ( X), (.6) όπου είναι θ τάξθ όλων των κυρτϊν ςυναρτιςεων ( x) x, (), και ςτο x ζχουμε Παρατιρθςθ., για x, ζτςι ϊςτε ςτο p και lm ( u) / u. u Ζςτω μια ςυνάρτθςθ παραγωγίςιμθ ςτο x, τότε θ ςυνάρτθςθ ανικει επίςθσ ςτο ( x) ( x) ()( x ) (.7) και ζχει τθν επιπλζον ιδιότθτα ότι (). Αυτι θ ιδιότθτα, μαηί με τθν ιδιότθτα τθσ κυρτότθτασ, ςυνεπάγεται ότι ( x), για κάκε x. f ( x) f ( x) Περαιτζρω, D(, ) f ( x) () d( x) f ( x) f ( x) f ( x) f ( x) f ( x) d ( x) D 6 (, ).

15 Από τθν παραπάνω ςχζςθ αφοφ τα δφο μζτρα απόκλιςθσ ςυμπίπτουν, μποροφμε να κεωριςουμε ότι το ςφνολο είναι ιςοδφναμο με το ςφνολο : (). Από τον οριςμό (.) και τθν παρατιρθςθ (.) ςυμπεραίνουμε ότι το μζτρο απόκλιςθσ Kullback-Lebler λαμβάνεται από τθν ςυνάρτθςθ ( x) xlog x x ι από τθν ( x) xlog x και επίςθσ γνωρίηουμε ότι ( x) ( x) ()( x ). Παρακάτω, κα ςυμβολίηουμε με κάκε ςυνάρτθςθ που κα ανικει ςτο ι ςτο. Ακολοφκωσ, κα παρουςιάςουμε οριςμζνα ςθμαντικά μζτρα απόκλιςθσ που ανικουν ςτθν οικογζνεια των φ-αποκλίςεων και τισ αντίςτοιχεσ φ ςυναρτιςεισ. Απόκλιςθ Kullback-Lebler ( x) xlog x x Απόκλιςθ διάκριςθσ ελάχιςτθσ πλθροφορίασ J-Απόκλιςθ ( x) log x x ( x) ( x )log x Χ α Αποκλίςεισ απόκλιςθ ολικισ μεταβολισ Saks (937) ( x) x Χ -απόκλιςθ Pearson (9) ( x) ( x ) X απόκλιςθ τάξθσ α Vajda (973) ( x) x a, 7

16 Απόκλιςθ Balakrshnan και Sanghv (968) ( x ) ( x) ( x ) Απόκλιςθ Rathe και Kannappan (97) s x s( x ) ( x), s, s Απόκλιςθ αρμονικοφ μζςου (atha και Rathe (975)) r r x x ( x), r > Απόκλιςθ Rukhn (994) ( x) ( x), ( ( ) x) Απόκλιςθ Ln (99) xlog x ( x ) log( x a) ( x),, ( ) Απόκλιςθ Cresse και Read (984) x x ( x ) ( x),,- ( ) Απόκλιςθ atusta (964) / ( x) x, < < Από ςτατιςτικισ άποψθσ θ πιο ςθμαντικι οικογζνεια φ-αποκλίςεων ζιναι ίςωσ θ οικογζνεια μζτρων δφναμθσ-απόκλιςθσ που μελζτθςαν οι Cresse και Read (984) και όριςαν ωσ εξισ 8

17 f ( x) I, D, d( x) ( ) ( ) f ( x) f ( X) E ( ) f ( X), για. Η οικογζνεια δφναμθσ-απόκλιςθσ δεν ορίηεται για ι. Μποροφμε όμωσ να ορίςουμε ςτισ περιπτϊςεισ αυτζσ από τα όρια K και lm I, K, lm I,,. Η οικογζνεια των μζτρων δφναμθσ-απόκλιςθσ μπορεί να δοκεί από τθν (.6) ωσ ( ) ( x) () ( x) lm ( ) ( x) xlog x x ( ) ( x) lm ( )( x) log x x. ( )( x) x x ( x ) ;,, Η οικογζνεια των μζτρων δφναμθσ-απόκλιςθσ προτάκθκαν ανεξάρτθτα από τουσ Lese και Vajda (987) ςαν μια φ-απόκλιςθ και τθν ονόμαςαν I -απόκλιςθ. Τα μζτρα απόκλιςθσ των Rény και των Sharma και ttal που δόκθκαν από τισ ςχζςεισ (.3) και (.4), όπωσ και το μζτρο που όριςε ο Bhattacharyya (943) ωσ εξισ B, log f ( x) f ( x) d( x), δεν είναι φ-μζτρα απόκλιςθσ. Ωςτόςο, τζτοια μζτρα μποροφν να γραφτοφν ςτθν ακόλουκθ μορφι : D h h D,,, (.8) όπου θ h είναι μια αφξουςα παραγωγίςιμθ ςυνάρτθςθ που ορίηεται από το () t, () lm t t ςτο, με h(), h(), και. Ακολοφκωσ, 9

18 παρακζτουμε τισ ςυναρτιςεισ h και φ που βαςίηοναι ςτα τρία παραπάνω μζτρα απόκλιςθσ : Απόκλιςθ Rény h( x) log r( r ) x ; r, rr ( ) r x r( x ) ( x) ; r, rr ( ) Απόκλιςθ Sharma-ttal s r h( x) ( r( r ) x) ; s, r s r x r( x ) ( x) ; r, rr ( ) Απόκλιςθ Bhattacharyya h( x) log( x ) ( x) x ( x ). / Η οικογζνεια των αποκλίςεων τθσ (.8), ονομάηεται (h,φ)-μζτρα απόκλιςθσ και ζχει οριςκεί και μελετθκεί από τον enéndez (995).. Βαςικζσ Ιδιότθτεσ των φ-μζτρων απόκλιςθσ Στθν παράγραφο αυτι κα παρουςιάςουμε μερικζσ από τισ πιο ςθμαντικζσ ιδιότθτεσ των φ-μζτρων απόκλιςθσ, από ςτατιςτικισ άποψθσ. Είναι λογικό να ςυμβαίνει μια αφξθςθ τθσ απόκλιςθσ, όταν δφο κατανομζσ πικανότθτασ διαφζρουν όλο και περιςςότερο. Σαν άμεςθ ςυνζπεια αυτισ τθσ ιδζασ οδθγοφμαςτε ςτθν πρϊτθ πρόταςθ. Πρόταςθ. Ζςτω P και P δφο κατανομζσ πικανότθτασ και μια ςυνάρτθςθ παραγωγίςιμθ ςτο t. Τότε () r D (, ) () lm, r r

19 όπου D (, ) αν P P, (.9) και () r D (, ) () lm αν S S. (.) r r Αν επίςθσ θ ςυνάρτθςθ είναι αυςτθρά κυρτι ςτο t, τότε θ (.9) ιςχφει αν και μόνο αν P P. Επιπλζον, αν ζχουμε () r () lm, r r τότε θ (.) ιςχφει αν και μόνο αν S S, όπου S, =,, τθσ κατανομισ πικανότθτασ P, =,. είναι το ςτιριγμα Απόδειξθ. Χρθςιμοποιϊντασ τθ μθ αρνθτικότθτα τθσ ςυνάρτθςθσ που δίνεται ςτθν (.7), ζχουμε D (, ), αλλά γνωρίηουμε ότι D(, ) D(, ), επομζνωσ κα ζχουμε D (, ). Είναι γνωςτό ότι για κάκε κυρτι ςυνάρτθςθ ιςχφει θ ακόλουκθ ανιςότθτα () r ( t) () tlm, (t ). (.) r r Αν θ είναι αυςτθρά κυρτι ςε κάποιο t (, ) τότε θ ανιςότθτα τθσ (.) ιςχφει αυςτθρά για κάκε t. Χρθςιμοποιϊντασ τθν (.) ζχουμε f ( x) () r D f x d x (, ) ( ) () lm ( ) f ( x) r r () r () lm. r r Είναι προφανζσ ότι εάν ζχουμε ότι P P ςυνεπάγεται ότι D (, ). Αν S S, f ( x) D f x d x f ( x) (, ) ( ) ( )

20 f ( x) f ( x) f ( x) d( x) f ( ) ( ) x d x C f ( x) C f ( x) S S S S () r () lm. r r Θα δείξουμε ότι αν θ είναι αυςτθρά κυρτι ςτο t, τότε επειδι D (, ) ςυνεπάγεται ότι P P. Εξάλλου, αν θ είναι αυςτθρά κυρτι ςτο t τότε f f ( x) ( x) f ( x) f ( x) για και για, όπου θ ορίηεται ςτθν (.7). Αν D (, ) f ( x) f ( x) f ( x) τότε ι f ( x) f f ( x). Υποκζτουμε ότι ( x) D (, ) D (, ), f ( x) / f ( x). Γνωρίηουμε ότι και D(, ) f ( x) d( x) f f ( x) ( x) f ( x) f ( x) f x d x ( ) () ( ) f ( x) f ( x) f ( x) D f x d x f ( x) (, ) () ( ) ( ) f ( x) f ( x) () f ( x) d( x) f ( x) () dp f ( x). Αφοφ θ είναι αυςτθρά κυρτι ςτο t τότε κα ιςχφει αποδεικνφεται αν υποκζςουμε f ( x) / f ( x). P P. Παρομοίωσ

21 Η αυςτθρι κυρτότθτα τθσ ςτο t ςυνεπάγεται τθν αυςτθρι ανιςότθτα τθσ (.), δθλαδι Τότε θ ςυνάρτθςθ είναι κετικι για κάκε t. () r ( t) () tlm, t. r r () r l( t) () ( t) t lm r r f l f Αν πάρουμε ζνα x S, τζτοιο ϊςτε. Ωσ εκ τοφτου, f ( x), τότε t f ( x) / f ( x) και f ( x) Dl (, ) f ( x) l d( x) f ( x) f ( x) f ( x) () r f x d x ( ) () lm ( ) f ( x) f ( x) r r () r D (, ) () lm, r r Αλλά από τθν (.) ζχουμε ότι () r D (, ) () lm, r r οπότε, f ( x) D f x l d x f ( x) l (, ) ( ) ( ) με l f f ( x). ( x) Τότε, f ( x) f ( x), επειδι D ( l, ) και l, δθλαδι, x S. f ( x) 3

22 Εςτω X,..., X n ζνα τυχαίο δείγμα από P,. Για να είναι το dp μζτρο Lebesque ι ζνα απαρικμθτικό μζτρο, ζςτω f ( x) ( x) όπου d x ( x,..., x n ). Υποκζτουμε ότι T είναι ζνασ μετριςιμοσ μεταςχθματιςμόσ από τον χϊρο n, n ςτον μετριςιμο χϊρο,. Ορίηουμε με Α και Q A P T A (.) ( ) ( ( )), =,, dq g () t ( ), t d dp f ( x/ t ),,; (.3) dq Όπου με t κα ςυμβολίηονται οι τιμζσ του T. Με βάςθ τα παραπάνω ζχουμε τθν ακόλουκθ πρόταςθ. Πρόταςθ. Ζςτω και, Q από τισ (.) και (.3). Τότε ζχουμε P,,, είναι δφο μζτρα πικανότθτασ που ορίηονται D ( Q, Q ) D ( P, P ). Η ιςότθτα ιςχφει αν ο μεταςχθματιςμόσ T είναι επαρκισ για τισ κατανομζσ πικανότθτασ P και P. Απόδειξθ. Εχουμε f ( x) D P P f x d x f ( x) (, ) ( ) ( ) f ( x) f x t g t d t d x y f ( x) ( / ) ( ) ( ) ( ) f ( x) g t f x t d x d t y f ( x) ( ) ( / ) ( ) ( ). 4

23 Εφαρμόηοντασ τθν ανιςότθτα του Jensen παίρνουμε f ( x) D P P g t f x t d x (, ) ( ) ( / ) ( ) y f ( x) d () t. Όμωσ, (.4) dp dp dq f ( x) d d dq f ( x) dp dq dp d d dq g () t t g () t f f x x t, τότε, g () t D ( P, P ) ( ) ( ) (, ) g t d t D Q Q y g () t. Αν θ είναι αυςτθρά κυρτι, θ ιςότθτα ιςχφει αν ( ) t ( ) f ( x) f ( x) x f d ( x), f x για όλα τα x. f x Ο δεφτεροσ όροσ ςτθν προθγοφμενθ ανιςότθτα είναι ίςοσ με 5 g ( t) / g ( t) από τθν (.4). Τότε, χρθςιμοποιϊντασ το κεϊρθμα τθσ παραγοντοποίθςθσ, θ ιςότθτα ιςχφει αν ο μεταςχθματιςμόσ T είναι επαρκισ για τισ κατανομζσ πικανότθτασ και P. Στθν ακόλουκθ πρόταςθ θ P,, είναι μια οικογζνεια μζτρων πικανότθτασ που ορίηονται πάνω ςτθ ς-άλγεβρα υποςυνόλων του Borel τθσ ευκείασ των πραγματικϊν αρικμϊν με μονότονο λόγο πικανοφάνειασ ςτο x. Δθλαδι αν, οι f ( x) και f ( x) είναι διαφορετικζσ κατανομζσ και ο λόγοσ είναι μια αφξουςα ςυνάρτθςθ του x. Πρόταςθ.3 Υποκζτουμε ότι οι κατανομζσ πικανότθτασ P P f ( x) / f ( x) ορίηονται ςτθν ευκεία των πραγματικϊν αρικμϊν, με ( ab, ) και ζςτω θ P να είναι μια απόλυτα ςυνεχισ κατανομι ςε ςχζςθ με ζνα ς-πεπεραςμζνο μζτρο. Υποκζτουμε επίςθσ ότι οι αντίςτοιχεσ ςυναρτιςεισ πυκνότθτασ ι ςυναρτιςεισ μάηασ πικανότθτασ ζχουν

24 μονότονο λόγο πικανοφάνειασ ςτο x. Αν a 3 bκαι θ ςυνάρτθςθ είναι ςυνεχισ, τότε ιςχφει Παρατιρθςθ. D D,,,. (.5) 3 Είναι φανερό ότι αν θ h είναι μια παραγωγίςιμθ αφξουςα πραγματικι ςυνάρτθςθ, τότε τα h, μζτρα απόκλιςθσ ικανοποιοφν επίςθσ τισ προτάςεισ.,. και.3. Παρατιρθςθ.3 Εάν κεωριςουμε μια ςυνάρτθςθ θ οποία είναι αυςτθρά κυρτι ςτο x, είναι δυνατό να ορίςουμε ζνα νζο μζτρο απόκλιςθσ, βάςει μιασ δεδομζνθσ απόκλιςθσ, με τζτοιο τρόπο ϊςτε το νζο μζτρο απόκλιςθσ να είναι ςυμμετρικό. Αυτό μπορεί να ςυμβεί αν κεωριςουμεςουμε το μζτρο τθσ απόκλιςθσ που ςχετίηεται με τθ ςυνάρτθςθ ( t) ( t) t. t.3 φ Ανιςότθτεσ Τθν ζννοια τθσ ανομοιότθτα παρουςίαςε πρϊτοσ ο Lndsay (994) και ο enéndez (998) ειςιγαγε τθ ανιςότθτα επίςθμα ωσ μια επζκταςθ τθσ απόκλιςθσ. Οριςμόσ. Η ανομοιότθτα μεταξφ των κατανομϊν πικανότθτασ P και P ορίηεται ωσ (.6) f ( x) D P, P D, f d( x), f ( x) όπου θ ςυνάρτθςθ :,,, και αφξουςα ςτο,, με. Η τιμι, κεωρείται ότι είναι ςυνεχισ, φκίνουςα ςτο ορίηεται από τθ ςυνεχι επζκταςθ. Παρατιρθςθ.4 Πρζπει να ςθμειωκεί ότι θ κατθγορία των ανομοιοτιτων περιζχει όλεσ τισ 6

25 αποκλίςεισ του Csszár με :,, κυρτι και ίςθ με μθδζν μόνο ςτο. Τότε, θ κυρτότθτα που ζχουμε υποκζςει και θ ςχζςθ () ςυνεπάγονται ότι είναι αφξουςα για t t t t t. Ωσ εκ τοφτου, θ t είναι αφξουςα για t εκτόσ αν ( t) ςε ζνα διάςτθμα, t, και φκίνουςα για t εκτόσ αν ( t) ςε ζνα διάςτθμα t,. Όμωσ θ περίπτωςθ, ( t ) για t, εξαιρείται λόγω των υποκζςεων. Είναι πολφ εφκολο να επαλθκεφςουμε ότι οι ςυναρτιςεισ : ) ( x) mn x, / x ) ( x) xlog x xlog x x ) ( x) x v) ( x) exp a x, a, δεν είναι κυρτζσ, αλλά ικανοποιοφν τισ ιδιότθτεσ των ανoμοιοτιτων. 7

26 Κεφάλαιο 3 Καλι προςαρμογι απλισ μθδενικισ υπόκεςθσ βάςει φ-ςυναρτιςεων 3. Ειςαγωγι Το πρόβλθμα τθσ καλισ προςαρμογισ μιασ κατανομισ από τθν οποία προζρχεται ζνα τυχαίο δείγμα εξετάηεται κάτω από τθν μθδενικι υπόκεςθ H : F F και αντιμετωπίηεται ςυχνά διαμερίηοντασ το εφροσ των δεδομζνων ςε ξζνα διαςτιματα και ελζγχοντασ τθν υπόκεςθ H : p p. Ζςτω = E,..., να είναι μια διαμζριςθ τθσ ευκείασ των πραγματικϊν αρικμϊν ςε διαςτιματα. Ζςτω και p p p,..., T p p p,..., T να είναι οι αλθκείσ και οι υποκετικζσ πικανότθτεσ των διαςτθμάτων E,,...,, αντίςτοιχα, με τζτοιο τρόπο ϊςτε p Pr E,,...,, και Ζςτω F F E. p Pr E df,,..., Y,..., Y n ζνα τυχαίο δείγμα από τθν κατανομι F, ζςτω n, όπου E j N I Y E j j I Y αν Yj Eκαι διαφορετικά και pˆ ( pˆ ˆ,..., p ) T με pˆ N / n,,..., να είναι οι απόλυτεσ και οι ςχετικζσ ςυχνότθτεσ ςτα διαςτιματα, αντίςτοιχα. Αν κζλουμε να εξετάςουμε τθν απλι μθδενικι υπόκεςθ, p p, (3.) H : τα ςτατιςτικά κριτιρια (ελεγχοςυνάρτθςθ) που χρθςιμοποιοφνται πολφ ςυχνά είναι το ςτατιςτικό κριτιριο του Pearson (ι κριτιριο χι-τετράγωνο), X N np X : (3.) np και το ςτατιςτικό κριτιριο (ελεγχοςυνάρτθςθ) του λόγου πικανοφάνειασ, G : N G N log (3.3) np 8

27 Τα δφο αυτά ςτατιςτικά κριτιρια είναι ειδικζσ περιπτϊςεισ τθσ οικογζνειασ των ςτατιςτικϊν κριτθρίων απόκλιςθσ-δφναμθσ που ειςιγαγαν οι Cresse και Read (984) και όριςαν ωσ με T p p p N n p N n (, ), ( ) p ( ) np. Τα ςτατιςτικά κριτιρια τα όρια του T n ( p, p ) T ( p, p ) και T n n (3.4) ( p, p ) ορίηονται να είναι, όταν και, αντίςτοιχα. Συγκεκριμζνεσ τιμζσ του ςτθ ςχζςθ (3.4) αντιςτοιχοφν ςτα γνωςτά ςτατιςτικά κριτιρια : χι-τετράγωνο X, ςτατιςτικό κριτιριο λόγου πικανοφάνειασ ςτατιςτικό κριτιριο G, ςτατιςτικό κριτιριο Freeman-Tukey /, τροποποιθμζνο ςτατιςτικό κριτιριο του λόγου πικανοφάνειασ ι κριτιριο ελάχιςτθσ διάκριςθσ πλθροφορίασ (Gokhale και Kullback, 978), τροποποιθμζνο ςτατιςτικό κριτιριο-neyman ι τροποποιθμζνο χι-τετράγωνο ςτατιςτικό κριτιριο και ςτατιςτικό κριτιριο Cresse-Read / 3. Οι εκφράςεισ των ςτατιςτικϊν κριτθρίων X και G δόκθκαν από τισ ςχζςεισ (3.) και (3.3) αντίςτοιχα. Οι εκφράςεισ για τα άλλα ςτατιςτικά κριτιρια δίνονται παρακάτω : ) (τροποποιθμζνο ςτατιςτικό κριτιριο χι-τετράγωνο) T ( p, p ) n n ) p p np N. p N (τροποποιθμζνο ςτατιςτικό κριτιριο του λόγου πικανοφάνειασ) p np Tn ( p, p ) np log N log. p N ) / (ςτατιςτικό κριτιριο Freeman-Tukey) / pn Tn ( p, p ) 8n p p 8n. n v) / 3 (ςτατιςτικό κριτιριο Cresse-Read) /3 /3 9 p Tn ( p, p ) n p 5. p 9

28 Αν και τα ςτατιςτικά κριτιρια απόκλιςθσ-δφναμθσ αποτελοφν μια ςθμαντικι ευζλικτθ οικογζνεια, είναι δυνατόν να κεωριςουμε μια γενικότερθ οικογζνεια ςτατιςτικϊν κριτθρίων για να ελζγξουμε τθν υπόκεςθ (3.) που κα περιλαμβάνει τθν (3.4) ςαν μια ειδικι περίπτωςθ. Τα κριτιρια αυτά είναι τα ςτατιςτικά κριτιρια απόκλιςθσ, τα οποία ορίηονται ωσ n p T p p p n (, ),. () p (3.5) Στθ ςχζςθ (3.5) υποκζτουμε ότι θ ςυνάςτθςθ ( x) είναι δφο φορζσ ςυνεχϊσ παραγωγίςιμθ για x με τθ δεφτερθ παράγωγο (). Εφαρμογι 3. Μποροφμε πολφ εφκολα να αποδείξουμε ότι πολλά γνωςτά ςτατιςτικά κριτιρια προζρχονται από τθν οικογζνεια των ςτατιςτικϊν κριτθρίων απόκλιςθσ χρθςιμοποιϊντασ μια κατάλλθλθ ςυνάρτθςθ ςε κάκε περίπτωςθ. προκφπτει το ςτατιςτικό κριτιριο () και Χρςιμοποιϊντασ τθν ςυνάρτθςθ ( x) x του Pearson διότι για ( x) T p p p n p n p p p n, () p p np np N np X np np Από τθ ςυνάρτθςθ ( x) xlog x x ι τθν ( x) xlog x, προκφπτει το ςτατιςτικό κριτιριο του λόγου πικανοφάνειασ. Ζχουμε ( x) () και x n p p p Tn p p p, log n p log p p () p p p p p n p log n p n p p. p p N nplog n n N log G. p np 3

29 Από τθν ςυνάρτθςθ ( x) x log x, προκφπτει το ςτατιςτικό κριτιριο x J-απόκλιςθσ διότι ( x) () και x n pˆ ˆ ˆ p p T ˆ, log ˆ n p p p n p p log () p p p pˆ ˆ p npˆ log log n p p p N np Nlog log np. np N Από τθν ςυνάρτθςθ διότι ( x) () και 3/ x ( x) x προκφπτει το ςτατιςτικό κριτιριο atusta n pˆ ˆ, 4 ˆ. T p p p n p p n () p x Από τθν ςυνάρτθςθ ( x), x προκφπτει το ςτατιςτικό κριτιριο 3 4 x Balakrshnan-Sanghv διότι ( x) x, () και pˆ n p Tn pˆ, p p () pˆ p pˆ p 4n p pˆ p. x Από τθν ςυνάρτθςθ /( x) 4 x, για = / προκφπτει το ςτατιςτικό κριτιριο Freeman-Tukey διότι x 3/ και x n pˆ ˆ p pˆ Tn pˆ, p p 4 ˆ () p p 8n p p p p 3

30 pn 8n pˆ ˆ p p p 8n n pn 8n. n Είναι πολφ εφκολο να δείξουμε ότι το ςτατιςτικό κριτιριο atusta ςυμπίπτει με το κριτιριο Freeman-Tukey διότι ζχουμε 4n p p 4n p p p p 4n p p p p ˆ ˆ ˆ ˆ ˆ pn 4n pˆ p 8n. n 3. φ-αποκλίςεισ και ζλεγχοι καλισ προςαρμογισ με μθ μεταβαλόμενο αρικμό κλάςεων Είναι πολφ γνωςτό ότι ο Pearson (9) απζδειξε ότι X L, n X X να δίνεται από τθν (3.). Αργότερα το αποτζλεςμα αυτό επεκτάκθκε για το ςτατιςτικό κριτιριο του λόγου πικανοφάνειασ και για το τροποποιθμζνο χιτετράγωνο ςτατιςτικό κριτιριο από τουσ Neyman και Pearson (98) και Neyman (949), αντίςτοιχα. Αργότερα οι Cresse και Read (984) απζδειξαν ότι L Tn pˆ, p X n κάτω από τθν μθδενικι υπόκεςθ H : p p για κάκε. Ο Zografos (99) απζδειξε ότι n ˆ, L n με T p p X κάτω από τθ μθδενικι υπόκεςθ H : p p για κάκε. Σε αυτι τθν παράγραφο, κα μελετιςουμε τθν αςυμπτωτικι κατανομι του ςτατιςτικοφ κριτθρίου απόκλιςθσ Tn pˆ, p κάτω από τθ μθδενικι υπόκεςθ H : p p, κάτω από τθν εναλλακτικι υπόκεςθ H : p p και κάτω από τισ ςυναφείσ εναλλακτικζσ υποκζςεισ που κα διατυπωκοφν ςτθ ςυνζχεια τθσ παραγράφου. 3

31 Θεώρθμα 3.. p p Κάτω από τθ μθδενικι υπόκεςθ H :,..., T p p, θ αςυμπτωτικι κατανομι του ςτατιςτικοφ κριτθρίου απόκλιςθσ, Tn pˆ, p, είναι θ χιτετράγωνο με βακμοφσ ελευκερίασ. Πόριςμα 3.. Κάτω από τθ μθδενικι υπόκεςθ H : p p, θ αςυμπτωτικι κατανομι του ςτατιςτικοφ κριτθρίου απόκλιςθσ, T, ˆ n p p βακμοφσ ελευκερίασ. Απόδειξθ Θεωροφμε τθ ςυνάρτθςθ ( x) x x κεϊρθμα 3. ζχουμε n L ˆ,. n T p p X, είναι θ χι-τετράγωνο με. Αν τότε και από το Λαμβάνοντασ υπόψθ ότι (), ζχουμε n n pˆ T ˆ, ˆ n p p D p, p p p n pˆ p p, ˆ Tn p p. () p ˆ p Παρατιρθςθ 3.. α) Στθν περίπτωςθ τθσ απόκλιςθσ Kullback-Lebler ζχουμε ˆ, ˆ, T p p nk p p X L n n και, ˆ, ˆ T p p nk p p X. L n n 33

32 Το πρϊτο ςτατιςτικό κριτιριο είναι το κριτιριο του λόγου πικανοφάνειασ και το δευτζρο είναι το τροποποιθμζνο κριτιριο λόγου πικανοφάνειασ. β) Στθν περίπτωςθ των h, αποκλίςεων θ αςυμπτωτικι κατανομι των ςτατιςτικϊν κριτθρίων και n T p p D p p h () () h ˆ, ˆ,, h n, h n T n p p D p p h () () h, ˆ, ˆ είναι θ χι-τετράγωνο με βακμοφσ ελευκερίασ. Βάςει του κεωριματοσ 3., αν το τυχαίο δείγμα είναι αρκετά μεγάλο μποροφμε να χρθςιμοποιιςουμε το εκατοςτθμόριο, X,, τθσ χι-τετράγωνο κατανομισ με βακμοφσ ελευκερίασ που ορίηεται από τθν εξίςωςθ, a Pr X X, για να προτείνουμε τον παρακάτω κανόνα απόφαςθσ : Απορρίπτουμε τθ μθδενικι υπόκεςθ H ςε ζνα επίπεδο ςθμαντικότθτασ, εάν Tn pˆ, p X, a (ι, ˆ T p p X ). (3.6) n, a Η ςχζςθ (3.6) κα είναι ο ζλεγχοσ καλισ προςαρμογισ βάςει του ςτατιςτικοφ κριτθρίου απόκλιςθσ. Θεώρθμα 3.. Κάτω από τθν υπόκεςθ H : p p ιςχφουν τα ακόλουκα : με το p και L n n D pˆ, p D p, p N, p, να δίνεται από τθ ςχζςθ p p p p p p p. 34

33 με το p όπου, ˆ, L, n n D p p D p p N p, να δίνεται από τθ ςχζςθ p p s p s, p p p s,,..., p p p. Πόριςμα 3.. α ) Στθν περίπτωςθ του μζτρου απόκλιςθσ Kullback-Lebler ζχουμε p p p p p p p p log log, p. p β ) Στθν περίπτωςθ των h, αποκλίςεων ζχουμε p p p p hd p, p p hd p, p p p και p p p p p hd p, p p p p p p p hd p, p p p. Στο παρακάτω κεϊρθμα παρουςιάηουμε μία προςζγγιςθ ιςχφοσ για τον ζλεγχο καλισ προςαρμογισ που δόκθκε ςτθν (3.6). τθσ ςυνάρτθςθσ 35

34 Θεώρθμα 3.3.,..., T μια κατανομι πικανότθτασ με p p. Η ιςχφσ του Ζςτω p p p ελζγχου βάςει του κανόνα που δόκθκε ςτθν (3.6), ςτο p p p όπου θ Απόδειξθ.,..., T, είναι p,..., p X nd p, p, n, n, p n n τείνει ομοιόμορφα ςτθν κανονικι κατανομι και p p p p p p p. Κάτω από τθν υπόκεςθ H : p p θ ιςχφσ του ελζγχου είναι n, p ˆ n T p p X H p p Pr,, / : n pˆ Pr p X, / H : p p () p Pr n D ˆ p, p X, / H : p p n Pr n D pˆ, p D p, p X nd p, p n, n Pr D pˆ, p D p, p X nd p, p, p p n n X nd p, p p n, L ˆ n από ηο θεώπημα 3. έσοςμε n D p, p D p, p N, p.. 36

35 Βάςει του αποτελζςματοσ του κεωριματοσ 3.3 μια προςζγγιςθ τθσ ςυνάρτθςθσ ιςχφοσ του ελζγχου που δίνεται ςτθν (3.6) μαηί με τον κανόνα απόφαςθσ, ςτο,..., T p p p, είναι θ p,..., p X nd p, p, n, n, p n όπου θ είναι θ τυπικι κανονικι κατανομι. Είναι προφανζσ ότι κα ιςχφει lm p,..., p. n n, Προκειμζνου να παραχκεί ζνασ μθ τετριμμζνοσ αςυμπτωτικόσ ζλεγχοσ, ο Cochran (95) πρότεινε τθ χριςθ ενόσ ςυνόλου τοπικϊν εναλλακτικϊν υποκζςεων που τείνουν ςτθν μθδενικι υπόκεςθ όςο το μζγεκοσ του δείγματοσ n αυξάνεται. Υποκζτουμε το πολυωνυμικό διάνυςμα πικανοτιτων όπου p n p d / n,,..., T d d d είναι ζνα ςτακερό διάνυςμα τζτοιο ϊςτε j d j, και n να είναι ο ςυνολικόσ αρικμόσ πειραμάτων τθσ πολυωνυμικισ κατανομισ. Κακϊσ n θ ακολουκία των διανυςμάτων πικανότθτασ ςυγκλίνει ςτο διάνυςμα πικανότθτασ p n nn / p κάτω από τθν μθδενικι υπόκεςθ με τάξθ O n. Μποροφμε να ποφμε ότι θ ςχζςθ H, n : p pn p d / n (3.7) είναι μια ακολουκία ςυναφϊν εναλλακτικϊν υπόκεςεων που τείνει ςτθν μθδενικι υπόκεςθ p. Παρατθροφμε ότι εάν κεωριςουμε ζνα ςθμείο / γράψουμε p p n n p p d n p p, και αν ορίςουμε μποροφμε να χρθςιμοποιιςουμε τθν ζκφραςθ ˆ n, n n,, n n p Pr T p, p X / H : p p p p μπόρουμε να pn p d / n με για να ζχουμε μια προςζγγιςθ για τθν ςυνάρτθςθ ιςχφοσ του ελζγχου ςτο p. 37

36 Θεώρθμα 3.4 Η αςυμπτωτικι κατανομι ενόσ ςτατιςτικοφ κριτθρίου απόκλιςθσ Tn pˆ, p κάτω από τθν εναλλακτικι υπόκεςθ (3.7), είναι θ μθ κεντρικι χι-τετράγωνο κατανομι με βακμοφσ ελευκερίασ και μθ κεντρικι παράμετρο δ που δίνεται από τθν ςχζςθ T δ d dag p d d,..., d p d d p. p, Παράδειγμα 3. Τα παρακάτω δεδομζνα αντιπροςωπεφουν τον αρικμό των τραυματιςμζνων παικτϊν ςε ζνα τυχαίο δείγμα ποδοςφαιρικϊν αγϊνων : Τραυματιςμζνοι παίκτεσ 3 4 πλικοσ αγϊνων Θζλουμε να εξετάςουμε τθν υπόκεςθ ότι τα δεδομζνα ακολουκοφν τθν κατανομι Posson με παράμετρο.775 ςε επίπεδο ςθμαντικότθτασ.5 χρθςιμοποιϊντασ το ςτατιςτικό κριτιριο Freeman-Tukey. Διαμερίηοντασ τον δειγματικό χϊρο ωσ εξισ,,, 3 και E x x E E E E και ζςτω X Posson , ζχουμε p Pr X e.467! p Pr X e.357! 5 : 4, 38

37 επομζνωσ υπόκεςθ : p3 Pr X e.383! p4 Pr X 3 e.357 3! p X X 5 Pr 4 Pr ,.357,.383,.357,.83 T. Θα απορρίψουμε τθν p H p p αν ιςχφει : 5 / T ˆ, 8 ˆ n p p n p p X, pˆ 8 /, 9 /, /, 7 /, /, και Από τα δεδομζνα ζχουμε T pˆ, p / n μθδενικι υπόκεςθ Όμωσ X 4, άρα αποδεχόμαςτε τθν T Παράδειγμα 3. Ζχουμε ςυλλζξει δεδομζνα από 595 κυνοδρομίεσ ςτισ οποίεσ οι αρικμοί εκκίνθςθσ των 8 ςκφλων που περιλαμβάνονται ςε κάκε αγϊνα ταξινομοφνται ςφμφωνα με τισ τελικζσ κζςεισ τουσ ςτον αγϊνα. Υποκζτουμε ότι οι αρχικζσ κζςεισ δίνονται τυχαία ςε κάκε ζναν από τουσ 8 ςκφλουσ. Θζλουμε να ελζγξουμε τθν υπόκεςθ ότι όλοι οι ςκφλοι με διαφορετικό αρικμό εκκίνθςθσ ζχουν ίςεσ πικανότθτεσ να κερδίςουν τον αγϊνα ανεξάρτθτα από τισ κζςεισ των άλλων 7 ςκφλων. Δθλαδι κζλουμε να ελζγξουμε τθν υπόκεςθ : H : p / 8,,...,8. Οπότε,.5,.5,.5,.5,.5,.5,.5,.5 T. p Χρθςιμοποιϊντασ το ςτατιςτικό κριτιριο ˆ ορίηεται από τθν ςυνάρτθςθ 8n S p, p R pˆ, p / που x x x, xlog x, 39

38 για, 3/ 7 και με επίπεδο ςθμαντικότθτασ.5. Από τα δεδομζνα ζχουμε ˆ p.75,.6,.,.6,.4,.97,.,.46 T. Υπολογίηοντασ το ςτατιςτικό κριτιριο για τισ διάφορεσ τιμζσ τθσ παράμετρου παίρνουμε τα εξισ αποτζλεςματα : 3/7 S pˆ, p Όμωσ X 7,.5 4.7, επομζνωσ κα απορρίψουμε τθν μθδενικι υπόκεςθ. 3.3 Ελεγχοσ υποκζςεων παραμετρικών κατανομών Όταν κζλουμε να ελζγξουμε τθν υπόκεςθ H : F F (3.8) θ κατανομι F ανικει ςε μια παραμετρικι οικογζνεια κατανομϊν είναι ζνα ανοιχτό υποςφνολο του άγνωςτθ.ζςτω E,..., Ο τφποσ 4 F όπου, και θ παράμετροσ είναι να είναι μια διαμζριςθ του χϊρου του δείγματοσ. Pr E p df,,..., E ορίηει ζνα διακριτό ςτατιςτικό μοντζλο ςτο οποίο οι πικανότθτεσ για τα ςτοιχεία των διαςτθμάτων E,,..., εξαρτϊνται από τθν άγνωςτθ παράμετρο. Η υπόκεςθ H : p p όπου είναι μια άγνωςτθ παράμετροσ μπορεί να ελζγξει τθν υπόκεςθ (3.8). Οριςμόσ 3.. Ζςτω Y,..., Y n ζνα τυχαίο δείγμα από ζναν πλθκυςμό που περιγράφεται από τθν τυχαία μεταβλθτι ςχετιηόμενθ με τον ςτατιςτικό χϊρο,, P. Η ελάχιςτθ εκτιμιτρια απόκλιςθσ του κα ςυμβολίηεται με ˆ και κα επαλθκεφει τθν ˆ, ˆ nf ˆ, o D p p D p p.

39 Διαφορετικά, θ ελάχιςτθ εκτιμιτρια απόκλιςθσ ικανοποιεί τθν ςυνκικθ Παρατιρθςθ 3.. ˆ arg nf ˆ, o D p p. (3.9) Αν κεωριςουμε τθν οικογζνεια των μζτρων απόκλιςθσ-δφναμθσ κα λάβουμε τθν ελάχιςτθ εκτιμιτρια απόκλιςθσ-δφναμθσ που όριςαν οι Cresse και Read (984) και ορίηεται από τθν ςχζςθ ˆ ˆ o D p p arg nf,, (3.) όπου pˆ D pˆ, p pˆ p. Για παίρνουμε τθν εκτιμιτρια μζγιςτθσ πικανοφάνειασ, για τθν ελάχιςτθ χι-τετράγωνο εκτιμιτρια, για τθν τροποποιθμζνθ ελάχιςτθ χι-τετράγωνο εκτιμιτρια (ι τροποποιθμζνθ ελάχιςτθ εκτιμιτρια Neyman), για τθν τροποποιθμζνθ ελάχιςτθ εκτιμιτρια πικανοφάνειασ (ι εκτιμιτρια διάκριςθσ ελάχιςτθσ πλθροφορίασ), για.5 τθν εκτιμιτρια Freeman-Tukey και για / 3 τθν εκτιμιτρια Cresse-Read. Θεώρθμα 3.5. όπου και Για τθν ελάχιςτθ εκτιμιτρια του ιςχφει : ˆ L, n F n N I T IF A A / A dag p J 4

40 / p p / p p. / p p Εφαρμογι 3. Ζςτω Y,..., Y n να είναι ζνα τυχαίο δείγμα από ζναν πλθκυςμό X με ςυνάρτθςθ κατανομισ p 4 Pr X p( ) Pr 4 p 3 p X 4 Pr X Pr X 4, όπου,. Θα υπολογίςουμε τθν ελάχιςτθ εκτιμιτρια του χρθςιμοποιϊντασ τθ ςυνάρτθςθ x xlog x x και τθν αςυμπτωτικι κατανομι τθσ εκτιμιτριασ. Θζτουμε τθ ςυνάρτθςθ g D pˆ, p 4 p 4 ˆ pˆ ˆ ˆ p p p p p log p p p 4 pˆ pˆ log ˆ p p p pˆ pˆ log ˆ p p p 4

41 pˆ pˆ pˆ 3 pˆ 4 pˆ log ˆ ˆ ˆ p log p3 log p4 log p p p3 p4 c pˆ log p pˆ log p pˆ log p pˆ log p c pˆ log( ) pˆ log( ) pˆ log pˆ log. 3 4 Παραγωγίηοντασ ωσ προσ τθν g και εξιςϊνοντασ τθν με το μθδζν ζχουμε pˆ pˆ pˆ pˆ 3 4 g, Λφνοντασ ωσ προσ ζχουμε pˆ pˆ pˆ pˆ pˆ pˆ pˆ pˆ pˆ pˆ pˆ pˆ pˆ 3 4 Επομζνωσ θ ελάχιςτθ εκτιμιτρια του κα είναι : ˆ Y,..., Y n / pˆ pˆ ˆ ˆ ˆ ˆ ˆ p3 p p p3 8p4. Για τθν αςυμπτωτικι κατανομι τθσ εκτιμιτριασ του από το κεϊρθμα 3.5 ζχουμε Τότε / A dag p J / / 4 / / 4 / / 4 / / 4 / / /,,, /. T 43

42 A T A Τζλοσ για τθν αςυμπτωτικι κατανομι τθσ εκτιμιτριασ του κα ιςχφει ότι ˆ L n Y,..., Yn N, n. 44

43 Κεφάλαιο 4 Έλεγχοι καλισ προςαρμογισ για κατανομζσ παρελκοντικών και υπολειπόμενων χρόνων ηωισ 4. Πειράματα προςομοίωςθσ για κατανομζσ παρελκοντικών χρόνων επιβίωςθσ Ζςτω μια ςυνεχισ τυχαία μεταβλθτι X που περιγράφει το χρόνο επιβίωςθσ ενόσ ατόμου ι κάποιου ςυςτιματοσ για τθν οποία θ ςυνάρτθςθ κατανομισ FX, ανικει ςε μια παραμετρικι οικογζνεια κατανομϊν είναι άγνωςτθ. Για τθν τυχαία μεταβλθτι X X X t t F με παράμετρο να, θ ςυνάρτθςθ κατανομισ του παρελκοντικοφ χρόνου επιβίωςθσ (past lfe) ενόσ ατόμου/ςυςτιματοσ δεδομζνου ότι αυτό το άτομο θ ςφςτθμα ζχει επιβιϊςει μζχρι και τθ χρονικι ςτιγμι t είναι θ x t F Ft, x F X X t, x t. F Ζςτω ζνα τυχαίο δείγμα Xt,,..., X t, n που ακολουκεί κατανομι παρελκοντικοφ χρόνου Ft,. Θζλουμε να ελζγξουμε τθν μθδενικι υπόκεςθ : F F. H : t, t, Όπωσ είχαμε αναφερεί ςτο κεφάλαιο 3 κα διαμερίςουμε το διάςτθμα,t ςε ιςομικθ διαςτιματα E,,...,, και pˆ ˆ ˆ t p, t,..., p, t ςυχνότθτεσ ςτα διαςτιματα E,,...,, T να είναι οι ςχετικζσ και p p,..., p να t, t, t είναι οι πικανότθτεσ των διαςτθμάτων E,,...,, κάτω από τθ μθδενικι υπόκεςθ, δθλαδι τα pt, ορίηονται ωσ x t f p dx t t,,,...,, t F T 45

44 όπου f F t, t, n x t θ ςυνάρτθςθ πυκνότθτασ πικανότθτασ των τυχαίων μεταβλθτϊν X,..., X. Η μθδενικι υπόκεςθ ελζγχεται με βάςθ τθ ςτατιςτικι ελεγχοςυνάρτθςθ απόκλιςθσ και ορίηεται ωσ : ˆ ˆ, ˆ n ˆ, ˆ n pt, T T p p D p p n, t n, t t t t t όπου θ εκτιμιτρια τθσ παραμζτρου ορίηεται από τθ ςχζςθ : ˆ ˆ pˆ t,, (4.) p, ˆ t t, ˆ arg nf D, arg nf, pt pt p t pt, pˆ. (4.) Στθ ςυνζχεια τθσ παραγράφου κα χρθςιμοποιιςουμε προςομοιωμζνα δεδομζνα για να μελετιςουμε τθ ςυμπεριφορά και τθν απόδοςθ των παρακάτω ςτατιςτικϊν ελεγχοςυναρτιςεων ςτατιςτικι ελεγχοςυνάρτθςθ Cresse-Read (CR) ςτατιςτικι ελεγχοςυνάρτθςθ Pearson ( X ) ςτατιςτικι ελεγχοςυνάρτθςθ ( Test) που προκφπτουν από τθν (4.) για τισ εξισ ςυνάρτθςεισ X CR x x x x x x,,, x x x (4.3) Η ςυνάρτθςθ ςχετίηεται με το πρόςφατα προτεινόμενο μζτρο απόκλιςθσ δφναμθσ BHHJ το οποίο εξαρτάται από μια κετικι παράμετρο και ορίηεται ωσ I P, P f x f x f x f x d x, και αποτελεί ειδικι περίπτωςθ τθσ οικογζνειασ αποκλίςεων BHHJ που προτάκθκε από τουσ attheou, Lee και Karagrgorou (9) 46

45 x x f D, f x d x,, f. Για τθ ςυνάρτθςθ κα εξετάςουμε δυο διαφορετικζσ τιμζσ τθσ παραμζτρου, δθλαδι / 9 και.8. Η τιμι / 9 ζχει αποδειχκεί ότι ζιναι θ βζλτιςτθ επιλογι για τθ ςυνάρτθςθ (Βόντα και Τςανοφςα ). Γνωρίηουμε από τθν παράγραφο. ότι θ απόκλιςθ Cresse-Read για προςεγγίηει τθν απόκλιςθ Kullback-Lebler, δθλαδι lm I, K,. Επομζνωσ θ ςτατιςτικι ελεγχοςυνάρτθςθ Cresse-Read για μια πολφ μικρι κετικι τιμι τθσ παραμζτρου. τείνει να είναι ίςθ με τθ ςτατιςτικι ελεγχοςυνάρτθςθ του λόγου πικανοφάνειασ (KL) που προκφπτει από τθν (4.) για τθν ςυνάρτθςθ x x KL log x. Θα εξετάςουμε το μζγεκοσ των ελζγχων που βαςίηονται ςτισ πιο πάνω - ςυναρτιςεισ και ορίηονται ςτιν (4.), κάτω από μια ςυγκεκριμζνθ μθδενικι υπόκεςθ κακϊσ και τθν ιςχφ τουσ για διάφορεσ εναλλακτικζσ υποκζςεισ. Για να υπολογίςουμε το μζγεκοσ των ελζγχων κεωροφμε μια ςυνάρτθςθ κατανομισ Ft, όπου θ παράμετροσ είναι μονοδιάςτατθ και κεωροφμε τθ μθδενικι υπόκεςθ H F F. : t, t, Για τον ζλεγχο τθσ παραπάνω μθδενικισ υπόκεςθσ παράγουμε τυχαία δείγματα για διάφορα μεγζκθ δείγματοσ n,5, και που προζρχονται από τθν κατανομι F και για δφο χρονικζσ ςτιγμζσ t και t τζτοιεσ ϊςτε t, και F t P X t F t P X t Από τθ ςχζςθ (4.) υπολογίηουμε κάκε φορά τθ ςτατιςτικι ελεγχοςυνάρτθςθ απόκλιςθσ για κάκε δείγμα από τα για τισ ςυναρτιςεισ που δίνονται ςτθν (4.) και για δυο διαφορετικζσ τιμζσ του, δθλαδι για 3 και για 4. Με επίπεδο ςθμαντικότθτασ.5 επιχειροφμε τον ςτατιςτικό ζλεγχο και υπολογίηουμε το μζγεκοσ του ελζγχου, δθλαδι πόςεσ φορζσ από τισ απορρίπτουμε τθν μθδενικι υπόκεςθ ( ι ιςοδφναμα πόςεσ φορζσ από τισ θ ελεγχοςυνάρτθςθ είναι X,.5 ). Μια ελεγχοςυνάρτθςθ κα είναι αξιόπιςτθ εάν το μεγεκόσ τθσ είναι κοντά ςτο επίπεδο ςθμαντικότθτασ.5. Για να μελετιςουμε τθν ιςχφ των ελζγχων για τθ ςυγκεκριμζνθ ςυνάρτθςθ κατανομισ t, x F παράγουμε τυχαία δείγματα από μια άλλθ διαφορετικι ςυνάρτθςθ κατανομισ και υπολογίηουμε πόςεσ φορζσ απορρίπτουμε τθν μθδενικι 47

46 υπόκεςθ. Είναι λογικό θ ιςχφσ των ελζγχων να αυξάνει όςο οι δυο ςυναρτιςεισ κατανομισ διαφζρουν όλο και περιςςότερο. Ακολοφκωσ, κα παρουςιάςουμε ςτουσ πίνακεσ τα αποτελζςματα των πειραμάτων προςομοίωςθσ που πραγματοποιικθκαν. Στθν πρϊτθ ςτιλθ των πινάκων δίνεται το μζγεκοσ του δείγματοσ n. Όλοι οι ζλεγχοι ζχουν γίνει ςε επίπεδο ςθμαντικότθτασ.5. Στισ ςτιλεσ -6 αντιςτοιχοφν οι παρακάτω ζλεγχοι που προκφπτουν από τισ αντίςτοιχεσ ςτατιςτικζσ ελεγχοςυναρτιςεισ που ορίςαμε ςτθν αρχι τθσ παραγράφου ζλεγχοσ Kullback-Lebler CR,. ζλεγχοσ Pearson X ζλεγχοσ Cresse-Read CR, / 3 ζλεγχοσ Test, / 9 Test ζλεγχοσ Ζςτω,.8 F x e x να είναι θ ςυνάρτθςθ κατανομισ τθσ Εκκετικισ κατανομισ με παράμετρο, κατανομι t Exp. Θεωροφμε τθν υπό ςυνκικθ Εκκετικι Exp με παράμετρο και ςυνάρτθςθ κατανομισ F t, x t t, t τζτοια ϊςτε F t P X t.75 και F t P X t εξετάςουμε τθν περίπτωςθ τθσ Exp t, με τυχαία δείγματα κα παράγονται από τθν x e με F t.5. Θα ωσ μθδενικι υπόκεςθ και τα Exp. Στουσ πίνακεσ παρουςιάηουμε το μζγεκοσ των ελζγχων από τισ προςομοιϊςεισ που ζγιναν για τθν Exp t. Για να υπολογίςουμε τθν ιςχφ των ελζγχων για τθν t μασ παράγονται από τθν υπό ςυνκικθ Γάμμα κατανομι, t t Exp τα δεδομζνα G με παράμετρο κλίμακασ και παράμετρο ςχιματοσ.5,.5, και 4, και ςυνάρτθςθ κατανομισ G t x, G x με t t, t G t όπου G x θ ςυνάρτθςθ κατανομισ τθσ Γάμμα κατανομισg,. Στουσ πίνακεσ παρουςιάηουμε τθν ιςχφ των ελζγχων από τισ προςομοιϊςεισ που ζγιναν για τθν Exp ζναντι τθσ G,. Οι ελεγχοςυναρτιςεισ αυτζσ εξετάςτθκαν λεπτομερϊσ και ςτθν μεταπτυχιακι εργαςία Βόντα και Χουχοφμθσ (). t t 48

47 Πινακασ 4.:Μζγεκοσ για ελζγχουσ ςε ε.ς. 5% τθσ υπό ςυνκικθ Εκκετικισ κατανομισ Exp t () με τον αρικμό των διαςτθμάτων να είναι Μ = 3 n KL Χ CR λ = /3 Φ Test α = /9 Φ Test α = Πίνακασ 4.:Μζγεκοσ για ελζγχουσ ςε ε.ς. 5% τθσ υπό ςυνκικθ Εκκετικισ κατανομισ Exp t () με τον αρικμό των διαςτθμάτων να είναι Μ = 4 n KL Χ CR λ = /3 Φ Test α = /9 Φ Test α = Πινακασ 4.3:Μζγεκοσ για ελζγχουσ ςε ε.ς. 5% τθσ υπό ςυνκικθ Εκκετικισ κατανομισ Exp () με τον αρικμό των διαςτθμάτων να είναι Μ = 3 t n KL Χ CR λ = /3 Φ Test α = /9 Φ Test α = Πινακασ 4.4:Μζγεκοσ για ελζγχουσ ςε ε.ς. 5% τθσ υπό ςυνκικθ Εκκετικισ κατανομισ Exp () με τον αρικμό των διαςτθμάτων να είναι Μ = 4 t n KL Χ CR λ = /3 Φ Test α = /9 Φ Test α =

48 Πίνακασ 4.5:Ιςχφσ για ελζγχουσ ςε ε.ς. 5% τθσ Εκκετικισ κατανομισ Γάμμα κατανομισ G t (.5, ) με τον αρικμό των διαςτθμάτων να είναι Μ = 3 n KL Χ CR λ = /3 Φ Test α = /9 Φ Test α = Πίνακασ 4.6:Ιςχφσ για ελζγχουσ ςε ε.ς. 5% τθσ Εκκετικισ κατανομισ Γάμμα κατανομισ G t (.5, ) με τον αρικμό των διαςτθμάτων να είναι Μ = 3 n KL Χ CR λ = /3 Φ Test α = /9 Φ Test α = Exp t () ζναντι τθσ Exp t () ζναντι τθσ Πίνακασ 4.7:Ιςχφσ για ελζγχουσ ςε ε.ς. 5% τθσ Εκκετικισ κατανομισ Γάμμα κατανομισ G t (, ) με τον αρικμό των διαςτθμάτων να είναι Μ = 3 n KL Χ CR λ = /3 Φ Test α = /9 Φ Test α = Exp t () ζναντι τθσ Πίνακασ 4.8:Ιςχφσ για ελζγχουσ ςε ε.ς. 5% τθσ Εκκετικισ κατανομισ Exp t () ζναντι τθσ Γάμμα κατανομισ G (4, ) με τον αρικμό των διαςτθμάτων να είναι Μ = 3 t n KL Χ CR λ = /3 Φ Test α = /9 Φ Test α =

49 Πίνακασ 4.9:Ιςχφσ για ελζγχουσ ςε ε.ς. 5% τθσ Εκκετικισ κατανομισ Γάμμα κατανομισ G t (.5, ) με τον αρικμό των διαςτθμάτων να είναι Μ = 4 n KL Χ CR λ = /3 Φ Test α = /9 Φ Test α = Exp t () ζναντι τθσ Πίνακασ 4.:Ιςχφσ για ελζγχουσ ςε ε.ς. 5% τθσ Εκκετικισ κατανομισ Γάμμα κατανομισ G t (.5, ) με τον αρικμό των διαςτθμάτων να είναι Μ = 4 n KL Χ CR λ = /3 Φ Test α = /9 Φ Test α = Exp t () ζναντι τθσ Πίνακασ 4.:Ιςχφσ για ελζγχουσ ςε ε.ς. 5% τθσ Εκκετικισ κατανομισ Γάμμα κατανομισ G t (, ) με τον αρικμό των διαςτθμάτων να είναι Μ = 4 n KL Χ CR λ = /3 Φ Test α = /9 Φ Test α = Exp t () ζναντι τθσ Πίνακασ 4.:Ιςχφσ για ελζγχουσ ςε ε.ς. 5% τθσ Εκκετικισ κατανομισ Γάμμα κατανομισ G t (4, ) με τον αρικμό των διαςτθμάτων να είναι Μ = 4 n KL Χ CR λ = /3 Φ Test α = /9 Φ Test α = Exp t () ζναντι τθσ 5

50 Πίνακασ 4.3:Ιςχφσ για ελζγχουσ ςε ε.ς. 5% τθσ Εκκετικισ κατανομισ Γάμμα κατανομισ G t (.5, ) με τον αρικμό των διαςτθμάτων να είναι Μ = 3 n KL Χ CR λ = /3 Φ Test α = /9 Φ Test α = Πίνακασ 4.4:Ιςχφσ για ελζγχουσ ςε ε.ς. 5% τθσ Εκκετικισ κατανομισ Γάμμα κατανομισ G t (.5, ) με τον αρικμό των διαςτθμάτων να είναι Μ = 3 n KL Χ CR λ = /3 Φ Test α = /9 Φ Test α = Exp t () ζναντι τθσ Exp t () ζναντι τθσ Πίνακασ 4.5:Ιςχφσ για ελζγχουσ ςε ε.ς. 5% τθσ Εκκετικισ κατανομισ Γάμμα κατανομισ G t (, ) με τον αρικμό των διαςτθμάτων να είναι Μ = 3 n KL Χ CR λ = /3 Φ Test α = /9 Φ Test α = Exp t () ζναντι τθσ Πίνακασ 4.6:Ιςχφσ για ελζγχουσ ςε ε.ς. 5% τθσ Εκκετικισ κατανομισ Γάμμα κατανομισ G t (4, ) με τον αρικμό των διαςτθμάτων να είναι Μ = 3 n KL Χ CR λ = /3 Φ Test α = /9 Φ Test α = Exp t () ζναντι τθσ 5

51 Πίνακασ 4.7:Ιςχφσ για ελζγχουσ ςε ε.ς. 5% τθσ Εκκετικισ κατανομισ Γάμμα κατανομισ G t (.5, ) με τον αρικμό των διαςτθμάτων να είναι Μ = 4 n KL Χ CR λ = /3 Φ Test α = /9 Φ Test α = Πίνακασ 4.8:Ιςχφσ για ελζγχουσ ςε ε.ς. 5% τθσ Εκκετικισ κατανομισ Γάμμα κατανομισ G t (.5, ) με τον αρικμό των διαςτθμάτων να είναι Μ = 4 n KL Χ CR λ = /3 Φ Test α = /9 Φ Test α = Exp t () ζναντι τθσ Exp t () ζναντι τθσ Πίνακασ 4.9:Ιςχφσ για ελζγχουσ ςε ε.ς. 5% τθσ Εκκετικισ κατανομισ Γάμμα κατανομισ G t (, ) με τον αρικμό των διαςτθμάτων να είναι Μ = 4 n KL Χ CR λ = /3 Φ Test α = /9 Φ Test α = Πίνακασ 4.:Ιςχφσ για ελζγχουσ ςε ε.ς. 5% τθσ Εκκετικισ κατανομισ Γάμμα κατανομισ G t (4, ) με τον αρικμό των διαςτθμάτων να είναι Μ = 4 n KL Χ CR λ = /3 Φ Test α = /9 Φ Test α = Exp t () ζναντι τθσ Exp t () ζναντι τθσ 53

52 4. Πειράματα προςομοίωςθσ για κατανομζσ υπολειπόμενων χρόνων επιβίωςθσ Ζςτω μια ςυνεχισ τυχαία μεταβλθτι X που περιγράφει το χρόνο επιβίωςθσ ενόσ ατόμου ι κάποιου ςυςτιματοσ για τθν οποία θ ςυνάρτθςθ κατανομισ FX, ανικει ςε μια παραμετρικι οικογζνεια κατανομϊν όπου είναι ζνα F ανοιχτό υπόςυνολο του με τθν παράμετρο να είναι άγνωςτθ. t Για τθν τυχαία μεταβλθτι X X X t, θ ςυνάρτθςθ κατανομισ του υπολειπόμενου χρόνου επιβίωςθσ (resdual lfe) ενόσ ατόμου/ςυςτιματοσ δεδομζνου ότι αυτό το ςφςτθμα ι άτομο κα ςυνεχίςει να επιβιϊνει πζραν αυτισ τθσ χρονικισ ςτιγμισ x t, είναι θ ι αλλιϊσ όπου t t t F x F x F X X t, x t F t, t F x F x x t S S κα είναι θ ςυνάρτθςθ αξιοπιςτίασ ι επιβίωςθσ ενόσ ατόμου/ςυςτιματοσ και εκφράηει τθν πικανότθτα θ διάρκεια ηωισ αυτοφ του ατόμου/ςυςτιματοσ να είναι μεγαλφτερθ του t. t Ζςτω ζνα τυχαίο δείγμα X,..., X με κατανομι υπολειπόμενου χρόνου F t. t n Θζλουμε να ελζγξουμε τθν υπόκεςθ ότι τα δεδομζνα προζρχονται από τθ ςυγκεκριμζνθ κατανομι υπολειπόμενου χρόνου, δθλαδι κζλουμε να ελζγξουμε τθν μθδενικι υπόκεςθ t t H : F F Χωρίηουμε το διάςτθμα, όπου. και t pˆ t t T pˆ ˆ,..., p E διαςτιματα,,..., των διαςτθμάτων E,,..., ορίηονται ωσ t ςε διαςτιματα 54 E,,,...,, να είναι οι ςχετικζσ ςυχνότθτεσ ςτα t t t και p p,..., p να είναι οι πικανότθτεσ κάτω από τθ μθδενικι υπόκεςθ, δθλαδι τα p t T

53 x t f, με F t p dx,,..., ι x t f, με S t p dx,,..., όπου f S t,..., t X X n. x t θ ςυνάρτθςθ πυκνότθτασ πικανότθτασ των τυχαίων μεταβλθτϊν Όπωσ και ςτθν παράγραφο 4. θ μθδενικι υπόκεςθ ελζγχεται με βάςθ τθ ςτατιςτικι ελεγχοςυνάρτθςθ απόκλιςθσ τθσ (4.) όπου εκτίμθςθ τθσ παραμζτρου δίνεται από τθ ςχζςθ (4.) Για να μελετιςουμε τθ ςυμπεριφορά και τθν απόδοςθ των παρακάτω ςτατιςτικϊν ελεγχοςυναρτιςεων ςτατιςτικι ελεγχοςυνάρτθςθ Cresse-Read (CR) ςτατιςτικι ελεγχοςυνάρτθςθ Pearson ( X ) ςτατιςτικι ελεγχοςυνάρτθςθ ( Test) που προκφπτουν από τθν (4.) για τισ ςυνάρτθςεισ τθσ (4.3) κα ακολουκιςουμε τθν ίδια διαδικαςία όπωσ και ςτθν παράγραφο 4.. Στουσ πίνακεσ παρουςιάηουμε τα αποτελζςματα των πειραμάτων προςομοίωςθσ που πραγματοποιικθκαν. Στθν πρϊτθ ςτιλθ των πινάκων δίνεται το μζγεκοσ του δείγματοσ n. Όλοι οι ζλεγχοι ζχουν γίνει ςε επίπεδο ςθμαντικότθτασ.5. Στισ ςτιλεσ -6 αντιςτοιχοφν οι παρακάτω ζλεγχοι που προκφπτουν από τισ αντίςτοιχεσ ςτατιςτικζσ ελεγχοςυναρτιςεισ που ορίςαμε ςτθν αρχι τθσ παραγράφου 4. ζλεγχοσ Kullback-Lebler CR,. ζλεγχοσ Pearson X ζλεγχοσ Cresse-Read CR, / 3 ζλεγχοσ Test, / 9 Test ζλεγχοσ,.8 55