Εισαγωγή. 1. Παράµετρος, εκτιµητής, εκτίµηση

Transcript

1 Εκτίηση Σηείου Εκτίηση Σηείου Εισαγωγή Σε πολλές περιπτώσεις στη στατιστική έχουε συναντήσει προβλήατα για τα οποία απαιτείται να εκτιηθεί ια παράετρος. Η έθοδος που ακολουθεί στις περιπτώσεις αυτές κανείς είναι η διαίσθηση να χρησιοποιήσει την τιή ιας αντίστοιχης παραέτρου από ένα τυχαίο δείγα ως εκτίηση της άγνωστης παραέτρου του πληθυσού. Η περιοχή της στατιστικής που ασχολείται ε το πρόβληα αυτό λέγεται εκτιητική. Η κατανόηση αυτής της ύλης είναι απαραίτητη για την Οικονοετρία.. Παράετρος, εκτιητής, εκτίηση Στη Στατιστική, παράετρος parameter ονοάζεται ία σταθερά,, η οποία ετρά ένα χαρακτηριστικό ίας κατανοής. Ο έσος,, για παράδειγα ετρά την κεντρική τάση της κατανοής. Η διακύανση,, ετρά τη διασπορά. Ως εκτιητή estimator ίας παραέτρους έχουε ορίσει ία στατιστική, δηλαδή ία συνάρτηση των παρατηρήσεων του δείγατος, η οποία έχει γνωστή αθηατική ορφή και δεν περιλαβάνει άγνωστες παραέτρους. Συνεπώς, ο εκτιητής είναι τυχαία εταβλητή και έχει κατανοή δειγατοληψίας. Για παράδειγα, ο έσος και η διακύανση του δείγατος, και που εκτιούν τις παραέτρους και. Αν αντικαταστήσουε τις παρατηρήσεις ενός δείγατος στο εκτιητή ίας παραέτρου θα προκύψει ένας αριθός ο οποίος αποτελεί σηειακή εκτίηση point estimate της παραέτρου. Στη συνέχεια πορούε να κατασκευάσουε ία εκτίηση διαστήατοςinterval estimate της παραέτρου. Ας διευκρινίσουε κάπως περισσότερο τι εννοούε ε την λέξη εκτιητική. Υποθέτουε κατ αρχήν ότι ο πληθυσός τον οποίο θέλουε να ελετήσουε έχει τη ορφή που είναι πλήρως καθορισένη εκτός από την τιή κάποιας ή κάποιων παραέτρων. Στη συνέχεια συλλέγονται οι παρατηρήσεις από ένα τυχαίο δείγα. Χρησιοποιώντας τις παρατηρήσεις αυτές καθορίζουε ένα αριθό ο οποίος πορεί να θεωρηθεί ως η τιή της συγκεκριένης παραέτρου. Είναι προφανές ότι οι παρατηρήσεις είναι τυχαίες εταβλητές, δοθέντος ότι ένα άλλο τυχαίο δείγα θα Τιόθεος Αγγελίδης

2 Εκτίηση Σηείου οδηγήσει, πιθανότητα, σε διαφορετικές παρατηρήσεις. Εποένως, και οποιοδήποτε συνάρτηση των παρατηρήσεων του δείγατος θα είναι και αυτή ια τυχαία εταβλητή. Ορισός: Μία συνάρτηση των παρατηρήσεων που εξαρτάται όνο από τις παρατηρήσεις λέγεται στατιστική συνάρτηση statistic Ορισός: Εκτιήτρια είναι ια τυχαία εταβλητή που χρησιοποιείται για να εκτιήσει ένα χαρακτηριστικό του πληθυσού π.χ. ια παράετρο. Η αριθητική τιή που η εκτιήτρια παίρνει για κάποιο συγκεκριένο δείγα ονοάζεται εκτίηση estimate.. Τρεις Μέθοδοι Εκτίησης Υπάρχει σειρά εθόδων που χρησιοποιούνται για τον καθορισό σηειακών εκτιητριών:. Η έθοδος των ροπών. Η έθοδος εγίστης πιθανοφάνειας. Η έθοδος ελαχίστων τετραγώνων. Η έθοδος των ροπών H έθοδος των ροπών methods of Moments or MM είναι η αρχαιότερη έθοδος εκτιήσεως. Έστω ότι παρατηρήσεις ενός τυχαίου δείγατος προέρχονται από ία κατανοή της οποίας η συνάρτηση πιθανότητας είναι η, όπου. Για να βρούε τους εκτιητές των παραέτρων ε τη έθοδο των ροπών, θα πρέπει να χρησιοποιήσουε τον ορισό της ροπής ως προς το ηδέν: Η έθοδος των ροπών εξισώνει τις ροπές του πληθυσού ε τις αντίστοιχες ροπές του δείγατος, οι οποίες ορίζονται ως: Εποένως, οι εκτιητές των παραέτρων παρακάτω συστήατος προκύπτουν από τη λύση του Τιόθεος Αγγελίδης

3 Εκτίηση Σηείου Παράδειγα: Έστω ότι οι παρατηρήσεις του δείγατος προέρχονται από ία κανονική κατανοή. Ο έσος και η διακύανση είναι πεπερασένοι αριθοί και πορούν να εκτιηθούν. Το διάνυσα των παραέτρων είναι, οπότε. γνωρίζω ότι, όπου είναι η δεύτερη ροπή ως προς τη έση τιή. Θέτουε και και λύνουε το σύστηα: Για να δείτε ότι ισχύει η προηγούενη σχέση, κάντε τις πράξεις για n και n. Παράδειγα: Ζητείται να βρεθεί η εκτίηση της παραέτρου της συνάρτησης πιθανότητας, αν οι τιές ενός τυχαίου δείγατος είναι οι: Λύση Η ροπή πρώτης τάξης των τιών του δείγατος, ως προς είναι: Η απόδειξη της σχέσης αυτής υπάρχει στο βιβλίο Στατιστική. Τιόθεος Αγγελίδης

4 Εκτίηση Σηείου. Η έθοδος της εγίστης πιθανότητας.. Εκτίηση ιας παραέτρου Έστω ότι είναι οι τιές ενός τυχαίου δείγατος εγέθους που το επιλέξαε από ένα πληθυσό του οποίου ένα χαρακτηριστικό έχει συνάρτηση πιθανότητας ή πυκνότητας πιθανότητας τη. Η συνάρτηση πιθανότητας που ορίζεται από τη σχέση: ονοάζεται συνάρτηση πιθανότητας του δείγατος. Αν οι τιές ανεξάρτητες, η συνάρτηση πορεί να οριστεί: είναι Την εκτιήτρια της παραέτρου που κάνει έγιστη τη συνάρτηση πιθανότητας ως προς, τη λέε εκτιήτρια εγίστης πιθανότητας της. Αυτό σηαίνει ότι η έθοδος εγίστης πιθανότητας θεωρεί ότι οι καλύτερες εκτιήσεις των παραέτρων είναι οι τιές τους που κάνουν έγιστη τη πιθανότητα να αποκτηθεί το συγκεκριένο δείγα. Την εκτιήτρια πορούε να την υπολογίσουε από την εξίσωση: όταν Επειδή η συνάρτηση έχει έγιστο για την τιή του, για την οποία έχει και η, συχνά για να διευκολυνόαστε στη αθηατική επεξεργασία χρησιοποιούε τη συνάρτηση. Σε αυτή τη περίπτωση ισχύει ότι: και εποένως Τιόθεος Αγγελίδης 4

5 Εκτίηση Σηείου Παράδειγα: Να βρεθεί η εκτιήτρια της παραέτρου της παρακάτω συνάρτησης: Λύση: Αν είναι οι τιές ενός δείγατος εγέθους που προέρχονται από τον πληθυσό που ακολουθεί την παραπάνω συνάρτηση πιθανότητας, η συνάρτηση πιθανότητας θα ισούται: εδοένου ότι για να ισχύει ότι, πρέπει Παράδειγα: Έστω ότι Χ είναι ο αριθός των επιτυχιών σε ανεξάρτητες δοκιές, στις οποίες η πιθανότητα επιτυχίας σε ια απλή δοκιή είναι. Η τυχαία εταβλητή Χ είναι διωνυική και έχει συνάρτηση πιθανότητας: Υποθέτουε ότι το είναι άγνωστο και ότι επιθυούε να το εκτιήσουε από τις επιτυχίες που σηειώθηκαν σε δοκιές. Η συνάρτηση είναι συνάρτηση πιθανότητας, δηλαδή είτε την έση τιή της εκθετικής κατανοής. Τιόθεος Αγγελίδης 5

6 Εκτίηση Σηείου Αν λογαριθήσουε: Αν διαφοροποιήσουε ως προς και θέσουε ίσο ε το 0: Παράδειγα: Να βρεθούν οι εκτιήτριες των παραέτρων και της κανονικής κατανοής: Αν είναι οι τιές ενός δείγατος που το πήραε από την κανονική κατανοή, συνάρτηση πιθανότητας του θα είναι: Από αυτή τη σχέση παίρνουε: και Όοια Τιόθεος Αγγελίδης 6

7 Εκτίηση Σηείου και θέτοντας ίσο ε ηδέν,.. Η έθοδος ελαχίστων τετραγώνων. Μία από τις σπουδαιότερες εθόδους εκτιήσεως που χρησιοποιείται στην Οικονοετρία είναι η απλή έθοδος των ελαχίστων τετραγώνων ordinary least squares, OLS. Η έθοδος είναι κατάλληλη για την εκτίηση της ροπής τάξεως ως προς το ηδέν,, η OLS επιλέγει τον εκτιητή της έτσι ώστε να ελαχιστοποιείται η συνάρτηση: Με αυτή τη έθοδο θα ασχοληθούε στο κεφάλαιο της γραικής παλινδρόησης.. Ιδιότητες εκτιητών Για ια συγκεκριένη παράετρο, πορεί να προτείνονται περισσότεροι από ένας εκτιητής. Για παράδειγα, ως εκτιητές του έσου ενός πληθυσού πορεί να προτείνονται ο έσος και η διάεσος του δείγατος. Είναι φανερό ότι χρειαζόαστε κάποια κριτήρια για να αξιολογηθούν οι διάφοροι εκτιητές. Ποιες ιδιότητες πρέπει να έχει ένας εκτιητής για να θεωρείται «καλός»; Αεροληψία Συνέπεια Αποτελεσατικότητα Επάρκεια. Αεροληψία Την εκτιήτρια ιας άγνωστης παραέτρου, τη λέε αερόληπτη αν η προσδοκώενη τιή της είναι ίση ε την αληθινή τιή της παραέτρου. ηλαδή: Μια εκτιήτρια για την οποία Τιόθεος Αγγελίδης

8 Εκτίηση Σηείου, όπου την λέε εροληπτική και το έγεθος το ονοάζουε σφάλα εροληψίας. Αν, τότε ο εκτιητής είναι αερόληπτος. Αν τότε ο εκτιητής υπερεκτιά την παράετρο και αν τότε την υποεκτιά. Παράδειγα: Να αποδειχθεί ότι η έση τιή ενός δείγατος είναι αερόληπτη εκτιήτρια της έσης τιής του πληθυσού,, από τον οποίον προέρχεται το δείγα. Λύση: Παράδειγα: Να αποδειχθεί ότι η εταβλητότητα του δείγατος που ορίζεται από τη σχέση δεν είναι αερόληπτη εκτιήτρια της εταβλητότητας του πληθυσού Λύση Τιόθεος Αγγελίδης 8

9 Εκτίηση Σηείου Παράδειγα: Να αποδειχθεί ότι η εταβλητότητα του δείγατος που ορίζεται από τη σχέση είναι αερόληπτη εκτιήτρια της εταβλητότητας του πληθυσού Λύση Παράδειγα: Μια τυχαία εταβλητή αν η εκτιήτρια είναι αερόληπτη της ακολουθεί τη διωνυική κατανοή. Να εξεταστεί Τιόθεος Αγγελίδης

10 Εκτίηση Σηείου Λύση. Συνέπεια Την εκτιήτρια ιας άγνωστης παραέτρου την ονοάζουε συνεπή αν η πιθανότητα να διαφέρει αυτή από την αληθινή τιή, όχι περισσότερο από, όπου είναι ένας αυθαίρετος ικρός θετικός αριθός τείνει στο καθώς αυξάνει το έγεθος του δείγατος. ηλαδή: Η σχέση αυτή σηαίνει ότι καθώς αυξάνεται το έγεθος του δείγατος, η εκτίηση γίνεται περισσότερο πιθανό να βρεθεί κοντά έσα σε ένα ικρό διάστηα στην αληθινή τιή,. Οι αναγκαίες συνθήκες για να είναι ια εκτιήτρια συνεπής είναι: Ν Ν00 Ν000 Παράδειγα Η δειγατική διακύανση είναι συνεπής εκτιήτρια του. Λύση Από τι θεωρία κατανοών γνωρίζουε ότι και εποένως είτε το επόενο γράφηα. Τιόθεος Αγγελίδης 0

11 Εκτίηση Σηείου. Αποτελεσατικότητα Οποιαδήποτε εκτιήτρια,, ως τυχαία εταβλητή έχει έση τιή και τυπική απόκλιση. Αν η εκτιήτρια είναι αερόληπτη, δηλαδή ισχύει, τότε η εταβλητότητα της είναι η. Αποτελεσατική εκτιήτρια ονοάζεται την αερόληπτη εκτιήτρια που έχει τη ικρότερη εταβλητότητα. Η έθοδος της εγίστης πιθανότητας δίνει τέτοιες εκτιήτριες, όταν υπάρχουν. Ορισός: Εάν δύο εκτιήτριες και που προέρχονται από δείγατα του ίδιου εγέθους είναι και αερόληπτες, θα λέε ότι η ία από αυτές έχει εγαλύτερη σχετική αποτελεσατικότητα relative efficiency αν έχει ικρότερη διακύανση. Σε αυτή τη περίπτωση λέε ότι η εκτιήτρια την εκτιήτρια στην εκτίηση του είναι σχετικά πιο αποτελεσατική από Παράδειγα Έστω ότι από κάποιο πληθυσό ε έσο και διακύανση σ, έχουε πάρει ένα τυχαίο δείγα τριών παρατηρήσεων,,. Ποια από τις παρακάτω εκτιήτριες συναρτήσεις είναι αερόληπτη εκτίηση του έσου του πληθυσού και ποια είναι πιο αποτελεσατική; α β γ δ Τιόθεος Αγγελίδης

12 Εκτίηση Σηείου Τιόθεος Αγγελίδης Λύση Αεροληψία: Τ είναι αερόληπτη. 5 Τ είναι εροληπτική Τ είναι εροληπτική. 4 Τ 4 είναι αερόληπτη. Πιο αποτελεσατική θα είναι εκείνη που είναι αερόληπτη και έχει ικρότερη διακύανση var 00 0 var var σ σ σ σ 4 var var var σ σ σ σ Τ 4 είναι πιο αποτελεσατική.

13 Εκτίηση Σηείου.4 Επάρκεια Μια εκτιήτρια τη λέε επαρκή, όταν εξαντλεί όλες τις πληροφορίες που περιέχονται στο δείγα από το οποίο υπολογίζεται σε σχέση ε την παράετρο που εκτιούε, ή ε άλλα λόγια, όταν καία άλλη εκτιήτρια δεν να υπολογιστεί από το ίδιο δείγα και να δώσει περισσότερες πληροφορίες για την παράετρο που θέλουε να εκτιήσουε. Ουσιαστικά, η εκτιήτρια ονοάζεται επαρκής όταν η συνάρτηση αυτή περιέχει όλες τις πληροφορίες στο δείγα γύρω από την παράετρο. Τιόθεος Αγγελίδης