ιαφάνειες ιαλέξεων - ΕΦΑΡΜΟΣΜΕΝΗ ΣΤΑΤΙΣΤΙΚΗ ΕΡΕΥΝΑ ΚΛΑΣΙΚΟ ΠΟΛΥΜΕΤΑΒΛΗΤΟ ΓΡΑΜΜΙΚΟ ΥΠΟ ΕΙΓΜΑ Tο Πολυµεταβλητό Γραµµικό Υπόδειγµα Πολυµεταβλητό γραµµικό υπόδειγµα Το Κλασικό Υπόδειγµα Πολυµεταβλητό γραµµικό υπόδειγµα Με το πολυµεταβλητόγραµµικό υπόδειγµα παλινδρόµησης εκτιµούµε µια γραµµική (ως προς τις παραµέτρους) σχέση ανάµεσα σε δύο ή περισσότερες µεταβλητές Χκ, κ=,,.. («ανεξάρτητες µεταβλητές») και µια ποσοτική µεταβλητή Υ («εξαρτηµένη µεταβλητή»). Οι ανεξάρτητες µεταβλητές Χiσυνήθως είναι υπό τον έλεγχο του ερευνητή. Στόχος είναι να µελετήσουµε πώς οι (συνήθως ελεγχόµενες) µεταβολές των τιµών των Χiεπιδρούν γραµµικά στις τιµές που παίρνει η Υ, δηλ. πώς «η Υ εξαρτάται γραµµικά από τις Χκ» Με ένα εκτιµηµένο γραµµικό µοντέλο για την σχέση των Χκκαι Υ µπορούµε να: εξετάσουµε στατιστικά αν υπάρχει γραµµική σχέση ανάµεσα στις Χκ,Υ διεξάγουµε προβλέψεις των τιµών της Υ δεδοµένων των τιµών των Χκ στον Πληθυσµό: Y = β + β X + β X + + β X + u... k k β : συντελεστής τοµής β, =,,k : συντελεστές κλίσεως u : διαταρακτικόςόρος ( )... k k E Y = β + β X + β X + + β X είναι το «συστηµατικό» (ή προσδιοριστικό) µέρος του µοντέλου Το β i καθορίζει την επίδραση της ανεξάρτητης µεταβλητής X i στην εξαρτηµένη µεταβλητή Υ. Είναι επέκταση του απλού γραµµικού υποδείγµατος. 3 4 Βασικές Υποθέσεις Οι βασικές υποθέσεις του υποδείγµατος:. Η αληθής σχέση στον πληθυσµό είναι γραµµική: ΒΑΣΙΚΕΣ ΥΠΟΘΕΣΕΙΣ Y X X u i= β+ β i+... + βk ki+ i. Ο διαταρακτικός όρος έχει µέση τιµή και σταθερή διακύµανση (οµοσκεδαστικότητα) για όλες τις παρατηρήσεις: ui ~ (, σu ), i=,,..., n 3. Οι διαταρακτικοί όροι διαφορετικών παρατηρήσεων είναι ανεξάρτητοι και συνεπώς ασυσχέτιστοι (απουσία αυτοσυσχέτισης) : σ u i u =, i ή E(uiu ) =, i 5 6 ΕΦΑΡΜΟΣΜΕΝΗ ΣΤΑΤΙΣΤΙΚΗ ΕΡΕΥΝΑ -3 Χρήστος Εµµανουηλίδης PDF processed with CutePDF evaluation edition www.cutepdf.com
ιαφάνειες ιαλέξεων - Βασικές Υποθέσεις Οι βασικές υποθέσεις του υποδείγµατος (συνέχεια): 4. Οι ερµηνευτικές µεταβλητές X είναι µη-στοχαστικέςκαι έχουν πεπερασµένη µεταβλητότητα. 5. Επιπλέον, δεν υπάρχει ακριβής γραµµική σχέση ανάµεσα σε δύο ή περισσότερες ερµηνευτικές µεταβλητές (απουσία απόλυτης πολυσυγγραµµικότητας). Οι υποθέσεις αυτές είναι απαραίτητες για την ισχύ του θεωρήµατος Gauss-Markov: οι εκτιµητές ελαχίστων τετραγώνων των συντελεστών του πολυµεταβλητού γραµµικού υποδείγµατος είναι άριστοι γραµµικοί αµερόληπτοι εκτιµητές (BLUE). Βασικές Υποθέσεις Συνέπειες από την παραβίαση των βασικών υποθέσεων: Σφάλµατα εξειδίκευσης -Μη γραµµικότητα ή/και παράλειψη σηµαντικών ερµηνευτικών µεταβλητών (omitted variables): Οι OLS εκτιµητές των παραµέτρων και των διακυµάνσεών τους δεν είναι ούτε αµερόληπτοι ούτε συνεπείς. Ετεροσκεδαστικότητα: Αδυναµία εκτίµησης του σταθερού όρου Μεροληψία στην εκτίµηση των διακυµάνσεων των συντελεστών κλίσεως Οι OLS εκτιµητές των παραµέτρων δεν είναι αποτελεσµατικοί (αλλά παραµένουν συνεπείς και αµερόληπτοι) 7 8 Βασικές Υποθέσεις Συνέπειες από την παραβίαση των βασικών υποθέσεων: Αυτοσυσχέτιση: Μεροληψία στην εκτίµηση των διακυµάνσεων των συντελεστών κλίσεως Οι OLS εκτιµητές των παραµέτρων δεν είναι αποτελεσµατικοί (αλλά παραµένουν συνεπείς και αµερόληπτοι) Στοχαστικές ερµηνευτικές µεταβλητές Οι OLS εκτιµητές των παραµέτρων δεν είναι αµερόληπτοι ούτε και συνεπείς Πολυσυγγραµµικότητα: Πρόβληµα ταυτοποίησης των συντελεστών (οι συντελεστές µεταβλητών πολύ ισχυρά γραµµικά συσχετισµένων δε µπορούν να εκτιµηθούν ξεχωριστά) Υπερεκτίµηση των διακυµάνσεων των συντελεστών (µεροληψία) Οι OLS εκτιµητές των παραµέτρων παραµένουν BLUE Έµµεσο σφάλµα εξειδίκευσης 9 Βασικές Υποθέσεις Υπόθεση κανονικότητας του διαταρακτικού όρου: ui ~ N(, σu ), i=,,..., n γίνεται για να είναι δυνατός ο έλεγχος υποθέσεων και η κατασκευή διαστηµάτων εµπιστοσύνης για τους συντελεστές µε τις συνήθεις µεθόδους. Για να µπορεί να εκτιµηθεί το υπόδειγµα, θα πρέπει: k< n Αναµενόµενη τιµή και διακύµανση των Υ i : Από τις βασικές υποθέσεις: E( Y ) = β + β X +... + β X i i k ki σ = σ Yi u Ερµηνεία των Συντελεστών Κλίσεως Ερµηνεία συντελεστών κλίσεως: E( Y) β =, =,..., k X η µεταβολή της αναµενόµενης τιµής της Υόταν η Χ µεταβάλλεται κατά µία µονάδα, για σταθερές τιµές των υπόλοιπων ερµηνευτικών µεταβλητών. ονοµάζονται και µερικοί συντελεστές παλινδρόµησης ΕΚΤΙΜΗΣΗ ΤΟΥ ΥΠΟ ΕΙΓΜΑΤΟΣ ΕΦΑΡΜΟΣΜΕΝΗ ΣΤΑΤΙΣΤΙΚΗ ΕΡΕΥΝΑ -3 Χρήστος Εµµανουηλίδης
ιαφάνειες ιαλέξεων -3 Eκτιµώµενο υπόδειγµα: Κατάλοιπα: Yˆ = ˆ β + ˆ β X +... + ˆ β X i i k ki e = uˆ = Y Yˆ i i i i Μέθοδος ελαχίστων τετραγώνων: Ελαχιστοποίηση του SSE ( ˆ) n n i i i i= i= SSE= e = Y Y Η διαδικασία ελαχιστοποίησης είναι επέκταση αυτής που είδαµε στην Α.Γ.Π. Εκτιµητές των συντελεστών όπου (,,..., k) ˆ β = ˆ β ˆ β ˆ β ( Y Y Y ) ( ) βˆ = X'X X'Y, X X X k X X X X + k = Υ =,,..., n kn n ( n ( k ) ) 3 4 Eκτιµητής του σ u SSE SSE ˆ σ u = s = = n αριθµός εκτιµώµενων παραµέτρων n ( k+ ) Eκτιµητές διακυµάνσεων συνδιακυµάνσεων συντελεστών όπου ˆ = s = s σ ˆ β ˆ β ( X'X) ˆ σ ˆ ˆ σ ˆ ˆ ˆ σ ˆ ˆ β ββ ββκ ˆ σ ˆ ˆ ˆ σ ˆ ˆ σ ˆ ˆ ββ β ββκ σˆ ˆ β = ˆ σ ˆ ˆ ˆ σ ˆ ˆ ˆ σ β ˆ βκ ββκ βκ ( k+ ) ( k+ ) 5 Παράδειγµα Συγκέντρωση όζοντος στη Ν. Υόρκη. εδοµένα n= ηµερών (Μάιος Σεπτ. 973) Y = β + β X + β X + β 3 X 3 + u όπου Y = Συγκέντρωση όζοντος (ozone - ppb) X =Ηλιακή ακτινοβολία (rad - langleys) X = Μέγιστη ηµερήσια θερµοκρασία (temp - F) X 3 = Ταχύτητα ανέµου (wind - mph) 6 Παράδειγµα: ιαγράµµατα διασποράς (n=) 5 6 7 8 9 5 5 Παράδειγµα: Εκτιµηµένο µοντέλο µε το SPSS rad 3 s 9 8 7 temp 6 5 wind 5 5 Εκτιµηµένες παράµετροι s (mean squared error) 5 5 ozone 3 5 5 7 8 ΕΦΑΡΜΟΣΜΕΝΗ ΣΤΑΤΙΣΤΙΚΗ ΕΡΕΥΝΑ -3 Χρήστος Εµµανουηλίδης
ιαφάνειες ιαλέξεων -4 Σηµασία των συντελεστών Σηµασία των συντελεστών Παράδειγµα: Σηµασία των συντελεστών ˆ β =.6 ˆ β =.65 ˆ β 3 = 3.338 Η µέση συγκέντρωση όζοντος, E(Υ), εκτιµάται ότι θα αυξηθεί κατά.6 ppmγια κάθε µοναδιαία αύξηση της έντασης της ηλιακής ακτινοβολίας, για σταθερές τιµές των υπόλοιπων µεταβλητών Η µέση συγκέντρωση όζοντος, E(Υ), εκτιµάται ότι θα αυξηθεί κατά.65 ppmγια κάθε µοναδιαία αύξηση της µέγιστης ηµερήσιας θερµοκρασίας, για σταθερές τιµές των υπόλοιπων µεταβλητών Η µέση συγκέντρωση όζοντος, E(Υ), εκτιµάται ότι θα µειωθεί κατά 3.338 ppmγια κάθε µοναδιαία αύξηση της έντασης του ανέµου, για σταθερές τιµές των υπόλοιπων µεταβλητών 9 E(Y) 8 36 44 5 6 68 Σηµασία συντελεστών Παράδειγµα Εκτιµηµένο µοντέλο: E ( Y ) = Yˆ = 64.3+.6X+.65X 3.338X 3 Επίδρασητης X στην E(Y),κρατώντας τις X και X 3 σταθερές: 6 8 4 X Γράφηµα της E(Y)για X ϵ (5,5) και (α) X = 88, X 3 = (πράσινη γραµµή) (β) X = 78, X 3 = (µαύρη γραµµή) (γ) X = 68, X 3 = 9 (κόκκινη γραµµή) Ο Συντελεστής Προσδιορισµού Ο συντελεστής προσδιορισµού R ορίζεται όπως και στο απλό γραµµικό υπόδειγµα: ΣΥΝΤΕΛΕΣΤΗΣ ΠΡΟΣ ΙΟΡΙΣΜΟΥ ( ˆ ) SSR Yi Y e SSE R = = = = SST ( Y Y ) ( Y Y ) SST i i Εκφράζει την αναλογία της µεταβλητότητας της Υ που εξηγείται από την παλινδρόµηση Ο Συντελεστής Προσδιορισµού Το R ποτέ δεν µειώνεται όταν προσθέτουµε µια νέα ερµηνευτική µεταβλητή στο γραµµικό µοντέλο, και συνήθως αυξάνεται. Συνεπώς πρέπει να συνυπολογίσουµε το γεγονός αυτό ώστε να λάβουµε ένα αντικειµενικό µέτρο καλής προσαρµογής και να µπορούµε να συγκρίνουµε εναλλακτικά µοντέλα Ορίζουµε τον διορθωµένο συντελεστή προσδιορισµού ( ) e / ( n ( k+ )) s Var( e) R = = = Y Y n Var( Y ) u / ( ) sy διαιρώντας µε τους αντίστοιχους βαθµούς ελευθερίας τα αθροίσµατα τετραγώνων. Έτσι εκφράζουµε τον συντελεστή προσδιορισµού ως συνάρτηση διακυµάνσεων και όχι µόνον της µεταβλητότητας. 3 Ο Συντελεστής Προσδιορισµού Σχέση διορθωµένου συντελεστή µε το R : n R = ( R ) n ( k+ ) Παρατηρούµε ότι.για k= R = R.για k> 3.Μπορεί R < R R (όταν το R είναι µικρό και το k µεγάλο) 4 ΕΦΑΡΜΟΣΜΕΝΗ ΣΤΑΤΙΣΤΙΚΗ ΕΡΕΥΝΑ -3 Χρήστος Εµµανουηλίδης
ιαφάνειες ιαλέξεων -5 Ο Συντελεστής Προσδιορισµού Χρήση του διορθωµένου συντελεστή προσδιορισµού: Είναι πιο αντικειµενικό µέτρο καλής προσαρµογής του υποδείγµατος στα δεδοµένα από τον απλό συντελεστή προσδιορισµού. Ο Συντελεστής Προσδιορισµού Παράδειγµα µε το SPSS R, Rad Ο διορθωµένος συντελεστής προσδιορισµού χρησιµοποιείται και για τη σύγκριση της ερµηνευτικής ικανότητας δύο ή περισσότερων εναλλακτικών µοντέλων που διαφέρουν στον αριθµό των µεταβλητών (k) ή/και στο µέγεθος του δείγµατος (n). 5 6 ΕΛΕΓΧΟΣ ΤΟΥ ΥΠΟ ΕΙΓΜΑΤΟΣ Η διαδικασία ελέγχου του πολυµεταβλητού γραµµικού υποδείγµατος είναι επέκταση της µεθοδολογίας που ακολουθήσαµε στο απλό γραµµικό υπόδειγµα. Ενδιαφερόµαστε για: Κατασκευή διαστηµάτων εµπιστοσύνης για τους συντελεστές Έλεγχο υποθέσεων για την σηµαντικότηταενός, µερικών, ή όλων των συντελεστών του υποδείγµατος 7 8 Υποθέτουµε την ισχύ των βασικών υποθέσεων του κλασικού υποδείγµατος, άρα οι OLS συντελεστές είναι BLUE. Για να διεξάγουµε τους κλασικούς παραµετρικούς ελέγχους υποθέσεων κάνουµε την επιπλέον υπόθεση της κανονικότητας του διαταρακτικού όρου: το uείναι ανεξάρτητο απόταχ, Χ,, Χ k καιακολουθεί την κανονική κατανοµή u ~ N (, σ ) i u 9 Τώρα το υπόδειγµα καλείται κλασικό κανονικό γραµµικό υπόδειγµα. Οι κατανοµές δειγµατοληψίας των εκτιµητών OLSείναι κανονικές: ˆ β ~ N ( β, σ ), =,,,..., k Η εκτιµάται από την, άρα σ ˆ β s ˆ β n ( k+ ) ˆ β s βˆ ˆ β β ~ t, =,,,..., k 3 ΕΦΑΡΜΟΣΜΕΝΗ ΣΤΑΤΙΣΤΙΚΗ ΕΡΕΥΝΑ -3 Χρήστος Εµµανουηλίδης
ιαφάνειες ιαλέξεων -6 Έλεγχος για έναν µοναδικό συντελεστή: H β : = c Παράδειγµα Έλεγχος για έναν µοναδικό συντελεστή µε το SPSS Ο έλεγχος (δίπλευρος ή µονόπλευρος) διεξάγεται µε τον γνωστό τρόπο (t-έλεγχος) που είδαµε στο απλό γραµµικό υπόδειγµα. Χρησιµοποιούνται για τον έλεγχο υποθέσεων για τις παραµέτρους ιαστήµατα εµπιστοσύνης για τις παραµέτρους ιάστηµα εµπιστοσύνης για τους συντελεστές (-α)%διαστήµαταεµπιστοσύνηςγιατουςσυντελεστέςβ : ˆ β t s β ˆ β + t s, =,,,..., k ( n k ), a/ ˆ β ( n k ), a/ ˆ β 3 3 Έλεγχος για όλους τους συντελεστές κλίσεως: H : β = β =... = β = H : τουλάχιστον ένας συντελεστής διάφορος του k Ο έλεγχος αφορά στην ικανότητα όλων των ανεξάρτητων µεταβλητών µαζίνα ερµηνεύσουν την µεταβλητότητα της Υ. Όσο µικρότερος ο συντελεστής προσδιορισµού τόσο µικρότερη η τιµή της F στατιστικής και για δεδοµένο επίπεδο σηµαντικότητας α η µηδενική υπόθεση Η θα απορρίπτεται όταν η F ξεπερνά µια κριτική τιµή, δηλαδή όταν F F α (k,n-k-). Μικρότερα α αντιστοιχούν σε µεγαλύτερεςτιµέςτου R καιµεγαλύτερεςκριτικέςτιµές. f(x) Είναι ένας έλεγχος καλής προσαρµογής και γίνεται µε τη χρήση της στατιστικής F SSR / k R / k F = = ~ F( k, n k ) SSE / ( n k ) ( R ) / ( n k ) α F α(k, n-κ-) F(k, n-κ-) 33 34 Αν ένας συντελεστής είναι σηµαντικός µε τον t-έλεγχο τότε στονπαραπάνωέλεγχοηη θααπορρίπτεται Είναι δυνατόν να απορρίπτεται η παραπάνω Η και ταυτόχρονα να γίνεται αποδεκτή η υπόθεση β =για κάθε =,,k. Αυτό συµβαίνει συνήθως όταν τα Χ σχετίζονται ισχυρά γραµµικά µεταξύ τους και συνεπώς τα τυπικά σφάλµατα των συντελεστών είναι µεγάλα µε αποτέλεσµα οι τιµές της t-στατιστικής να είναι µικρές. Έλεγχος για µερικούς από τους συντελεστές κλίσεως: H : β β =... = = h+ = h+ βk H : τουλάχιστον ένας συντελεστής διάφορος του Ο έλεγχος αφορά στην ικανότητα όλων των αντίστοιχων k-h ανεξάρτητων µεταβλητών µαζίνα ερµηνεύσουν την µεταβλητότητα της Υ. Είναι ένας έλεγχος καλής προσαρµογής και γίνεται πάλι µε τη χρήση της στατιστικής F 35 36 ΕΦΑΡΜΟΣΜΕΝΗ ΣΤΑΤΙΣΤΙΚΗ ΕΡΕΥΝΑ -3 Χρήστος Εµµανουηλίδης
ιαφάνειες ιαλέξεων -7 Η λογική του ελέγχου είναι η ακόλουθη: αν η µηδενική υπόθεση είναι αληθής, τότε η ταυτόχρονη προσθήκη των k-h ανεξάρτητων µεταβλητών στην εξίσωση συνεισφέρει στο άθροισµα τετραγώνων της παλινδρόµησης (SSR)µια ποσότητα που είναι µικρή: Έστω SSR k το άθροισµα τετραγώνων παλινδρόµησης µε όλες (kτο πλήθος) ανεξάρτητες µεταβλητές και SSR h το άθροισµα τετραγώνων παλινδρόµησης χωρίς τις k-h ανεξάρτητες µεταβλητές. Τότε η συνεισφορά των k-hανεξάρτητων µεταβλητών είναι SSR k SSR h Αποδεικνύεται ότι η ποσότητα F = ( SSR SSR ) k h /( k h) ~ F( k h, n k) SSE /( n k) k Παρατηρείστε ότι αν k-h = η διαφορά SSR k SSR αναφέρεται στην προσθήκη της Χ µεταβλητής στο υπόδειγµα µε τις k- µεταβλητές. Η µηδενική υπόθεση είναι Η : β = και ελέγχεται µε την F στατιστική SSRk SSR F = ~ F(, n k) SSE /( n k) k και ο έλεγχος είναι ισοδύναµος µε τον γνωστό t-έλεγχο για έναν συντελεστή κλίσεως. και ο έλεγχος διεξάγεται κατά τα γνωστά µε την κατανοµή F. 37 38 Παράδειγµα µε το SPSS R, Rad ΕΠΙΛΟΓΗ ΠΑΛΙΝ ΡΟΜΗΣΕΩΝ β.ε αριθµητή (3) και παρονοµαστή (7) F test για όλους τους συντελ. κλίσης k = 3 n-k- = -3- = 7 39 4 Επιλογή Παλινδροµήσεων Η επιλογήανάµεσα σε διαφορετικά πολυµεταβλητά γραµµικά υποδείγµατα (έστω Ακαι Β) µε βάση την καλή προσαρµογήγίνεται µε τη σύγκριση µέτρων καλής προσαρµογής που συνυπολογίζουν το πλήθος των ανεξάρτητων µεταβλητών (και το µέγεθος του δείγµατος):. ιορθωµένο R. AIC (Akaike Information Criterion) AIC= nln( ei ) + k 3. BIC (Bayesian Information Criterion), γνωστό και ως SBC (Schwarz's Bayesian criterion ) BIC= nln( ei ) + k ln n 4. Η στατιστική F (έλεγχος σηµαντικότητας ενός ή περισσότερων συντελεστών) Επιλογή Παλινδροµήσεων Με τη σύγκριση των διορθωµένων R των εναλλακτικών µοντέλων (τείνει όµως να ευνοεί µεγάλα µοντέλα) Αν B Με τη σύγκριση των τιµών των AIC (Akaike Information Criterion) Αν A R > R επιλέγεται το µοντέλο Α Με τη σύγκριση των τιµών των BIC (Bayesian Information Criterion) Αν AIC < AIC επιλέγεται το µοντέλο Α A BIC < BIC A B B επιλέγεται το µοντέλο Α Με ελέγχους σηµαντικότητας µε την στατιστική F κατά βήµατα προσθήκης ή απαλοιφής ανεξάρτητων µεταβλητών (forward or backward stepwise regression): Αν η µηδενική υπόθεση απορρίπτεται προσθέτουµε τη µεταβλητή στην εξίσωση, αλλιώς την απαλείφουµε. 4 4 ΕΦΑΡΜΟΣΜΕΝΗ ΣΤΑΤΙΣΤΙΚΗ ΕΡΕΥΝΑ -3 Χρήστος Εµµανουηλίδης
Y ιαφάνειες ιαλέξεων -8 Χρήση της εκτιµηµένης εξίσωσης για εκτίµηση και πρόβλεψη Εκτίµηση αναµενόµενης τιµής της Υ f ΕΚΤΙΜΗΣΗ ΚΑΙ ΠΡΟΒΛΕΨΗ ιάστηµα εµπιστοσύνης (-α)%για την Ε(Υ f ) όπου k+ ο αριθµός των συντελεστών, x f διάνυσµα τιµών των Χ για την f-παρατήρηση, uˆ i ', σˆ f = σˆ u x' f ( X X) x i= n f και ˆ σ = u n ( k + ) 43 44 Χρήση της εκτιµηµένης εξίσωσης για εκτίµηση και πρόβλεψη Εκτίµηση µιας µεµονωµένης τιµής της Υ πρόβλεψητης Υ f ιάστηµα εµπιστοσύνης (-α)%για τηνπρόβλεψητης Υ f Χρήση της εκτιµηµένης εξίσωσης για εκτίµηση και πρόβλεψη Το.Ε. για την πρόβλεψη είναι µεγαλύτερο από αυτό για την αναµενόµενη τιµή 99%.Ε. για τις προβλέψεις 99%.Ε. για τις εκτιµήσεις (αναµενόµενες τιµές) 4. 3... R-Square =.99 όπου Y u f σˆ ˆ = σˆ ' ' ( + x f ( X X) x f) η διακύµανση της πρόβλεψης Τώρα η αβεβαιότητα είναι µεγαλύτερη καθώς συνυπολογίζεται και ο διαταρακτικός όρος u i : το σφάλµα πρόβλεψης εξαρτάται και από το u i 45.... 3. 4. Predicted Values of Y Οι προβλέψεις έχουν µικρότερη διακύµανση όταν: Η διακύµανση του διαταρακτικού όρου είναι µικρότερη, Το δείγµα είναι µεγαλύτερο Το x f είναι κοντά στο δειγµατικό µέσο X 46 Χρήση της εκτιµηµένης εξίσωσης για εκτίµηση και πρόβλεψη Παράδειγµα µε το SPSS Σηµειακή εκτίµηση Ε(Υ).Ε. για το Ε(Υ).Ε. για την πρόβλεψη της Υ ΠΟΙΟΤΙΚΕΣ ΑΝΕΞΑΡΤΗΤΕΣ ΜΕΤΑΒΛΗΤΕΣ 47 48 ΕΦΑΡΜΟΣΜΕΝΗ ΣΤΑΤΙΣΤΙΚΗ ΕΡΕΥΝΑ -3 Χρήστος Εµµανουηλίδης
ιαφάνειες ιαλέξεων -9 Μοντέλα µε Ποιοτικές Ανεξάρτητες Μεταβλητές Παράδειγµα ηµερήσιας κατανάλωσης τσιγάρων. Πώς επιδρά το φύλο στην κατανάλωση; Μοντέλα µε Ποιοτικές Ανεξάρτητες Μεταβλητές Παράδειγµα ηµερήσιας κατανάλωσης τσιγάρων. Πώς επιδρά το φύλο στην κατανάλωση; Μια ποιοτική ανεξάρτητη µεταβλητή Ζ µε v δυνατές τιµές (επίπεδα µέτρησης) επεισέρχεται στο µοντέλο σαν ένα σύνολο από ν- «ψευδοµεταβλητές» : Κάθε ψευδοµεταβλητή Χ κωδικοποιείται ως Χ=αν η Ζ παίρνει την τιµή i=,..,v ή ως Χ= αν όχι. Π.χ. για το φύλο (Μ,F δύο δυνατές τιµές) χρειαζόµαστε µια ψευδοµεταβλητή Χ, που θα έχει τιµή Χ= αν το φύλο είναι Μ και Χ= αν όχι, δηλ. αν το φύλο είναι F (ή αντίστροφα). Αν το µοντέλο έχει τη µορφή Y=β +β Χ + u, τότε ο συντελεστής β είναι η επίδραση της τιµής Χ= (Μ) στην εξαρτηµένη µεταβλητή 49 Μέση ηµερήσια κατανάλωση Αν το µοντέλο έχει τη µορφή Ε(Υ) Y=β +β Χ + u, τότε ο συντελεστής β είναι η επίδραση της τιµής Χ= (δηλ. φύλο=μ) στην εξαρτηµένη µεταβλητή Υ (κατανάλωση) 5 Μοντέλα µε Ποιοτικές Ανεξάρτητες Μεταβλητές Παράδειγµα ηµερήσιας κατανάλωσης τσιγάρων - Επίδραση του φύλου. Μοντέλα µε Ποιοτικές Ανεξάρτητες Μεταβλητές Παράδειγµα ηµερήσιας κατανάλωσης τσιγάρων - Επίδραση του φύλου. Το µοντέλο µας επιτρέπει να κάνουµε έλεγχο της διαφοράς δύο µέσων σε δύο ανεξάρτητα δείγµατα (ένα για κάθε φύλο) Μέση κατανάλωση στις γυναίκες = 9. Μέση κατανάλωση στους άνδρες = 9. +. =.33 Μέση κατανάλωση στις γυναίκες = 9. Μέση κατανάλωση στους άνδρες = 9. +. =.33 5 Στατιστικά σηµαντική διαφορά των µέσων στα δύο δείγµατα (δηλ. στα δύο φύλα). 5 Μοντέλα µε Αλληλεπιδράσεις ΑΛΛΗΛΕΠΙ ΡΑΣΕΙΣ Μοντέλο µε αλληλεπιδράσειςανάµεσα σε δύο ανεξάρτητες ποσοτικές µεταβλητές όπου ( β + β X ) 3 Y = β + β X + β X + β X X + u 3 = ηµεταβολήστην E(Y)για κάθε µοναδιαία αύξησηστην X, κρατώντας την X σταθερή ( β + β X ) 3 = ηµεταβολήστην E(Y)για κάθε µοναδιαία αύξησηστην X, κρατώντας την X σταθερή 53 54 ΕΦΑΡΜΟΣΜΕΝΗ ΣΤΑΤΙΣΤΙΚΗ ΕΡΕΥΝΑ -3 Χρήστος Εµµανουηλίδης
ιαφάνειες ιαλέξεων - Μοντέλα µε Αλληλεπιδράσεις Παράδειγµα -Όζον Y = β + β X + β X + β X X + u όπου Χ = temp, Χ = wind 3 Μοντέλα µε Αλληλεπιδράσεις Μοντέλο µε αλληλεπιδράσειςανάµεσα σε δύο ανεξάρτητες µεταβλητές, η µία ποσοτική (Χ) και η άλλη ποιοτική (Χ έστω δίτιµη, π.χ. φύλο = (F)ή (M) ) Y = β + β X + β X + β X X + u 3 Τώρα έχουµε µια ευθεία παλινδρόµησης για κάθε τιµή της Χ Επίδραση temp (X): 4..7X π.χ. για X =, η επίδραση είναι.83 (κλίση της ευθείας για X = ) Επίδραση wind (X): 3.69.7X π.χ. για X = 78, η επίδραση είναι -3.37 (κλίση της ευθείας για X= 78) Η επίδραση καθεµιάς από τις Xκαι Xστην Υ είναι φθίνουσα συνάρτηση των τιµών της άλλης 55 Για Για X = (Φύλο = Female) : E( Y ) = β + β X ( β β ) ( β β ) X = (Φύλο = Male) : E( Y ) = + + + X 3 56 Μοντέλα µε Αλληλεπιδράσεις Μοντέλα µε Αλληλεπιδράσεις Παράδειγµα -Κατανάλωση (Y = Cons,κατανάλωση) Y = β + β X + β X + β X X + u 3 όπου Χ = Inc (µην. εισόδηµα), Χ = SEXM (= αν F, = αν Μ) Παράδειγµα -Κατανάλωση (Y = Cons,κατανάλωση) Η απάντηση δίνεται µε έναν έλεγχο F για τους συντελεστές βκαι β3 H : β = β = 3 Περιορισµένο µοντέλο: E( Y) = β + β X H : τουλάχιστον ένας διάφορος του Πλήρες µοντέλο: E( Y) = β + β X + β X + β X X 3 Παλινδρόµηση για Φύλο = F (X=): E( Y) = β + β X =.98+.636X Παλινδρόµηση για Φύλο = Μ (X=): E( Y) = ( β+ β) + ( β+ β3) X=.84+ 4.3X Είναι στατιστικά σηµαντική η διαφορά ανάµεσα στις δύο παραπάνω εξισώσεις; 57 H : β = β 3 = δεν απορρίπτεται γιαα <.34 Συνεπώς το πλήρες µοντέλο δεν υποστηρίζεται επαρκώς από τα δεδοµένα. εχόµαστε το περιορισµένο µοντέλο, δηλ. ότι η κατανάλωση είναι ανάλογη του εισοδήµατος µε συντελεστή αναλογίας ανεξάρτητο του φύλου. 58 Πολυωνυµική Παλινδρόµηση ΠΟΛΥΩΝΥΜΙΚΗ ΠΑΛΙΝ ΡΟΜΗΣΗ Πολυωνυµική γραµµική παλινδρόµηση k-τάξης µε µια ανεξάρτητη µεταβλητή Χ k Y = β+ βx + β X +... + βk X + u Κατάλληλη για να περιγράψει µη-γραµµικές σχέσεις ανάµεσα στα Χκαι Υ Επίδραση της Χστην Υ: dy = β+ β X +... + βk X dx k 59 6 ΕΦΑΡΜΟΣΜΕΝΗ ΣΤΑΤΙΣΤΙΚΗ ΕΡΕΥΝΑ -3 Χρήστος Εµµανουηλίδης
ιαφάνειες ιαλέξεων - Πολυωνυµική Παλινδρόµηση Παράδειγµα: Χρόνος έκθεσης(χ time in ms) και επιπέδου προτίµησης (Υ pref ). Πολυωνυµική Παλινδρόµηση Παράδειγµα: Χρόνος έκθεσης(χ time in ms) και επιπέδου προτίµησης (Υ pref ). 3 3 3 clutch pref 9 7 5 Yπάρχει σχέση ανάµεσα στις Χ και Υ; Αν ναι, είναι γραµµική ή µη γραµµική; clutch pref 9 7 5 pref clutch 9 7 5 3 3 3 8 9 3 3 3 33 length time 6 8 9 3 3 3 33 length time Γραµµική καµπύλη προσαρµογής E( Y ) = β + β X 8 9 3 3 3 33 length time Πολυωνυµική καµπύλη προσαρµογής ου βαθµού E( Y ) = β+ βx + β X 6 Πολυωνυµική Παλινδρόµηση Παράδειγµα: Χρόνος έκθεσης. Γραµµικό µοντέλο ( ου βαθµού) Πολυωνυµική Παλινδρόµηση Παράδειγµα: Χρόνος έκθεσης. Πολυωνυµικό γραµµικό µοντέλο ου βαθµού R, R < ad R, Rad F test µη σηµαντικό F test, t tests σηµαντικά 63 64 ΤΕΛΟΣ ΕΝΟΤΗΤΑΣ 65 ΕΦΑΡΜΟΣΜΕΝΗ ΣΤΑΤΙΣΤΙΚΗ ΕΡΕΥΝΑ -3 Χρήστος Εµµανουηλίδης