ΑΝΑΛΤΗ ΔΙΑΠΟΡΑ ΚΑΙ ΠΑΛΙΝΔΡΟΜΗΗ ΜΕ ΕΦΑΡΜΟΓΕ

Transcript

1 ΔΙΑΣΜΗΜΑΣΙΚΟ ΠΡΟΓΡΑΜΜΑ ΜΕΣΑΠΣΤΧΙΑΚΩΝ ΠΟΤΔΩΝ ΣΙ ΠΕΡΙΒΑΛΛΟΝΣΙΚΕ ΕΠΙΣΗΜΕ ΑΝΑΛΤΗ ΔΙΑΠΟΡΑ ΚΑΙ ΠΑΛΙΝΔΡΟΜΗΗ ΜΕ ΕΦΑΡΜΟΓΕ Επιμζλεια Διπλωματικισ : Καμπζλθ Πετροφλα, Α.Μ. :167 Επιβλζπων κακθγθτισ : Αλεβίηοσ Φίλιπποσ Πάτρα, Ιοφνιοσ 2010

2 2

3 Ευχαριςτϊ τον επιβλζποντα κακθγθτι τθσ διπλωματικισ εργαςίασ κ. Φίλιππο Αλεβίηο για τθν πολφτιμθ βοικεια που μου προςζφερε, κακϊσ και τθν κακοδιγθςθ του και τθν φιλικι του ςτάςθ. Τζλοσ κα ικελα να ευχαριςτιςω τθν οικογζνειά μου, για τθν θκικι υποςτιριξθ και ςυμπαράςταςθ που μου προςζφερε κατά τθν διάρκεια τθσ εκπόνθςθσ τθσ εργαςίασ αυτι. 3

4 ΠΕΡΙΛΗΨΗ Στθ διπλωματικι εργαςία περιγράφονται και αναπτφςςονται δφο ςτατιςτικζσ μζκοδοι ανάλυςθσ δεδομζνων, Γραμμικι Ραλινδρόμθςθ με ποιοτικζσ μεταβλθτζσ και Ανάλυςθ διαςποράσ με ζναν και ακολοφκωσ με δφο παράγοντεσ. Στθ ςυνζχεια οι παραπάνω μζκοδοι εφαρμόηονται ςε πραγματικά δεδομζνα που προζρχονται από δείγματα νεροφ ενόσ κολπίςκου και μελετάται ο βακμόσ επίδραςθσ 3 διαφορετικϊν βροχοπτϊςεων ςτο ph του νεροφ. Θ εφαρμογι των μεκόδων γίνεται με τθ χριςθ του ςτατιςτικοφ πακζτου SPSS. ABSTRACT The thesis described and developed the data analysis of two statistical methods, Linear Regression with qualitative variables and ANOVA one-way analysis, then ANOVA two-way. Moreover, the former methods are applied to real data from gulf water samples and studied the degree of influence of 3 different rainfalls in the water ph. The application of the methods is done using the SPSS statistical package. 4

5 ΠΕΡΙΕΧΟΜΕΝΑ ΚΕΦΑΛΑΙΟ 1 : ΑΝΑΛΤΗ ΔΙΑΠΟΡΑ (ANOVA) 1.1 ΕΙΣΑΓΩΓΘ ΜΟΝΤΕΛΟ ΑΝΑΛΥΣΘΣ ΔΙΑΣΡΟΑΣ ΜΕ ΕΝΑΝ ΡΑΑΓΟΝΤΑ ΑΝΑΛΥΣΘ ΔΙΑΣΡΟΑΣ ΜΕ ΕΝΑΝ ΡΑΑΓΟΝΤΑ (ANOVA one-way) Συνολικι Διαςπορά Ανάλυςθ Συνολικισ Διαςποράσ ςε Επιμζρουσ Συνιςτϊςεσ ΑΘΟΙΣΜΑΤΑ ΤΕΤΑΓΩΝΩΝ ΔΙΑΣΤΘΜΑΤΑ ΕΜΡΙΣΤΟΣΥΝΘΣ ΓΙΑ ΤΙΣ ΜΕΣΕΣ ΤΙΜΕΣ ΤΩΝ ΔΕΙΓΜΑΤΩΝ ΔΙΑΔΙΚΑΣΙΕΣ ΡΟΛΛΑΡΛΩΝ ΣΥΓΚΙΣΕΩΝ Ζλεγχοσ Ελάχιςτθσ Σθμαντικισ Διαφοράσ του Fisher Ζλεγχοσ του Tukey Ζλεγχοσ του Bonferroni ΑΝΑΛΥΣΘ ΔΙΑΣΡΟΑΣ ΜΕ ΔΥΟ ΡΑΑΓΟΝΤΕΣ (ANOVA two-way) 18 ΚΕΦΑΛΑΙΟ 2 : ΜΕΔΟΔΟ ΠΑΛΙΝΔΡΟΜΗΗ 2.1 ΕΙΣΑΓΩΓΘ ΡΟΛΛΑΡΛΘ ΓΑΜΜΙΚΘ ΡΑΛΙΝΔΟΜΘΣΘ Θ ΕΚΤΙΜΘΣΘ ΤΩΝ ΕΛΑΧΙΣΤΩΝ ΤΕΤΑΓΩΝΩΝ ΙΔΙΟΤΘΤΕΣ ΕΚΤΙΜΘΤΩΝ ΕΛΑΧΙΣΤΩΝ ΤΕΤΑΓΩΝΩΝ ΥΡΟΘΕΣΕΙΣ ΡΟΛΛΑΡΛΟΥ ΓΑΜΜΙΚΟΥ ΜΟΝΤΕΛΟΥ ΜΕΙΚΟΙ ΣΥΝΤΕΛΕΣΤΕΣ ΡΑΛΙΝΔΟΜΘΣΘΣ ΡΙΝΑΚΑΣ ΑΝΑΛΥΣΘΣ ΔΙΑΣΡΟΑΣ ΣΥΝΤΕΛΕΣΤΘΣ ΡΟΛΛΑΡΛΟΥ ΡΟΣΔΙΟΙΣΜΟΥ ΔΙΟΘΩΜΕΝΟΣ ΣΥΝΤΕΛΕΣΤΘΣ ΡΟΣΔΙΟΙΣΜΟΥ ΣΥΓΚΙΣΘ R 2 ΚΑΙ R 2 adj ΕΛΕΓΧΟΣ ΣΤΑΤΙΣΤΙΚΩΝ ΥΡΟΘΕΣΕΩΝ Ζλεγχοσ Σθμαντικότθτασ για μια Ραράμετρο Ολικόσ Ζλεγχοσ Σθμαντικότθτασ του Μοντζλου Μερικόσ Ζλεγχοσ Σθμαντικότθτασ του Μοντζλου.34 5

6 ΚΕΦΑΛΑΙΟ 3 : ΕΙΚΟΝΙΚΕ ΜΕΣΑΒΛΗΣΕ Ή ΨΕΤΔΟΜΕΣΑΒΛΗΣΕ (DUMMY VARIABLES) 3.1 ΕΙΣΑΓΩΓΘ ΔΙΑΧΟΝΙΚΕΣ ΕΡΙΔΑΣΕΙΣ Δίτιμθ Ανεξάρτθτθ Εικονικι Μεταβλθτι Ρολυεπίπεδεσ ι Ρλειότιμεσ Ανεξάρτθτεσ Εικονικζσ Μεταβλθτζσ ΕΡΟΧΙΚΕΣ ΕΡΙΔΑΣΕΙΣ ΜΟΝΤΕΛΑ ΡΟΥ ΡΕΙΛΑΜΒΑΝΟΥΝ ΑΛΛΘΛΕΡΙΔΑΣΕΙΣ (INTERACTIONS) ΑΛΛΕΣ ΧΘΣΕΙΣ ΤΩΝ ΕΙΚΟΝΙΚΩΝ ΜΕΤΑΒΛΘΤΩΝ Κατά τμιματα γραμμικι παλινδρόμθςθ (piecewise linear regression) Αςυνζχεια ςτθ ςυνάρτθςθ παλινδρόμθςθσ Εφαρμογι εικονικϊν μεταβλθτϊν ςτισ χρονοςειρζσ ΧΘΣΘ ΕΙΚΟΝΙΚΩΝ ΜΕΤΑΒΛΘΤΩΝ ΣΤΘ ΘΕΣΘ ΡΟΣΟΤΙΚΩΝ ΑΝΕΞΑΤΘΤΩΝ ΜΕΤΑΒΛΘΤΩΝ ΕΛΕΓΧΟΙ ΣΤΑΘΕΟΤΘΤΑΣ ΤΩΝ ΣΥΝΤΕΛΕΣΤΩΝ Ζλεγχοσ τθσ ςτακερότθτασ των ςυντελεςτϊν του μοντζλου με εικονικζσ μεταβλθτζσ ΔΙΑΦΟΑ ΡΟΣΔΙΟΙΣΜΕΝΩΝ ΚΩΔΙΚΩΝ ΚΑΙ ΜΕΤΑΒΛΘΤΩΝ ΔΕΙΚΤΩΝ ΑΝΙΧΝΕΥΣΘ ΑΚΑΙΩΝ ΣΘΜΕΙΩΝ ΜΕ ΕΙΚΟΝΙΚΕΣ ΜΕΤΑΒΛΘΤΕΣ..64 ΚΕΦΑΛΑΙΟ 4 : ΕΦΑΡΜΟΓΗ 4.1 ΑΝΑΛΥΣΘ ΔΕΔΟΜΕΝΩΝ ΜΕ ΤΘ ΜΕΘΟΔΟ ΡΑΛΙΝΔΟΜΘΣΘΣ ΜΕ ΕΙΚΟΝΙΚΕΣ ΜΕΤΑΒΛΘΤΕΣ ΑΝΑΛΥΣΘ ΔΕΔΟΜΕΝΩΝ ΜΕ ΤΘ ΜΕΘΟΔΟ ΤΘΣ ΑΝΑΛΥΣΘΣ ΔΙΑΣΡΟΑΣ.83 ΒΙΒΛΙΟΓΡΑΦΙΑ..88 6

7 1. ΑΝΑΛΤΗ ΔΙΑΠΟΡΑ (ANOVA) 1.1 ΕΙΑΓΩΓΗ Θ ανάλυςθ διαςποράσ (ANOVA) είναι μία ςτατιςτικι μζκοδοσ ανάλυςθσ δεδομζνων που ζχει ωσ ςτόχο τθν εξαγωγι ςυμπεραςμάτων για κάποια χαρακτθριςτικά ενόσ πλθκυςμοφ. Από τθν ανάλυςθ των παρατθριςεων του πλθκυςμοφ ελζγχουμε διάφορεσ υποκζςεισ για ζνα ι περιςςότερα χαρακτθριςτικά και παίρνουμε αποφάςεισ ςτθριηόμενοι ςε πλθροφορίεσ (δεδομζνα) που προζρχονται από ζνα ι περιςςότερα δείγματα αυτοφ. Θ ανάλυςθ διαςποράσ με ζναν παράγοντα είναι θ πιο απλι περίπτωςθ ελζγχου τθσ ςθμαντικότθτασ περιςςότερων των δφο πλθκυςμιακϊν μζςων τιμϊν και χρθςιμοποιεί ακροίςματα τετραγϊνων. Το γενικό πλαίςιο ςτο οποίο τοποκετείται θ χριςθ τθσ, αφορά k ανεξάρτθτουσ και κανονικά κατανεμθμζνουσ πλθκυςμοφσ με μζςθ τιμι κάκε πλθκυςμοφ μ j και τυπικι απόκλιςθ ς j, όπου j=1,2,,k. Από κάκε ζναν από τουσ πλθκυςμοφσ αυτοφσ λαμβάνεται ζνα τυχαίο δείγμα μεγζκουσ n j με μζςθ τιμι δείγματοσ j και τυπικι απόκλιςθ s j. Υπάρχει μια εξαρτθμζνθ ποςοτικι μεταβλθτι Υ τισ τιμζσ τθσ οποίασ μποροφμε να παρατθριςουμε και θ οποία μπορεί να εξαρτάται από ζναν ι από περιςςότερουσ παράγοντεσ που ιςοδυναμοφν με τισ ανεξάρτθτεσ μεταβλθτζσ. Οι τιμζσ που παίρνει ο κάκε παράγοντασ λζγονται ςτάκμεσ και είναι πεπεραςμζνου πλικουσ. Θ ανάλυςθ διαςποράσ αρχικά χρθςιμοποιικθκε ωσ μζκοδοσ ανάλυςθσ ςε πειραματικζσ μελζτεσ και ςυχνά θ ορολογία που χρθςιμοποιείται ςε αυτιν πθγάηει από τθν ορολογία των πειραματικϊν μελετϊν. Για παράδειγμα, οι k πλθκυςμοί από τουσ οποίουσ λαμβάνονται με τυχαίο τρόπο οι παρατθριςεισ μιασ μελζτθσ, ςυχνά αποτελοφν k διαφορετικζσ μεταχειρίςεισ ι κεραπείεσ ι γενικότερα μεκόδουσ αντιμετϊπιςθσ προβλιματοσ. Θ μθδενικι υπόκεςθ του ελζγχου των k πλθκυςμιακϊν μζςων τιμϊν γενικά μπορεί να διατυπωκεί ωσ Θ 0 : μ 1 =μ 2 = =μ k,ενϊ θ εναλλακτικι υπόκεςθ Θ Α : Δφο τουλάχιςτον από τισ μ 1,μ 2,,μ k διαφορετικζσ μεταξφ τουσ. Θ εναλλακτικι υπόκεςθ προκφπτει λογικά από τθν απόρριψθ τθσ μθδενικισ υπόκεςθσ. Μια πρϊτθ αντιμετϊπιςθ ενόσ τζτοιου ελζγχου κα μποροφςε να γίνει με ζλεγχο ανά δφο όλων των δυνατϊν ςυνδυαςμϊν των k μζςων τιμϊν, χρθςιμοποιϊντασ πολλαπλά t-tests για ανεξάρτθτα δείγματα. Σε μια τζτοια περίπτωςθ ο αρικμόσ των ςυγκρίςεων που κα προζκυπτε είναι ςυνολικά. Το πρόβλθμα που δθμιουργείται είναι ότι οι πολλαπλοί ζλεγχοι 7

8 μποροφν να οδθγιςουν ςε εςφαλμζνα ςυμπεράςματα. Για να διαςφαλίςουμε λοιπόν τθν ορκότθτα των αποτελεςμάτων μασ ακολουκοφμε τθν διαδικαςία τθσ ανάλυςθσ διαςποράσ με ζναν παράγοντα. 1.2 ΜΟΝΣΕΛΟ ΑΝΑΛΤΗ ΔΙΑΠΟΡΑ ΜΕ ΕΝΑΝ ΠΑΡΑΓΟΝΣΑ Τα δεδομζνα που υπειςζρχονται ςε ζνα πρόβλθμα ανάλυςθσ διαςποράσ με ζναν παράγοντα είναι τα ακόλουκα : είναι θ i παρατιρθςθ του δείγματοσ j, n= (1.1) είναι το ςφνολο όλων των παρατθριςεων του δείγματοσ, (1.2) είναι θ μζςθ τιμι κάκε j δείγματοσ, = = (1.3) είναι θ ςυνολικι μζςθ τιμι όλων των παρατθριςεων. Μια οποιαδιποτε τιμι τιμισ μ j του δείγματοσ j ςτo οποίo ανικει ωσ : μπορεί να εκφραςτεί με τθ βοικεια τθσ πλθκυςμιακισ μζςθσ ςφάλμα και είναι θ ποςότθτα κατά τθν οποία διαφοροποιείται θ = μ j + ε ij (1.4). Θ ποςότθτα ε ij ονομάηεται από τθν μ j. Το ςφάλμα προςδιορίηει ποςοτικά τθ μθ ελεγχόμενθ μεταβλθτότθτα που υπάρχει ςτον πλθκυςμό j. Επιλφοντασ τθν εξίςωςθ ωσ προσ ε ij, ζχουμε ε ij = μ j (1.5). Για k πλθκυςμοφσ, θ ςυνολικι μζςθ τιμι μ όλων των πλθκυςμϊν μπορεί να υπολογιςτεί για ίςο αρικμό παρατθριςεων ανά πλθκυςμό με τθ βοικεια των k επιμζρουσ μζςων τιμϊν μ j, j=1,2,..,k από τθ ςχζςθ μ= μ (1.6). Eνϊ για άνιςο αρικμό παρατθριςεων ανά πλθκυςμό από τθ ςχζςθ μ= Ν μ Ν μ Νμ (1.7). Οποιοςδιποτε πλθκυςμιακόσ μζςοσ μ j από τουσ k μπορεί να εκφραςτεί με τθ βοικεια του ςυνολικοφ πλθκυςμιακοφ μζςου μ ωσ : μ j = μ + τ j (1.8). Θ ποςότθτα τ j είναι το αποτζλεςμα τθσ επίδραςθσ του ςυγκεκριμζνου δείγματοσ ςτθ μεταβλθτότθτα των τιμϊν. Συνδυάηοντασ τισ ςχζςεισ (1.4) και (1.8), προκφπτει ότι : = μ + τ j + ε ij, i=1,2,,n j, j=1,2,,k (1.9). Ερμθνεφοντασ το παραπάνω μοντζλο, μποροφμε να ποφμε ότι θ τιμι μιασ οποιαδιποτε παρατιρθςθσ ορίηεται ωσ το άκροιςμα τθσ ςυνολικισ 8

9 πλθκυςμιακισ μζςθσ τιμισ, τθσ επίδραςθσ του δείγματοσ ςτο οποίο ανικει και του ςφάλματοσ που αναπαριςτά τθν απόκλιςθ τθσ από τθν αντίςτοιχθ πλθκυςμιακι μζςθ τιμι του δείγματοσ. Ακολουκϊντασ το ςυμβολιςμό του παραπάνω μοντζλου, οι προχποκζςεισ τθσ ανάλυςθσ διαςποράσ διατυπϊνονται ωσ : 1. Τα διακζςιμα δεδομζνα των k δειγμάτων αποτελοφν τυχαία και ανεξάρτθτα δείγματα προερχόμενα από τουσ αντίςτοιχουσ πλθκυςμοφσ, οι οποίοι είναι κανονικά κατανεμθμζνοι και ζχουν κοινι διαςπορά ς 2 1=ς 2 2= =ς 2 k=ς Οι ποςότθτεσ τ j είναι άγνωςτεσ ςτακερζσ, για τισ οποίεσ ιςχφει =0. 3. Από τθ ςχζςθ ε ij = μ j προκφπτει ότι τα ςφάλματα ε ij είναι ανεξάρτθτα και κανονικά κατανεμθμζνα : με μζςθ τιμι 0, δθλαδι Ε(ε ij )=0, εφόςον θ μζςθ τιμι των είναι θ μ j. με διαςπορά ίςθ με τθν διαςπορά των δθλαδι Var(ε ij )=Var( ), εφόςον οι ποςότθτεσ και ε ij διαφζρουν κατά μια ςτακερά. Επομζνωσ, οι υποκζςεισ τθσ ανάλυςθσ : Θ 0 : μ 1 =μ 2 = =μ k Θ Α : Δφο τουλάχιςτον από τισ μ 1,μ 2,,μ k διαφορετικζσ μεταξφ τουσ διαμορφϊνονται ιςοδφναμα ωσ εξισ Θ 0 : τ j = 0 j= 1,2,,k Θ Α : Ζνα τουλάχιςτον από τα τ j είναι διάφορο του 0. Ο ζλεγχοσ τθσ μθδενικισ υπόκεςθσ γίνεται, χρθςιμοποιϊντασ το ςυμβολιςμό του γραμμικοφ μοντζλου που ορίςαμε = μ + τ j + ε ij, i=1,2,,n j, j=1,2,,k. Γράφοντασ το μοντζλο αυτό ωσ - μ= τ j + ε ij και κζτοντασ τ j = μ j μ και ε ij = μ j, προκφπτει μ =( μ j μ )+( μ j ). Επειδι θ ςυνολικι πλθκυςμιακι μζςθ τιμι μ εκτιμάται από τον δειγματικό μζςο και θ πλθκυςμιακι μζςθ τιμι μ j του j δείγματοσ εκτιμάται από τθν δειγματικι μζςθ τιμι του j δείγματοσ, θ παραπάνω εξίςωςθ μπορεί να γραφτεί ωσ, i=1,2,,n j, j=1,2,,k (1.10). 9

10 Υψϊνοντασ τουσ όρουσ τθσ εξίςωςθσ ςτο τετράγωνο και ακροίηοντασ ωσ προσ i=1,2,,n j και j=1,2,,k προκφπτει = = = = (όταν θ διπλι άκροιςθ γίνεται ωσ προσ τον τελευταίο όρο το αποτζλεςμα είναι πάντα μθδζν) οπότε = =. Οπότε = (1.11) από όπου προκφπτει ότι το ςυνολικό άκροιςμα τετραγϊνων (total sum of squares) ιςοφται με το άκροιςμα τετραγϊνων ςτο εςωτερικό των δειγμάτων (sum of squares within groups) και το άκροιςμα τετραγϊνων μεταξφ των δειγμάτων (sum of squares between groups) : SST = SSW + SSB (1.12) όπου SSW = (1.13) και SSB = (1.14). Οι ποςότθτεσ και προκφπτουν διαιρϊντασ τισ SSW και SSB με τουσ αντίςτοιχουσ βακμοφσ ελευκερίασ τουσ n-k και k-1 : (1.15) και (1.16) ονομάηονται αντίςτοιχα μζςο τετράγωνο ςτο εςωτερικό των δειγμάτων και μζςο τετράγωνο μεταξφ των δειγμάτων. Υπό τθν προχπόκεςθ ότι ιςχφει θ μθδενικι υπόκεςθ, εκτιμοφν τθν κοινι διαςπορά ς 2. Επίςθσ ιςχφει Ε( )=ς 2 (1.17) και Ε( )=ς 2 + μ μ (1.18). Από τθν μορφι του γραμμικοφ μοντζλου που χρθςιμοποιιςαμε, προκφπτει θ ποςότθτα (τθν οποία ονομάςαμε άκροιςμα τετραγϊνων ςτο εςωτερικό των δειγμάτων) που 10

11 αποτελεί ουςιαςτικά ζνα μζτρο τθσ διαςποράσ των ςφαλμάτων, γι αυτό και ςυχνά αναφζρεται ωσ άκροιςμα τετραγϊνων των ςφαλμάτων και θ ωσ μζςο τετράγωνο των ςφαλμάτων. 1.3 ΑΝΑΛΤΗ ΔΙΑΠΟΡΑ ΜΕ ΕΝΑΝ ΠΑΡΑΓΟΝΣΑ (ANOVA one-way) υνολικι Διαςπορά Ο όροσ ανάλυςθ διαςποράσ προσ ζναν παράγοντα δθλϊνει ότι υπάρχει ζνασ μόνο παράγοντασ ι χαρακτθριςτικό ωσ προσ το οποίο διαφοροποιοφνται οι πλθκυςμοί μεταξφ τουσ. Θ ςυνολικι διαςπορά (total variability) των k ανεξάρτθτων και κανονικά κατανεμθμζνων πλθκυςμϊν εκτιμάται από τθν ποςότθτα (1.19) όπου i=1,2,..n j, n=, είναι θ i παρατιρθςθ του δείγματοσ j και = είναι θ ςυνολικι μζςθ τιμι των k δειγμάτων Ανάλυςθ υνολικισ Διαςποράσ ςε Επιμζρουσ υνιςτώςεσ Οι 2 βαςικζσ παραδοχζσ που πρζπει να ιςχφουν κατά τθν ανάλυςθ είναι ότι, όλοι οι πλθκυςμοί να ζχουν τθν ίδια διαςπορά, δθλαδι ς 2 1=ς 2 2= =ς 2 k=ς 2 και θ κατανομι τουσ να είναι κανονικι. Βάςθ τθσ πρϊτθσ παραδοχισ, μια εκτίμθςθ τθσ κοινισ διαςποράσ του πλθκυςμοφ ς 2, μπορεί να γίνει ςυνδυάηοντασ τισ επιμζρουσ διαςπορζσ των k δειγμάτων, δθλαδι = = = = 11

12 οπότε = (1.20), όπου i=1,2,..n j, n= = (1.21) και είναι θ δειγματικι μζςθ τιμι κάκε i δείγματοσ. Θ ποςότθτα s 2 w είναι ζνασ ςτακμιςμζνοσ μζςοσ των επιμζρουσ διαςπορϊν των k δειγμάτων και αποτελεί ζνα μζτρο τθσ διαςποράσ ςτο εςωτερικό του πλθκυςμοφ του κάκε δείγματοσ. Αυτοφ του είδουσ θ διαςπορά ονομάηεται διαςπορά ςτο εςωτερικό των δειγμάτων (within groups variability). Θ εκτίμθςθ τθσ διαςποράσ των επιμζρουσ πλθκυςμιακϊν μζςων γφρω από τθ ςυνολικι πλθκυςμιακι μζςθ τιμι μπορεί να γίνει από τα δειγματικά δεδομζνα, κεωρϊντασ τθ μζςθ τιμι κάκε δείγματοσ ωσ ατομικι παρατιρθςθ με ςυχνότθτα εμφάνιςθσ n j (το n j εκφράηει το μζγεκοσ του πλθκυςμοφ ςε κάκε δείγμα). Στθν περίπτωςθ αυτι θ ποςότθτα ορίηεται : = = οπότε = (1.22), όπου είναι θ ςυνολικι μζςθ τιμι των k δειγμάτων και είναι θ δειγματικι μζςθ τιμι κάκε i δείγματοσ. Αποτελεί μζτρο τθσ διαςποράσ των πλθκυςμιακϊν μζςων τιμϊν γφρω από τθ ςυνολικι μζςθ τιμι όλων των πλθκυςμϊν. Αυτοφ του είδουσ θ διαςπορά ονομάηεται διαςπορά μεταξφ των δειγμάτων( between groups variability). Αποδεχόμενοι ότι ιςχφει θ μθδενικι υπόκεςθ Θ 0 : μ 1 =μ 2 = =μ k και υπό τθν προχπόκεςθ ότι οι πλθκυςμιακζσ διαςπορζσ είναι ίςεσ (ς 2 1=ς 2 2= =ς 2 k= ς 2 ), ουςιαςτικά αποδεχόμαςτε ότι οι k πλθκυςμοί ταυτίηονται ςε ζναν πλθκυςμό με μζςθ τιμι μ=μ 1 =μ 2 = =μ k και διαςπορά ς 2 1=ς 2 2= =ς 2 k= ς 2. Σε μια τζτοια περίπτωςθ, οι δειγματικζσ μζςεσ τιμζσ,,, μποροφν να κεωρθκοφν ότι προζρχονται όλεσ από τον ίδιο πλθκυςμό, ο οποίοσ ζχει μζςθ τιμι μ και διαςπορά ς 2. Στθν περίπτωςθ αυτι, θ ποςότθτα εκτιμά τθν κοινι πλθκυςμιακι διαςπορά ς 2. 12

13 Υπό τθν προχπόκεςθ επομζνωσ, ότι ιςχφει θ μθδενικι υπόκεςθ προκφπτουν 2 διαφορετικζσ εκτιμιςεισ τθσ ς 2 : μια προερχόμενθ από τθν ποςότθτα και μια από τθν. Ο λόγοσ των δφο αυτϊν ποςοτιτων εκφράηεται ωσ F = και κα πρζπει να ιςοφται περίπου με 1. Αν όμωσ, υπάρχουν διαφορζσ μεταξφ των πλθκυςμιακϊν μζςων, θ διαςπορά μεταξφ των δειγμάτων κα τείνει να υπερβαίνει τθ διαςπορά ςτο εςωτερικό των δειγμάτων και άρα ο λόγοσ F = κα είναι μεγαλφτεροσ του 1. Πταν όμωσ θ H 0 είναι αλθκισ ο λόγοσ F = ακολουκεί τθν κατανομι F με βακμοφσ ελευκερίασ k-1 και n-k αντίςτοιχα. Θ κατανομι F ςυμβολίηεται μαηί με τουσ βακμοφσ ελευκερίασ που τθν ορίηουν, F k-1,n-k,1-α με επίπεδο ςθμαντικότθτασ 1-α. Στθν περίπτωςθ των 2 μζςων τιμϊν ο ζλεγχοσ με τθν κατανομι F ταυτίηεται πλιρωσ με ζνα t-test για 2 ανεξάρτθτα δείγματα. Θ F κατανομι παίρνει μόνο κετικζσ τιμζσ, είναι αςφμμετρθ και ο βακμόσ τθσ αςυμμετρίασ που εμφανίηει προςδιορίηεται από τισ τιμζσ των βακμϊν ελευκερίασ που τθν χαρακτθρίηουν. Αν θ τιμι του λόγου F = είναι μεγαλφτερθ από τθν κρίςιμθ τιμι τθσ F k-1,n-k θ μθδενικι υπόκεςθ απορρίπτεται. Θ εναλλακτικι υπόκεςθ ςτθν οποία οδθγοφμαςτε είναι Θ Α : Δφο τουλάχιςτον από τισ μ 1,μ 2,,μ k είναι διαφορετικζσ μεταξφ τουσ. 1.4 ΑΘΡΟΙΜΑΣΑ ΣΕΣΡΑΓΩΝΩΝ Μια άλλθ προςζγγιςθ τθσ ανάλυςθσ διαςποράσ είναι να εξετάςουμε τα ακροίςματα τετραγϊνων. Το ςυνολικό άκροιςμα τετραγϊνων ςυμβολίηεται SST (total sum of squares ) και δίνεται από τον τφπο SST= (1.23). Για να αναλφςουμε το ςυνολικό άκροιςμα τετραγϊνων χρειάηεται να το χωρίςουμε ςε 2 μζρθ, προςκζτοντασ και αφαιρϊντασ το οπότε προκφπτει SST= = = = = (όταν θ διπλι άκροιςθ γίνεται ωσ προσ τον τελευταίο όρο το αποτζλεςμα είναι πάντα μθδζν) οπότε = = 13

14 από όπου επίςθσ προκφπτει ότι το ςυνολικό άκροιςμα ιςοφται με το άκροιςμα τετραγϊνων ςτο εςωτερικό των δειγμάτων (sum of squares within groups) και το άκροιςμα τετραγϊνων μεταξφ των δειγμάτων (sum of squares between groups) : SST = SSW + SSB (1.24) Aπό τθν (1.24) προκφπτουν και οι ςχζςεισ (1.13), (1.14), (1.15), (1.16). Πθγι μεταβλθτότθτασ Άκροιςμα τετραγώνων Βακμοί ελευκερίασ Μζςο τετράγωνο F BETWEEN SSB k-1 F = F k-1,n-k WITHIN SSW n-k TOTAL SST n-1 Ρίνακασ 1.1 Ανάλυςθ διαςπορϊν ΑΝΟVA. 1.5 ΔΙΑΣΗΜΑΣΑ ΕΜΠΙΣΟΤΝΗ ΓΙΑ ΣΙ ΜΕΕ ΣΙΜΕ ΣΩΝ ΔΕΙΓΜΑΣΩΝ Ο ζλεγχοσ τθσ ανάλυςθσ διαςποράσ μασ απαντάει μόνο ςτο αν ο παράγοντασ επθρεάηει τα δείγματα ι όχι. Επειδι τα δείγματα εκλζγονται τυχαία και ανεξάρτθτα το ζνα από το άλλο, μποροφμε να εκτιμιςουμε διαςτιματα εμπιςτοςφνθσ για τθ μζςθ τιμι κάκε δείγματοσ και για τισ διαφορζσ των μζςων τιμϊν ανά δφο. Για τον υπολογιςμό αυτϊν των διαςτθμάτων ςαν κοινι διαςπορά χρθςιμοποιοφμε τον εκτιμθτι. Ζτςι λοιπόν τα διαςτιματα εμπιςτοςφνθσ για τισ μζςεσ τιμζσ μ j είναι t n-k,α/2, όπου είναι θ δειγματικι μζςθ τιμι κάκε j δείγματοσ. Ενϊ τα διαςτιματα εμπιςτοςφνθσ για τισ διαφορζσ των μζςων τιμϊν 2 δειγμάτων i και j είναι ( )±t n-k,α/2, όπου n i και n j είναι τα μεγζκθ των δειγμάτων από τον πλθκυςμό i και j αντίςτοιχα και t n-k,α/2 θ κρίςιμθ τιμι τθσ κατανομισ t για επίπεδο ςθμαντικότθτασ α * = α/2 και βακμοφσ ελευκερίασ ίςουσ με τουσ βακμοφσ ελευκερίασ τθσ, δθλαδι n-k. 14

15 1.6 ΔΙΑΔΙΚΑΙΕ ΠΟΛΛΑΠΛΩΝ ΤΓΚΡΙΕΩΝ Στθν ανάλυςθ διαςποράσ, θ απόρριψθ τθσ μθδενικισ υπόκεςθσ Θ 0 : μ 1 =μ 2 = =μ k οδθγεί λογικά ςτθν αποδοχι τθσ εναλλακτικισ Θ Α, ςφμφωνα με τθν οποία 2 τουλάχιςτον από τισ μ 1,μ 2,,μ k είναι διαφορετικζσ μεταξφ τουσ. Θ διατφπωςθ αυτι τθσ εναλλακτικισ υπόκεςθσ δεν βοθκά ςτον ακριβι προςδιοριςμό των μζςων τιμϊν που διαφζρουν μεταξφ τουσ και, επομζνωσ προκειμζνου αυτζσ να εντοπιςτοφν είναι απαραίτθτο να γίνει χριςθ ςυμπλθρωματικϊν ελζγχων. Οι ζλεγχοι οι οποίοι χρθςιμοποιοφνται ςε μια τζτοια περίπτωςθ ονομάηονται ζλεγχοι πολλαπλϊν ςυγκρίςεων (multiple comparison tests) Ζλεγχοσ Ελάχιςτθσ θμαντικισ Διαφοράσ του Fisher Θ παλαιότερθ από αυτζσ τισ διαδικαςίεσ και θ πλζον χρθςιμοποιθμζνθ ςτο παρελκόν είναι ο ζλεγχοσ τθσ ελάχιςτθσ ςθμαντικισ διαφοράσ που προτάκθκε από τον Fisher το Ο ζλεγχοσ τθσ ελάχιςτθσ ςθμαντικισ διαφοράσ είναι ζνασ αρκετά <<ελαςτικόσ>> ζλεγχοσ ο οποίοσ ςε αρκετζσ περιπτϊςεισ δεν διαςφαλίηει τθ ςυνολικι πικανότθτα ςφάλματοσ τφπου Ι (απορρίπτω Θ 0 ενϊ είναι αλθκισ) ςε επίπεδα κάτω του 0,05. Ρροκειμζνου να καλφψουμε το προκακοριςμζνο ςυνολικό επίπεδο ςθμαντικότθτασ α του ελζγχου, θ χριςθ του, είναι απαραίτθτο να γίνεται ςε περιπτϊςεισ όπου οι ςυγκρίςεισ των μζςων τιμϊν είναι ανεξάρτθτεσ θ μία από τθν άλλθ ι είναι προςχεδιαςμζνεσ να γίνουν πριν ακόμα τα δεδομζνα αναλυκοφν. Επίςθσ είναι αναγκαίο, θ χριςθ του ελζγχου να περιορίηεται ςε περιπτϊςεισ όπου το F-test ζχει εμφανίςει ςθμαντικά αποτελζςματα. Ζτςι όταν ζχουμε απορρίψει τθ μθδενικι υπόκεςθ τθσ ανάλυςθσ διαςποράσ και για ζνα προκακοριςμζνο επίπεδο ςθμαντικότθτασ α, θ ελάχιςτθ ςθμαντικι διαφορά κατά τθ ςφγκριςθ 2 οποιονδιποτε μζςων τιμϊν μ i και μ j ορίηεται από τθν ποςότθτα LSD = t n-k,α* (1.25), όπου n i και n j είναι τα μεγζκθ των δειγμάτων από τον πλθκυςμό i και j αντίςτοιχα και t n-k,α/2 θ κρίςιμθ τιμι τθσ κατανομισ t για α * = α/2 και βακμοφσ ελευκερίασ ίςουσ με τουσ βακμοφσ ελευκερίασ τθσ. Αν LSD ςυμπεραίνουμε ότι οι αντίςτοιχεσ πλθκυςμιακζσ μζςεσ τιμζσ μ i και μ j διαφζρουν ςθμαντικά μεταξφ τουσ. Θ διαδικαςία του ελζγχου του Fisher μπορεί να χρθςιμοποιθκεί και για τθν καταςκευι διαςτθμάτων εμπιςτοςφνθσ για τισ διαφορζσ των μζςων τιμϊν. Το διάςτθμα εμπιςτοςφνθσ για 15

16 τθν διαφορά μ i -μ j με ςυντελεςτι εμπιςτοςφνθσ 1-α ζχει τθ μορφι ( )±t n-k,α/ Ζλεγχοσ του Tukey Ο ζλεγχοσ του Tukey είναι μία διαδικαςία πολλαπλϊν ςυγκρίςεων, θ οποία ελζγχει τθ μθδενικι υπόκεςθ, ότι δθλαδι όλα τα δυνατά ηεφγθ των πλθκυςμιακϊν μζςων είναι ίςα. Το ςτατιςτικό ςτοιχείο που χρθςιμοποιεί, ακολουκεί τθν τυποποιθμζνθ κατανομι Student και υπολογίηεται από το πθλίκο, όπου n είναι ο αρικμόσ των παρατθριςεων που είναι ίδιοσ ςε κάκε δείγμα, max θ μζγιςτθ δειγματικι μζςθ τιμι και min θ ελάχιςτθ δειγματικι μζςθ τιμι. Σε πρακτικό επίπεδο ο ζλεγχοσ 2 οποιοδιποτε μζςων τιμϊν και γίνεται ςυγκρίνοντασ τθν απόλυτθ τιμι τθσ διαφοράσ τουσ, με τθν ποςότθτα W=q α,k,n-k (1.26), όπου α είναι το προκακοριςμζνο επίπεδο ςθμαντικότθτασ του ελζγχου, k είναι ο ςυνολικόσ αρικμόσ των μζςων τιμϊν που ςυγκρίνονται, n είναι ο ςυνολικόσ αρικμόσ των παρατθριςεων όλων των δειγμάτων και είναι το μζςο τετράγωνο ςτο εςωτερικό των δειγμάτων. Για όςεσ από τισ διαφορζσ θ απόλυτθ τιμι τουσ είναι μεγαλφτερθ από τθν W, δθλαδι q α,k,n-k οι αντίςτοιχεσ πλθκυςμιακζσ μζςεσ τιμζσ μ i και μ j διαφζρουν ςθμαντικά μεταξφ τουσ. Ο ζλεγχοσ του Tukey μπορεί να επεκτακεί ςε δείγματα με άνιςο αρικμό παρατθριςεων. Αν για 2 οποιεςδιποτε πλθκυςμιακζσ μζςεσ τιμζσ μ i και μ j προκφψει ότι q α,k,n-k ςθμαίνει ότι οι μζςεσ τιμζσ διαφζρουν ςθμαντικά μεταξφ τουσ. 16

17 Θ διαδικαςία του ελζγχου Tukey μπορεί να χρθςιμοποιθκεί και για τθν καταςκευι διαςτθμάτων εμπιςτοςφνθσ για τισ διαφορζσ των μζςων τιμϊν. Το διάςτθμα εμπιςτοςφνθσ για τθν διαφορά μ i -μ j με ςυντελεςτι εμπιςτοςφνθσ 1-α ζχει τθ μορφι ±q α,k,n-k εφόςον όλα τα δείγματα ζχουν το ίδιο μζγεκοσ, και τθ μορφι ±q α,k,n-k εφόςον τα δείγματα ζχουν άνιςο αρικμό παρατθριςεων Ζλεγχοσ του Bonferroni Ο ζλεγχοσ Bonferroni χρθςιμοποιεί τθσ ίδιασ μορφισ ςυνάρτθςθ ελζγχου για τθν ςφγκριςθ 2 επιμζρουσ μζςων τιμϊν με τον ζλεγχο του Fisher, μόνο που θ κρίςιμθ τιμι τθσ κατανομισ t που υπειςζρχεται ςτον υπολογιςμό τθσ ςυνάρτθςθσ αντιςτοιχεί πλζον ςτο διορκωμζνο επίπεδο ςθμαντικότθτασ α* που ορίηεται από τθ ςχζςθ α*= α. Δθλαδι ο ζλεγχοσ 2 οποιονδιποτε μζςων τιμϊν μ i και μ j γίνεται με τθν βοικεια τθσ ποςότθτασ t n-k,α * /2. Αν t n-k,α * /2 ςυμπεραίνουμε ότι οι αντίςτοιχεσ πλθκυςμιακζσ μζςεσ τιμζσ μ i και μ j διαφζρουν ςθμαντικά μεταξφ τουσ. Θ διαδικαςία του ελζγχου Bonferroni μπορεί να χρθςιμοποιθκεί και για τθν καταςκευι διαςτθμάτων εμπιςτοςφνθσ για τισ διαφορζσ των k μζςων τιμϊν. Ζνα διάςτθμα εμπιςτοςφνθσ για τθν διαφορά μ i -μ j με ςυντελεςτι εμπιςτοςφνθσ 1-α ζχει τθ μορφι ( )± t n-k,α * /2. Το πρόβλθμα με τθν μζκοδο αυτι είναι ότι όταν ο αρικμόσ των ςυγκρίςεων αυξάνει τότε ελαττϊνεται ςθμαντικά θ ιςχφσ του ελζγχου με αποτζλεςμα να μθν μπορεί να τεκμθριϊςει ςθμαντικζσ διαφορζσ που υπάρχουν. Αυτό γίνεται γιατί το ςυνολικό επίπεδο ςθμαντικότθτασ βάςει του οποίου κα γίνουν οι ζλεγχοι, α*= α, γίνεται πλζον πολφ μικρό και επομζνωσ δφςκολα μποροφν να απορριφκοφν οι μθδενικζσ υποκζςεισ. Γι αυτό το λόγο θ χριςθ τθσ μεκόδου Bonferroni ςυνίςταται όπου ο αρικμόσ των ςυγκρινόμενων δειγμάτων είναι k 5 ενϊ όταν k>5 προτιμάται θ μζκοδοσ Tukey. 17

18 1.7 ΑΝΑΛΤΗ ΔΙΑΠΟΡΑ ΜΕ ΔΤΟ ΠΑΡΑΓΟΝΣΕ (ANOVA two-way) Στθν ανάλυςθ διαςποράσ με ζναν παράγοντα, ο ςκοπόσ είναι θ ςφγκριςθ των μζςων τιμϊν μιασ ςυνεχοφσ τυχαίασ μεταβλθτισ ςε k διαφορετικά επίπεδα ενόσ παράγοντα. Στθν ανάλυςθ διαςποράσ με δφο παράγοντεσ κάκε μία παρατιρθςθ κατθγοριοποιείται με 2 διαφορετικοφσ παράγοντεσ ι γενικότερα ωσ προσ 2 ποιοτικζσ μεταβλθτζσ. Ζςτω 2 ποιοτικζσ μεταβλθτζσ με αρικμό κατθγοριϊν a και b αντίςτοιχα, οι οποίεσ ονομάηονται και παράγοντεσ, εφόςον επιδροφν ςτισ τιμζσ μια τρίτθσ ςυνεχοφσ μεταβλθτισ. Οι κατθγορίεσ κάκε ενόσ από τουσ παράγοντεσ ονομάηονται επίπεδα. Για κάκε ςυνδυαςμό των επιπζδων των 2 παραγόντων υπολογίηονται οι τιμζσ μιασ τρίτθσ ςυνεχισ μεταβλθτισ ςε ζνα τυχαίο δείγμα n παρατθριςεων. Σφμφωνα με το μοντζλο που χρθςιμοποιείται ςτθν πλιρωσ τυχαιοποιθμζνθ ςχεδίαςθ ωσ προσ 2 παράγοντεσ, θ τιμι κάκε παρατιρθςθσ μπορεί να γραφτεί ωσ εξισ : x ijk = μ + α i + β j + (αβ) ij + ε ijk (1.27) όπου i=1,2,,a j=1,2,,b k=1,2,,n και abn είναι το πλικοσ όλων των τιμϊν. Στο μοντζλο αυτό : μ είναι θ ςυνολικι πλθκυςμιακι μζςθ τιμι, α i = μ i.. -μ, είναι θ επίδραςθ του επιπζδου i του παράγοντα Α ςτθ διαμόρφωςθ των τιμϊν x ijk, β j = μ.j. -μ, είναι θ επίδραςθ του επιπζδου j του παράγοντα B ςτθ διαμόρφωςθ των τιμϊν x ijk, (αβ) ij = μ ij. -μ i.. -μ.j. +μ, είναι θ αλλθλεπίδραςθ των επιπζδων i και j των 2 παραγόντων Α και B ςτθ διαμόρφωςθ των τιμϊν x ijk, ε ijk =x ijk - μ ij., είναι το ςφάλμα κατά τθν εκτίμθςθ των x ijk, δθλαδι θ επίδραςθ όλων των άλλων εξωγενϊν παραγόντων οι οποίοι επιδροφν επί των τιμϊν x ijk και δεν προςδιορίηονται αναλυτικά ςτο μοντζλο. 18

19 Οι προχποκζςεισ που πρζπει να διαςφαλίηονται κατά τθ χριςθ του παραπάνω μοντζλου είναι οι εξισ : 1. Το ςφνολο των παρατθριςεων κακενόσ από τουσ ab ςυνδυαςμοφσ των επιπζδων των 2 παραγόντων αποτελεί τυχαίο και ανεξάρτθτο δείγμα μεγζκουσ n, προερχόμενο από τον αντίςτοιχο πλθκυςμό. 2. Κάκε ζνασ από τουσ ab πλθκυςμοφσ είναι κανονικά κατανεμθμζνοσ. 3. Πλοι οι πλθκυςμοί ζχουν τθν ίδια διαςπορά. Θ εκτίμθςθ των παραμζτρων του μοντζλου γίνεται από τα δειγματικά δεδομζνα με τθ βοικεια των ποςοτιτων : για τθν πλθκυςμιακι μζςθ τιμι μ i.. - για τθν παράμετρο α i.j. - για τθν παράμετρο β j [ ij. - i.. -.j. - ] για τθν παράμετρο (αβ) ij x ijk - ij. για το ςφάλμα ε ijk Άρα θ ςχζςθ x ijk - μ = α i + β j + (αβ) ij + ε ijk με τθ βοικεια των δειγματικϊν δεδομζνων μπορεί να γραφτεί x ijk - =( i.. - ) + (.j. - ) + [ ij. - i.. -.j. - ] + x ijk - ij. όπου i=1, 2,, a j=1, 2,, b και k=1, 2,, n. Υψϊνοντασ τουσ όρουσ ςτο τετράγωνο και ακροίηοντασ ωσ προσ i=1, 2,, a, j=1, 2,, b και k=1, 2,, n προκφπτει : = nb + na + = = n + (1.28). Οι 4 όροι που υπειςζρχονται ςτο δεφτερο μζροσ τθσ παραπάνω ιςότθτασ αντιπροςωπεφουν, αντίςτοιχα, τθ μεταβλθτότθτα τθν οφειλόμενθ ςτον παράγοντα Α, τθ μεταβλθτότθτα τθν οφειλόμενθ ςτον παράγοντα Β, τθ μεταβλθτότθτα που προζρχεται από τθν αλλθλεπίδραςθ των 2 παραγόντων και τθ μεταβλθτότθτα των ςφαλμάτων. Συμβολίηοντασ το ςυνολικό άκροιςμα τετραγϊνων SST και τισ 4 άλλεσ ςυνιςτϊςεσ SSA, SSB, SSAB και SSE αντίςτοιχα. Ζτςι θ ςχζςθ (1.28) γράφεται ωσ SST= SSA + SSB + SSAB + SSE (1.29). 19

20 Τα ακροίςματα των τετραγϊνων που υπειςζρχονται ςτθ ςχζςθ (1.28) μποροφν να υπολογιςτοφν με πολφ απλοφςτερο τρόπο, χρθςιμοποιϊντασ του παρακάτω τφπουσ : SST= C (1.30) SSA= C (1.31) SSB= C (1.32) SSAB= C (1.33) SSE= - (1.34) όπου C = (1.35) = είναι το ςφνολο όλων των τιμϊν ςτο επίπεδο i του παράγοντα Α = είναι το ςφνολο όλων των τιμϊν ςτο επίπεδο j του παράγοντα B = είναι το ςφνολο όλων των τιμϊν ςτα επίπεδα i και j. Πθγι διαςποράσ Άκροιςμα τετραγώνων Ραράγοντασ Α SSA a-1 Ραράγοντασ Β SSB b-1 Βακμοί ελευκερίασ Αλλθλεπίδραςθ SSAB (a-1)(b-1) ΑΒ Σφάλμα SSE ab(n-1) Σφνολο SST abn-1 Μζςο τετράγωνο MSA= MSB= MSAB= MSE= F Ρίνακασ 1.2 Ανάλυςθ διαςπορϊν two-way ΑΝΟVA. 20

21 Οι υποκζςεισ που ελζγχονται κατά τθν ανάλυςθ με 2 παράγοντεσ είναι 3 ειδϊν : a. Ζλεγχοσ των επιδράςεων του παράγοντα Α Θ 0 : α i =0, i=1, 2,, a ι Θ 0 : μ 1.. = μ 2.. = = μ a.. H A : τουλάχιςτον ζνα από τα α i διάφορο του μθδενόσ ι H A : 2 τουλάχιςτον διαφζρουν μεταξφ τουσ. Με τον ζλεγχο αυτό διερευνάται αν θ μζςθ τιμι κάκε επιπζδου του παράγοντα Α διαφοροποιείται ςθμαντικά από τον ςυνολικό πλθκυςμιακό μζςο. Ουςιαςτικά ελζγχεται θ επίδραςθ του παράγοντα Α ςυνολικά επί των τιμϊν x ijk. Ο ζλεγχοσ αυτόσ γίνεται με τθ βοικεια του κριτθρίου F = κατανομι F με (a-1) και ab(n-1) βακμοφσ ελευκερίασ., το οποίο ακολουκεί τθν b. Ζλεγχοσ των επιδράςεων του παράγοντα Β Θ 0 : β j =0, j=1, 2,, b ι Θ 0 : μ.1. = μ.2. = = μ.b. H A : τουλάχιςτον ζνα από τα β j διάφορο του μθδενόσ ι H A : 2 τουλάχιςτον διαφζρουν μεταξφ τουσ. Με τον ζλεγχο αυτό διερευνάται αν θ μζςθ τιμι κάκε επιπζδου του παράγοντα B διαφοροποιείται ςθμαντικά από τον ςυνολικό πλθκυςμιακό μζςο. Ουςιαςτικά ελζγχεται θ επίδραςθ του παράγοντα B ςυνολικά επί των τιμϊν x ijk. Ο ζλεγχοσ γίνεται με τθ βοικεια του κριτθρίου F = κατανομι F με (b-1) και ab(n-1) βακμοφσ ελευκερίασ., το οποίο ακολουκεί τθν c. Ζλεγχοσ των αλλθλεπιδράςεων των παραγόντων Α και Β Θ 0 : (αβ) ij =0, i=1, 2,, a και j=1, 2,, b H A : τουλάχιςτον ζνα από τα (αβ) ij διάφορο του μθδενόσ. Στον ζλεγχο αυτό διερευνάται αν θ διαφορά τθσ μζςθσ τιμισ των παρατθριςεων κάκε ςυνδυαςμοφ (i, j) των επιπζδων των 2 παραγόντων και τθσ μζςθσ τιμισ του ενόσ επιπζδου π.χ. του i, είναι μεγαλφτερθ από τθ μζςθ διαφορά τθσ μζςθσ τιμισ του άλλου επιπζδου, του j και τθσ ςυνολικισ πλθκυςμιακισ μζςθσ τιμισ. Με άλλα λόγια ελζγχεται αν θ επίδραςθ του επιπζδου j του παράγοντα Β ςτο επίπεδο i του παράγοντα Α είναι μεγαλφτερθ από τθ μζςθ επίδραςθ του επιπζδου j ςτα διάφορα επίπεδα του Α. Θ διερεφνθςθ αυτι γίνεται επιπλζον και με εναλλαγι των ρόλων των Α και Β, δθλαδι ελζγχεται αν θ επίδραςθ του επιπζδου i του 21

22 παράγοντα Α ςτο επίπεδο j του παράγοντα Β είναι μεγαλφτερθ από τθ μζςθ επίδραςθ του επιπζδου i ςτα διάφορα επίπεδα του Β. Ο ζλεγχοσ αυτό γίνεται με τθ βοικεια του κριτθρίου F = κατανομι F με (a-1)(b-1) και ab(n-1) βακμοφσ ελευκερίασ., το οποίο ακολουκεί τθν Κατά τθ διαδικαςία των παραπάνω ελζγχων διερευνάται πρϊτα θ φπαρξθ αλλθλεπιδράςεων, δθλαδι θ υπόκεςθ Θ 0 : (αβ) ij =0. Αν θ υπόκεςθ αυτι δεν απορριφκεί, ςθμαίνει ότι δεν υπάρχουν αλλθλεπιδράςεισ. Σε αυτι τθν περίπτωςθ θ επίδραςθ του κάκε παράγοντα ελζγχεται ανεξάρτθτα τθσ επίδραςθσ του άλλου. Αν κάποια από τισ υποκζςεισ Θ 0 : α i =0 και Θ 0 : β j =0 απορριφκεί, τότε είναι δυνατόν με τθ χριςθ ενόσ ελζγχου πολλαπλϊν ςυγκρίςεων, να προςδιοριςτεί μεταξφ ποιων επιπζδων του αντίςτοιχου παράγοντα, υπάρχουν ςθμαντικζσ διαφορζσ. Αν θ μθδενικι υπόκεςθ Θ 0 : (αβ) ij =0 απορριφκεί, τότε δεν ζχει νόθμα να χρθςιμοποιθκοφν για τθν ερμθνεία των αποτελεςμάτων οι ζλεγχοι των επιδράςεων του κάκε παράγοντα ξεχωριςτά. Ζτςι ελζγχω τον ςυνδυαςμό των επιπζδων : Θ 0 : μ 11. = μ 12. = = μ ab. H A : 2 τουλάχιςτον διαφζρουν μεταξφ τουσ. Ο ζλεγχοσ αυτό γίνεται με τθ βοικεια του κριτθρίου F = κατανομι F με (ab-1) και ab(n-1) βακμοφσ ελευκερίασ., το οποίο ακολουκεί τθν Πθγι διαςποράσ Άκροιςμα Βακμοί τετραγώνων ελευκερίασ Επίπεδο SSTR ab-1 Ραράγοντασ Α SSA a-1 Ραράγοντασ Β SSB b-1 Αλλθλεπίδραςθ SSAB (a-1)(b-1) ΑΒ Σφάλμα SSE ab(n-1) Σφνολο SST abn-1 Μζςο τετράγωνο MSTR= MSA= MSB= MSAB= MSE= F Ρίνακασ 1.3 Ανάλυςθ διαςπορϊν two-way ΑΝΟVA (όπου SSTR=SSA+SSB+SSAB). 22

23 2. ΜΕΔΟΔΟ ΠΑΛΙΝΔΡΟΜΗΗ 2.1 ΕΙΑΓΩΓΗ Θ μζκοδοσ ανάλυςθσ διαςποράσ δεν διαφζρει ουςιαςτικά από τθ μζκοδο τθσ γραμμικισ παλινδρόμθςθσ, είναι όμωσ απλοφςτερθ γιατί χρθςιμοποιεί ακροίςματα τετραγϊνων αντί τθσ αντιςτροφισ πινάκων. Με τθν ανάλυςθ γραμμικισ παλινδρόμθςθσ (linear regression analysis) εξετάηουμε τθ ςχζςθ μιασ τυχαίασ μεταβλθτισ Υ, που τθν ονομάηουμε εξαρτθμζνθ μεταβλθτι (dependent variable), από άλλεσ μεταβλθτζσ που τισ ονομάηουμε ανεξάρτθτεσ μεταβλθτζσ (independent variables). Γενικά κεωροφμε πωσ τισ τιμζσ των ανεξάρτθτων μεταβλθτϊν, τισ κακορίηουμε εμείσ και δεν περιζχουν ςφάλματα, δεν είναι δθλαδι τυχαίεσ μεταβλθτζσ (π.χ. θ ποςότθτα λιπάςματοσ, θ κερμοκραςία επεξεργαςίασ ενόσ προϊόντοσ). Σε πολλά πρακτικά προβλιματα όμωσ αυτό είναι περιςςότερο μια παραδοχι για να εφαρμόςουμε τθ μζκοδο των ελαχίςτων τετραγϊνων και για να εκτιμιςουμε το μοντζλο γραμμικισ παλινδρόμθςθσ που δίνει τθ μακθματικι ζκφραςθ τθσ εξάρτθςθσ τθσ εξαρτθμζνθσ μεταβλθτισ από τισ ανεξάρτθτεσ μεταβλθτζσ. Εξαρτθμζνθ μεταβλθτι Y είναι εκείνθ ςτθν οποία αντανακλάται το αποτζλεςμα των μεταβολϊν των ανεξάρτθτων μεταβλθτϊν (π.χ. θ απόδοςθ μιασ καλλιζργειασ, θ αντοχι ενόσ υλικοφ κτλ.). Επομζνωσ με τθν ανάλυςθ τθσ γραμμικισ παλινδρόμθςθσ επιδιϊκουμε να βροφμε ζνα μοντζλο ι υπόδειγμα, δθλαδι μια μακθματικι ςχζςθ, θ οποία εκφράηει τθν εξάρτθςθ τθσ Υ από τθν Χ. Θ απλι γραμμικι παλινδρόμθςθ (simple linear regression) είναι θ απλοφςτερθ μορφι παλινδρόμθςθσ όπου θ εξαρτθμζνθ μεταβλθτι Υ εξαρτάται από μία μόνο ανεξάρτθτθ μεταβλθτι Χ και ςτθν ανάλυςθ παίηει ρόλο ποιόν από τουσ δφο παράγοντεσ που μετράμε ορίηουμε ωσ ανεξάρτθτθ και ποιόν ωσ εξαρτθμζνθ μεταβλθτι. Αν υπάρχει μια γραμμικι ςχζςθ μεταξφ των δφο μεταβλθτϊν Χ και Υ αυτι είναι Υ=b 0 +b 1 Χ. Θ ευκεία Υ=b 0 +b 1 Χ ονομάηεται ευκεία παλινδρόμθςθσ και τα b 0,b 1 ονομάηονται ςυντελεςτζσ παλινδρόμθςθσ ι παράμετροι (regression coefficients). Το ςφνολο των ςχζςεων που περιγράφουν τθ κεωρθτικι διαδικαςία παραγωγισ διμεταβλθτϊν δεδομζνων ςυνδζονται με μια γραμμικι ςχζςθ ενϊ το τυχαίο μζροσ που ικανοποιεί οριςμζνεσ υποκζςεισ, που εξαςφαλίηουν τθν μζγιςτθ αξιοπιςτία τθσ γενίκευςθσ από το δείγμα ςτον πλθκυςμό, ονομάηεται κεωρθτικό ι μοντζλο παλινδρόμθςθσ για τον πλθκυςμό Υ i =b 0 +b 1 Χ i +ε i, όπου Υ i είναι θ τιμι τθσ εξαρτθμζνθσ μεταβλθτισ για τθν i παρατιρθςθ b 0,b 1 είναι παράμετροι Χ i είναι γνωςτι ςτακερά 23

24 ε i είναι τυχαία ςφάλματα με μζςθ τιμι μθδζν Ε(ε i )=0 και διαςπορά ς 2, Var(ε i )= ς 2. Τα ε i, ε j είναι αςυςχζτιςτα ζτςι ϊςτε θ ςυνδιαςπορά να είναι μθδζν Cov(ε i, ε j )=0 για κάκε i j και ε i ~Ν(0, ς 2 ). Επίςθσ Var(Υ i )= ς 2 και Ε(Υ i )= b 0 + b 1 Χ i. Σκοπόσ είναι να ελαχιςτοποιιςουμε τα ςφάλματα βρίςκοντασ τθν ευκεία παλινδρόμθςθσ. Για να γίνει αυτό κα πρζπει να βροφμε τισ εκτιμιςεισ των παραμζτρων b 0, b 1. Θ εφρεςθ των εκτιμθτϊν 0, 1 γίνεται με τθν μζκοδο ελαχίςτων τετραγϊνων. Θ εκτίμθςθ των παραμζτρων μπορεί να γίνει και με τθ μζκοδο μζγιςτθσ πικανοφάνειασ. Οι εκτιμθτζσ 0, 1 είναι τυχαίεσ μεταβλθτζσ οι οποίεσ εκτιμοφν τα b 0,b 1 που είναι πλθκυςμιακζσ παράμετροι. Θ λφςθ του μοντζλου με τθν χριςθ εκτιμθτριϊν είναι Υ= 0 + 1Χ +ε. Ενϊ θ ευκεία ελαχίςτων τετραγϊνων είναι Υ = 0+ 1X. 2.2 ΠΟΛΛΑΠΛΗ ΓΡΑΜΜΙΚΗ ΠΑΛΙΝΔΡΟΜΗΗ Πταν ζχουμε περιςςότερεσ από μία ανεξάρτθτεσ μεταβλθτζσ Χ 1,Χ 2,,Χ k για να ερμθνεφςουμε τθ ςυμπεριφορά τθσ εξαρτθμζνθσ μεταβλθτισ Υ, χρθςιμοποιοφμε το μοντζλο τθσ πολλαπλισ γραμμικισ παλινδρόμθςθσ (multiple linear regression). Εφαρμόηοντασ τθ μζκοδο ελαχίςτων τετραγϊνων (least squares method) δθμιουργείται μια γραμμικι εξίςωςθ ωσ προσ τισ Χ 1,Χ 2,,Χ k. Θ μζκοδοσ ελαχίςτων τετραγϊνων ορίηει ωσ κριτιριο καλισ προςαρμογισ τθν ελαχιςτοποίθςθ του ακροίςματοσ των τετραγωνικϊν ςφαλμάτων και είναι μια γενικι μζκοδοσ εκτίμθςθσ. Στθ ςυνζχεια μποροφμε να βγάλουμε ςυμπεράςματα για ολόκλθρο τον πλθκυςμό και να μετριςουμε τθν αξιοπιςτία τουσ εφόςον τα δεδομζνα μασ αποτελοφν τυχαίο δείγμα. Το γραμμικό μοντζλο παλινδρόμθςθσ με k ανεξάρτθτεσ μεταβλθτζσ εκφράηει τισ Υ i ωσ Υ i = b 0 + b 1 Χ i1 + + b k Χ ik + ε i (2.1) με Ε(ε i )=0 και i =1,2,,n όπου Χ ij είναι θ i παρατιρθςθ τθσ j ανεξάρτθτθσ μεταβλθτισ (j=1,2,,k) οπότε Ε(Υ i )= b 0 + b 1 Χ i1 + + b k Χ ik (2.2) είναι θ πλθκυςμιακι εξίςωςθ παλινδρόμθςθσ τθσ Υ επί των Χ 1,Χ 2,,Χ k. Θ δειγματικι εξίςωςθ παλινδρόμθςθσ είναι Υ i = 0+ 1Χ i1 + + kχ ik (2.3). Το γραμμικό μοντζλο παλινδρόμθςθσ με k ανεξάρτθτεσ μεταβλθτζσ μπορεί να γραφτεί και με μορφι πινάκων Τ=Χb+ε (2.4) όπου Τ= Υ Υ Υ, Χ=, b= και ε= 24

25 όπου Τ το nx1 διάνυςμα των τιμϊν τθσ εξαρτθμζνθσ μεταβλθτισ Χ ο πίνακασ nx(k+1) των τιμϊν τθσ ανεξάρτθτθσ μεταβλθτισ με τα ςτοιχεία τθσ πρϊτθσ ςτιλθσ ίςα με τθ μονάδα b το (k+1)x1 διάνυςμα των ςυντελεςτϊν παλινδρόμθςθσ και ε το διάνυςμα nx1 των τιμϊν του διαταρακτικοφ όρου. 2.3 Η ΕΚΣΙΜΗΗ ΣΩΝ ΕΛΑΧΙΣΩΝ ΣΕΣΡΑΓΩΝΩΝ Με τθ μζκοδο των ελαχίςτων τετραγϊνων ηθτάμε να βροφμε τισ τιμζσ των παραμζτρων b 0,b 1,,b k, οι οποίεσ για τισ n περιπτϊςεισ των δεδομζνων μασ ελαχιςτοποιοφν τθν ςυνάρτθςθ S=S( )= ε =. Οι τιμζσ των ελαχιςτοποιοφν τθν S( ) και ικανοποιοφν το ςφςτθμα εξιςϊςεων που προκφπτει όταν κζςουμε τισ k+1 μερικζσ παραγϊγουσ όπου j=0,1,,k ίςεσ με το μθδζν. Ζχουμε δθλαδι ζνα ςφςτθμα =-2 Υ = 0 =-2 Υ =0 =-2 Υ =0 Ρολλαπλαςιάηω κάκε εξίςωςθ επί -1/2 και ζχω για k 1 τθ γενικι μορφι των κανονικϊν εξιςϊςεων: n = Υ Σε μορφι πινάκων: = Υ = Υ Υ 25

26 Πμωσ επίςθσ = Χ Χ Χ =Χ Σ Χ όπου Χ Σ είναι ο (k+1)xn ανάςτροφοσ πίνακασ του Χ. Ο Χ ςχεδιαςμοφ (design matrix). είναι ζνασ nx(k+1) πίνακασ Υ Υ = Υ Υ Υ =Χ Σ Τ όπου Τ το nx1 διάνυςμα των τιμϊν τθσ εξαρτθμζνθσ μεταβλθτισ = όπου το kx1 διάνυςμα των εκτιμθτϊν των ελαχίςτων τετραγϊνων. Οπότε προκφπτει ότι Χ Σ Χ = Χ Σ Τ (2.5). Αναφορικά με τθν λφςθ του ςυςτιματοσ Χ Σ Χ =Χ Σ Τ κα διακρίνουμε 3 διαφορετικζσ περιπτϊςεισ : 1. Το ςφςτθμα αποτελείται από k+1 ανεξάρτθτεσ εξιςϊςεισ με k+1 αγνϊςτουσ. Στθν περίπτωςθ αυτι ο βακμόσ του πίνακα Χ Σ Χ ιςοφται με k+1, δθλαδι οι k+1 ςτιλεσ του πίνακα ςχεδιαςμοφ Χ είναι γραμμικζσ ανεξάρτθτεσ. Αυτό ςθμαίνει ότι ο πίνακασ Χ Σ Χ είναι μθ ιδιάηων και επομζνωσ ο αντίςτροφοσ πίνακασ (Χ Σ Χ) -1 υπάρχει. Ζτςι αν πολλαπλαςιάςουμε επί (Χ Σ Χ) -1 ζχουμε μοναδικι λφςθ =(Χ Σ Χ) -1 Χ Σ Τ. 2. Ο πίνακασ Χ Σ Χ είναι ιδιάηων όταν τουλάχιςτον μία εξίςωςθ του ςυςτιματοσ μπορεί να γραφτεί ωσ γραμμικόσ ςυνδυαςμόσ των υπολοίπων. Αυτό ςθμαίνει ότι το διάνυςμα των εκτιμθτϊν δεν είναι μοναδικό και ζχουμε επομζνωσ πλεοναςμό πλθροφοριϊν ςτο πίνακα ςχεδιαςμοφ Χ. 3. Ο πίνακασ Χ ζχει k+1 γραμμικά ανεξάρτθτα διανφςματα αλλά τα διανφςματα απζχουν ελάχιςτα από το να είναι ςυγγραμμικά και θ ςυγγραμμικότθτα δθμιουργεί ςοβαρά προβλιματα. 26

27 Θ λφςθ =(Χ Σ Χ) -1 Χ Σ Τ (2.6) οδθγεί ςτθν εξισ διαδικαςία υπολογιςμοφ του διανφςματοσ εκτιμιςεων : a. Καταςκευάηουμε τον πίνακα Χ Σ Χ, τον αντίςτροφο του (Χ Σ Χ) -1 και το διάνυςμα Χ Σ Τ b. Υπολογίηουμε το πολλαπλαςιάηοντασ τον (Χ Σ Χ) -1 επί Χ Σ Χ. 2.4 ΙΔΙΟΣΗΣΕ ΕΚΣΙΜΗΣΩΝ ΕΛΑΧΙΣΩΝ ΣΕΣΡΑΓΩΝΩΝ Το διάνυςμα των εκτιμθτϊν ελαχίςτων τετραγϊνων =(Χ Σ Χ) -1 Χ Σ Τ που είναι θ λφςθ του ςυςτιματοσ των κανονικϊν εξιςϊςεων ζχει τισ ακόλουκεσ ιδιότθτεσ : Ελαχιςτοποιεί το άκροιςμα των τετραγωνικϊν ςφαλμάτων εκτίμθςθσ των τιμϊν Υ i των δεδομζνων, δθλαδι το =. Κάκε ςτοιχείο του διανφςματοσ είναι γραμμικι ςυνάρτθςθ των Υ 1,Υ 2, Υ n και ορίηει ζναν αμερόλθπτο εκτιμθτι του αντίςτοιχου ςτοιχείου b 0,b 1,,b k του διανφςματοσ b των παραμζτρων, δθλαδι Ε( )= b. Ε( )= Ε*(Χ Σ Χ) -1 Χ Σ Τ]= (Χ Σ Χ) -1 Χ Σ Ε(Τ)= (Χ Σ Χ) -1 Χ Σ Χ b= Ι b= b Αν τα ςφάλματα είναι όροι ομοςκεδαςτικοί και αςυςχζτιςτοι μεταξφ τουσ τότε οι εκτιμθτζσ είναι και άριςτοι δθλαδι ζχουν τθν μικρότερθ διαςπορά από όλουσ τουσ γραμμικοφσ αμερόλθπτουσ εκτιμθτζσ. Var( )= ς 2 (Χ Σ Χ) ΤΠΟΘΕΕΙ ΠΟΛΛΑΠΛΟΤ ΓΡΑΜΜΙΚΟΤ ΜΟΝΣΕΛΟΤ Οι υποκζςεισ που πρζπει να ιςχφουν για να ζχουμε ζνα κλαςςικό μοντζλο παλινδρόμθςθσ για όλεσ τισ παρατθριςεισ είναι : 1. Θ ςυνάρτθςθ παλινδρόμθςθσ τθσ εξαρτθμζνθσ μεταβλθτισ Υ επί των ανεξάρτθτων μεταβλθτϊν Χ 1,Χ 2,,Χ k είναι γραμμικι,υπόκεςθ γραμμικότθτασ. 2. ε i Ν(0, ς 2 ) με Ε(ε i )=0 και Var(ε i )=ς 2 όπου ε i τυχαία μεταβλθτι. 3. Οι όροι ε i ικανοποιοφν τισ ςυνκικεσ τθσ ομοςκεδαςτικότθτασ και τθσ μθδενικισ ςυνδιαςποράσ : Var(ε i )=ς 2 Ε(ε 2 i ) (Eε i ) 2 = ς 2 εφόςον Ε(ε i )=0 ζχουμε Ε(ε 2 i ) = ς 2 ενϊ Cov(ε i, ε j ) = Ε*(ε i Eε i )(ε j Eε j )+ εφόςον Ε(ε i )=0, Ε(ε j )=0 και Ε(ε i, ε j )=0, i j ζχουμε Cov(ε i, ε j )=0 i j οπότε τα ςφάλματα είναι αςυςχζτιςτα μεταξφ τουσ. 27

28 4. Οι ανεξάρτθτεσ μεταβλθτζσ δεν είναι ςτοχαςτικζσ. Οι τιμζσ τουσ παραμζνουν ςτακερζσ δθλαδι οι μεταβλθτζσ Χ i δεν ςυςχετίηονται με το ςφάλμα και θ ςυνδιαςπορά τουσ είναι ίςθ με το μθδζν. Επίςθσ οι τιμζσ δεν είναι όλεσ ίςεσ μεταξφ τουσ που ςθμαίνει ότι θ διαςπορά των Χ i είναι διαφορετικι από το μθδζν. 5. Δεν υπάρχουν ακριβείσ γραμμικζσ ςχζςεισ μεταξφ 2 ι περιςςοτζρων ανεξάρτθτων μεταβλθτϊν. Αυτι θ υπόκεςθ αποκλείει τθν φπαρξθ τζλειασ ςυγγραμμικότθτασ μεταξφ των k ανεξάρτθτων μεταβλθτϊν. 6. Ο αρικμόσ των παρατθριςεων n του μοντζλου είναι μεγαλφτεροσ από τον αρικμό των ςυντελεςτϊν k του μοντζλου που κζλουμε να εκτιμιςουμε. Ζτςι εξαςφαλίηουμε τουσ απαραίτθτουσ βακμοφσ ελευκερίασ για τθν εκτίμθςθ και για τον ζλεγχο του μοντζλου. Οπότε από Υ i = b 0 + b 1 Χ i1 + + b k Χ ik + ε i ζχουμε Ε(Υ i ) = Ε(b 0 + b 1 Χ i1 + + b k Χ ik + ε i ) = Ε(b 0 ) + Ε(b 1 Χ i1 ) + + Ε(b k Χ ik ) = b 0 + b 1 Χ i1 + + b k Χ ik όπου b 0, b 1,, b k παράμετροι και Χ i1,, Χ ik ςτακερζσ και Ε(ε i )=0. Var(Υ i ) = E(Υ i - Ε(Υ i )) 2 = Ε(ε i 2 )=ς 2. Θ ςχζςθ Ε(Υ i ) = b 0 + b 1 Χ i1 + + b k Χ ik αποτελεί τθν παλινδρόμθςθ ςτον πλθκυςμοφ και εκτιμάται από τθν δειγματικι εξίςωςθ παλινδρόμθςθσ = + X i1 + + X ik. 2.6 ΜΕΡΙΚΟΙ ΤΝΣΕΛΕΣΕ ΠΑΛΙΝΔΡΟΜΗΗ Στθν εξίςωςθ παλινδρόμθςθσ Ε(Υ i ) = b 0 + b 1 Χ i1 + + b k Χ ik θ παράμετροσ b j, j=1,2,,k ονομάηεται μερικόσ ι κακαρόσ ςυντελεςτισ παλινδρόμθςθσ τθσ Χ j. O b j μετρά τθν μζςθ μεταβολι τθσ εξαρτθμζνθσ μεταβλθτισ όταν θ τιμι τθσ ανεξάρτθτθσ μεταβλθτισ μεταβλθκεί κατά μία μονάδα και οι τιμζσ των υπόλοιπων μεταβλθτϊν παραμζνουν ςτακερζσ, δθλαδι b j = Ε Υ (2.7). Χ 28

29 2.7 ΠΙΝΑΚΑ ΑΝΑΛΤΗ ΔΙΑΠΟΡΑ Αν είναι το (k+1)x1 διάνυςμα των εκτιμθτϊν ελαχίςτων τετραγϊνων, Τ το nx1 διάνυςμα των παρατθριςεων τθσ εξαρτθμζνθσ μεταβλθτισ και Χ ο nx(k+1) πίνακασ ςχεδιαςμοφ τότε ιςχφει SSR= Υ (2.8). Επίςθσ ιςχφει Y Σ Y= οπότε SST = Υ = -n 2 = Y Σ Y- n 2 και εφόςον το άκροιςμα τετραγϊνων γφρω από το μζςο (total sum of square) SST= Υ (2.9) ιςοφται με το άκροιςμα τετραγϊνων λόγω παλινδρόμθςθσ (regression sum of square) SSE= τετραγϊνων των ςφαλμάτων (error sum of square) SSR= SST=SSR+SSE SSE= SST- SSR= Y Σ Y- Σ Χ Σ Y. (2.10) ςυν το άκροιςμα Υ ζχουμε: Πθγι μεταβλθτότθτασ Άκροιςμα τετραγώνων Βακμοί ελευκερίασ Μζςο τετράγωνο F Παλινδρόμθςθ SSR= Σ Χ Σ Y-n 2 k F = F k,n-k-1 Τπόλοιπο SSE=Y Σ Y- Σ Χ Σ Y n-k-1 φνολο SST=Y Σ Y- n 2 n-1 Ρίνακασ 2.1 Ανάλυςθσ διαςποράσ 2.8 ΤΝΣΕΛΕΣΗ ΠΟΛΛΑΠΛΟΤ ΠΡΟΔΙΟΡΙΜΟΤ Σε ζνα μοντζλο με k>1 ανεξάρτθτεσ μεταβλθτζσ ο R 2 ονομάηεται ςυντελεςτισ πολλαπλοφ προςδιοριςμοφ (coefficient of multiple determination) και δίνεται από τον τφπο R 2 = = = 1-, 0 R 2 1 (2.11) όπου SSR=SST-SSE, SST= Υ και SSE=. Δθλαδι ο ςυντελεςτισ R 2 είναι μζτρο τθσ ικανότθτασ προςαρμογισ του εκτιμθκζντοσ μοντζλου ςτα δεδομζνα, ορίηεται ωσ θ 29

30 ποςοςτιαία μείωςθ του ςυνολικοφ τετραγωνικοφ ςφάλματοσ εκτίμθςθσ των παρατθριςεων θ οποία οφείλεται ςτθν ειςαγωγι των μεταβλθτϊν Χ 1,Χ 2 Χ k ςτο μοντζλο και εκφράηει το ποςοςτό τθσ ςυνολικισ διαςποράσ που ερμθνεφει το μοντζλο. Πταν το εκτιμθκζν μοντζλο προςαρμόηεται τζλεια ςτα δεδομζνα, δθλαδι όταν τότε SSE=0 και R 2 =1. Θεωρθτικά ο ςυντελεςτισ R 2 μπορεί να πάρει τθν μζγιςτθ τιμι 1 όταν ςτα δεδομζνα δεν υπάρχουν επαναλαμβανόμενεσ τιμζσ των ανεξάρτθτων μεταβλθτϊν. Ενϊ όταν δθλαδι, b 1 =b 2 = =b k =0 και ςτο μοντζλο υπάρχει μόνο ο ςτακερόσ όροσ, τότε SSE= SST και R 2 =0. Δφο μοντζλα τα οποία ζχουν εκτιμθκεί με τα ίδια δεδομζνα αν ζχουν διαφορετικι εξαρτθμζνθ μεταβλθτι δεν μποροφν να ςυγκρικοφν με βάςθ το R 2. Πςο μεγαλφτεροσ είναι ο ςυντελεςτισ προςδιοριςμοφ τόςο καλφτερθ είναι θ προςαρμογι του μοντζλου ςτα δεδομζνα του δείγματοσ και αντίςτροφα. Αξίηει να ςθμειϊςουμε ότι μικρι τιμι του ςυντελεςτι προςδιοριςμοφ δεν ςθμαίνει αναγκαςτικά ζλλειψθ εξαρτιςεωσ ανάμεςα ςτισ μεταβλθτζσ Χ και Υ. Ο ςυντελεςτισ προςδιοριςμοφ δεν είναι εκτιμθτισ μιασ άγνωςτθσ παραμζτρου του πλθκυςμοφ. Αφορά τα δεδομζνα του δείγματοσ και μόνον. Στθν ουςία μασ δείχνει το ποςοςτό μεταβλθτότθτασ τθσ εξαρτθμζνθσ μεταβλθτισ που ερμθνεφεται από τθν παλινδρόμθςθ. Θ κετικι τετραγωνικι ρίηα του R 2 ονομάηεται ςυντελεςτισ πολλαπλισ ςυςχζτιςθσ και ςτθν πολλαπλι παλινδρόμθςθ ιςοφται με τον ςυντελεςτι ςυςχζτιςθσ των παρατθριςεων και των εκτιμιςεων, r=. 2.9 ΔΙΟΡΘΩΜΕΝΟ ΤΝΣΕΛΕΣΗ ΠΡΟΔΙΟΡΙΜΟΤ Ο διορκωμζνοσ ςυντελεςτισ προςδιοριςμοφ (adjusted coefficient of multiple determination) ςυμβολίηεται με R 2 adj και είναι πιο κατάλλθλοσ από το ςυντελεςτι προςδιοριςμοφ ςτισ εξισ περιπτϊςεισ: α)όταν ο αρικμόσ των παραμζτρων του μοντζλου είναι κοντά ςτο μζγεκοσ του δείγματοσ όταν δθλαδι, ζχουμε ζνα μοντζλο με μικρό n β)όταν ςυγκρίνουμε μοντζλα που περιλαμβάνουν διαφορετικό αρικμό ανεξάρτθτων μεταβλθτϊν. Ορίηεται ωσ R 2 adj= (2.12) R 2 adj= 1 (2.13) R 2 adj=1 - (2.14). 30

31 Μπορεί να γραφτεί και ωσ R 2 adj= 1- (2.15), όπου s 2 είναι θ διαςπορά των παρατθριςεων Υ i γφρω από το εκτιμθκζν μοντζλο και Υ i γφρω από μζςθ τιμι τουσ. είναι θ διαςπορά των παρατθριςεων 2.10 ΤΓΚΡΙΗ R 2 ΚΑΙ R 2 adj Θ ςχζςθ ανάμεςα ςτο R 2 και R 2 adj είναι R 2 adj= 1-(1- R 2 ) (2.16) οπότε για k 1, R 2 R 2 adj θ ιςότθτα ιςχφει μόνο όταν υπάρχει τζλεια προςαρμογι δθλαδι όταν R 2 =1 ι όταν το μζγεκοσ του δείγματοσ αυξάνει απεριόριςτα τείνοντασ ςτο άπειρο. Πμωσ ςε αντίκεςθ με τον R 2 που παίρνει μόνο κετικζσ τιμζσ, 0 R 2 1, ο R 2 adj παίρνει και αρνθτικζσ τιμζσ. Αυτό ςυμβαίνει όταν R 2 < ΕΛΕΓΧΟ ΣΑΣΙΣΙΚΩΝ ΤΠΟΘΕΕΩΝ Πταν εκτιμοφμε ζνα μοντζλο παλινδρόμθςθσ κζλουμε να ελζγξουμε αν μια ι περιςςότερεσ από τισ ανεξάρτθτεσ μεταβλθτζσ μποροφν και να αφαιρεκοφν χωρίσ ςθμαντικι μείωςθ τθσ ερμθνευτικισ τουσ ικανότθτασ. Υπάρχουν 2 περιπτϊςεισ που μία ανεξάρτθτθ μεταβλθτι, ζςτω θ Χ k, δεν είναι καλι για το μοντζλο μου Πταν θ Χ k δεν ςυνδζεται γραμμικά με τθν Υ. Πταν θ ερμθνευτικι ικανότθτα τθσ Χ k περιζχεται ςτισ υπόλοιπεσ ανεξάρτθτεσ μεταβλθτζσ που ζχουν ιδθ περιλθφκεί ςτο μοντζλο Ζλεγχοσ θμαντικότθτασ για μια Παράμετρο Με αυτόν τον ζλεγχο ελζγχουμε τθν υπόκεςθ ότι μια μεταβλθτι, ζςτω θ Χ k, είναι ςθμαντικι. Αυτό ιςοδυναμεί με τον εξισ ζλεγχο μθδενικισ υπόκεςθσ : 31

32 Θ 0 : b k =0 ζναντι τθσ εναλλακτικισ Θ Α : b k 0 Αν θ Θ 0 είναι δεκτι κα ιςχφει το εξισ μειωμζνο μοντζλο Υ= b 0 + b 1 Χ b k-1 Χ k-1 + ε (2.17) ενϊ αν θ Θ 0 απορρίπτεται κα ιςχφει το πλιρεσ μοντζλο Υ=b 0 + b 1 Χ 1 + +b k-1 Χ k-1 +b k Χ k +ε (2.18). O ζλεγχοσ αυτόσ μπορεί να γίνει είτε με το κριτιριο F είτε με το κριτιριο t. Στον ζλεγχο με το κριτιριο F υπολογίηουμε το ςτατιςτικό F * ωσ εξισ: Εκτιμοφμε τισ παραμζτρουσ του μειωμζνου μοντζλου και ζςτω SSE k-1 το άκροιςμα των τετραγωνικϊν ςφαλμάτων. Εκτιμοφμε τισ παραμζτρουσ του πλιρεσ μοντζλου και ζςτω SSE k το άκροιςμα των τετραγωνικϊν ςφαλμάτων. Θ διαφορά SSE k-1 - SSE k ζχει ζναν βακμό ελευκερίασ. Οπότε θ ςτατιςτικι τιμι δίνεται από τον τφπο F * = (2.19). Ο ζλεγχοσ μπορεί να γίνει αν τα ςφάλματα ι υπόλοιπα ακολουκοφν κανονικι κατανομι και είναι ανεξάρτθτοι όροι τότε αν F * > F 1,(n-k-1),α θ Θ 0 απορρίπτεται ςτο επίπεδο ςθμαντικότθτασ α. Θα πρζπει να είμαςτε ιδιαίτερα προςεκτικοί ςτθν ερμθνεία τθσ τιμισ F *,αν για περιςςότερεσ από μια ανεξάρτθτεσ μεταβλθτζσ ιςχφει F * < F 1,(n-k-1),α δεν ςθμαίνει ότι μποροφν να αφαιρεκοφν ςυγχρόνωσ από το μοντζλο εκτόσ αν κάκε μια από αυτζσ είναι αςυςχζτιςτθ με τισ υπόλοιπεσ (το ίδιο ιςχφει και για τον ζλεγχο t). Στον ζλεγχο με το κριτιριο t το t * δίνεται από τον τφπο t * = (2.20). Ο ζλεγχοσ μπορεί να γίνει αν τα ςφάλματα ι υπόλοιπα ακολουκοφν κανονικι κατανομι τότε αν t * > t n-k-1,α/2 θ Θ 0 απορρίπτεται ςτο επίπεδο ςθμαντικότθτασ α. Στθν απλι γραμμικι παλινδρόμθςθ ο ζλεγχοσ με το κριτιριο t είναι ιςοδφναμοσ με τον ζλεγχο με το κριτιριο F, ειδικότερα ιςχφει (t * ) 2 = F * Ολικόσ Ζλεγχοσ θμαντικότθτασ του Μοντζλου Ο ζλεγχοσ αυτόσ αφορά το ςφνολο των ςυντελεςτϊν του μοντζλου εκτόσ από τον ςτακερό όρο b 0. Στον ζλεγχο αυτό ςυγκρίνουμε το πλιρεσ μοντζλο των k ανεξάρτθτων μεταβλθτϊν με το μειωμζνο ςτο οποίο υπάρχει μόνο ο ςτακερόσ όροσ. Αυτό ιςοδυναμεί με τον εξισ ζλεγχο μθδενικισ υπόκεςθσ : 32

33 Θ 0 : b 1 = =b k =0 ζναντι τθσ εναλλακτικισ Θ Α : ζνα τουλάχιςτον από τα b j 0 όπου j=1,2,,k Αν θ Θ 0 είναι δεκτι κα ιςχφει το εξισ μειωμζνο μοντζλο Υ= b 0 + ε (2.21) ενϊ αν θ Θ 0 απορρίπτεται κα ιςχφει το πλιρεσ μοντζλο Υ= b 0 + b 1 Χ 1 + +b k-1 Χ k-1 +b k Χ k +ε (2.22). Χρθςιμοποιοφμε κριτιριο F (όπου F = = )και θ ςτατιςτικι τιμι δίνεται από τον τφπο F * = (2.23) όπου το άκροιςμα των τετραγωνικϊν ςφαλμάτων του μειωμζνου μοντζλου και SSE k το άκροιςμα των τετραγωνικϊν ςφαλμάτων του πλιρεσ μοντζλου. Aν F * > F k,(n-k-1),α θ Θ 0 απορρίπτεται ςτο επίπεδο ςθμαντικότθτασ α. Πταν απορρίπτεται θ Θ 0 ζχουμε μια ζνδειξθ ότι εκτιμιςαμε μια ςτατιςτικά ςθμαντικι παλινδρόμθςθ. Θ τιμι του ςτατιςτικοφ F * ςε αυτόν τον ζλεγχο μπορεί να υπολογιςτεί και από τον ςυντελεςτι προςδιοριςμοφ R 2 = αν αρικμθτισ και παρονομαςτισ διαιρεκοφν με τουσ αντίςτοιχουσ βακμοφσ ελευκερίασ. Θ ςχζςθ ανάμεςα ςε F * και R 2 είναι θ ακόλουκθ F * = = = = (2.24). Ο ζλεγχοσ αυτόσ είναι χριςιμοσ αφοφ δίνει πλθροφορίεσ για το αν θ εξειδίκευςθ του μοντζλου ζγινε ςωςτά. Ζτςι όταν θ Θ 0 απορρίπτεται δεχόμαςτε ότι ζνασ τουλάχιςτον από τουσ μερικοφσ ςυντελεςτζσ παλινδρόμθςθσ είναι ςτατιςτικά ςθμαντικόσ αλλά δεν γνωρίηουμε ποιοσ. Αν κανζνασ δεν είναι διαφορετικόσ από το μθδζν τότε ςυμπεραίνουμε ότι υπάρχει κάποια ςυγγραμμικότθτα μεταξφ των ανεξάρτθτων μεταβλθτϊν που τισ κακιςτά ςτατιςτικά αςιμαντεσ. Τζλοσ κα πρζπει να ςθμειωκεί ότι για να πάρουμε ικανοποιθτικζσ εκτιμιςεισ των Y i κα πρζπει να ιςχφει F * > 4F k,(n-k-1),α. Θα πρζπει επίςθσ να τονιςτεί ότι ο ζλεγχοσ τθσ μθδενικισ υπόκεςθσ b j =0 όπου j=1,2,,k δθλαδι ότι κάκε ςυντελεςτισ ξεχωριςτά είναι μθδζν δεν είναι ίδιοσ με τον ζλεγχο τθσ μθδενικισ υπόκεςθσ b 1 = =b k =0 δθλαδι ότι όλοι οι ςυντελεςτζσ μαηί είναι μθδζν. Στθν 1 θ περίπτωςθ ο ζλεγχοσ αφορά τθν επίδραςθ μιασ μεταβλθτισ ςτθ διαμόρφωςθ των τιμϊν τθσ Υ δεδομζνων όλων των άλλων μεταβλθτϊν ενϊ ςτθ 2 θ περίπτωςθ ο ζλεγχοσ αφορά τθ ςυνδυαςμζνθ ι από κοινοφ επίδραςθ όλων των ανεξάρτθτων μεταβλθτϊν ςτθ διαμόρφωςθ των τιμϊν τθσ Υ. Πμωσ ςυχνά ςυμβαίνει να γίνεται δεκτι με το κριτιριο t θ υπόκεςθ Θ 0 : b j =0 για j=1,2,,k, δθλαδι να γίνεται δεκτό ότι κανζνασ από τουσ ςυντελεςτζσ δεν είναι ςθμαντικά διαφορετικόσ από το μθδζν και ταυτόχρονα με το κριτιριο F να απορρίπτεται θ υπόκεςθ 33

34 Θ 0 : b 1 = =b k =0, να γίνεται δθλαδι δεκτό ότι θ ςυνδυαςμζνθ επίδραςθ όλων των ανεξάρτθτων μεταβλθτϊν είναι ςθμαντικι ςτθ διαμόρφωςθ των τιμϊν τθσ Υ. Αυτό ςυνικωσ ςυμβαίνει όταν οι ανεξάρτθτεσ μεταβλθτζσ ςυςχετίηονται μεταξφ τουσ ςε μεγάλο βακμό, με αποτζλεςμα τα τυπικά ςφάλματα των ςυντελεςτϊν να είναι μεγάλα και επομζνωσ οι τιμζσ τθσ ςτατιςτικισ t να είναι μικρζσ Μερικόσ Ζλεγχοσ θμαντικότθτασ του Μοντζλου Ο ζλεγχοσ αυτόσ αφορά ζνα υποςφνολο ςυντελεςτϊν του μοντζλου για να ελζγξει αν αςκοφν επίδραςθ ςτθ διαμόρφωςθ των τιμϊν τθσ Υ. Αυτό ιςοδυναμεί με τον εξισ ζλεγχο μθδενικισ υπόκεςθσ : Θ 0 : b Θ+1 =b H+2 = =b k =0 ζναντι τθσ εναλλακτικισ Θ Α : ζνα τουλάχιςτον διαφορετικό του μθδενόσ. Αν θ Θ 0 είναι δεκτι οι μεταβλθτζσ k-h δεν κα ςυμβάλλουν ςτθν ερμθνεία τθσ μεταβλθτότθτασ των τιμϊν τθσ Υ, γεγονόσ που ςθμαίνει ότι θ ςυνδυαςμζνθ ςυμβολι των k-h μεταβλθτϊν ςτο άκροιςμα των τετραγϊνων τθσ παλινδρομιςεωσ δεν κα είναι ςθμαντικι. Δθλαδι θ προςκικθ των k-h μεταβλθτϊν ςτο μοντζλο με τισ Θ μεταβλθτζσ δεν αυξάνει ςθμαντικά τθν ερμθνευτικι ικανότθτα του μοντζλου. Ζςτω SSR H το άκροιςμα των τετραγϊνων τθσ παλινδρόμθςθσ ςτθν παλινδρόμθςθ ανάμεςα ςτθν Υ και τισ Θ μεταβλθτζσ και SSR k το άκροιςμα των τετραγϊνων τθσ παλινδρόμθςθσ ςτθν παλινδρόμθςθ ανάμεςα ςτθν Υ και τισ k μεταβλθτζσ με k>h. Χρθςιμοποιοφμε κριτιριο F και ζχουμε F * = (2.25). Aν F * > F k-h,(n-k-1),α θ Θ 0 απορρίπτεται ςτο επίπεδο ςθμαντικότθτασ α. Για k-h=1 θ μθδενικι υπόκεςθ γίνεται Θ 0 : b j =0 για j=1,2,,k και προκφπτει ζλεγχοσ ςθμαντικότθτασ για μία παράμετρο. 34

35 3. ΕΙΚΟΝΙΚΕ ΜΕΣΑΒΛΗΣΕ Ή ΨΕΤΔΟΜΕΣΑΒΛΗΣΕ (DUMMY VARIABLES) 3.1 ΕΙΑΓΩΓΗ Ο όροσ ανάλυςθ παλινδρόμθςθσ χρθςιμοποιείται ςυνικωσ όταν αναφερόμαςτε ςε περιπτϊςεισ όπου τόςο το Υ όςο και τα Χ είναι ποςοτικζσ μεταβλθτζσ. Αυτό αποτελεί ζναν από τουσ ςοβαροφσ περιοριςμοφσ τθσ γραμμικισ παλινδρόμθςθσ. Σε πολλζσ περιπτϊςεισ όμωσ τα προβλιματα που μελετϊνται αναφζρονται και ςε ποιοτικζσ μεταβλθτζσ οι οποίεσ, εκ των πραγμάτων, πρζπει να ποςοτικοποιθκοφν προκειμζνου να μελετθκοφν. Οι μεταβλθτζσ που χρθςιμοποιοφνται ςτισ εξιςϊςεισ παλινδρόμθςθσ, είναι ςυνικωσ, ςυνεχείσ. Σε πολλζσ όμωσ περιπτϊςεισ χρειάηεται να χρθςιμοποιιςουμε κάποιο παράγοντα που εμφανίηεται ςε δφο ι περιςςότερα, διακεκριμζνα επίπεδα ι κατθγορίεσ. Για παράδειγμα, είναι ενδεχόμενο να μασ ενδιαφζρει να αναλφςουμε ςτοιχεία που αναφζρονται ςτθν διαφορετικι ςυμπεριφορά δφο ατόμων ωσ προσ το φφλο τουσ, ςτθν λειτουργία τριϊν μθχανϊν, δφο βιομθχανιϊν ι ςτθν διαφορετικι απόδοςθ μερικϊν εργαηομζνων. Επομζνωσ δεν μποροφμε να χρθςιμοποιιςουμε μία ςυνεχι κλίμακα για τισ μεταβλθτζσ "φφλο", "μθχανι", "εργοςτάςιο", ι "εργαηόμενοσ". Σε τζτοιεσ περιπτϊςεισ είναι αναγκαίο να αντιςτοιχίςουμε τισ μεταβλθτζσ αυτζσ με κάποια επίπεδα που να λαμβάνουν υπόψθ τουσ το γεγονόσ ότι οι διαφορετικοί άνκρωποι, μθχανζσ, εργοςτάςια ι εργαηόμενοι, είναι δυνατό να επιδροφν με ςυγκεκριμζνο διαφορετικό τρόπο ςτθν εξαρτθμζνθ μεταβλθτι. Ζνα άτομο ι μια κατάςταςθ ανικει ςε μια από τισ k δυνατζσ, αμοιβαία ξζνεσ μεταξφ τουσ, κατθγορίεσ ι επίπεδα. Ρροκειμζνου να καταςτεί δυνατόν να περιλθφκοφν τζτοιεσ καταςτάςεισ ςε ζνα ςτατιςτικό μοντζλο, χρειάηεται να οριςκοφν μεταβλθτζσ που κα προςδϊςουν αρικμθτικι ζκφραςθ ςε ποιοτικά χαρακτθριςτικά. Για τισ περιπτϊςεισ αυτζσ χρθςιμοποιοφνται οι λεγόμενεσ εικονικζσ μεταβλθτζσ ι ψευδομεταβλθτζσ (dummy variables). Οι μεταβλθτζσ αυτζσ ςυνικωσ χρθςιμοποιοφνται για να εκφράςουν δφο επίπεδα ι κατθγορίεσ, οπότε είναι δίτιμεσ. Θ ςυνικθσ επιλογι για τον οριςμό μιασ δίτιμθσ εικονικισ μεταβλθτισ είναι θ χρθςιμοποίθςθ μιασ μεταβλθτισ δείκτθ (indicator variable) με τιμζσ 0,1. Θ οποία να δείχνει αν μια ςυγκεκριμζνθ παρατιρθςθ ανικει ςε ζνα από δφο κακοριςμζνα επίπεδα ι κατθγορίεσ, μιασ ποιοτικισ μεταβλθτισ. Σε άλλεσ περιπτϊςεισ οι εικονικζσ μεταβλθτζσ χρθςιμοποιοφνται για να εκφράςουν μια ποιοτικι μεταβλθτι που παίρνει τιμζσ ςε περιςςότερεσ από δφο κατθγορίεσ ι επίπεδα. Συγκεκριμζνα, αν χρειάηεται να περιλθφκεί ςε ζνα μοντζλο παλινδρόμθςθσ με ςτακερό όρο μια ποιοτικι μεταβλθτι με k επίπεδα, χρειάηεται να οριςκοφν k-1 εικονικζσ μεταβλθτζσ για να εκφράςουν τθν ποιοτικι μεταβλθτι. Συνικωσ οι k-1 εικονικζσ μεταβλθτζσ που χρθςιμοποιοφνται επιλζγονται ζτςι ϊςτε να είναι γραμμικά 35

36 ανεξάρτθτεσ. Στθν περίπτωςθ των περιςςότερων από μιασ ανεξάρτθτων ποιοτικϊν μεταβλθτϊν χρθςιμοποιοφνται εικονικζσ μεταβλθτζσ οι οποίεσ είναι είτε δίτιμεσ (ςυνικωσ) είτε, ιςοδφναμα, παίρνουν περιςςότερεσ από δφο τιμζσ. Πταν οριςκοφν οι k-1 εικονικζσ μεταβλθτζσ για μια ποιοτικι μεταβλθτι με k επίπεδα, το επίπεδο που μζνει ονομάηεται κατθγορία αναφοράσ ι κατθγορία βάςθσ (reference category ι baseline category). Στθν περίπτωςθ τθσ ζκφραςθσ του φφλου θ δίτιμθ εικονικι μεταβλθτι μπορεί να οριςτεί ωσ: D i = για γυναίκα για άντρα όπου θ κατθγορία των γυναικϊν είναι θ κατθγορία αναφοράσ. Ο τρόποσ που θ D i κα ειςαχκεί ςτο μοντζλο εξαρτάται από το μοντζλο αλλά και το είδοσ των μεταβολϊν που κζλουμε να ςυλλάβουμε. Θ επιλογι τθσ κατθγορίασ αναφοράσ εξαρτάται ςυχνά από το υπό μελζτθ πρόβλθμα γιατί ςυγκεκριμζνεσ επιλογζσ μπορεί να οδθγιςουν ςε μια καλφτερθ ερμθνεία των ςυντελεςτϊν παλινδρόμθςθσ. Αυτό ςυμβαίνει ςυνικωσ όταν γίνονται ςυγκρίςεισ με κάποια ελεγχόμενθ ομάδα (control group). Στθν περίπτωςθ αυτι είναι φυςικό να ζχουμε τθν ελεγχόμενθ ομάδα ωσ κατθγορία αναφοράσ. Θ χρθςιμοποίθςθ μιασ εικονικισ μεταβλθτισ δείκτθ είναι επίςθσ χριςιμθ αν πρόκειται να καταςκευαςκοφν μοντζλα για κάκε επίπεδο μιασ ποιοτικισ μεταβλθτισ και να ςυγκρικοφν μεταξφ τουσ. Ζτςι λοιπόν όταν χρθςιμοποιοφνται για να εκφράςουν δφο κατθγορίεσ οι εικονικζσ μεταβλθτζσ ονομάηονται δίτιμεσ ι διχοτομικζσ (dichotomous) ενϊ όταν χρθςιμοποιοφνται για να εκφράςουν πολλζσ κατθγορίεσ ι επίπεδα ονομάηονται πολυεπίπεδεσ (polychotomous). Ενϊ, ςυνικωσ χρθςιμοποιοφμε τθν μεταβλθτι δείκτθ 0,1 για να παραςτιςουμε μια δίτιμθ ποιοτικι μεταβλθτι είναι δυνατόν να χρθςιμοποιθκοφν και άλλεσ εκφράςεισ. Για παράδειγμα, για τθν ποςοτικοποίθςθ του φφλου μποροφμε να ορίςουμε τθν εικονικι μεταβλθτι ωσ D i = για γυναίκα για άντρα Τα γενικά κίνθτρα για να ςυμπεριλθφκεί μια εικονικι μεταβλθτι ςε ζνα πρόβλθμα παλινδρόμθςθσ είναι τα ίδια με εκείνα που οδθγοφν ςτο να ςυμπεριλθφκεί μία ποςοτικι ανεξάρτθτθ μεταβλθτι : 1. Nα μελετθκεί καλφτερα θ εξαρτθμζνθ μεταβλθτι με τθν ελάττωςθ τθσ επίδραςθσ του παράγοντα που οφείλεται ςτα ςφάλματα. 36

37 2. Nα αποτραπεί μια μερολθπτικι αποτίμθςθ τθσ επίδραςθσ μιασ ανεξάρτθτθσ μεταβλθτισ που είναι ςυνζπεια του ότι ζχει παραλθφκεί από το μοντζλο μια άλλθ ανεξάρτθτθ μεταβλθτι θ οποία ςχετίηεται με αυτιν. Σε περιςςότερο πολφπλοκα προβλιματα χρειάηεται να μελετιςουμε και τθν αλλθλεπίδραςθ (interaction) των μεγεκϊν που εκφράηουν κάποιεσ από τισ ανεξάρτθτεσ μεταβλθτζσ οπότε οδθγοφμαςτε ςτθν ανάγκθ να χρθςιμοποιιςουμε τθν αλλθλεπίδραςθ ποιοτικϊν και ποςοτικϊν ανεξαρτιτων μεταβλθτϊν δθλαδι μεταβλθτϊν και εικονικϊν μεταβλθτϊν. Ραράδειγμα μιασ αςυνικιςτθσ εικονικισ μεταβλθτισ είναι θ χρθςιμοποίθςθ μιασ μεταβλθτισ Χ 0 (τθσ οποίασ θ τιμι είναι πάντοτε 1) δίπλα ςτθν παράμετρο b 0 του γραμμικοφ μοντζλου. Γράφουμε δθλαδι Y i =b 0 X 0 +b 1 X i1 +ε i όπου Χ 0 είναι πάντοτε 1. Ρροφανϊσ, ο όροσ Χ 0 δεν χρειάηεται και παραλείπεται αλλά είναι υποβοθκθτικόσ ςτο ςυμβολιςμό, ιδιαίτερα όταν χρειάηεται να χρθςιμοποιιςουμε ςυμβολιςμό πινάκων. Σε πολλζσ άλλεσ περιπτϊςεισ οι εικονικζσ μεταβλθτζσ είναι περιςςότερο απαραίτθτεσ, όπωσ για παράδειγμα ςτθν προςπάκεια ςφνδεςθσ τθσ λογικισ τθσ γραμμικισ παλινδρόμθςθσ με αυτιν τθσ ανάλυςθσ διαςποράσ. Θ χαρακτθριςτικότερθ περίπτωςθ χρθςιμοποίθςθσ εικονικισ μεταβλθτισ είναι όταν κζλουμε να μελετιςουμε ποιοτικά δεδομζνα που είναι ενδεχόμενο να ζχουν ζνα από τα δφο διαφορετικά χαρακτθριςτικά. Σε τζτοιεσ περιπτϊςεισ χρθςιμοποιοφμε τθν μεταβλθτι δείκτθ 0,1 ωσ εικονικι μεταβλθτι. Ππωσ είναι προφανζσ, θ μεταβλθτι δείκτθσ 0,1 χρθςιμοποιείται ανάλογα με το αν υφίςταται ι όχι κάποιο ςυγκεκριμζνο χαρακτθριςτικό. Επειδι οι τιμζσ τθσ εικονικισ μεταβλθτισ δίνονται, ςυνικωσ αυκαίρετα είναι ενδεχόμενο να αναρωτθκεί κανείσ αν τα όποια ςυμπεράςματα εξάγει από τθν μελζτθ ενόσ προβλιματοσ μεταβάλλονται με τθν ενδεχόμενθ χρθςιμοποίθςθσ τθσ εικονικισ μεταβλθτισ με διαφορετικό τρόπο. Εφκολα διαπιςτϊνεται ότι δεν δθμιουργείται πρόβλθμα ςτα αποτελζςματα αρκεί να είναι κανείσ προςεκτικόσ ςτον τρόπο που τα ερμθνεφει. Επομζνωσ δεν ζχει καμιά ςθμαςία εάν για παράδειγμα θ εικονικι μεταβλθτι ζχει τθν τιμι 1 για άνδρα και 0 για γυναίκα, ι αντίςτροφα. Τζλοσ με τθ χριςθ εικονικϊν μεταβλθτϊν ςε μοντζλα γραμμικισ παλινδρόμθςθσ είναι δυνατόν να επιλφονται προβλιματα τα οποία ουςιαςτικά αποτελοφν αντικείμενο τθσ ανάλυςθσ διαςποράσ. Ζνα μοντζλο ανάλυςθσ παλινδρόμθςθσ, το οποίο περιλαμβάνει αποκλειςτικά ποιοτικζσ μεταβλθτζσ, ιςοδυναμεί ουςιαςτικά με ζνα μοντζλο ανάλυςθσ διαςποράσ με πολλοφσ παράγοντεσ. Επιπλζον, θ ανάμειξθ ςυνεχϊν και ποιοτικϊν ανεξάρτθτων μεταβλθτϊν ςε ζνα μοντζλο τθσ ανάλυςθσ πολλαπλισ παλινδρόμθςθσ αποτελεί τθ γενικι μορφι ενόσ γραμμικοφ μοντζλου, θ ανάλυςθ του οποίου πραγματοποιείται με τθ βοικεια τθσ ανάλυςθσ ςυνδιαςποράσ. 37

38 3.2 ΔΙΑΧΡΟΝΙΚΕ ΕΠΙΔΡΑΕΙ Δίτιμθ Ανεξάρτθτθ Εικονικι Μεταβλθτι Μεταβολι του ςτακεροφ όρου ςτο βαςικό μοντζλο Θ πιο απλι περίπτωςθ είναι το μοντζλο ςτο οποίο δεν υπάρχει άλλθ ανεξάρτθτθ εκτόσ από τθν εικονικι μεταβλθτι, δθλαδι το ακόλουκο: Y i =b 0 +b 1 D i +ε i i=1,,n (3.1) αν θ παρατιρθςθ γίνεται ςτο Α όπου D i = και ε διαφορετικά i Ν(0,ς 2 ) δθλαδι τα ςφάλματα κατανζμονται ωσ ανεξάρτθτεσ κανονικζσ τυχαίεσ μεταβλθτζσ με μζςθ τιμι μθδζν και διαςπορά ίςθ με ς 2. Υποκζτουμε ότι οι πρϊτεσ n 1 παρατθριςεισ γίνονται ςτο Α ενϊ οι επόμενεσ n 2 =n-n 1 δεν γίνονται ςτο Α οπότε αντικακιςτϊντασ τισ τιμζσ τθσ D i ζχουμε για D i =1 Y i =b 0 +b 1 +ε i i=1,,n 1 (3.2), ενϊ για D i =0 Y i =b 0 +ε i i=n 1 +1, n (3.3). Ζςτω, οι εκτιμιςεισ που παίρνουμε για τισ παραμζτρουσ του μοντζλου Y i =b 0 +b 1 D i +ε i i=1,,n με τθ μζκοδο των ελαχίςτων τετραγϊνων, με τυπικά ςφάλματα αντίςτοιχα ίςα με,. Ζνασ ςυνθκιςμζνοσ ζλεγχοσ για να δοφμε αν υπάρχει ςτατιςτικά ςθμαντικι διαφορά είναι ο Θ 0 : b 1 =0, εναλλακτικά Θ A : b 1 0. Αν εφαρμόηοντασ ζλεγχο με το ςτατιςτικό t δεν απορριφκεί θ Θ 0 τότε δεν υπάρχει ςτατιςτικά ςθμαντικι διαφορά ανάμεςα ςτισ 2 εξιςϊςεισ. Μεταβολι του ςτακεροφ όρου ςτο μοντζλο παλινδρόμθςθσ Πταν κεωροφμε ότι θ μετάβαςθ από τθ μία τιμι τθσ δίτιμθσ μεταβλθτισ ςτθν άλλθ ζχει ωσ αποτζλεςμα τθν παράλλθλθ μετατόπιςθ του μοντζλου κατά μία ςτακερά, ειςάγουμε ωσ επιπλζον ανεξάρτθτθ μεταβλθτι, μια εικονικι μεταβλθτι. αν θ παρατιρθςθ ανικει ςτο Α Επομζνωσ Y i =b 0 +b 1 Χ i1 +γd i +ε i,i=1,,n (3.4) όπου D i = και διαφορετικά ε i Ν(0,ς 2 ). Θ αναμενόμενθ ι προςδοκϊμενθ τιμι είναι θ εξισ : Ε(Υ)= b 0 +b 1 Χ 1 +γd (3.5) για D=1 :Ε(Υ)=(b 0 +γ)+b 1 Χ 1 (3.6) όπου (b 0 +γ) είναι ο ςτακερόσ όροσ και b 1 θ κλίςθ τθσ ςυνάρτθςθσ παλινδρόμθςθσ, ενϊ για D=0 :Ε(Υ)= b 0 +b 1 Χ 1 (3.7) όπου b 0 είναι ο ςτακερόσ όροσ και b 1 θ κλίςθ τθσ ςυνάρτθςθσ παλινδρόμθςθσ. 38

39 Σχιμα 3.1 Μεταβολι ςτακεροφ όρου Ραράλλθλθ μετατόπιςθ Επομζνωσ παράλλθλεσ ευκείεσ παλινδρόμθςθσ ςυνεπάγονται προςκετικζσ επιδράςεισ (additive effects) των ανεξάρτθτων μεταβλθτϊν δθλαδι ότι θ επιμζρουσ επίδραςθ (partial effect) κάκε ανεξάρτθτθσ μεταβλθτισ είναι θ ίδια, ανεξάρτθτα από τθ ςυγκεκριμζνθ τιμι (επίπεδο) ςτθν οποία θ άλλθ ανεξάρτθτθ μεταβλθτι διατθρείται ςτακερι. Επίςθσ όπωσ διαπιςτϊνεται θ κλίςθ τθσ ευκείασ παλινδρόμθςθσ b 1 είναι θ ίδια και ςτισ 2 περιπτϊςεισ. Τζλοσ πρζπει να ελζγξουμε με το ςτατιςτικό ζλεγχο t αν ιςχφει θ μθδενικι υπόκεςθ Θ 0 : γ=0 ι εναλλακτικά Θ A : γ 0. Αν γ=0 οι 2 ευκείεσ ταυτίηονται και δεν υπάρχει ςτατιςτικά ςθμαντικι διαφορά. Μεταβολι τθσ κλίςθσ ι μερικών κλίςεων του μοντζλου Αν ςε ζνα μοντζλο παλινδρόμθςθσ ειςάγουμε ωσ επιπλζον ανεξάρτθτθ μεταβλθτι το γινόμενο μιασ εικονικισ μεταβλθτισ D επί μία ανεξάρτθτθ μεταβλθτι ζςτω τθν Χ j, τότε μποροφμε να ςυλλάβουμε μεταβολζσ ςτο ςυντελεςτι μερικισ παλινδρόμθςθσ τθσ Χ j. Θ DΧ j ονομάηεται πολλαπλαςιαςτικι εικονικι μεταβλθτι (multiplicative dummy variable). 39

40 αν θ παρατιρθςθ ανικει ςτο Α Επομζνωσ Y i =b 0 +b 1 Χ i +δd i Χ i +ε i i=1,,n (3.8) όπου D i = και διαφορετικά ε i Ν(0,ς 2 ). Θ αναμενόμενθ ι προςδοκϊμενθ τιμι είναι θ εξισ : Ε(Υ)= b 0 +b 1 Χ 1 +δdx 1 (3.9) για D=1 :Ε(Υ)=b 0 +(b 1 +δ)χ 1 (3.10) όπου b 0 είναι ο ςτακερόσ όροσ και (b 1 +δ) θ κλίςθ τθσ ςυνάρτθςθσ παλινδρόμθςθσ, ενϊ για D=0 :Ε(Υ)= b 0 +b 1 Χ 1 (3.11) όπου b 0 είναι ο ςτακερόσ όροσ και b 1 θ κλίςθ τθσ ςυνάρτθςθσ παλινδρόμθςθσ. Σχιμα 3.2 Μεταβολι κλίςθσ Συνεχίηουμε ελζγχοντασ αν ιςχφει Θ 0 : δ=0 ι εναλλακτικά Θ Α : δ 0. Αν δ=0 θ κλίςθ είναι ίδια και οι 2 ευκείεσ ταυτίηονται. Μεταβολι του ςτακεροφ όρου και τθσ κλίςθσ Αν υποκζςουμε ότι και ο ςτακερόσ όροσ και θ κλίςθ ζχουν μεταβλθκεί ςυνδυάηουμε τισ 2 προθγοφμενεσ περιπτϊςεισ Y i =b 0 +b 1 Χ i +γd i +δd i Χ i +ε i i=1,,n (3.12) αν θ παρατιρθςθ ςτο Α όπου D i = και ε διαφορετικά i Ν(0,ς 2 ). Θ αναμενόμενθ ι προςδοκϊμενθ τιμι είναι θ εξισ : Ε(Υ)= b 0 +b 1 Χ 1 +γd+δdx 1 (3.13) για D=1 :Ε(Υ)=(b 0 +γ)+(b 1 +δ)χ 1 (3.14)όπου (b 0 +γ)είναι ο ςτακερόσ όροσ και (b 1 +δ) θ κλίςθ τθσ ςυνάρτθςθσ παλινδρόμθςθσ, ενϊ για D=0 :Ε(Υ)= b 0 +b 1 Χ 1 (3.15) όπου b 0 είναι ο ςτακερόσ όροσ και b 1 θ κλίςθ τθσ ςυνάρτθςθσ παλινδρόμθςθσ. 40

41 Σχιμα 3.3 Μεταβολι ςτακεροφ όρου και κλίςθσ Σε αυτι τθν περίπτωςθ εφαρμόηω 2 ελζγχουσ ο πρϊτοσ αφορά το ςυντελεςτι παλινδρόμθςθσ δ, είναι ο εξισ : Θ 0 : δ=0 ι εναλλακτικά Θ Α : δ 0 και ελζγχεται με κριτιριο t. Ο δεφτεροσ αφορά και τουσ 2 ςυντελεςτζσ παλινδρόμθςθσ γ, δ ο οποίοσ ελζγχει αν Θ 0 : γ=δ=0 ι εναλλακτικά Θ A : γ=0 ι δ=0 και γίνεται με το ςτατιςτικό ζλεγχο F Πολυεπίπεδεσ ι Πλειότιμεσ Ανεξάρτθτεσ Εικονικζσ Μεταβλθτζσ Για να λάβουμε υπόψθ μια ποιοτικι μεταβλθτι με 2 τιμζσ ειςάγουμε ςτο μοντζλο μια εικονικι μεταβλθτι. Γενικά αν ζχουμε μια ποιοτικι μεταβλθτι με k 2 τιμζσ ειςάγουμε ςτο μοντζλο k-1 εικονικζσ μεταβλθτζσ. Ζτςι ζςτω ότι κζλουμε να εκτιμιςουμε το απλό μοντζλο κατανάλωςθσ Y i =b 0 +b 1 Χ i +ε i i=1,,n όπου Υ= θ κατανάλωςθ Χ= το διακζςιμο ειςόδθμα μιασ οικογζνειασ. Υποκζτουμε ακόμθ ότι διακζτουμε δεδομζνα από 3 διαφορετικζσ περιοχζσ, ζςτω Α,Β,Γ. Αν υποπτευόμαςτε ότι το μοντζλο μεταβάλλεται ςτισ 3 περιοχζσ μποροφμε να χρθςιμοποιιςουμε 2 εικονικζσ μεταβλθτζσ τισ D 1 και D 2,με κατθγορία αναφοράσ τθν περιοχι Γ, που ορίηονται ωσ : D 1 = D 2 = αν θ παρατιρθςθ ανικει ςτθν περιοχι Α διαφορετικά αν θ παρατιρθςθ ανικει ςτθν περιοχι Β διαφορετικά 41

42 D 1 D 2 Α 1 0 Β 0 1 Γ 0 0 Ρίνακασ 3.1 Οι 2 εικονικζσ μεταβλθτζσ D 1 και D 2 Διακρίνουμε τισ ακόλουκεσ περιπτϊςεισ ανάλογα με τισ διαφορζσ του μοντζλου ςτισ 3 περιοχζσ : Μεταβολι ςτακεροφ όρου Το μοντζλο παλινδρόμθςθσ εξειδικεφεται ωσ εξισ Y i =b 0 +b 1 Χ i +γ 1 D i1 +γ 2 D i2 +ε i οποίο είναι ιςοδφναμο με 3 μοντζλα, ζνα για κάκε περιοχι :,i=1,,n (3.16) το Y i =(b 0 +γ 1 )+b 1 Χ i +ε i για τισ παρατθριςεισ Y i ςτθν περιοχι Α Y i =(b 0 +γ 2 )+b 1 Χ i +ε i για τισ παρατθριςεισ Y i ςτθν περιοχι Β Y i =b 0 +b 1 Χ i +ε i για τισ παρατθριςεισ Y i ςτθν περιοχι Γ Μεταβολι κλίςθσ Χρθςιμοποιοφμε 2 πολλαπλαςιαςτικζσ εικονικζσ μεταβλθτζσ οπότε το μοντζλο παλινδρόμθςθσ εξειδικεφεται ωσ εξισ Y i =b 0 +b 1 Χ i +δ 1 D i1 Χ i +δ 2 D i2 Χ i +ε i,i=1,,n (3.17) το οποίο είναι ιςοδφναμο με 3 μοντζλα, ζνα για κάκε περιοχι : Y i =b 0 +(b 1 +δ 1 )Χ i +ε i για τισ παρατθριςεισ Y i ςτθν περιοχι Α Y i =b 0 +(b 1 +δ 2 )Χ i +ε i για τισ παρατθριςεισ Y i ςτθν περιοχι Β Y i =b 0 +b 1 Χ i +ε i για τισ παρατθριςεισ Y i ςτθν περιοχι Γ Μεταβολι ςτακεροφ όρου και κλίςθσ Το μοντζλο παλινδρόμθςθσ παίρνει τθ εξισ μορφι : Y i =b 0 +b 1 Χ i +γ 1 D i1 +γ 2 D i2 +δ 1 D i1 Χ i +δ 2 D i2 Χ i +ε i,i=1,,n (3.18) το οποίο είναι ιςοδφναμο με 3 μοντζλα, ζνα για κάκε περιοχι : Y i =(b 0 +γ 1 )+(b 1 +δ 1 )Χ i +ε i για τισ παρατθριςεισ Y i ςτθν περιοχι Α Y i =(b 0 +γ 2 )+(b 1 +δ 2 )Χ i +ε i για τισ παρατθριςεισ Y i ςτθν περιοχι Β Y i =b 0 +b 1 Χ i +ε i για τισ παρατθριςεισ Y i ςτθν περιοχι Γ 42

43 Για παράδειγμα, ζνα πρόβλθμα μπορεί να αναφζρεται ςε τρεισ περιοχζσ μιασ πόλθσ, τθν βόρεια περιοχι, το κζντρο και τθν νότια περιοχι. Ζνασ τρόποσ για να παραςτακεί θ μεταβλθτι που αναφζρεται ςτθν περιοχι είναι να οριςκοφν δφο εικονικζσ μεταβλθτζσ ωσ εξισ: D 1 = D 2 = για νότια περιοχι διαφορετικά για κζντρο διαφορετικά Ραρατθροφμε ότι θ βόρεια περιοχι αποτελεί ςτθν ςυγκεκριμζνθ περίπτωςθ τθν κατθγορία αναφοράσ. Ππωσ και ςτθν περίπτωςθ που χρθςιμοποιοφνται δίτιμεσ εικονικζσ μεταβλθτζσ για να εκφράςουν μια ποιοτικι μεταβλθτι με δφο επίπεδα είναι δυνατόν να ορίςουμε εικονικζσ μεταβλθτζσ με τρεισ τιμζσ για να εκφράςουν μια ποιοτικι μεταβλθτι που παίρνει τιμζσ ςε τρία επίπεδα. Για παράδειγμα, ςτθν προθγοφμενθ περίπτωςθ με τισ περιοχζσ μιασ πόλθσ είναι δυνατόν να οριςτοφν δφο εικονικζσ μεταβλθτζσ ωσ εξισ: D περ1 = και D περ2 = για νότια περιοχι για κζντρο για βόρεια περιοχι για νότια περιοχι για κζντρο για βόρεια περιοχι Γενικοί ζλεγχοι που αφοροφν τθν ποιοτικι μεταβλθτι (δθλαδι ζλεγχοι για τθν υπόκεςθ ότι όλοι οι ςυντελεςτζσ παλινδρόμθςθσ που αντιςτοιχοφν ςε ζνα ςφνολο εικονικϊν μεταβλθτϊν είναι ίςοι με μθδζν) δεν εξαρτϊνται από τθν επιλογι του οριςμοφ των εικονικϊν μεταβλθτϊν. Δοκζντοσ ότι ςτόχοσ ενόσ τζτοιου ελζγχου είναι θ διερεφνθςθ τθσ ςχζςθσ μεταξφ μιασ ποςοτικισ μεταβλθτισ και μιασ ποιοτικισ μεταβλθτισ θ μθ επιρροι του ελζγχου από τον τρόπο οριςμοφ των εικονικϊν μεταβλθτϊν είναι εξαιρετικά ςθμαντικόσ. Βζβαια, θ ερμθνεία των ςυντελεςτϊν για κάκε μια από τισ εικονικζσ μεταβλθτζσ εξαρτάται, όπωσ είναι φυςικό, από τθν κωδικοποίθςθ που χρθςιμοποιικθκε για τθν ποιοτικι μεταβλθτι. 43

44 3.3 ΕΠΟΧΙΚΕ ΕΠΙΔΡΑΕΙ Θ επίδραςθ των εποχικϊν παραγόντων ςτθ διαμόρφωςθ των τιμϊν τθσ εξαρτθμζνθσ μεταβλθτισ, αν από τα διακζςιμα ςτοιχεία δεν ζχει απαλειφκεί θ εποχικότθτα, μπορεί να λθφκεί υπόψθ με εικονικζσ μεταβλθτζσ. Ζςτω ότι θ Υ είναι ςυνάρτθςθ μιασ μόνο ανεξάρτθτθσ μεταβλθτισ Χ και ότι οι διακζςιμεσ παρατθριςεισ αναφζρονται ςε τρίμθνα. Αν υποκζςουμε ότι οι εποχικοί παράγοντεσ επθρεάηουν μόνο το ςτακερό όρο το υπόδειγμα μπορεί να γραφτεί ωσ εξισ : Y i = b 0 + b 1 Χ i1 + γ 1 D i1 + γ 2 D i2 + γ 3 D i3 + γ 4 D i4 + ε i i=1,,n (3.19) Ππου D i1 = D i2 = D i3 = D i4 = αν αναφζρεται ςτο πρϊτο τρίμθνο διαφορετικά αν αναφζρεται ςτο δεφτερο τρίμθνο διαφορετικά αν αναφζρεται ςτο τρίτο τρίμθνο διαφορετικά αν αναφζρεται ςτο τζταρτο τρίμθνο διαφορετικά Εδϊ ο εποχικόσ παράγοντασ παριςτάνεται με 4 εικονικζσ μεταβλθτζσ μία για κάκε τρίμθνο. Το πρόβλθμα είναι πωσ το μοντζλο δεν μπορεί να εκτιμθκεί όπωσ διατυπϊκθκε γιατί υπάρχει τζλεια πολυςυγγραμικότθτα. Αυτό αποδεικνφεται εφκολα γιατί θ μεταβλθτι Χ 0, που αντιςτοιχεί ςτο ςτακερό όρο, κα μποροφςε επίςθσ γραφτεί για κάκε i ωσ Χ 0 =1=D 1 +D 2 +D 3 +D 4. Επομζνωσ θ μιτρα Χ Σ Χ είναι ιδιάηουςα, δθλαδι Χ Σ Χ =0 άρα δεν υπάρχει αντίςτροφθ και επομζνωσ το ςφςτθμα Χ Σ Χ =Χ Σ Τ δεν ζχει λφςθ. Το πρόβλθμα αυτό είναι γνωςτό ωσ παγίδα των εικονικϊν μεταβλθτϊν. Αντιμετωπίηεται όμωσ εφκολα αν απαλείψουμε μία εικονικι μεταβλθτι, ζςτω τθν D 1 οπότε το μοντζλο γράφεται ωσ : Y i = b 0 + b 1 Χ i1 + γ 2 D i2 + γ 3 D i3 + γ 4 D i4 + ε i i=1,,n (3.20) και ζχουμε Y i = b 0 + b 1 Χ i1 + ε i, i=1,,n για το πρϊτο τρίμθνο και θ αναμενόμενθ ι προςδοκϊμενθ τιμι είναι θ εξισ : Ε(Υ)= b 0 + b 1 Χ 1 Y i = (b 0 +γ 2 ) + b 1 Χ i1 + ε i, i=1,,n για το δεφτερο τρίμθνο και θ αναμενόμενθ ι προςδοκϊμενθ τιμι είναι θ εξισ : Ε(Y)= (b 0 +γ 2 ) + b 1 Χ 1 44

45 Y i = (b 0 +γ 3 ) + b 1 Χ i1 + ε i, i=1,,n για το τρίτο τρίμθνο και θ αναμενόμενθ ι προςδοκϊμενθ τιμι είναι θ εξισ : Ε(Y)= (b 0 +γ 3 ) + b 1 Χ 1 Y i = (b 0 +γ 4 ) + b 1 Χ i1 + ε i, i=1,,n για το τζταρτο τρίμθνο και θ αναμενόμενθ ι προςδοκϊμενθ τιμι είναι θ εξισ : Ε(Y)= (b 0 +γ 4 ) + b 1 Χ 1. Σχιμα 3.4 Εποχικι επίδραςθ ςτο ςτακερό όρο Ο ςτακερόσ όροσ b 0 αντιςτοιχεί ςτο ςτακερό όρο του πρϊτου τριμινου ενϊ οι ςυντελεςτζσ των εικονικϊν μεταβλθτϊν γ 2, γ 3, γ 4 αντιςτοιχοφν ςτθ διαφορά ανάμεςα ςτο ςτακερό όρο του πρϊτου τριμινου και ςτο ςτακερό όρο των υπολοίπων τριμινων, αντίςτοιχα. Με άλλα λόγια οι ςυντελεςτζσ των εικονικϊν μεταβλθτϊν εκφράηουν τθν παράλλθλθ μετατόπιςθ τθσ ςυνάρτθςθσ ςχετικά με το πρϊτο τρίμθνο, που το λαμβάνουμε ωσ κατθγορία αναφοράσ. Είναι φανερό πωσ ωσ κατθγορία αναφοράσ κα μποροφςε να χρθςιμεφςει οποιοδιποτε άλλο τρίμθνο. Γενικά όταν ο παράγοντασ αναφζρεται ςε k κατθγορίεσ για να είναι δυνατι θ εκτίμθςθ του μοντζλου ςτο οποίο υπάρχει ςτακερόσ όροσ, ο παράγοντασ παριςτάνεται με k-1 εικονικζσ μεταβλθτζσ. Αν ο εποχικόσ παράγοντασ δεν ζχει καμία επίδραςθ ςτθ διαμόρφωςθ των τιμϊν τθσ εξαρτθμζνθσ μεταβλθτισ, οι ςυντελεςτζσ γ 2, γ 3, γ 4 κα είναι 45

46 ίςοι με το μθδζν με ζλεγχο που πραγματοποιείται με το κριτιριο F για υποςφνολο μεταβλθτϊν. Αν υποκζςουμε ότι οι εποχικοί παράγοντεσ επθρεάηουν μόνο τθν κλίςθ το μοντζλο μπορεί να γραφτεί ωσ εξισ : Y i =b 0 + b 1 Χ i1 + δ 2 D i2 Χ i1 + δ 3 D i3 Χ i1 + δ 4 D i4 Χ i1 + ε i, i=1,,n (3.21) Y i = b 0 + b 1 Χ i1 + ε i, i=1,,n για το πρϊτο τρίμθνο και θ αναμενόμενθ ι προςδοκϊμενθ τιμι είναι θ εξισ : Ε(Υ)= b 0 + b 1 Χ 1 Y i = b 0 + (b 1 +δ 2 )Χ i1 + ε i, i=1,,n για το δεφτερο τρίμθνο και θ αναμενόμενθ ι προςδοκϊμενθ τιμι είναι θ εξισ : Ε(Υ)= b 0 + (b 1 +δ 2 )Χ 1 Y i = b 0 + (b 1 +δ 3 )Χ i1 + ε i, i=1,,n για το τρίτο τρίμθνο και θ αναμενόμενθ ι προςδοκϊμενθ τιμι είναι θ εξισ : Ε(Υ)= b 0 + (b 1 +δ 3 )Χ 1 Y i = b 0 + (b 1 +δ 4 )Χ i1 + ε i, i=1,,n για το τζταρτο τρίμθνο και θ αναμενόμενθ ι προςδοκϊμενθ τιμι είναι θ εξισ : Ε(Υ)= b 0 + (b 1 +δ 4 )Χ 1. Αν ο εποχικόσ παράγοντα δεν ζχει καμία επίδραςθ ςτθ διαμόρφωςθ των τιμϊν τθσ εξαρτθμζνθσ μεταβλθτισ Υ τότε οι ςυντελεςτζσ δ 2, δ 3, δ 4 κα είναι ίςοι με το μθδζν. Επομζνωσ για τον ζλεγχο του εποχικοφ παράγοντα ελζγχουμε τθν υπόκεςθ Θ 0 : δ 2 =δ 3 =δ 4 =0 με το κριτιριο F για υποςφνολο μεταβλθτϊν. Αν υποκζςουμε ότι οι εποχικοί παράγοντεσ επθρεάηουν και το ςτακερό όρο αλλά και τθν κλίςθ το μοντζλο μπορεί να γραφτεί ωσ εξισ : Y i = b 0 + b 1 Χ i1 + γ 2 D i2 + γ 3 D i3 + γ 4 D i4 + δ 2 D i2 Χ i1 + δ 3 D i3 Χ i1 + δ 4 D i4 Χ i1 + ε i,i=1,,n (3.22) Y i = b 0 + b 1 Χ i1 + ε i, i=1,,n για το πρϊτο τρίμθνο και θ αναμενόμενθ ι προςδοκϊμενθ τιμι είναι θ εξισ : Ε(Υ)= b 0 + b 1 Χ 1 Y i = (b 0 +γ 2 ) + (b 1 +δ 2 )Χ i1 + ε i, i=1,,n για το δεφτερο τρίμθνο και θ αναμενόμενθ ι προςδοκϊμενθ τιμι είναι θ εξισ : Ε(Υ)= (b 0 +γ 2 ) + (b 1 +δ 2 )Χ 1 Y i = (b 0 +γ 3 ) + (b 1 +δ 3 )Χ i1 + ε i, i=1,,n για το τρίτο τρίμθνο 46

47 και θ αναμενόμενθ ι προςδοκϊμενθ τιμι είναι θ εξισ : Ε(Υ)= (b 0 +γ 3 ) + (b 1 +δ 3 )Χ 1 Y i = (b 0 +γ 4 ) + (b 1 +δ 4 )Χ i1 + ε i, i=1,,n για το τζταρτο τρίμθνο και θ αναμενόμενθ ι προςδοκϊμενθ τιμι είναι θ εξισ : Ε(Υ)= (b 0 +γ 4 ) + (b 1 +δ 4 )Χ ΜΟΝΣΕΛΑ ΠΟΤ ΠΕΡΙΛΑΜΒΑΝΟΤΝ ΑΛΛΗΛΕΠΙΔΡΑΕΙ (INTERACTIONS) Οι ανεξάρτθτεσ μεταβλθτζσ οι οποίεσ χρθςιμοποιοφνται ςε ζνα μοντζλο παλινδρόμθςθσ αλλθλεπιδροφν (interact) ςτον προςδιοριςμό τθσ εξαρτθμζνθσ μεταβλθτισ, όταν θ επιμζρουσ επίδραςθ μιασ από αυτζσ εξαρτάται από τθν τιμι που παίρνει κάποια άλλθ. Τα προςκετικά μοντζλα (additive models) που ζχουμε κεωριςει δεν λαμβάνουν υπόψθ τουσ αλλθλεπιδράςεισ. Το μοντζλο παλινδρόμθςθσ με εικονικζσ μεταβλθτζσ μπορεί να τροποποιθκεί προκειμζνου να λάβει υπόψθ του αλλθλεπιδράςεισ μεταξφ ποιοτικϊν και ποςοτικϊν ανεξάρτθτων μεταβλθτϊν. Ζνασ όροσ αλλθλεπίδραςθσ ορίηεται από το γινόμενο των τιμϊν των μεταβλθτϊν, οι οποίεσ ελζγχονται ωσ προσ το ενδεχόμενο τθσ αλλθλεπίδραςθσ. Αν οι ευκείεσ παλινδρόμθςθσ δεν είναι παράλλθλεσ τότε θ ποιοτικι ανεξάρτθτθ μεταβλθτι αλλθλεπιδρά με μια, ι περιςςότερεσ, από τισ ποςοτικζσ ανεξάρτθτεσ μεταβλθτζσ. Το μοντζλο παλινδρόμθςθσ με εικονικζσ μεταβλθτζσ μπορεί ςτθν περίπτωςθ αυτι να τροποποιθκεί για να αντικατοπτρίηει αυτζσ τισ αλλθλεπιδράςεισ. Δφο ανεξάρτθτεσ μεταβλθτζσ είναι δυνατόν να αλλθλεπιδροφν, ανεξάρτθτα από το κατά πόςον είναι μεταξφ τουσ ςτατιςτικά ςυςχετιςμζνεσ. Ο όροσ αλλθλεπίδραςθ αναφζρεται ςτον τρόπο με τον οποίο ανεξάρτθτεσ μεταβλθτζσ ςυνδυάηονται για να επθρεάςουν (affect) μια εξαρτθμζνθ μεταβλθτι και όχι ςτθν ςχζςθ μεταξφ των ανεξαρτιτων μεταβλθτϊν αυτϊν κακ' αυτϊν. Ακολουκεί ζνα παράδειγμα με χρθςιμοποίθςθ εικονικϊν μεταβλθτϊν ςε πολλαπλι παλινδρόμθςθ και χριςθ του ςτατιςτικοφ πακζτου SPSS. Εξετάηεται αν το φφλο, το 1980, επθρζαηε τισ αμοιβζσ των κακθγθτϊν ςτο Ρανεπιςτιμιο, επιλζχτθκε ζνα τυχαίο δείγμα από 6 άνδρεσ και 6 γυναίκεσ μεταξφ των Επικοφρων Κακθγθτϊν ενόσ Αμερικανικοφ Ρανεπιςτθμίου. Τα δεδομζνα για μιςκοφσ και χρόνια προχπθρεςίασ εμφανίηονται ςτον πίνακα που ακολουκεί. Σθμειϊνεται ότι και ςτα δφο δείγματα υπάρχουν δφο κακθγθτζσ με 3 χρόνια προχπθρεςίασ, ενϊ δεν υπιρχαν άνδρεσ κακθγθτζσ με 2 χρόνια προχπθρεςίασ. 47

48 Χρόνια προχπθρεςίασ Χ Μιςκόσ Τ(άνδρεσ) Μιςκόσ Τ(γυναίκεσ) Ρίνακασ 3.2 Μιςκοί (ςε χιλ.$) και χρόνια προχπθρεςίασ Ηθτείται να εξεταςκεί θ ςχζςθ των μιςκϊν Υ, με τθν προχπθρεςία των κακθγθτϊν και το φφλο τουσ. Ππωσ είναι φυςικό, περιμζνει κανείσ να υπάρχει μια ςχζςθ ευκείασ παλινδρόμθςθσ μεταξφ του μζςου μιςκοφ και τθσ προχπθρεςίασ τόςο για τουσ άνδρεσ όςο και για τισ γυναίκεσ. Με τθν υπόκεςθ αυτι κα χρθςιμοποιθκοφν 2 ανεξάρτθτεσ μεταβλθτζσ: Χ 1 =προχπθρεςία ςε ζτθ (που είναι ποςοτικι μεταβλθτι) D=φφλο των κακθγθτϊν (που είναι ποιοτικι μεταβλθτι).θ D είναι μια εικονικι μεταβλθτι με τιμζσ: D= για κακθγιτρια για κακθγθτι Δεδομζνου ότι μασ ενδιαφζρει να επιτρζψουμε ςτισ κλίςεισ των ευκειϊν που αναφζρονται ςτθν ςχζςθ μιςκϊν και προχπθρεςίασ ανδρϊν και γυναικϊν κακθγθτϊν, να διαφζρουν, ςυνεπάγεται ότι κα πρζπει να επιτρζψουμε αλλθλεπίδραςθ μεταξφ των δφο μεταβλθτϊν Χ 1 και D i. Θα πρζπει δθλαδι να υποκζςουμε ότι θ μεταβολι ςτο Ε(Y X 1 ), που αντιςτοιχεί ςε μια μεταβολι τθσ μεταβλθτισ Χ 1, εξαρτάται από το αν ο κακθγθτισ είναι άνδρασ ι γυναίκα. Ρροκειμζνου να επιτρζψουμε τθν αλλθλεπίδραςθ αυτι, δθλαδι τθν διαφορά ςτισ κλίςεισ των ευκειϊν, χρθςιμοποιοφμε και τον όρο αλλθλεπίδραςθσ Χ 1 D ςτο μοντζλο. Επομζνωσ, το μοντζλο που μασ ενδιαφζρει να μελετιςουμε ςτθν περίπτωςθ αυτι είναι το: Y= b 0 +b 1 Χ 1 +γd+δχ 1 D+ε Ε(Y X 1 )=b 0 +b 1 Χ 1 +γd+δχ 1 D Θ προςκικθ του όρου αλλθλεπίδραςθσ Χ 1 D επιτρζπει ςτο μζγεκοσ που εκφράηει θ μεταβλθτι D να αλλάηει ςυμπεριφορά, ανάλογα με τισ τιμζσ τθσ μεταβλθτισ D. Στθν περίπτωςθ αυτι ζχουμε ζνα μοντζλο δεφτερθσ τάξθσ (second order model). Στθν περίπτωςθ του μοντζλου Υ= b 0 +b 1 Χ 1 +γd+ε μιλάμε για μοντζλο πρϊτθσ τάξθσ (first order model). Ο όροσ αλλθλεπίδραςθσ Χ 1 D ςτο μοντζλο δεφτερθσ τάξθσ, όταν οι ανεξάρτθτεσ μεταβλθτζσ είναι ποιοτικζσ, επιτρζπει ςτο διςδιάςτατο επίπεδο παλινδρόμθςθσ να καμπυλϊνεται και να γίνεται επιφάνεια. Θ αλλθλεπίδραςθ των παραμζτρων του μοντζλου μπορεί να γίνει καλφτερα 48

49 αντιλθπτι αν δϊςουμε τιμζσ ςτθν εικονικι μεταβλθτι D. Ζτςι, για παράδειγμα, όταν μασ ενδιαφζρει να καταςκευάςουμε τθν ευκεία παλινδρόμθςθσ για τισ κακθγιτριεσ, D= 0 και επομζνωσ, ςτθν περίπτωςθ αυτι: Ε(Y X 1 )=b 0 +b 1 Χ 1 +γ0+δχ 1 0= b 0 +b 1 Χ 1 Ζτςι, b 0 είναι το ςθμείο τομισ για το Y ςτθν παλινδρόμθςθ για τισ κακθγιτριεσ ενϊ b 1 είναι θ κλίςθ τθσ ευκείασ που αναφζρεται ςτθν ςχζςθ αναμενόμενων μιςκϊν και χρόνου προχπθρεςίασ για κακθγιτριεσ και μόνο. Ομοίωσ, θ ευκεία παλινδρόμθςθσ για τουσ κακθγθτζσ είναι αυτι που προκφπτει από το γενικό μοντζλο, για D= 1. Τότε: Ε(Y X 1 )=b 0 +b 1 Χ 1 +γ1+δχ 1 1= (b 0 +γ)+(b 1 +δ)χ 1 Δθλαδι, το ςθμείο τομισ για τθν παλινδρόμθςθ που αναφζρεται ςτουσ κακθγθτζσ είναι το (b 0 +γ), ενϊ θ κλίςθ του ςυντελεςτι του Χ 1 είναι ίςθ με (b 1 +δ). Δεδομζνου ότι θ κλίςθ τθσ παλινδρόμθςθσ για τουσ κακθγθτζσ είναι (b 1 +δ) ενϊ θ αντίςτοιχθ κλίςθ για τισ γυναίκεσ είναι b 1, προκφπτει ότι θ ποςότθτα b 1 +δ-b 1 =δ αναφζρεται ςτθν διαφορά των κλίςεων των δφο γραμμϊν. Ραρομοίωσ, το γ αναφζρεται ςτθν διαφορά των τομϊν του άξονα Υ από τισ δφο ευκείεσ παλινδρόμθςθσ. Από τα δεδομζνα του προβλιματοσ προκφπτει ότι θ ενδεδειγμζνθ μεκοδολογία για το πρόβλθμα είναι αυτι τθσ πολλαπλισ παλινδρόμθςθσ με εικονικζσ μεταβλθτζσ. Θ λφςθ του προγράμματοσ SPSS statistics 17.0 για τα δεδομζνα του παραδείγματοσ εμφανίηεται ςτουσ πίνακεσ που ακολουκοφν. Ρρϊτα από όλα ειςάγουμε τα δεδομζνα τθσ εξαρτθμζνθσ μεταβλθτισ μιςκόσ ςε μία ςτιλθ Υ. Ζπειτα ειςάγουμε τα δεδομζνα των ανεξάρτθτων μεταβλθτϊν χρόνια προχπθρεςίασ και φφλο ςε 2 αντίςτοιχα ςτιλεσ Χ 1 και D. Επειδι θ μεταβλθτι φφλο είναι ποιοτικι με 2 κατθγορίεσ, άνδρασ και γυναίκα, ςτθν ειςαγωγι τθσ μεταβλθτισ κα χρθςιμοποιιςουμε τθν τιμι 0 για τισ γυναίκεσ και τθν τιμι 1 για τουσ άνδρεσ. Κατόπιν δθμιουργοφμε τθν μεταβλθτι Χ 1 D, χρθςιμοποιϊντασ τθν επιλογι Transform και ςτθ ςυνζχεια τθν επιλογι compute. Στο παράκυρο που εμφανίηεται, τοποκετοφμε το όνομα τθσ νζασ μεταβλθτισ Χ 1 D ςτο Target Variable, και τθν ςυνάρτθςθ τθν οποία δθμιουργείται, Χ1* D, ςτο Numeric Expression. Στθν ςυνζχεια επιλζγουμε ΟΚ. Τα αποτελζςματα είναι τα ακόλουκα: 49

50 Variables Entered/Removed Model Variables Entered Variables Removed Method 1 X1D, X1, D a. Enter a. All requested variables entered. Model Summary Model R R Square Adjusted R Square Std. Error of the Estimate a a. Predictors: (Constant), X1D, X1, D ANOVA b Model Sum of Squares df Mean Square F Sig. 1 Regression a Residual Total a. Predictors: (Constant), X1D, X1, D b. Dependent Variable: Y Model Coefficients a Unstandardized Coefficients Standardized Coefficients B Std. Error Beta 1 (Constant) X D X1D a. Dependent Variable: Y t Sig. 50

51 Θ τιμι του R 2, του πολλαπλοφ ςυντελεςτι προςδιοριςμοφ (multiple coefficient of determination), αποτελεί ζνα μζτρο για το πόςο καλά το μοντζλο εξθγεί τα δεδομζνα. Ππωσ βλζπουμε από τον πίνακα, το 99.2% του ακροίςματοσ των τετραγϊνων των αποκλίςεων των τιμϊν του Y από το Υ εξθγείται από τουσ παράγοντεσ που ζχουν χρθςιμοποιθκεί ςτο μοντζλο. Καλφτερο μζτρο είναι ο προςαρμοςμζνοσ πολλαπλόσ ςυντελεςτισ (Adjusted R Square)αφοφ λαμβάνει υπόψθ του και τον αρικμό των μεταβλθτϊν που ζχουν χρθςιμοποιθκεί. Θ τιμι του για το ςυγκεκριμζνο πρόβλθμα 98.9% είναι επίςθσ πολφ ικανοποιθτικι. Για να εξετάςουμε αν κάκε μια από τισ ανεξάρτθτεσ μεταβλθτζσ του μοντζλου δίνει πλθροφορίεσ για τθν πρόβλεψθ του Υ κα πρζπει να ελζγξουμε τθν μθδενικι υπόκεςθ Θ 0 :b 1 =γ=δ=0 ζναντι τθσ εναλλακτικισ υπόκεςθσ Θ 1 :τουλάχιςτον μία από τισ παραμζτρουσ b 1,γ ι δ διαφζρει από το μθδζν. Θ ςτατιςτικι ςυνάρτθςθ ελζγχου αυτισ τθσ υπόκεςθσ ακολουκεί τθν κατανομι F με 3,8 βακμοφσ ελευκερίασ. H ςυγκεκριμζνθ τιμι τθσ κατανομισ F φαίνεται από τον πίνακα ANOVA ότι είναι Δεδομζνου ότι θ τιμι αυτι είναι μεγαλφτερθ από τθν τιμι τθσ κατανομισ F με 3,8 βακμοφσ ελευκερίασ ςε επίπεδο ςθμαντικότθτασ α=0.05 (από τουσ πίνακεσ τθσ F κατανομισ προκφπτει ότι θ τιμι αυτι είναι F = 4.07), απορρίπτουμε τθν μθδενικι υπόκεςθ και ςυμπεραίνουμε ότι τουλάχιςτον μια από τισ παραμζτρουσ b 1,γ ι δ διαφζρει ςθμαντικά από το μθδζν. Το παρατθροφμενο επίπεδο ςθμαντικότθτασ (p-value) για τον ζλεγχο αυτό, εμφανίηεται δεξιά τθσ τιμισ τθσ ςτατιςτικισ ςυνάρτθςθσ F και είναι ίςο με 0.000, τιμι που οδθγεί ςτθν απόρριψθ τθσ Θ 0 για α=0.05. Οι τιμζσ των εκτιμθτριϊν για το μοντζλο των τεςςάρων παραμζτρων εμφανίηονται ςτον πίνακα Coefficients. Ζτςι ζχουμε τθν εξισ εξίςωςθ πρόβλεψθσ Υ= Χ D+0.260X 1 D Θ τιμι τθσ ςτατιςτικισ ςυνάρτθςθ t για κάκε μια παράμετρο του μοντζλου εμφανίηεται ςτον πίνακα Coefficients. Τα παρατθροφμενα επίπεδα ςθμαντικότθτασ (p-values) εμφανίηονται και αυτά ςτον πίνακα Coefficients δίπλα τισ τιμζσ τθσ ςτατιςτικισ ςυνάρτθςθσ. Οι τιμζσ αυτζσ ζχουν υπολογιςκεί για τον δίπλευρο ζλεγχο. Θ τιμι του παρατθροφμενου επιπζδου ςθμαντικότθτασ για μονόπλευρο ζλεγχο είναι το μιςό τθσ τιμισ του δίπλευρου ελζγχου. Εξετάηοντασ τα παρατθροφμενα επίπεδα ςθμαντικότθτασ βλζπουμε ότι οι ςυντελεςτζσ τθσ ευκείασ παλινδρόμθςθσ διαφζρουν ςθμαντικά από το μθδζν με p-values μικρότερεσ ι ίςεσ από Οι εκτιμϊμενεσ τυπικζσ αποκλίςεισ των εκτιμθτριϊν που χρθςιμοποιοφνται για να καταςκευαςκοφν τα διαςτιματα εμπιςτοςφνθσ για τουσ ςυντελεςτζσ παλινδρόμθςθσ εμφανίηονται ςτθ ςτιλθ std.error ςτο πίνακα Coefficients. Ο πίνακασ ANOVA μασ δίνει τα ακροίςματα τετραγϊνων ενϊ θ τυπικι απόκλιςθ παρουςιάηεται ςτον πίνακα Model Summary ςτθ ςτιλθ Std. Error of the Estimate και ιςοφται με

52 Θ γραφικι παράςταςθ των δφο ευκειϊν παλινδρόμθςθσ εμφανίηεται ςτο ςχιμα που ακολουκεί. Σχιμα 3.5 H εξίςωςθ πρόβλεψθσ Υ= Χ D+0.260X 1 D μασ δίνει τθν εξίςωςθ για τισ κακθγιτριεσ με D=0: Υ= Χ 1 και για τουσ κακθγθτζσ με D=1: Υ= Χ * X 1 *1= Χ 1. Από τθν γραφικι παράςταςθ παρατθροφμε ότι θ ευκεία παλινδρόμθςθσ για τισ αποδοχζσ που αντιςτοιχοφν ςτουσ κακθγθτζσ εμφανίηεται να αυξάνει ταχφτερα από τθν αντίςτοιχθ ευκεία για τισ κακθγιτριεσ. Δεδομζνου, ότι, όπωσ είπαμε προθγουμζνωσ, θ παράμετροσ δ μετρά διαφορζσ ςτισ κλίςεισ των δφο ευκειϊν, αν δ=0 οι κλίςεισ είναι οι ίδιεσ. Ρροκειμζνου να απαντιςουμε ςτο ερϊτθμα κα πρζπει να ελζγξουμε τθν μθδενικι υπόκεςθ H 0 : δ=0, ζναντι τθσ εναλλακτικισ υπόκεςθσ H A : δ 0. 52

53 Θ τιμι τθσ ςτατιςτικισ ςυνάρτθςθσ t για τα δεδομζνα που αντιςτοιχοφν ςτο δ εμφανίηεται ςτο τζλοσ τθσ ςτιλθσ t ςτον πίνακα Coefficients και είναι Λόγω τθσ μορφισ τθσ εναλλακτικισ υπόκεςθσ ο ζλεγχοσ που απαιτείται είναι μονόπλευροσ και απορρίπτουμε τθν H 0 αν t >t α. Από τον πίνακα των τιμϊν τθσ κατανομισ t, ζχουμε ότι, για α =0.05 και 8 βακμοφσ ελευκερίασ, θ τιμι αυτι t α,8 = Θ τιμι τθσ ςτατιςτικισ ςυνάρτθςθσ t για τα δεδομζνα είναι μεγαλφτερθ από τθν αντίςτοιχθ του πίνακα άρα ιςχφει θ εναλλακτικι υπόκεςθ και επομζνωσ οι ενδείξεισ από το ςυγκεκριμζνο δείγμα οδθγοφν ςτο ςυμπζραςμα ότι ο ρυκμόσ τθσ ετιςιασ αφξθςθσ των μιςκϊν των κακθγθτϊν υπερζχει του αντίςτοιχου ρυκμοφ αυξιςεων των μιςκϊν των κακθγθτριϊν. 3.5 ΑΛΛΕ ΧΡΗΕΙ ΣΩΝ ΕΙΚΟΝΙΚΩΝ ΜΕΣΑΒΛΗΣΩΝ Κατά τμιματα γραμμικι παλινδρόμθςθ (piecewise linear regression) Μερικζσ φορζσ θ παλινδρόμθςθ του Υ ςτο Χ ακολουκεί μια ςυγκεκριμζνθ γραμμικι ςχζςθ για κάποιεσ τιμζσ του Χ αλλά ζχει μια διαφορετικι γραμμικι ςχζςθ για άλλεσ τιμζσ του Χ. Μια δίτιμθ εικονικι μεταβλθτι μπορεί να χρθςιμοποιθκεί για τθν εφαρμογι μιασ κατά τμιματα γραμμικισ παλινδρόμθςθσ που αποτελείται από δφο τμιματα. Θα περιοριςτοφμε ςτθν περίπτωςθ όπου θ τιμι του Χ *, το ςθμείο όπου αλλάηει θ κλίςθ, είναι γνωςτό. Με τθ βοικεια των εικονικϊν μεταβλθτϊν ζνα μοντζλο κατά τμιματα γραμμικισ παλινδρόμθςθσ κα μποροφςε να διατυπωκεί ωσ εξισ : Y i =b 0 +b 1 Χ i + b 2 (Χ i -X * )D i +ε i (3.23) όπου Χ * = θ ςυγκεκριμζνθ τιμι τθσ Χ που επζρχεται θ μεταβολι αν Χ και D i = αν Χ Επομζνωσ για D i =0 : Y i =b 0 +b 1 Χ i +ε i, ενϊ για D i =1 : Y i =(b 0 -b 2 X * )+(b 1 + b 2 )Χ i +ε i. Ο ςυντελεςτισ b 1 είναι θ κλίςθ του πρϊτου τμιματοσ, ενϊ θ κλίςθ του δεφτερου τμιματοσ είναι b 1 + b 2. Θ μεταβολι ι το ςπάςιμο τθσ παλινδρόμθςθσ που επζρχεται ςτθν τιμι Χ * κα είναι ςθμαντικι αν ο ςυντελεςτισ b 2 είναι ςθμαντικόσ. Θ ςθμαντικότθτα του ςυντελεςτι b 2 ελζγχεται με ζλεγχο t. 53

54 Σχιμα 3.6 Κατά τμιματα γραμμικι παλινδρόμθςθ Για παράδειγμα, ςε μια μελζτθ, το κόςτοσ ανά παραγόμενθ μονάδα Υ ςε ςχζςθ με το μζγεκοσ Χ τθσ ποςότθτασ παραγωγισ είναι πικανό να ακολουκεί μια ςυγκεκριμζνθ ςχζςθ γραμμικισ παλινδρόμθςθσ μζχρι το ςθμείο Χ*=500. Στο ςθμείο αυτό θ κλίςθ μεταβάλλεται εξαιτίασ του γεγονότοσ ότι ο τρόποσ παραγωγισ γίνεται πιο αποτελεςματικόσ μόνο όταν θ παραγωγι αφορά περιςςότερα από 500 κομμάτια του προϊόντοσ. Θ τιμι ανά μονάδα είναι ενδεχόμενο να ελαττωκεί όταν γίνει αγορά πρϊτων υλϊν για παραγωγι μεγαλφτερθ από 500 κομμάτια. Το ςχιμα που ακολουκεί περιγράφει τθν κατάςταςθ αυτι : 54

55 Σχιμα 3.7 Θα εξετάςουμε τϊρα πϊσ μια δίτιμθ εικονικι μεταβλθτι μπορεί να χρθςιμοποιθκεί για τθν εφαρμογι μιασ κατά τμιματα γραμμικισ παλινδρόμθςθσ που αποτελείται από δφο τμιματα, όπου θ τιμι του Χ*, το ςθμείο όπου αλλάηει θ κλίςθ. Στο παράδειγμά μασ το ςθμείο αυτό είναι Χ*=500. Το μοντζλο για τθν περίπτωςθ αυτι μπορεί να εκφραςτεί ωσ: Y i =b 0 +b 1 Χ i1 + b 2 (Χ i -500) D i +ε i όπου Χ i1 ο αρικμόσ των παραγομζνων μονάδων και D i = αν Χ αν Χ Το ότι αυτό το μοντζλο παλινδρόμθςθσ οδθγεί ςε μια κατά 2 τμιματα γραμμικι παλινδρόμθςθ φαίνεται εάν δοφμε ότι από ςυνάρτθςθ παλινδρόμθςθσ: E(Y) = b 0 +b 1 X 1 +b 2 (Χ 1-500)D όταν Χ και D=0 θ ςυνάρτθςθ γίνεται E(Y) = b 0 +b 1 X 1, 55

56 ενϊ όταν Χ 1 >500 και D=1 θ ςυνάρτθςθ γίνεται E(Y) = (b 0-500b 2 )+(b 1 + b 2 )Χ 1. Επομζνωσ b 1 και (b 1 + b 2 ) είναι οι κλίςεισ των δφο ευκειϊν παλινδρόμθςθσ ενϊ b 0 και (b 0-500b 2 ) είναι τα δφο ςθμεία τομισ των ευκειϊν αυτϊν με τον άξονα των Υ. Οι παράμετροι αυτζσ φαίνονται ςτο ςχιμα που ακολουκεί. Ο λόγοσ που αφαιροφμε 500b 2 από το b 0 για να βροφμε το ςθμείο τομισ τθσ δεφτερθσ ευκείασ είναι ότι μετράμε τθν επίπτωςθ τθσ διαφορικισ επίδραςθσ b 2 (differential effect) ςτθν κλίςθ, κατά τθν αρνθτικι κατεφκυνςθ από το ςθμείο Χ*=500 ςτο 0. Σχιμα3.8 56

57 3.5.2 Αςυνζχεια ςτθ ςυνάρτθςθ παλινδρόμθςθσ (discontinuity in regression fuction) Σε οριςμζνεσ περιπτϊςεισ θ ςυνάρτθςθ γραμμικισ παλινδρόμθςθσ όχι μόνο αλλάηει κλίςθ ςε κάποια τιμι Χ* τθσ ανεξάρτθτθσ μεταβλθτισ Χ αλλά επίςθσ παρουςιάηει και μία αςυνζχεια ςτο ςθμείο αυτό. Θ χρθςιμοποίθςθ μιασ ακόμα δίτιμθσ εικονικισ μεταβλθτισ μπορεί να περιγράψει τθν αςυνζχεια αυτι. Το ςχιμα που ακολουκεί περιγράφει μια τζτοια περίπτωςθ για μια εφαρμογι που αναφζρεται ςτον απαιτοφμενο χρόνο Υ για τθν επιτυχι ολοκλιρωςθ μιασ εργαςίασ όταν χρθςιμοποιείται ωσ ανεξάρτθτθ μεταβλθτι θ δυςκολία Χ τθσ εργαςίασ, όπου θ δυςκολία τθσ εργαςίασ μετριζται με μια ποςοτικι κλίμακα από 0 ζωσ 100. Υποκζτουμε ότι θ κλίςθ τθσ ευκείασ παλινδρόμθςθσ μεταβάλλεται ςτο ςθμείο Χ*=40 και πιςτεφουμε ότι ςτο ςθμείο αυτό υπάρχει αςυνζχεια. Παράδειγμα για αςυνεχι κατά τμιματα γραμμικι παλινδρόμθςθ Σχιμα 3.9 Αςυνζχεια ςτθν παλινδρόμθςθ 57

58 Το μοντζλο παλινδρόμθςθσ για το πρόβλθμα αυτό μπορεί να γραφεί ωσ: Y i =b 0 +b 1 Χ i1 + b 2 (Χ i1-40)d i2 +b 3 D i3 +ε i Ππου Χ i1 το επίπεδο δυςκολίασ τθσ εργαςίασ D i2 = και D i3 = αν Χ διαφορετικά αν Χ διαφορετικά Θ ςυνάρτθςθ παλινδρόμθςθσ για το μοντζλο αυτό : Ε(Y)=b 0 +b 1 Χ 1 + b 2 (Χ 1-40)D 2 +b 3 D 3 Πταν Χ 1 40 τότε D 2 =0 και D 3 =0, οπότε θ ςυνάρτθςθ παλινδρόμθςθσ γίνεται Ε(Y)=b 0 +b 1 Χ 1, ενϊ όταν Χ 40 τότε D 2 =1 και D 3 =1, οπότε θ ςυνάρτθςθ παλινδρόμθςθσ γίνεται: Ε(Y)=(b 0-40b 2 +b 3 )+(b 1 +b 2 )X 1 Στο ςχιμα που προθγικθκε φαίνονται τα δφο τμιματα τθσ ευκείασ παλινδρόμθςθσ όπωσ και οι παράμετροι που υπειςζρχονται. Ραρατθροφμε ότι το b 3 εκφράηει τθν διαφορά των μζςων αποκλίςεων για τισ δφο ευκείεσ παλινδρόμθςθσ ςτο ςθμείο Χ*=40 ενϊ το b 2 εκφράηει τθν διαφορά των δφο κλίςεων. Θ εκτίμθςθ των ςυντελεςτϊν του μοντζλου δεν παρουςιάηει κανζνα νζο πρόβλθμα. Ο ζλεγχοσ για το κατά πόςον b 3 =0 γίνεται με t ζλεγχο. Εάν ςυμπεράνουμε ότι b 3 =0 τότε θ ςυνάρτθςθ παλινδρόμθςθσ είναι ςυνεχισ ςτο ςθμείο Χ* οπότε καταλιγουμε ςτο προθγοφμενο μοντζλο μιασ κατά τμιματα γραμμικισ παλινδρόμθςθσ Εφαρμογι εικονικών μεταβλθτών ςτισ χρονοςειρζσ (time series applications) Οι οικονομολόγοι και οι αναλυτζσ επιχειρθματικϊν αποφάςεων χρθςιμοποιοφν ςυχνά δεδομζνα χρονολογικϊν ςειρϊν ςτθν ανάλυςθ παλινδρόμθςθσ. Οι εικονικζσ μεταβλθτζσ είναι ςυχνά χριςιμεσ για μοντζλα παλινδρόμθςθσ χρονολογικϊν ςειρϊν. Για παράδειγμα, οι αποταμιεφςεισ Υ μπορεί να παλινδρομοφν το ειςόδθμα Χ όπου τα δεδομζνα, τόςο για τισ 58

59 αποταμιεφςεισ όςο και για το ειςόδθμα, είναι ετιςια για ζνα αρικμό ετϊν. Το μοντζλο που μπορεί να χρθςιμοποιθκεί είναι: Υ i =b 0 +b 1 X i1 +ε i με i=1,2,,n όπου Υ i και Χ i αντιςτοιχοφν ςε αποταμιεφςεισ και ειςόδθμα, αντίςτοιχα, για μια χρονικι περίοδο t. Ασ υποκζςουμε ότι θ υπό μελζτθ χρονικι περίοδοσ περιλαμβάνει ζτθ ειρινθσ και ζτθ πολζμου και ότι ο παράγοντασ αυτόσ κζλουμε να λθφκεί υπόψθ δοκζντοσ ότι θ εμπειρία ζχει δείξει πωσ οι αποταμιεφςεισ ςε περιόδουσ πολζμου τείνουν να είναι υψθλότερεσ. Σε μια τζτοια περίπτωςθ το κατάλλθλο μοντζλο ίςωσ είναι το: Υ i =b 0 +b 1 X i1 + b 2 D i2 +ε i με i=1,2,,n (3.24) όπου X i1 το ειςόδθμα και αν θ περίοδοσ είναι ειρθνικι D i2 = διαφορετικά Σθμειϊνεται ότι το μοντζλο παλινδρόμθςθσ (3.24) υποκζτει ότι θ τάςθ αποταμίευςθσ b 1 είναι ςτακερι και για τισ δφο περιόδουσ ειρινθσ και πολζμου. Μια άλλθ χριςθ των εικονικϊν μεταβλθτϊν ςε εφαρμογζσ χρονολογικϊν ςειρϊν παρατθρείται όταν χρθςιμοποιοφνται μθνιαία ι τριμθνιαία δεδομζνα. Ασ υποκζςουμε ότι οι τριμθνιαίεσ πωλιςεισ Y παλινδρομοφνται ςτισ τριμθνιαίεσ δαπάνεσ διαφιμιςθσ X 1 και ςτο τριμθνιαίο διακζςιμο προσ κατανάλωςθ προςωπικό ειςόδθμα Χ 2. Αν θ εποχι ζχει κάποια επίδραςθ ςτισ τριμθνιαίεσ πωλιςεισ μποροφμε να χρθςιμοποιιςουμε ζνα μοντζλο παλινδρόμθςθσ πρϊτθσ τάξεωσ που περιλαμβάνει τισ εποχιακζσ επιδράςεισ ωσ εξισ: Y i =b 0 +b 1 Χ i1 +b 2 Χ i2 +γ 3 D i3 +γ 4 D i4 +γ 5 D i5 +ε i,i=1,,n (3.25) Ππου Χ i1 οι τριμθνιαίεσ δαπάνεσ διαφιμιςθσ Χ i2 το τριμθνιαίο διακζςιμο για κατανάλωςθ προςωπικό ειςόδθμα D i3 = D i4 = D i5 = αν αναφζρεται ςτο πρϊτο τρίμθνο διαφορετικά αν αναφζρεται ςτο δεφτερο τρίμθνο διαφορετικά αν αναφζρεται ςτο τρίτο τρίμθνο διαφορετικά 59

60 Τζλοσ τα μοντζλα παλινδρόμθςθσ για χρονολογικζσ ςειρζσ ςυχνά υπόκεινται ςε ςυςχζτιςθ των ςφαλμάτων. Είναι ιδιαίτερα ςθμαντικό ςε τζτοιεσ περιπτϊςεισ να εξεταςκεί αν θ μοντελοποίθςθ των ςυνιςτωςϊν τθσ χρονολογικισ ςειράσ για τα δεδομζνα είναι επαρκισ, για να καταςτιςει τουσ όρουσ ςφάλματοσ αςυςχζτιςτουσ. 3.6 ΧΡΗΗ ΕΙΚΟΝΙΚΩΝ ΜΕΣΑΒΛΗΣΩΝ ΣΗ ΘΕΗ ΠΟΟΣΙΚΩΝ ΑΝΕΞΑΡΣΗΣΩΝ ΜΕΣΑΒΛΗΣΩΝ Ππωσ ζχουμε δει οι εικονικζσ μεταβλθτζσ χρθςιμοποιοφνται ςτθν περίπτωςθ όπου θ ανεξάρτθτθ μεταβλθτι είναι ποιοτικι. Υπάρχει όμωσ ενδεχόμενο να χρθςιμοποιθκοφν και ςε περιπτϊςεισ όπου θ ανεξάρτθτθ μεταβλθτι είναι ποςοτικι. Για παράδειγμα, θ ανεξάρτθτθ μεταβλθτι μπορεί να αναφζρεται ςτθν θλικία και να χρειάηεται να μεταςχθματιςκεί ϊςτε οι θλικίεσ να ομαδοποιθκοφν ςε κατθγορίεσ όπωσ, π.χ. κάτω των 21, 21-34, 35-39, κλπ. Για να εκφραςτοφν οι κατθγορίεσ που διαμορφϊνονται ςτισ θλικίεσ, χρθςιμοποιοφνται ςτθν περίπτωςθ αυτι εικονικζσ μεταβλθτζσ. Θ προςζγγιςθ αυτι κα μποροφςε να προκαλζςει ερωτθματικά αφοφ ζτςι αγνοοφμε ουςιαςτικά διακζςιμεσ πλθροφορίεσ. Αυτό ζχει επίςθσ ωσ ςυνζπεια να προςτίκενται νζεσ παράμετροι ςτο μοντζλο, γεγονόσ που οδθγεί ςε μείωςθ των βακμϊν ελευκερίασ που ςχετίηονται με το MSE (μζςο τετραγωνικό ςφάλμα). Ραρά τισ επιφυλάξεισ αυτζσ υπάρχουν περιπτϊςεισ που θ αντικατάςταςθ μιασ ποςοτικισ μεταβλθτισ με μια εικονικι μεταβλθτι είναι χριςιμθ. Ασ κεωριςουμε μια μεγάλθ δειγματολθπτικι ζρευνα ςτθν οποία εξετάηεται θ ςχζςθ μεταξφ των ρευςτϊν περιουςιακϊν ςτοιχείων (liquid assets) Y και τθσ θλικίασ (age) Χ του οικογενειάρχθ. Ασ υποκζςουμε ότι ζχουμε παρατθριςεισ ςτθν μελζτθ μασ για 2000 νοικοκυριά. Στθν περίπτωςθ αυτι θ απϊλεια 10 ι 20 βακμϊν ελευκερίασ είναι άνευ ςθμαςίασ. Ο αναλυτισ μπορεί να ζχει πολλοφσ προβλθματιςμοφσ για τθν μορφι τθσ ςυνάρτθςθσ παλινδρόμθςθσ θ οποία ενδεχομζνωσ να είναι εξαιρετικά πολφπλοκθ. Επομζνωσ ίςωσ, χρθςιμοποιιςει τθν προςζγγιςθ με εικονικζσ μεταβλθτζσ ϊςτε να αποκτιςει πλθροφορίεσ για τθν μορφι τθσ ςυνάρτθςθσ, χωρίσ να αναγκαςκεί να κάνει ςυγκεκριμζνεσ υποκζςεισ για τθν ςυναρτθςιακι τθσ μορφι. Μια άλλθ περίπτωςθ χριςθσ εικονικϊν μεταβλθτϊν είναι ςε κατά τμιματα γραμμικι παλινδρόμθςθ και ςυμβαίνει όταν ο αναλυτισ ζχει μελζτεσ μεγάλθσ ζκταςθσ όπου θ ςυναρτθςιακι μορφι τθσ παλινδρόμθςθσ δεν είναι ςαφισ. Θ προςζγγιςθ αυτι χρθςιμοποιεί ζνα μεγάλο αρικμό τμθμάτων για τθν κατά τμιματα παλινδρόμθςθ. Και ςτθν περίπτωςθ αυτι υπάρχει απϊλεια βακμϊν ελευκερίασ ςτθν εκτίμθςθ του MSE, αλλά το γεγονόσ αυτό, δεν δθμιουργεί προβλιματα ςε μελζτεσ μεγάλθσ ζκταςθσ. Το πλεονζκτθμα είναι ότι με τον τρόπο 60

61 αυτό κερδίηουμε πλθροφορίεσ για τθν μορφι τθσ ςυνάρτθςθσ παλινδρόμθςθσ χωρίσ να απαιτείται να γίνουν ιςχυρζσ υποκζςεισ για τθν ςυναρτθςιακι τθσ μορφι. 3.7 ΕΛΕΓΧΟΙ ΣΑΘΕΡΟΣΗΣΑ ΣΩΝ ΤΝΣΕΛΕΣΩΝ Θ ςτακερότθτα των ςυντελεςτϊν ενόσ εκτιμθμζνου μοντζλου είναι μία από τισ πλζον επικυμθτζσ ιδιότθτεσ του. Δεν μποροφμε να αναμζνουμε ικανοποιθτικζσ προβλζψεισ αν αυτζσ προζρχονται από ζνα εκτιμθμζνο μοντζλο του οποίου οι ςυντελεςτζσ δεν παραμζνουν ςτακεροί διαχρονικά. Γι αυτό υπάρχουν ζλεγχοι ςτακερότθτασ των ςυντελεςτϊν ενόσ μοντζλου, όπωσ ο ζλεγχοσ Chow Ζλεγχοσ τθσ ςτακερότθτασ των ςυντελεςτών του μοντζλου με εικονικζσ μεταβλθτζσ Πταν εκτιμοφμε ζνα μοντζλο παλινδρόμθςθσ υποκζτουμε ότι οι παράμετροι b 0, b 1,, b k είναι ςτακερζσ ςε όλεσ τισ παρατθριςεισ Y i. Σε πολλζσ περιπτϊςεισ θ γραφικι παράςταςθ των υπολοίπων ι οι πλθροφορίεσ, για τον τρόπο που ζχουν ςυλλεχτεί τα δεδομζνα, μασ υπαγορεφουν να εκτιμιςουμε 2 υποδείγματα ζνα για τισ n 1 παρατθριςεισ : Y i = b 0 + b 1 Χ i1 + b 2 Χ i2 + + b k Χ ik + ε i όπου i=1,,n 1 και ζνα για τισ n 2 = n-n 1 παρατθριςεισ :Y i = b 0 + b 1 Χ i1 + b 2 Χ i2 + + b k Χ ik + ε i όπου i= n 1 +1,,n. Με βάςθ το δείγμα των δεδομζνων μασ μποροφμε να ελζγξουμε τθν υπόκεςθ ότι οι παράμετροι των 2 υποδειγμάτων είναι ίδιοι, που ςθμαίνει ότι το μοντζλο είναι κοινό για όλεσ τισ παρατθριςεισ Y i i= 1,,n. Θ μθδενικι και εναλλακτικι υπόκεςθ του ελζγχου εξειδικεφονται ωσ εξισ : Θ 0 : b j =b j,j= 0,1,,k οπότε Y i = b 0 + b 1 Χ i1 + b 2 Χ i2 + + b k Χ ik + ε i όπου i= 1,,n Θ A : b j b j,j= 0,1,,k οπότε Y i = b 0 + b 1 Χ i1 + b 2 Χ i2 + + b k Χ ik + γ 0 D i + γ 1 D i X i1 + + γ k D i X ik + ε i όπου i= 1,,n, D i = αν αν και γ 0 = b 0 - b 0,,γ k = b k - b k. Για να ελζγξουμε τθν Θ 0 ζναντι τθσ Θ 1 εργαηόμαςτε ςταδιακά. Ρρϊτα εκτιμοφμε το μοντζλο τθσ Θ 1 Y i = b 0 + b 1 Χ i1 + b 2 Χ i2 + + b k Χ ik + γ 0 D i + γ 1 D i X i1 + + γ k D i X ik + ε i και ζςτω SSE 1 το 61

62 άκροιςμα των τετραγωνικϊν καταλοίπων το οποίο ζχει n-2(k+1) βακμοφσ ελευκερίασ. Ζπειτα εκτιμοφμε το μοντζλο τθσ Θ 0 Y i = b 0 + b 1 Χ i1 + b 2 Χ i2 + + b k Χ ik + ε i και ζςτω SSE 0 το άκροιςμα των τετραγωνικϊν καταλοίπων το οποίο ζχει n-(k+1) βακμοφσ ελευκερίασ. Θ διαφορά SSE 0 -SSE 1 ζχει *n-(k+1)]-[n-2(k+1)]=k+1 βακμοφσ ελευκερίασ. Σφμφωνα με το κριτιριο F το ςτατιςτικό F*= (3.27) ακολουκεί τθν κατανομι F Ν1,Ν2 με N 1 = k+1 και N 2 = n-2(k+1) βακμοφσ ελευκερίασ. Επομζνωσ αν F*> F Ν1,Ν2,α απορρίπτουμε τθν Θ 0 ςτο α=0.05. Ο ζλεγχοσ αυτόσ είναι γνωςτόσ ωσ ζλεγχοσ του Chow και μπορεί να εφαρμοςτεί μόνο αν n 1 > k+1 και n 2 > k+1. Αν n 1 > k+1 αλλά n 2 < k+1 τότε ο Chow προτείνει να εκτιμιςουμε το μοντζλο με τισ n 1 παρατθριςεισ και ζςτω SSEn 1 το άκροιςμα των τετραγωνικϊν καταλοίπων το οποίο ζχει n 1 - (k+1) βακμοφσ ελευκερίασ. Θ διαφορά SSE 0 -SSEn 1 ζχει n 2 βακμοφσ ελευκερίασ. Το ςτατιςτικό F*= (3.28) ακολουκεί τθν κατανομι F Ν1,Ν2 με N 1 =n 2 και N 2 = n 1 -k-1 βακμοφσ ελευκερίασ. Επομζνωσ αν F*> F Ν1,Ν2,α απορρίπτουμε τθν Θ 0 ςτο α= ΔΙΑΦΟΡΑ ΠΡΟΔΙΟΡΙΜΕΝΩΝ ΚΩΔΙΚΩΝ ΚΑΙ ΜΕΣΑΒΛΗΣΩΝ ΔΕΙΚΣΩΝ Μια εναλλακτικι ςτθ χριςθ των μεταβλθτϊν δεικτϊν για μια ποιοτικι ανεξάρτθτθ μεταβλθτι είναι θ χριςθ προςδιοριςμζνων κωδικϊν. Ζςτω ότι κζλουμε να ελζγξουμε τθ ςυχνότθτα χριςθσ ενόσ προϊόντοσ ωσ ανεξάρτθτθ μεταβλθτι με προςδιοριςμζνουσ κωδικοφσ ορίηουμε : κατθγορία D 1 ςυχνι χριςθ 3 μζτρια χριςθ 2 κακόλου χριςθ 1 Ρίνακασ 3.3 Ρροςδιοριςμζνοι κωδικοί Το μοντζλο μασ ςε αυτι τθ περίπτωςθ ζχει τθν εξισ μορφι: Υ i = b 0 + b 1 D i1 + ε i. Θ αναμενόμενθ ι προςδοκϊμενθ τιμι για τθν κάκε περίπτωςθ είναι θ εξισ : Ε(Υ)= b 0 + 3b 1 για ςυχνι χριςθ 62

63 Ε(Υ)= b 0 + 2b 1 για μζτρια χριςθ Ε(Υ)= b 0 + b 1 για κακόλου χριςθ Οπότε Ε(Υ ςυχνι χριςθ) - Ε(Υ μζτρια χριςθ) = Ε(Υ μζτρια χριςθ) - Ε(Υ κακόλου χριςθ)= b 1. Με αυτό τον τρόπο βζβαια μπορεί να οδθγθκοφμε ςε εςφαλμζνα αποτελζςματα γιατί ζτςι φαίνεται ότι και 2 διαφορζσ είναι ίδιεσ και ίςεσ με b 1. Γεγονόσ που δεν είναι απαραίτθτο ότι κα αντιςτοιχεί ςτθν πραγματικότθτα. Σε αντίκεςθ με τουσ μεταβλθτζσ δείκτεσ όπου ορίηουμε: κατθγορία D 1 D 2 ςυχνι χριςθ 1 0 μζτρια χριςθ 0 1 κακόλου χριςθ 0 0 Ρίνακασ 3.4 Μεταβλθτζσ δείκτεσ Το μοντζλο μασ ςε αυτι τθ περίπτωςθ ζχει τθν εξισ μορφι: Υ i = b 0 + b 1 D i1 + b 2 D i2 + ε i. Θ αναμενόμενθ ι προςδοκϊμενθ τιμι για τθν κάκε περίπτωςθ είναι θ εξισ : Ε(Υ)= b 0 + b 1 για ςυχνι χριςθ Ε(Υ)= b 0 + b 2 για μζτρια χριςθ Ε(Υ)= b 0 για κακόλου χριςθ Οπότε Ε(Υ ςυχνι χριςθ) - Ε(Υ κακόλου χριςθ)= b 1 Ε(Υ μζτρια χριςθ) - Ε(Υ κακόλου χριςθ)= b 2 Ε(Υ ςυχνι χριςθ) - Ε(Υ μζτρια χριςθ) = b 1 - b 2. Με αυτό τον τρόπο αποφεφγουμε ςφάλματα που δεν κα μασ οδθγοφςαν ςε ορκά ςυμπεράςματα. 63

64 3.9 ΑΝΙΧΝΕΤΗ ΑΚΡΑΙΩΝ ΗΜΕΙΩΝ ΜΕ ΕΙΚΟΝΙΚΕ ΜΕΣΑΒΛΗΣΕ Θ μζκοδοσ των ελαχίςτων τετραγϊνων είναι ευαίςκθτθ ςτα ςθμεία που απζχουν πολφ από τα υπόλοιπα. Είναι δυνατόν ζνα ςθμείο το οποίο βρίςκεται μακριά από τα υπόλοιπα να <<τραβιξει>> τισ εκτιμιςεισ ϊςτε να ελαχιςτοποιθκεί το τετραγωνικό του ςφάλμα. Αυτό μπορεί να ζχει ωσ αποτζλεςμα να εκτιμθκεί ζνα μοντζλο που δεν περιγράφει τον κφριο όγκο των δεδομζνων και άρα είναι αναξιόπιςτο. Ρριν υιοκετιςουμε λοιπόν το εκτιμθμζνο μοντζλο, είναι απαραίτθτο να ελζγξουμε αν ςτα δεδομζνα μασ υπάρχουν ζνα ι περιςςότερα τζτοια ςθμεία. Υπάρχουν ουςιαςτικά οι εξισ τρεισ περιπτϊςεισ κατά τισ οποίεσ ζνα ςθμείο μπορεί να χαρακτθριςτεί ότι απζχει από τα υπόλοιπα. Μπορεί να είναι μακριά από το νζφοσ που ςχθματίηουν τα ςθμεία ςχεδιαςμοφ (Χ i1, X i2,, X ik ), i=1,,n ςτο χϊρο των ανεξάρτθτων μεταβλθτϊν. Στθν περίπτωςθ αυτι το ςθμείο αυτό ονομάηεται ςθμείο υψθλισ μόχλευςθσ (high leverage point) και μπορεί να αςκιςει μεγάλθ επίδραςθ ςτισ εκτιμιςεισ. Μπορεί να είναι μακριά από τον ςχθματιςμό που δθμιουργεί θ πλειονότθτα των ςθμείων των δεδομζνων και τότε ονομάηεται ακραίο ςθμείο (outlier). Μπορεί να είναι ςυγχρόνωσ ακραίο ςθμείο και ςθμείο υψθλισ μόχλευςθσ. Τα ςθμεία αυτά ονομάηονται κακά (bad) ι ζκτροπα (maverick) και είναι προφανϊσ αυτά που δθμιουργοφν τα περιςςότερα προβλιματα. Να ςθμειωκεί ότι ζνα ςθμείο υψθλισ μόχλευςθσ το οποίο δεν είναι ακραίο μπορεί να ζχει ωσ αποτζλεςμα τθ μείωςθ των τυπικϊν ςφαλμάτων τθσ εκτίμθςθσ και ςε αντιδιαςτολι με τα ζκτροπα ονομάηεται <<καλό>>. Στο ςχιμα που ακολουκεί δίνονται, για το απλό μοντζλο παλινδρόμθςθσ, 4 χαρακτθριςτικζσ περιπτϊςεισ ςθμείου το οποίο είναι μακριά από τα υπόλοιπα. Ειδικότερα ςτο ςχιμα (α) το ςθμείο που ςθμειϊνεται μζςα ςε κόκκινο κφκλο είναι ακραίο αλλά όχι ςθμείο μόχλευςθσ και αναμζνεται να μεταβάλει τον ςτακερό όρο αλλά όχι και τθν κλίςθ τθσ ευκεία ελαχίςτων τετραγϊνων. Στα ςχιματα (b) και (c) ςθμειϊνεται ζνα ςθμείο μζςα ςε πράςινο κφκλο, το οποίο είναι ςυγχρόνωσ ακραίο και ςθμείο μόχλευςθσ και επομζνωσ χαρακτθρίηεται <<κακό>>. Το ςθμείο αυτό αναμζνεται να μεταβάλει τθν ευκεία ελαχίςτων τετραγϊνων ζτςι ϊςτε να μθν περιγράφει τθν παρατθροφμενθ γραμμικι ςχζςθ των Χ και Υ. Τζλοσ ςτο ςχιμα (d) ςθμειϊνεται ζνα ςθμείο μόχλευςθσ μζςα ςε μπλε κφκλο, το οποίο όμωσ ζχει παρόμοια ςυμπεριφορά με τα υπόλοιπα και αναμζνεται να μειϊςει τα τυπικά ςφάλματα τθσ εκτίμθςθσ, δθλαδι να αυξιςει τθν εμπιςτοςφνθ ςτθν εκτιμοφμενθ ευκεία. 64

65 Σχιμα 3.10 Ακραίο ςθμείο Σχιμα 3.11 Ζκτροπο ςθμείο 65

66 Σχιμα 3.12 Ζκτροπο ςθμείο Σχιμα 3.13 Σθμείο μόχλευςθσ 66

67 Ρολλοί ερευνθτζσ για να ελζγξουν αν ςτα δεδομζνα υπάρχει κάποιο ακραίο ςθμείο δθλαδι ζνα ςθμείο το οποίο αςκεί εξαιρετικά μεγάλθ επίδραςθ ςτισ εκτιμιςεισ χρθςιμοποιοφν μια εικονικι μεταβλθτι. Θ διαδικαςία θ οποία ακολουκείται για τον ςκοπό αυτό είναι ςταδιακά θ εξισ : 1. Εκτιμάμε το μοντζλο Υ i = 0 + 1X i1 + + kx ik και ζςτω SSE k το άκροιςμα των τετραγωνικϊν ςφαλμάτων. 2. Για να ελεγχκεί αν κάποιο ςθμείο ζςτω λ είναι ακραίο ορίηεται θ εικονικι μεταβλθτι D i = 1 αν i λ θ οποία ειςάγεται ωσ επιπλζον ανεξάρτθτθ 0 διαφορετικά μεταβλθτι οπότε εκτιμάμε το νζο μοντζλο Υ i = X i1 + + kx ik + k+1d i και ζςτω SSE k+1 το άκροιςμα των τετραγωνικϊν ςφαλμάτων. Αυτό ιςοδυναμεί με τθν εκτίμθςθ των εξισ 2 μοντζλων : Υ i = X i1 + + kx ik i λ για D i =0 και Υ λ = 0 + 1X λ1 + + kx λk + k+1 για D i =1 Δθλαδι χρθςιμοποιοφμε τα n-1 δειγματικά ςθμεία για να εκτιμιςουμε τισ παραμζτρουσ b 0, b 1,, b k του μοντζλου και το λ-οςτό για να πάρουμε καλφτερθ εκτίμθςθ για τθν παρατιρθςθ Υ λ. Αφοφ θ k+1 υπολογίηεται ζτςι ϊςτε να δϊςει τθν καλφτερθ εκτίμθςθ για τθν Υ λ, το κατάλοιπο ε λ του μοντζλου Υ λ = 0 + 1X λ1 + + kx λk + k+1 κα είναι μθδζν. Επομζνωσ το άκροιςμα των τετραγωνικϊν ςφαλμάτων του Υ λ = 0 + 1X λ1 + + kx λk + k+1 είναι ίδιο με το αντίςτοιχο άκροιςμα για το μοντζλο Υ i = X i1 + + kx ik αυτό με SSE k+1. i λ. Συμβολίηουμε το άκροιςμα Να ςθμειωκεί ότι k+1 είναι θ διαφορά τθσ παρατιρθςθσ Υ λ μείον τθν εκτίμθςθ τθσ από το μοντζλο με k ανεξάρτθτεσ μεταβλθτζσ το οποίο εκτιμικθκε με όλα τα δειγματικά ςθμεία εκτόσ από το λ-οςτό. Θ αναλογία t= ( k+1 )/s k+1 που κατανζμεται όπωσ θ t-student με ν=n-(k+1)-1=n-k-2 βακμοφσ ελευκερίασ δεν είναι άλλθ από το εξωτερικό t-κατάλοιπο ι τυποποιθμζνο απαλειφόμενο κατάλοιπο το οποίο ςυμβολίηουμε με r i και μπορεί να χρθςιμοποιθκεί για να ελεγχκεί αν το ςθμείο i είναι ακραίο δθλαδι αςκεί υπερβολικι επίδραςθ ςτισ εκτιμιςεισ. Δθλαδι το r i είναι θ t-αναλογία του μερικοφ ςυντελεςτι παλινδρόμθςθσ τθσ εικονικισ μεταβλθτισ που ορίηεται για το i-ςθμείο και μπαίνει ωσ ανεξάρτθτθ μεταβλθτι ςτο μοντζλο. 67

68 Επομζνωσ ςυμπεραίνουμε ότι αντί να εκτιμιςουμε το μοντζλο Υ i = X i1 + + kx ik + k+1d i n-φορζσ (μία για κάκε ςθμείο) ορίηοντασ κάκε φορά τθν εικονικι μεταβλθτι D i, μποροφμε να υπολογίςουμε τα τυποποιθμζνα απαλειφόμενα κατάλοιπα με πολφ μικρότερο υπολογιςτικό κόςτοσ. 68

69 4. ΕΦΑΡΜΟΓΗ Τα δεδομζνα προζρχονται από μια περιοχι νότια των Appalachian Mountains κατά τθν διάρκεια 3 καταιγίδων για να διαπιςτϊςουμε πόςο επθρεάηονται κυρίωσ το ph αλλά και άλλοι παράγοντεσ τθσ οξίνθςθσ από τθν βροχόπτωςθ ςτθν περιοχι και τθν αςκενι οξφτθτα (WA: weak acidity). Το ph είναι ζνασ εφχρθςτοσ τρόποσ ζκφραςθσ τθσ ςυγκζντρωςθσ των ιόντων υδρογόνου ςε ζνα υδατικό διάλυμα. Ριο ςυγκεκριμζνα, με "ph" ςυμβολίηεται ο αρνθτικόσ δεκαδικόσ λογάρικμοσ τθσ ςυγκζντρωςθσ των ιόντων υδρογόνου *H + + ςτο διάλυμα, δθλαδι : ph=-log[h + ]. Το ph αποτελεί μζτρο οξφτθτασ ι αλκαλικότθτασ μιασ χθμικισ ουςίασ και αναφζρεται ωσ ενεργόσ οξφτθτα. Στισ μζρεσ μασ θ κλίμακα ph που κυμαίνεται από 0 ζωσ 14, χρθςιμοποιείται ευρζωσ για τον προςδιοριςμό τθσ οξφτθτασ ενόσ διαλφματοσ. Διαλφματα για τα οποία θ τιμι του ph είναι μικρότερθ από 7 χαρακτθρίηονται ωσ όξινα, ενϊ διαλφματα με ph μεγαλφτερο από 7 χαρακτθρίηονται αλκαλικά. Tζλοσ, τα διαλφματα με ph=7 ονομάηονται ουδζτερα. Οξφτθτα ςτα φυςικά νερά είναι θ ικανότθτα του νεροφ προσ εξουδετζρωςθ OH -. Είναι ζννοια αντίςτοιχθ προσ τθν αλκαλικότθτα, τθν ικανότθτα δθλαδι προσ εξουδετζρωςθ H+. Ραρόλο που όλα τα φυςικά νερά ζχουν μια αλκαλικότθτα, θ οξφτθτά τουσ δεν απαντάται πλθν περιπτϊςεων ζντονθσ ρφπανςθσ. Γενικά, θ οξφτθτα οφείλεται ςτθν παρουςία αςκενϊν οξζων - όπωσ το CO 2, και ςε μερικζσ περιπτϊςεισ περιλαμβάνονται τα H 2 PO 4, H 2 S, πρωτεΐνεσ και λιπαρά οξζα και εξαρτάται από το είδοσ και τθν ποςότθτα των χθμικϊν ενϊςεων που υπάρχουν ςτο νερό. Συνολικά ζχουμε 44 δειγματικζσ παρατθριςεισ, όπου : 17 αφοροφν τθν καταιγίδα 1 14 αφοροφν τθν καταιγίδα 2 13 αφοροφν τθν καταιγίδα 3 69

70 Σχιμα 4.1 Appalachian Mountains Σχιμα 4.2 Appalachian Mountains 70

71 ph Σχιμα 4.3 Appalachian Mountains Σχιμα 4.4 Appalachian Mountains Εάν τα δεδομζνα απεικονιςτοφν χωρίσ διάκριςθ ανάμεςα ςτισ καταιγίδεσ το αποτζλεςμα φαίνεται ςτο ςχιμα 4.5, που δείχνει ότι WA και ph ςυςχετίηονται, r= Ζνα πικανό μοντζλο ζχει τθν εξισ μορφι: ph= b 0 + b 1 WA weak acidity, μeq/l Σειρά1 Σχιμα 4.5 Καταιγίδεσ χωρίσ διάκριςθ Ενϊ όταν υπάρχει διάκριςθ ανάμεςα ςτισ καταιγίδεσ (ςχιμα 4.6), υπάρχει ςχζςθ ανάμεςα ςε WA και ph, αλλά δεν είναι ίδια και για τισ τρεισ καταιγίδεσ. 71