ΚΕΦΑΛΑΙΟ 1. Πολλαπλή Γραμμική Παλινδρόμηση. Πρόβλημα. Για αγορά οθόνης για υπολογιστή ψάξαμε στην αγορά και πήραμε τα στοιχεία του πίνακα

Transcript

1 ΚΕΦΑΛΑΙΟ Πολλαπλή Γραμμική Παλινδρόμηση Μωυσιάδης Χρόνης 6 o Εξάμηνο Μαθηματικών Πρόβλημα Για αγορά οθόνης για υπολογιστή ψάξαμε στην αγορά και πήραμε τα στοιχεία του πίνακα Ερωτήματα Έχει σχέση η τιμή με το μέγεθος ; με το ρυθμό εστίασης ; Κωδικοποιούμε Ζ= μεγάλη Ζ= κανονική Τύπος - Κατασκευή Υπάρχει συνάρτηση ; Y f( X, Z) ή Y f( X, Z) Ρυθμός Εστίασης (Χ) Μέγεθος (Z) Τιμή (δρχ) (Υ) Soy CPD Κανονική 86 Nec 5FGe 49.5 Κανονική 6 SuperMac Plus 48 Μεγάλη 7 Ikeg CT-D 55 Μεγάλη 377 Mtsubsh 7 43 Κανονική 64 E-Mashes E 54 Μεγάλη 45 Soy GDM Μεγάλη 4 Nao F Κανονική 96 SuperMac 7T 47.5 Κανονική 75 Radus v 47 Μεγάλη 38 Ειδικότερα υπάρχουν σταθερές ; Y b + b X + b Z

2 Γενικό Γραμμικό Μοντέλο 3 ΔΕΔΟΜΕΝΑ Προβλέπουσες μεταβλητές (predctor) ή ανεξάρτητες ΜΟΝΤΕΛΟ X Άγνωστες παράμετροι που ζητείται να εκτιμηθούν X X 3 X k x x x x y x x x x y x x x x y 3 k 3 k 3 k... k k Y Εξαρτημένη μεταβλητή ή απόκριση (respose) Y X X X το σφάλμα ε που απαιτείται να είναι «μικρό» Μετασχηματισμοί μοντέλων 4 Πολυωνυμικά Y x x x k... k Θέτουμε x=x, x =X,, x k =X k Y x x z xz Εκθετικά yx x y yx x xx Θέτουμε X l x, X l x, Y l y, l,,, l Θέτουμε x=x, x =X, log y=y Bx x y Ae e Θέτουμε x=x, x =X, z=x 3, x z =X 4 γραμμικό ; ΔΕΝ ΑΝΑΓΟΝΤΑΙ ΣΕ ΓΡΑΜΜΙΚΑ

3 Παράδειγμα 5 Για τη μελέτη της τάσης δοκών που σχηματίζουν γωνία θ με το έδαφος ισχύει ο τύπος του Hakso ff f f c c c f c όπου fc, f c άγνωστες αλλά σταθερές τάσεις που πρέπει να προσδιορισθούν. Ένας ερευνητής έκανε μετρήσεις της που αντιστοιχούν στις γωνίες,,,...,. Μετασχηματίστε τον τύπο του Hakso και τα δεδομένα έτσι ώστε ο προσδιορισμός των σταθερών που ζητούνται να πετυχαίνεται με γραμμικό μοντέλο. f f Απάντηση 6 Ο τύπος του Hakso γράφεται fc fc f c f fcf c f c fc fc άρα θέτοντας y x πετυχαίνεται το γραμμικό μοντέλο. y x Τα Δεδομένα γίνονται θ.. θ f f. f f y y. y x x. x f c f f c c όπου y f x

4 Σύστημα εξισώσεων 7 Εφαρμόζοντας το ΓΡΑΜΜΙΚΟ ΜΟΝΤΕΛΟ Y X X... k X k στα δεδομένα παίρνουμε το σύστημα y x x... k xk y x x... k xk y x x... x k k ΖΗΤΟΥΜΕΝΟ: ΚΑΛΥΤΕΡΗ ΔΥΝΑΤΗ ΠΡΟΣΑΡΜΟΓΗ Δηλαδή εύρεση των συντελεστών β με τρόπο ώστε οι ισότητες να προσεγγίζονται περισσότερο Μέθοδος Ελαχίστων Τετραγώνων 8 Εύρεση των β ώστε το άθροισμα να είναι ελάχιστο Συμβολίζουμε τις λύσεις ˆ ( διαβάζουμε β εκτιμώμενο) ΥΠΑΡΧΟΥΝ ΚΑΙ ΑΛΛΕΣ ΜΕΘΟΔΟΙ ΕΥΡΕΣΗΣ ΒΕΛΤΙΣΤΩΝ β ΜΟΝΤΕΛΟ ΠΡΟΒΛΕΨΗΣ Y ˆ ˆ X ˆ X ˆ X ˆ... k k Παρατηρήσεις: ΕΔΩ ΔΕΝ ΕΧΟΥΜΕ TO ΣΦΑΛΜΑ ε. ΤΟ Ŷ ΛΕΓΕΤΑΙ ΕΚΤΙΜΩΜΕΝΟ Y Η ΔΙΑΦΟΡΑ y ˆ ˆ Y ΕΙΝΑΙ ΤΟ ΣΦΑΛΜΑ ΜΕΤΑ ΤΗΝ ΠΡΟΣΑΡΜΟΓΗ ΤΟΥ ΣΥΓΚΕΚΡΙΜΕΝΟΥ ΜΟΝΤΕΛΟΥ

5 Προβλέψεις - Σφάλματα 9 Πρόβλεψη στα δοθέντα σημεία yˆ ˆ ˆ x ˆ ˆ x... k xk yˆ ˆ ˆ ˆ ˆ xx... k xk yˆ ˆ ˆ x ˆ x... ˆ x k k Σύμφωνα με τη μέθοδο ελαχίστων τετραγώνων, πρέπει να ισχύει: ˆ y y να είναι ελάχιστο yyˆ ˆ y ˆ ˆ y... y yˆ ˆ ΥΠΟΛΟΙΠΑ (resduals) Για τον υπολογισμό ΑΛΓΕΒΡΑ ή ΓΡΑΜΜΙΚΗ ΑΛΓΕΒΡΑ ; Με μορφή Πινάκων ΘΕΤΟΝΤΑΣ y y Y X y προκύπτει το μοντέλο x x x x x x x x x x x x 3 k 3 k 3 k Y X k

6 Προϋποθέσεις E E ( ) E E 3 3 V( ) E( E)( E) I Τα σφάλματα είναι ασυσχέτιστα δηλαδή όλες οι συνδιασπορές είναι Τα σφάλματα έχουν μέση τιμή 3 Τα σφάλματα έχουν την ίδια σταθερή διασπορά σ Υπολογισμοί ΖΗΤΟΥΜΕΝΟ S ( )...,, Ισχύει ( Y X) ( YX) YY YX XX S ( ) YY YX XX S ( ) X X () ( X X XY) ( X X) XX Να είναι ελάχιστο? () Δηλαδή Χ Χ συμμετρ.

7 3 Παραγώγιση διανυσματικής συνάρτησης Διανυσματική συνάρτηση f() x x f( x), x συμμετρικός πίνακας f( x) x c x x x x x xax x, x,..., x A x x... (... ) x x x xx 3xx 3, x x ( xax ) ( xax ) ( xax ),..., Ax x x x Παράγωγος τετραγωνικής μορφής Δεύτερη παράγωγος διανυσμ. συνάρτ. f ( x) f( x) x xx f( x) x x f ( x) f( x) xx x Ακρότατα διανυσμ. συνάρτ. f( x) x κρίσιμο σημείο Αν f ( x) x x Εσσιανός πίνακας της πραγμ.συνάρτησης διανυσμ.μεταβλητής (Hessa matrx) προφανώς xax A xx 4 αρνητ. ορισμ. πίνακας σχετικό μέγιστο θετ. ορισμ. πίνακας σχετικό ελάχιστο

8 5 Κανονικές εξισώσεις-εκτίμηση παραμ. Από τη σχέση () το κρίσιμο σημείο ικανοποιεί την ( XX XY) Αν X Χ, τότε ˆ X X XY δηλαδή Είναι ΣΧΕΤΙΚΟ ΕΛΑΧΙΣΤΟ Διότι ο εσσιανός πίνακας είναι ο Χ Χ που είναι θετικά ορισμένος (θ.ο.), διότι: X X XY κανονικές εξισώσεις Αν X Χ =, τότε ισχύει ( XX) ( X)( X) ( X)( X) άθροισμα τετραγώνων ˆ X X X Y γενικευμένος αντίστροφος Είναι και ΟΛΙΚΟ ΕΛΑΧΙΣΤΟ 6 S ( ) ( Y X ) ( Y X ) ˆ ( ˆ ) Y X X Y X ˆ X ( ˆ ) ˆ Y X Y X ˆ ˆ X X ˆ ˆ X Y X ˆ Y X ˆ X ˆ S ˆ ( ) S ( ˆ ) ˆ XX ˆ X X όμοια XY X XY XX ˆ ˆ ˆ ˆ καν. εξισώσεις ˆ ˆ

9 Μοντέλο πρόβλεψης πίνακας «χατ» Το μοντέλο Y ˆ ˆ X ˆ X ˆ X ˆ... k k 7 γράφεται ή Yˆ Xˆ Yˆ X X X XY H X X X X Ο πίνακας Ŷ λειτουργεί ως τελεστής μετατροπής του διανύσματος Y σε Για το λόγο αυτό λέγεται πίνακας χατ. Ισχύει: HY H X XX XX XX XX XX XH μοναδιαίος Yˆ Ο Η είναι ΤΑΥΤΟΔΥΝΑΜΟΣ Ιδιότητες εκτιμητού παραμέτρων 8. Eˆ XX XX E ˆ E X X X Y X X X EY XX XE( X ) XX X( X E). V( ˆ ) X X ˆ ˆ ˆ ˆ ˆ V( ) E E E E ˆ ˆ ˆ XX XY XX X( X ) XX XX XX X XX X EXX XXX X EXX XXXX XX XE( ) X XX XX X I X XX XX XX XX XX

10 Διασπορά εκτιμήσεων παραμέτρων 9 ΘΕΤΟΥΜΕ c c c c c c c c C X X c c c c c c c c ΤΟΤΕ k k k ˆ k k k kk Var ˆ c k ( ),,,..., ˆ ˆ (, j) j, Cov c j k Var( ˆ ) c,,,..., k Εφαρμογή για k= (Παράδειγμα κεφ. ) α/α x y x y x y ε=y ŷ ŷ

11 Υπολογισμοί (Χ Χ) - και Χ Υ Είναι YX y x y Y x όπου: X y x x x x 3.95 X X x x x x x y y y XY x x y xy X X Το μοντέλο πρόβλεψης ˆ ˆ ˆ XX XY Μοντέλο Πρόβλεψης Yˆ X Var( ˆ ) c Var( ˆ ) c.69934

12 Η γενική περίπτωση με k= 3 x x x X X xy XY x -x x -x X X x x S xx -x -x ˆ y ˆ y x x xy ˆ XX XY S xx S xy Επαλήθευση με γνωστούς τύπους 4 ˆ S S xy xx y x x xy ˆ y ˆ x S xx y x x x y y x x x y x x y ys xs xx x Sxx x x c Sxx Sxx Sxx Var( ˆ ) ˆ Var( ) c S S xx xy xx

13 Παρεμβολή -Πρόβλεψη 5 yˆ ˆ ˆ ˆ ˆ ˆ x x... k xk, x,, xk x Το δοσμένο Η πρόβλεψη x σημείο ŷ x ˆ στο σημείο x αυτό k Για το παράδειγμα: Παρεμβολή στο x =. Πρόβλεψη στο x =3. ˆ yˆ,, Όμοια yˆ ˆ, Ιδιότητες της πρόβλεψης ˆ ˆ. E( y ) E( y ) ˆ ˆ E( y) E x x E x E( y) διότι y x... k xk 6 Var( y ) x( X X ) x. ˆ ˆ ˆ ˆ ˆ ˆ Var( yˆ ) E yˆ E yˆ E x x E x x x x E x x x E ˆ ˆ x ˆ x V( ) x Var( yˆ ) x ( X X ) x

14 Η διασπορά στη γενική περίπτωση x -x Var( yˆ ), x Sxx -x x x -x x x x xx xx S xx -, - x Sxx ( x x) ( xx) ( x x) Sxx Sxx Για το παράδειγμα και για x = Var yˆ Όμοια για x =3 Var( yˆ ).9854 ( ), Σφάλμα μετά την προσαρμογή 8 ˆ y ˆ y ˆ ˆ ˆ y y Y Yˆ ˆ ˆ y y SSE ˆ ˆ ( Y X ˆ ) ( Y X ˆ ) YY ˆ XY YXˆ ˆ XXˆ YX ˆ YXˆ ˆ X Y SSE = YY - βˆ XY ˆ XX ˆ ˆ XX( XX ) XY ˆ X Y

15 Το σφάλμα SSE ως τετραγωνική μορφή ˆ ( ) XY YX X X XY SSE YY ˆ X Y YY YX ( X X ) X Y A I X( XX) X SSE = YA Y ή AI H ΩΣΤΕ: SSE είναι Τετραγωνική Μορφή με πίνακα Α διότι Α είναι συμμετρικός πίνακας. ΕΡΩΤΗΜΑ: Η SSE είναι Τυχαία Μεταβλητή (Πολυδιάστατη). (αφού είναι τ.μ. ). Με τι κατανομή ; Y 9 πίνακας χατ Τετραγωνικές μορφές 3 (I) Y τυχαίο διάνυσμα με EY ( ) και VY ( ) I E( YAY ) A Tr( A) (IΙ) Y τυχαία πολυ-κανονική μεταβλητή Y N(, I ) ms YAY c s m μή κεντρική με A Αν X N τότε ο συντελεστής μη-κεντρικ. λ, της (IΙΙ) ( m, s ) Z= X + X + + X c... m m είναι... m Y τυχαία πολυ-κανονική μεταβλητή με Αν είναι YAY και YBY ανεξάρτητες, τότε AB Y N( m, I )

16 Μη-κεντρική χ κατανομή 3 α. χ 5 κατανομή με 5 β.ε. β. χ 5 κατανομή μη-κεντρική με 5 β.ε. και λ=6.875 α. πυκνότητα τ.δείγματος Χ =Χ /σ +...+Χ 5 /σ Χ ~N(,σ ), σ =,, 5, 4, β. πυκνότητα τ.δείγματος Χ =Χ /σ +...+Χ 5 /σ Χ ~N(μ,σ ), σ =,, 5, 4, μ =,,.5,.5,.5 λ= Θεώρημα Cochra 3 Y N(, I ) ms και Α, =,,,k (IV) συμμετρικοί πίνακες βαθμού k και YY YAY YA Y... YAk Y ΤΟΤΕ ΟΙ ΠΑΡΑΚΑΤΩ ΣΥΝΘΗΚΕΣ ΕΙΝΑΙ ΙΣΟΔΥΝΑΜΕΣ k = A είναι ταυτοδύναμοι για όλα τα (A =A ) A A j = για όλα τα j με YAY για όλα τα c A YAY και YA ανεξάρτητες για όλα τα j j Y

17 Τυπικό Σφάλμα 33 ΕΙΔΑΜΕ ΟΤΙ SSE Y AY με A I H Είναι Y X Άρα EY ( ) X και E( ) V( ) I VY ( ) I με και Δηλαδή ικανοποιούνται οι προϋποθέσεις της ιδιότητας (Ι) E( SSE) E( YAY ) ( X ) A( X ) Tr( A) X( I H) X ( ) XX XHX Tr( I) Tr X ( X X ) X X X XX Tr( XX ) XX Tr Ik ) k Tr A Tr( I X ( X X ) X ) ( Εκτίμηση διασποράς σφαλμάτων 34 Ώστε: ESSE ( ) ( k) ή SSE E k s ΤΟΤΕ Αμερόληπτος εκτιμητής της διασποράς σφαλμάτων SSE SSE s = τυπικό k -k- Var( ˆ ) s c,,,..., k s( ˆ ) ( ˆ Var ) s c,,,..., k Var( yˆ ) s x Cx σφάλμα όπου C ( XX ) c ck ck ckk

18 Εφαρμογή στο παράδειγμα 35 Βρίσκουμε: ˆ SSE YY X Y Από τον πίνακα = άθροισμα τετραγώνων των y SSE SSE.3946 s.6973 άρα s.4738 Οι διασπορές των ˆ, ˆ Οι διασπορές των προβλέψεων Var ˆ Var ˆ ( ) s. ( ).6993 s.37 Var yˆ Var y s ( ) ( ˆ).9854 s. 36 Παράδειγμα (η άσκηση.α του βιβλίου) Χ Χ Χ Χ Υ Χ Χ Υ Χ Χ Υ Υ Yˆ ˆ ˆ

19 Υπολογισμοί Το Μοντέλο YX όπου: y x, x, y Y x, x, X y x, x, x, x, x, x, XX x, x, x, x, x, x, x, x, (.) x x,,,,, x, x x x 37 Το διάνυσμα παραμέτρων XX æ ö ç çè ø XX - = - ( ) æ ö æ y ö æ y ö y å X Y = x, x, x, = x, y å çx x x è øç ç x y æ 33 ö X Y = 85 ç çè4 ø å,,, çèy è, ø ø ˆ XX XY

20 Το μοντέλο πρόβλεψης 39 προσεγγιστικά yˆ 4 X.5 X æ ö æ33 ö ˆ SSE = Y Y - β XY = = 69 ç è-.544 ø çè4 ø Με την εκτίμηση των παραμέτρων απευθείας SSE 69 s 8.65 k SSE s Παράδειγμα (Συστολ. πίεση αίματος) 4 Σε 3 άτομα μετρήθηκε συστολική πίεση του αίματός τους (y), το βάρος τους (x ) σε kgr και η ηλικία τους (x ). Να βρεθεί γραμμικό μοντέλο που να εκφράζει τη συστολική πίεση συναρτήσει του βάρους και της ηλικίας. Να εκτιμηθεί η συστολική πίεση ατόμου 45 ετών που ζυγίζει 7 κιλά. Να βρεθεί η διασπορά των εκτιμήσεων των συντελεστών του μοντέλου και της πρόβλεψης. Οι μετρήσεις x x y ŷ ε S x = 79.5 S x = S x = 55 S x = 95 S y = 694 S y = 8 S xy = S xy = 6535 S xx = XX

21 Το μοντέλο πρόβλεψης 4 æ ö - - XX - = - ç ç- è ø ( ) æ 694. ö XY ç =ç ç çè6535. ø æ ö æ 65.ö ˆ β = ( XX ) XY ç =ç ç è.45434ø çè.45ø ΑΡΑ ΜΟΝΤΕΛΟ ΠΡΟΒΛΕΨΗΣ (προσεγγιστικά) yˆ x.45x Τα σφάλματα μετά την προσαρμογή 4 SSE Y Y ˆ X Y (Αν χρησιμοποιήσουμε την προσέγγιση βρίσκουμε SSE=9.8 ενώ πραγματικό SSE=ε =6.945) SSE 6.93 s Διαγώνιος ( X X ) ,.3776,.85 Άρα Var( ˆ ) s( ˆ ) Var( ˆ ).38 s( ˆ ).54 και s Var( ˆ ).54 s( ˆ ).73

22 Πρόβλεψη 43 x 7, x 45 Αν τότε: x, 7, yˆ ˆ x, 7, yˆ Var( yˆ ) s x ( XX ) x 6.93, 7, 45 ( ) 7 45 XX.59 s yˆ.584 Το άθροισμα τετραγώνων SST 44 Συνολικό Άθροισμα τετραγώνων SST y y y y Y Y Y Επειδή YY Y J Y Y YY Οπότε: SST YY Y J Y όπου J ή SST Y I J Y Τετραγωνική μορφή

23 Το άθροισμα τετραγώνων SSR 45 Η σχέση SSE YY ˆ X Y SSE Y Y Y ( X ( X X ) X Y δίνει ή SSE YY Y HY Συνδυάζοντας: SSR Το μέρος της συνολικής διασποράς που εξηγείται (ερμηνεύεται) από την παλινδρόμηση YY SSTY( J ) Y SSEYHY SST SSE Y( H J ) Y SST SSE SSR Κατανομή των Αθροισμάτων SSR, SSE, SST 46 SST YY YA Y SSR Y A Y SSE Y A3 Y ΟΠΟΤΕ: A 3 A H J X( XX ) X J J ( ) A I H I X XX X YY YAY YAY YAY 3 ΕΡΩΤΗΜΑ: Ισχύουν οι προϋποθέσεις του Θεωρήματος Cochra; (α) Οι πίνακες Α, Α, Α 3 είναι συμμετρικοί.

24 Οι πίνακες Α, Α, Α 3 είναι ταυτοδύναμοι 47 A J J J J J J A A διότι H J H J HJ HJ H HJ JH J X XX X X λύνεται, διότι X X X HJ X ( X X ) X J X ( X X ) X XJ A H J J A Η εξίσωση: A I H I H I HHH A 3 3 Οι βαθμοί των πινάκων Α, Α, Α 3 48 Tr A Tr J Tr J ( ) ( ) ( ) rak( A ) Tr( A ) Tr( H )- Tr( J ) ( k )-k Tr( A ) Tr( I ) Tr( H ) ( k ) 3 3 όπου χρησιμοποιήθηκε και ισχύει (β) k rak( A ) rak( A3 ) Tr( H) Tr( X ( XX ) X) Tr( AB) Tr( BA) Tr( XX ( XX ) ) Tr( I ) k 3 3

25 Ισχύει το θεώρημα Cochra 49 (γ) Ισχύουν οι προϋποθέσεις κανονικότητας Από ΑΡΑ ΕΧΟΥΜΕ ε N(, σ I ) Y = Xβ+ ε έπεται Y N Xβ σ I SSR χ σ k SSE χ σ -- k με A 3 SST χ - σ (, ) A X( I J ) X ( I A ) X( I J) X Ο πίνακας ANOVA 5 Πηγή Αθρoίσματα Τετραγώνων Παλινδρόμηση SSR k β.ε. Μέσα Τετράγωνα Λόγος F MSR SSR k F MSR MSE όπου Υπόλοιπα (Σφάλματα) SSE -k- Σύνολο SST - ˆ SST Y Y Y SSR X Y Y SSE YY ˆ X Y ή αλγεβρικά MSE SSE k - - SST y y SSR yˆ y SSE y yˆ

26 Διορθωτικός Παράγοντας 5 y Αν k=, ΜΟΝΤΕΛΟ =,,, ˆ Y y SSR ˆ X Y Y y Y Y y y Άρα SST=SSE X Τότε: (αφού ) ο δεύτερος όρος στον τύπο Ώστε: SSR στο ΠΛΗΡΕΣ μοντέλο οφείλεται στους άλλους συντ/στές,,..., ˆ SSR X Y Y λέγεται διορθωτικός παράγοντας 5 Εφαρμογή στο παράδειγμα της συστ. πίεσης ˆ 65. y SST YY Y SSR ˆ Y SSE SST SSR Πηγή Αθρoίσματα Τετραγώνων β.ε. Μέσα Τετράγωνα Λόγος F Παλινδρόμηση *** Υπόλοιπα (σφάλμ.) =s Σύνολο ΠΙΝΑΚΑΣ ΑΝΑΛΥΣΗΣ ΔΙΑΣΠΟΡΑΣ

27 Το συμπέρασμα 53 Η : β =β = Η : β β Σε στάθμη σημ. α Αν F>F k,-k-;α ΑΠΟΡΡΙΠΤΕΤΑΙ Αν F<F k,-k-;α ΔΕΝ ΑΠΟΡΡΙΠΤΕΤΑΙ Εδώ F>4., άρα ηh ΑΠΟΡΡΙΠΤΕΤΑΙ F=3.9 F, F,;.9,. 4., , ,. 9.43, Συντελεστής Προσδιορισμού SST SSR SSE 54 R SSR SSE = = - SST SST Σχέση των F και R R εκφράζει το ποσοστό της συνολικής διασποράς που ερμηνεύει το μοντέλο SSR / k... - k - F = = = R SSE/( -k -) k -R kf /( -k -) R = + kf /( - k - )

28 Διορθωμένος συντελεστής προσδιορισμού 55 SSE /( -k -) s R = - = - SST /( -) VarY διορθωμένος συντελεστής προσδιορισμού Σχέση των R και R ( -k-)( - R ) = ( -)( -R ) Για το παράδειγμα της πίεσης R = = / R = = / Το μοντέλο ερμηνεύει το 95.8% της συνολικής διασποράς Έλεγχοι Υποθέσεων 56 ΘΕΩΡΗΜΑ (Gauß-Markov) θ=λβ Αν όπου είναι γραμμικός συνδυασμός των συντελεστών παλινδρόμησης, τότε η καλύτερη γραμμική εκτίμηση του θ (που είναι μοναδική) είναι η Απαραίτητη προϋπόθεση (για να εκτιμάται το θ) είναι ΝΑ ΕΧΕΙ ΛΥΣΗ Η ΕΞΙΣΩΣΗ λ =(λ,λ,...,λ k) ˆθ=λβ ˆ Xc=λ Αυτό συμβαίνει με βεβαιότητα αν ο Χ Χ είναι αντιστρέψιμος

29 Θεώρημα 57 Αν ΤΟΤΕ ΑΠΟΔΕΙΞΗ Y N( X β, s I) ˆθ-θ - s λ (X X) λ και t - k - θ=λβ ˆθ=λβ ˆ SSE s= -k- όπου ˆ - Η τ.μ. ˆθ=λ β = λ( X X) X Y έχει κατανομή N(μ, σ ) θˆ θˆ ˆ - - μ =Ε(θ)=λ ( XX ) X E ( Y) = λ ( XX ) X Cβ ˆθ = λ β = θ s = Var(θ) ˆ = E(θˆ- θ) = E ˆθ ( λ ( βˆ- β) ( βˆ- β) λ) = ˆ - = λv( β) λ=σλ( CC ) λ Ισχύουν 58 ˆθ-θ Z = N(,) - s λ(xx) λ άρα από γνωστό θεώρημα της Θ.Πιθ. αν Z, W είναι ανεξάρτητες ˆθ-θ και SSE ανεξάρτητες ˆθ και SSE ανεξάρτητες W= χ σ SSE Z W /( -k-) Yˆ -k- t - k - και οι δύο τ.μ. είναι τετραγωνικές μορφές της

30 ανεξαρτησία των δύο τετραγ. μορφών 59 SSE = Y ( I - H ) Y = Y AY ˆ ˆˆ ˆ ˆ ( ˆ θ = θθ= λ β λ β= λ β) λ β= ˆ βˆ λλ β= ˆ = Y X( X X) λλ ( X X) X Y = Y BY AB= I - X XX X X XX XX X = ˆθ-θ ( ( ) ) ( ) λλ ( ) - Z s λ(xx) λ = = W SSE s -k- s -k- ( ) θ-θ ˆ - λ(xx) λ t - k - Έλεγχος παραμέτρων 6 ΠΟΡΙΣΜΑ Αν Y N( X β, s I) βˆ - β t s βˆ -k- ˆ s β Αρκεί οπότε ( ) æö λ= ç çè ø λ β ˆ = β (+)-στή γραμμή και τότε =s c όπου ( ) - λ(xx) λ=c

31 Έλεγχος μέσης πρόβλεψης 6 ΠΟΡΙΣΜΑ Αν Y N( X β, s I) τότε Yˆ -μ t - -k- s s x(xx) όπου ( yˆ) = Var( yˆ) = x - = s x ( X X) x λ=x Αρκεί διότι θ=x β =Ey = m y = β + β x β x + ε k k Έλεγχος ατομικής πρόβλεψης 6 ΠΟΡΙΣΜΑ Αν Y N( X β, s I) Yˆ -μ t - -k- s +x (X s βˆ X) x διότι E(Y - Yˆ ) = τότε =s c όπου ( ) Var(Y ˆ ˆ - Y ) = Var ( x (β - β)+var(ε)= - = σ (+ x (X X) x )

32 Μονόπλευρο ή δίπλευρο t-τεστ 63 ΔΙΠΛΕΥΡΟ H :θ=θ H :θ¹ θ -α T = t -k- s ˆθ-θ - λ(xx) λ ΜΟΝΟΠΛΕΥΡΟ H H :θ=θ :θ>θ -α t -k- α/ α/ -4 t - t 4 -k-;-α/ -k-;α/ -4 - t -k-;α 4 α Μονόπλευρο ή δίπλευρο F-τεστ 64 ΘΕΩΡΗΜΑ T t F = T F -k-, -k- F,-k- -α ΔΙΠΛΕΥΡΟ H : β = H : β ¹ F,-k- -α ΜΟΝΟΠΛΕΥΡΟ H H : β = : β > α F,-k-;α α F,-k-;α

33 Εφαρμογή με το 3ο παράδειγμα 65 βˆ ˆ ˆ β β yˆ = X +.45 X SSR= (4.944) (.54) (.73) s( βˆ ) s( βˆ ) s( βˆ ) 3 SSE=6.936 ˆ = (, 7, 45 ), ˆ = 9.5, ( ˆ ) =.59, =.584 s + Var( Yˆ ) = = ,.5 * s ˆ.769,. ˆ = s + Var( Y ) =.967 Y t;.8, , ,.5 x Y Var Y s Y ˆ Έλεγχοι συντελεστών 66 H : β = H : β ¹.54 T = = Η ΑΠΟΡΡΙΠΤΕΤΑΙ σε α=., διότι t ;α/ =4.587<3.97 H : β = H : β > H H.45 T = = Η ΑΠΟΡΡΙΠΤΕΤΑΙ σε α=.5, διότι t ;α =4.587<5.8 : β =-5 : β ¹ (-5) T = = Η ΔΕΝ ΑΠΟΡΡΙΠΤΕΤΑΙ σε α=., διότι t ;α/ =.8>.

34 Έλεγχοι πρόβλεψης Για τη μέση πρόβλεψη 67 H : EY =5 H : EY ¹ T = = H : Y = 5 H : Y ¹ 5 Η ΑΠΟΡΡΙΠΤΕΤΑΙ σε α=., διότι t ;α/ =3.69<3.7 Για την ατομική πρόβλεψη T = = Η ΔΕΝ ΑΠΟΡΡΙΠΤΕΤΑΙ σε α=.5, διότι t ;α/ =.8>.98 95% Διαστήματα εμπιστοσύνης 68 β βˆ t s( βˆ ) ;.5 ή ( , -3.83) β β ΕΥ Υ βˆ t s( βˆ ) ;.5 βˆ t s( βˆ ) ;.5 ( ˆ ) Yˆ t Var Y ;.5 ( ˆ ) Yˆ t s + Var Y ;.5 ή ή ή ή (.8,.498) (.6,.588) (5.6,.679) (.539, 5.76)

35 Έλεγχος της διασποράς 69 H H : s =5 : s ¹ 5 s X SSE SSE = = =.59 s 5 G ια α =.5, χ = 3.5, και χ =.5 SSE 3.5 < <.5 s SSE SSE < s < < s < 9.36 ;.975 ; χ χ ;.5 ;.975 χ.5 5 (3., 9.36) ΔΕΝ ΑΠΟΡΡΙΠΤΕΤΑΙ η Η Θέμα από εξετάσεις 7 Η στήλη y στον παρακάτω πίνακα παριστάνει τις αποκρίσεις σε ένα πείραμα, ενώ οι στήλες x, x, x 3 τις προβλέπουσες μεταβλητές. α/α y x x x 3 α/α y x x x Θεωρώντας ως πίνακα D τον πίνακα που σχηματίζεται με τις στήλες y, x,x και x 3,βρήκαμεότι: æ y ö æ ö x 8.5 = x.7 ç x ç 49.4 è ø è ø α) Χρησιμοποιώντας τα προηγούμενα υπολογίστε τον πίνακα για την προσαρμογή του μοντέλου στα δεδομένα, καθώς και τον πίνακα Χ Υ. και 3

36 β) Χρησιμοποιώντας το γεγονός ότι με σχηματίστε τον πίνακα ανάλυσης της διασποράς για τον συνολικό έλεγχο του μοντέλου και διατυπώστε τα συμπεράσματα που προκύπτουν σε στάθμη.5 και.. Να σημειωθεί πως υπολογίζονται οι κρίσιμες τιμές. (Αν δεν έχετε βρει σωστά αποτελέσματα από το (α) πάρτε ως SSR τη μη ακριβή τιμή SSR=) γ) Εξετάστε σε στάθμη.5 αν ο συντελεστής της μεταβλητής x είναι ή μήπως ίσος με. Απαντήστε το ίδιο ερώτημα με τη βοήθεια κατάλληλου διαστήματος εμπιστοσύνης. δ) Αγνοώντας τις άλλες δύο μεταβλητές και διαιρώντας δια την x και στρογγυλεύοντας σε ακέραιες τιμές παίρνουμε τον διπλανό πίνακα. Κάντε την παλινδρόμηση της y στην x και ελέγξτε το μοντέλο υπολογίζοντας τις επαναλήψεις της x = z. y x z (/)

37 73 74

38 75 76 Σφάλματα προσαρμογής-επαν/νες μετρήσεις Έστω ότι υπάρχουν παρατηρήσεις στο ίδιο x,,,..., r με τιμές y, j,,..., όπου Με την υπόθεση της κανονικότητας θα έχουμε j j j SSE y y ~,,,... r Άρα j j r SSe SSE ~ e SSE SSe ~ r Επομένως και F όπου ( SSE SSe )/( r ) ~ F SS /( r) e... r r ( ) r e ( r),( r) j καθαρά σφάλματα σφάλματα προσαρμογής έλεγχος ισότητας καθαρών σφαλμ. με σφ. προσαρμ.

39 77 y x z (/) s mea(y) var(y) (s-)* var(s)

40 79 Αθρ. β.ε. Μέσα τετρ F Παλινδρόμηση ,7.53 Υπόλοιπα Σφάλματα προσαρμογής 6,6 6,6 5,7 Καθαρά σφάλματα ,8 Σύνολο Θέματα () 8 Στον παρακάτω πίνακα δίνονται στοιχεία από οικογένειες. Στη στήλη y δίνεται η επιφάνεια της κατοικίας της οικογένειας (σε τετρ. μέτρα), στη στήλη x το ετήσιο εισόδημα (σε χιλιάδες ευρώ), στη στήλη x τo πλήθος των με λών της και στη στήλη x 3 τo συνολικό πλήθος ετών μετά το λύκειο που σπούδασαν τα μέλη της οικογένειας που συνεισφέρουν στο εισόδημα. y x x x 3 y x x x α) Χρησιμοποιώντας πίνακες να βρεθεί η ευθεία που εκτιμά την επιφάνεια της κατοικίας από το εισόδημα. (Οι φοιτητές που το ΑΕΜ τους είναι περιττός αριθμός να χρησιμοποιήσουν τα δεδομένα από τις πρώτες 5 οικογένειες, ενώ αυτοί που έχουν άρτιο τα υπόλοιπα). Να σημειωθούν όλοι οι πίνακες που θα χρησιμοποιήσετε και να φαίνονται οι πράξεις με τα ενδιάμεσα αποτελέσματα. Να γίνει και γραφική παράσταση, όπου να εξηγήσετε τι ελαχιστοποιεί η μέθοδος υπολογισμού του μοντέλου παλινδρόμησης. β) Κάντε τον πίνακα ανάλυσης της διασποράς και διατυπώστε τα συμπεράσματά σας. γ) Βρέστε το 95% δ.ε. για το συντελεστή του x στο μοντέλο. Προσαρμόστε το πλήρες μοντέλο και δώστε τα συμπεράσματά σας.

41 Θέματα () 8 Στο διπλανό πίνακα δίνονται οι ώρες που έτρεξε μία δρομέας σε κάθε μία από 8 διαδοχικές εβδομάδες και ο μέσος χρόνος (σε λεπτά) που έκανε η δρομέας για κάθε μίλι εκείνη την εβδομάδα. Να βρεθεί με χρήση πινάκων α) Αν ο χρόνος ανά μίλι σε μία εβδομάδα προπόνησης, μπορεί να προβλεφθεί από τις ώρες προπόνησης την εβδομάδα αυτή; Ποια η πρόβλεψη για μία εβδομάδα που έτρεξε 4 ώρες και ποια αν έτρεξε ώρες; β) Με ποια τυπική απόκλιση εκτιμώνται οι διάφοροι παράμετροι και μία από τις προβλέψεις; hours tme Θέματα (3) 8 Σε ένα πείραμα για να μελετηθεί η οξείδωση ενός μετάλλου έγιναν παρατηρήσεις όπου μετρήθηκαν (σε κατάλληλες μονάδες) το ρεύμα του αέρα (x ), η θερμοκρασία του νερού (x ), η ποσοστιαία συγκέντρωση του οξέως (x 3 )καιτοβάρος που έχασε το μέταλλο εξαιτίας της σκουριάς (y). Το μέταλλο βυθιζόταν σε οξύ που εψύχετο με νερό και μετά εκτίθονταν σε ρεύμα αέρος. Τα αποτελέσματα δίνονται στον πίνακα. Επίσης, σε κάθε κελί του δεύτερου πίνακα δίνεται το άθροισμα γινομένων των μεταβλητών που το καθορίζουν. Π.χ. στο κελί που ορίζεται από τις x,x 3 είναι 38357= x, x. = 3 α) Υπολογίστε, χρησιμοποιώντας πίνακες, τους συντελεστές παλινδρόμησης του μοντέλου y x. β) Σχηματίστε τον πίνακα ανάλυσης της διασποράς και διατυπώστε τα συμπεράσματά σας. γ) Δώστε την πρόβλεψη για θερμοκρασία. Δείξτε ότι η τυπική απόκλιση της πρόβλεψης είναι. και βρέστε το 95% διάστημα εμπιστοσύνης για την ίδια την πρόβλεψη. δ) Μετά κάναμε παλινδρόμηση με τη μεταβλητή x και βρήκαμε SSR=75., με τις μεταβλητές x και x και βρήκαμε SSR=88.44, καθώς και παλινδρόμηση με όλες τις μεταβλητές και βρήκαμε SSR= Συγκρίνετε μεταξύ τους τα τέσσερα μοντέλα (μαζί με αυτό του (α)). Για το καλύτερο από αυτά υπολογίστε πόσο μέρος της συνολικής διασποράς ερμηνεύει. (Αν δεν έχετε βρει το SST, χρησιμοποιείστε την προσέγγιση SST=) ε) Για τη μεταβλητή x παρατηρήστε ότι υπάρχουν επαναλαμβανόμενες παρατηρήσεις. Αγνοώντας τις άλλες μεταβλητές σχηματίστε τον πίνακα ανάλυσης διασποράς και συμπληρώστε τον με τα καθαρά σφάλματα. Τι συμπεραίνετε για το μοντέλο με τη μεταβλητή x ; x x x 3 y x x x y α/α x x x 3 y Σύν