Ανάλσση παλινδρόμησης

Transcript

1 ΤΜΗΜΑ ΣΤΑΤΙΣΤΙΚΗΣ ΚΑΙ ΑΣΦΑΛΙΣΤΙΚΗΣ ΕΠΙΣΤΗΜΗΣ Ανάλσση παλινδρόμησης Πειραιάς

2 Το κανονικό γραμμικό μονηέλο /3/ Μ. Κούηρας

3 Το κανονικό γραμμικό μονηέλο Y κε ηπραίνο παξάγνληαο ηπραίνο παξάγνληαο Y : Τηκή ηεο εμαξηεκέλεο κεηαβιεηήο γηα ην δεύγνο παξαηεξήζεσλ ηπραία κεηαβιεηή β ν β : Άγλσζηεο παξάκεηξνη : Τηκή ηεο αλεμάξηεηεο κεηαβιεηήο γλσζηή-κε ηπραία κεηαβιεηή ε ε...ε ν : Τπραία ζθάικαηα ηπραίεο κεηαβιεηέο κε κέζε ηηκή θαη ζηαζεξή δηαθύκαλζε ζ Τα ε ε...ε ν είλαη αζπζρέηηζηα Τα ε ε...ε ν θαηαλέκνληαη ζύκθσλα κε ηελ θαλνληθή θαηαλνκε Ν ζ. Η ηελεςηαία ςπόθεζη ςποδηλώνει όηι ηα ε είναι και ανεξάπηηηα /3/ Μ. Κούηρας 3

4 Το κανονικό γραμμικό μονηέλο /3/ Μ. Κούηρας 4

5 Το κανονικό γραμμικό μονηέλο /3/ Μ. Κούηρας 5

6 Το κανονικό γραμμικό μονηέλο: εμπ και εεη /3/ Μ. Κούηρας 6

7 7 Απόδειξη: Η ζπλάξηεζε πηζαλνθάλεηαο είλαη ίζε κε } ep{ y y f L Ο αληίζηνηρνο πηζαλνινγάξηζκνο ηζνύηαη κε ln ln ln y L l νπόηε y l y l 4 y l. Οη δύν πξώηεο εμηζώζεηο δίλνπλ y y l l νπόηε μαλαβξίζθνπκε ην ζύζηεκα από όπνπ πξνέθπςαλ νη εεη.

8 8 Απόδειξη ζςνέσεια. Έρνπκε 4 y l. Εμηζώλνληαο ηελ παξάγσγν κε ην πξνθύπηεη 4 y l θαη ιύλνληαο σο πξνο παίξλνπκε y. Σπλεπώο Y αθνύ.

9 Παραηηρήζεις. Οη ε.κ.π ησλ θαη είλαη ίδιερ κε ηηο ε.ε.η. ησλ θαη. Η ε.κ.π SSE δεν είλαη ακεξόιεπηε εθηηκήηξηα ηνπ αθνύ E [ ] E[ SSE] 3. Η ε.κ.π είλαη αζςμπηωηικά ακεξόιεπηε εθηηκήηξηα ηνπ Πξάγκαηη lm E [ ] lm θαζώο ην 9

10 Παραηηρήζεις Αθνύ ζην θαλνληθό γξακκηθό κνληέιν νη ζπκπίπηνπλ κε ηηο εκπ απνθηνύλ θαη ηηο «θαιέο» ζηαηηζηηθέο ηδηόηεηεο πνπ έρεη ε νηθνγέλεηα ησλ εκπ. Πην ζπγθεθξηκέλα απνδεηθλύεηαη όηη α. είλαη ζςνεπείρ δειαδή ηζρύεη lm P lm P γηα θάζε ε >. Επνκέλσο γηα κεγάιεο ηηκέο ηνπ ν νη εθηηκήηξηεο βξίζθνληαη κε πηζαλόηεηα όζν θνληά ζέινπκε ζηελ άγλσζηε παξάκεηξν πνπ εθηηκνύλ. β. έρνπλ ηελ κηθξόηεξε δπλαηή δηαθύκαλζε αλάκεζα ζε όλερ ηιρ αμεπόληπηερ εθηηκήηξηεο ηεο αληίζηνηρεο παξακέηξνπ.

11 Κάηι καλύηερο από ηο Θεώρημα Gau-Markov Σην θαλνληθό γξακκηθό κνληέιν νη εεη ησλ β β έρνπλ ηε κηθξόηεξε δπλαηή δηαθύκαλζε αλάκεζα ζε όιεο ηηο ακεξόιεπηεο εθηηκήηξηεο πνπ είλαη γξακκηθέο ζπλαξηήζεηο ησλ Υ.

12 Αθνύ Το κανονικό γραμμικό μονηέλο: όλα ζτεδόν ακολοσθούν κανονική καηανομή Y... θαη ~ N ζπκπεξαίλνπκε όηη Y ~ N.... Επηπιένλ αθνύ cov Y θαη cov Y j j ηα Υ... ζα είλαη ανεξάπηηηα. ηα... ζα είλαη ανεξάπηηηα. /3/ Μ. Κούηρας

13 Το κανονικό γραμμικό μονηέλο: όλα ζτεδόν ακολοσθούν κανονική καηανομή /3/ Μ. Κούηρας 3 Αθνύ ~ N Y... νηηδήπνηε γξάθεηαη σο γξακκηθόο ζπλδπαζκόο απηώλ ζα αθνινπζεί ηελ θαλνληθή θαηαλνκή. Επνκέλσο νη εθηηκήηξηεο Y Y k νη πξνζαξκνζκέλεο ηηκέο Y r r r r Y ηα εθηηκεκέλα ππόινηπα ζθάικαηα r r r Y a Y Y όπνπ r r a r r r γηα... r ζα αθνινπζνύλ ηελ κανονική καηανομή.

14 Σσνέπειες ηης κανονικόηηηας Κ Α Cov Ν Ο ανεξάρτητα Cov Cov Y Cov Y /3/ Ν Ι Κ Ο Τ Η Τ Α Y Y Μ. Κούηρας ανεξάρτητα ανεξάρτητα ανεξάρτητα 4

15 Παράδειγμα.. Σην θαλνληθό γξακκηθό κνληέιν λα δεηρζεί όηη α. νη εθηηκήηξηεο ειαρίζησλ ηεηξαγώλσλ είλαη αλεμάξηεηεο από ηελ ηπραία κεηαβιεηή SSE άζξνηζκα ηεηξαγώλσλ ησλ ππνινίπσλ β. ε εθηηκήηξηα ειαρίζησλ ηεηξαγώλσλ είλαη αλεμάξηεηε από ηελ ηπραία κεηαβιεηή Y. Πποζοσή: Δελ ηζρύεη θάηη αληίζηνηρν γηα ηελ εθηηκήηξηα ειαρίζησλ ηεηξαγώλσλ γ. ε ηπραία κεηαβιεηή Y είλαη αλεμάξηεηε από ηελ ηπραία κεηαβιεηή SSE.. 5

16 Άζκηζη 3/Σελίδα 49 Να δεηρζεί όηη ζην θαλνληθό γξακκηθό κνληέιν ν κέζνο όξνο Y ησλ ηπραίσλ κεηαβιεηώλ j Y j Y... είλαη αλεμάξηεηνο από ηελ ηπραία κεηαβιεηή SSTO Y Y. 6

17 Η καηανομή ηων εεη ζηο κανονικό γραμμικό μονηέλο /3/ Μ. Κούηρας 7 S V S V

18 Η καηανομή ηων εεη ~ N ~ N ζηο κανονικό γραμμικό μονηέλο Οη ηπραίεο κεηαβιεηέο θαη /3/ αθνινπζνύλ ηελ ηππνπνηεκέλε θαλνληθή θαηαλνκή N δειαδή ~ N θαη ~ N. Ωζηόζν νη ηειεπηαίεο δεν μποπούν λα ρξεζηκνπνηεζνύλ γηα ηε δεκηνπξγία δηαζηεκάησλ εκπηζηνζύλεο ή ειέγρσλ ππνζέζεσλ πνπ αθνξνύλ ηηο παξακέηξνπο θαη. Γιαηί; V Μ. Κούηρας 8 S

19 Χρήζιμες ζηαηιζηικές ζσναρηήζεις για καηαζκεσή διαζηημάηων εμπιζηοζύνης για ηις παραμέηροσς ηης εσθείας παλινδρόμηζης /3/ Μ. Κούηρας 9 S V S S V S Εθηηκήηξηεο ησλ ηππηθώλ απνθιίζεσλ tandard error of etmate:.. e S.. e S ~ N ~ N

20 Πρόηαζη.. Σην θαλνληθό γξακκηθό κνληέιν ν ιόγνο SSE / ηελ θαηαλνκή κε αθνινπζεί βαζκνύο ειεπζεξίαο δειαδή SSE Y Y ~ /3/ Μ. Κούηρας

21 ~ ~ ] [ Y E Y ~ ] [ E ~ N ~ / ] [ N E Y Y ~ ] [ N E /3/ Μ. Κούηρας Απόδειξη: Μπνξεί θαλείο λα δηαπηζηώζεη όηη ηζρύεη θαζόινπ πξνθαλέο! / ] [ ] [ Y E Y E SSE

22 SSE Y E[ Y ] E[ Y αλεμάξηεηα Y αλεμάξηεηα ] Y Αθνύ έρνπκε ππνζέζεη θαλνληθόηεηα ηα εθηόο από αζπζρέηηζηα είλαη θαη αλεμάξηεηα. Έηζη ηειηθά SSE αλεμάξηεηα ~ /3/ Μ. Κούηρας

23 Η καηανομή από ηις τρήζιμες ζηαηιζηικές ζσναρηήζεις για καηαζκεσή διαζηημάηων εμπιζηοζύνης /3/ Μ. Κούηρας 3 ΠΡΟΣΑΗ..3. Σηο κανονικό γπαμμικό μονηέλο οι ηςσαίερ μεηαβληηέρ ακολοςθούν ηην καηανομή t ή καηανομή Student με βαθμούρ ελεςθεπίαρ ζςμβολικά ~ t και ~ t.

24 Οριζμός σπενθύμιζη Έζησ Ζ κηα ηπραία κεηαβιεηή ε νπνία αθνινπζεί ηελ ηππνπνηεκέλε θαλνληθή θαηαλνκή θαη S ν κηα ηπραία κεηαβιεηή αλεμάξηεηε από ηελ Ζ ε νπνία αθνινπζεί ηελ θαηαλνκή ηνλ ηύπν. Η ηπραία κεηαβιεηή Τ ν πνπ νξίδεηαη από T Θα ιέκε όηη αθνινπζεί ηελ θαηαλνκή t ηνπ Student κε ν βαζκνύο ειεπζεξίαο ζπκβνιηθά t ν Z S /3/ Μ. Κούηρας 4

25 5 Απόδειξη. Έρνπκε ~ N Ζ θαη ~ SSE U Επίζεο νη ηπραίεο κεηαβιεηέο Ζ θαη U είλαη αλεμάξηεηεο νπόηε ν ιόγνο U Z ζα αθνινπζεί ηελ θαηαλνκή t κε βαζκνύο ειεπζεξίαο. Όκσο S S νπόηε ηειηθά ζα έρνπκε ~ t. Όκνηα απνδεηθλύεηαη θαη ν δεύηεξνο ηζρπξηζκόο ηεο πξόηαζεο. /3/ Μ. Κούηρας

26 Καηαζκεσή διαζηημάηων εμπιζηοζύνης για ηις εεη ηοσ κανονικού γραμμικού μονηέλοσ 6 /3/ Μ. Κούηρας Έρνπκε / a t P / a t P νπόηε ] / / [ a t a t P από όπνπ πξνθύπηεη όηη / ] / [ a t a t P.

27 Διάζηημα εμπιζηοζύνης για ηην κλίζη β ηης εσθείας ελατίζηων ηεηραγώνων /3/ S SSE Μ. Κούηρας 7

28 Διάζηημα εμπιζηοζύνης για ηη ζηαθερά β ηης εσθείας ελατίζηων ηεηραγώνων S SSE /3/ Μ. Κούηρας 8

29 Παράδειγμα αγρών: Στέζη λιπάζμαηος και παραγωγής αγρού Ένασ αγρότθσ ενδιαφζρεται να προςδιορίςει τον τρόπο με τον οποίο θ ποςότθτα Χ του λιπάςματοσ που χρθςιμοποιείται ςε ζνα αγροτεμάχιο επθρεάηει τθν παραγωγι Υ του αγροκτιματοσ. Για το ςκοπό αυτό πειραματίηεται με ν= όμοια αγροτεμάχια ίδιου εμβαδοφ ςε περιοχζσ που επικρατοφν παρόμοιεσ κλιματολογικζσ ςυνκικεσ κλπ ζτςι ώςτε οι όποιεσ διαφοροποιιςεισ παρατθροφνται ςτθν παραγωγι των αγρών να οφείλονται κατά κφριο λόγο ςτισ διαφορετικζσ ποςότθτεσ λιπάςματοσ που χρθςιμοποιικθκαν. Στο διπλανό πίνακα δίνεται θ παραγωγι Υ ςε χιλιάδεσ κιλά για ν= όμοια αγροτεμάχια κακώσ και θ ποςότθτα Χ του λιπάςματοσ που χρθςιμοποιικθκε ςτο κακζνα ςε εκατοντάδεσ κιλά. 9

30 R % προσαρμοσμένες τιμές και σπόλοιπα SSE y y SSE= 3

31 Παράδειγμα αγρών: Στέζη λιπάζμαηος και παραγωγής αγρού Αο ζεσξήζνπκε όηη νη ηπραίεο κεηαβιεηέο Y πνπ πεξηγξάθνπλ ηελ παξαγσγή ελόο αγξνύ ζηνλ νπνίν ρξεζηκνπνηείηαη πνζόηεηα ιηπάζκαηνο... ηθαλνπνηνύλ ηηο ππνζέζεηο ηνπ θαλνληθνύ γξακκηθνύ κνληέινπ. α. Χξεζηκνπνηώληαο ηα δεδνκέλα λα ππνινγηζζνύλ ηα ηππηθά ζθάικαηα θαη ησλ εθηηκεηξηώλ ειαρίζησλ ηεηξαγώλσλ ησλ παξακέηξσλ θαη αληίζηνηρα. β. Να ππνινγηζηνύλ δηαζηήκαηα εκπηζηνζύλεο ζπληειεζηή 9% γηα ηηο. παξακέηξνπο θαη γ. Να δνζεί ε θπζηθή εξκελεία γηα ην δηάζηεκα εκπηζηνζύλεο πνπ βξέζεθε γηα ην. δ. Να δνζεί ε θπζηθή εξκελεία γηα ην δηάζηεκα εκπηζηνζύλεο πνπ βξέζεθε γηα ην. 3

32 SSE 54 Απανηήζειρ S S δ.ε. γηα ην δ.ε. γηα ην S t a/ t./ t : : /3/ Μ. Κούηρας 3

33 Παράδειγμα Μηα εηαηξεία επηζθεπάδεη ππνινγηζηέο. Γηα λα κειεηεζεί πηζαλή ζρέζε αλάκεζα ζην ρξόλν επηζθεπήο κηαο ζπζθεπήο Y θαη ζηνλ αξηζκό ησλ εμαξηεκάησλ πνπ πξέπεη λα επηζθεπαζηνύλ Φ ιακβάλνληαη ηα παξαθάησ δεδνκέλα από ν =4 αλεμάξηεηεο επηζθεπέο πνπ έγηλαλ ζην ervce ηεο εηαηξείαο y

34 ΔΙΑΓΡΑΜΜΑ ΔΙΑΠΟΡΑ /3/ Μ. Κούηρας 34

35 R SPSS output SSR ANOVA b Model Sum of Square df Mean Square F Sg. Regreon a Redual Total a.predctor:contantαπιθμόρ_εξαπτήματων b. Dependent Varable: Χπόνορ_επισκεςήρ SSTΟ SSE /3/ Μ. Κούηρας 35

36 Coeffcent a Untandardzed Coeffcent Standardzed Coeffcent 95% Confdence Interval for B Model Contant B Std. Error Beta t Sg. Lower Bound Upper Bound Αριθμός εξαρτήματων a.dependent Varable:Χπόνορ_επισκεςήρ Δηαζηήκαηα εκπηζηνζύλεο γηα β θαη β /3/ Μ. Κούηρας 36

37 Αποηελέζμαηα Εθηηκήηξηεο ειαρίζησλ ηεηξαγώλσλ Επζεία παιηλδξόκεζεο Y X Σπληειεζηήο πξνζδηνξηζκνύ R SSR SST % δ.ε. γηα ηελ παξάκεηξν β 95% δ.ε. γηα ηελ παξάκεηξν β /3/ Μ. Κούηρας 37

38 Άζκηζη /Σελίδα 6 Τα δηαζηήκαηα εκπηζηνζύλεο γηα ηηο παξακέηξνπο θαη ηνπ θαλνληθνύ γξακκηθνύ κνληέινπ έρνπλ πιάηνο ίζν κε / t a / t a t a / t a / t a / t / a αληίζηνηρα. Να εμεηάζεηε πσο κεηαβάιιεηαη ην πιάηνο ηνπο όηαλ α. απμάλεηαη ην πιήζνο ν ησλ ζεκείσλ πνπ ρξεζηκνπνηνύκε. β. ειαηηώλεηαη ν ζπληειεζηήο εκπηζηνζύλεο. γ. ειαηηώλεηαη ε ηηκή ηνπ κέζνπ ηεηξαγσληθνύ ππνινίπνπ δ. απμάλεηαη ε ηηκή ηνπ αζξνίζκαηνο S. Σε θαζεκηά από ηηο πεξηπηώζεηο α δ ππνζέζηε όηη όιεο νη ππόινηπεο πνζόηεηεο κε εμαίξεζε απηή πνπ αλαθέξεηαη όηη κεηαβάιιεηαη παξακέλνπλ ακεηάβιεηεο.. 38

39 Άζκηζη /Σελίδα 6 Αο ππνζέζνπκε όηη ζην θαλνληθό γξακκηθό κνληέιν ε δηαθύκαλζε ηεο κεηαβιεηήο απόθξηζεο Y είλαη γλσζηή ίζε κε έλα δεδνκέλν ζεηηθό πξαγκαηηθό αξηζκό. α. Να δηαπηζηώζεηε όηη ηα δηαζηήκαηα z z ] z z ] [ a/ a/ [ a/ a/ απνηεινύλ δηαζηήκαηα εκπηζηνζύλεο γηα ηηο παξακέηξνπο θαη αληίζηνηρα κε ζπληειεζηή εκπηζηνζύλεο ηππνπνηεκέλεο θαλνληθήο θαηαλνκήο δειαδή ηζρύεη. Τν ζύκβνιν z a / παξηζηάλεη ην άλσ a / ζεκείν ηεο a P Z za / όπνπ Ζ~Ν. β. Αλ ε δηαθύκαλζε ήηαλ άγλσζηε ζε πνηα πεξίπησζε ζα κπνξνύζακε λα ρξεζηκνπνηήζνπκε ηα δηαζηήκαηα z z ] z z ] [ a/ a/ αληί ησλ..8 θαη..9 αληίζηνηρα; [ a/ a/ 39

40 Άζκηζη 3/Σελίδα 63 α. Να δηαπηζησζεί όηη ζην θαλνληθό γξακκηθό κνληέιν ηα δηαζηήκαηα [ / 3 t a t a / 3] t a /3 t /3] [ a είλαη δηαζηήκαηα εκπηζηνζύλεο γηα ηηο παξακέηξνπο θαη αληίζηνηρα κε ζπληειεζηή εκπηζηνζύλεο. β. Να πξνηείλεηε θάπνηα επηπιένλ δηαζηήκαηα εκπηζηνζύλεο γηα ηηο παξακέηξνπο θαη δηαθνξεηηθά από ηα..9 θαη.. θαη απηά πνπ δόζεθαλ ζην Εξώηεκα α. γ. Να ζπγθξίλεηε ηα πιάηε ησλ δηαζηεκάησλ εκπηζηνζύλεο πνπ δόζεθαλ ζην Εξώηεκα α κε ηα πιάηε ησλ δηαζηεκάησλ..9 θαη.. ζεσξώληαο δηάθνξεο ηηκέο γηα ην ν θαη ηελ πηζαλόηεηα α a. 4

41 Άζκηζη 4/Σελίδα 63 Να δηαπηζηώζεηε όηη ηα δηαζηήκαηα α. t ] t ] [ [ β. t ] t ] [ [ είλαη δηαζηήκαηα εκπηζηνζύλεο γηα ηηο παξακέηξνπο θαη ηνπ θαλνληθνύ γξακκηθνύ κνληέινπ κε ζπληειεζηή εκπηζηνζύλεο. Τέηνηα δηαζηήκαηα ιέγνληαη μονόπλεςπα δηαζηήκαηα εκπηζηνζύλεο αθνύ πεξηνξίδνληαη κόλν από ηε κία πιεπξά ηνπο ελώ ην δεύηεξν άθξν ηνπο είλαη ην ή ην. 4

42 Άζκηζη 5/Σελίδα 63 Να δηαπηζησζεί όηη ζην θαλνληθό γξακκηθό κνληέιν ηo δηάζηεκα / / είλαη έλα δηάζηεκα εκπηζηνζύλεο γηα ηελ άγλσζηε δηαθύκαλζε ηεο κεηαβιεηήο απόθξηζεο Y κε ζπληειεζηή εκπηζηνζύλεο. 4