Εφαρμοσμένη Στατιστική: Συντελεστής συσχέτισης. Παλινδρόμηση απλή γραμμική, πολλαπλή γραμμική

Μέγεθος: px

Εμφάνιση ξεκινά από τη σελίδα:

Download "Εφαρμοσμένη Στατιστική: Συντελεστής συσχέτισης. Παλινδρόμηση απλή γραμμική, πολλαπλή γραμμική"

Κλήμης Κεδίκογλου
7 χρόνια πριν
Προβολές:

1 ΕΦΑΡΜΟΣΜΕΝΗ ΣΤΑΤΙΣΤΙΚΗ ΑΝΑΛΥΣΗ ΜΕΡΟΣ B Δημήτρης Κουγιουμτζής e-mal: dkugu@auth.gr Ιστοσελίδα αυτού του τμήματος του μαθήματος: Εφαρμοσμένη Στατιστική: Συντελεστής συσχέτισης Παλινδρόμηση απλή γραμμική, πολλαπλή γραμμική Χρονικές σειρές στασιμότητα, αυτοσυσχέτιση, μοντέλα αυτοπαλινδρόμησης

2 Παραδείγματα τιμής εισιτηρίου ~ χώρου στάθμευσης αριθμός σηματοδοτημένων διασταυρώσεων ~ χρόνος κάλυψης μιας διαδρομής κατανάλωση ηλεκτρικής ενέργειας κατοικίας ~ κατανάλωση νερού ~ μέγεθος κατοικίας Εξαρτάται η μια τ.μ. από την άλλη? Εξαρτιούνται και οι δύο από κάποια άλλη?

3 Δύο τ.μ.: με διασπορά Συσχέτιση και Παλινδρόμηση, Y με Y συνδιασπορά Y Cov[, Y] Y E[( )( Y )] E[ Y] Y Y εκφράζει τη γραμμική συσχέτιση δύο τ.μ. δηλαδή την αναλογική μεταβολή (αύξηση ή μείωση) της μιας τ.μ. που αντιστοιχεί σε μεταβολή της άλλης μεταβλητής εξαρτάται από τις μονάδες μέτρησης των δύο τ.μ. συντελεστής συσχέτισης Y Y ρ δεν εξαρτάται από τη μονάδα μέτρησης των και Y ρ είναι συμμετρικός ως προς τις και Y. ρ [-1,1]

4 Ερμηνεία της τιμής του συντελεστή συσχέτισης ρ=1: υπάρχει τέλεια θετική σχέση μεταξύ των και Y. ρ=0: δεν υπάρχει καμιά (γραμμική) σχέση μεταξύ των και Y. ρ=-1: υπάρχει τέλεια αρνητική σχέση μεταξύ των και Y. ρ κοντά στο 1 η γραμμική συσχέτιση των δύο τ.μ. είναι θετική και ισχυρή ρ κοντά στο -1 η γραμμική συσχέτιση των δύο τ.μ. είναι αρνητική και ισχυρή ρ κοντά στο 0 οι τ.μ. είναι πρακτικά ασυσχέτιστες Παρατηρήσεις των δύο τ.μ. και Y κατά ζεύγη x y, x, y,,, 1, 1 x y για ποιοτική εκτίμηση της συσχέτισης διάγραμμα διασποράς

6 Σημειακή εκτίμηση του συντελεστή συσχέτισης Σημειακή εκτίμηση του ρ από το δείγμα των ζευγαρωτών παρατηρήσεων των και Y ˆ r Y Y αμερόληπτη εκτιμήτρια Y Y E[( )( Y )] E[ Y] Y Y r Y x x y y x y x y 1 1 αμερόληπτες εκτιμήτριες και Y είναι οι τετραγωνικές ρίζες των δειγματικών διασπορών Άρα 1 x 1 x x y x y y y 1 x x 1 συντελεστής συσχέτισης Pearo συντελεστής προσδιορισμού 100r % γνωρίζοντας τη μια μεταβλητή μπορούμε να προσδιορίσουμε το 100r % της μεταβλητότητας της άλλης μεταβλητής

7 Διάστημα εμπιστοσύνης για ρ? Ναι, αν και Y ακολουθούν τη δι-μεταβλητή κανονική κατανομή Έλεγχος υπόθεσης για ρ? Ναι, αν και Y ακολουθούν τη δι-μεταβλητή κανονική κατανομή Η 0 : ρ = 0 εξετάζει αν τα και Y είναι γραμμικά ανεξάρτητα

8 PARK1 Παράδειγμα Θέλουμε να ελέγξουμε αν το αντίτιμο του εισιτηρίου αστικού λεωφορείου σε μια πόλη συσχετίζεται με τη χρήση χώρων στάθμευσης στο κέντρο της πόλης εισιτήριο χώροι λεωφορείου στάθμευσης,14 550,00,1 540,00, 600,00,8 710,00,33 650,00,35 100,00, ,00, ,00, ,00,50 100,00,50 150,00, ,00, ,00, ,00,65 100, ,1,,3,4,5,6,7 TICKET Ποιοτική εκτίμηση συσχέτιση της τιμής εισιτηρίου και χώρου στάθμευσης είναι θετική και ισχυρή

9 Υπολογισμός του r x y x y xy r Η μεταβλητότητα της μιας τ.μ. (εισιτήριο ή χώρος στάθμευσης) μπορεί να εξηγηθεί σε μεγάλο ποσοστό από τη συσχέτιση της με την άλλη Συμπέρασμα Η γνώση της μιας τ.μ. μας επιτρέπει να προσδιορίσουμε την άλλη με μεγάλη ακρίβεια... και συγκεκριμένα... γνωρίζοντας την τιμή του εισιτηρίου μπορούμε να καθορίσουμε ~90% της μεταβλητότητας του χώρου στάθμευσης Correlato TI CKET PAR K1 TI CKET Pearo Correlato 1,95** Sg. (-t aled).,000 N PARK1 Pearo Correlato,95** 1 Sg. (-t aled),000. N **. Correlato gf cat at the 0.01 lev el

10 Παλινδρόμηση Επίδραση του αριθμού φαναριών στο χρόνο μιας διαδρομής? Ζητάμε να εκτιμήσουμε την (γραμμική) εξάρτηση του αριθμού φαναριών στο χρόνο μιας διαδρομής. εξαρτημένη μεταβλητή Υ: ανεξάρτητη μεταβλητή Χ: χρόνος διαδρομής αριθμός φαναριών Μελέτη της μεταβλητότητα μιας τ.μ. Υ χρησιμοποιώντας την πληροφορία από κάποια άλλη μεταβλητή Χ ανάλυση παλινδρόμησης παλινδρόμηση: απλή: σχέση εξάρτησης μόνο ως προς μια ανεξάρτητη μεταβλητή πολλαπλή: σχέση εξάρτησης ως προς περισσότερες από μια ανεξάρτητες μεταβλητές γραμμική: η πιο απλή σχέση εξάρτησης (αναλογική) μη-γραμμική:

11 Απλή γραμμική παλινδρόμηση Υπόθεση απλής γραμμικής παλινδρόμησης: [ Y x] x μέση τιμή της τ.μ. Υ για κάθε τιμή x της : Άλλες υποθέσεις: Var[ Y x] Y Y x ~ x, ~ (0, ) για κάποια τιμή x της Χ μπορεί να αντιστοιχούν διαφορετικές τιμές y της Υ y είναι τ.μ. y x ε : σφάλμα παλινδρόμησης y Y x

12 Εκτίμηση παραμέτρων απλής γραμμικής παλινδρόμησης Εκτίμηση των τριών παραμέτρων της παλινδρόμησης: της διαφοράς ύψους (σταθερός όρος) της ευθείας παλινδρόμησης α της κλίσης ή του συντελεστή της ευθείας παλινδρόμησης β της διασποράς σφάλματος της παλινδρόμησης σ από το δείγμα x, y, x, y,, x, y 1 1

13 Εκτίμηση των α και β Η εκτίμηση των παραμέτρων α και β γίνεται με τη μέθοδο των ελαχίστων τετραγώνων βρίσκει την ευθεία παλινδρόμησης με παραμέτρους α και β έτσι ώστε το άθροισμα των τετραγώνων των κατακόρυφων αποστάσεων των σημείων από την ευθεία να είναι το ελάχιστο. Οι εκτιμήσεις των α και β δίνονται από την ελαχιστοποίηση του αθροίσματος των τετραγώνων των σφαλμάτων b Y και Τα a και b ορίζουν την ευθεία yˆ a b x a y b x ευθεία ελαχίστων τετραγώνων Y δειγματική συνδιασπορά των και Y δειγματική διασπορά της

14 Για κάθε x x b a y ˆ υπόλοιπο ή σφάλμα ελαχίστων τετραγώνων x b a y y y e ˆ e είναι η εκτίμηση του ε, x y Εκτίμηση της διασποράς του σφάλματος σ δειγματική διασπορά των υπολοίπων e e y y 1 ˆ Y Y Y b Εκτίμηση του σ

15 Διαστήματα εμπιστοσύνης για τις παραμέτρους α και β a t b t,1 /,1 / a b εκτιμήσεις των τυπικών σφαλμάτων των a και b Έλεγχος υποθέσεων για τα α και β Η 0 : 0 αν η κλίση β της ευθείας παλινδρόμησης είναι στατιστικά ασήμαντη η τ.μ. Y δεν εξαρτάται από τη μεταβλητή

16 TIME Παράδειγμα Θέλουμε να διερευνήσουμε την επίδραση του αριθμού των σηματοδοτημένων διασταυρώσεων στο χρόνο κάλυψης μιας διαδρομής Υποθέτουμε πως ο χρόνος διαδρομής εξαρτάται γραμμικά από τον αριθμό των σηματοδοτημένων διασταυρώσεων Σωστή υπόθεση? αριθμός φαναριών χρόνος διαδρομής 4 11, , ,00 5 0, ,00 6 1,00 6 5, ,00 8 5,00 8 3,00 9, , LIGHT

17 Εκτίμηση και πρόβλεψη της εξαρτημένης μεταβλητής ŷ a b x Για κάθε x 0 η σημειακή πρόβλεψη είναι 0 0 (1 )% διάστημα εμπιστοσύνης για ŷ0 1 ( a bx ) t x x 0 0,1 / ( 1) (1 )% διάστημα πρόβλεψης για ŷ0 1 ( a bx ) t 1 x x 0 0,1 / ( 1)

18 Πολλαπλή Γραμμική Παλινδρόμηση Η τ.μ. Y εξαρτάται γραμμικά από κάποιες μεταβλητές 1,,, k y x x x k k ~ (0, ) Άλλες υποθέσεις: Γενικά το πρόβλημα και η εκτίμηση της πολλαπλής γραμμικής παλινδρόμησης δε διαφέρει ουσιαστικά από αυτό της απλής γραμμικής παλινδρόμησης. Χρειάζονται όλες οι ανεξάρτητες μεταβλητές στο μοντέλο;

19 Επιλογή των ανεξάρτητων μεταβλητών τεχνική της βηματικής παλινδρόμησης Αρχίζουμε με το απλό σταθερό μοντέλο y 0 Σε κάθε βήμα προστίθεται μια μεταβλητή στο μοντέλο μόνο αν αυτή η μεταβλητή προσφέρει σημαντική πληροφορία για τη Y, επιπρόσθετα στην πληροφορία που παρέχουν οι ανεξάρτητες μεταβλητές που είναι ήδη στο μοντέλο από το προηγούμενο βήμα Σε κάθε βήμα γίνονται δύο στατιστικοί έλεγχοι: 1. Αν κάποια από τις μεταβλητές που δεν ήταν στο μοντέλο πρέπει να προστεθεί σ αυτές που ήδη έχουν συμπεριληφθεί.. Αν κάποια από τις μεταβλητές που ήταν στο μοντέλο του προηγούμενου βήματος πρέπει να παραμείνει στο νέο μοντέλο, στο οποίο έχει συμπεριληφθεί μια νέα μεταβλητή.

20 Παράδειγμα Θέλουμε να διερευνήσουμε την επίδραση στο χρόνο κάλυψης μιας διαδρομής: 1. του αριθμού των σηματοδοτημένων διασταυρώσεων. της ποιότητας του οδοστρώματος 3. του αριθμού βιομηχανικών μονάδων 4. του ποσοστού των φορτηγών στο πλήθος των οχημάτων

21 Χρονικές Σειρές x1, x,..., x σύνολο παρατηρήσεων ενός μεγέθους με το χρόνο με κάποιο χρονικό βήμα πολλαπλή παλινδρόμηση: Υ εξαρτάται από 1,,, k t t1 t χρονοσειρές: εξαρτάται από,, για κάθε t αυτοπαλινδρόμηση κλασικό μοντέλο x y t t t t στοιχείο τάσης στοιχείο περιοδικότητας ή εποχικότητας μη ομαλό στοιχείο

22 Στάσιμη χρονοσειρά: όταν οι στατιστικές ιδιότητες της χρονοσειράς δεν αλλάζουν με το χρόνο Στοιχείο τάσης x y t t t Στοιχείο περιοδικότητας x y t t t t συνάρτηση του χρόνου t συνάρτηση του χρόνου π.χ. t f () t a0 a1t π.χ. t f ( t) ( t / k) Απαλοιφή στοιχείου τάσης y x ˆ t t t Απαλοιφή στοιχείου τάσης y x ˆ t t t yt xt xt xt 1

23 Αυτοσυσχέτιση συνάρτηση αυτοδιασποράς ( ) Cov, t t () συνάρτηση αυτοσυσχέτισης () εκτίμηση αυτοδιασποράς: 1 1 ˆ () xt x xt x xt xt x t1 t1 εκτίμηση αυτοσυσχέτισης: r ˆ () ( ) ˆ ( ) 1 r ( ) 1 r ( ) r ( ) Έτσι αν η χρονοσειρά είναι λευκός θόρυβος, η αυτοσυσχέτιση μηδενίζεται για κάθε υστέρηση 0 Πρακτικά όρια για λευκό θόρυβο z 1 / 1

24 Γενικό μοντέλο Μοντέλα αυτοπαλινδρόμησης t 1 t1 p t p 0 t 1 t1 q tq t ανεξάρτητα μεταξύ τους και έχουν πανομοιότυπη κατανομή αυτοπαλινδρομούμενο μέρος μέρος του κινούμενου μέσου σφάλμα ή θόρυβο στη χρονική στιγμή t 0 1 αυτοπαλινδρομούμενο μοντέλο κινούμενου μέσου ARMA(p,q) αυτοπαλινδρομούμενο μοντέλο t 1 t1 p tp t t ~ (0, ) όπως για πολλαπλή γραμμική παλινδρόμηση παράμετροι,,, 1 p

Σχετικά έγγραφα

ΠΑΝΕΠΙΣΤΗΜΙΟ ΑΙΓΑΙΟΥ ΠΟΛΥΤΕΧΝΙΚΗ ΣΧΟΛΗ ΤΜΗΜΑ ΜΗΧΑΝΙΚΩΝ ΟΙΚΟΝΟΜΙΑΣ ΚΑΙ ΔΙΟΙΚΗΣΗΣ ΣΤΑΤΙΣΤΙΚΗ

ΠΑΝΕΠΙΣΤΗΜΙΟ ΑΙΓΑΙΟΥ ΠΟΛΥΤΕΧΝΙΚΗ ΣΧΟΛΗ ΤΜΗΜΑ ΜΗΧΑΝΙΚΩΝ ΟΙΚΟΝΟΜΙΑΣ ΚΑΙ ΔΙΟΙΚΗΣΗΣ ΣΤΑΤΙΣΤΙΚΗ Ακαδ. Έτος 07-08 Διδάσκων: Βασίλης ΚΟΥΤΡΑΣ Επικ. Καθηγητής v.koutras@fme.aegea.gr Τηλ: 7035468 Θα μελετήσουμε