ΕΙΣΑΓΩΓΗ ΣΤΗΝ ΠΟΛΥΜΕΤΑΒΛΗΤΗ ΚΑΝΟΝΙΚΗ ΚΑΤΑΝΟΜΗ

Transcript

1 ΕΙΑΓΩΓΗ ΤΗΝ ΠΟΛΥΜΕΤΑΒΛΗΤΗ ΚΑΝΟΝΙΚΗ ΚΑΤΑΝΟΜΗ Μέρος Α Μαθήατος «Πολυεταβλητή Ανάλυση» ΕΙΑΓΩΓΗ ε αρκετές εφαρογές πχ σε βιολογικές οικονοικές ή κοινωνικές επιστήες τα δεδοένα που συλλέγονται αφορούν περισσότερες από ια εταβλητές Για παράδειγα ο παρακάτω πίνακας δίνει τις ετρήσεις τριών εταβλητών Χ : Περίετρος Κοιλίας Χ : Βάρος Χ 3 : Ύψος σε 36 τυχαία επιλεγένους άνδρες -9 ετών 36 στοιχεία t - άτοο Περίετρος Κοιλίας άτοο Περίετρος Κοιλίας Βάρος Kgr Ύψος Βάρος Kgr Ύψος Μας ενδιαφέρει να αναλύσουε και να ελετήσουε παρόοια πολυεταβλητά δεδοένα υνήθως ας ενδιαφέρει: Να ειώσουε το πλήθος των εταβλητών χωρίς να χαθεί πολύτιη πληροφορία αν πχ έχουε 5 εταβλητές ας ενδιαφέρει να κρατήσουε τις κύριες συνιστώσες Να οαδοποιήσουε ή να κατατάξουε τα δεδοένα σε οοειδή υποσύνολα 3 Να διερευνήσουε την εξάρτηση εταξύ των εταβλητών 4 Να κατασκευάσουε υποδείγατα που θα ας βοηθήσουν στην πρόβλεψη ποσοτήτων 5 Να πραγατοποιήσουε ελέγχους υποθέσεων που αφορούν παραέτρους των δεδοένων Είναι προφανές ότι η στατιστική ανάλυση πολυεταβλητών δεδοένων ότι είναι υπολογιστικά επίπονη Για το λόγο αυτό η ανάλυση αυτή γίνεται ε την χρήση Η/Υ έσω κατάλληλου λογισικού Οι τεχνικές πολυεταβλητών δεδοένων εφαρόζονται πχ στην βιοστατιστική και στην φαρακολογία στην κοινωνιολογία κοινωνική στατιστική στα οικονοικά χρηατοοικονοικά στην εκπαίδευση στην βιολογία στην ελέτη του περιβάλλοντος στην ετεωρολογία στην γεωλογία στην ψυχολογία κα το πρώτο αυτό έρος των σηειώσεων γίνεται αρχικά ια σύντοη επισκόπηση της θεωρίας πινάκων και στην συνέχεια πραγατοποιείται ια εισαγωγή στην πολυεταβλητή κανονική κατανοή καθώς και σε ελέγχους υποθέσεων που αφορούν τις παραέτρους της Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α

2 ΠΟΛΥΜΕΤΑΒΛΗΤΑ ΔΕΔΟΜΕΝΑ Πριν προχωρήσουε στην στατιστική ανάλυση θα πρέπει να βρούε έναν τρόπο α- ναπαράστασης πολυεταβλητών δεδοένων Ας υποθέσουε ότι έχουε το πλήθος εταβλητές vrl κάθε ια από τις οποίες καταγράφεται για το πλήθος άτοα ή στοιχεία ή πειράατα t vul rtl trl Θα συβολίζουε ε = έτρηση της τιής της εταβλητής στο άτοο του δείγατος Εποένως το σύνολο των δεδοένων πορεί να αναπαρασταθεί ως εξής: Άτοο Άτοο Άτοο Άτοο Μεταβλητή : Μεταβλητή : Μεταβλητή : Μεταβλητή : Είναι πιο βολικό να αναπαραστήσουε τα παραπάνω ε τη ορφή πίνακα: Χρησιοποιούε ικρό γράα στα παραπάνω δεδοένα για να εκφράσουε το γεγονός ότι πρόκειται για ετρήσεις «ετά» την πραγατοποίηση του πειράατος ή της δειγατοληψίας δηλαδή πιο απλά πρόκειται για συγκεκριένους αριθούς Όταν θέλουε νε συβολίσουε τα δεδοένα «πριν» την πραγατοποίηση του πειράατος τότε ως συνήθως χρησιοποιούε κεφαλαίο Χ θα πρόκειται δηλαδή για τυχαία εταβλητή Παράδειγα Ας θεωρήσουε και πάλι ως παράδειγα τα δεδοένα που αφορούν ετρήσεις από 36 άτοα Για ευκολία ας περιοριστούε στα 5 πρώτα άτοα Τα δεδοένα αυτά αναπαρίστανται ε τη ορφή πίνακα ως εξής = 3: Θα συβολίζουε τα βασικά περιγραφικά έτρα ενός πολυεταβλητού δείγατος ως ακολούθως: Δειγατική έση τιή εταβλητής : Δειγατική διασπορά εταβλητής : ερικές φορές χρησιοποιούε αντί για στον παρονοαστή Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α

3 Δειγατική συνδιασπορά ή συνδιακύανση εταξύ των εταβλητών : Προφανώς = Δειγατικός συντελεστής συσχέτισης του Pro εταξύ των εταβλητών : r Προφανώς r = r και r = Ο δειγατικός συντελεστής συσχέτισης λαβάνει τιές εταξύ των και πορεί να θεωρηθεί ως ένα έτρο της γραικής εξάρτησης εταξύ των δύο εταβλητών Αν είναι θετικός τότε έχουε θετική γραική εξάρτηση όταν αυξάνεται η τιή της ιας εταβλητής τότε «τείνει να αυξάνεται» και η τιή της άλλης ενώ όταν είναι αρνητικός έχουε αρνητική γραική εξάρτηση όταν αυξάνεται η τιή της ιας εταβλητής τότε «τείνει να ειώνεται» η τιή της άλλης Όσο πιο κοντά στο ή στο είναι τόσο ι- σχυρότερη είναι η θετική ή η αρνητική εξάρτηση αντίστοιχα Οι παραπάνω ποσότητες πορούν για ευκολία να παρασταθούν ε τη ορφή πίνακα: Διάνυσα των δειγατικών έσων τιών των εταβλητών Πίνακας των δειγατικών συνδιασπορών ή συνδιακυάνσεων εταξύ των εταβλητών Πίνακας των δειγατικών συντελεστών συσχέτισης εταξύ των εταβλητών r r r r r r r Παράδειγα Ας θεωρήσουε και πάλι ως παράδειγα τα δεδοένα που αφορούν ετρήσεις από 36 άτοα Το διάνυσα των δειγατικών έσων και οι πίνακες των δειγατικών συνδιακυάνσεων και συντελεστών συσχέτισης ή συσχετίσεων υπολογίζονται: r r r r r r r Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 3

4 Παρατηρούε αρκετά υψηλή θετική δειγατική συσχέτιση εταξύ των Χ Περίετρος Κοιλίας και Χ Βάρος και επίσης υψηλή θετική δειγατική συσχέτιση εταξύ των Χ Βάρος και Χ 3 Ύψος Πολύ ικρή δειγατική συσχέτιση σχεδόν ηδενική παρατηρείται εταξύ των Χ Περίετρος Κοιλίας και Χ 3 Ύψος ε αυτή την φάση θα είχε νόηα να ελέγξουε αν το ίδιο πορεί να ισχύει σε όλο τον πληθυσό από τον οποίο προήλθε το δείγα δηλαδή αν ισχύει για τις θεωρητικές συσχετίσεις ρ Να σηειωθεί ότι συνήθως οι παραπάνω στατιστικές συναρτήσεις υπολογίζονται διαιρώντας ε αντί ώστε όπως θα δούε να πρόκειται για αερόληπτες εκτιήτριες των σ ε αυτή την περίπτωση ο αντίστοιχος πίνακας θα είναι Μπορούε επίσης να χρησιοποιήσουε και κάποια γραφήατα για να πάρουε ια πιο εποπτική εικόνα για την σχέση εταξύ των εταβλητών υνηθέστερα χρησιοποιούε τα διαγράατα διασποράς ttrlot Το διάγραα διασποράς εταξύ των εταβλητών Χ και Χ είναι το γράφηα των σηείων Από το παραπάνω γράφηα πορούε να δούε ότι οι εταβλητές παρουσιάζουν υ- ψηλή θετική συσχέτιση κάτι που φάνηκε και από τον δειγατικό συντελεστή συσχέτισης Με τον ίδιο τρόπο πορούε να κατασκευάσουε όλα τα διαγράατα διασποράς εταξύ των εταβλητών Χ Χ Χ 3 για να δούε τη σχέση εταξύ τους Το παραπάνω πολλαπλό διάγραα διασποράς ultl ttrlot επιβεβαιώνει τα συπεράσατα που εξήχθησαν ε βάση τον πίνακα των δειγατικών συσχετίσεων Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 4

5 Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 5 ΒΑΙΚΕ ΕΝΝΟΙΕ ΑΠΌ ΤΗ ΓΡΑΜΜΙΚΗ ΑΛΓΕΒΡΑ Όπως διαφαίνεται και από τα παραπάνω για να χειριστούε πολυεταβλητά δεδοένα πρέπει να είαστε σε θέση να χειριστούε διανύσατα και πίνακες Για το λόγο αυτό στη συνέχεια γίνεται ια σύντοη επισκόπηση βασικών εννοιών από τη Γραική Άλγεβρα ΔΙΑΝΥΜΑΤΑ Διάνυσα συντεταγένων καλείται ια διατεταγένη συλλογή από πραγατικούς α- ριθούς υνήθως συβολίζεται χρησιοποιώντας κάποιο παχύ γράα και παρίσταται σε ια στήλη ως εξής: ή πχ ή 4 3 κοκ Ορίζεται η πρόσθεση εταξύ διανυσάτων ιδίου εγέθους και ο βαθωτός πολλαπλασιασός εταξύ ενός πραγατικού αριθού και ενός διανύσατος : Ο χώρος V = R των διανυσάτων συντεταγένων εφοδιασένος ε τις παραπάνω δύο πράξεις καλείται διανυσατικός ή γραικός χώρος διάστασης Κάθε στοιχείο διάνυσα του χώρου V πορεί να θεωρηθεί ως ένα ευθύγραο τήα στο υπερεπίπεδο διαστάσεων ε αρχή το σηείο και τέλος το σηείο Αυτό πορεί εύκολα να παρασταθεί όταν = στο επίπεδο ή όταν = 3 στο χώρο 3 διαστάσεων = = 3 Ο χώρος των γραικών συνδυασών των διανυσάτων ε συντεταγένες ο οποίος αποτελείται από όλα τα διανύσατα της ορφής R καλείται γραικός υπόχωρος που παράγεται από τα Για παράδειγα ο υπόχωρος που αποτελείται από όλα τα διανύσατα R 3 είναι το επίπεδο του R 3 που καθορίζεται από τα δύο παραπάνω διανύσατα

6 Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 6 4 Ένα σύνολο από διανύσατα καλείται γραικά εξαρτηένο αν υπάρχουν πραγατικοί αριθοί όχι όλοι ίσοι ε έτσι ώστε δηλαδή κάποιο από τα πορεί να παρασταθεί ως γραικός συνδυασός των υπολοίπων Διαφορετικά τα παραπάνω διανύσατα καλούνται γραικά ανεξάρτητα Για παράδειγα τα διανύσατα είναι γραικά εξαρτηένα διότι 3 Ενώ για παράδειγα τα διανύσατα 3 είναι γραικά ανεξάρτητα διότι Κάθε σύνολο γραικά ανεξάρτητων διανυσάτων διάστασης καλείται βάση του διανυσατικού χώρου V Προφανώς η βάση ενός χώρου δεν είναι οναδική Αν είναι ια βάση του V τότε κάθε διάνυσα του V πορεί να γραφεί ε οναδικό τρόπο ως γραικός συνδυασός των Η συνήθης βάση του χώρου V είναι η Χρησιοποιώντας την παραπάνω βάση κάθε διάνυσα του χώρου V προφανώς γράφεται ως εξής: 6 Το ήκος ενός διανύσατος θα είναι ενώ για τη γωνία θ εταξύ δύο διανυσάτων ισχύει o διότι: oθ = oθ θ = oθ oθ + θ θ = / / + / / όπου ε συβολίζουε το εσωτερικό γινόενο των

7 = = = θ ro Επίσης η προβολή του διανύσατος πάνω στο διάνυσα βλ σχήα είναι ro o Το παραπάνω προκύπτει από ότι η προβολή ro έχει την ίδια διεύθυνση ε το και άρα ro για κάποιο R και ήκος ro o αν θ π/ Από τα δύο προηγούενα θα είναι o o / όοια αποδ για θ > π/ 7 Αν τότε o και στην περίπτωση αυτή τα δύο διανύσατα καλούνται κάθετα θ = ± π/ Ένα σύνολο από ανά δύο κάθετα εταξύ τους διανύσατα είναι γραικά ανεξάρτητο Επίσης αν ένα είναι κάθετο προς καθένα από τα τότε είναι κάθετο και προς όλο το γραικό υπόχωρο που παράγεται από τα 8 Gr ht ορθογωνιοποίηση: Αν τα διανύσατα είναι γραικά ανεξάρτητα τότε πορούε να βρούε κάθετα ανά δύο διανύσατα u u u που παράγουν τον ίδιο γραικό υπόχωρο ε τα Μάλιστα πορούε αναδροικά να πάρουε u u u u rou 3 3 rou 3 ro u 3 ro ro u u Μπορούε επίσης να πάρουε ως ορθογώνια βάση την = u u = ώστε τα να έχουν ήκος ΠΙΝΑΚΕ Ένας πίνακας A διαστάσεων αποτελείται από πραγατικούς αριθούς τοποθετηένους σε γραές και στήλες Η γενική του ορφή είναι Α = [ ] Ένα διάνυσα πορεί να θεωρηθεί ως ένας πίνακας Δύο πίνακες ίδιων διαστάσεων Α = [ ] Β = [ ] είναι ίσοι αν = για κάθε Όοια ε τα διανύσατα ορίζεται η πρόσθεση εταξύ πινάκων Α Β ίδιων διαστάσεων και ο βαθωτός πολλαπλασιασός εταξύ ενός πραγατικού αριθού και ενός πίνακα A: Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 7

8 και Α Β = Α + Β C Α Β [ ] Α [ ] [ ] [ ] [ ] Επίσης ορίζεται και ο πολλαπλασιασός πινάκων Α = [ ] επί Β = [ ] : Για παράδειγα ΑΒ 3 3 C ΑΒ [ ] [ ] [ ] 3 3 l 3 l 3 l 3 3 Ο πολλαπλασιασός πινάκων είναι συβατός ε το εσωτερικό γινόενο διανυσάτων που είδαε παραπάνω Ο ανάστροφος ενός πίνακα Α = [ ] θα συβολίζεται ε Α Τ ή ε Α και προκύπτει ετατρέποντας τις γραές σε στήλες δηλαδή Α = [ ] Ένας πίνακας καλείται τετραγωνικός αν έχει τόσες γραές όσες και στήλες Μοναδιαίος πίνακας Ι διάστασης καλείται ο τετραγωνικός πίνακας που έχει στην κύρια διαγώνιο ονάδες και σε όλες τις άλλες θέσεις δηλαδή Ι Αν Α είναι πίνακας τότε ΑΙ = ΙΑ = Α Μηδενικός συβ καλείται ο πίνακας που έχει όλα τα στοιχεία του ίσα ε υετρικός καλείται ένας τετραγωνικός πίνακας που είναι ί- σος ε τον ανάστροφό του Διαγώνιος καλείται ένας τετραγωνικός πίνακας που έχει η ηδενικά στοιχεία όνο στην κύρια διαγώνιό του Αν τα στοιχεία αυτά είναι τα τότε συβολίζεται και ε g{ } πχ g {34} Αποδεικνύεται εύκολα ότι ισχύουν οι ακόλουθες ιδιότητες: A + B + C = A + B + C A + B = B + A A + B = A + B v + A = A + A v A + B = Α + Β v AB = AB v ABC = ABC v AB + C = AB + AC A + B C = AC + BC AB = Β Α Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 8

9 Ιδιαίτερη προσοχή θα πρέπει να δοθεί στο γεγονός ότι κατά τον πολλαπλασιασό πινάκων δεν ισχύει η αντιεταθετική ιδιότητα δηλαδή γενικά ΑΒ ΒΑ Επίσης η ισότητα ΑΒ = δεν συνεπάγεται πάντοτε ότι Α = ή Β = όπως ισχύει στους πραγατικούς αριθούς 4 Η ορίζουσα ενός τετραγωνικού πίνακα Α = [ ] συβολίζεται ε DtA ή Α και είναι ο αριθός που ορίζεται αναδροικά ως εξής: Α αν = Α Α Α Α όπου Α είναι η ορίζουσα του πίνακα που προκύπτει από τον Α αφού του αποκοπεί η γραή και η στήλη την περίπτωση που = και = 3 αποδεικνύεται εύκολα ότι και A A Ο βαθός r των γραών στηλών ενός πίνακα είναι ο έγιστος αριθός από γραικά ανεξάρτητες γραές στήλες θεωρούενες ως διανύσατα Αποδεικνύεται ότι ο βαθός των στηλών είναι ίσος ε το βαθό των γραών ενός πίνακα και για αυτό καλείται βαθός του πίνακα 6 Αν Α είναι ένας τετραγωνικός πίνακας αποδεικνύεται ότι τα ακόλουθα είναι ισοδύναα: Α = = δηλ οι στήλες είναι γραικά ανεξάρτητες ή ισοδύναα o βαθός του Α είναι ίσος ε η ορίζουσα A Υπάρχει ένας πίνακας Β διαστάσεων τέτοιος ώστε ΑΒ = ΒΑ = Ι Ο παραπάνω πίνακας Β καλείται αντίστροφος του Α και συβολίζεται ε Α - Αποδεικνύεται ότι το στοιχείο του πίνακα Α - δίνεται από τον γενικό τύπο A A Για = έχουε απλά ότι Όοια για = 3 έχουε A A A A A3 A A A A A A A A A 3 A 3 A A 33 A Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 9

10 Για τετραγωνικούς πίνακες Α Β ισχύουν οι ακόλουθες ιδιότητες: Α - = Α - αν Α αντιστρέψιος AB - = B - A - αν Α Β αντιστρέψιοι A = A v Αν όλα τα στοιχεία ιας γραής ή ιας στήλης του Α είναι τότε Α = v Αν δύο γραές ή στήλες του Α είναι ίδιες τότε Α = v Αν υπάρχει ο Α - τότε Α - = / Α v AB = A B v A = A 7 Το ίχνος ενός τετραγωνικού πίνακα Α=[α ] ορίζεται ως το άθροισα των στοιχείων της διαγωνίου του Για τετραγωνικούς πίνακες ισχύει ότι: tra tra = tra tra+b = tra + trb trab = trba v trb - AB = tra v traa = 8 Ένας τετραγωνικός πίνακας καλείται ορθογώνιος αν AA = Ι δηλαδή οι γραές του θεωρούενες ως διανύσατα είναι εταξύ τους κάθετες ε οναδιαίο ήκος Αποδεικνύεται ότι ο Α είναι ορθογώνιος αν και όνο αν Α - = Α Αν AA = Ι τότε και A A = Ι 9 Αν Α είναι ένας τετραγωνικούς πίνακας τότε οι αριθοί λ λ λ πραγατικοί ή ιγαδικοί που ικανοποιούν την πολυωνυική εξίσωση A λι = καλούνται ιδιοτιές του Α Η εξίσωση αυτή καλείται χαρακτηριστική εξίσωση Πχ οι ιδιοτιές λ λ του πίνακα A 5 είναι οι δύο ρίζες της εξίσωσης A λι = δηλαδή Αν λ είναι ια ιδιοτιή του Α τότε ένα διάνυσα που ικανοποιεί την εξίσωση Α = λ καλείται ιδιοδιάνυσα του Α που αντιστοιχεί στην ιδιοτιή λ Πχ για την ιδιοτιή λ = έχουε το σύστηα των εξισώσεων A Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α

11 Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α Οι παραπάνω δύο εξισώσεις είναι ισοδύναες και καταλήγουε σε ια εξίσωση την + = η οποία έχει άπειρες λύσεις ως προς και εποένως έχουε άπειρες ιδιοτιές της ορφής = [ ] R Για παράδειγα ένα ιδιοδιάνυσα για την ιδιοτιή λ = είναι το = [ ] Με τον ίδιο τρόπο και για την λ έχουε άπειρες ιδιοτιές της ορφής = [ 5/3] R υνήθως λαβάνουε τις οναδιαίες ιδιοτιές διαιρώντας τις ε το ήκος τους: / / 34 5/ 34 3/ / 3 5 / 3 5 Η διαδικασία εύρεσης των ιδιοτιών και των ιδιοδιανυσάτων ενός πίνακα είναι υπολογιστικά πολύ επίπονη ιδιαίτερα για εγάλους πίνακες αλλά αυτό δεν αποτελεί πρόβληα διότι στην πράξη οι υπολογισοί γίνονται πάντοτε από Η/Υ Αποδεικνύεται ότι αν ο Α είναι συετρικός πίνακας τότε πορούν να βρεθούν οναδικά ιδιοδιανύσατα τα οποία έχουν οναδιαίο ήκος και είναι εταξύ τους κάθετα καλούνται ορθοκανονικά το εξής θα ασχοληθούε κατά κύριο λόγο ε συετρικούς πίνακες Φασατική αποσύνθεση ή παραγοντοποίηση trl ooto Αποδεικνύεται ότι αν ο Α είναι ένας συετρικός πίνακας τότε γράφεται στη ορφή A λ λ λ όπου λ λ λ είναι οι ιδιοτιές του Α και τα αντίστοιχα ορθοκανονικά ιδιοδιανύσατα πχ είναι εύκολο να επαληθεύσουε από την παραπάνω αναπαράσταση ότι Α = λ και εποένως τα είναι πράγατι ιδιοδιανύσατα του Α Αν συβολίσουε ε P τον πίνακα που έχει ως στήλες τα παραπάνω ιδιοδιανύσατα και ε Λ τον διαγώνιο πίνακα που έχει στην κύρια διαγώνιο τις παραπάνω ιδιοτιές και αλλού τότε η παραπάνω αναπαράσταση του Α γνωστή και ως φασατική αποσύνθεση γράφεται ως εξής λ λ λ PΛP A όπου = [ ] Για παράδειγα είναι εύκολο να βρούε ότι ο συετρικός πίνακας A έχει ιδιοτιές τις λ = 3 και λ = ε αντίστοιχα ορθοκανονικά ιδιοδιανύσατα τα = [/ / ] και = [/ / ] και να επαληθεύσουε ότι πράγατι A P PΛ 3 3 3

12 Δυνάεις πίνακα Η φασατική αποσύνθεση ενός πίνακα ας βοηθά να εκφράσουε ε απλό τρόπο τις δυνάεις ενός συετρικού πίνακα Α Παρατηρούε ότι αν φυσικός αριθός A PΛP PΛP PΛP PΛP PΛ PP Λ P P ΛP PΛ P και ο Λ είναι ο διαγώνιος πίνακας που στην κύρια διαγώνιο έχει τις ιδιοτιές υψωένες στην δύναη Επίσης αν ο Α έχει ιδιοτιές διαφορετικές του τότε A PΛP P Λ P P Λ P PΛ και ο Λ - έχει στη διαγώνιό του τις αντίστροφες τιές των ιδιοτιών Από τα παραπάνω αν ο συετρικός Α έχει θετικές ιδιοτιές τότε πορούε να ορίσουε και τη ρίζα του Α ως εξής: A / PΛ ο Λ / έχει στη διαγώνιο τις ρίζες των ιδιοτιών του Α Ο παραπάνω πίνακας έχει τις ιδιότητες της ρίζας δηλαδή A / A / PΛ Γενικότερα πορούε να ορίσουε / PPΛ A / / P PΛ P / Λ / P P PΛP Α PΛ P R αρκεί λ > = 3 Τετραγωνική ορφή πίνακα Τετραγωνική ορφή καλείται ία συνάρτηση εταβλητών η οποία γράφεται στη ορφή Q A όπου = [ ] Α = [ ] και = δηλαδή ο Α είναι συετρικός [ Πχ αν A ] τότε Q 4 Αν για ένα συετρικό πίνακα Α ισχύει ότι A για κάθε = [ ] τότε ο Α καλείται οριστικά η-αρνητικός o gtv t Αν ισχύει ότι A για κάθε τότε καλείται οριστικά θετικός otv t Χρησιοποιώντας την φασατική αποσύνθεση του πίνακα αποδεικνύεται εύκολα ότι ο Α είναι οριστικά η αρνητικός θετικός αν και όνο αν όλες οι ιδιοτιές του είναι η- αρνητικές θετικές Πράγατι A λ λ λ λ λ λ το οποίο είναι η-αρνητικό θετικό για κάθε αν και όνο αν οι ιδιοτιές είναι ηαρνητικές θετικές [ Για παράδειγα ο πίνακας A ] που εξετάσαε παραπάνω έχει θετικές ιδιοτιές και εποένως είναι οριστικά θετικός 5 Όπως θα δούε σε ορισένες περιπτώσεις έχει ενδιαφέρον να δούε ποιος είναι ο χώρος γεωετρικός τόπος των R που ικανοποιούν την εξίσωση A = για κάποιο συετρικό πίνακα Α και > Ας εξετάσουε αρχικά το πρόβληα αυτό στις δύο διαστάσεις = που πορούε να έχουε εποπτεία Αν ο Α είναι ο οναδιαίος πίνακας τότε A και η εξίσωση A = είναι της ορφής Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α

13 Είναι γνωστό ότι τα σηεία του επιπέδου που ικανοποιούν την παραπάνω εξίσωση βρίσκονται πάνω στην περιφέρεια ενός κύκλου ε κέντρο το και ακτίνα Γενικότερα από την φασατική αποσύνθεση του πίνακα έχουε ότι A λ λ / λ / λ όπου = = και είναι γνωστό ότι την παραπάνω εξίσωση ικανοποιούν τα σηεία που βρίσκονται πάνω στην περιφέρεια ιας έλλειψης ε ακτίνες / λ / λ Είναι εύκολο τώρα να δούε ότι τα = [ ] [ ] που ικανοποιούν την παραπάνω βρίσκονται πάνω στην περιφέρεια ιας περιστραένης έλλειψης ε κύριους άξονες τα διανύσατα και αντίστοιχες ακτίνες τις / λ / λ βλέπε σχήα / λ / λ ε εγαλύτερες τώρα διαστάσεις > προκύπτει ανάλογο αποτέλεσα δηλαδή τα σηεία που ικανοποιούν την A = βρίσκονται πάνω στην υπερεπιφάνεια ενός υπερελλειψοειδούς ε κύριους άξονες τα ιδιοδιανύσατα του πίνακα Α και αντίστοιχες ακτίνες τις / λ = 3 3 TAIΑ ΔΙΑΝΥΜΑΤΑ ΚΑΙ ΤΥΧΑΙΟΙ ΠΙΝΑΚΕ Κατά την πολυεταβλητή στατιστική ανάλυση από κάθε τυχαία επιλεγένο άτοο ενός πληθυσού δεν καταγράφουε όνο ια τιή Χ όπως στην ονοεταβλητή στατιστική ανάλυση αλλά περισσότερες τιές οι οποίες πορούν να παρασταθούν ε ένα διάνυσα: πχ Χ = βάρος Χ = ύψος Χ 3 = περιφέρεια κοιλίας Το διάνυσα αυτό καλείται τυχαίο διάνυσα και αποτελείται από συντεταγένες οι οποίες είναι τυχαίες εταβλητές Γενικά οι τυχαίες εταβλητές Χ Χ Χ δεν είναι ανεξάρτητες διότι αφορούν το ίδιο άτοο του πληθυσού και έτσι γενικά τα δεν είναι Θεωρώντας τυχαία διανύσατα ως στήλες ενός πίνακα θα έχουε έναν πίνακα της ορφής Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 3

14 Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 4 ] [ ο οποίος θα έχει ως στοιχεία του τυχαίες εταβλητές Έτσι ένας πίνακας Χ ή διάνυσα καλείται τυχαίος αν τα στοιχεία του είναι τυχαίες εταβλητές δηλαδή Χ = [Χ ] Ορίζουε τη έση τιή πίνακα ή διανύσατος: Προκύπτει πολύ εύκολα η επόενη πρόταση Πρόταση 3 Aν Χ Υ είναι τυχαίοι πίνακες και Α Β είναι πίνακες ε στοιχεία πραγατικούς αριθούς τότε ΕΧ+Υ = ΕΧ + ΕΥ ΕΑΧ = ΑΕΧ ΕΑΧΒ = ΑΕΧΒ Απόδειξη Η πρώτη ισότητα είναι προφανής Η δεύτερη προκύπτει ως εξής: A =Α ΕΧ Παρόοια αποδεικνύεται και η τρίτη ισότητα Αν τώρα Χ είναι ένα τυχαίο διάνυσα διαστάσεων η έση του τιή συνήθως συβολίζεται ε

15 Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 5 και ο πίνακας των διασπορών συνδιακυάνσεων του είναι ο: V V V Ο παραπάνω πίνακας συβολίζεται ε ή ε Δηλαδή Ο παραπάνω πίνακας καλείται και πίνακας των πληθυσιακών διασπορών συνδιακυάνσεων Όοια ορίζεται και ο πίνακας των πληθυσιακών συσχετίσεων ρ Επίσης αν συβολίζουε ε V τον διαγώνιο πίνακα που στην κύρια διαγώνιο έχει τις διασπορές σ = τότε είναι εύκολο να επαληθεύσουε ότι / / / / V ρ V V V ρ Ισχύουν οι παρακάτω ιδιότητες: Πρόταση 3 Aν Χ είναι τυχαίο διάνυσα και ένα διάνυσα πραγατικών αριθών τότε Χ = ΕΧ = V Χ = = Απόδειξη Η πρώτη ισότητα είναι προφανής η δεύτερη ισχύει διότι V V V

16 Από το παραπάνω προκύπτει ότι = V Χ για κάθε και άρα ο είναι ηιοριστικά θετικός Γενικότερα αν το διάνυσα αντικατασταθεί ε πίνακα C τότε ισχύει το ακόλουθο Πρόταση 33 Aν Χ είναι τυχαίο διάνυσα και C είναι ένας πίνακας πραγατικών αριθών τότε CΧ = CΕΧ = C CΧ = CC = CC Απόδειξη Η πρώτη ισότητα προκύπτει εύκολα Για τη δεύτερη από τον ορισό του πίνακα συνδιακυάνσεων έχουε ότι C C C C C CC CC C C C C C C C C 4 ΤΥΧΑΙΑ ΔΕΙΓΜΑΤΑ την ονοεταβλητή στατιστική ανάλυση ένα τυχαίο δείγα τδ εγέθους αποτελείται από τις ετρήσεις ενός όνο χαρακτηριστικού Υ πχ ύψος σε τυχαία επιλεγένα άτοα ενός πληθυσού Πιο συγκεκριένα θεωρούε ότι ένα τδ είναι ένα σύνολο ανεξάρτητων και ισόνοων τυχαίων εταβλητών Υ Υ Υ πχ Υ = ύψος -οστού ατόου που ακολουθούν την κατανοή F του πληθυσού την πολυεταβλητή στατιστική ανάλυση από κάθε άτοο καταγράφουε περισσότερες από ία τιές πχ βάρος ύψος περιφέρεια έσης Μπορούε εποένως να πούε ότι τυχαίο δείγα τώρα θα είναι ένα σύνολο ανεξάρτητων και ισόνοων τυχαίων διανυσάτων Χ Χ Χ πχ Χ = βάρος ύψος περιφέρεια ατόου που ακολουθούν ια πολυδιάστατη κατανοή F του πληθυσού Ας υποθέσουε ότι οι Χ Χ Χ έχουν την ίδια κατανοή ε ένα τυχαίο διάνυσα το οποίο ακολουθεί πολυδιάστατη κατανοή F δηλαδή P P F F R και ας συβολίσουε ε και τη έση τιή και τον πίνακα συνδιασπορών του Χ Όπως και στην ονοεταβλητή περίπτωση ας ενδιαφέρει να εκτιήσουε το έσο του πληθυσού από το τυχαίο πολυεταβλητό δείγα Χ Χ Χ Θα χρησιοποιήσουε τον δειγατικό έσο των Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 6

17 Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 7 δηλαδή τον Θα αποδείξουε την ακόλουθη πρόταση Πρόταση 4 Ο δειγατικός έσος είναι αερόληπτη εκτιήτρια του πληθυσιακού έσου ε πίνακα συνδιασπορών / Απόδειξη Θα έχουε ότι και το παραπάνω όως άθροισα παρατηρούε ότι όταν η έση τιή διότι ο παραπάνω πίνακας αποτελείται από συνδιακυάνσεις εταξύ των συντεταγένων της Χ και της οι οποίες όως είναι ανεξάρτητες Άρα τελικά Το ακόλουθο λήα αποτελεί γενίκευση της γνωστής σχέσης V που ισχύει στην ονοεταβλητή περίπτωση Πρόταση 4 Αν Υ είναι ένα τυχαίο διάνυσα ε έση τιή τότε Απόδειξη Ισχύει ότι V V Για τον πίνακα των δειγατικών συνδιασπορών ισχύει η ακόλουθη πρόταση

18 Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 8 Πρόταση 43 Ο πίνακας / είναι αερόληπτος εκτιητής του πίνακα συνδιασπορών δηλαδή Απόδειξη Παρατηρούε ότι Εποένως 5 ΠΟΛΥΔΙΑΤΑΤΗ ΚΑΝΟΝΙΚΗ ΚΑΤΑΝΟΜΗ Παραπάνω υποθέσαε ότι ένα τυχαίο διάνυσα Χ = [Χ Χ Χ ] ακολουθεί ια πολυδιάστατη κατανοή F R και αποδείξαε κάποια γενικά αποτελέσατα για τον δειγατικό έσο και το δειγατικό πίνακα συναδιασπορών Για να προχωρήσουε ό- ως σε περισσότερα και πιο εξειδικευένα αποτελέσατα και οντέλα θα πρέπει να γνωρίζουε και την ορφή της F Επειδή στα περισσότερα πρακτικά προβλήατα οι τ Χ ή οι δειγατικοί έσοι πορεί να θεωρηθεί ότι ακολουθούν προσεγγιστικά κανονική κατανοή λόγω πχ του Κεντρικού Οριακού Θεωρήατος είναι εύλογο να ξεκινήσουε γενικεύοντας την έννοια της κανονικής κατανοής σε περισσότερες από ια διαστάσεις Πιο συγκεκριένα θα αναζητήσουε ια πολυδιάστατη κατανοή F έτσι ώστε όταν Χ ~ F οι συντεταγένες της Χ Χ Χ θα ακολουθούν κανονική κατανοή και δεν θα είναι κατ ανάγκη ανεξάρτητες δηλαδή γενικά Ας συβολίσουε ε το διάνυσα των έσων τιών και ε = [σ ] τον πίνακα συνδιασπορών αυτής της F Ο πίνακας υποθέτουε ότι είναι συετρικός ε γνήσια θετικές ιδιοτιές

19 Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 9 5 Πολυδιάστατη τυπική κανονική κατανοή Ας αρχίσουε από την απλούστερη περίπτωση που οι συντεταγένες του τυχαίου διανύσατος είναι ανεξάρτητες κανονικές Ν Αν σε αυτή την περίπτωση συβολίσουε το τδ ε Ζ = [ ] είναι προφανές ότι P P P P P F R Και η αντίστοιχη συνάρτηση πυκνότητας πιθανότητας θα είναι: φ φ φ F R Ως συνήθως ε Φ και φ συβολίζουε την συνάρτηση κατανοής και συνάρτηση πυκνότητας πιθανότητας της τυπικής κανονικής κατανοής / φ t t φ Φ R Εποένως φ φ φ / / Αν ια τ Ζ ακολουθεί την παραπάνω Ζ τότε I διότι = = V = Καλούε την παραπάνω κατανοή πολυδιάστατη τυπική κανονική κατανοή 5 Πολυδιάστατη κανονική κατανοή Ν Θα επιχειρήσουε τώρα να γενικεύσουε την πολυδιάστατη τυπική κανονική κατανοή Αν Ζ ~ πολυδιάστατη τυπική κανονική κατανοή ορίζουε τη νέα τ / / όπου / είναι η ρίζα του πίνακα βλ προηγ παράγραφο Θα ισχύει ότι / / και / / / / / / I / /

20 Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α ηειώνουε ότι στα παραπάνω πορούε να θεωρήσουε τον πίνακα / διότι έχουε υ- ποθέσει ότι ο είναι συετρικός ε γνήσια θετικές ιδιοτιές δηλαδή είναι οριστικά θετικός Ας αναζητήσουε τώρα την πολυδιάστατη σππ της Αυτό πορεί να γίνει χρησιοποιώντας το ακόλουθο γνωστό γενικό αποτέλεσα: Λήα 5 Αν ένα τδ Ζ = [Ζ Ζ Ζ ] έχει σππ > για AR και ο ετασχηατισός = g g: A Β R έχει αντίστροφο ετασχηατισό τον = h h = g - : B A τότε το τδ = g έχει σππ h h όπου h/ είναι το απόλυτο της ορίζουσας του πίνακα Jo που ως στοιχείο έχει την ερική παράγωγο h / Θα εφαρόσουε το παραπάνω λήα στην περίπτωση που εξετάζουε Θα είναι / / / / / / h g και άρα / / Αλλά αν οι γραές του / =[ ] τότε / και άρα / / / Τελικά λαβάνουε ότι / / / / / / / / R Εποένως προκύπτει ο ακόλουθος ορισός Ορισός Η -διάστατη κατανοή ε σππ / / R

21 Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α όπου είναι ένας συετρικός πίνακας οριστικά θετικός και η ορίζουσά του θα καλείται -διάστατη κανονική και θα συβολίζεται ε N Όπως είδαε παραπάνω αν Χ ~ N τότε ΕΧ = Χ = Αν = = Ι τότε το τδ Χ ακολουθεί την -διάστατη τυπική κανονική κατανοή Ν Ι Επίσης είναι εύκολο να δούε ότι κάθε ια από τις συντεταγένες Χ Χ Χ του τδ Χ ακολουθεί κανονική κατανοή ως γραικός συνδυασός των ανεξάρτητων κανονικών τ Ζ Ζ Ζ ε έσους διασπορές σ σ σ και συνδιασπορές = σ Ας ελετήσουε τώρα την ορφή της σππ της N την τετριένη περίπτωση που = ε = [] = [σ ] αυτή η σππ είναι η / / / Δηλαδή η ονοδιάστατη κανονική Nσ όπως ήταν αναενόενο Είναι γνωστό ότι η σππ της Nσ έχει τη ορφή 3σ 997% 9544% 688% σ σ +σ +σ +3σ σ σ Ας περάσουε τώρα στην περίπτωση που = Θα ισχύει ότι / και ετά από αρκετές πράξεις καταλήγουε στον τύπο σ σ σ σ για R όπου / είναι ο συντελεστής συσχέτισης εταξύ των

22 Η συγκεκριένη σππ γίνεται πολύ πιο πολύπλοκη όταν είαστε σε εγαλύτερη διάσταση και εποένως είναι πολύ προτιότερη η αναπαράσταση της έσω πινάκων και διανυσάτων Όταν = η σππ πορεί να παρασταθεί όπως στο ακόλουθο σχήα σε 3 διαστάσεις στους δύο οριζόντιους άξονες δίνονται τα ενώ στον κάθετο άξονα δίνεται η τιή της Η σππ είναι σταθερή πάνω σε ελλείψεις και συγκεκριένα άλλα έχουε ήδη αναφέρει ότι τα σηεία = του επιπέδου που ικανοποιούν την παραπάνω βρίσκονται πάνω στην περιφέρεια ιας περιστραένης έλλειψης ε κέντρο το κύριους άξονες τα διανύσατα και αντίστοιχες ακτίνες τις λ λ χηατικά / λ / λ Με και λ λ συβολίζουε τα ιδιοδιανύσατα και τις ιδιοτιές αντίστοιχα του πίνακα χρησιοποιούε και το γεγονός ότι αν λ λ είναι τα ζεύγη των ιδιοτιών ιδιοδιανυσάτων του πίνακα τότε ο πίνακας - έχει αντίστοιχα ζεύγη /λ /λ Πχ για = και σ = σ υπολογίζουε ότι Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α

23 / / λ / / λ Η έγιστη τιή κορυφή της επιτυγχάνεται όταν = 53 Βασικές προτάσεις για τδ που ακολουθούν την Ν Για την ονοεταβλητή κανονική γνωρίζουε ότι αν Χ ~ Ν σ τότε ~ Ακολουθεί δηλαδή χι-τετράγωνο κατανοή ε βε Ας δούε το ανάλογο αποτέλεσα στην πολυεταβλητή περίπτωση Πρόταση 5 Αν Χ ~ Ν τότε ~ Απόδειξη Μπορούε να θεωρήσουε ότι / ε Ζ ~ Ν Ι Θα ισχύει ότι / / / / Ζ Ζ Ζ Ζ Ζ Ζ και είναι γνωστό ότι το άθροισα των τετραγώνων ανεξάρτητων Ν ακολουθεί κατανοή χι-τετράγωνο ε βαθούς ελευθερίας Από την παραπάνω πρόταση προκύπτει άεσα ότι P όπου είναι το άνω -σηείο της Άρα η πολυδιάστατη κανονική κατανοή Ν κατανέει στο σύνολο των σηείων R που ικανοποιούν την ανισότητα πιθανότητα ίση ε Όπως έχουε παρατηρήσει παραπάνω πρόκειται για το εσωτερικό ελλειψοειδούς ε κέντρο το κύριους άξονες τα διανύσατα και ακτίνες λ λ λ Για = σχηατικά: λ λ Πχ αν = και σ = σ = σ = ½ = 5 τότε βρήκαε παραπάνω ότι Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 3

24 / / λ / / λ και εποένως στο εσωτερικό ελλείψεως ε κέντρο το κύριους άξονες τα διανύσατα και ακτίνες λ λ κατανέεται πιθανότητα = 95% Αν πχ σ = τότε λ λ = πρόκειται για κύκλο Πρόταση 5 Αν Χ ~ Ν τότε η τυχαία εταβλητή ~ N Απόδειξη Μπορούε να θεωρήσουε ότι / ε Ζ ~ Ν Ι Ισχύει ότι / Ζ και εποένως η τ γράφεται ως γραικός συνδυασός ανεξάρτητων κανονικών τ Γνωρίζουε όως ότι ένας γραικός συνδυασός ανεξάρτητων κανονικών τ ακολουθεί και πάλι κανονική κατανοή Η έση τιή και η διασπορά της θα είναι / V Ζ Επίσης γενικότερα αποδεικνύεται η ακόλουθη πρόταση Πρόταση 53 Αν Χ ~ Ν και Α πίνακας τότε A ~ N A AA Πριν περάσουε σε αποτελέσατα που επλέκουν υποπίνακες αξίζει να αναφέρουε το ακόλουθο αποτέλεσα σύφωνα ε το οποίο αν ένας πίνακας Α απαρτίζεται από τους υποπίνακες A Α Α Α ώστε + = + = και ένας πίνακας Β απαρτίζεται από τους υποπίνακες B B B B ώστε + = τότε το γινόενο ΑΒ γράφεται A AB A A A B B B B A A όπως αντίστοιχα θα ίσχυε αν τα Α B ήταν αριθοί και όχι πίνακες Η απόδειξη του παραπάνω γίνεται ε τον προφανή τρόπο χρησιοποιώντας τον ορισό του γινοένου πινάκων Ως ειδική περίπτωση του παραπάνω ισχύει ότι B B A A B B A A B B A A B B AB A A AB AB AB AB B B B B Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 4

25 Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 5 Η επόενη πρόταση αφορά την κατανοή ενός οποιουδήποτε υποδιανύσατος ενός κανονικού τυχαίου διανύσατος Πρόταση 54 Αν Χ ~ Ν τότε κάθε υποδιάνυσα του Χ ακολουθεί πολυδιάστατη κανονική κατανοή Αν χωρίς βλάβη της γενικότητας το Χ αποτελείται από τις πρώτες συντεταγένες του Χ και τότε το τυχαίο διάνυσα Χ ~ Ν = άνω αριστερά υποπίνακας του Απόδειξη Προκύπτει άεσα από την Πρόταση 53 θέτοντας ] [ I A όπου Ι ο οναδιαίος πίνακας ο ηδενικός πίνακας και = Πρόταση 55 Αν Χ ~ Ν Χ ~ Ν είναι ανεξάρτητα τυχαία διανύσατα τότε το τυχαίο διάνυσα ~ N Απόδειξη Προκύπτει εύκολα από την από κοινού σππ του Χ η οποία γράφεται ως γινόενο των σππ των Χ Χ / / / / / / / / / / Η παραπάνω γενικεύεται ε τον προφανή τρόπο και για περισσότερα των δύο ανεξάρτητα τυχαία διανύσατα Η ακόλουθη πρόταση αφορά την κατανοή του αθροίσατος ανεξάρτητων κανονικών τυχαίων διανυσάτων Πρόταση 56 Αν Χ Χ είναι ανεξάρτητα τδ ε Χ ~ N τότε ~ N

26 Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 6 Απόδειξη Από την Πρόταση 55 το τυχαίο διάνυσα ~ N και επειδή A I I από την Πρόταση 53 προκύπτει ότι ~ AA A A N N διότι I I I I A A Η παραπάνω γενικεύεται ε τον προφανή τρόπο και για άθροισα περισσοτέρων των δύο ανεξάρτητων τυχαίων διανυσάτων Ιδιαίτερα για τδ ε τον ίδιο πίνακα διασποράς λαβάνεται η επόενη Πρόταση Πρόταση 57 Αν Χ Χ Χ είναι ανεξάρτητα τδ ε Χ ~ N τότε ~ N 54 Εκτιήτριες έγιστης πιθανοφάνειας των παραέτρων Θεωρούε τυχαίο δείγα από -διάστατες παρατηρήσεις Χ Χ Χ που προέρχονται από την N Ισχύει η επόενη πρόταση Πρόταση 58 Οι εκτιήτριες έγιστης πιθανοφάνειας των αντίστοιχα είναι ˆ ] ˆ [ Απόδειξη για την επ του Η πιθανοφάνεια του δείγατος των ανεξάρτητων τδ θα είναι / / / / L Η παραπάνω συνάρτηση εγιστοποιείται ως προς όταν ελαχιστοποιείται η ποσότητα στον εκθέτη g Για να βρούε το έγιστο της παραπάνω ως προς αρκεί να πάρουε τις ερικές παραγώγους ως προς και να τις εξισώσουε ε το Από τις ρίζες αυτής της εξίσωσης προκύπτουν τα πιθανά ελάχιστα Ισοδύναα χρησιοποιώντας συβολισούς πινάκων αρκεί να πάρουε την γενικευένη παράγωγο ανάδελτα ως προς

27 Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 7 ] [ g g g g g το ανάδελτα ] [ καλείται και διαφορικός διανυσατικός τελεστής και να την εξισώσουε ε το διάνυσα Είναι πολύ εύκολο να αποδείξουε ότι γενικά ισχύει ότι A A όταν Α συετρικός πίνακας και Εποένως g και το παραπάνω θα είναι ίσο ε αν και όνο αν ˆ Παρατηρούε επίσης ότι ο πίνακας H g ] [ των ερικών παραγώγων ης τάξης γράφεται ε ορφή πινάκων g g ο οποίος είναι οριστικά θετικός και εποένως στο έχουε ελάχιστο Άρα η επ του θα είναι το Για την εύρεση της επ του η απόδειξη είναι πιο σύνθετη Αποδεικνύεται ότι η πιθανοφάνεια L εγιστοποιείται όταν ] [ ] [ ˆ η οποία αποτελεί και την επ του Τα παραπάνω συνάδουν και ε την ονοεταβλητή περίπτωση όπου ˆ και ˆ ερικές φορές ως και λαβάνονται τα προηγούενα α- θροίσατα διά αντί δια ώστε να λαβάνονται αερόληπτες εκτιήσεις των σ και αντίστοιχα 55 Η πολυδιάστατη κατανοή των στατιστικών συναρτήσεων την ονοεταβλητή περίπτωση γνωρίζουε για τις κατανοές των σσ και ότι ~ N ~ Μας ενδιαφέρει να δούε τι ισχύει στην πολυεταβλητή περίπτωση Εύκολα διαπιστώνουε ότι αν Χ Χ Χ ~ Ν τότε

28 Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 8 ~ N το οποίο προκύπτει άεσα από την Πρόταση 57 για = / Εξάλλου έχουε παραπάνω αποδείξει βλ Πρόταση 4 ότι γενικά / Χ Αποένει να δούε τώρα ποια κατανοή ακολουθεί ο τυχαίος πίνακας Για τον σκοπό αυτό αρχικά δίνουε τον ακόλουθο ορισό Ορισός Αν Χ Χ Χ είναι ανεξάρτητα τδ ε Χ ~ N τότε η πολυδιάστατη από κοινού κατανοή του τυχαίου πίνακα καλείται κατανοή Whrt ε βαθούς ελευθερίας και πίνακα και θα συβολίζεται ε W Αν συβολίσουε ε ] [ τον δειγατικό πίνακα τότε το παραπάνω άθροισα απλά είναι το Είναι εύκολο να δούε ότι αν W ~ W τότε W ' Αποδεικνύεται επίσης ότι η πολυδιάστατη συνάρτηση πυκνότητας πιθανότητας της κατανοής Whrt W έχει την ορφή 4 tr W για όλα τα ώστε ο πίνακας να είναι οριστικά θετικός Αν = και = τότε η κατανοή W είναι η κατανοή χι-τετράγωνο ε βε Από τα παραπάνω προκύπτει ότι αν Χ Χ Χ ~ N τότε ~ W Αν όως στην θέση του πάρουε την εκτίησή του τότε όπως και στην ονοεταβλητή περίπτωση χάνεται ένας βε υγκεκριένα ισχύει η ακόλουθη πρόταση Πρόταση 59 Αν Χ Χ Χ είναι ανεξάρτητα τδ ε Χ ~ N τότε ο τυχαίος πίνακας ακολουθεί την κατανοή Whrt ε βε και επίσης τα είναι ανεξάρτητα Για την κατανοή Whrt ισχύουν οι ακόλουθες ιδιότητες Πρόταση 5 Αν οι τυχαίοι πίνακες W ~ W W ~ W και είναι ανεξάρτητοι τότε W + W ~ W +

29 Αν ο τυχαίος πίνακας W ~ W τότε ο πίνακας CWC ~ W CC Απόδειξη Προκύπτουν άεσα από τον ορισό της κατανοής Whrt 56 έλεγχοι υποθέσεων για το έσο την ονοεταβλητή περίπτωση είναι γνωστό ότι αν έχουε τδ Χ Χ Χ ~ Νσ και θέλουε να ελέγξουε την υπόθεση χρησιοποιούε τη στατιστική συνάρτηση Η : = έναντι της Η : T όπου / Όταν ισχύει η Η η Τ ακολουθεί κατανοή tut t ε βε ενώ όταν ισχύει η Η τότε λαβάνει ακραίες τιές εγάλες αρνητικές ή θετικές Εποένως απορρίπτουε την Η όταν η Τ λαβάνει εγάλες τιές δηλαδή όταν T Η συγκεκριένη περιοχή απόρριψης της Η προκύπτει και από το κριτήριο του γενικευένου λόγου πιθανοφανειών Για να έχουε πιθανότητα σφάλατος τύπου Ι λανθασένη απόρριψη της Η ίση ε α τότε θα πρέπει P I P T H t / Εποένως θα απορρίπτεται η Η : = σε επίπεδο σηαντικότητας εσ όταν T t / ή ισοδύναα T t / / / Παρατηρούε ότι η τ Τ γράφεται και ως εξής T / / / / / όπου οι Υ Υ αποδεικνύεται ότι είναι ανεξάρτητες τ που ακολουθούν χι-τετράγωνο κατανοή ε και βε αντίστοιχα Εποένως η τ Τ θα ακολουθεί κατανοή or F ή F-Rto ε και βε από τον ορισό της κατανοής F υνεπώς ισοδύναα α- πορρίπτουε την Η σε εσ όταν T F όπου ε F - συβολίζεται το άνω -σηείο της κατανοής F-Rto ε βε από τα παραπάνω προκύπτει και ότι t / = F Ας εξετάσουε τώρα πως πορούε να γενικεύσουε τα προηγούενα στην πολυεταβλητή περίπτωση Παρατηρούε ότι η παραπάνω σσ Τ γράφεται T Και όπως είδαε ακολουθεί κατανοή F - Αν έχουε τα ανεξάρτητα τυχαία διανύσατα Χ Χ Χ ~ N στην θέση των Χ Χ Χ ~ Νσ τότε η παραπάνω T γενικεύεται ως εξής Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 9

30 Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 3 T Τ = T Η παραπάνω στατιστική συνάρτηση καλείται Τ του Hotllg και αποδεικνύεται η επόενη πρόταση Πρόταση 5 Αν ισχύει η Η : = η τ F T ~ δηλαδή ακολουθεί κατανοή or F ε βε Αν δεν ισχύει η Η τότε η παραπάνω τ λαβάνει εγάλες θετικές τιές Εποένως θα απορρίπτεται η Η : = έναντι της Η : όταν η παραπάνω λαβάνει εγάλες τιές εγαλύτερες από ένα Προκειένου να επιτύχουε PI = θα πρέπει F T P και τελικώς θα απορρίπτεται η Η : = σε εσ όταν F T Η παραπάνω περιοχή απόρριψης πορεί να θεωρηθεί ως γενίκευση της ονοεταβλητής περίπτωσης για = προκύπτει το γνωστό t-τεστ αλλά προκύπτει και ανεξάρτητα χρησιοποιώντας το κριτήριο του γενικευένου λόγου πιθανοφανειών υγκεκριένα σύφωνα ε το κριτήριο αυτό η περιοχή απόρριψης της H θα είναι της ορφής N N η οποία αποδεικνύεται ότι είναι ισοδύναη ε την T / που χρησιοποιήσαε παραπάνω Παράδειγα 3 Ας θεωρήσουε και πάλι το αρχικό παράδειγα όπου Χ : Περίετρος Κοιλίας και Χ : Βάρος και Χ 3 :Ύψος και έστω ότι θέλουε να ελέγξουε αν Η : ε H : σε εσ = 5% εδώ = 3 Από το δείγα εγέθους = 36 έχουε υπολογίσει και εποένως η τιή του Τ του Hotllg από το δείγα θα είναι

31 t = 74 και άρα t 5467 F 89 από όπου απορρίπτεται η H σε εσ 5% Το αντίστοιχο -vlu είναι vlu P T 5467 H F F το οποίο είναι αρκετά ικρό ικρότερο του και εποένως θα απορρίπταε την Η ακόη και για = % Αξίζει να παρατηρήσουε ότι αν ο παραπάνω έλεγχος γίνονταν ξεχωριστά για κάθε δηλαδή κάναε τους 3 ελέγχους α Η α : = 9 Η α : 9 β Η β : = 8 Η β : 8 γ Η γ : 3 = 8 Η γ : 3 8 τον καθένα σε εσ έσω τριών διαφορετικών t-tt τότε η συνολική πιθανότητα σφάλατος τύπου I θα ήταν εγαλύτερη από Πράγατι αν συβολίσουε ε Α Α Α 3 τα ενδεχόενα απόρριψης των υποθέσεων α β γ τότε P I P A A A3 H H H P A A A3 H H H 3 3 P A H P A H P A H πχ για = 5% 3 = 46% ηειώνεται ότι παραπάνω προσεγγίσαε την πιθανότητα της τοής των ενδεχοένων A ε το γινόενο των πιθανοτήτων των ενδεχοένων είναι ανεξάρτητα ενδε- A Οι δύο αυτές ποσότητες είναι ακριβώς ίσες όταν τα χόενα υπό τις Η γεγονός που δεν ισχύει γενικά A A A3 Εποένως αν θέλουε να διατηρήσουε την πιθανότητα σφάλατος τύπου Ι ίση ε δεν θα πρέπει να γίνουν ξεχωριστά οι έλεγχοι αλλά «ταυτόχρονα» δηλαδή χρησιοποιώντας την κρίσιη περιοχή έσω του Τ του Hotllg που είδαε παραπάνω ή να ειώσουε το εσ στα τρία διαφορετικά t-tt πχ αντί παίρνουε /3 έθοδος Borro αλλά και πάλι δεν θα είαστε σίγουροι για το ακριβές PΙ Κλείνοντας να αναφέρουε ότι ε το ίδιο τρόπο θα ελέγχαε πχ την Η : = 9 = 8 έναντι της Η : 9 ή 8 θεωρώντας όνο τις δύο πρώτες εταβλητές της Χ επειδή όπως γνωρίζουε ~ N ε αυτή την περίπτωση απορρίπτουε την Η : όταν T ~ F Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 3

32 Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 3 όπου τώρα = και το Τ του Hotllg υπολογίζεται ε βάση τις δύο πρώτες εταβλητές του δείγατος 57 Περιοχές επιστοσύνης για το έσο Υπενθυίζεται ότι ένα διάστηα επιστοσύνης για το συντελεστού στην ονοεταβλητή περίπτωση είναι t t P / / το οποίο πορεί να θεωρηθεί ότι περιλαβάνει όλες τις τιές του για τις οποίες δεν απορρίπτεται η υπόθεση Η : = σε εσ Από το γεγονός ότι στην πολυεταβλητή περίπτωση ε Χ ~ N ισχύει βλ Πρόταση 5 F T ~ θα ισχύει άεσα ότι F P από όπου προκύπτει ια περιοχή επιστοσύνης για το συντελεστού Αυτή την φορά δεν πρόκειται για διάστηα αλλά για περιοχή διότι πρόκειται για ένα υποσύνολο του R Δεδοένων λοιπόν των δειγατικών η περιοχή αυτή θα αποτελείται από όλα τα σηεία R τα οποία ικανοποιούν την ανίσωση F Γνωρίζουε ότι τα σηεία που ικανοποιούν την παραπάνω βρίσκονται στο εσωτερικό ελλειψοειδών ε κέντρο το κύριους άξονες τα διανύσατα και αντίστοιχες ακτίνες τις λ λ λ όπου τώρα = / F ε αυτή την περίπτωση ε λ = συβολίζουε τα ζεύγη ιδιοτιών ιδιοδιανυσάτων του δειγατικού πίνακα Παράδειγα 4 υνεχίζουε το παράδειγα που εξετάσαε και παραπάνω όπου Χ : Περίετρος Κοιλίας και Χ : Βάρος και Χ 3 :Ύψος και έστω ότι θέλουε να κατασκευάσουε περιοχή επιστοσύνης σε = 95% για το ζεύγος Η περιοχή αυτή αποτελείται από όλα τα σηεία που ικανοποιούν την F όπου στα παραπάνω έχουε κρατήσει όνο τα στοιχεία που αφορούν τις δύο πρώτες εταβλητές Η περιοχή αυτή θα αποτελείται από όλα τα που ικανοποιούν την : 5 F δηλαδή την

33 ή Υπολογίζεται ότι οι ιδιοτιές ιδιοδιανύσατα του πίνακα είναι λ =99 = λ = 66 = και εποένως το βρίσκεται ε συντελεστή επιστοσύνης = 95% στο εσωτερικό της έλλειψης ε κέντρο το = ε άξονες τα διανύσατα και ακτίνες αντίστοιχα το πρώτο σχήα που ακολουθεί βλέπουε την ορφή της περιοχής επιστοσύνης ενώ στο δεύτερο βλέπουε την ίδια περιοχή αζί ε τις = 36 παρατηρήσεις Όπως αντίστοιχα παρατηρήσαε και στους ελέγχους υποθέσεων για το εάν κατασκευάζαε ξεχωριστά δε α β και α β για τα αντίστοιχα τότε το α β α β θα περιελάβανε το ε πιθανότητα ικρότερη του περίπου Τα δε αυτά 95% είναι α β = t t α β = t t ορίζοντας ως περιοχή επιστοσύνης το ορθογώνιο α β α β ενώ όπως γνωρίζουε η πιθανότητα στην κανονική κατανοή ειώνεται όσο αποακρυνόαστε από το έσο πάνω σε ελλείψεις ισοπίθανες ή ισοϋψείς καπύλες υνεπώς η παραπάνω έλλειψη ως περιοχή ε- πιστοσύνης συντελεστού είναι ορθότερη και ακριβέστερη 58 Οριακά Θεωρήατα Τα γνωστά οριακά θεωρήατα που ισχύουν στην ονοεταβλητή περίπτωση γενικεύονται σε διαστάσεις Θεώρηα 5 Νόος Μεγάλων Αριθών Αν Χ Χ Χ είναι ανεξάρτητα και ισόνοα τδ ε ΕΧ = = < τότε Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 33

34 α όταν β όταν κατά πιθανότητα δηλ P > ε για κάθε ε > Αξίζει να σηειώσουε ότι το β προκύπτει από το α παρατηρώντας ότι το στοιχείο του πίνακα είναι το οποίο χρησιοποιώντας το α συγκλίνει στο + = σ Θεώρηα 53 Κεντρικό Οριακό Θεώρηα Αν Χ Χ Χ είναι ανεξάρτητα και ισόνοα -διάστατα τδ ε ΕΧ = = < τότε κατά κατανοή N όταν Χρησιοποιώντας τα παραπάνω οριακά θεωρήατα πορούε να κατασκευάσουε προσεγγιστικούς ελέγχους υποθέσεων για εγάλα δείγατα χωρίς να υποθέτουε ότι οι αρχικές παρατηρήσεις Χ Χ Χ προέρχονται από κανονική κατανοή υγκεκριένα έχουε τα ακόλουθα Αν ~ Ν τότε ~ / και από την Πρόταση 5 ε στην θέση N του Χ και / στη θέση του προκύπτει ότι ~ Η παραπάνω εξακολουθεί να ισχύει προσεγγιστικά ακόη και όταν τα δεν είναι κανονικά διότι από το ΚΟΘ προκύπτει ότι για εγάλο ~ N / προσεγγιστικά Επίσης για εγάλο από τον Νόο των Μεγάλων Αριθών και εποένως πορούε στις παραπάνω σχέσεις να πάρουε στη θέση του άγνωστου και να πούε ότι ~ προσεγγιστικά για εγάλο > Οι παραπάνω προσεγγιστικές εκφράσεις πορούν να ας βοηθήσουν να κατασκευάσουε ελέγχους και περιοχές επιστοσύνης για το υγκεκριένα αν τα ανεξάρτητα και ισόνοα τδ Χ Χ Χ προέρχονται από ια -διάστατη κατανοή ε άγνωστο έσο θα απορρίπτεται η Η : = έναντι της Η : σε εσ προσεγγιστικά για εγάλο όταν T υγκριτικά υπενθυίζεται ότι αν ~ Ν τότε απορρίπτουε την H σε εσ ακριβώς όταν T F από όπου παρεπιπτόντως συπεραίνουε ότι για εγάλο θα πρέπει Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 34

35 Μ Μπούτσικας -3 ηειώσεις Παραδόσεων για το άθηα «Πολυεταβλητή Ανάλυση» Μερος Α 35 F F Τέλος από το γεγονός ότι ~ προσεγγιστικά προκύπτει η α- κόλουθη προσεγγιστική περιοχή επιστοσύνης συντελεστού για το : : R ανεξαρτήτως της κατανοής από την οποία προέρχονται τα Παράδειγα Θεωρούε ερωτώενους σχετικά ε την πρόθεσή τους να ψηφίσουν ένα από συγκεκριένα κόατα Αν συβολίσουε ε Χ την απάντηση του ερωτώενου τότε θα είναι Χ = όπου το είναι στην -θέση αν ο ερωτώενος απάντησε ότι θα ψηφίσει το { } κόα Χ = αν δεν επιλέξει κάποιο από αυτά τα κόατα Προφανώς η τ Χ ακολουθεί την πολυωνυική κατανοή ε παραέτρους = και Είναι εύκολο να διαπιστώσουε ότι Άρα από ΚΟΘ θα ισχύει για εγάλο προσεγγιστικά ότι ~ N Το τυχαίο διάνυσα ως γνωστό ακολουθεί πολυωνυική κατανοή ε παραέτρους και πλήθος επιτυχιών ου ου -οστού είδους σε δοκιές Από το παραπάνω προκύπτει ότι η πολυδιάστατη αυτή κατανοή ακολουθεί προσεγγιστικά για εγάλο την πολυεταβλητή κανονική ε έση τιή και πίνακα διασποράς Αν τώρα πχ = και θέλουε να ελέγξουε αν = % και = 5% τότε θα πρέπει να εργαστούε όπως περιγράφεται παραπάνω χρησιοποιώντας την κρίσιη περιοχή Επίσης αν θέλουε να εκτιήσουε τα ποσοστά των δύο κοάτων τότε πορούε να κατασκευάσουε ια περιοχή επιστοσύνης για το η οποία θα είναι ια έλλειψη ε κέντρο το και ακτίνες που προκύπτουν από τις ιδιοτιές και τα ιδιοδιανύσατα του πίνακα