Διπλωματική Εργασία της φοιτήτριας του Τμήματος Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών της Πολυτεχνικής Σχολής του Πανεπιστημίου Πατρών

Transcript

1 ΠΑΝΕΠΙΣΤΗΜΙΟ ΠΑΤΡΩΝ ΤΜΗΜΑ ΗΛΕΚΤΡΟΛΟΓΩΝ ΜΗΧΑΝΙΚΩΝ ΚΑΙ ΤΕΧΝΟΛΟΓΙΑΣ ΥΠΟΛΟΓΙΣΤΩΝ ΤΟΜΕΑΣ: ΤΗΛΕΠΙΚΟΙΝΩΝΙΩΝ ΚΑΙ ΤΕΧΝΟΛΟΓΙΑΣ ΠΛΗΡΟΦΟΡΙΑΣ ΕΡΓΑΣΤΗΡΙΟ: ΕΝΣΥΡΜΑΤΗΣ ΤΗΛΕΠΙΚΟΙΝΩΝΙΑΣ Διπλωματική Εργασία της φοιτήτριας του Τμήματος Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών της Πολυτεχνικής Σχολής του Πανεπιστημίου Πατρών Βογιατζή Ελένης του Δημητρίου Αριθμός Μητρώου: 6218 Θέμα "Αυτόματος διαχωρισμός ακουστικών σημάτων που διαδίδονται στο ανθρώπινο σώμα και λαμβάνονται από πιεζοκρυστάλλους κατά την διάρκεια ύπνου" Επιβλέπων Αναπληρωτής Καθηγητής Ευάγγελος Δερματάς Αριθμός Διπλωματικής Εργασίας: Πάτρα, Ιούλιος

2 2

3 ΠΙΣΤΟΠΟΙΗΣΗ Πιστοποιείται ότι η Διπλωματική Εργασία με θέμα "Αυτόματος διαχωρισμός ακουστικών σημάτων που διαδίδονται στο ανθρώπινο σώμα και λαμβάνονται από πιεζοκρυστάλλους κατά την διάρκεια ύπνου" Της φοιτήτριας του Τμήματος Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών Βογιατζή Ελένης του Δημητρίου Αριθμός Μητρώου:6218 Παρουσιάστηκε δημόσια και εξετάστηκε στο Τμήμα Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών στις 02/07/2013 Ο Επιβλέπων Αναπληρωτής Καθηγητής Ευάγγελος Δερματάς O Διευθυντής του Τομέα Καθηγητής Νικόλαος Φακωτάκης 3

4 Αριθμός Διπλωματικής Εργασίας: Θέμα: "Αυτόματος διαχωρισμός ακουστικών σημάτων που διαδίδονται στο ανθρώπινο σώμα και λαμβάνονται από πιεζοκρυστάλλους κατά την διάρκεια ύπνου" Φοιτήτρια: Βογιατζή Ελένη Επιβλέπων: Ευάγγελος Δερματάς Συνεξεταστής: Νικόλαος Φακωτάκης Περίληψη Στο πλαίσιο της εργασίας αυτής πραγματοποιείται ανάλυση και εφαρμογή του διαχωρισμού ακουστικών σημάτων, τα οποία έχουν ληφθεί από το ανθρώπινο σώμα, όταν αυτό βρίσκεται σε κατάσταση ύπνου. Τα σήματα αυτά έχουν ληφθεί με τη βοήθεια μιας συσκευής πιεζοκρυστάλλων και ο διαχωρισμός τους επιτυγχάνεται με τη μέθοδο Ανάλυσης Ανεξάρτητων Συνιστωσών (ICA). Κύριος σκοπός όλων των παραπάνω είναι να χρησιμοποιηθεί η εν λόγω μεθοδολογία στη διάγνωση της αποφρακτικής άπνοιας (OSA). Στο πρώτο κεφάλαιο, παρουσιάζεται αναλυτικά η μέθοδος ICA και το μαθηματικό μοντέλο που την περιγράφει, όπως επίσης και όλα τα βήματα προεπεξεργασίας της. Στη συνέχεια αναλύεται διεξοδικά η λειτουργία του αλγορίθμου FastICA και οι ιδιότητες του, με τον οποίο υλοποιείται το πειραματικό μέρος της εργασίας αυτής. Στο δεύτερο κεφάλαιο, μελετάται η ασθένεια της αποφρακτικής άπνοιας (OSA), οι παράγοντες και η παθολογία της καθώς και το κύριο διαγνωστικό σύμπτωμα της: το ροχαλητό. Ύστερα, πραγματεύεται την διάγνωση και τους γνωστότερους τρόπους θεραπείας αυτής της νόσου και τελικά τη μέθοδο του Snoring Detection. Στο τρίτο κεφάλαιο γίνεται μια εισαγωγή στον πιεζοηλεκτρισμό, και μία μελέτη του πιεζοηλεκτρικού φαινομένου και του μαθηματικού του μοντέλου. Ακολουθεί αναφορά των ειδών πιεζοηλεκτρικών αισθητήρων με τους οποίους λαμβάνονται τα σήματα που εξετάζονται σε αυτή την εργασία. Στο επόμενο κεφάλαιο γίνεται μία σύνδεση των δεδομένων θεωρίας που αναφέρονται στα προηγούμενα κεφάλαια και μία εισαγωγή στην πειραματική μέθοδο. Στο κεφάλαιο πέντε παρατίθενται κάποια παραδείγματα εφαρμογής του αλγορίθμου FastICA με τυχαία σήματα, τα οποία έχουν σκοπό να δοκιμάσουν την απόδοση του. Στο κεφάλαιο έξι, 4

5 γίνεται η πειραματική διαδικασία όπου τώρα τα σήματα που διαχωρίζονται με τον αλγόριθμο FastICA προέρχονται από το ανθρώπινο σώμα. Η υλοποίηση της γίνεται σε Matlab. Έτσι, γίνεται εξαγωγή του ζητούμενου σήματος ροχαλητού και αναγράφονται κάποια συμπεράσματα για την απόδοση του αλγορίθμου. Στο τέλος της εργασίας παρατίθενται σε ένα παράρτημα όλοι οι κώδικες της MATLAB που χρησιμοποιήθηκαν για την ολοκλήρωση του πειραματικού της μέρους στα κεφάλαια πέντε και έξι. Summary In this particular thesis, analysis and application of separation of acoustic signals is carried out. These signals have been taken from the human body in a sleeping state. They are obtained by means of a piezocrystallic device and their separation is achieved by the method of Indepent Component Analysis (ICA). The main purpose of all this is to use this methodology in order to diagnose the Obstructive Sleep Apnea (OSA). The first chapter presents the method of ICA and the mathematical model that describes it as well as all the pre-processing steps. Then it analyses, in detail, the algorithm FastICA, which is used in the experimental part of this thesis and its properties. The second chapter studies the disease of obstructive sleep apnea (OSA), its factors and its pathology and the major diagnostic symptom: snoring. Then, it discusses the diagnosis and the best known ways of treating this disease and eventually the method of Snoring Detection. The third chapter is an introduction to piezoelectricity and a study of the piezoelectric effect and its mathematical description. This is followed by a reference to the types of piezoelectric sensors which are used to obtain the signals used in this paper. In chapter five we have listed some examplesapplications of the FastICA algorithm with random signals, which are designed to test the performance. Section six is where the experimental procedure takes place. The signals derived from the human body are separated by the algorithm FastICA and the implementation is done in Matlab. In addition, some conclusions regarding the performance of the algorithm. At the of this paper, all the MATLAB codes used for the completion of the experimental part of the chapters five and six are listed in an Annex. 5

6 Ευχαριστίες Θα ήθελα να ευχαριστήσω θερμά τον Αναπληρωτή Καθηγητή Κύριο Δερματά Ευάγγελο για την επίβλεψη και την αμέριστη βοήθεια που μου παρείχε, όπως επίσης και για την άμεση επίλυση οποιονδήποτε αποριών για την ολοκλήρωση της διπλωματικής εργασίας μου αλλά και για το πρωτοποριακό θέμα που μου πρότεινε. Επίσης θα ήθελα να ευχαριστήσω τους γονείς μου και την αδερφή μου για την αμέριστη συμπαράσταση τους και την υποστήριξη που μου παρείχαν κατά τη διάρκεια των σπουδών μου αλλά και σε όλη τη διάρκεια της ζωής μου. 6

7 ΠΕΡΙΕΧΟΜΕΝΑ ΚΕΦΑΛΑΙΟ 1 ο : ΑΝΑΛΥΣΗ ΑΝΕΞΑΡΤΗΤΩΝ ΣΥΝΙΣΤΩΣΩΝ (ICA)- ΑΛΓΟΡΙΘΜΟΣ FastICA 1.1 Ορισμός της ICA Ασάφειες της ICA Απεικόνιση της ICA Οι γκαουσιανές μεταβλητές είναι απαγορευμένες Αρχές της εκτίμησης της ICA μεθόδου Η μη γκαουσιανές μεταβλητές είναι ανεξάρτητες Κύρτωση Negentropy Προσεγγίσεις της αρνητικής εντροπίας Ελαχιστοποίηση των αμοιβαίων πληροφοριών Αμοιβαίες πληροφορίες Ορίζοντας την ICA μέσω των αμοιβαίων πληροφοριών Εκτίμηση μέγιστης πιθανότητας Η πιθανότητα Η αρχή της μεγιστοποίησης της εντροπίας (The infomax principle) Συσχέτιση με αμοιβαίες πληροφορίες Προεπεξεργασία για την ICA Κεντροθέτηση Λεύκανση Περαιτέρω προεπεξεργασία Ο αλγόριθμος FastICA Ο αλγόριθμος FastICA για μια μονάδα Ο αλγόριθμος FastICA για αρκετές μονάδες Αλγόριθμος FastICA και μέγιστη πιθανoφάνεια Ιδιότητες του αλγορίθμου FastICA

8 ΚΕΦΑΛΑΙΟ 2 Ο : ΑΠΟΦΡΑΚΤΙΚΗ ΑΠΝΟΙΑ (OSA) - SNORING DETECTION 2.1 Εισαγωγή Παράγοντες και παθολογία Τύποι άπνοιας στον ύπνο Κεντρική άπνοια στον ύπνο Obstructive Sleep Apnea (OSA) Διάγνωση OSA Θεραπεία OSA Snoring Detection.53 ΚΕΦΑΛΑΙΟ 3 Ο : ΠΙΕΖΟΚΡΥΣΤΑΛΛΟΙ-ΠΙΕΖΟΗΛΕΚΤΡΙΚΟ ΦΑΙΝΟΜΕΝΟ 3.1 Εισαγωγή στον πιεζοηλεκτρισμό Πιεζοηλεκτρικό φαινόμενο Εφαρμογές πιεζοηλεκτρισμού Μαθηματικό μοντέλο Είδη πιεζοηλεκτρικών αισθητήρων PZT sensors PVDF sensors...63 ΚΕΦΑΛΑΙΟ 4 Ο : ΣΥΝΔΕΣΗ ΤΩΝ ΔΕΔΟΜΕΝΩΝ ΘΕΩΡΙΑΣ ΜΕΤΑΞΥ ΤΟΥΣ ΚΑΙ ΜΕ ΤΗΝ ΠΕΙΡΑΜΑΤΙΚΗ ΜΕΘΟΔΟ 4.1 ICA- FastICA- Snoring detection ICA FastICA Το κεντρικό οριακό θεώρημα Η μέγιστη διαφορική εντροπία μιας γκαουσιανής μεταβλητής Μετά το διαχωρισμό.69 8

9 4.2 Snoring detection-πιεζοκρύσταλλοι Εισαγωγή Ακριβής λειτουργία πιεζοηλεκτρικών αισθητήρων στο snoring detection Σύνδεση με πειραματικό μέρος...74 ΚΕΦΑΛΑΙΟ 5 Ο : ΕΦΑΡΜΟΓΕΣ FastICA 5.1 Εφαρμογές με τυχαία σήματα Εφαρμογή με ηχητικά σήματα 87 ΚΕΦΑΛΑΙΟ 6 Ο : ΠΕΙΡΑΜΑΤΙΚΗ ΥΛΟΠΟΙΗΣΗ 6.1 Διαχωρισμός πραγματικών σημάτων Συμπεράσματα 124 ΠΑΡΑΡΤΗΜΑ: ΚΩΔΙΚΕΣ MATLAB.126 ΒΙΒΛΙΟΓΡΑΦΙΑ.149 9

10 ΚΕΦΑΛΑΙΟ 1 ΑΝΑΛΥΣΗ ΑΝΕΞΑΡΤΗΤΩΝ ΣΥΝΙΣΤΩΣΩΝ (ICA)- ΑΛΓΟΡΙΘΜΟΣ FastICA 10

11 1.1 Ορισμός της ICA Για να ορίσουμε την ICA μπορούμε να χρησιμοποιήσουμε μια μέθοδο «latent» μεταβλητών. Θεωρούμε ότι έχουμε γραμμικές μίξεις συνιστωσών n x 1,, x n των ανεξάρτητων X j =a j1 s 1 +a j2 s 2 + +a jn s n για κάθε j. Στο μοντέλο ICA, υποθέτουμε ότι κάθε μίξη x j καθώς επίσης και κάθε ανεξάρτητη συνιστώσα s k είναι μια τυχαία μεταβλητή, αντί ενός κατάλληλου χρονικού σήματος. Οι παρατηρούμενες τιμές x j (t) είναι τώρα ένα δείγμα αυτής της τυχαίας μεταβλητής. Χωρίς βλάβη της γενικότητας, μπορούμε να υποθέσουμε ότι τόσο οι συντελεστές βαρύτητας της μίξης, όσο και οι ανεξάρτητες συνιστώσες έχουν μηδενική μέση τιμή. Εάν αυτό δεν ισχύει, τότε οι παρατηρούμενες μεταβλητές x i μπορούν πάντα να κανονικοποιηθούν ώστε να έχουν μηδενική μέση τιμή με την αφαίρεση του δείγματος μέσης τιμής. Το ανωτέρω μοντέλο μίξης γράφεται σε μορφή πινάκων με τον τρόπο που ακολουθεί: x=as όπου Α ο πίνακας με στοιχεία α ij. Όλα τα διανύσματα θεωρούνται διανύσματα-στήλες συνεπώς το διάνυσμα χ Τ είναι διάνυσμα-γραμμή. Το μοντέλο ICA είναι ένα παραγωγικό μοντέλο, που σημαίνει ότι περιγράφει πώς τα παρατηρούμενα δεδομένα παράγονται με μια διαδικασία μίξης των συνιστωσών s i. Οι ανεξάρτητες συνιστώσες είναι «latent», που σημαίνει ότι δεν μπορούν να παρατηρηθούν άμεσα. Επίσης ο πίνακας μίξης υποτίθεται ότι είναι άγνωστος. Ό, τι παρατηρούμε, ως ερευνητές, είναι το τυχαίο διάνυσμα x το οποίο πρέπει να χρησιμοποιήσουμε έτσι ώστε να υπολογίσουμε τον πίνακα Α με τη μεγαλύτερη δυνατή ακρίβεια και κατά συνέπεια και το διάνυσμα s. Αυτό πρέπει να γίνει με όσο το δυνατόν γενικότερες υποθέσεις. Η αφετηρία για την ICA είναι η πολύ απλή υπόθεση ότι οι συνιστώσες s i είναι στατιστικώς ανεξάρτητες. Επίσης, για απλότητα, υποθέτουμε ότι ο άγνωστος πίνακας των συντελεστών βαρύτητας μίξης είναι τετραγωνικός. Κατόπιν, μετά τον υπολογισμό του 11

12 πίνακα Α, μπορούμε να υπολογίσουμε τον αντίστροφό του, έστω W, και να λάβουμε την ανεξάρτητη συνιστώσα απλά από τον τύπο: s=wx Σε πολλές εφαρμογές, θα ήταν ρεαλιστικότερο να υποτεθεί ότι υπάρχει κάποιος θόρυβος στις μετρήσεις το οποίο θα σήμαινε έναν προστιθέμενο όρο θορύβου στο πρότυπο. Για απλότητα, παραλείπουμε οποιουσδήποτε όρους θορύβου, δεδομένου ότι η εκτίμηση του χωρίς θόρυβο προτύπου είναι αρκετά δύσκολη από μόνη της, και φαίνεται να είναι ικανοποιητική για πολλές εφαρμογές. 1.2 Ασάφειες της ICA Είναι εύκολα να παρατηρηθεί ότι στο μοντέλο ICA υπάρχουν οι ακόλουθες ασάφειες: 1. Δεν μπορούμε να καθορίσουμε τις διασπορές (ενέργειες) των ανεξάρτητων συνιστωσών. Ο λόγος είναι ότι, και το διάνυσμα s και ο πίνακας Α είναι άγνωστα. Άρα οποιοσδήποτε βαθμιδωτός πολλαπλασιαστής σε μία από τις πηγές s i θα μπορούσε πάντα να ακυρωθεί με τη διαίρεση της αντίστοιχης στήλης a i του A με τον ίδιο. Κατά συνέπεια, μπορούμε να διορθώσουμε αρκετά τα μεγέθη των ανεξάρτητων συνιστωσών δεδομένου ότι είναι τυχαίες μεταβλητές. Ο φυσικότερος τρόπος να γίνει αυτό είναι να υποτεθεί ότι κάθε μία έχει μοναδιαία διασπορά: Ε{si 2 }=1. Κατόπιν ο πίνακας A προσαρμόζεται στις ICA μεθόδους λύσης λαμβάνοντας υπόψη αυτόν τον περιορισμό. Θα μπορούσαμε να πολλαπλασιάσουμε την ανεξάρτητη συνιστώσα με -1 χωρίς να επηρεάσουμε το μοντέλο. Αυτή η ασάφεια είναι, ευτυχώς, ασήμαντη στις περισσότερες εφαρμογές. 2. Δεν μπορούμε να καθορίσουμε την σειρά των ανεξάρτητων συνιστωσών. Ο λόγος είναι ότι, πάλι s και Α είναι άγνωστα. Μπορούμε ελεύθερα να αλλάξουμε την σειρά των ανεξάρτητων συνιστωσών και να καλέσουμε οποιαδήποτε από αυτές ως πρώτη. Τυπικά, ένας πίνακας παραλλαγής Ρ και ο αντίστροφός του μπορούν να αντικατασταθούν στο πρότυπο που δίνει x=ap -1 Ps. Τα στοιχεία του πίνακα Ρs είναι οι αρχικές ανεξάρτητες μεταβλητές s j, αλλά σε διαφορετική σειρά. Ο πίνακας ΑΡ -1 είναι ακριβώς ένας νέος άγνωστος πίνακας μίξης, που λύνεται από τους αλγόριθμους της ICA. 12

13 1.3 Απεικόνιση της ICA Για να παραστήσουμε το μοντέλο ICA με στατιστικούς όρους, θεωρούμε δύο ανεξάρτητες συνιστώσες που έχουν τις ακόλουθες ομοιόμορφες κατανομές: Η σειρά των τιμών για αυτήν την ομοιόμορφη κατανομή επιλέχτηκε ώστε να καταστήσει το μέσο όρο μηδέν και τη διασπορά μοναδιαία, ώστε να απλοποιηθεί το μοντέλο μίξης. Η κοινή συνάρτηση πυκνότητας πιθανότητας των s 1 και s 2 είναι συνεπώς το τετράγωνο της παραπάνω κατανομής. Αυτό προκύπτει από το βασικό ορισμό ότι η κοινή συνάρτηση πυκνότητας πιθανότητας δύο ανεξάρτητων μεταβλητών είναι ακριβώς το γινόμενο των αντίστοιχων κατανομών, δηλαδή πρέπει να υπολογίσουμε απλά το γινόμενό τους. Η κοινή συνάρτηση πυκνότητας πιθανότητας φαίνεται στο παρακάτω σχήμα: Σχήμα 1.1:Η κοινή κατανομή των ανεξάρτητων συνιστωσών s 1 και s 2 με κοινές κατανομές. Οριζόντιος άξονας: s1. Κάθετος άξονας: s2. 13

14 Αναμιγνύουμε τώρα αυτές τις δύο ανεξάρτητες συνιστώσες. Έστω ότι παίρνουμε τον παρακάτω πίνακα μίξης Α 0 Έτσι παίρνουμε δύο μεταβλητές, x 1 και x 2. Όπως φαίνεται από το παρακάτω σχήμα οι τυχαίες μεταβλητές x 1 και x 2 δεν είναι ανεξάρτητες και ένας εύκολος τρόπος να το δει κανείς αυτό είναι να εξετάσει, εάν είναι δυνατό να προβλεφθεί η τιμή μιας εξ αυτών, έστω της x 2, από την τιμή της άλλης. Σαφώς εάν η x 1 τείνει σε μια από τις μέγιστες ή ελάχιστες τιμές της, κατόπιν αυτό καθορίζει απόλυτα την τιμή της x 2. Δεν είναι επομένως ανεξάρτητες. (Για τις μεταβλητές s 1 και s 2 συμβαίνει το αντίθετο. Από το σχήμα μπορεί να φανεί ότι η γνώση της τιμής της s 1 δεν προσδιορίζει με κάποιο τρόπο την τιμή της s 2.) Το πρόβλημα του υπολογισμού του μοντέλου δεδομένων ICA είναι τώρα να υπολογιστεί ο πίνακας μίξης A 0 χρησιμοποιώντας μόνο πληροφορίες που περιλαμβάνονται στα μίγματα x 1 και x 2. Αυτή η εκτίμηση μπορεί να γίνει διαισθητικά από το παρακάτω σχήμα. Οι άκρες του παραλληλογράμμου είναι στις κατευθύνσεις των στηλών του Α. Αυτό σημαίνει ότι θα μπορούσαμε, σε γενικές γραμμές, να υπολογίσουμε το μοντέλο ICA εκτιμώντας πρώτα την κοινή κατανομή των x 1 και x 2, και έπειτα να εντοπίζουμε τις άκρες. Έτσι, το πρόβλημα φαίνεται να έχει μια λύση. Ωστόσο, μια τέτοια μέθοδος λειτουργεί μόνο για μεταβλητές με ομοιόμορφες κατανομές και θα ήταν υπολογιστικά πολύ πολύπλοκη μέθοδος. Αυτό που χρειάζεται είναι μια μέθοδος που μπορεί να χρησιμοποιηθεί με οποιεσδήποτε κατανομές μεταβλητών, να δουλεύει γρήγορα και αξιόπιστα. 14

15 Σχήμα 1.2 :Η κοινή κατανομή των παρατηρούμενων μίξεων x 1 και x 2. Οριζόντιος άξονας: x 1. Κάθετος άξονας: x Οι γκαουσιανές μεταβλητές είναι απαγορευμένες Ο θεμελιώδης περιορισμός της ICA είναι ότι οι ανεξάρτητες συνιστώσες πρέπει να έχουν μη-γκαουσιανή κατανομή ώστε να είναι δυνατή η ανάλυση. Για να δούμε γιατί οι ισχύει αυτό, υποθέτουμε ότι ο πίνακας μίξης είναι ορθογώνιος και οι συνιστώσες s i είναι γκαουσιανές. Κατόπιν τα x 1 και x 2 είναι γκαουσιανά, ασυσχέτιστα, και μοναδιαίας διασποράς. Η κοινή πυκνότητά τους δίνεται από τον τύπο: Το σχήμα που θα δούμε παρακάτω δείχνει ότι η πυκνότητα είναι απολύτως συμμετρική. 15

16 Επομένως, δεν περιέχει οποιεσδήποτε πληροφορίες για τις κατευθύνσεις των στηλών του πίνακα μίξης Α. Αυτός είναι και ο λόγος για τον οποίο ο πίνακας Α είναι αδύνατο να υπολογιστεί. Τυπικότερα, μπορεί να αποδειχθεί ότι η κατανομή οποιουδήποτε ορθογωνικού μετασχηματισμού γκαουσιανών μεταβλητών θα είναι της ίδια μορφής με τις (x 1,x 2 ) και ότι οι x 1 και x 2 είναι ανεξάρτητες. Συνεπώς, στην περίπτωση γκαουσιανών μεταβλητών, μπορούμε να υπολογίσουμε το μοντέλο ICA μόνο μέχρι έναν ορθογωνικό μετασχηματισμό. Σχήμα 1.3:Η κοινή κατανομή δυο ανεξάρτητων γκαουσιανών μεταβλητών. 16

17 1.4 Αρχές της εκτίμησης της ICA μεθόδου Η μη γκαουσιανές μεταβλητές είναι ανεξάρτητες Διαισθητικά μιλώντας, για να οδηγήσει σε λύση η ICA μέθοδος, στο μεγαλύτερο μέρος της κλασσικής στατιστικής θεωρίας, οι ανεξάρτητες συνιστώσες θα πρέπει να είναι τυχαίες μη γκαουσιανές μεταβλητές. Το Θεώρημα Κεντρικού Ορίου λέει ότι η κατανομή ενός αθροίσματος ανεξάρτητων τυχαίων μεταβλητών τείνει προς μια γκαουσιανή κατανομή όσο αυξάνεται ο αριθμός των παρατηρήσεων. Επομένως, ένα άθροισμα δύο ανεξάρτητων τυχαίων μεταβλητών έχει συνήθως μια κατανομή που είναι πιο κοντά σε κανονική από οποιεσδήποτε από τις δύο αρχικές τυχαίες μεταβλητές. Τώρα υποθέτουμε ότι το διάνυσμα δεδομένων x κατανέμεται σύμφωνα με την εξίσωση x=as, δηλαδή είναι ένα μίγμα ανεξάρτητων συνιστωσών. Για απλότητα, κάνουμε την επιπλέον υπόθεση ότι όλες οι ανεξάρτητες συνιστώσες έχουν πανομοιότυπες κατανομές. Για να υπολογίσουμε μία από τις ανεξάρτητες συνιστώσες, θεωρούμε έναν γραμμικό συνδυασμό των x i που τον συμβολίζουμε με T όπου το w είναι ένα διάνυσμα που καθορίζεται. Εάν το w ήταν μια από τις σειρές του αντιστρόφου του Α, αυτός ο γραμμικός συνδυασμός θα ήταν ακριβώς ίσος με μία από τις ανεξάρτητες συνιστώσες. Σκοπός είναι μέσω του Θ.Κ.Ο. να προσδιοριστεί το διάνυσμα w ώστε να ισούται με μία από τις σειρές του Α. πρακτικά κάτι τέτοιο δεν είναι δυνατόν καθώς δεν έχουμε καμία γνώση για τον Α, ωστόσο μπορούμε να προσεγγίσουμε μια καλή εκτίμηση. Για να δούμε πώς αυτό οδηγεί στη βασική αρχή της ICA εκτίμησης, μπορούμε να κάνουμε μια αλλαγή των μεταβλητών, καθορίζοντας z = A Τ w. Κατόπιν έχουμε y = w Τ x = w Τ As = z Τ s. Το y είναι έτσι ένας γραμμικός συνδυασμός των s i, με βάρη που δίνονται από τα z i. Προκύπτει ότι το z T s είναι πιο κοντά στην κανονική κατανομή από ότι κάθε μεμονωμένο s i 17

18 και διαφοροποιείται πιο πολύ από την κανονική κατανομή όταν ισούται επακριβώς με κάποιο από τα s i. Επομένως, θα μπορούσαμε να πάρουμε ως w ένα διάνυσμα που μεγιστοποιεί την μη κανονικότητα του w T x. Ένα τέτοιο διάνυσμα θα αντιστοιχούσε απαραιτήτως σε ένα z που έχει ένα μόνο μη μηδενικό στοιχείο. Δηλαδή το w T x = z T s ισούται με μία από τις ανεξάρτητες συνιστώσες. Η μεγιστοποίηση της μη κανονικότητας του w T x μας δίνει μία από τις ανεξάρτητες συνιστώσες. Στην πραγματικότητα, το γράφημα βελτιστοποίησης για την μη κανονικότητα στο n-διάστατο χώρο των διανυσμάτων w έχει 2n τοπικά μέγιστα, δύο για κάθε ανεξάρτητη συνιστώσα, που αντιστοιχεί στο s i και s i. Για να βρεθούν ανεξάρτητες συνιστώσες, πρέπει να βρούμε όλα αυτά τα τοπικά μέγιστα. όλες οι Εκτίμηση της μη κανονικότητας Για να χρησιμοποιήσουμε την μη κανονικότητα στην ICA εκτίμηση, πρέπει να έχουμε ένα ποσοτικό μέτρο της μη κανονικότητας μιας τυχαίας μεταβλητής, έστω της y. Για να απλοποιήσουμε τα πράγματα, ας υποθέσουμε ότι η y έχει μηδενική μέση τιμή και η διασπορά της ισούται με ένα Κύρτωση Το κλασσικό μέγεθος της μη κανονικότητας σε Γκαουσιανή κατανομή είναι η κύρτωση (kurtosis) ή αθροιστής τετάρτης τάξης. Η κύρτωση του y καθορίζεται κλασσικά από τον τύπο: kurt(y) = E{y 4 }-3(E{y 2 }) 2 Αν η y ήταν Γκαουσιανή, η τέταρτη ροπή της θα ισούταν με 3(Ε{y 2 }) 2. Συνεπώς, η κύρτωση θα ήταν μηδέν για μια τυχαία Γκαουσιανή μεταβλητή. Πραγματικά, δεδομένου ότι υποθέσαμε ότι η y έχει διασπορά μονάδα, η δεξιά πλευρά απλοποιείται στο E{y 4 } 3. Αυτό 18

19 δείχνει ότι η κύρτωση είναι απλά μια ομαλοποιημένη έκδοση της τέταρτης στιγμής E{y 4 } και διάφορη του μηδενός. Για τις περισσότερες (όχι όλες) τις μη-γκαουσιανές τυχαίες μεταβλητές, η κύρτωση είναι μη μηδενική. Η κύρτωση μπορεί να είναι θετική ή αρνητική. Οι τυχαίες μεταβλητές που έχουν αρνητική κύρτωση καλούνται υπό-γκαουσσιανές, και εκείνες με θετική κύρτωση καλούνται υπέργκαουσσιανές. Στη στατιστική βιβλιογραφία χρησιμοποιούνται επίσης οι αντίστοιχες εκφράσεις πλατύκυρτη και λεπτόκυρτη. Οι υπέρ- γκαουσσιανές τυχαίες μεταβλητές έχουν χαρακτηριστικά μία «αιχμηρή» σ.π.π με «βαριές» ουρές, δηλ. η σ.π.π είναι σχετικά υψηλή στο μηδέν και στις μεγάλες τιμές της μεταβλητής, ενώ έχει μικρές τιμές για ενδιάμεσες τιμές της μεταβλητής. Σχήμα 1.4: Η συνάρτηση πυκνότητας πιθανότητας της Laplace κατανομής, που είναι μια τυπική υπέρ-γκαουσιανή κατανομή. Η Γκαουσιανή πυκνότητα πιθανότητας δίνεται με διακεκομμένη γραμμή. Και οι δυο πυκνότητες πιθανότητας είναι κανονικοποιημένες σε μοναδιαία διασπορά. Ένα χαρακτηριστικό παράδειγμα είναι η κατανομή Laplace της οποίας η σ.π.π (κανονικοποιημένη σε μοναδιαία διασπορά) δίνεται από τον τύπο: 19

20 Αυτή η σ.π.π απεικονίζεται στο παραπάνω σχήμα. Οι υπό-γκαουσσιανές τυχαίες μεταβλητές, αφετέρου, έχουν χαρακτηριστικά μια «επίπεδη» σ.π.π, η οποία είναι συνήθως σταθερή κοντά στο μηδέν, και πολύ μικρή για μεγαλύτερες τιμές της μεταβλητής. Τυπικά η μη κανονικότητα μετριέται από την απόλυτη τιμή της κύρτωσης. Μπορεί επίσης να χρησιμοποιηθεί το τετράγωνο της κύρτωσης. Αυτό είναι μηδέν για μια γκαουσσιανή μεταβλητή, και μεγαλύτερο του μηδενός για περισσότερες μη γκαουσσιανές τυχαίες μεταβλητές. Υπάρχουν μη γκαουσσιανές τυχαίες μεταβλητές που έχουν κύρτωση μηδέν, αλλά μπορούν να θεωρηθούν πολύ σπάνιες. Η κύρτωση, ή μάλλον η απόλυτη τιμή της, έχει χρησιμοποιηθεί ευρέως ως μέτρο μη κανονικότητας στην ICA και στους σχετικούς τομείς. Ο κύριος λόγος είναι η απλότητά της, τόσο η υπολογιστική όσο και η θεωρητική. Η κύρτωση μπορεί να υπολογιστεί απλά με τη χρησιμοποίηση τις τέταρτης ροπή των δειγμάτων δεδομένων. Η θεωρητική ανάλυση απλοποιείται λόγω τις ακόλουθης ιδιότητας γραμμικότητας: Εάν x 1 και x 2 είναι δύο ανεξάρτητες τυχαίες μεταβλητές, ισχύει ότι kurt(x 1 +x 2 )= kurt(x 1 )+kurt(x 2 ) και kurt(ax 1 )= a 4 kurt(x 1 ) όπου το α είναι βαθμωτή ποσότητα. Αυτές οι ιδιότητες μπορούν εύκολα να αποδειχθούν χρησιμοποιώντας τον ορισμό. Για να επεξηγήσουμε με ένα απλό παράδειγμα πώς μοιάζει το γράφημα βελτιστοποίησης για την κύρτωση, και πώς οι ανεξάρτητες συνιστώσες θα μπορούσαν να βρεθούν από την 20

21 ελαχιστοποίηση ή τη μεγιστοποίηση τις κύρτωσης, ας εξετάσουμε το 2-διάστατο πρότυπο x=as. Υποθέτουμε ότι οι ανεξάρτητες συνιστώσες s 1, s 2 έχουν τιμές κύρτωσης kurt(s 1 ), kurt(s 2 ), αντίστοιχα, και οι δύο διάφορες του μηδενός. Επίσης, έχουμε υποθέσει ότι έχουν μοναδιαίες διασπορές. Ψάχνουμε για μία από τις ανεξάρτητες συνιστώσες της y = w T x. Κάνουμε πάλι το μετασχηματισμό z = A Τ w. Κατόπιν έχουμε y= w T x = w T As = z T s = z 1 s 1 +z 2 s 2. Τώρα, με βάση την προσθετική ιδιότητα της κύρτωσης, έχουμε kurt(y) = kurt(z 1 s 1 )+kurt(z 2 s 2 ) = z 1 4kurt(s 1 )+z 2 4kurt(s 2 ). Αφετέρου κάναμε την παραδοχή ότι η διασπορά του y είναι ίση με ένα, βασιζόμενοι στην ίδια υπόθεση αναφορικά με τις s 1, s 2. Αυτό υπονοεί έναν περιορισμό στο z: Γεωμετρικά, αυτό σημαίνει ότι το διάνυσμα z είναι περιορισμένο στον μοναδιαίο κύκλο στο 2-διάστατο χώρο. Το πρόβλημα βελτιστοποίησης γίνεται τώρα πρόβλημα εύρεσης του μεγίστου της συνάρτησης στον μοναδιαίο κύκλο. Για απλότητα, μπορούμε να θεωρήσουμε ότι η κύρτωση είναι του ίδιου πρόσημου, οπότε σε αυτή την περίπτωση οι απόλυτης τιμής τελεστές μπορούν να παραλειφθούν. Η γραφική παράσταση της συνάρτησης είναι το «γράφημα βελτιστοποίησης» για το πρόβλημα. Είναι εύκολο να αντιληφθεί κανείς ότι τα μέγιστα είναι στα σημεία όπου ακριβώς ένα από τα στοιχεία του διανύσματος z είναι μηδέν και τα άλλα διαφορετικά από το μηδέν. Εξαιτίας του περιορισμού του μοναδιαίου κύκλου, τα μη μηδενικά στοιχεία πρέπει να ισούνται με 1 ή -1. Αλλά αυτά τα σημεία είναι ακριβώς αυτά στα οποία το y γίνεται ίσο με μία από τις ανεξάρτητες συνιστώσες ±s i, και το πρόβλημα έχει λυθεί. Στην πράξη θα αρχίζαμε από κάποιο διάνυσμα βάρους w, θα υπολογίζαμε την κατεύθυνση στην οποία η κύρτωση του y = w T x αυξάνεται εντονότερα (εάν η κύρτωση 21

22 είναι θετική) ή μειώνεται εντονότερα (εάν η κύρτωση είναι αρνητική) βασισμένοι στο διαθέσιμο δείγμα x(1),..., x(t) του διανύσματος μιγμάτων x, και θα χρησιμοποιούσαμε μια μέθοδο κλίσης (gradient method) ή μια από τις επεκτάσεις της για την εύρεση του νέου διανύσματος w. Το παράδειγμα μπορεί να γενικευτεί για αυθαίρετες διαστάσεις, δείχνοντας ότι η κύρτωση μπορεί θεωρητικά να χρησιμοποιηθεί ως κριτήριο βελτιστοποίησης για το πρόβλημα της ICA. Εντούτοις, η κύρτωση έχει μερικά μειονεκτήματα στην πράξη, όταν πρέπει η τιμή της να υπολογιστεί από ένα μετρημένο δείγμα. Το βασικό πρόβλημα είναι ότι η κύρτωση μπορεί να είναι πολύ ευαίσθητη σε παρεκτρεπόμενες τιμές. Η τιμή της μπορεί να εξαρτηθεί μόνο από τις παρατηρήσεις στις ουρές της κατανομής, οι οποίες μπορεί να είναι λανθασμένες ή άσχετες παρατηρήσεις. Με άλλα λόγια, η κύρτωση δεν είναι ένα γερό μέτρο της μη κανονικότητας σε Γκαουσιανή κατανομή. Κατά συνέπεια, άλλα μέτρα της μη κανονικότητας μπορεί να είναι καλύτερα από την κύρτωση σε τέτοιες καταστάσεις. Παρακάτω θα αναφερθούμε στην αρνητική εντροπία (negentropy), της οποίας οι ιδιότητες είναι μάλλον αντίθετες από εκείνες της κύρτωσης, και τελικά εισάγουν προσεγγίσεις αρνητικής εντροπίας που λιγότερο ή περισσότερο συνδυάζουν τις καλές ιδιότητες και των δυο μεγεθών Negentropy Ένα δεύτερο πολύ σημαντικό μέτρο τις μη κανονικότητας δίνεται από την αρνητική εντροπία (negentropy). Η αρνητική εντροπία είναι βασισμένη στη ποσότητα της διαφορικής εντροπίας που προέρχεται από τη θεωρία πληροφορίας. Η εντροπία είναι η βασική ιδέα της θεωρίας πληροφοριών. Η εντροπία μιας τυχαίας μεταβλητής μπορεί να ερμηνευθεί ως ο βαθμός των πληροφοριών που μας δίνει η παρατήρηση της μεταβλητής. Όσο πιο «τυχαία», δηλ. απρόβλεπτη και μη δομημένη είναι η μεταβλητή, τόσο μεγαλύτερη εντροπία έχει. Πιο συγκεκριμένα, η εντροπία είναι στενά συνδεδεμένη με το μήκος κωδικοποίησης της τυχαίας μεταβλητής. Στην πραγματικότητα, υπο κάποιες υποθέσεις απλούστευσης η εντροπία είναι το μήκος κωδικοποίησης της τυχαίας μεταβλητής. 22

23 Η εντροπία H καθορίζεται για μια διακριτή τυχαία μεταβλητή Y ως όπου τα α i είναι οι πιθανές τιμές του Y. Αυτός ο πολύ γνωστός ορισμός μπορεί να γενικευτεί για συνεχείς τυχαίες μεταβλητές και διανύσματα, οπότε σε αυτή την περίπτωση ονομάζεται συχνά διαφορική εντροπία. Η διαφορική εντροπία Η ενός τυχαίου διανύσματος y με πυκνότητα f(y) ορίζεται ως Ένα θεμελιώδες αποτέλεσμα της θεωρίας πληροφοριών είναι ότι μια γκαουσσιανή μεταβλητή έχει τη μεγαλύτερη εντροπία μεταξύ όλων των τυχαίων μεταβλητών ίδιας διασποράς. Αυτό σημαίνει ότι η εντροπία θα μπορούσε να χρησιμοποιηθεί ως μέτρο της μη προσαρμογής σε Γκαουσιανή κατανομή. Στην πραγματικότητα, αυτό δείχνει ότι η γκαουσσιανή κατανομή είναι «η πιο τυχαία» ή η λιγότερο δομημένη από όλες τις κατανομές. Η εντροπία είναι μικρή για κατανομές που είναι καθαρά συγκεντρωμένες σε συγκεκριμένες τιμές, για παράδειγμα όταν η μεταβλητή είναι σαφώς συγκεντρωμένη, ή έχει σ.π.π. που είναι πολύ αιχμηρή. Για να αποκτήσουμε ένα μέτρο της μη κανονικότητας που να είναι μηδέν για μια γκαουσσιανή μεταβλητή και πάντα μη αρνητικό, συχνά χρησιμοποιείται μια ελαφρώς τροποποιημένη παραλλαγή του ορισμού της διαφορικής εντροπίας, που ονομάζεται αρνητική εντροπία. Η αρνητική εντροπία J ορίζεται ως ακολούθως: όπου y gauss είναι μια γκαουσσιανή τυχαία μεταβλητή με τον ίδιο πίνακα συνδιασποράς με το y. Λόγω Εξαιτίας των ιδιοτήτων που αναφέρθηκαν παραπάνω, η αρνητική εντροπία είναι πάντα μη αρνητική, και είναι μηδέν εάν και μόνο εάν το y έχει μια γκαουσσιανή κατανομή. Η αρνητική εντροπία έχει την πρόσθετη ενδιαφέρουσα ιδιότητα ότι είναι αμετάβλητη για αντιστρέψιμους γραμμικούς μετασχηματισμούς. 23

24 Το πλεονέκτημα της χρήσης της αρνητικής εντροπίας, ή, ισότιμα, της διαφορικής εντροπίας ως μέτρο της μη κανονικότητας, είναι ότι η αρνητική εντροπία είναι καλά τεκμηριωμένη από τη στατιστική θεωρία. Στην πραγματικότητα, η αρνητική εντροπία είναι υπό κάποια έννοια ο βέλτιστος εκτιμητής της μη κανονικότητας, όσον αφορά στις στατιστικές ιδιότητες. Το πρόβλημα στη χρήση της αρνητικής εντροπίας είναι, εντούτοις, ότι είναι υπολογιστικά πολύ δύσκολη. Ο υπολογισμός της αρνητικής εντροπίας χρησιμοποιώντας τον ορισμό θα απαιτούσε μια εκτίμηση (ενδεχομένως μη παραμετρική) της σ.π.π. Συνεπώς, πολύ χρήσιμες είναι οι απλούστερες προσεγγίσεις της αρνητικής εντροπίας Προσεγγίσεις της αρνητικής εντροπίας Η εκτίμηση της αρνητικής εντροπίας είναι δύσκολη, όπως αναφέρθηκε ανωτέρω, και συνεπώς αυτή η συνάρτηση αντίθεσης παραμένει περισσότερο θεωρητική. Στην πράξη, πρέπει να χρησιμοποιηθούν κάποιες προσεγγίσεις. Εδώ εισάγουμε προσεγγίσεις που έχουν πολύ ελπιδοφόρες ιδιότητες. Η κλασσική μέθοδος της προσεγγιστικής αρνητικής εντροπίας χρησιμοποιεί υψηλότερης τάξης ροπές, παραδείγματος χάριν ως εξής: Η τυχαία μεταβλητή y θεωρείται μηδενικής μέσης τιμής και μοναδιαίας διασποράς. Εντούτοις, η ισχύς τέτοιων προσεγγίσεων μπορεί να είναι αρκετά περιορισμένη. Ειδικότερα, αυτές οι προσεγγίσεις πάσχουν από τη μη ευρωστία που αντιμετωπίζεται με την κύρτωση. Για να αποφευχθούν τα προβλήματα που αντιμετωπίστηκαν με τις προηγούμενες προσεγγίσεις της αρνητικής εντροπίας, αναπτύχθηκαν νέες προσεγγίσεις. Οι προσεγγίσεις αυτές βασίστηκαν στην αρχή της μέγιστης εντροπίας. Γενικά λαμβάνουμε την ακόλουθη προσέγγιση: 24

25 όπου k i είναι μερικές θετικές σταθερές, και ν είναι μια γκαουσσιανή μεταβλητή μηδενικής μέσης τιμής και μοναδιαίας διασποράς. Η μεταβλητή y θεωρείται μηδενικής μέσης τιμής και μοναδιαίας διασποράς, και οι συναρτήσεις G i είναι μη-τετραγωνικές συναρτήσεις. Ακόμη και σε περιπτώσεις όπου αυτή η προσέγγιση δεν είναι πολύ ακριβής, μπορεί να χρησιμοποιηθεί για να κατασκευάσει ένα μέτρο μη γκαουσσιανότητας που είναι συνεπές υπό την έννοια ότι είναι πάντα μη αρνητικό, και ίσο με μηδέν εάν η y έχει γκαουσσιανή κατανομή. Στην περίπτωση που χρησιμοποιούμε μόνο μια μη τετραγωνική συνάρτηση G, η προσέγγιση γίνεται: για σχεδόν οποιοδήποτε μη-τετραγωνική συνάρτηση G. Αυτό είναι σαφώς μια γενίκευση της προηγούμενης περίπτωσης, εάν το y είναι συμμετρικό. Πράγματι, θεωρώντας G(y)=y 4, παίρνουμε μια βασισμένη στην κύρτωση προσέγγιση. Αλλά το ζήτημα εδώ είναι ότι με κατάλληλη επιλογή του G, προκύπτουν προσεγγίσεις της αρνητικής εντροπίας πολύ καλύτερες. Ειδικότερα, επιλέγοντας το G που δεν αυξάνεται πάρα πολύ γρήγορα προκύπτουν πιο αποδοτικές εκτιμήτριες συναρτήσεις.. Οι ακόλουθες επιλογές του G έχουν αποδειχθεί πολύ χρήσιμες: όπου 1 α 1 2 είναι κάποια κατάλληλη σταθερά. Κατά συνέπεια λαμβάνουμε τις προσεγγίσεις της αρνητικής εντροπίας που δίνουν έναν πολύ καλό συμβιβασμό μεταξύ των ιδιοτήτων των δύο κλασσικών μέτρων μη γκαουσσιανότητας που δίνονται από κύρτωση και της αρνητικής εντροπίας. Είναι 25

26 εννοιολογικά απλές, γρήγορες στον υπολογισμό τους, ωστόσο έχουν εκπληκτικές στατιστικές ιδιότητες, ειδικά ισχύ Ελαχιστοποίηση των αμοιβαίων πληροφοριών Μια άλλη προσέγγιση για την ICA εκτίμηση, εμπνευσμένη από τη θεωρία πληροφοριών, είναι η ελαχιστοποίηση των αμοιβαίων πληροφοριών. Χρησιμοποιώντας την έννοια της διαφορικής εντροπίας, ορίζουμε την αμοιβαία πληροφορία Ι μεταξύ m (βαθμωτών) τυχαίων μεταβλητών y i, i=1,,m όπως φαίνεται παρακάτω: Αμοιβαίες πληροφορίες Οι αμοιβαίες πληροφορίες είναι ένα φυσικό μέτρο της εξάρτησης μεταξύ των τυχαίων μεταβλητών. Στην πραγματικότητα, είναι ισοδύναμες με την γνωστή απόκλιση kullback- Leibler μεταξύ της κοινής πυκνότητας f(y) και του γινομένου των οριακών πυκνοτήτων του, ένα πολύ φυσικό μέτρο για την ανεξαρτησία. Είναι πάντα μη αρνητικές, και μηδενίζονται αν και μόνο αν οι μεταβλητές είναι στατιστικώς ανεξάρτητες. Κατά συνέπεια, οι αμοιβαίες πληροφορίες λαμβάνουν υπόψη ολόκληρη τη δομή εξάρτησης των μεταβλητών, και όχι μόνο τη συνδιασπορά, όπως η PCA και σχετικές μέθοδοι. Οι αμοιβαίες πληροφορίες μπορούν να ερμηνευθούν με τη χρησιμοποίηση της ερμηνείας της εντροπίας ως μήκος κωδικοποίησης. Οι όροι H(y i ) δίνουν τα μήκη των κωδίκων για το y i όταν αυτά κωδικοποιούνται χωριστά, και το H(y) δίνει το μήκος κώδικα όταν το y κωδικοποιείται ως τυχαίο διάνυσμα, δηλ. όλες οι συνιστώσες κωδικοποιούνται στον ίδιο κώδικα. Οι αμοιβαίες πληροφορίες δείχνουν τι μείωση του μήκους του κώδικα επιτυγχάνεται κωδικοποιώντας ολόκληρο το διάνυσμα αντί κάθε συνιστώσα ξεχωριστά. Σε κάθε περίπτωση, όταν κωδικοποιείται ολόκληρο το διάνυσμα λαμβάνονται καλύτεροι κώδικες. Εντούτοις, εάν τα y i είναι ανεξάρτητα, δεν δίνουν καμία πληροφορία το ένα για 26

27 το άλλο, και κάποιο θα μπορούσε εξ ίσου καλά να κωδικοποιήσει τις μεταβλητές χωριστά χωρίς να αυξάνει το μήκος κώδικα. Μια σημαντική ιδιότητα των αμοιβαίων πληροφοριών αντιστρέψιμο γραμμικό μετασχηματισμό y=wx: είναι ότι έχουμε για έναν Τώρα, ας εξετάσουμε τι συμβαίνει εάν περιορίσουμε τα y i για να είναι ασυσχέτιστα και μοναδιαίας διασποράς. Αυτό σημαίνει ότι το οποίο υπονοεί ότι:, και αυτό υποδηλώνει ότι το detw πρέπει να είναι σταθερό. Επιπρόσθετα, για το y i της μοναδιαίας διασποράς, η εντροπία και negentropy διαφέρουν μόνο κατά μια σταθερά, και το πρόσημο. Κατά συνέπεια λαμβάνουμε, όπου C είναι μια σταθερά ανεξάρτητη του W. Αυτό παρουσιάζει την θεμελιώδη σχέση μεταξύ negentropy και αμοιβαίων πληροφοριών. 27

28 Ορίζοντας την ICA μέσω των αμοιβαίων πληροφοριών Αφού οι αμοιβαίες πληροφορίες είναι η φυσική πληροφορία στην οποία βασίζεται η ανεξαρτησία των τυχαίων μεταβλητών, θα μπορούσαμε να το χρησιμοποιήσουμε ως κριτήριο για την εύρεση του μετασχηματισμού ICA. Σε αυτήν την προσέγγιση που είναι μια εναλλακτική προσέγγιση στην εκτίμηση του προτύπου, ορίζουμε την ICA ενός τυχαίου διανύσματος x ως έναν αντιστρέψιμο μετασχηματισμό, όπου ο πίνακας W ορίστηκε έτσι ώστε οι αμοιβαίες πληροφορίες των μετασχηματισμένων συνιστωσών si να ελαχιστοποιούνται. Είναι τώρα προφανές ότι το να βρούμε αντιστρέψιμο μετασχηματισμό W που ελαχιστοποιεί τις αμοιβαίες πληροφορίες είναι τώρα ισοδύναμο με την εύρεση των κατευθύνσεων στις οποίες το negentropy μεγιστοποιείται. Από τα παραπάνω φαίνεται ότι η ICA εκτίμηση από την ελαχιστοποίηση των αμοιβαίων πληροφοριών είναι ισοδύναμη με τη μεγιστοποίηση του αθροίσματος των μη γκαουσσιανοτήτων των εκτιμήσεων, όταν οι εκτιμήσεις περιορίζονται για να είναι ασυσχέτιστες. Η δέσμευση της μη συσχέτισης στην πραγματικότητα δεν είναι απαραίτητη, αλλά απλοποιεί σημαντικά τους υπολογισμούς Εκτίμηση μέγιστης πιθανότητας Η πιθανότητα Μια πολύ δημοφιλής προσέγγιση για τον υπολογισμό του μοντέλου ICA είναι η εκτίμηση μέγιστης πιθανoφάνειας, η οποία συνδέεται πολύ με την αρχή μεγιστοποίησης της εντροπίας (infomax principle). Είναι δυνατό να σχηματισθεί άμεσα η πιθανότητα στο χωρίς θόρυβο μοντέλο ICA και μετά να υπολογιστεί το πρότυπο με μια μέθοδο μέγιστης πιθανοφάνειας. Συμβολίζοντας με W=(w 1,, w n ) T τον πίνακα Α-1, η λογαριθμική πιθανοφάνεια λαμβάνει τη μορφή 28

29 όπου τα f i είναι οι συναρτήσεις πυκνότητας πιθανότητας των s i (εδώ θεωρούνται γνωστά), και τα x(t), t=1,,t είναι οι πραγματοποιήσεις του x. Ο όρος log detw στην πιθανότητα προέρχεται από τον κλασικό κανόνα για τον (γραμμικό) μετασχηματισμό τυχαίων μεταβλητών και των πυκνοτήτων πιθανότητας Γενικά, για κάθε τυχαίο διάνυσμα x με πυκνότητα px και για οποιοδήποτε πίνακα W, η πυκνότητα του y=wx δίνεται από το Η αρχή της μεγιστοποίησης της εντροπίας (The infomax principle) Μια άλλη σχετική συνάρτηση αντίθεσης προήλθε από την οπτική γωνία ενός νευρωνικού δικτύου. Αυτή βασίστηκε στη μεγιστοποίηση της εντροπίας εξόδου (ή της ροής πληροφοριών) ενός νευρωνικού δικτύου με μη γραμμικές εξόδους. Ας υποθέσουμε ότι το x είναι η είσοδος στο νευρωνικό δίκτυο του οποίου οι έξοδοι είναι της μορφής φ i (w T i x) όπου τα φ i είναι μη γραμμικές βαθμωτές συναρτήσεις, και τα w i είναι τα διανύσματα βαρών των νευρώνων. Έπειτα θέλουμε να μεγιστοποιήσουμε την εντροπία των εξόδων: Εάν τα φ i είναι επιλεγμένα κατάλληλα, το πλαίσιο αυτό επιτρέπει επίσης την εκτίμηση του μοντέλου ICA. Πράγματι, έχει αποδειχθεί ότι η αρχή της μεγιστοποίησης της εντροπίας δικτύων, ή infomax, είναι ισοδύναμη με την εκτίμηση μέγιστης πιθανοφάνειας. Αυτή η ισοδυναμία απαιτεί ότι οι μη γραμμικότητες φ i που χρησιμοποιούνται στο νευρωνικό δίκτυο επιλέγονται ως οι αθροιστικές συναρτήσεις κατανομής που αντιστοιχούν στις πυκνότητες f i δηλαδή φ i ( )=f i ( ). 29

30 Συσχέτιση με αμοιβαίες πληροφορίες Για να δούμε τη σύνδεση μεταξύ της πιθανότητας και των αμοιβαίων πληροφοριών, θεωρούμε την προσδοκία της λογαριθμικής πιθανοφάνειας: Εάν τα fi ήταν ίσα με τις πραγματικές κατανομές του w T i x, ο πρώτος όρος θα ήταν ίσος με. Πρακτικά η σύνδεση είναι ακόμα ισχυρότερη. Αυτό ισχύει επειδή στην πραγματικότητα δεν γνωρίζουμε τις κατανομές των ανεξάρτητων συνιστωσών. Μια λογική προσέγγιση θα ήταν η εκτίμηση της κατανομής των w T i x σαν κομμάτι της μεθόδου μέγιστης πιθανοφάνειας και η χρήση αυτής σαν εκτίμηση και της κατανομής των s i. Σε αυτήν την περίπτωση, η πιθανοφάνεια και οι αμοιβαίες πληροφορίες είναι, για όλους τους πρακτικούς σκοπούς, ισοδύναμες. Εντούτοις, υπάρχει μια μικρή διαφορά που είναι πολύ σημαντική στην πράξη. Το πρόβλημα με την εκτίμηση μέγιστης πιθανοφάνειας είναι ότι οι πυκνότητες f i πρέπει να υπολογιστούν σωστά. Δεν είναι απαραίτητο να υπολογιστούν με μεγάλη ακρίβεια: στην πραγματικότητα είναι αρκετό να υπολογιστεί εάν είναι υπό- ή υπέρ-γκαουσσιανές. Σε πολλές πραγματικές εφαρμογές έχουμε αρκετή προγενέστερη γνώση σχετικά με τους ανεξάρτητες συνιστώσες, και δεν χρειάζεται να υπολογίσουμε τη φύση τους από τα δεδομένα. Εν πάση περιπτώσει, εάν οι πληροφορίες για τη φύση των ανεξάρτητων συνιστωσών δεν είναι σωστές η εκτίμηση της μεθόδου μέγιστης πιθανοφάνειας θα δώσει εντελώς λανθασμένα αποτελέσματα. Άρα πρέπει να ληφθεί κάποια προσοχή στην εκτίμηση με αυτή τη μέθοδο. Αντίθετα, χρησιμοποιώντας λογικά μέτρα μη γκαουσσιανότητας, αυτό το πρόβλημα δεν εμφανίζεται. 30

31 1.5 Προεπεξεργασία για την ICA Κεντροθέτηση Το πιο σημαντικό και απαραίτητο βήμα της προεπεξεργασίας είναι να κεντροθετηθεί το x, δηλ. να αφαιρεθεί το μέσο διάνυσμά του m=ε{x} ώστε να καταστεί το x μια μεταβλητή μηδενικού μέσου όρου. Αυτό υπονοεί ότι το s είναι μηδενικού μέσου όρου επίσης, όπως μπορεί να δειχθεί από την εξίσωση x=as που συναντήσαμε παραπάνω. Αυτή η προεπεξεργασία γίνεται απλώς για να απλοποιήσει τον ICA αλγόριθμο. Δεν σημαίνει ότι δεν θα μπορούσε να υπολογιστεί η μέση τιμή. Αφού εκτιμήσουμε τον πίνακα Α με τα κεντροθετημένα δεδομένα, μπορούμε να ολοκληρώσουμε την εκτίμηση με την προσθήκη του διανύσματος μέσης τιμής στις κεντροθετημένες εκτιμήσεις του s. To διάνυσμα μέσης τιμής δίνεται από τον όρο A -1 m, όπου το m είναι ο μέσος όρος που αφαιρέθηκε στην προεπεξεργασία Λεύκανση Μια άλλη χρήσιμη στρατηγική προεπεξεργασίας στην ICA είναι η λεύκανση των παρατηρούμενων μεταβλητών. Αυτό σημαίνει ότι πριν την εφαρμογή του ICA αλγορίθμου (και μετά την κεντροθέτηση), μετασχηματίζουμε το διάνυσμα δεδομένων x, γραμμικά, έτσι ώστε να λάβουμε ένα νέο διάνυσμα που είναι λευκό, δηλ. οι συνιστώσες του είναι ασυσχέτιστες και οι διασπορές τους μοναδιαίες. Με άλλα λόγια, η μήτρα συνδιασποράς του x είναι ίση με τον ταυτοτικό πίνακα: Ο μετασχηματισμός λεύκανσης είναι πάντα δυνατός. Μια δημοφιλής μέθοδος λεύκανσης είναι η χρήση της αποσύνθεση ιδιοτιμών (EVD) της μήτρας συνδιασποράς E{xx T } = EDE T, όπου το Ε είναι ο ορθογώνιος πίνακας των ιδιοδιανυσμάτων του E{xx T } και το D είναι ο διαγώνιος πίνακας των ιδιοτιμών του, D=diag(d 1,, d n ). Σημειώστε ότι το E{xx T } μπορεί να 31

32 υπολογιστεί με έναν κλασσικό τρόπο από το διαθέσιμο δείγμα x(1),, x(τ). Η λεύκανση τώρα μπορεί να εκτελεστεί από τη σχέση: όπου ο πίνακας D -1/2 υπολογίζεται από μια απλή συνάρτηση ως D -1/2 =diag (d 1 -½,d n -½ ). Η λεύκανση μετασχηματίζει τον πίνακα μίξης σε ένα νέο πίνακα A: Η χρησιμότητα της λεύκανσης οφείλεται στο γεγονός ότι ο νέος πίνακας μίξης A είναι ορθογώνιος. Αυτό μπορεί να δειχθεί από τον τύπο Εδώ βλέπουμε ότι η λεύκανση μειώνει τον αριθμό των παραμέτρων προς υπολογισμό, Αντί να πρέπει να υπολογιστούν οι n 2 παράμετροι που είναι τα στοιχεία του αρχικού πίνακα Α, πρέπει μόνο να υπολογίσουμε ο νέος, ορθογώνιος πίνακας μίξης A. Ένας ορθογώνιος πίνακας περιέχει n(n-1)/2 βαθμούς ελευθερίας. Για παράδειγμα, στις δύο διαστάσεις, ένας ορθογώνιος μετασχηματισμός προσδιορίζεται από μια και μόνο γωνιακή παράμετρο. Σε μεγαλύτερες διαστάσεις, ένας ορθογώνιος πίνακας περιέχει περίπου το μισό από τον αριθμό παραμέτρων από ένα κανονικό πίνακα. Κατά συνέπεια η λεύκανση λύνει το μισό πρόβλημα της ICA. Επειδή η λεύκανση είναι μια πολύ απλή και τυποποιημένη διαδικασία, είναι μια πολύ καλή ιδέα να μειώνεται η πολυπλοκότητα του προβλήματος κατά αυτόν τον τρόπο. Μπορεί επίσης να φανεί χρήσιμη η μείωση της διάστασης του διανύσματος των δεδομένων την ίδια στιγμή που εκτελείται η λεύκανση. Κατόπιν εξετάζουμε τις ιδιοτιμές d j του πίνακα Ε{xx T } και απορρίπτουμε εκείνες που είναι πάρα πολύ μικρές, όπως γίνεται συχνά στη στατιστική τεχνική ανάλυσης κύριων συνιστωσών. Η διαδικασία αυτή έχει συχνά ως αποτέλεσμα τη μείωση του θορύβου. Μια γραφική απεικόνιση της επίδρασης της λεύκανσης μπορεί να δειχθεί στο παρακάτω σχήμα: 32

33 Σχήμα 1.5:Η κοινή κατανομή των λευκών μιγμάτων Περαιτέρω προεπεξεργασία Η επιτυχία της ICA για ένα δεδομένο σύνολο στοιχείων βασίζεται και στην εκτέλεση κάποιων βημάτων προεπεξεργασίας. Παραδείγματος χάριν, εάν τα δεδομένα αποτελούνται από σήματα χρόνου, κρίνεται χρήσιμο το φιλτράρισμα των δεδομένων μέσω ζωνοδιαβατών φίλτρων. Σημειώστε ότι εάν φιλτράρουμε γραμμικά τα παρατηρούμενα σήματα x i (t) ώστε να προκύψουν νέα σήματα, έστω x i *(t), το μοντέλο ICA ισχύει ακόμα για το x i *(t), με τον ίδιο πίνακα μίξης. Αυτό αποδεικνύεται ως εξής: Συμβολίζουμε με X τον πίνακα που περιέχει τις παρατηρήσεις x(1),,x(τ) ως στήλες του, και ομοίως για το S. Τότε το μοντέλο ICA μπορεί να εκφραστεί ως: X=AS 33

34 Τώρα, το χρονικό φιλτράρισμα του Χ αντιστοιχεί με πολλαπλασιασμό του Χ από δεξιά με έναν πίνακα, έστω Μ. Αυτό δίνει X*=XM=ASM=AS*, το οποίο δείχνει ότι το μοντέλο ICA παραμένει ακόμα έγκυρο. 1.6 Ο αλγόριθμος FastICA Στις προηγούμενες παραγράφους παρουσιάσαμε διάφορες μεθόδους για την ICA εκτίμηση. Στην πράξη χρειάζεται να ορίσουμε μια συνάρτηση διάκρισης και έναν αλγόριθμο που θα μεγιστοποιεί αυτή τη συνάρτηση. Στη συνέχεια, εισάγουμε έναν πολύ αποδοτικό αλγόριθμο για τον σκοπό αυτό. Θεωρούμε ότι τα μεμειγμένα δεδομένα υπόκεινται αρχικά σε προεπεξεργασία, δηλαδή κεντροθέτηση και λεύκανση Ο αλγόριθμος FastICA για μια μονάδα Αρχικά, θα παρουσιαστεί η έκδοση του αλγόριθμου FastICA της μιας-μονάδας. Με τον όρο «μονάδα» αναφερόμαστε σε μια υπολογιστική μονάδα, ουσιαστικά σε έναν τεχνητό νευρώνα, που διαθέτει ένα διάνυσμα βαρών w, το οποίο ο νευρώνας είναι σε θέση να ανανεώνει με έναν κανόνα εκπαίδευσης. Ο κανόνας εκπαίδευσης FastICA βρίσκει μια κατεύθυνση, δηλαδή ένα μοναδιαίο διάνυσμα w τέτοιο ώστε η προβολή w T x να μεγιστοποιεί την μη κανονικότητα. Η μη κανονικότητα μετράται εδώ από την προσέγγιση της αρνητικής εντροπίας (negentropy),. Ας θυμηθούμε ότι η διασπορά του w T x πρέπει να περιορίζεται στη μονάδα, κάτι που για τα λευκά στοιχεία ισοδυναμεί με τον περιορισμό της κανονικοποίησης του w στη μονάδα. Ο αλγόριθμος FastICA βασίζεται σε μια fixed-point επαναληπτική μέθοδο εύρεσης ενός μεγίστου της μη γκαουσσιανότητας του w T x, όπως μετράται από την παραπάνω σχέση. 34

35 Μπορεί να βρεθεί επίσης ως μια προσέγγιση της επαναληπτικής μεθόδου του Newton. Συμβολίζουμε με g την παράγωγο της μη τετραγωνικής συνάρτησης G που χρησιμοποιείται στην προσέγγιση της αρνητικής εντροπίας (negentropy) και επομένως οι παράγωγοι είναι: όπου 1 α 1 2 είναι κάποια κατάλληλη σταθερά, η οποία συχνά λαμβάνεται ίση με τη μονάδα. Η βασική μορφή του σε ψευδοκώδικα του αλγορίθμου FastICA είναι η ακόλουθη: 1. Επιλέγουμε ένα αρχικό (ενδεχομένως τυχαίο) διάνυσμα βαρών w 2. Έστω 3. Έστω 4. Εάν δεν έχουμε σύγκλιση, επιστρέφουμε στο βήμα 2. Η σύγκλιση εδώ σημαίνει ότι παλαιές και νέες τιμές του σημείου w δείχνουν στην ίδια κατεύθυνση, δηλαδή το εσωτερικό γινόμενο τους είναι (σχεδόν) ίσο με τη μονάδα. Δεν είναι απαραίτητο ότι το διάνυσμα συγκλίνει σε ένα συγκεκριμένο σημείο, δεδομένου ότι το w και το w ορίζουν την ίδια κατεύθυνση. Αυτό ισχύει επειδή οι ανεξάρτητες συνιστώσες μπορούν να υπολογιστούν μόνο μέχρι το σημείο ενός πολλαπλασίου. Επομένως, η διαδικασία του αλγορίθμου FastICA είναι η εξής. Πρώτα σημειώνουμε ότι τα μέγιστα της προσέγγισης της αρνητικής εντροπίας (negentropy) του w T x λαμβάνονται σε ορισμένα βέλτιστα του E{G(w T x)}. Σύμφωνα με τις συνθήκες kuhn-tucker οι βέλτιστες τιμές της παράστασης E{G(w T x)} υπό τον περιορισμό λαμβάνονται στα σημεία όπου ισχύει. 35

36 Ας προσπαθήσουμε να λύσουμε αυτήν την εξίσωση μέσω της μεθόδου του Newton. Συμβολίζοντας τη συνάρτηση στην αριστερή πλευρά της παραπάνω εξίσωσης με F, λαμβάνουμε την Ιακωβιανή μήτρα της JF(w) ως εξής: JF (w) = E {xx T g '(w T x)} βι Για να απλοποιήσουμε την αντιστροφή του πίνακα αυτού, αποφασίζουμε να προσεγγίσουμε τον πρώτο όρο του δεξιού μέλους της εξίσωσης αυτής. Δεδομένου ότι τα δεδομένα είναι σφαιρικά, μια λογική προσέγγιση είναι E {(xx T g '(w T x)} E {xx T } E {g '(w T x)} = E {g '(w T x)} I. Συνεπώς, η Ιακωβιανή μήτρα γίνεται διαγώνια και μπορεί εύκολα να αντιστραφεί. Επομένως λαμβάνουμε την ακόλουθη προσεγγιστική επαναληπτική μέθοδο Newton: Ο αλγόριθμος μπορεί να απλοποιηθεί περαιτέρω πολλαπλασιάζοντας και τα δύο μέλη της παραπάνω εξίσωσης με β E{g '(w T x)}. Αυτό δίνει, μετά από αλγεβρική απλοποίηση, την επαναληπτική μέθοδο FastICA Ο αλγόριθμος FastICA για αρκετές μονάδες Ο αλγόριθμος FastICA για μια μονάδα, της προηγούμενης παραγράφου, δίνει εκτίμηση για μια μόνο ανεξάρτητη συνιστώσα, ή μια κατεύθυνση αναζήτησης προβολών. Για να υπολογίσουμε διάφορες ανεξάρτητες συνιστώσες, πρέπει να τρέξουμε τον αλγόριθμο FastICA για μια μονάδα χρησιμοποιώντας πολλούς νευρώνες (μονάδες) με διανύσματα βάρους w 1,,w n. Για να αποτρέψουμε τα διαφορετικά διανύσματα από το να συγκλίνουν στα ίδια μέγιστα πρέπει να αποσυσχετίσουμε τις εξόδους w T 1 x,,w T n x μετά από κάθε επανάληψη. Εδώ παρουσιάζονται τρεις μέθοδοι για να το πετύχουμε αυτό. 36

37 Ένας απλός τρόπος αποσυσχέτισης είναι μέθοδος deflation βασισμένη σε μια ομοιάζουσα στην Gram-Schmidt αποσυσχέτιση. Αυτό σημαίνει ότι υπολογίζουμε τις ανεξάρτητες συνιστώσες μία μία. Όταν έχουμε υπολογίσει p ανεξάρτητες συνιστώσες, ή p διανύσματα w 1,,w p, τρέχουμε τον fixed-point αλγόριθμο μιας μονάδας για το διάνυσμα w p+1, και μετά από κάθε βήμα επανάληψης αφαιρούμε από τo w p+1 τις «προβολές» w T p+1w j w j, j=1, p από τα p διανύσματα που υπολογίστηκαν νωρίτερα. Κατόπιν κανονικοποιούμε ξανά τα w p+1 : Σε ορισμένες εφαρμογές, εντούτοις, είναι επιθυμητό να χρησιμοποιείται μια συμμετρική αποσυσχέτιση, στην οποία κανένα διάνυσμα δεν είναι «προνομιούχο» έναντι των άλλων. Αυτό μπορεί να επιτευχθεί π.χ., με την κλασσική μέθοδο που κάνει χρήση των τετραγωνικών ριζών των μητρών: W= (WW T ) -1/2 W Όπου W είναι ο πίνακας των διανυσμάτων (w 1,.,w n ) T, και η αντίστροφη τετραγωνική ρίζα (WW T ) -1/2 λαμβάνεται από την αποσυσχέτιση των ιδιοδιανυσμάτων του πίνακα WW T = FΛF T ως (WW T ) -1/2 = FΛ -1/2 F T. Μια απλούστερη εναλλακτική λύση είναι ο ακόλουθος επαναληπτικός αλγόριθμος: 1. 37

38 2. Όπου το βήμα 2 επαναλαμβάνεται μέχρι την σύγκλιση Αλγόριθμος FastICA και μέγιστη πιθανoφάνεια Καταλήγοντας,εδώ δίνουμε μια έκδοση του αλγορίθμου FastICA που δείχνει ξεκάθαρα τη σύνδεση με τον γνωστό αλγόριθμο infomax ή μέγιστης πιθανοφάνειας. Εάν εκφράζουμε τον αλγόριθμο FastICA χρησιμοποιώντας την ενδιάμεση σχέση της εξίσωσης και τον γράψουμε με μητρική μορφή, βλέπουμε ότι ο FastICA λαμβάνει την ακόλουθη μορφή: Όπου και. Ο πίνακας W χρειάζεται ορθογωνοποίηση μετά από κάθε βήμα. Σε αυτήν τη μητρική μορφή είναι φυσικό ο W να ορθογωνιοποιείται συμμετρικά. Η ανωτέρω έκδοση του FastICA θα μπορούσε να συγκριθεί με την στοχαστική μέθοδο κλίσης για την μεγιστοποίηση της πιθανοφάνειας: όπου μ είναι ο συντελεστής εκπαίδευσης, ο οποίος δεν είναι απαραιτήτως σταθερός στο χρόνο. Εδώ, g είναι μια συνάρτηση της σ.π.π των ανεξάρτητων συνιστωσών: g =f i '/f i όπου το f i είναι η σ.π.π μιας ανεξάρτητης συνιστώσας. 38

39 Από τα παραπάνω, συμπεραίνουμε ότι ο FastICA μπορεί να θεωρηθεί ως ένας fixed-point αλγόριθμος για την εκτίμηση της μέγιστης πιθανοφάνειας του μοντέλου δεδομένων ICA. Επιπρόσθετα, η ταχύτητα σύγκλισης βελτιστοποιείται από την επιλογή των πινάκων diag(α i ) και diag(β i ). Ένα άλλο πλεονέκτημα του FastICA είναι ότι μπορεί να εκτιμήσει τόσο τις υπό- γκαουσσιανές όσο και τις υπέρ-γκαουσσιανές ανεξάρτητες συνιστώσες, κάτι που είναι σε αντίθεση με τους συνηθισμένους αλγορίθμους που στηρίζονται στη μέγιστη πιθανοφάνεια, οι οποίοι λειτουργούν μόνο για μια δεδομένη κατηγορία κατανομών Ιδιότητες του αλγορίθμου FastICA Ο αλγόριθμος FastICA και οι συναρτήσεις διάκρισης που χρησιμοποιεί έχουν διάφορες επιθυμητές ιδιότητες συγκρινόμενες με τις υπάρχουσες μεθόδους για την ανάλυση ανεξάρτητων συνιστωσών. 1. Η σύγκλιση είναι κυβική (ή τουλάχιστον τετραγωνική), στις περιπτώσεις που ισχύουν οι συνθήκες που έχουν οριστεί για το μοντέλο ICA. Αυτό είναι σε αντίθεση με τους συνηθισμένους ICA αλγορίθμους βασισμένους στις στοχαστικές μεθόδους καθόδου κλίσης, όπου η σύγκλιση είναι απλά γραμμική. Αυτό σημαίνει πολύ γρήγορη σύγκλιση, όπως έχει επιβεβαιωθεί από τις προσομοιώσεις και τα πειράματα στα πραγματικά δεδομένα. 2. Αντίθετα με τους αλγόριθμους που βασίζονται στον υπολογισμό κλίσης, δεν υπάρχουν παράμετροι μεγέθους βημάτων για να επιλεχθούν. Αυτό σημαίνει ότι ο αλγόριθμος είναι εύχρηστος. 3. Ο αλγόριθμος βρίσκει απευθείας τις ανεξάρτητες συνιστώσες, πρακτικά, οποιασδήποτε μη γκαουσσιανής κατανομής χρησιμοποιώντας οποιαδήποτε μη γραμμική συνάρτηση g. Αυτό έρχεται σε αντίθεση με πολλούς αλγορίθμους, όπου κάποια εκτίμηση της συνάρτησης πυκνότητας πιθανότητας πρέπει να είναι διαθέσιμη, και η μη γραμμικότητα πρέπει να επιλεχτεί αναλόγως. 39

40 4. Η απόδοση της μεθόδου μπορεί να βελτιστοποιηθεί με την επιλογή μιας κατάλληλης μη-γραμμικής g. Ειδικότερα, μπορούν να προκύψουν αλγόριθμοι μεγάλης ακρίβειας ή/και ελάχιστης διασποράς. Στην πραγματικότητα, οι δύο μη γραμμικές συναρτήσεις που δόθηκαν παραπάνω : έχουν αρκετές βέλτιστες ιδιότητες. 5. Οι ανεξάρτητες συνιστώσες μπορούν να υπολογιστούν μία μία, πράγμα που είναι κατά προσέγγιση ισοδύναμο με το να κάνουμε αναζήτηση προβολής. Αυτή η τεχνική είναι χρήσιμη στη διερευνητική ανάλυση στοιχείων και μειώνει σημαντικά το υπολογιστικό φορτίο της μεθόδου σε περιπτώσεις όπου δεν είναι απαραίτητη η εκτίμηση όλων των ανεξάρτητων συνιστωσών. 6. Ο FastICA έχει τα περισσότερα από τα πλεονεκτήματα των νευρωνικών αλγορίθμων. Είναι παράλληλος, κατανεμημένος, υπολογιστικά απλός, και απαιτεί πολύ λίγη μνήμη. Οι στοχαστικές μέθοδοι κλίσης φαίνονται να είναι αποδοτικές μόνο εάν απαιτείται γρήγορη προσαρμογή σε μεταβαλλόμενο περιβάλλον. 40

41 ΚΕΦΑΛΑΙΟ 2 ΑΠΟΦΡΑΚΤΙΚΗ ΑΠΝΟΙΑ (OSA)- SNORING DETECTION 41

42 2.1 Εισαγωγή Το ροχαλητό, όπως είναι ευρέως γνωστό, είναι ένας ήχος που παράγεται κατά τη διάρκεια του ύπνου από τη δόνηση των τοιχωμάτων του φάρυγγα και της μαλακής υπερώας (το πίσω τμήμα της οροφής του στόματος). Η δόνηση αυτή των τοιχωμάτων δημιουργείται από τη δύσκολη δίοδο του αέρα μέσα από ένα στενεμένο φάρυγγα. Η στένωση του φάρυγγα συμβαίνει κατά τη διάρκεια του ύπνου και οφείλεται σε παράγοντες που έχουν σχέση με την ανατομική κατασκευή της περιοχής και το βαθμό μυϊκής χαλάρωσης την ώρα του ύπνου. Αποτελεί μία εξαιρετικά συνήθη κατάσταση και έχει εκτιμηθεί ότι πάνω από το 50 του ενήλικου πληθυσμού ροχαλίζει. Ο χαρακτηρισμός του ροχαλητού ως διαταραχής είναι καταρχήν εσφαλμένος, μιας και οι περισσότεροι υγιείς άνθρωποι ροχαλίζουν σε κάποια φάση του ύπνου, ιδίως όταν είναι πολύ κουρασμένοι. Το 30 περίπου του γενικού πληθυσμού ροχαλίζει κάθε φορά που κοιμάται. Το 80 ροχαλίζει μόνο περιστασιακά. Το ροχαλητό συμβαίνει απλά, διότι ο μυϊκός τόνος χαλαρώνει κατά τον ύπνο οπότε η διέλευση αέρος μέσα από στενά περάσματα με μαλακά τοιχώματα μπορεί, υπό προϋποθέσεις, να προκαλέσει δόνηση των τοιχωμάτων, με αποτέλεσμα τον γνωστό μελωδικό ήχο. Κατά την εγρήγορση δεν παράγεται ροχαλητό, ακόμα και αν υπάρχουν προϋποθέσεις, διότι τα φαρυγγικά τοιχώματα έχουν τον φυσιολογικό τους μυϊκό τόνο, που δεν επιτρέπει τη χαρακτηριστική δόνηση. 2.2 Παράγοντες και παθολογία Έχει παρατηρηθεί ότι το ροχαλητό είναι πιο συχνό στους υπέρβαρους και σε αυτούς που γεννήθηκαν με στενό λαιμό. Επιπλέον, παρατηρείται συχνότερα στους άνδρες από ότι στις γυναίκες. Άλλοι παράγοντες που επιδεινώνουν το ροχαλητό είναι οι εξής: Η ηλικία του ατόμου: το ροχαλητό είναι πιο κοινό σε άτομα μέσης ηλικίας και η συχνότητά του αυξάνει στις ηλικίες 50 έως 60 ετών. Η κληρονομικότητα: οι περισσότεροι από τους παράγοντες που αναφέρονται είναι κληρονομήσιμοι. 42

43 Το μεγάλο σωματικό βάρος (BMI>35) και άλλα μεταβολικά αίτια: Η παχυσαρκία αποτελεί ίσως την κυριότερη αιτία εμφάνισης του ροχαλητού. Τα άτομα με υπερβολικό βάρος έχουν ογκώδεις ιστούς στην περιοχή του λαιμού, φαινόμενο που εμποδίζει τη φυσιολογική ροή του αέρα, προκαλεί δονήσεις στο εσωτερικό του στόματος και ευνοεί τον υπερβολικό θόρυβο. Το κάπνισμα προκαλεί ή και επιδεινώνει αρκετά την κατάσταση Η λήψη αλκοόλ και ηρεμιστικών και αντισταμινικών φαρμάκων Χρόνια αποφρακτική ρινίτιδα η οποία προκαλείται από κρυώματα ή αλλεργίες Ανωμαλίες στην κατασκευή της μύτης Κρυολογήματα κατά τα οποία πρήζονται αμυγδαλές και γενικά η περιοχή του στόματος και του λαιμού. Αμυγδαλές και κρεατάκια που πρέπει να αφαιρεθούν Στραβό ρινικό διάφραγμα Η στάση του σώματος: Στην ύπτια θέση η γλώσσα τείνει να πέφτει προς τα πίσω και να στενεύει ή να φράσσει τον φάρυγγα. Συνήθως συνυπάρχουν πολλαπλοί ανατομικοί παράγοντες μαζί με άλλους. Μερικοί από τούς παράγοντες κινδύνου μπορεί να εκτιμηθούν με τον μορφομετρικό δείκτη Stanford, ο οποίος συνεκτιμά τη μορφομετρία της άνω και κάτω γνάθου, τον δείκτη μάζας σώματος και την περίμετρο του λαιμού. Απ όλους τούς παράγοντες, τα εμπόδια της ρινικής αναπνοής παίζουν στρατηγικό ρόλο, διότι η παραμονή τους εμποδίζει κάθε είδους θεραπευτική αντιμετώπιση, ωστόσο είναι τα ευκολότερα στη διόρθωση. Οι διαταραχές της αναπνοής στον ύπνο αναγνωρίζονται ως ένα σημαντικό πρόβλημα της δημόσιας υγείας, του οποίου η συχνότητα συνεχώς αυξάνεται λόγω, αφενός της ολοένα αυξανόμενης επίπτωσης της παχυσαρκίας και αφετέρου της πιο συχνής αναζήτησης του προβλήματος. 43

44 Εικόνα 2.1: Κανονική αναπνοή κατά τη διάρκεια του ύπνου και ροχαλητό Σε ορισμένους ανθρώπους το ροχαλητό συνοδεύεται από πλήρεις διακοπές της αναπνοής που διαρκούν από μερικά δευτερόλεπτα μέχρι πάνω από ένα λεπτό. Κατά τη διάρκεια των διακοπών αυτών σταματάει το ροχαλητό και ξαναρχίζει πιο έντονο όταν το άτομο ξαναρχίζει να αναπνέει. Οι διακοπές αυτές της αναπνοής ονομάζονται σύνδρομο άπνοιας. Όταν οι διακοπές αυτές είναι λίγες μπορεί να μην παρουσιάζεται κανένα σύμπτωμα και συνήθως αγνοείται και η ύπαρξή τους. Με την πάροδο των ετών, συχνά, ο αριθμός των απνοιών αυξάνεται και οι άνθρωποι αυτοί αρχίζουν να εμφανίζουν υπνηλία την ημέρα, κακή διάθεση, δυσκολεύονται να συγκεντρωθούν, ξεχνάνε εύκολα και μπορεί να παρουσιάζουν μέχρι και στυτική δυσλειτουργία. Πέρα από τα ανωτέρω συμπτώματα το σύνδρομο της αποφρακτικής άπνοιας συνδέεται με υπέρταση, σακχαρώδη διαβήτη, αύξηση του σωματικού βάρους, έμφραγμα του μυοκαρδίου και αγγειακό εγκεφαλικό επεισόδιο. Έτσι, η διαπίστωση και 44

45 αντιμετώπιση του συνδρόμου πέρα από τη βελτίωση της καθημερινής ζωής του ασθενή φαίνεται ότι προλαμβάνει σοβαρά προβλήματα υγείας. 2.3 Τύποι άπνοιας στον ύπνο Η άπνοια στον ύπνο διακρίνεται σε αποφρακτική άπνοια και σε κεντρική άπνοια. Εικόνα 2.2: οι συνηθέστεροι όροι που αφορούν στις διαταραχές της αναπνοής στον ύπνο οι ορισμοί τους. και Κεντρική άπνοια στον ύπνο Σ αυτό τον τύπο άπνοιας οι αεραγωγοί μπορεί να παραμένουν ανοικτοί, αλλά το διάφραγμα και οι θωρακικοί μύες σταματούν να εργάζονται, με αποτέλεσμα ο πάσχων να μην αναπνέει. Η επακόλουθη πτώση του οξυγόνου ερεθίζει τα ειδικά κέντρα στον εγκέφαλο και προκαλεί επανέναρξη της αναπνοής και αφύπνιση. Η κεντρική άπνοια στον ύπνο απαντάται συχνότερα όσο προχωράει η ηλικία, ενώ ως συχνότερη αιτία εμφάνισής της θεωρείται η βαριά καρδιακή ανεπάρκεια. Περίπου ένα 45

46 στα τέσσερα άτομα ηλικίας άνω των 60 ετών παρουσιάζουν κάποια διαταραχή της αναπνοής κατά τη διάρκεια του ύπνου. Στους περισσότερους το πρόβλημα είναι ήπιο. Το πρόβλημα γίνεται εντονότερο και σοβαρότερο στα άτομα που πάσχουν από άλλες παθήσεις, ειδικά νευρολογικές. Οι άνθρωποι με κεντρική άπνοια ξυπνούν πιο συχνά από αυτούς που πάσχουν από αποφρακτική άπνοια. 2.4 Obstructive Sleep Apnea (OSA) Η αποφρακτική άπνοια είναι ο πιο συχνός τύπος άπνοιας. Στην περίπτωση αυτή, οι μύες του φάρυγγα και η μαλακή υπερώα με τη σταφυλή χαλαρώνουν και τα τοιχώματα του φάρυγγα τείνουν να συμπέσουν, αποφράσσοντας τους αεραγωγούς και κάνοντας την αναπνοή εργώδη και θορυβώδη (ροχαλητό). Η πλήρης σύμπτωση των τοιχωμάτων των αεραγωγών διακόπτει την αναπνοή τελείως. Όταν η αναπνοή ενός ατόμου διακόπτεται, κάποιος που βρίσκεται κοντά ακούει το ροχαλητό να σταματά για όσο χρόνο διαρκεί η διακοπή της αναπνοής. Όσο διαρκεί η άπνοια αυξάνονται οι αναπνευστικές προσπάθειες, καθώς οι μύες του θωρακικού τοιχώματος και το διάφραγμα εργάζονται εντονότερα. Η προσπάθεια εισπνοής κατά τη διάρκεια της άπνοιας μοιάζει σαν να προσπαθούμε να ρουφήξουμε υγρό μ ένα μαλακό καλαμάκι που έχει λεπτό τοίχωμα. Με το ρούφηγμα στενεύει ή κλείνει τελείως το καλαμάκι και η αναρρόφηση δεν είναι δυνατή. Τελικά, ο ύπνος του πάσχοντος διαταράσσεται προσωρινά (μερικές φορές για λίγα δευτερόλεπτα) και από ένα βαθύ στάδιο ύπνου "αφυπνίζεται" σ" ένα ελαφρύτερο. Η "αφύπνιση" αυτή αυξάνει τον τόνο των μυών του φάρυγγα και ανοίγει τους αεραγωγούς. Με το άνοιγμα των αεραγωγών ξαναρχίζουν βαθιές αναπνοές κι έντονο το ροχαλητό που είχε σταματήσει. Οι "αφυπνίσεις" αυτές που είναι σύντομες αλλά απαραίτητες για να τερματιστούν οι άπνοιες, δε γίνονται αντιληπτές και ο πάσχων δεν τις θυμάται το πρωί. Οι άπνοιες και οι "αφυπνίσεις" μπορεί να είναι πολλές δεκάδες ή εκατοντάδες κάθε νύχτα. 46

47 Εικόνα 2.3: Κάθετη διατομή του κεφαλιού και του φάρυγγα του ανθρώπου. Όταν ο φάρυγγας είναι φυσιολογικού εύρους, ο αέρας περνάει ελεύθερα κατά τη διάρκεια του ύπνου. Όταν ο φάρυγγας φράζει, ο αέρας περνάει δύσκολα και δημιουργείται άπνοια. Κάθε φορά που σταματάει η αναπνοή, το οξυγόνο στο αίμα μειώνεται και η καρδιά πρέπει να δουλέψει σκληρότερα για να κυκλοφορήσει το αίμα. Η αρτηριακή πίεση αυξάνεται και μπορεί να παραμείνει αυξημένη και μετά την αποκατάσταση της αναπνοής, με αποτέλεσμα να δημιουργηθεί αρτηριακή υπέρταση. Η καρδιά μερικές φορές χτυπά άρρυθμα, ενώ δεν αποκλείεται να σταματήσει για μερικά δευτερόλεπτα. Αυτό είναι πιθανόν αιτία θανάτου κατά τη διάρκεια του ύπνου σε άτομα που φαινομενικά ήταν καλά στην υγεία τους. Πολυάριθμες ιατρικές μελέτες τις τελευταίες δεκαετίες έχουν δείξει ότι η αποφρακτική υπνική άπνοια, όταν δεν αντιμετωπιστεί, μπορεί να ευθύνεται για αρτηριακή υπέρταση, αύξηση της συχνότητας της στεφανιαίας νόσου, του εμφράγματος του μυοκαρδίου, των αγγειακών εγκεφαλικών επεισοδίων και της καρδιακής ανεπάρκειας. 47

48 Τα οινοπνευματώδη, τα ηρεμιστικά και τα υπνωτικά, εάν ληφθούν προ του ύπνου, χαλαρώνουν περισσότερο το μυϊκό τόνο και προδιαθέτουν σε στένωση των αεραγωγών. Οι περισσότεροι άνθρωποι με αποφρακτική άπνοια, δεν έχουν κάποια εμφανή ανατομική ανωμαλία που να σχετίζεται με την προβληματική αναπνοή τους κατά τη διάρκεια του ύπνου. Για τη διαταραχή της αποφρακτικής άπνοιας ενδέχεται να παίζουν κάποιον επιβαρυντικό ρόλο ένας ή περισσότεροι από τους παρακάτω παράγοντες: Κάποιοι πάσχοντες έχουν μικρότερη κάτω γνάθο ή μικρότερο άνοιγμα του φάρυγγα, μερικοί έχουν μεγάλη γλώσσα, μεγάλες αμυγδαλές ή άλλους ιστούς που στενεύουν την είσοδο των αεραγωγών. Η αποφρακτική άπνοια εμφανίζεται κυρίως σε άνδρες με αυξημένο σωματικό βάρος. Η διαφορετική ανατομία του φάρυγγα και οι γυναικείες ορμόνες μπορεί να προστατεύουν τις γυναίκες μέχρι την εμμηνόπαυση. Αργότερα το χάσμα μεταξύ των δυο φύλων μικραίνει αν και ποτέ δεν εξαφανίζεται τελείως. Εικόνα 2.4: Μερικά από τα συμπτώματα που απαντώνται στο σύνδρομο της αποφρακτικής άπνοιας στον ύπνο. Οι κύριοι προδιαθεσικοί παράγοντες είναι η παχυσαρκία (εκτιμώμενη τόσο με το δείκτη μάζας σώματος, όσο ειδικά για τους ασθενείς αυτούς και με την περίμετρο του λαιμού), 48

49 το ανδρικό φύλο, οι κρανιοπροσωπικές ανωμαλίες, ανατομικά αποφρακτικά αίτια στον ανώτερο αεραγωγό (υπερτροφικές αμυγδαλές, ανατομικές ανωμαλίες ρινός, μακρογλωσσία κλπ), η μετεμμηνοπαυσιακή περίοδος για τις γυναίκες και η πιθανή κληρονομική επιβάρυνση Διάγνωση OSA Οι πρώτες ενδείξεις έρχονται κυρίως από τον/την σύντροφο, είτε λόγω του ροχαλητού είτε λόγω της ανησυχίας που προκαλούν οι άπνοιες. Το επόμενο βήμα είναι η επίσκεψη σε ειδικό πνευμονολόγο ο οποίος θα εξετάσει τον ασθενή και θα κρίνει κατά πόσο ο ασθενής μπορεί να πάσχει ή όχι από OSA. Η διερεύνηση του συνδρόμου μπορεί να γίνει αρχικά με νυχτερινή οξυμετρία, δηλαδή καταγραφή του οξυγόνου του αίματος κατά τη διάρκεια του ύπνου. Η καλύτερη και πιο ολοκληρωμένη μέθοδος όμως είναι η πολυσωματοκαταγραφική μελέτη ύπνου (Polysomnography) η οποία μας δίνει ανάμεσα σε άλλα το δείκτη άπνοιας-υπόπνοιας (Apnea-hypopnea index, ΑΗΙ). Η μέθοδος αυτή αναπτύχθηκε από τον Nathaniel Kleitman στο Πανεπιστήμιο του Σικάγο το 1950, και περιλαμβάνει την καταγραφή πολλαπλών μετρήσεων της φυσιολογίας ασθενούς που υπόκειται στην εξέταση. Η μελέτη ύπνου, γενικά, είναι μία εξέταση κατά την οποία καταγράφονται και μελετούνται διάφορες λειτουργίες του οργανισμού κατά τον ύπνο. Η μελέτη ύπνου, εκτός από τη διάγνωση του OSA βοηθά και στη διάγνωση μιας σειράς νευρολογικών παθήσεων όπως επιληπτικών κρίσεων, ναρκοληψίας, ημερήσιας υπνηλίας, υπνοβασίας, περιοδικών κινήσεων των άκρων (Periodic Leg Movement PLM & Restless Legs Syndrome -RLS) και διαταραχών συμπεριφοράς στο στάδιο REM. Χρησιμεύει επίσης στο χαρακτηρισμό της άπνοιας ως αποφρακτική (obstructive), κεντρική (central), μικτή (mixed) ή σύνθετη (complex), οι οποίες άπνοιες πολλές φορές συνυπάρχουν ή μεταπίπτει η μία στην άλλη. Η μελέτη γίνεται το βράδυ είτε σε ειδικά διαμορφωμένα δωμάτια με την παρακολούθηση του εξεταζομένου από εξειδικευμένο προσωπικό, είτε υπό κάποιες προϋποθέσεις κατ οίκον. Κατά τη μελέτη τοποθετούνται στον εξεταζόμενο, με ανώδυνο αναίμακτο 49

50 τρόπο, καλώδια για την παρακολούθηση των ζωτικών του λειτουργιών. Όταν γίνεται σε εργαστήριο, τότε η μελέτη περιλαμβάνει επίσης την καταγραφή με κάμερα των κινήσεων του εξεταζόμενου. Κατά τον ύπνο, συλλέγονται πληροφορίες για τη λειτουργία του εγκεφάλου, της καρδιάς, των μυών, της αναπνοής και των οφθαλμών (εξου και ο όρος πολυσωματοκαταγραφική μελέτη ύπνου). Έτσι καταγράφονται τα στάδια του ύπνου, οι αφυπνίσεις, οι αποκορεσμοί (πτώση οξυγόνου), αρρυθμίες ταχυκαρδίες και βραδυκαρδίες, κινήσεις των άκρων, άπνοιες (πλήρης διακοπή της ροής του αέρα προς του πνεύμονες) και υπόπνοιες (διακοπή της ροής του αέρα προς του πνεύμονες κατά τουλάχιστον 70). Το κύριο ζητούμενο στην περίπτωση του είναι ο δείκτης άπνοιας-υπόπνοιας (Apnea-hypopnea index, ΑΗΙ). Εικόνα 2.5:Στιγμότυπο μελέτης ύπνου με καταγραφή καρδιογραφήματος, ροής αέρα, ροχαλητού, οξυγόνου, θέσης σώματος και κινήσεων του θώρακα και της κοιλιάς Ενδεικτικά καταγράφονται κάποιες από τις πληροφορίες που λαμβάνονται: Ηλεκτροεγκεφαλογράφημα Ηλεκτροκαρδιογράφημα 50

51 Ηλεκτρομυογράφημα Οφθαλμογράφημα Ροή αέρα Ροχαλητό Οξυγόνο (Οξυμετρία) Θέση σώματος Κινήσεις θώρακα Κινήσεις κοιλιάς Εικόνα 2.6: Φυσιολογικό στιγμιότυπο από μελέτη ύπνου σε ασθενή με άπνοια ύπνου κατά τη φάση ύπνου REM (Random Eye Movement) Η μελέτη ύπνου γίνεται από εξειδικευμένο προσωπικό (γιατρούς, τεχνικούς) οι οποίοι έχουν εκπαιδευτεί σε ειδικό εργαστήριο. Η διάγνωση στη συνέχεια, τίθεται είτε από πνευμονολόγο είτε από νευρολόγο ανάλογα με την πάθηση. 51

52 2.4.2 Θεραπεία OSA Η αντιμετώπιση περιλαμβάνει την απώλεια σωματικού βάρους, την αποφυγή χρήσης αλκοόλ πριν την κατάκλιση καθώς και την αποφυγή της ύπτιας θέσης κατά τον ύπνο. Κάποια φαρμακευτικά σκευάσματα έχουν πάρει έγκριση για την OSA (modafinil). Τα σκευάσματα αυτά όμως, στην ουσία αντιμετωπίζουν τα συμπτώματα (υπνηλία) και όχι την αιτία του συνδρόμου (απόφραξη). Χρησιμοποιούνται επίσης διάφορες ενδοστοματικές προθέσεις (mandibular repositioning devices) οι οποίες μηχανικά εμποδίζουν την απόφραξη του στοματοφάρυγγα. Τα μειονεκτήματα αυτής της λύσης είναι αφενός η έλλειψη εξειδίκευσης στην κατασκευή τους και αφετέρου τα όχι και τόσο καλά αποτελέσματα τους. Η μόνη ουσιαστική θεραπεία του συνδρόμου είναι η χρήση μη επεμβατικού μηχανικού αερισμού (ΜΕΜΑ) κατά τον ύπνο με συσκευή CPAP (Continuous positive airway pressure), η οποία εμποδίζει τη σύμπτωση των τοιχωμάτων του στοματοφάρυγγα ώστε να παραμένει ανοιχτή η δίοδος αέρα προς τους πνεύμονες. Εικόνα 2.7: Ασθενής σε χρήση της συσκευής CPAP. Σε επιλεγμένες περιπτώσεις έχουν εφαρμογή ειδικές χειρουργικές τεχνικές. 52

53 Εάν ο σκελετός του προσώπου του ασθενούς είναι η αιτία του προβλήματος, τότε η θεραπεία εφαρμόζεται με επεμβάσεις στοματο-γναθο-προσωπικής χειρουργικής. Για παράδειγμα, αν το πρόβλημα εντοπίζεται στην υποπλασία της άνω και κάτω γνάθου τότε η μετακίνησή τους σε μία σωστή φυσιολογική σχέση λύνει το πρόβλημα δημιουργώντας ικανό χώρο στην αεροφόρο οδό. Η σταφυλο-φαρυγγο-υπερώϊο-πλαστική (UPPP) έχει ουσιαστικά θέση στην αντιμετώπιση του ροχαλητού και όχι της άπνοιας. 2.5 Snoring Detection Η διάγνωση της OSA μπορεί να γίνει μέσω της ανάλυσης των ήχων του ροχαλητού του ατόμου. Έτσι αναπτύχθηκε ένας νέος ερευνητικός τομέας, αυτός του snoring detection. Πολλές μελέτες στα μέσα της δεκαετίας του 1990 ανέλυσαν τις ακουστικές ιδιότητες του ήχου του ροχαλητού. Η βασική αρχή πίσω από αυτές τις μελέτες ήταν να καθοριστεί αν ο ήχος του ροχαλητού που παράγεται ήταν συνδεδεμένος με την OSA. Κατ επέκταση υιοθετήθηκαν σε αρκετές μελέτες τεχνικές επεξεργασίας snore detection. Οι συντελεστές Mel-Frequency-Cepstral (MFCC) χρησιμοποιήθηκαν στο μοντέλο Hidden Markov Model (HMM). Η ομιλία είναι μία αλληλουχία φωνημάτων με όχι τόσο αυστηρές συνδέσεις και όρια από το ένα στο άλλο. Τα χαρακτηριστικά μίας τέτοιας κυματομορφής, κατά τη μετάβαση από ένα φώνημα σε ένα άλλο, μπορεί να αποκλίνουν σημαντικά από εκείνα που παρατηρούνται ανάμεσα στα τμήματα των κυρίως κυματομορφών ομιλίας των δύο αυτών γειτονικών φωνημάτων. Τα φωνήματα μοντελοποιούνται, συνήθως, σε 3- καταστάσεων HMMs διαχωρίζοντάς τα στα αρχικά, κεντρικά και τελικά τμήματα. Αντίθετα, οι ήχοι του ύπνου είναι πιο στατικά και συνεχή σήματα καθ όλη τη διάρκειά τους, κάτι που υποδεικνύει ότι επιβάλλεται μια μέθοδος που να περιλαμβάνει μια όχι τόσο εντατική υπολογιστική κατηγοριοποίηση. Οι MFCC είναι low level καταγραφείς ομιλίας. 53

54 Ωστόσο, αν θέλουμε να καταγράψουμε τους ήχους που παράγει ένας άνθρωπος κατά τη διάρκεια του ύπνου του, θα καταλάβουμε ότι αυτοί περιλαμβάνουν και άλλους ήχους από το ευρύτερο περιβάλλον οι οποίοι υπόκεινται σε διαφορετικούς μηχανισμούς και δεν εμπίπτουν στα παραπάνω μοντέλα. Έτσι λοιπόν, καταλαβαίνουμε ότι ο τομέας του snoring detection χρήζει όλο και περισσότερης έρευνας. Ως εκ τούτου, πολλές εταιρίες τη σημερινή εποχή χρηματοδοτούν ερευνητικά κέντρα και πανεπιστήμια και εκμεταλλεύονται τα ευρήματα αυτών με σκοπό τη δημιουργία και βελτίωση των μηχανισμών Care and Cure που διαθέτουν. 54

55 ΚΕΦΑΛΑΙΟ 3 ΠΙΕΖΟΚΡΥΣΤΑΛΛΟΙ- ΠΙΕΖΟΗΛΕΚΤΡΙΚΟ ΦΑΙΝΟΜΕΝΟ 55

56 3.1 Εισαγωγή στον πιεζοηλεκτρισμό Ο πιεζοηλεκτρισμός είναι η ιδιότητα κάποιων υλικών (κυρίως κρυσταλλικών υλικών αλλά και μερικών κεραμικών υλικών) να παράγουν ηλεκτρική τάση όταν δέχονται κάποια μηχανική τάση/πίεση ή ταλάντωση. Το φαινόμενο μπορεί να εξηγηθεί ποιοτικά με τη μεταφορά ελεύθερων φορτίων στα άκρα του κρυσταλλικού πλέγματος. Επίσης, ο όρος περιλαμβάνει και το αντίστροφο φαινόμενο, κατά το οποίο το υλικό παραμορφώνεται, όταν βρεθεί κάτω από ηλεκτρική τάση. Οφείλεται σε κρυσταλλικές ασυμμετρίες και αποτελεί φαινόμενο πρώτης τάξης. Παραδείγματα υλικών με πιεζοηλεκτρικές ιδιότητες είναι ο χαλαζίας (SiO 2 ), το αλάτι Rochelle ή Seignette (τρυγικό καλιονάτριο, NaKC 4 H 4 O 6 2H 2 O), το ADP (δισόξινο φωσφορικό αμμώνιο, NH 4 H 2 PO 4 ), το ένυδρο θειικό λίθιο, (LiSO 4.H 2 O), ο τουρμαλίνης, το συνθετικό πολυμερές PVDF (polyvinylidene difluoride) κτλ. Το πιεζοηλεκτρικό φαινόμενο δεν θα πρέπει να συγχέεται με το φαινόμενο της ηλεκτροσυστολής, που είναι διαφορετικό (δεν αποτελεί το ένα αντίστροφο του άλλου, όπως λανθασμένα γράφεται σε κάποιες αναφορές). Και τα δύο φαινόμενα είναι δυνατό να συνυπάρχουν στο ίδιο κρυσταλλικό υλικό, με κάποιο από τα δύο να είναι επικρατέστερο του άλλου. Το φαινόμενο τυγχάνει ευρείας εκμετάλλευσης σε διάφορες εφαρμογές της ακουστικής (ηλεκτροακουστική, ηλεκτρακουστικοί μορφοτροπείς, βιοϊατρική, μικροζυγαριές κτλ). 56

57 Εικόνα 3.1: Ηλεκτρικό πεδίο στον κρύσταλλο παράγει συστολή και διαστολή του κρυστάλλου Στη φυσική, το πιεζοηλεκτρικό φαινόμενο μπορεί να περιγραφεί ως ο σύνδεσμος μεταξύ ηλεκτροστατικής και μηχανικής. Εικόνα 3.2: Πιεζοηλεκτρικά υλικά 57

58 3.2 Πιεζοηλεκτρικό φαινόμενο Το πιεζοηλεκτρικό φαινόμενο ανακαλύφθηκε από τους αδελφούς Jacques και Pierre Curie το 1880, οι οποίοι παρατήρησαν ότι υποβάλλοντας σε μηχανική πίεση συγκεκριμένα κρυσταλλικά υλικά, αυτά πολώνονται ηλεκτρικά και ο βαθμός πόλωσης είναι ανάλογος με την εφαρμοσμένη πίεση. Εικόνα 3.3: Οι αδελφοί Jacques και Pierre Curie Πιο συγκεκριμένα πιεζοηλεκτρισμός είναι η γραμμική ηλεκτρομηχανική αλληλεπίδραση που παρουσιάζεται στο εσωτερικό ορισμένων κρυστάλλων, οι οποίοι είναι μη συμμετρικοί. Αυτό γίνεται αντιληπτό από τα επιμέρους μόρια. Κάθε ένα έχει μια πολικότητα, καθώς το ένα άκρο του είναι περισσότερο αρνητικά φορτισμένο δηλαδή είναι συσσωρευμένα σε αυτό περισσότερα ηλεκτρόνια. Το άλλο άκρο είναι θετικά φορτισμένο και έτσι δημιουργείται ένα δίπολο. Σε έναν πολυκρύσταλλο η κατανομή της συνολικής πολικότητας είναι αντισυμμετρική. Αυτή ακριβώς η έλλειψη συμμετρίας είναι η βασική αιτία ύπαρξης του πιεζοηλεκτρικού φαινομένου. Οι κρύσταλλοι που έχουν κεντρική συμμετρία δεν μπορούν να εμφανίσουν πιεζοηλεκτρισμό. 58

59 Προκειμένου να παραχθεί το πιεζοηλεκτρικό φαινόμενο ένα πολυκρυσταλλικό υλικό θερμαίνεται υπό την επίδραση ενός ισχυρού ηλεκτρικού πεδίου. Η θερμότητα επιτρέπει την αύξηση της κινητικής ενέργειας των μορίων και επιβάλει σταδιακά ενιαία διεύθυνση για όλα τα δίπολα. Το ευθύ πιεζοηλεκτρικό φαινόμενο μπορεί να ορισθεί ως το φορτίο της ηλεκτρικής πόλωσης που είναι ανάλογο με την παραμόρφωση. Ένα υλικό ονομάζεται πιεζοηλεκτρικό όταν μια εξωτερική μηχανική τάση αυξάνει την διηλεκτρική μετατόπιση μέσα στο υλικό. Η ηλεκτρική μετατόπιση εμφανίζεται σαν εσωτερική ηλεκτρική πόλωση. Το αντίστροφο πιεζοηλεκτρικό φαινόμενο ονομάζεται η μηχανική παραμόρφωση του υλικού όταν βρίσκεται κάτω από την επίδραση ηλεκτρικού πεδίου. Δηλαδή σε αυτή την περίπτωση παρουσιάζεται μεταβολή στο σχήμα του κρυστάλλου όταν βρεθεί μέσα σε ηλεκτρικό πεδίο. Εικόνα 3.4: Ευθύ και αντίστροφο πιεζοηλεκτρικό φαινόμενο 59

60 3.3 Εφαρμογές πιεζοηλεκτρισμού Κάποιες από τις εφαρμογές του πιεζοηλεκτρισμού είναι οι εξής: Παραγωγή υψηλής τάσης Αισθητήρες (sonar, μικρόφωνα, κιθάρες, υπέρηχοι, κεφαλές πικάπ) Ηχεία Πιεζοηλεκτρικοί κινητήρες Εκτυπωτές inkjet Έλεγχος συχνότητας (Χαλαζίας) Ηλεκτρονικά ρολόγια Ηλεκτρονικά κυκλώματα Ραδιοφωνικοί πομποί δέκτες, κομπιούτερ Ηλεκτρονικά ρολόγια (Ένα κοινό ρολόι χάνει < 0.5 sec τη μέρα) 3.4 Μαθηματικό μοντέλο Η ηλεκτρική και μηχανική συμπεριφορά ενός υλικού μπορεί να περιγράφεται από τις παρακάτω σχέσεις: Ηλεκτρική συμπεριφορά D = ee [3.1] Όπου D είναι η ηλεκτρική μετατόπιση, e είναι η ηλεκτρική διαπερατότητα του μέσου και Ε η ένταση του ηλεκτρικού πεδίου. Αντίστοιχα, η μηχανική συμπεριφορά του υλικού περιγράφεται από τον νόμο του Hooke S=sT [3.2] 60

61 Όπου S είναι η παραμόρφωση, s είναι η ενδοτικότητα και T είναι η μηχανική τάση. Οι παραπάνω ανεξάρτητες εξισώσεις είναι συζευγμένες για ένα πιεζοηλεκτρικό υλικό και μπορούν να γραφούν αναλυτικότερα στην παρακάτω μορφή: se d ' T S T E D d T ' E [3.3] Όπου d είναι ο πίνακας με τους πιεζοηλεκτρικούς όρους. Οι δείκτες στην καταστατική εξίσωση δηλώνουν τις συνθήκες κάτω από τις οποίες πραγματοποιήθηκαν οι μετρήσεις των ιδιοτήτων του υλικού. Ο εκθέτης Ε στο πίνακα ενδοτικότητας s δηλώνει ότι τα δεδομένα ενδοτικότητας μετρήθηκαν κάτω από τουλάχιστον σταθερό και ιδανικά μηδενικό ηλεκτρικό πεδίο. Αντίστοιχα ο εκθέτης T στο πίνακα διαπερατότητας δηλώνει ότι τα δεδομένα διαπερατότητας μετρήθηκαν κάτω από τουλάχιστον σταθερό και ιδανικά μηδενική εντατική κατάσταση. Οι τέσσερις καταστατικές μεταβλητές (S, T, D, και E) μπορούν να γραφούν διαφορετικά και να δώσουν τρείς διαφορετικές μορφές της πιεζοηλεκτρικής καταστατικής εξίσωσης. Αντί του πίνακα σύζευξης d, περιέχουν τους πίνακες σύζευξης e, g, ή q ενώ είναι δυνατή η μετατροπή από την μία μορφή στην άλλη. Ο κύριος λόγος που υπάρχουν τέσσερις διαφορετικές μορφές των εξισώσεων είναι ότι οι κατασκευαστές υλικών δημοσιεύουν τους πίνακες των υλικών στις μορφές d και g, ενώ εμπορικά πακέτα/κώδικες πεπερασμένων στοιχείων απαιτούν τα δεδομένα στην μορφή e. Τα στοιχεία των πινάκων σύζευξης για κάθε περίπτωση ορίζονται σύμφωνα με τις παρακάτω σχέσεις d ij, eij, gij και h ij : dij Di Tj E S E j i T 61

62 eij Di S j E T E j i S gij Ei Tj D S j Di T hij E S i j D Tj Di S [3.4] 3.5 Είδη πιεζοηλεκτρικών αισθητήρων Τα πιεζοηλεκτρικά υλικά χρησιμοποιούνται ευρέως σαν ενεργοποιητές και σαν αισθητήρες (sensors). Τα πιο συνηθισμένα είδη αισθητήρων είναι τα εξής: PZT sensors Το κεραμικό PZT είναι ένα ευρέως χρησιμοποιούμενο πιεζοηλεκτρικό υλικό. Οι αισθητήρες PZT (Lead zirconium titanates) είναι συμπαγείς μορφές συχνά εμπλουτισμένες με άλλες ουσίες ώστε να αποκτήσουν συγκεκριμένες ιδιότητες. Αυτά τα κεραμικά παράγονται με ανάμειξη ποσότητας οξειδίων lead, zirconium και titanium και θέρμανση του μίγματος στους ο C. Αυτά αντιδρούν σχηματίζοντας την σκόνη PZT. Κατά την διάρκεια της ψύξης, το υλικό υφίσταται μετατροπή από παραηλεκτρικό σε φεροηλεκτρικό και η κυβική μονάδα γίνεται τετράγωνη. Σαν αποτέλεσμα η μοναδιαία δομή επιμηκύνεται σε μία κατεύθυνση και έχει και έχει μια μόνιμη διπολική ροπή προσανατολισμένη κατά μήκος του μεγάλου άξονα. Το μη πολωμένο κεραμικό υλικό αποτελείται από πολλές τυχαία προσανατολισμένες περιοχές και γι αυτό δεν έχει καθόλου συνολική πόλωση. Η εφαρμογή ενός υψηλού πεδίου έχει ως αποτέλεσμα την ευθυγράμμιση των περισσοτέρων στοιχειωδών περιοχών όσο το δυνατόν παράλληλα στο εφαρμοζόμενο πεδίο. Αυτή η διαδικασία λέγεται πόλωση και δίνει στο 62

63 κεραμικό μόνιμη συνολική πόλωση. Το υλικό αυτό παρουσιάζει τόσο το ευθύ όσο και το αντίστροφο πιεζοηλεκτρικό φαινόμενο. Εικόνα 3.5: Κρυσταλλική δομή του υλικού PZT PVDF sensors PVDF είναι ένα πολυμερές που αποτελείται από μακριές αλυσίδες του επαναλαμβανόμενου μονομερούς (-CH2-CF2-). Τα άτομα υδρογόνου είναι θετικά φορτισμένα και τα άτομα fluorine αρνητικά σε αντιστοιχία με τα άτομα carbon και αυτό αφήνει κάθε στοιχειώδες μονομερές με μια κληρονομημένη διπολική ροπή. Το φιλμ παράγεται με στερεοποίηση του από τηγμένη κατάσταση, το οποίο τότε διαμορφώνεται σε μια συγκεκριμένη κατεύθυνση και τελικά πολώνεται. Στην υγρή φάση, οι μεμονωμένες πολυμερείς αλυσίδες είναι ελεύθερες να πάρουν οποιονδήποτε προσανατολισμό και έτσι ένας δεδομένος όγκος υγρού δεν έχει συνολική ροπή. Μετά την στερεοποίηση και προσανατολισμό του φιλμ οι πολυμερείς αλυσίδες είναι κατά βάση ευθυγραμμισμένες στη φορά που τους δίνεται. Αυτό σε συνδυασμό με την πόλωση προδίδει στο φιλμ μόνιμη διπολική ροπή και πλέον συμπεριφέρεται σαν πιεζοηλεκτρικό υλικό. Το PVDF (Polyvinylidene fluoride) είναι πιο κατάλληλο για εφαρμογές αισθητήρων σε σύγκριση με το PZT αφού είναι λιγότερο πιθανό να επηρεαστεί η δυναμική της δομής. Είναι επίσης εύκολο να σχηματίσεις το PVDF φιλμ σε όποια επιθυμητή κατεύθυνση. Αυτά τα χαρακτηριστικά τα κάνουν πιο ελκυστικά για εφαρμογές αισθητήρων παρά τους 63

64 χαμηλότερους συντελεστές (1/10) των PZT. Τέλος το PVDF είναι πυροηλεκτρικό και αυτό σημαίνει λειτουργία υψηλά εξαρτώμενη από τη θερμοκρασία σε σχέση με τους PZT. Εικόνα 3.6: Κρυσταλλική δομή του υλικού PVDF Επιπλέον, οφείλουμε να αναφέρουμε ότι υπάρχουν και άλλα πιεζοηλεκτρικά υλικά που χρησιμοποιούνται σε ποικίλες εφαρμογές. Αυτά είναι το ΒPT (barium lead titanate), το ΒΠΖ (barium lead zirconate), και το PMN (lead magnesium niobate). Τα συγκεκριμένα υλικά παρουσιάζουν διαφορές στη συμπεριφορά τους ανάλογα με τη συχνότητα και την πίεση που εφαρμόζεται σε αυτά. 64

65 ΚΕΦΑΛΑΙΟ 4 ΣΥΝΔΕΣΗ ΤΩΝ ΔΕΔΟΜΕΝΩΝ ΘΕΩΡΙΑΣ ΜΕΤΑΞΥ ΤΟΥΣ ΚΑΙ ΜΕ ΤΗΝ ΠΕΙΡΑΜΑΤΙΚΗ ΜΕΘΟΔΟ 65

66 Μέχρι στιγμής στη θεωρία μας, αναλύσαμε τη μέθοδο ICA, τον αλγόριθμο FastICA, την αποφρακτική άπνοια (OSA), τη μέθοδο του snoring detection και τέλος τους πιεζοκρυστάλλους και το πιεζοηλεκτρικό φαινόμενο. Σε αυτό το μέρος της διπλωματικής εργασίας θα παραθέσουμε τον τρόπο με τον οποίο συνδέονται όλα αυτά μεταξύ τους αλλά και με το πειραματικό μέρος της εργασίας. 4.1 ICA- FastICA- Snoring detection ICA Αρχικά, θα δούμε πως μπορούμε να συνδέσουμε τη μέθοδο ICA, που αναλύεται διεξοδικά στο πρώτο κεφάλαιο, με την διάγνωση και θεραπεία της αποφρακτικής άπνοιας αλλά και με τη μέθοδο του snoring detection. Σε αυτό το πρώτο μέρος του κεφαλαίου, λοιπόν, θα δούμε πως μπορούμε να εξάγουμε τα σήματα που ανήκουν στο ροχαλητό και τα οποία μας βοηθούν να διαγνώσουμε την αποφρακτική άπνοια, με τη βοήθεια της μεθόδου ICA. Στο θέμα που μας απασχολεί σε αυτή τη διπλωματική εργασία, βλέπουμε μια νέα βιοϊατρική εφαρμογή: την εξόρυξη ενός ακουστικού σήματος ροχαλητού. Αυτή η εφαρμογή είναι ύψιστης σημασίας διότι το ροχαλητό έχει πολλές συνέπειες για τη ζωή του ασθενούς (βλέπε κεφάλαιο 2) και το ακουστικό σήμα θα μπορούσε πραγματικά να βοηθήσει τους γιατρούς να διαγνώσουν τα προβλήματα αναπνοής και να αξιολογήσουν τον κίνδυνο που διατρέχει ο ασθενής. Γενικά, είναι δύσκολο να καταγράφει αυτό το σήμα. Μια σύντομη ανάλυση της κατάστασης δείχνει ότι αυτό πρόβλημα αντιστοιχεί στο πλαίσιο της BSS (Blind Source Separation), και μια προσπάθεια της λύσης από την ICA προκύπτει ως φυσικό αποτέλεσμα. Γνωρίζοντας ήδη, από το κεφάλαιο 2, τα προβλήματα που δημιουργεί το ροχαλητό στον οργανισμό και κατά συνέπεια η αποφρακτική άπνοια αντιλαμβανόμαστε το πόσο σημαντικό είναι το ότι υπάρχει μία μέθοδος η οποία μας επιτρέπει να διαγνώσουμε τη συγκεκριμένη πάθηση. 66

67 Το ηχητικό σήμα του ροχαλητού είναι αυτό που επιτρέπει τη διάγνωση του ασθενούς. Το μέτρο του θα μπορούσε να σχετίζεται με άλλα φυσικά δεδομένα, όπως τα ηλεκτροεγκεφαλογραφήματα, electro-oculograms, κλπ. Η δύναμη του είναι συγκεντρωμένη σε κάτω από 5kHz. Η χρονική δομή ενός τυπικού σήματος ροχαλητού φαίνεται στην Εικόνα 4.1 (f samp, το δείγμα συχνότητας είναι 44,1 khz). Το σήμα του ροχαλητού είναι σχεδόν περιοδικό και σταθερό σε χρονικά παράθυρα μεγαλύτερα από τη διάρκεια της περιόδου. Εικόνα 4.1: Χρονική δομή ενός σήματος ροχαλητού (συνολικό χρονικό παράθυρο περίπου 10 δευτερόλεπτα) Μέχρι στιγμής στην επιστημονική κοινότητα, υπάρχουν δύο μέθοδοι καταγραφής του σήματος ροχαλητού: μικρόφωνα και πιεζοηλεκτρικοί αισθητήρες (βλέπε κεφάλαιο 3). Συνεπάγεται ότι αυτή είναι και η σύνδεση της θεωρίας των πιεζοκρυστάλλων με τα υπόλοιπα μέρη της θεωρίας της εργασίας αυτής. Όταν καταγραφεί, λοιπόν, το εν λόγω σήμα του ροχαλητού θα συνοδεύεται από διάφορα άλλα σήματα που προκύπτουν από το ανθρώπινο σώμα κατά τη διάρκεια του ύπνου. Για να διαγνωστεί όμως η OSA και στη συνέχεια να αναλυθεί, έτσι ώστε ο ασθενής να αποζητήσει θεραπεία είναι αναγκαίο να διαχωριστεί το σήμα του ροχαλητού από τυχόν άλλα. Τα υπόλοιπα σήματα μπορεί να είναι ο καρδιακός ρυθμός, θόρυβοι του 67

68 περιβάλλοντος, τυχόν κινήσεις του εντέρου ή κινήσεις των μυών κτλ. Εδώ εδραιώνεται η αναγκαιότητα της μεθόδου ICA και, φυσικά, του αλγορίθμου FastICA αφού (σύμφωνα με τη θεωρία του κεφαλαίου 1) είναι η πλέον κατάλληλη μέθοδος διαχωρισμού σημάτων. Η εξαγωγή του ακουστικού σήματος του ροχαλητού αντιστοιχεί, λοιπόν, με το γενικό πρόβλημα των πηγών διαχωρισμού διότι, όπως είπαμε τα σήματα που καταγράφονται από τα μικρόφωνα είναι μίγματα ανεξάρτητων πηγών: το ίδιο το σήμα ροχαλητού και άλλα σήματα διαταραχής (ηλεκτρομαγνητικός θόρυβος από μέσα ή παρασιτικές πηγές, όπως θόρυβος περιβάλλοντος). Επιπλέον, αυτή η μέθοδος είναι μη επεμβατική (οι πιεζοκρύσταλλοι δεν έρχονται σε επαφή με τον ασθενή). Απλή εξαγωγή του θορύβου (χρησιμοποιώντας κλασικά pass-band φίλτρα) δεν είναι ικανοποιητική, επειδή ο θόρυβος (δηλαδή όλες οι συνεισφορές σε μητρώα τα οποία δεν είναι σήματα ροχαλητού, αλλά προέρχονται από τον ασθενή ή από το περιβάλλον του) ο οποίος βρίσκεται σε ζώνη συχνοτήτων του ροχαλητού δεν θα αφαιρεθεί! Εικόνα 4.2: Διαδικασία της μέτρησης του ροχαλητού: η κυματοειδής μορφή συλλαμβάνεται από την Blind Source Separation, το επίπεδο ισχύος μετράται από ένα κατάλληλο ανιχνευτή FastICA Στη συνέχεια, αφού δεχόμαστε ότι η μέθοδος ICA μπορεί να χρησιμοποιηθεί στο snoring detection παρατηρούμε ότι όλα αυτά συμβαίνουν με τη βοήθεια του αλγορίθμου FastICA ο οποίος είναι η πρακτική εφαρμογή των μεθόδων ICA και Blind Source Separation. Η λειτουργία της FastICA (κεφάλαιο 1.6) βασίζεται στην μη-γκαουσιανότητα που μετράται μέσω της αρνητικής εντροπίας. Η προσέγγιση αυτή βασίζεται σε δύο αρχές: το 68

69 Κεντρικό Οριακό Θεώρημα και η μέγιστη διαφορική εντροπία μιας γκαουσιανής μεταβλητής Το κεντρικό οριακό θεώρημα Το κεντρικό οριακό θεώρημα λέει ότι αν u είναι το άθροισμα των n τυχαίων μεταβλητών iid (n τείνει στο άπειρο), τότε f u (U) τείνει σε μια γκαουσιανή συνάρτηση. Με άλλα λόγια, αυτό σημαίνει ότι η PDF ενός μίγματος των ανεξάρτητων μεταβλητών είναι πιο κοντά από μια γκαουσιανή από το PDF της κάθε μεταβλητής που συμμετέχει στο μείγμα Η μέγιστη διαφορική εντροπία μιας γκαουσιανής μεταβλητής Η διαφορική εντροπία h(x) είναι ένα μέτρο της τυχαιότητας μιας μεταβλητής x: Ένα από τα πιο σημαντικά αποτελέσματα της θεωρίας της πληροφορίας, είναι ότι μια μεταβλητή xg η οποία έχει μια γκαουσιανή PDF έχει την υψηλότερη διαφορική εντροπία (μεταξύ όλων των μεταβλητών x) για μια δεδομένη διακύμανση (σ χ 2 =σ χg 2 ): Με την ισότητα να ισχύει, αν και μόνο αν, η μεταβλητή x είναι γκαουσιανή Μετά το διαχωρισμό Σε ένα πραγματικό πλαίσιο, οι εφαρμογές που πληρούν όλες τις ICA υποθέσεις αποδεικνύονται σπάνιες. Ωστόσο, τα αποτελέσματα μπορεί να είναι ικανοποιητικά σε πολλές περιπτώσεις. Αυτός είναι ο λόγος για τον οποίο προσπαθούμε να εφαρμόσουμε τη 69

70 μέθοδο ICA, έχοντας κατά νου ότι η ιnstantaneity του μείγματος δεν είναι εγγυημένη και θα μπορούσε να παρουσιάσει πολλαπλές δυσκολίες. Όλα τα παραπάνω, όμως δεν μπορούν να συνδεθούν χωρίς να υπάρξει πειραματική απόδειξη. Όταν ολοκληρωθεί η πειραματική μέθοδος διαχωρισμού σημάτων ροχαλητού και άλλων ειδών σημάτων υπάρχει περίπτωση να παρατηρήσουμε κάποια προβλήματα τα οποία οφείλονται συνήθως στους επόμενους λόγους. Καταρχάς στις καθυστερήσεις: ακόμη και αν αυτές που οφείλονται στο χρόνο μετάδοσης θα μπορούσαν να εξαφανιστούν (επιλέγοντας μια κατάλληλη γεωμετρική διαμόρφωση και εφαρμογή ενός timeshifting), εκείνες που προκαλούνται από τις συναρτήσεις μεταφοράς των οργάνων μέτρησης είναι πολύ ακανθώδεις, επειδή εξαρτώνται από το περιεχόμενο συχνότητας του σήματος: η αντιστάθμιση θα πρέπει να είναι αποτελεσματική για κάθε συχνότητα στο περίπτωση των large-band σημάτων. Πράγματι, καθώς η καθυστέρηση εξαρτάται από τη συχνότητα θα πρέπει να διορθώσουμε τα μείγματα με τη μετατόπιση κάθε συχνότητας, κάθε συστατικού, που υπάρχει στο μείγμα με έναν διαφορετικό τρόπο. Αυτό το πρόβλημα (που εμφανίζεται σε διάφορα επίπεδα σε όλες τις πραγματικές-ακουστικές εφαρμογές σήματος) μπορεί να μειώσει δραστικά τις επιδόσεις του διαχωρισμού. Εμπειρίες με επαγγελματικά όργανα οδηγούν σε καλύτερα αποτελέσματα, αλλά o διαχωρισμός δεν είναι τέλειος ακόμα. Καταλήγοντας, η εξαγωγή του σήματος του ροχαλητού με τη βοήθεια της μεθόδου ICA φαίνεται να είναι πολλά υποσχόμενη. Σίγουρα θα εμφανίζονται προβλήματα όπως άλλωστε συμβαίνει με όλες τις πρωτοποριακές μεθόδους στην αρχή, αλλά με πολλές πειραματικές διαδικασίες και λύνοντας τα διάφορα προβλήματα που προκύπτουν στην πορεία, ξεχωριστά το καθένα, θα καταλήξει να είναι μια λύση σε ένα ιατρικό πρόβλημα που απασχολεί ένα μεγάλο μέρος του παγκόσμιου πληθυσμού. 70

71 4.2 Snoring detection- Πιεζοκρύσταλλοι Εισαγωγή Στο δεύτερο μέρος αυτού του κεφαλαίου θα αναγνωρίσουμε τη σχέση της μεθόδου του snoring detection με τους πιεζοκρυστάλλους (βλέπε κεφάλαιο 3). Στο προηγούμενο κεφάλαιο είδαμε πως υπάρχουν δυο μέθοδοι για να καταγράψουμε το σήμα του ροχαλητού: μικρόφωνα και πιεζοηλεκτρικοί αισθητήρες. Και ενώ στο κεφάλαιο 3 καταγράφεται με λεπτομέρειες η έννοια του πιεζοκρυστάλλου και του πιεζοηλεκτρικού φαινομένου και πως από αυτά προκύπτουν οι πιεζοηλεκτρικοί αισθητήρες δεν έχουμε αναφερθεί στη χρησιμότητα τους στη συγκεκριμένη επιστημονική εφαρμογή. Υπάρχουν πολλές συσκευές που βασίζονται στην εγγραφή του ήχου και πολλές από αυτές χρησιμοποιούνται ως διαγνωστικές συσκευές για τον εντοπισμό του ροχαλητού. Αυτές οι συσκευές κυμαίνονται από μικρόφωνα που τοποθετούνται στο δωμάτιο ενός πάσχοντος ή στο λαιμό ή ακόμα και σε ένα ακουστικό βαρηκοΐας που τοποθετείται στο αυτί του πάσχοντα. Ορισμένες συσκευές χρησιμοποιούν τα συστήματα ανάλυσης ήχου για να χαρακτηρίσουν την υπογραφή ήχου και στη συνέχεια να μετρήσουν τον αριθμό των ροχαλητών ή τον αριθμό των απνοιών σε μια νύχτα της εγγραφής. Πολλοί γιατροί ζητούν, επίσης, από τους ασθενείς τους να καταγράψουν το δικό τους ροχαλητό και στη συνέχεια να επιστρέψουν τις ταινίες, έτσι ώστε να μπορούν να ακούσουν το χαρακτηριστικό μοτίβο των ήχων. Αυτή η μέθοδος είναι ωστόσο μη πρακτική καθώς οι ηχογραφήσεις πρέπει να επαναληφθούν και μέχρι σήμερα δεν έχει υπάρξει αποτελεσματικός τρόπος παροχής ποσοτικής ανάλυσης. Ένα ιδιαίτερο πρόβλημα με τον ήχο εγγραφής είναι ότι είναι δύσκολο να διαχωριστεί από άλλους ήχους (όπως αναφέραμε και στο κεφάλαιο 4.1), όπως όταν κάποιος μιλάει, μια πόρτα που χτυπά, το ραδιόφωνο ή την τηλεόραση στο παρασκήνιο, ένα αυτοκίνητο ή φορτηγό που περνά έξω, ή ακόμα και το ροχαλητό κάποιου άλλου στο δωμάτιο. Για να αντιμετωπιστεί αυτό το πρόβλημα, ένα ανεξάρτητο μέτρο της αναπνοής χρησιμοποιείται συνήθως για να προσδιορίσει το χρόνο του ήχου του ροχαλητού στον κύκλο αναπνοής. Τυπικές συσκευές για τη μέτρηση της αναπνοής είναι τα θερμίστορ και οι μορφοτροπείς 71

72 πίεσης που είναι συνδεμένα με τη ροή του αέρα του ασθενή ή άλλες συσκευές επίσης συνδεδεμένες με τον ασθενή που παρακολουθούν την κυκλοφορία στο στήθος. Οι πιεζοηλεκτρικοί αισθητήρες, που εξετάζουμε στα πλαίσια αυτής της εργασίας, είναι μία συσκευή και μέθοδος για την ανίχνευση και την καταγραφή του ροχαλητού του ασθενούς. Η συσκευή τοποθετείται κάτω από το στρώμα ενός ασθενή σε κατάσταση ύπνου, η οποία παράγει σήματα αντιπροσωπευτικά των υπο-ηχητικων δονήσεων του αεραγωγού του ασθενούς τα οποία είναι παρόντα κατά τη διάρκεια ενός ροχαλητού. Τα σήματα που παράγονται από τον αισθητήρα μπορούν να ενισχύονται από έναν ενισχυτή και υφίστανται επεξεργασία από ένα κύκλωμα επεξεργασίας σήματος. Ο αισθητήρας μπορεί επίσης να δημιουργήσει σήματα αντιπροσωπευτικά του κύκλου αναπνοής του ασθενούς και τη γενική κυκλοφορία του ασθενούς. Το κύκλωμα επεξεργασίας σήματος μπορεί να προσαρμοστεί ώστε να διακρίνει τα σήματα που παράγονται από τον αισθητήρα και στη συνέχεια να εξάγει αυτά τα σήματα για ανάλυση. Η έξοδος μπορεί να χρησιμοποιηθεί για τον προσδιορισμό της παρουσίας του ροχαλητού από τον ασθενή και το μοτίβο του ροχαλητού μπορεί επίσης να χρησιμοποιηθεί για να ανιχνεύσει επεισόδια αποφρακτικής άπνοιας ύπνου. Εικόνα 4.3: Τοποθέτηση πιεζοηλεκτρικού αισθητήρα κάτω από το στρώμα του ασθενούς και καταγραφή των αποτελεσμάτων 72

73 4.2.2 Ακριβής λειτουργία πιεζοηλεκτρικών αισθητήρων στο snoring detection Όπως λοιπόν αναφέρεται στην εισαγωγή, εκτός από το πρωταρχικό σήμα που λαμβάνεται από τον ασθενή και καταγράφεται από τους αισθητήρες, ο ανιχνευτής είναι σε θέση να παράγει ένα δεύτερο ηλεκτρικό σήμα αντιπροσωπευτικό του κύκλου αναπνοής του ασθενούς. Ενώ ο ρυθμός αναπνοής ενός ανθρώπου μπορεί να ποικίλει σημαντικά λόγω παραγόντων όπως η ασθένεια ή άσκηση, η συχνότητα του κύκλου αναπνοής ενός ανθρώπινου ύπνου έγκειται τυπικά στην περιοχή 0<x<=2 Hz. Εάν οι κορυφές στο πρώτο ηλεκτρικό σήμα συμβαίνουν κατά τη διάρκεια της εισπνοής ή εκπνοής, επιβεβαιώνεται ότι το πρώτο ηλεκτρικό σήμα που λαμβάνεται είναι στην πραγματικότητα ενδεικτικό των υπο-ηχητικών δονήσεων που εμποδίζουν τον αεραγωγό κατά τη διάρκεια ενός ροχαλητού. Ο ανιχνευτής πίεσης ή επιτάχυνσης μπορεί να τοποθετηθεί πάνω ή κάτω από το στρώμα του κρεβατιού. Αυτή η διάταξη είναι ιδιαίτερα πλεονεκτική καθώς δεν προκαλείται ενόχληση στον ασθενή με την προσάρτηση των οποιωνδήποτε αισθητήρων. Αυτή η ρύθμιση αποτρέπει επίσης τον υψηλό κίνδυνο της απόσπασης ή αποσύνδεση των αισθητήρων που συνδέονται με τον ασθενή κατά τη διάρκεια των πολλών ωρών του ύπνου. Ο ανιχνευτής θα μπορούσε επίσης να συνδεθεί με το πλαίσιο της κλίνης ή να ενσωματωθεί σε ένα μαξιλάρι, καθώς και, ή αντί πάνω ή κάτω από το στρώμα. Ο ανιχνευτής πίεσης μπορεί να περιλαμβάνει έναν πιεζοηλεκτρικό μετατροπέα. Σε μία προτιμώμενη μορφή, ο ανιχνευτής περιλαμβάνει ένα ή μία πλειάδα από φύλλα πιεζοηλεκτρικού πλαστικού υλικού όπως φθοριούχο polyvinilidene (PVDF) ή ένα ανάλογο ή παράγωγο αυτής της οικογένειας. Ο ανιχνευτής ανιχνεύει τις κινήσεις χαμηλής συχνότητας (π.χ. 0-2 Hertz), οι οποίες μπορούν να υποστούν ψηφιακή επεξεργασία και ενίσχυση για να δώσουν ένα σήμα αντιπροσωπευτικό του κύκλου αναπνοής (εισπνοή και εκπνοή) του ασθενούς. Εάν ο ασθενής ροχαλίζει, ο ανιχνευτής θα ανιχνεύσει επίσης τις έντονες υπο-κυματίζουσες δονήσεις του αεραγωγού ασθενών που είναι η υποκείμενη αιτία του ήχου που αναγνωρίζουμε ως ροχαλητό. 73

74 Τα σήματα αυτά μπορούν, στη συνέχεια, να εμφανίζονται σε πραγματικό χρόνο για να επιτρέψουν σε έναν γιατρό να παρακολουθεί αν το ροχαλητό συμβαίνει και, εάν ναι, να καθοριστεί το μοτίβο και η ένταση του. Τα σήματα μπορούν επίσης να αποθηκεύονται και να υποβάλλονται σε επεξεργασία για μετέπειτα ανάλυση. Σε μία περαιτέρω χρήση των αισθητήρων, η έξοδος από τη συσκευή που περιγράφεται εδώ μπορεί να χρησιμοποιηθεί για να παρέχει ένα σήμα για τον έλεγχο της λειτουργίας μιας συσκευής θετικής πίεσης αεραγωγού, όπως η συσκευή CPAP που χρησιμοποιείται για τη θεραπεία της αποφρακτικής άπνοιας (βλέπε κεφάλαιο 2.4.2). Εικόνα 4.4: Γραφικές παραστάσεις που προκύπτουν από τη χρήση των πιεζοηλεκτρικών αισθητήρων. Η πρώτη δείχνει τον ασθενή όταν δεν ροχαλίζει, η δεύτερη κατά τη διάρκεια ροχαλητού και η τρίτη όταν εισέρχεται σε επεισόδιο άπνοιας. 4.3 Σύνδεση με πειραματικό μέρος Στα πλαίσια αυτής της διπλωματικής εργασίας, θα χρησιμοποιήσουμε τη μέθοδο ICA μέσω του αλγορίθμου FastICA, όπως περιγράφεται παραπάνω, έτσι ώστε να διαχωρίσουμε σήματα τα οποία λαμβάνονται από κάποιον ασθενή, κατά τη διάρκεια του ύπνου. Αυτά τα σήματα θα έχουν ληφθεί με τη βοήθεια πιεζοηλεκτρικών αισθητήρων. 74

75 Αρχικά, θα δοκιμάσουμε τον αλγόριθμο FastICA, ώστε να μελετήσουμε την απόδοση του στο διαχωρισμό διαφορετικών ειδών σημάτων (κεφάλαιο 5). Έτσι, θα λάβουμε αρκετές πληροφορίες για τη συμπεριφορά του αλγορίθμου αλλά και της μεθόδου ICA. Στη συνέχεια, μετά από ένα επαρκή αριθμό παραδειγμάτων, θα προχωρήσουμε στο διαχωρισμό σημάτων που λαμβάνονται από ασθενή κατά τη διάρκεια του ύπνου. Αυτά τα σήματα θα έχουν ληφθεί με πιεζοηλεκτρικούς αισθητήρες με τη μέθοδο που περιγράφεται παραπάνω. Μετά από το διαχωρισμό τους και σύμφωνα με τις πληροφορίες που διαθέτουμε για το ροχαλητό και την νόσο της αποφρακτικής άπνοιας θα εξάγουμε κάποια συμπεράσματα για το αν ο ασθενής, πράγματι, πάσχει από την εν λόγω ασθένεια ή όχι. Η πρωτοποριακή μέθοδος που θα χρησιμοποιήσουμε λειτουργεί επαρκώς ως αρχικό τεστ για τη διάγνωση της αποφρακτικής άπνοιας αλλά χωρίς να χρησιμοποιήσουμε την πολυσωματοκαταγραφική μελέτη ύπνου (Polysomnography) είναι πολύ δύσκολο να διαγνωσθεί με ικανοποιητική ακρίβεια αν ένα άτομο πάσχει από την OSA (βλέπε κεφάλαιο 2.4.1). Η μέθοδος αυτή υπερτερεί της Polysomnography στο ότι είναι εύκολη στη χρήση και πιο εύκολα προσβάσιμη και διαθέσιμη. 75

76 ΚΕΦΑΛΑΙΟ 5 ΕΦΑΡΜΟΓΕΣ FastICA 76

77 Εδώ θα δούμε κάποιες πρακτικές εφαρμογές του αλγορίθμου FastICA, με τυχαία παραδείγματα (υλοποίηση σε MATLAB). Σε κάθε εφαρμογή θα προσπαθήσουμε να δοκιμάσουμε, με διαφορετικό τρόπο κάθε φορά, τον αλγόριθμο και να ελέγξουμε την αποτελεσματικότητα του. Σαν πρώτα παραδείγματα θα διαλέξουμε απλά σήματα και στη συνέχεια διάφορα είδη αρχείων wav και με τη βοήθεια των εντολών της βιβλιοθήκης του αλγορίθμου θα τα αναμίξουμε γραμμικά και ύστερα, θα τα διαχωρίσουμε. Ύστερα, θα προσθέσουμε στα αρχεία θόρυβο έτσι ώστε να δούμε τη συμπεριφορά του αλγορίθμου και σε αυτή την περίπτωση. Στο τέλος θα συγκρίνουμε τα αποτελέσματα μας με τα αρχικά σήματα και από εκεί θα εξάγουμε συμπεράσματα σχετικά με την αποτελεσματικότητα και την αποδοτικότητα του αλγορίθμου. 5.1 Εφαρμογές με τυχαία σήματα ΠΑΡΑΔΕΙΓΜΑ 1: Αρχικά, ως πρώτο παράδειγμα εφαρμογής του αλγορίθμου FastICA, χρησιμοποιούμε ένα τετραγωνικό παλμό και ένα ημίτονο, των οποίων οι γραφικές παραστάσεις και ο κώδικας που χρησιμοποιήσαμε είναι οι εξής: t = 0:0.0005:1; x1 = square (t*2*pi, 51.9); plot (t, x1); 77

78 Figure 5.1: Τετραγωνικός παλμός x2 =sin(2*pi*t*8); plot (t, x2); 78

79 Figure 5.2: Ημίτονο Ύστερα, κάνουμε γραμμική μίξη των 2 σημάτων πολλαπλασιάζοντας τα με τυχαίους αριθμούς. m1=0.2*x1+0.5*x2; m2=0.5*x1+0.2*x2; plot(m1); hold on ; plot(m2,'r') ; hold off mixed = [ m1 ; m2 ] ; Και παίρνουμε την γραφική παράσταση που ακολουθεί: 79

80 Figure 5.3: Mixed signals Και τέλος,χρησιμοποιώντας τον αλγόριθμο FastICA, διαχωρίζουμε τα παραπάνω γραμμικά αναμεμιγμένα σήματα και παίρνουμε τις ακόλουθες γραφικές παραστάσεις: 80

81 Figure 5.4: Separated signals Όπως παρατηρούμε τα διαχωρισμένα, με τη μέθοδο ICA, σήματα είναι παρόμοια με τα αρχικά, με κάποιες μικρές διαφορές, οι οποίες οφείλονται στο θόρυβο. Οπότε στο πρώτο παράδειγμα ο αλγόριθμος αποδείχτηκε αρκετά αποτελεσματικός, αφού ο διαχωρισμός ήταν σχεδόν άψογος. Αυτό, ίσως να οφείλεται και στο γεγονός ότι τα σήματα ήταν σχετικά απλά θέτοντας, έτσι, μια σχετικά εύκολη δοκιμασία στον FastICA. Οι εντολή που χρησιμοποιήθηκε (και τα αποτελέσματα) είναι: [icasig]=fastica(mixed); Number of signals: 2 Number of samples: 2001 Calculating covariance... Dimension not reduced. 81

82 Selected [ 2 ] dimensions. Smallest remaining (non-zero) eigenvalue [ ] Largest remaining (non-zero) eigenvalue [ ] Sum of removed eigenvalues [ 0 ] [ 100 ] of (non-zero) eigenvalues retained. Whitening... Check: covariance differs from identity by [ e-015 ]. Used approach [ defl ]. Used nonlinearity [ pow3 ]. Starting ICA calculation... IC 1...computed ( 7 steps ) IC 2..computed ( 2 steps ) Done. Adding the mean back to the data. Και για να πάρουμε τις γραφικές παραστάσεις των διαχωρισμένων, με τη μέθοδο ICA, σημάτων χρησιμοποιήσαμε την εντολή : icaplot('classic', icasig, 0, 0, 0); Η συγκεκριμένη εντολή μας δίνει τις γραφικές παραστάσεις που προκύπτουν από την χρήση του αλγορίθμου FastICA. Το κάθε σήμα απεικονίζεται στον δικό του άξονα. 82

83 ΠΑΡΑΔΕΙΓΜΑ 2: Στη συνέχεια, έχουμε άλλο ένα παράδειγμα εφαρμογής της μεθόδου ICA, με τη βοήθεια του αλγορίθμου FastICA. Χρησιμοποιούμε για ακόμη μια φορά απλά σήματα για να εξετάσουμε τον αλγόριθμο. Σε αυτό το παράδειγμα, αρχικά θα παράγουμε ένα τριγωνικό παλμό και ένα συνημίτονο. Ακολούθως, παραθέτουμε τις εντολές που χρησιμοποιήσαμε για να παράγουμε τα σήματα όπως και τις γραφικές παραστάσεις τους. A=2; t = 0:0.0005:1; x1 =A*sawtooth(2*pi*5*t, 0.25); plot (t, x1); Figure 5.5: Τριγωνικός παλμός 83

84 Και : x2=cos(2*pi*t*8.0); plot(t,x2); Figure 5.6: Συνημίτονο Ύστερα, θα παραθέσουμε τη γραφική παράσταση της γραμμικής μίξης των 2 παραπάνω σημάτων και φυσικά τις εντολές που χρησιμοποιήθηκαν για ακόμη μια φορά. Η γραμμική μίξη των σημάτων πραγματοποιείται πολλαπλασιάζοντας τα δύο σήματα με τυχαίους αριθμούς. m1=0.3*x1+0.7*x2; m2=0.7*x1+0.3*x2; plot(m1); hold on ; plot(m2,'r') ; hold off; mixed = [ m1 ; m2 ] ; 84

85 Figure 5.7: Γραμμική μίξη των 2 δοσμένων σημάτων Στη συνέχεια, θα χρησιμοποιήσουμε τον αλγόριθμο FastICA για να διαχωρίσουμε το αναμεμιγμένο σήμα στα 2 αρχικά σήματα. Παρατίθεται το αποτέλεσμα της βασικής εντολής δημιουργίας των δυο διαχωρισμένων σημάτων. [icasig]=fastica(mixed); Number of signals: 2 Number of samples: 2001 Calculating covariance... Dimension not reduced. Selected [ 2 ] dimensions. Smallest remaining (non-zero) eigenvalue [ ] Largest remaining (non-zero) eigenvalue [ ] 85

86 Sum of removed eigenvalues [ 0 ] [ 100 ] of (non-zero) eigenvalues retained. Whitening... Check: covariance differs from identity by [ e-015 ]. Used approach [ defl ]. Used nonlinearity [ pow3 ]. Starting ICA calculation... IC 1...computed ( 4 steps ) IC 2..computed ( 2 steps ) Done. Adding the mean back to the data. Κατόπιν, χρησιμοποιώντας την ίδια εντολή με το προηγούμενο παράδειγμα θα λάβουμε τις γραφικές παραστάσεις των 2 διαχωρισμένων πια σημάτων: icaplot('classic', icasig, 0, 0, 0); 86

87 Figure 5.8: Διαχωρισμένα σήματα Παρατηρούμε πως τα διαχωρισμένα σήματα και ιδιαίτερα το σήμα του συνημίτονου είναι ελαφρώς παραμορφωμένα σε σχέση με τα αρχικά. Αυτό οφείλεται στον αναπόφευκτο θόρυβο καθώς επίσης και στο ότι οι λύσεις μπορούν να επηρεαστούν από τις παραμέτρους του αλγορίθμου, όπως για παράδειγμα, από τις αρχικές συνθήκες. 5.2 Εφαρμογή με ηχητικά σήματα ΠΑΡΑΔΕΙΓΜΑ 3: Σε αυτό το παράδειγμα, θα αλλάξουμε τον τρόπο προσέγγισης της μεθόδου ICA. Έτσι, ενώ στα προηγούμενα παραδείγματα χρησιμοποιούσαμε διαφόρων ειδών παλμούς και ημιτονικά και συνημιτονικά σήματα εδώ θα επιχειρήσουμε, να διαχωρίσουμε σήματα ήχου με τη βοήθεια του αλγορίθμου FastICA. 87

88 Αρχικά, για την εφαρμογή του αλγορίθμου θα χρησιμοποιήσουμε ένα wav αρχείο φωνής και ένα wav αρχείο μουσικής. Διαβάζουμε το αρχείο φωνής με την εξής εντολή: [x1,e,v]= wavread ( 'source2.wav' ); (1) Με αυτή την εντολή παίρνουμε και το sample rate (FS) σε Hertz, όπως επίσης και το νούμερο των bit/sample (NBITS). Στο συγκεκριμένο παράδειγμα η matlab μας δίνει e=8000 και v=8. Αυτές τις πληροφορίες θα τις χρησιμοποιήσουμε αργότερα στο πείραμά μας. Και η γραφική παράσταση θα είναι: plot(x1); x

89 Figure 5.9: Wav αρχείο φωνής (απόσπασμα από δελτίο ειδήσεων του CNN) Διαβάζουμε και το αρχείο μουσικής με την ίδια εντολή: [x2,n,m] = wavread ( 'source5.wav' ); (2) Όπως και προηγουμένως λαμβάνουμε και τις παρακάτω χρήσιμες πληροφορίες: n=8000 και m=8. Η δεύτερη γραφική παράσταση: plot(x2); x 10 4 Figure 5.10: Wav αρχείο μουσικής (τα πρώτα μέτρα από το Brandenburger concerto no. 6, Allegro του Johann Sebastian Bach) 89

90 Ακολουθεί μίξη των δυο προαναφερθέντων αρχείων μέσω του πολλαπλασιασμού τους με τον ακόλουθο πίνακα Α: x1= x1/max(abs(x1)); x2= x2/max(abs(x2)); x=[x1'; x2';]; A=[ ; ;]; mixed=a*x; Σε αυτό το παράδειγμα η επιλογή του πίνακα Α γίνεται έτσι ώστε τα δυο σήματα να αναμιγνύονται ελαφρώς. Επίσης οι εντολές x1= x1/max(abs(x1)); x2= x2/max(abs(x2)); χρησιμοποιούνται για να περιορίσουμε τις γραφικές παραστάσεις στο διάστημα -1<y<1. Στη συνέχεια θα διαχωρίσουμε τα δυο wav αρχεία με τη βοήθεια του αλγορίθμου FastICA και θα δούμε τις γραφικές παραστάσεις των διαχωρισμένων σημάτων καθώς και τα αποτελέσματα του αλγορίθμου. [icasig]=fastica(mixed, 'numofic', 2); Number of signals: 2 Number of samples: Calculating covariance... Dimension not reduced. Selected [ 2 ] dimensions. Smallest remaining (non-zero) eigenvalue [ ] 90

91 Largest remaining (non-zero) eigenvalue [ ] Sum of removed eigenvalues [ 0 ] [ 100 ] of (non-zero) eigenvalues retained. Whitening... Check: covariance differs from identity by [ e-015 ]. Used approach [ defl ]. Used nonlinearity [ pow3 ]. Starting ICA calculation... IC 1...computed ( 9 steps ) IC 2..computed ( 2 steps ) Done. Adding the mean back to the data. Οι παρακάτω γραφικές παραστάσεις δημιουργήθηκαν, όπως και προηγουμένως, με χρήση της εντολής icaplot('classic', icasig, 0, 0, 0); x x

92 Figure 5.11: Γραφικές παραστάσεις που προκύπτουν από το διαχωρισμό Όπως παρατηρούμε, για ακόμη μια φορά, τα σήματα που προέκυψαν από το διαχωρισμό είναι σχεδόν πανομοιότυπα με τα αρχικά, και θα επισημάνουμε ξανά, πως οι μικρές διαφορές που παρατηρούμε οφείλονται στην επίδραση του θορύβου. Αυτό ήταν αναμενόμενο αφού η επιλογή του πίνακα Α έγινε έτσι ώστε τα δυο σήματα να μην αναμιχθούν πλήρως, αλλά σε μικρό ποσοστό, και έτσι ο διαχωρισμός ήταν ευκολότερος για τον αλγόριθμο FastICA. Κατόπιν, για να βεβαιωθούμε για την επιτυχία της εφαρμογής τους αλγορίθμου FastICA, στο συγκεκριμένο παράδειγμα, θα δημιουργήσουμε δυο νέα αρχεία wav με τη βοήθεια της εντολής wavwrite. Εδώ θα δούμε και την χρήση των πληροφοριών που λάβαμε από τις εντολές (1),(2) διότι σύμφωνα με τη δόμηση της εντολής WAVWRITE(Y,FS,NBITS,WAVEFILE) πρέπει να δώσουμε το sample rate αλλά και τα Νbits/δείγμα των αρχείων που χρησιμοποιούμε και τα οποία τα λαμβάνουμε από τις συγκεκριμένες εντολές. y1=icasig(1, : ); y2=icasig(2, : ); y1 = y1./max(abs(y1(:)))*(1-(2^-(8-1))); αποφυγή warning: data clipped y2 = y2./max(abs(y2(:)))*(1-(2^-(8-1))); αποφυγή warning: data clipped sound(y1,e) ; για να ακούσουμε το σήμα pause sound(y2,e) ; για να ακούσουμε το σήμα pause wavwrite(y1,e,v, 'file1'); wavwrite(y2,e,v, 'file2'); 92

93 ΠΑΡΑΔΕΙΓΜΑ 4: Στη συνέχεια των πειραμάτων μας θα δοκιμάσουμε να κάνουμε μίξη των δυο σημάτων με ένας διαφορετικό πίνακα από τον προηγούμενο. Ενώ στο προηγούμενο παράδειγμα χρησιμοποιήσαμε το πίνακα Α ο οποίος έκανε ελαφριά μίξη των δυο σημάτων, τώρα θα επιχειρήσουμε να αναμίξουμε τα δύο αρχεία λαμβάνοντας το ίδιο ποσοστό από το καθένα. Θα χρησιμοποιήσουμε τα ίδια αρχεία φωνής και μουσικής του παραδείγματος 3. Έτσι αφού τα έχουμε διαβάσει ήδη, όπως στο προηγούμενο παράδειγμα θα προχωρήσουμε απευθείας στη μίξη των 2 αρχείων με τη βοήθεια του πίνακα Β. Οι εντολές που χρησιμοποιούμε είναι οι εξής: x1= x1/max(abs(x1)); x2= x2/max(abs(x2)); x=[x1'; x2';]; B=[ ; ;]; mixed=b*x; Αφού γίνεται η μίξη, βάζουμε σε εφαρμογή τον αλγόριθμο FastICA, έτσι ώστε να διαχωρίσουμε τα σήματα και να ελέγξουμε για ακόμη μία φορά την αποτελεσματικότητα του. [icasig]=fastica(mixed, 'numofic', 2); Number of signals: 2 Number of samples: Calculating covariance... Dimension not reduced. Selected [ 2 ] dimensions. Smallest remaining (non-zero) eigenvalue [ ] Largest remaining (non-zero) eigenvalue [ ] Sum of removed eigenvalues [ 0 ] 93

94 [ 100 ] of (non-zero) eigenvalues retained. Whitening... Check: covariance differs from identity by [ e-013 ]. Used approach [ defl ]. Used nonlinearity [ pow3 ]. Starting ICA calculation... IC 1...computed ( 6 steps ) IC 2..computed ( 2 steps ) Done. Adding the mean back to the data. Και συνεχίζοντας χρησιμοποιούμε τη γνωστή εντολή της βιβλιοθήκης της FastICA ώστε να λάβουμε τις γραφικές παραστάσεις των διαχωρισμένων σημάτων και μέσω αυτών να βγάλουμε τα συμπεράσματά μας. icaplot('classic', icasig, 0, 0, 0); Και οι γραφικές παραστάσεις που προκύπτουν: x x 10 4 Figure 5.12: Γραφικές παραστάσεις που προκύπτουν από το διαχωρισμό 94

95 Παρατηρούμε κάποιες μικρές διαφορές και σε σχέση με τα αρχικά αρχεία που χρησιμοποιήσαμε αλλά και σε σχέση με τις γραφικές που προέκυψαν από τον προηγούμενο διαχωρισμό. Αυτό οφείλεται στο ότι ενώ στο προηγούμενο παράδειγμα η μίξη έγινε χρησιμοποιώντας ένα μικρό ποσοστό από το ένα αρχείο και ένα μεγάλο ποσοστό από το άλλο, σε αυτό το παράδειγμα τα ποσοστά ήταν σχεδόν ίδια οπότε ο αλγόριθμος δυσκολεύτηκε να κάνει τον διαχωρισμό. Ύστερα για να παρατηρήσουμε και με άλλο τρόπο την κατάσταση των δυο διαχωρισμένων αρχείων θα τα εγγράψουμε σε δυο καινούρια αρχεία wav με τη βοήθεια των παρακάτω εντολών: y1=icasig(1, : ); y2=icasig(2, : ); y1 = y1./max(abs(y1(:)))*(1-(2^-(8-1))); αποφυγή warning: data clipped y2 = y2./max(abs(y2(:)))*(1-(2^-(8-1))); αποφυγή warning: data clipped wavwrite(y1,e,v,'file3'); wavwrite(y2,e,v,'file4'); Τα αρχεία που προκύπτουν είναι μεν διαχωρισμένα αλλά διακρίνεται ένα μικρό ποσοστό θορύβου, λίγο μεγαλύτερο από το προηγούμενο παράδειγμα, γεγονός που οφείλεται στη διαφορά του πίνακα Β από τον πίνακα Α που χρησιμοποιήθηκε στο προηγούμενο παράδειγμα. 95

96 ΠΑΡΑΔΕΙΓΜΑ 5: Σε αυτή την εφαρμογή του αλγορίθμου θα χρησιμοποιήσουμε, ξανά, αρχεία wav. H διάφορα με τις προηγούμενες θα είναι ότι αυτή τη φορά θα αναμίξουμε δυο σήματα φωνής, έτσι ώστε να ελέγξουμε καλύτερα την αποδοτικότητα του αλγορίθμου. Ο αλγόριθμος FastICA, λοιπόν, θα κληθεί να διαχωρίσει δυο αρχεία τα οποία είναι παρόμοια και όχι τόσο διαφορετικά όσο τα προηγούμενα. Καταρχήν, το ένα αρχείο που θα χρησιμοποιηθεί θα είναι το ίδιο με τα δυο προηγούμενα παραδείγματα. Αυτό θα είναι το «source 2» το οποίο ήταν ένα απόσπασμα ειδήσεων του CNN. Το δεύτερο αρχείο της εφαρμογής θα είναι ένα ακόμη απόσπασμα ειδήσεων του CNN. Οπότε διαβάζουμε και το δεύτερο αρχείο με την βοήθεια της Matlab και παράγουμε τη γραφική του παράσταση ως εξής: [x3,k,l] = wavread('source4.wav'); (1) plot(x3); x 10 4 Figure 5.13: Απόσπασμα ειδήσεων του CNN 96

97 Επίσης από την εντολή k=8000 (1) λαμβάνουμε το sample rate του αρχείου, το οποίο είναι και τα Νbits\ δείγμα l=8. Στο επόμενο βήμα της εφαρμογής θα προχωρήσουμε στη γραμμική μίξη των δυο προαναφερθέντων αρχείων με τη βοήθεια του παρακάτω πίνακα C. Η υλοποίηση γίνεται με τον παρακάτω τρόπο: x1 = x1/max(abs(x1)); x3 = x3/max(abs(x3)); x=[x1'; x3';]; C= [ ; ]; mixed=c*x; Ο πίνακας C επιλέχθηκε έτσι ώστε να αναμιγνύει τα δυο σήματα με ένα ικανοποιητικό ποσοστό από το καθένα. Ύστερα από τη διαδικασία μίξης περνάμε στη διαδικασία διαχωρισμού. Βλέπουμε λοιπόν τα αποτελέσματα της εντολής της FastICA, η οποία διαχωρίζει τα δύο αναμεμιγμένα αρχεία: [icasig]=fastica(mixed, 'numofic', 2); Number of signals: 2 Number of samples: Calculating covariance... Dimension not reduced. Selected [ 2 ] dimensions. Smallest remaining (non-zero) eigenvalue [ ] Largest remaining (non-zero) eigenvalue [ ] Sum of removed eigenvalues [ 0 ] 97

98 [ 100 ] of (non-zero) eigenvalues retained. Whitening... Check: covariance differs from identity by [ e-015 ]. Used approach [ defl ]. Used nonlinearity [ pow3 ]. Starting ICA calculation... IC 1...computed ( 6 steps ) IC 2..computed ( 2 steps ) Done. Adding the mean back to the data. Μετά από αυτή τη διαδικασία παράγουμε τις γραφικές παραστάσεις των διαχωρισμένων αρχείων για να τα συγκρίνουμε με τα αρχικά: icaplot('classic', icasig, 0, 0, 0); x x 10 4 Figure 5.14: Σήματα που προκύπτουν από το διαχωρισμό 98

99 Παρατηρώντας τα παραγόμενα σήματα, βλέπουμε αρκετές διαφορές σε σχέση με τις γραφικές παραστάσεις των δοσμένων αρχείων. Αυτό οφείλεται στο ότι τα αρχεία wav που χρησιμοποιήσαμε σε αυτή την περίπτωση ήταν παρόμοια μεταξύ τους και αυτό είχε σαν αποτέλεσμα ο αλγόριθμος να δυσκολευτεί να τα διαχωρίσει. Αυτό σημαίνει ότι σε αυτή την περίπτωση δεν απέδωσε όπως και στις προηγούμενες. Ο παράγοντας του θορύβου ισχύει για όλες τις περιπτώσεις οπότε, εδώ, δεν τον λαμβάνουμε υπ όψιν. Ακόμη ο πίνακας C επιλέχθηκε έτσι ώστε να είναι ουδέτερος, δηλαδή να μην αναμιγνύει ούτε σε μεγάλο αλλά ούτε και σε μικρό ποσοστό τα δυο σήματα. Τέλος, για επαλήθευση των όσων είδαμε μέχρι τώρα εγγράφουμε τα δύο νέα σήματα σε αρχεία wav με τον ακόλουθο τρόπο(χρησιμοποιώντας για κόμη μια φορά τις πληροφορίες που λαμβάνουμε από την εντολή (1)): y1=icasig(1,:); y2=icasig(2,:); y1 = y1./max(abs(y1(:)))*(1-(2^-(8-1))); y2 = y2./max(abs(y2(:)))*(1-(2^-(8-1))); αποφυγή warning: data clipped αποφυγή warning: data clipped sound(y1,e) ; για να ακούσουμε τα αρχεία pause sound(y2,e) ; για να ακούσουμε τα αρχεία pause wavwrite(y1,e,v,'file4'); wavwrite(y2,e,v,'file5'); 99

100 ΠΑΡΑΔΕΙΓΜΑ 6: Στο επόμενο παράδειγμα εφαρμογής του αλγορίθμου θα χρησιμοποιήσουμε τα αρχεία «sound 2» και «sound 4» του προηγούμενου παραδείγματος. Όπως αναφέραμε αυτά τα αρχεία είναι του ίδιου είδους, δηλαδή είναι και τα δύο αρχεία φωνής (αποσπάσματα ειδήσεων από το BBC). Η διαφορά στο συγκεκριμένο παράδειγμα θα είναι το ότι θα αναμίξουμε τα 2 αρχεία με σχεδόν το ίδιο ποσοστό από το καθένα έτσι ώστε να παρατηρήσουμε τη συμπεριφορά του FastICA σε αυτή την περίπτωση. Το διάβασμα των αρχείων από τη Matlab γίνεται όπως και στο προηγούμενο παράδειγμα και οι γραφικές τους παραστάσεις έχουν ήδη δοθεί. Συνεχίζουμε με τη μίξη των δύο αρχείων με τον ακόλουθο πίνακα D: x1 = x1/max(abs(x1)); x3 = x3/max(abs(x3)); x=[x1'; x3']; D= [ ; ]; mixed=d*x; Όπως βλέπουμε ο πίνακας D μας δίνει τη δυνατότητα να κάνουμε τη μίξη χρησιμοποιώντας ίδια μέρη και από τα δύο αρχεία. Ύστερα, προχωρούμε στο διαχωρισμό των σημάτων με τη βοήθεια της εντολής της FastICA που χρησιμοποιούμε και στα προηγούμενα παραδείγματα. 100

101 [icasig]=fastica(mixed, 'numofic', 2); Number of signals: 2 Number of samples: Calculating covariance... Dimension not reduced. Selected [ 2 ] dimensions. Smallest remaining (non-zero) eigenvalue [ ] Largest remaining (non-zero) eigenvalue [ ] Sum of removed eigenvalues [ 0 ] [ 100 ] of (non-zero) eigenvalues retained. Whitening... Check: covariance differs from identity by [ e-013 ]. Used approach [ defl ]. Used nonlinearity [ pow3 ]. Starting ICA calculation... IC 1...computed ( 6 steps ) IC 2..computed ( 2 steps ) Done. Adding the mean back to the data. Αφότου γίνει ο διαχωρισμός παράγουμε τις γραφικές παραστάσεις των νέων, διαχωρισμένων πια, σημάτων ως εξής: icaplot('classic', icasig, 0, 0, 0); Και τα αποτελέσματα: 101

102 x x 10 4 Figure 5.15: Σήματα που προκύπτουν από το διαχωρισμό Παρατηρώντας τα σήματα που προκύπτουν βλέπουμε ότι έχουν μεγάλες διαφορές από τα δοσμένα σήματα. Αυτό σημαίνει ότι η απόδοση του αλγορίθμου σε αυτή την περίπτωση δεν είναι τόσο ικανοποιητική. Με άλλα λόγια, ο αλγόριθμος σε αυτή την περίπτωση δυσκολεύτηκε να διαχωρίσει τα σήματα λόγω του ότι ήταν παρόμοια αλλά και του ότι αναμίχθηκαν σε ίδιο ποσοστό. Για να παρατηρήσουμε καλύτερα αυτά τα συμπεράσματα θα εγγράψουμε τα νέα σήματα σε δύο αρχεία wav με τον ακόλουθο τρόπο: y1=icasig(1,:); y2=icasig(2,:); y1 = y1./max(abs(y1(:)))*(1-(2^-(8-1))); y2 = y2./max(abs(y2(:)))*(1-(2^-(8-1))); αποφυγή warning: data clipped αποφυγή warning: data clipped sound(y1,e) ; για να ακούσουμε τα αρχεία pause 102

103 sound(y2,e) ; για να ακούσουμε τα αρχεία pause wavwrite(y1,e,v,'file1'); wavwrite(y2,e,v,'file2'); Αν ακούσουμε τα αρχεία που προκύπτουν από τον παραπάνω κώδικα θα διαπιστώσουμε ότι εμπεριέχουν μεγάλο ποσοστό θορύβου, πολύ μεγαλύτερο σε σχέση με τα προηγούμενα δυο παραδείγματα. Αυτό είναι ένα ακόμα δείγμα του ότι η απόδοση του αλγορίθμου σε αυτές τις περιπτώσεις χρήζει βελτίωσης. ΠΑΡΑΔΕΙΓΜΑ 7: Σε αυτό το παράδειγμα τα αρχικά σήματα, για άλλη μια φορά, θα είναι τα σήματα που χρησιμοποιήθηκαν και στα δυο προηγούμενα παραδείγματα («sound 2» και «sound 4»). Αυτό που αλλάζει είναι το ότι σε αυτό το παράδειγμα θα προσθέσουμε τον παράγοντα του θορύβου κατά τη μίξη των σημάτων και θα παρατηρήσουμε την αποτελεσματικότητα του αλγορίθμου FastICA και σε αυτή την περίπτωση. Έχοντας διαβάσει τα δυο wav αρχεία όπως και στα προηγούμενα παραδείγματα προχωρούμε στη μίξη των δύο σημάτων αφού προσθέσουμε το θόρυβο. Ο κώδικας που τα επιτυγχάνει όλα αυτά είναι ο εξής: x1 = x1/max(abs(x1)); x3 = x3/max(abs(x3)); x=[x1'; x3']; STD=sqrt(0.005); z=x+std*randn(size(0.1)); πρόσθεση θορύβου 103

104 E= [ ; ]; mixed= E*x; Το ποσοστό θορύβου που προσθέτουμε είναι σχετικά μικρό. Μετά διαχωρίζουμε τα δύο αρχεία με το γνωστό τρόπο: [icasig]=fastica(mixed, 'numofic', 2); Number of signals: 2 Number of samples: Calculating covariance... Dimension not reduced. Selected [ 2 ] dimensions. Smallest remaining (non-zero) eigenvalue [ ] Largest remaining (non-zero) eigenvalue [ ] Sum of removed eigenvalues [ 0 ] [ 100 ] of (non-zero) eigenvalues retained. Whitening... Check: covariance differs from identity by [ e-014 ]. Used approach [ defl ]. Used nonlinearity [ pow3 ]. Starting ICA calculation... IC 1...computed ( 7 steps ) IC 2..computed ( 2 steps ) Done. Adding the mean back to the data. 104

105 Ύστερα παράγουμε τις γραφικές παραστάσεις των δύο, παραχθέντων από το διαχωρισμό, σημάτων: x x 10 4 Figure 5.16: Σήματα που προκύπτουν από το διαχωρισμό Σε αυτές τις γραφικές παραστάσεις παρατηρούμε ότι, σε σύγκριση με τις αρχικές έχουν διαφορές. Τη μεγαλύτερη διαφορά την παρατηρούμε στο δεύτερο σήμα, η γραφική παράσταση του οποίου έχει μεγάλες διαφορές σε σχέση με την αρχική. Στη συνέχεια και για να βγάλουμε τα τελικά συμπεράσματα εγγράφουμε τα σήματα σε δύο νέα αρχεία wav. Εδώ βλέπουμε τον κώδικα: y1=icasig(1,:); y2=icasig(2,:); y1 = y1./max(abs(y1(:)))*(1-(2^-(8-1))); y2 = y2./max(abs(y2(:)))*(1-(2^-(8-1))); αποφυγή warning: data clipped αποφυγή warning: data clipped wavwrite(y1,e,v,'file1'); 105

106 wavwrite(y2,e,v,'file2'); Όταν ακούσουμε τα παραγόμενα αρχεία βλέπουμε ότι δεν έχουν διαχωριστεί σωστά. Και στα δύο ακούγεται λευκός θόρυβος αλλά και ίχνη θορύβου από το άλλο σήμα με το οποίο έγινε η μίξη. Αυτό μας δείχνει ότι μια ακόμη αδυναμία του FastICA είναι ότι δεν μπορεί να λειτουργήσει κανονικά όταν τα σήματα εμπεριέχουν θόρυβο και η αποδοτικότητα του πέφτει κατά ένα μεγάλο ποσοστό. Και να σημειώσουμε ότι το ποσοστό θορύβου που χρησιμοποιήθηκε είναι μικρό. Γι αυτό το λόγο συνεχίζουμε το παράδειγμα προσθέτοντας ένα λίγο μεγαλύτερο ποσοστό θορύβου. x1 = x1/max(abs(x1)); x3 = x3/max(abs(x3)); x=[x1'; x3']; STD=sqrt(0.005); z=x+std*randn(size(0.3)); πρόσθεση θορύβου E= [ ; ]; mixed= E*x; Στη συνέχεια προχωρούμε για ακόμη μια φορά στο διαχωρισμό των σημάτων: [icasig]=fastica(mixed, 'numofic', 2); Number of signals: 2 Number of samples: Calculating covariance... Dimension not reduced. Selected [ 2 ] dimensions. 106

107 Smallest remaining (non-zero) eigenvalue [ ] Largest remaining (non-zero) eigenvalue [ ] Sum of removed eigenvalues [ 0 ] [ 100 ] of (non-zero) eigenvalues retained. Whitening... Check: covariance differs from identity by [ e-014 ]. Used approach [ defl ]. Used nonlinearity [ pow3 ]. Starting ICA calculation... IC 1..computed ( 2 steps ) IC 2..computed ( 2 steps ) Done. Adding the mean back to the data. Και παίρνουμε τις γραφικές παραστάσεις: 107

108 x x 10 4 Figure 5.17: Σήματα που προκύπτουν από το διαχωρισμό Σε αυτή την περίπτωση παρατηρούμε ακόμη μεγαλύτερες διαφορές στις γραφικές παραστάσεις, σε σχέση με αυτές των αρχικών αρχείων. Οι διαφορές παρατηρούνται αυτή τη φορά και στις δύο περιπτώσεις. Για καλύτερη παρατήρηση ξαναεγγράφουμε τα δύο σήματα σε αρχεία wav. y1=icasig(1,:); y2=icasig(2,:); y1 = y1./max(abs(y1(:)))*(1-(2^-(8-1))); y2 = y2./max(abs(y2(:)))*(1-(2^-(8-1))); αποφυγή warning: data clipped αποφυγή warning: data clipped wavwrite(y1,e,v,'file1'); wavwrite(y2,e,v,'file2'); 108

109 Μετά την εγγραφή των αρχείων βλέπουμε ότι σε αυτή την περίπτωση ο λευκός θόρυβος που παρέμεινε και στα δύο αρχεία είναι πολύ περισσότερος από την προηγούμενη φορά αλλά ο θόρυβος που προέρχεται από το άλλο αρχείο στο καθένα είναι σχεδόν ίδιος. Αλλά καλύτερα συμπεράσματα θα βγάλουμε από την τρίτη περίπτωση στην οποία θα προσθέσουμε ένα ακόμα μεγαλύτερο ποσοστό θορύβου. Αυτό γίνεται με τον ακόλουθο τρόπο: x1 = x1/max(abs(x1)); x3 = x3/max(abs(x3)); x=[x1'; x3']; STD=sqrt(0.005); z=x+std*randn(size(0.5)); πρόσθεση θορύβου E= [ ; ]; mixed= E*x; Και φυσικά ο διαχωρισμός: [icasig]=fastica(mixed, 'numofic', 2); Number of signals: 2 Number of samples: Calculating covariance... Dimension not reduced. Selected [ 2 ] dimensions. Smallest remaining (non-zero) eigenvalue [ ] Largest remaining (non-zero) eigenvalue [ ] Sum of removed eigenvalues [ 0 ] [ 100 ] of (non-zero) eigenvalues retained. Whitening

110 Check: covariance differs from identity by [ e-014 ]. Used approach [ defl ]. Used nonlinearity [ pow3 ]. Starting ICA calculation... IC 1..computed ( 2 steps ) IC 2..computed ( 2 steps ) Done. Adding the mean back to the data. Ύστερα παράγουμε και σε αυτή την περίπτωση τη γραφική παράσταση των δύο σημάτων: x x 10 4 Figure 5.18: Σήματα που προκύπτουν από το διαχωρισμό Αυτό που μπορούμε να παρατηρήσουμε είναι ότι οι γραφικές παραστάσεις πλησιάζουν τις προηγούμενες αυτού του παραδείγματος αλλά απέχουν ιδιαίτερα από τις αρχικές των 110

111 σημάτων πριν τη διαδικασία της μίξης. Και για να εκθέσουμε με καλύτερο τρόπο τα συμπεράσματα μας εγγράφουμε τα νέα αρχεία: y1=icasig(1,:); y2=icasig(2,:); y1 = y1./max(abs(y1(:)))*(1-(2^-(8-1))); y2 = y2./max(abs(y2(:)))*(1-(2^-(8-1))); αποφυγή warning: data clipped αποφυγή warning: data clipped wavwrite(y1,e,v,'file1'); wavwrite(y2,e,v,'file2'); Μετά την ολοκλήρωση της διαδικασίας παρατηρούμε ότι στα τελευταία παραγόμενα σήματα το ποσοστό του λευκού θορύβου είναι μεγαλύτερο όπως επίσης και το ποσοστό του ενός σήματος μέσα στο άλλο. Σε αυτό το τελευταίο παράδειγμα η αποδοτικότητα του αλγορίθμου είναι πολύ μειωμένη. Όλα αυτά τα παραδείγματα οδηγούν στο συμπέρασμα του ότι ο αλγόριθμος λειτουργεί ικανοποιητικά και με μεγάλο ποσοστό επιτυχίας όταν τα εμπλεκόμενα σήματα δεν περιέχουν θόρυβο είτε αυτός προέρχεται από το περιβάλλον είτε είναι λευκός θόρυβος. Επίσης ο FastICA συναντά ιδιαίτερη δυσκολία στο να διαχωρίσει παρόμοια σήματα. Δηλαδή αν αυτά τα σήματα μοιάζουν ιδιαίτερα ο διαχωρισμός δεν είναι ιδιαίτερα σωστός. Αντιθέτως, όταν χρησιμοποιούμε σήματα που δεν είναι παρόμοια ή τα αναμιγνύουμε σε μικρό ποσοστό από το καθένα ο αλγόριθμος λειτουργεί σχεδόν τέλεια. Όλα αυτά τα συμπεράσματα θα τα παρατηρήσουμε και στο επόμενο κεφάλαιο στο οποίο θα διαχωρίσουμε πραγματικά σήματα ροχαλητού. 111

112 ΚΕΦΑΛΑΙΟ 6 ΠΕΙΡΑΜΑΤΙΚΗ ΥΛΟΠΟΙΗΣΗ 112