ΑΛΓΟΡΙΘΜΟΙ ΣΥΝΘΕΣΗΣ ΑΠΟΦΑΣΕΩΝ. Μεταπτυχιακή Διπλωματική Εργασία. Ζήσης Π. Παπαδόπουλος

Transcript

1 ΑΛΓΟΡΙΘΜΟΙ ΣΥΝΘΕΣΗΣ ΑΠΟΦΑΣΕΩΝ Μεταπτυχιακή Διπλωματική Εργασία Ζήσης Π. Παπαδόπουλος Σεπτέμβριος 2016

2 Πανεπιστήμιο Πατρών, Τμήμα Φυσικής Ζήσης Π. Παπαδόπουλος 2016 Με την επιφύλαξη παντός δικαιώματος 1

3 ΠΑΝΕΠΙΣΤΗΜΙΟ ΠΑΤΡΩΝ ΤΜΗΜΑ ΦΥΣΙΚΗΣ ΤΟΜΕΑΣ ΗΛΕΚΤΡΟΝΙΚΗΣ, ΥΠΟΛΟΓΙΣΤΩΝ ΚΑΙ ΕΠΕΞΕΡΓΑΣΙΑΣ ΣΗΜΑΤΟΣ Διατμηματικό Πρόγραμμα Μεταπτυχιακών Σπουδών «Ηλεκτρονική και Επεξεργασία της Πληροφορίας» ΜΕΤΑΠΤΥΧΙΑΚΗ ΔΙΠΛΩΜΑΤΙΚΗ ΕΡΓΑΣΙΑ «ΑΛΓΟΡΙΘΜΟΙ ΣΥΝΘΕΣΗΣ ΑΠΟΦΑΣΕΩΝ» DECISION FUSION ALGORITHMS Ζήσης Π. Παπαδόπουλος Αριθμός Μητρώου: Σεπτέμβριος 2016, Πάτρα 2

4 3

5 Περίληψη Σε έναν σύγχρονο κόσμο, όπου τα πάντα αναπαριστώνται μέσω της πληροφρορίας, έχουμε την ανάγκη να βελτιώσουμε την πληροφορία με την οποία περιγράφουμε ένα αντικείμενο ή φαινόμενο. Η βελτίωσή της μπορεί να επιτευχθεί συνδυάζοντας ένα πλήθος δεδομένων σε ένα ενιαίο. Η διαδικασία αυτή ονομάζεται «Σύνθεση της Πληροφορίας». Όταν δεν εργαζόμαστε με δεδομένα αλλά με αποφάσεις που έχουν παρθεί και αφορούν διάφορα σετ δεδομένων τότε μιλάμε για «Σύνθεση Αποφάσεων» και, εάν οι αποφάσεις προέρχονται από αισθητήρες που παρατηρούν το αντικείμενο ή το φαινόμενο τότε μιλάμε για «Σύνθεση Αποφάσεων από Αισθητήρες». Αυτό είναι το αντικείμενο μελέτης της παρούσας εργασίας. Στα πρώτα κεφάλαια θα παρουσιάσουμε αναλυτικά τις μεθόδους Σύνθεσης Πληροφορίας σε επίπεδο πρωταρχικών δεδομένων και στην συνέχεια θα αναλύσουμε τις μεθόδους λήψης αποφάσεων. Έτσι, θα είμαστε σε θέση να μιλήσουμε για τις τοπολογίες Σύνθεσης Δεδομένων από Αισθητήρες. Στις ενότητες που θα ακολουθήσουν θα παρουσιάσουμε τον Αλγόριθμο Παράλληλης Σύνθεσης Αποφάσεων και θα τον υλοποιήσουμε προκειμένου να τον επαληθεύσουμε και να τον αξιολογήσουμε σε δύο γλώσσες προγραμματισμού, Matlab και Python. Ο επόμενος αλγόριθμος που θα παρουσιάσουμε είναι για Παράλληλη Σύνθεση Αποφάσεων χρησιμοποιώντας αισθητήρες που μπορούν να αποστείλουν πληροφορία «Σιγουριάς» στο κέντρο Σύνθεσης. Θα υλοποιήσουμε τον αλγόριθμο σε Matlab και σε Python και θα τον αξιολογήσουμε. Σε κάθε περίπτωση, παραθέτουμε τα αποτελέσματα και τα συμπεράσματα. Ολοκληρώνοντας την εργασία, θα παρουσιάσουμε τον αλγόριθμο Σύνθεσης Συσχετισμένων Αποφάσεων. Στις τελευταίες ενότητες της εργασίας παραθέτουμε το λογισμικό που υλοποιήσαμε, σε Python και σε Matlab, ενώ στο τέλος, ο αναγνώστης θα βρει μια εκτεταμένη λίστα βιβλιογραφικών πηγών. 4

6 5

7 Abstract In a modern world, where everything is represented by information, we are often in the need of improving the information by which we represent an object or a phenomenon. We can improve this information by combining or fusing multiple data into one. This process is called Data Fusion or Information Fusion. When we are not using data but decisions that have been taken on multiple data sets, we have a process called Decision Fusion and, if this data was collected using sensors which observe the object, we call the process Sensor Decision Fusion. This process is studied in this work. In the first chapters, we extensively present the Data Fusion methods in Raw Data level and then we analyze the Decision-Making methods. After these chapters, we will be able to present sensor topologies for Sensor Fusion. In the following chapters, we present the Parallel Decision Fusion Algorithm and we code it in order to evaluate it using two languages, Matlab and Python. The next algorithm we present is the Parallel Decision Fusion Algorithm using sensors which sent Quality Information at the Fusion Center. Again, we built the algorithm using Matlab and Python and we evaluate it. In both cases, we present the results and corresponding outcomes. The final algorithm we present, is the Correlated Decision Fusion Algorithm. In the final chapters, we quote the software we built for both methods and for both cases. At the, the reader may find a complete and extensive list of references and sources. 6

8 7

9 Ευχαριστίες Η παρούσα μεταπτυχιακή διπλωματική εργασία πραγματοποιήθηκε στα πλαίσια του Διατμηματικού Προγράμματος Μεταπτυχιακών Σπουδών «Ηλεκτρονική και Επεξεργασία της Πληροφορίας» του Πανεπιστημίου Πατρών υπό την επίβλεψη του Καθηγητού του τμήματος Φυσικής κυρίου Βασιλείου Αναστασόπουλου. Μια εργασία αυτού του επιπέδου δεν θα μπορούσε παρά να κρύβει παγίδες και δυσκολίες οι οποίες θα οδηγούσαν σε ανεπιθύμητα αποτελέσματα. Είχα την τύχη να έχω κοντά μου ανθρώπους οι οποίοι προσφέροντας το χρόνο και τις γνώσεις τους με βοήθησαν στο να υπερβώ κάθε είδους εμπόδια. Θα ήθελα λοιπόν να ευχαριστήσω τον κύριο Βασίλη Αναστασόπουλο, τον επιβλέποντα καθηγητή μου, για την καρποφόρα συνεργασία μας, που αντιμετώπιζε με χιούμορ και ανεξάντλητη υπομονή τις στιγμές κατά τις οποίες η λογική παραχωρούσε την θέση της στη θολωμένη σκέψη η οποία αναπόφευκτα εμφανιζόταν ύστερα από πολύωρη ενασχόληση με το θέμα. Θα ήθελα επίσης να ευχαριστήσω την Γεωργία Κούκιου, διδάκτορα και συνεργάτη του κύριου Αναστασόπουλου, η οποία δεν φοβήθηκε να αξιολογήσει την υλοποίηση σύνθετων μαθηματικών όρων στο λογισμικό και που οι εύστοχες παρατηρήσεις της με βοήθησαν σημαντικά στην κατανόηση του αντικειμένου. Τέλος, θα ήθελα να ευχαριστήσω τον αδελφό μου, Λουκά, τα περιπαιχτικά σχόλια του οποίου με οδήγησαν σε μια αδιάκοπη προσπάθεια βελτίωσης της εργασίας. Πάτρα, Σεπτέμβριος

10 9

11 Την εργασία αυτή αφιερώνω στους γονείς μου, Ρένα και Πάνο, ως αναγνώριση των αδιάκοπων και επίμονων αγώνων τους, χάρη στους οποίους έχω το προνόμιο, μεταξύ άλλων, να ολοκληρώσω τις σπουδές μου. 10

12 11

13 ΠΕΡΙΕΧΟΜΕΝΑ ΠΕΡΙΕΧΟΜΕΝΑ ΚΕΦΑΛΑΙΟ ΕΙΣΑΓΩΓΗ ΠΑΡΟΥΣΙΑΣΗ ΕΡΓΑΣΙΑΣ ΓΕΝΙΚΕΣ ΈΝΝΟΙΕΣ ΟΡΟΛΟΓΙΑ ΣΤΟ DATA FUSION ΕΜΠΟΡΙΚΕΣ ΕΦΑΡΜΟΓΕΣ ΤΡΕΙΣ ΑΡΧΙΤΕΚΤΟΝΙΚΕΣ ΓΙΑ INFORMATION FUSION ΔΟΜΗ ΤΗΣ ΕΡΓΑΣΙΑΣ ΚΕΦΑΛΑΙΟ ΜΕΘΟΔΟΙ ΣΥΝΘΕΣΗΣ ΠΡΩΤΑΡΧΙΚΩΝ ΔΕΔΟΜΕΝΩΝ ΕΙΚΟΝΕΣ ΚΑΙ ΧΩΡΙΚΑ ΔΕΔΟΜΕΝΑ ΣΥΝΘΕΣΗ ΠΛΗΡΟΦΟΡΙΑΣ ΑΠΟ ΕΙΚΟΝΕΣ ΚΑΙ ΧΩΡΙΚΑ ΔΕΔΟΜΕΝΑ ΔΙΑΔΙΚΑΣΙΕΣ ΚΑΙ ΔΟΜΗ ΤΗΣ ΠΛΗΡΟΦΟΡΙΑΣ ΣΤΗ ΣΥΝΘΕΣΗ ΧΩΡΙΚΗΣ ΠΛΗΡΟΦΟΡΙΑΣ ΚΑΤΗΓΟΡΙΕΣ ΜΕΘΟΔΩΝ ΣΥΝΘΕΣΗΣ ΧΩΡΙΚΩΝ ΔΕΔΟΜΕΝΩΝ ΣΥΝΘΕΣΗ ΜΕ ΧΡΗΣΗ ΑΠΛΩΝ ΥΛΟΠΟΙΗΣΕΩΝ ΣΥΝΘΕΣΗ ΜΕ ΑΝΑΛΥΣΗ ΚΥΡΙΩΝ ΣΥΝΙΣΤΩΣΩΝ PCA ΣΥΝΘΕΣΗ ΜΕ ΤΗΝ ΓΡΑΜΜΙΚΗ ΜΕΘΟΔΟ VTVA ΣΥΝΘΕΣΗ ΒΑΣΙΣΜΕΝΗ ΣΤΟ ΜΕΤΑΣΧΗΜΑΤΙΣΜΟ ΚΥΜΑΤΙΔΙΟΥ ΜΟΡΦΟΛΟΓΙΚΑ ΦΙΛΤΡΑ ΓΙΑ ΤΗΝ ΣΥΝΘΕΣΗ ΔΕΔΟΜΕΝΩΝ ΜΗ ΑΡΝΗΤΙΚΗ ΠΑΡΑΓΟΝΤΟΠΟΙΗΣΗ ΠΙΝΑΚΑ (NON NEGATIVE MATRIX FACTORIZATION NMF) ΚΕΦΑΛΑΙΟ DATA REGISTRATION ΑΝΑΣΚΟΠΗΣΗ ΤΗΣ ΈΡΕΥΝΑΣ ΣΕ REGISTRATION ΠΡΟΕΠΕΞΕΡΓΑΣΙΑ ΓΙΑ REGISTRATION REGISTRATION ΧΡΗΣΙΜΟΠΟΙΩΝΤΑΣ «ΕΛΑΣΤΙΚΟΥΣ ΜΕΤΑΣΧΗΜΑΤΙΣΜΟΥΣ» IMAGE REGISTRATION ΔΙΑΦΟΡΕΤΙΚΩΝ ΑΙΣΘΗΤΗΡΩΝ (MULTIMODAL) ΚΕΦΑΛΑΙΟ ΔΙΑΔΙΚΑΣΙΕΣ ΛΗΨΗΣ ΑΠΟΦΑΣΕΩΝ ΣΤΟΙΧΕΙΑ ΣΤΑΤΙΣΤΙΚΟΥ ΕΛΕΓΧΟΥ ΥΠΟΘΕΣΕΩΝ ΑΠΟΦΑΣΕΙΣ ΛΑΜΒΑΝΟΜΕΝΕΣ ΑΠΟ ΔΙΑΔΙΚΑΣΙΑ ΤΑΞΙΝΟΜΗΣΗΣ ΜΕ ΣΥΝΕΧΗ ΧΑΡΑΚΤΗΡΙΣΤΙΚΑ ΑΠΟΦΑΣΕΙΣ ΛΑΜΒΑΝΟΜΕΝΕΣ ΑΠΟ ΔΙΑΔΙΚΑΣΙΑ ΑΝΙΧΝΕΥΣΗΣ (TARGET DETECTION) Το κριτήριο των Neyman-Pearson Operating characteristics in signal detection ΑΠΟΦΑΣΕΙΣ ΤΑΞΙΝΟΜΗΣΗΣ ΣΤΟ ΧΩΡΟ ΤΩΝ ΔΥΑΔΙΚΩΝ ΧΑΡΑΚΤΗΡΙΣΤΙΚΩΝ Bayesian Decision Theory - Διακριτά Χαρακτηριστικά Ανεξάρτητα δυαδικά χαρακτηριστικά (Indepent Binary Features) ΚΕΦΑΛΑΙΟ ΣΥΝΘΕΣΗ ΑΠΟΦΑΣΕΩΝ

14 5.1. ΤΟΠΟΛΟΓΙΕΣ ΠΑΡΑΛΛΗΛΗ ΣΥΝΘΕΣΗ ΑΠΟΦΑΣΕΩΝ ΣΧΕΔΙΑΣΜΟΣ ΚΑΝΟΝΩΝ ΣΥΝΘΕΣΗΣ Περίπτωση ίδιων ανιχνευτών Περίπτωση διαφορετικών ανιχνευτών Πειραματική επιβεβαίωση της θεωρίας Σχολιασμός των Αποτελεσμάτων ΣΕΙΡΙΑΚΗ ΣΥΝΘΕΣΗ ΑΠΟΦΑΣΕΩΝ Εισαγωγή στην Σειριακή Σύνθεση Αποφάσεων Φορμαλισμός κατά Bayes ΚΕΦΑΛΑΙΟ ΠΑΡΑΛΛΗΛΗ ΣΥΝΘΕΣΗ ΑΠΟΦΑΣΕΩΝ ΜΕ ΤΗ ΧΡΗΣΗ ΕΠΙΠΛΕΟΝ ΠΛΗΡΟΦΟΡΙΑΣ ΜΕΤΑΔΟΣΗ ΑΠΟΦΑΣΕΩΝ ΜΕ ΧΡΗΣΗ ΠΛΗΡΟΦΟΡΙΑΣ ΠΟΙΟΤΗΤΑΣ 1 BIT ΜΕΤΑΔΟΣΗ ΑΠΟΦΑΣΕΩΝ ΜΕ ΧΡΗΣΗ ΠΛΗΡΟΦΟΡΙΑΣ ΠΟΙΟΤΗΤΑΣ 2 BITS ΜΟΝΟ ΣΤΗΝ ΠΕΡΙΠΤΩΣΗ ΔΗΛΩΣΗΣ ΤΟΥ ΣΤΟΧΟΥ ΠΕΙΡΑΜΑΤΙΚΗ ΕΠΙΒΕΒΑΙΩΣΗ ΤΗΣ ΘΕΩΡΙΑΣ ΣΧΟΛΙΑΣΜΟΣ ΤΩΝ ΑΠΟΤΕΛΕΣΜΑΤΩΝ ΚΕΦΑΛΑΙΟ ΣΧΕΔΙΑΣΜΟΣ ΣΥΣΤΗΜΑΤΟΣ ΜΕ ΣΥΣΧΕΤΙΣΜΕΝΕΣ ΑΠΟΦΑΣΕΙΣ ΚΑΙ ΧΡΗΣΗ ΤΟΥ TΥΧΑΙΟΥ ΤEST NEYMAN PEARSON ΚΕΦΑΛΑΙΟ ΑΛΓΟΡΙΘΜΟΙ ΥΛΟΠΟΙΗΣΗ ΑΛΓΟΡΙΘΜΟΥ ΣΥΝΘΕΣΗΣ ΑΙΣΘΗΤΗΡΩΝ Έκδοση Matlab Έκδοση Python ΥΛΟΠΟΙΗΣΗ ΑΛΓΟΡΙΘΜΟΥ ΣΥΝΘΕΣΗΣ ΑΙΣΘΗΤΗΡΩΝ ΜΕ ΜΕΤΑΔΟΣΗ ΠΛΗΡΟΦΟΡΙΑΣ ΠΟΙΟΤΗΤΑΣ Έκδοση Matlab Έκδοση Python ΚΕΦΑΛΑΙΟ ΒΙΒΛΙΟΓΡΑΦΙΑ

15 14

16 15

17 Κεφάλαιο 1 Εισαγωγή 1.1. Παρουσίαση Εργασίας Στην παρούσα εργασία θα μελετήσουμε την υλοποίηση κανόνων σύνθεσης αποφάσεων από αισθητήρες λαμβάνοντας υπόψιν την αξιοπιστία του κάθε αισθητήρα. Η σύνθεση στο επίπεδο των αποφάσεων αποτελεί κατηγορία μια μεγαλύτερης οικογένειας μεθόδων που έχουν ως στόχο την σύνθεση δεδομένων για τον σχηματισμό σαφέστερης και ακριβέστερης πληροφορίας. Οι άλλες δύο μέθοδοι είναι η σύνθεση στο επίπεδο των δεδομένων και η σύνθεση στο επίπεδο των χαρακτηριστικών. Προτού επικεντρωθούμε στην σύνθεση αποφάσεων, είναι αναγκαίο και χρήσιμο να αναλύσουμε και να μελετήσουμε και τις υπόλοιπες μεθόδους, ώστε να σχηματίσουμε μια σφαιρική εικόνα για το αντικείμενο της εργασίας. Η σύνθεση πληροφορίας στο επίπεδο των απλών, πρωταρχικών (raw) δεδομένων, ουσιαστικά εστιάζει, στη σύνθεση χωρικής πληροφορίας σε ανάλυση στο επίπεδο του bit ή του εικονοστοιχείου (pixel). Οι μέθοδοι που έχουν αναπτυχθεί σε επίπεδο βασικής και τεχνολογικής ανάπτυξης για την σύνθεση δεδομένων εφαρμόζονται και στο χωρικό πεδίο (spatial domain) και στο φασματικό πεδίο (frequency domain). Στα πλαίσια της ακριβούς καταγραφής των πιο σημαντικών και αποτελεσματικών τεχνικών που αναφέρονται στη διεθνή βιβλιογραφία, παρουσιάζονται οι τεχνικές ανάλυσης κυρίων συνιστωσών (principal component analysis, PCA), η γραμμική μέθοδος VTVA, ο μετασχηματισμός κυματιδίου (wavelet transform), μορφολογικά φίλτρα σύνθεσης δεδομένων, καθώς και η τεχνική μη-αρνητικής παραγοντοποίησης πίνακα (non negative matrix factorization, NMF). Οι τεχνικές αυτές παρουσιάζονται αποκλειστικά σε θεωρητικό πλαίσιο με την αντίστοιχη μαθηματική τους θεμελίωση, ωστόσο υπάρχουν πολλές πηγές με χαρακτηριστικά παραδείγματα σύνθεσης δεδομένων εικόνας και αποτελεσμάτων που προκύπτουν από την πειραματική εφαρμογή τους. Όμως, η σύνθεση πληροφορίας δεν είναι απαραίτητο να γίνει μαζικά για όλα τα σημεία μιας χωρικής οντότητας όπως είναι ο χάρτης ή η εικόνα. Μπορεί να γίνει σε επίπεδο pixel θεωρώντας ότι κάθε ένα pixel έχει τη δική του σημαντική πληροφορία και ότι θα πρέπει να συνδυαστεί η πληροφορία των αντίστοιχων (ίδιες συντεταγμένες) pixels για να οριστεί το pixel επικινδυνότητας. Με τον τρόπο αυτόν μεταφέρουμε όλη την θεωρία αποφάσεων σε επίπεδο pixel. Είναι απαραίτητο λοιπόν να αναφερθούμε αναλυτικά στην σύνθεση ανεξάρτητων αποφάσεων, αποφάσεων με quality bit καθώς και συσχετισμένων αποφάσεων. Βέβαια παρέχεται πρίν από αυτά ο τρόπος ταξινόμησης αντικειμένων με βάση δυαδικά χαρακτηριστικά Γενικές Έννοιες Με τον όρο Σύνθεση Πληροφορίας (Data Fusion) εννοούμε την διαδικασία κατά την οποία πολλαπλά δεδομένα που αναπαριστούν ένα κοινό, πραγματικό αντικείμενο συνδυάζονται σε μια συνεχή, ακριβή και χρήσιμη αναπαράσταση. Τα δεδομένα αυτά μπορεί να προέρχονται από διάφορες πηγές όπως οι βάσεις δεδομένων ή από αισθητήρες πράγμα που αποτελεί και το αντικείμενο μελέτης της παρούσας εργασίας. Πιο συγκεκριμένα, η σύνθεση πληροφορίας από αισθητήρες λαμβάνει την ειδική ονομασία Σύνθεση Αισθητήρων (Sensor Fusion) ή Σύνθεση Δεδομένων Πολλαπλών Αισθητήρων (Multi-Sensor Data Fusion) και αποτελεί την διαδικασία κατά την οποία δεδομένα που προέρχονται από έναν αριθμό 16

18 αισθητήρων συνδυάζονται ώστε η αβεβαιότητα της πληροφορίας που προκύπτει να είναι μικρότερη από αυτήν της πληροφορίας που προέρχεται από έναν μόνο αισθητήρα. Να σημειωθεί πως με την έννοια μείωση της αβεβαιότητας εννοούμε την μεγαλύτερη ακρίβεια στην ληφθείσα πληροφορία. Η Multi-Sensor Data Fusion εφαρμόζεται σε μια πληθώρα πεδίων. Αρχικά υλοποιήθηκε για εφαρμογή σε στρατιωτικούς σκοπούς (Σχήμα 1.1) όπως η παρακολούθηση αντικειμένων (surveillance) και η αναγνώριση στόχου. Ωστόσο η τεχνολογία αυτή αναπτύχθηκε και εφαρμόστηκε σε μη στρατιωτικά πεδία όπως είναι η ρομποτική, η ιατρική, η βιομηχανία και η μετεωρολογία. Για να καταστήσουμε πιο κατανοητή την έννοια της σύνθεσης πληροφορίας θα αναφερθούμε στην πιο διαδεδομένη μορφή υλοποίησής της που δεν είναι καμία άλλη από τον ανθρώπινο εγκέφαλο. Ο ανθρώπινος εγκέφαλος λαμβάνει διαφορετικού είδους πληροφορία από διαφορετικά αισθητήρια όργανα όπως είναι τα μάτια, τα αυτιά, η μύτη κ.ά. και την συνδυάζει προκειμένου να λάβει μια τελική απόφαση. Για παράδειγμα, κάποιος που περιεργάζεται ένα αντικείμενο, όπως ένα χημικό διάλυμα, μπορεί να πάρει μια ιδέα για την ουσία που βρίσκεται στο δοχείο απλώς παρατηρώντας το χρώμα της. Εάν χρησιμοποιήσει επιπλέον πληροφορία, όπως είναι η οσμή, τότε θα μπορεί να είναι πιο βέβαιος για την ουσία αυτή. Συνεπώς, ο εγκέφαλός του παρατηρητή σύνθεσε την πληροφορία που έλαβε από τα μάτια για το χρώμα του διαλύματος και την πληροφορία που έλαβε από την μύτη για την οσμή του και εξήγαγε μια απόφαση, κατανόησε δηλαδή για ποια ουσία πρόκειται. Σχήμα 1.1: Σύνθεση δεδομένων εικόνων για επιτήρηση πεδίου μάχης και εκτεταμένων περιοχών Όπως συμπεραίνουμε από το παράδειγμά μας, η σύνθεση δεδομένων από πολλές αισθητήριες πηγές μας παρέχει πολλά πλεονεκτήματα συγκριτικά με έναν αισθητήρα. Πιο συγκεκριμένα παρατηρούμε πως: 1. Εάν Ν όμοιας φύσης αισθητήρες παρατηρούν το ίδιο γεγονός ή αντικείμενο μπορούμε να λάβουμε βελτιωμένες εκτιμήσεις για φυσικά μεγέθη όπως η θέση και η ταχύτητα. 2. Όταν η παρατήρηση πραγματοποιείται από αισθητήρες που βρίσκονται σε διαφορετική θέση, έχουμε βελτιωμένη εκτίμηση για το επιτηρούμενο αντικείμενο. 3. Όταν χρησιμοποιούμε διαφορετικής φύσης αισθητήρες για να παρατηρήσουμε το ίδιο γεγονός ή αντικείμενο, βελτιώνουμε την ακρίβεια για τον προσδιορισμό του αντικειμένου ή του γεγονότος. Επανερχόμενοι στην υλοποίηση του κέντρου σύνθεσης πληροφορίας αξίζει να αναφέρουμε πως για τον σκοπό αυτό χρησιμοποιούνται διάφορες τεχνικές που προέρχονται από επιστημονικά πεδία όπως είναι η επεξεργασία σήματος, η εκτίμηση παραμέτρων, η θεωρία ελέγχου και η τεχνική νοημοσύνη. 17

19 1.3. Ορολογία στο Data Fusion Στα μέσα της δεκαετίας του '80 ξεκίνησε η προσπάθεια να κωδικοποιηθεί η ορολογία στη σύνθεση δεδομένων (Data Fusion). Η προσπάθεια αυτή έγινε από στρατιωτικούς φορείς στις ΗΠΑ (Joint Directors of Laboratories, JDL, Data Fusion Working Group) και οδήγησε σε ένα μοντέλο διαδικασιών και ένα λεξικό Data Fusion Model για σύνθεση δεδομένων [3-6]. Το μοντέλο αυτό είναι πολύ γενικό και χρήσιμο σε πολλές εφαρμογές, προσδιορίζει τις διαδικασίες, τις ενέργειες και τις κατηγορίες τεχνικών για σύνθεση δεδομένων. Το μοντέλο έχει μια ιεραρχία δύο επιπέδων. Στο πρώτο επίπεδο περιέχεται η επεξεργασία των δεδομένων, η εκτίμηση της σημαντικότητάς τους και η διάκριση των διαδικασιών. Στο δεύτερο επίπεδο περιλαμβάνεται η διαχείριση της βάσεως δεδομένων και η διασύνδεση με τον άνθρωπο (Human Computer Interaction) Εμπορικές Εφαρμογές Παρότι, τα θέματα του Data Fusion και Information Fusion ξεκίνησαν από στρατιωτικές εφαρμογές έχουν σήμερα επεκταθεί στην ακαδημαϊκή κοινότητα καθώς και στον εμπορικό κόσμο. Ιδιαίτερες εφαρμογές οι οποίες απαιτούν τη δική τους διάταξη αισθητήρων και έχουν τις δικές τους προκλήσεις είναι τα έξυπνα κτίρια, οι ιατρικές εφαρμογές και η παρακολούθηση του περιβάλλοντος. Η παρακολούθηση του περιβάλλοντος περιλαμβάνει τη διάγνωση και τον εντοπισμό φυσικών φαινομένων, όπως ο καιρός, τα πλημμυρικά φαινόμενα, οι σεισμοί, η μετακίνηση του φλοιού της γης και οι κατολισθήσεις που θα μας απασχολήσουν εδώ. Στις εφαρμογές αυτές χρησιμοποιούνται διάφορα είδη αισθητήρων, όπως συνθετικό ραντάρ (SAR), σεισμικά κύματα, ηλεκτρομαγνητικά σήματα και χημικά δεδομένα. Η επιτήρηση μπορεί να γίνεται με επιτόπιες μετρήσεις αλλά και από χιλιόμετρα ή από εκατοντάδες χιλιόμετρα μακριά. Στην παρακολούθηση των περιβαλλοντικών φαινομένων χρησιμοποιούνται και οι πολυφασματικοί αισθητήρες που μπορεί να δώσουν σημαντική πληροφορία για την επιφάνεια της γης. Συνήθως, χρησιμοποιείται ψευδοχρωματισμός για να παρασταθούν οι διαφορετικές καταστάσεις στην ελεγχόμενη περιοχή και με τον τρόπο αυτό ο αναλυτής να μπορέσει εύκολα να κατανοήσει την πληροφορία (Σχήμα 1.2). Σχήμα 1.2: Σύνθεση παγχρωματικής με πολυφασματική εικόνα για αύξηση της χωρικής ανάλυσης στο πεδίο της Τηλεπισκόπησης 18

20 Στις εφαρμογές περιβαλλοντικής παρακολούθησης, είναι συνήθως απαραίτητη η ταύτιση (co registration) διαφορετικών εικόνων. Αυτό είναι απαραίτητο έτσι ώστε τα αντίστοιχα pixels που αναπαριστούν την ίδια θέση πάνω στη γη, να έχουν τις ίδιες συντεταγμένες. Το θέμα αυτό είναι πολύ σημαντικό και δύσκολο, αφού οι διαφορετικοί αισθητήρες σχηματίζουν εικόνες διαφορετικής ανάλυσης, οι οποίες έχουν ληφθεί από διαφορετική οπτική γωνία. Το θέμα του registration θα εξεταστεί σε διαφορετική παράγραφο στην παρούσα εργασία Τρεις Αρχιτεκτονικές για Information Fusion Σχήμα 1.3: Διαδικασίες σύνθεσης πληροφορίας χαμηλού (δεδομένων), ενδιάμεσου (χαρακτηριστικών) και υψηλού (απόφασης) επιπέδου. Υπάρχουν τρεις προσεγγίσεις για τη σύνθεση των δεδομένων από πολλούς αισθητήρες ανάλογα με το είδος των δεδομένων, τον τρόπο λειτουργίας του αισθητήρα αλλά και τη δυνατότητα που υπάρχει για μεταφορά δεδομένων (Σχήμα 1.3). Στην πρώτη περίπτωση η σύνθεση των δεδομένων γίνεται στο επίπεδο της αρχικής τους μορφής (Raw Data Fusion). Στη δεύτερη περίπτωση, πρώτα εξάγονται τα χαρακτηριστικά από τα δεδομένα κάθε αισθητήρα και στη συνέχεια η σύνθεση γίνεται στο επίπεδο των χαρακτηριστικών. Το άνυσμα των χαρακτηριστικών που θα προκύψει χρησιμοποιείται για να παρθεί απόφαση. Τέλος, σύνθεση μπορεί να γίνει και στο επίπεδο των αποφάσεων συνδυάζοντας την απόφαση κάθε αισθητήρα για να προκύψει μια απόφαση με μεγαλύτερη αξιοπιστία. Όπως, προαναφέρθηκε, ο λόγος που θα οδηγήσει σε μια από τις τρεις προσεγγίσεις είναι κυρίως το είδος των δεδομένων (συμβατότητα) και της εφαρμογής αλλά και η δυνατότητα μετάδοσής τους. 19

21 1.6. Δομή της Εργασίας Η εργασία είναι οργανωμένη σε 8 κεφάλαια. Στο πρώτο κεφάλαιο παραθέτουμε εισαγωγικές έννοιες για την εξοικείωση του αναγνώστη με το θέμα και την ορολογία που χρησιμοποιείται στην βιβλιογραφία. Παράλληλα, παρουσιάζουμε τις εμπορικές εφαρμογές που βρίσκει η σύνθεση αποφάσεων από αισθητήρες και η σύνθεση της πληροφορίας γενικότερα. Ολοκληρώνοντας το κεφάλαιο, παρουσιάζουμε τις τρεις μεθόδους σύνθεσης δεδομένων που χρησιμοποιούνται σήμερα. Στο δεύτερο κεφάλαιο παραθέτουμε την πρώτη από τις τρεις μεθόδους σύνθεσης πληροφορίας που είναι η μέθοδος σύνθεσης στο επίπεδο των πρωταρχικών δεδομένων. Η μέθοδος αυτή είναι ιδιαίτερα σημαντική, όπως θα δούμε, καθώς είναι ιδιαίτερα διαδεδομένη στους χώρους της επιτήρησης και της επεξεργασίας εικόνας. Ακολουθεί το τρίτο κεφάλαιο στο οποίο αναλύουμε την έννοια του data registration. Η ανάγκη για registration προβάλλει όταν έχουμε δεδομένα από πολλούς αισθητήρες ίδιου ή διαφορετικού τύπου που παρατηρούν το ίδιο γεγονός και ως εκ τούτου δεν θα μπορούσε να λείπει από την εργασία αυτή. Στο τέταρτο κεφάλαιο παρουσιάζουμε τις μεθόδους λήψης αποφάσεων από διαδικασίες ανίχνευσης και χρησιμοποιώντας συνεχή ή δυαδικά χαρακτηριστικά. Οι μέθοδοι αυτές υλοποιούνται στους αισθητήρες οι οποίοι στέλνουν στην συνέχεια την απόφαση στο κέντρο σύνθεσης, όμως μπορούν και να εφαρμοστούν κατευθείαν στο κέντρο σύνθεσης, το οποίο λαμβάνει τα πολλαπλά δεδομένα, με σκοπό την εξαγωγή μιας τελικής απόφασης. Στο πέμπτο κεφάλαιο αναλύουμε τις μεθόδους σύνθεσης αποφάσεων. Παραθέτουμε τις τοπολογίες των δικτύων ανίχνευσης, παράλληλη και σειριακή, καθώς και τους κανόνες σύνθεσης. Στο κεφάλαιο αυτό χρησιμοποιούμε την περίπτωση της παράλληλης τοπολογίας και υλοποιούμε ένα σύστημα σύνθεσης ανόμοιων αισθητήρων και το αξιολογούμε. Στο έκτο κεφάλαιο προχωρούμε παραπέρα και υλοποιούμε ένα σύστημα σύνθεσης αποφάσεων χρησιμοποιώντας αισθητήρες οι οποίοι αποστέλλουν πληροφορία ποιότητας 2 bit στο κέντρο σύνθεσης. Παραθέτουμε και αξιολογούμε τα αποτελέσματα. Στο έβδομο κεφάλαιο παραθέτουμε την απαραίτητη θεωρία για τον σχεδιασμό συστήματος με συσχετισμένες αποφάσεις κάνοντας χρήση του τυχαίου test Neyman Pearson. Στο όγδοο κεφάλαιο παραθέτουμε το λογισμικό που υλοποιήσαμε στα πλαίσια της εργασίας και για τις δύο γλώσσες, matlab και python. Το κεφάλαιο είναι χωρισμένο σε 2 ενότητες. Στην πρώτη ενότητα βρίσκεται το λογισμικό που χρησιμοποιήσαμε για την υλοποίηση του συστήματος σύνθεσης ανόμοιων αισθητήρων σε παράλληλη τοπολογία ενώ στην δεύτερη ενότητα βρίσκεται το λογισμικό που χρησιμοποιήσαμε για το σύστημα σύνθεσης αποφάσεων με μετάδοση πληροφορίας ποιότητας 2 bit. Τέλος, στο ένατο κεφάλαιο, έχουμε τις βιβλιογραφικές πηγές που συμβουλευτήκαμε για την εκπόνηση της εργασίας αυτής καθώς και τις αναφορές που επικαλούμε καθόλη την έκταση της εργασίας. 20

22 21

23 Κεφάλαιο 2 Μέθοδοι Σύνθεσης Πρωταρχικών Δεδομένων Εικόνες και Χωρικά Δεδομένα 2.1. Σύνθεση Πληροφορίας από Εικόνες και Χωρικά Δεδομένα Οι όροι σύνθεση εικόνων (image fusion) και σύνθεση χωρικών δεδομένων (spatial data fusion) χρησιμοποιούνται για να συνδυάσουμε πράξεις σε μια ευρεία περιοχή εφαρμογών κατανόησης εικόνων (image understanding). Για το σκοπό αυτό χρησιμοποιείται μια ευρεία γκάμα μαθηματικών εργαλείων. Εικόνες από δορυφόρους, που χρησιμοποιούνται για έλεγχο των γήινων αποθεμάτων κάθε είδους (γεωλογικά, καλλιέργειες, νερό, κλπ.) και εκτίμησης περιβάλλοντος, μπορεί να βελτιωθούν συνδυάζοντας (registered) δεδομένα από διαφορετικούς αισθητήρες με σκοπό να βελτιωθεί η χωρική αλλά και η φασματική ανάλυση της σύνθετης εικόνας. Επιπλέον, για την βελτίωση της εικόνας μπορεί να χρησιμοποιηθούν registered εικόνες από διαφορετικά περάσματα του δορυφόρου ή του αισθητήρα. Όταν η διαδικασία του Fusion εκτείνεται πέρα από τις εικόνες και περιλαμβάνει άλλου είδους χωρικά δεδομένα, όπως ψηφιακά δεδομένα εδάφους, δημογραφικά δεδομένα και δεδομένα GIS διαφόρων επιπέδων, χρησιμοποιούνται διάφορες εφαρμογές χαρτογράφησης (mapping) για να αξιοποιηθεί η πληροφορία. Γενικά, το image fusion και το spatial data fusion διακρίνονται ως υποσύνολα της πιο γενικής κατηγορίας προβλημάτων του data fusion, τα οποία χρησιμοποιούνται συνδυαστικά και συνεργατικά για τη δημιουργία 3-D δεδομένων. Ουσιαστικά λαμβάνουμε υπόψιν τα μεμονωμένα δεδομένα (sparse) και την πληροφορία που μεταφέρουν. Σε όλες αυτές τις εφαρμογές, κοινός στόχος της διαδικασίας του fusion είναι η έμφαση στις παρακάτω διακριτές ενέργειες: Registration (ταυτοποίηση) των εικόνων και των χωρικών δεδομένων. Η διαδικασία του registration έχει πολύ μεγάλη σημασία γιατί τα χωρικά δεδομένα δεν έχουν πάντα την ίδια ακρίβεια για να είναι εύκολη η χωρική ευθυγράμμιση-ταυτοποίηση. Ο συνδυασμός των πολλαπλών επιπέδων (που έχουν γίνει registered) εμπεριέχει μαθηματικές πράξεις για ολοκλήρωση και φασματική παρουσίαση. Ακολουθεί η συμπερασματολογία (reasoning) που είναι μια διαδικασία συνδυασμού της πληροφορίας από επίπεδο σε επίπεδο, μερικές φορές χρησιμοποιώντας υψηλό επίπεδο αφαιρετικότητας για να συνδυαστούν τα στοιχεία ή τα γεγονοτα που βρίσκονται στα επίπεδα. Όπως έχει αναφερθεί, έχουμε τρία επίπεδα σύνθεσης πληροφορίας, το Pixel-Level-Fusion (Raw data), το Feature-Level-Fusion και το Decision-Level-Fusion. Υπάρχουν βέβαια συστήματα, τα οποία υλοποιούν και τα τρία επίπεδα. Στο κατώτερο επίπεδο, το επίπεδο Pixel-Level-Fusion, οι εικόνες θα πρέπει να είναι ταυτοποιημένες (registered) με μεγάλη ακρίβεια. Το Fusion στο επίπεδο αυτό, έχει τη δυναμική να επιτυγχάνει τη μεγαλύτερη απόδοση στην ανίχνευση σήματος με τη μεγαλύτερη βέβαια δαπάνη σε υπολογιστική ισχύ. Ένα υποσύνολο σε αυτό το επίπεδο είναι να ασχοληθούμε μόνο με συγκεκριμένες περιοχές (segmented regions). Διάφορες τεχνικές στο Pixel-Level-Fusion μπορούν να βρεθούν στις [7-10]. Στο επίπεδο του Feature-Level-Fusion τα χαρακτηριστικά εξάγονται ανεξάρτητα σε κάθε αισθητήρα και δημιουργούν μετά όλα μαζί το κοινό feature space. Το πλεονέκτημα δουλεύοντας σε Feature-Level- Fusion είναι ότι δεν υπάρχει πλέον η απαίτηση για ταυτοποίηση των εικόνων. 22

24 Τέλος, στο επίπεδο Decision-Level-Fusion, οι αποφάσεις συνδυάζονται όπως έρχονται από τους ανεξάρτητους αισθητήρες, όπως έχουν αυτοί υλοποιήσει ταυτοποίηση ή ταξινόμηση. Μπορεί να χρησιμοποιηθούν δύο διαδικασίες ή η χρήση μόνο των αποφάσεων (hard decision) ή και πληροφορίας για την αβεβαιότητα της απόφασης (quality bit). Η περίπτωση του Decision-Level-Fusion θα μας απασχολήσει και θα μελετηθεί στη συνέχεια της εργασίας. Υπάρχει βέβαια και ο συνδυασμός των τριών παραπάνω επιπέδων, όπου συνδυάζονται χαρακτηριστικά, Raw Data και Decisions με συγκεκριμένα μοντέλα. Επιπρόσθετα με την σύνθεση πληροφορίας στα τρία επίπεδα έχουν προταθεί άλλες εναλλακτικές λύσεις ή συνδυασμοί. Σε ένα επίπεδο ακόμα πιο ψηλά από την σύνθεση αποφάσεων, μερικοί ερευνητές έχουν ορίσει μεθόδους στο επίπεδο της σκηνής, όπου οι ανιχνεύσεις από αισθητήρες χαμηλής ανάλυσης χρησιμοποιούνται για να επιβεβαιώσουν ενέργειες από αισθητήρες υψηλής ανάλυσης [11,12]. Άλλοι ερευνητές, για να κλείσουμε, έχουν αναπτύξει υβριδικές πολυεπίπεδες τεχνικές όπου η ταξινόμηση γίνεται σε χαμηλό επίπεδο και η ανίχνευση σε υψηλό επίπεδο (Decision Level) [13]. Σχεδιασμοί σε pixel, feature, and decision-level-fusion εστιάζουν στον συνδυασμό εικόνων για την ανίχνευση και ταξινόμηση συγκεκριμένων περιοχών-στόχων. Η έμφαση εδώ δίνεται στον περιορισμό της επεξεργασίας αφού συνδυάζονται μόνο οι πιο πιθανές περιοχές ως υποψήφιοι στόχοι, Σχήμα 2.1. Σχήμα 2.1: Παράδειγμα ανεύρεσης στόχων με την χρήση πολλών επιπέδων από χωρικά δεδομένα που χρησιμοποιεί χωρική συμπερασματολογία για να υλοποιήσει υποθέσεις Διαδικασίες και δομή της πληροφορίας στη σύνθεση χωρικής πληροφορίας Τα δεδομένα από πολλά είδη εικόνων χρησιμοποιούνται για να βελτιώσουμε τα επιθυμητά χαρακτηριστικά, να συνδυάσουμε εικόνες με διαφορετική ανάλυση και αν είναι δυνατόν να αφαιρέσουμε τον ασυσχέτιστο θόρυβο. Πολλές φορές στις περιπτώσεις αυτές χρησιμοποιούνται δυναμικές εικόνες δηλαδή video, άλλες φορές τρισδιάστατες εικόνες (Digital Elevation Models - DEM) για να εισάγουμε δεδομένα στη διαδικασία της σύνθεσης πληροφορίας. 23

25 Μία από τις πιο πολύπλοκες εφαρμογές σε image fusion είναι αυτή που συνδυάζει δισδιάστατα, τρισδιάστατα και δεδομένα που έχουν χωρική αναφορά αλλά δεν είναι εικόνες σε ένα σύνθετο σύστημα χωρικής πληροφορίας. Η πιο ενεργή περιοχή έρευνας και ανάπτυξης αυτής της κατηγορίας των προβλημάτων σύνθεσης πληροφορίας είναι η ανάπτυξη των συστημάτων GIS που συνδυάζουν εικόνες της γης, χάρτες, δημογραφικά και στατιστικά στοιχεία και άλλα. Εφαρμογές αυτής της κατηγορίας υπάρχουν πολλές, όπως στην πολιτική διακυβέρνηση για τη διαχείριση της γης και των πόρων της. Η υλοποίηση αποτελεσματικών και οικονομικών συστημάτων ικανών να διαχειριστούν τον όγκο της πληροφορίας αυτής εξαρτάται από δύο τεχνολογικές περιοχές: 1. Τον τρόπο που δομούνται τα χωρικά δεδομένα. 2. Τον τρόπο που στο χωρικό επίπεδο γίνεται η συμπερασματολογία [14,15]. Τα ολοκληρωμένα συστήματα γεωαναφοράς τα οποία ενσωματώνουν χάρτες και άλλα δεδομένα για να δημιουργήσουν γεωγραφικά συστήματα πληροφοριών (GIS) έχουν τα εξής χαρακτηριστικά: Currency: Συνεχής ανανέωση της πληροφορίας. Integration: Ενοποίηση των δεδομένων με διαφορετικό format. Access: Δυνατότητα απόκτησης τουλάχιστον από ειδικευμένους χρήσεις. Display: Δυνατότητα οπτικοποίησης για τη μεγαλύτερη αναγνωσιμότητα από τον άνθρωπο. Στο Σχήμα 2.2. παρουσιάζεται η πλέον στοιχειώδης ροή λειτουργιών ενός τέτοιου συστήματος. Σχήμα 2.2: Η ροή της διαδικασίας σύνθεσης χωρικών δεδομένων περιλαμβάνει την δημιουργία βάσης δεδομένων καθώς και την αξιολόγηση της βάσης από πολλούς χρήστες. Το πρόγραμμα GEOINT (Geospatial Intelligence) [16] αναφέρεται στην εξερεύνηση και στην ανάλυση γεωχωρικής πληροφορίας για να περιγράψει να δώσει και να παρουσιάσει φυσικά χαρακτηριστικά και πληροφορίες για δραστηριότητες πάνω στη γη. Το Geoint ενσωματώνει τρία διαφορετικά είδη δεδομένων τα οποία όταν ολοκληρώνονται δίνουν ένα πλήρες χωρικά συσχετισμένο προϊόν. Το πρώτο στοιχείο, οι εικόνες, αναφέρεται σε κάθε προϊόν που παρουσιάζει δεδομένα, αντικείμενα ή δραστηριότητες, φυσικά ή τεχνητά ταυτόχρονα με τη θέση τους. Το δεύτερο στοιχείο είναι η νοημοσύνη στις εικόνες και παράγει αποτελέσματα για την αναπαράσταση και την ανάλυση των εικόνων. Το τρίτο στοιχείο παρουσιάζει γεωχωρικά δεδομένα με τις θέσεις τους και τα χαρακτηριστικά τους. Τα χαρακτηριστικά τους αυτά περιέχουν στατική και δυναμική πληροφορία. Η πρώτη αφορά χάρτες, ενώ 24

26 η δεύτερη αντικείμενα και μηχανισμούς που προστίθενται συγχρόνως. Το Geoint ενσωματώνει μεθόδους σύνθεσης πληροφορίας σε πολλά επίπεδα Κατηγορίες Μεθόδων Σύνθεσης Χωρικών Δεδομένων Οι μέθοδοι που έχουν αναπτυχθεί μέχρι σήμερα σε επίπεδο βασικής έρευνας και τεχνολογικής ανάπτυξης για την σύνθεση δεδομένων εφαρμόζονται είτε απευθείας στις τιμές των εικονοστοιχείων της εικόνας είτε στο πεδίο των συχνοτήτων. Η διάκριση αυτή αναφέρεται συνήθως και σαν μέθοδοι που εφαρμόζονται στο χωρικό πεδίο (spatial domain) και στο συχνοτικό πεδίο (frequency domain). Στις επόμενες παραγράφους παρουσιάζονται μέθοδοι σύνθεσης δεδομένων που βασίζονται και στις δύο προσεγγίσεις. Η βασική έρευνα στο πεδίο της σύνθεσης δεδομένων έχει οδηγήσει στην πρόταση αρκετών διαφορετικών αλγορίθμων και μεθόδων. Μια καλή επισκόπηση βρίσκεται στις εργασίες [Δ1-8]. Η μεγάλη ποικιλία των διαφορετικών προσεγγίσεων και μεθόδων μπορεί να εξηγηθεί από την πολυπλοκότητα του προβλήματος και τους διαφορετικούς στόχους κάθε εφαρμογής. Μια γενική ταξινόμηση των μεθόδων σύνθεσης εικόνων είναι η ακόλουθη: Γραμμικές μέθοδοι [17-18] Μη γραμμικές μέθοδοι [19] Τεχνικές βελτιστοποίησης [20] Μέθοδοι βασισμένες σε νευρωνικά δίκτυα [20] Μέθοδοι βασισμένες σε πυραμιδικούς μετασχηματισμούς [21,22] Οι γραμμικές μέθοδοι είναι οι πιο απλές και πιο δημοφιλείς. Στην επόμενη παράγραφο θα συζητηθεί αναλυτικά η πιο γνωστή γραμμική μέθοδος, η ανάλυση σε κύριες συνιστώσες. Η επόμενη κατηγορία μεθόδων σύνθεσης εικόνων βασίζεται σε μη γραμμικούς τελεστές. Οι πιο απλοί μη γραμμικοί τελεστές είναι αυτοί της μέγιστης και ελάχιστης τιμής. Για παράδειγμα, αν σε μια εφαρμογή τα φωτεινά αντικείμενα έχουν ιδιαίτερο ενδιαφέρον, θα ήταν καλή επιλογή να δημιουργηθεί η εικόνα-σύνθεση, με μια εφαρμογή του τελεστή μέγιστης τιμής σε κάθε εικονοστοιχείο (maximum pixels) των αρχικών εικόνων. Επέκταση στις μη γραμμικές μεθόδους έγινε με την εισαγωγή μορφολογικών τελεστών και τη συγκρότηση μορφολογικών πύργων [19]. Οι μέθοδοι αυτές βασίζονται στο γεγονός ότι η διαδικασία opening σε μια εικόνα διαβαθμίσεων του γκρίζου αφαιρεί τις φωτεινότερες περιοχές, δηλαδή χαρακτηριστικά που δεν μπορούν να κρατήσουν το structuring element. Η αφαίρεση της εικόνας που προκύπτει από την διαδικασία αυτή από την αρχική εικόνα οδηγεί σε μία άλλη εικόνα, η οποία αποτελείται μόνο από τα χαρακτηριστικά που αφαιρέθηκαν από το structuring element στη διαδικασία opening. Αντίστοιχα συμπεράσματα προκύπτουν για τη διαδικασία closing, όπου η αντίστοιχη εικόνα διαφορών περιέχει τα λιγότερο φωτεινά χαρακτηριστικά της εικόνας. Χρησιμοποιώντας το μορφολογικό θεώρημα δειγματοληψίας μπορούν να δημιουργηθούν πυραμίδες εικόνων. Το πρόβλημα σύνθεσης εικόνων μπορεί να εκφρασθεί και σαν στατιστικό πρόβλημα βελτιστοποίησης. Για παράδειγμα, χρησιμοποιώντας τα αρχικά δεδομένα και ένα a-priori μοντέλο για το αποτέλεσμα της σύνθεσης, ο στόχος μιας Bayesian διαδικασίας είναι να βρεθεί η τελική εικόνα που μεγιστοποιεί την a- posteriori πιθανότητα. Το πρόβλημα αυτό είναι ιδιαίτερα δύσκολο να λυθεί στην γενική του μορφή γι' αυτό εισάγονται διάφορες παραδοχές. Για παράδειγμα, οι αρχικές εικόνες μοντελοποιούνται σαν τυχαία πεδία Markov, ώστε να οριστεί μια συνάρτηση ενέργειας που θα περιγράφει την διαδικασία σύνθεσης. Ο βασικός στόχος της διαδικασίας σύνθεσης είναι να ελαχιστοποιήσει την συνάρτηση ενέργειας. Τα πεδία Markov μπορούν να χρησιμοποιηθούν και για την ταξινόμηση πολυκαναλικών εικόνων [20], 25

27 καθώς παρέχουν ένα μεθοδικό πλαίσιο που επιτρέπει οι εικόνες από διαφορετικούς αισθητήρες αλλά και διάφορα συμπληρωματικά δεδομένα να συγχωνευθούν. Μια άλλη κατηγορία μεθόδων προσπαθεί να προσομοιώσει τον τρόπο που γίνεται η σύνθεση σε διάφορα βιολογικά συστήματα και γι' αυτό βασίζεται σε τεχνητά νευρωνικά δίκτυα. Διάφοροι ερευνητές έχουν μοντελοποιήσει την διαδικασία σύνθεσης πολυδιάστατων εικόνων χρησιμοποιώντας συνδυασμούς νευρωνικών δικτύων. Στις περισσότερες εφαρμογές χρησιμοποιείται το multilayer perceptron, αλλά χρησιμοποιούνται και άλλες αρχιτεκτονικές νευρωνικών δικτύων. Σαν παράδειγμα στην [23] χρησιμοποιείται self-organizing feature map (SOFM) για σύνθεση εικόνων. Σε άλλες περιπτώσεις το πρόβλημα σύνθεσης εικόνων θεωρείται σαν ένα αντίστροφο πρόβλημα (inverse problem) αποκατάστασης (restoration) της εικόνας χρησιμοποιώντας τα αρχικά δεδομένα. Ακόμα στην [24] εφαρμόζεται μια μέθοδος ελαχιστοποίησης της συνάρτησης ενέργειας για το νευρωνικό δίκτυο Hopfield. Οι εικόνες πυραμίδων χρησιμοποιήθηκαν αρχικά για ανάλυση εικόνων σε διαφορετικά επίπεδα (multiresolution). Γενικά, μια εικόνα πυραμίδων αποτελείται από μια σειρά εικόνων, όπου κάθε εικόνα είναι αποτέλεσμα βαθυπερατού φιλτραρίσματος και υποδειγματοληψίας της προηγούμενης. Λόγω της υποδειγματοληψίας, το μέγεθος της εικόνας υποδιπλασιάζεται σε κάθε χωρική διάσταση κατά την διάρκεια της ανάλυσης. Η διαφορά ανάμεσα στην αρχική εικόνα και στη φιλτραρισμένη εικόνα είναι απαραίτητη για ακριβή αναπαραγωγή των αρχικών εικόνων από την πυραμιδική αναπαράσταση. Η προσέγγιση πυραμίδας εικόνων οδηγεί συνήθως στο σχηματισμό δύο πυραμίδων. Η μία περιέχει τα αποτελέσματα της διαδικασίας φιλτραρίσματος και η πυραμίδα διαφορών που περιέχει τις διαφορές των εικονοστοιχείων, δηλαδή τις ακμές. Η πυραμίδα διαφορών αποτελεί μια πολυεπίπεδη αναπαράσταση των ακμών της αρχικής εικόνας εισόδου. Έχουν προταθεί αρκετές διαφοροποιήσεις στο γενικό πυραμιδικό σχήμα που περιγράφηκε πιο πάνω. Στην [22] προτάθηκε μια steerable πυραμίδα που αποτελεί μια πολυ-επίπεδη, διαφορετικών προσανατολισμών και αυτό-αντιστρεφόμενη ανάλυση της εικόνας. Το πλεονέκτημα που παρουσιάζει δεν εξαρτάται από την μετατροπή και την περιστροφή. Η διαδικασία σύνθεσης λαμβάνει χώρα στο πεδίο των συχνοτήτων συνδυάζοντας τους συντελεστές των αρχικών εικόνων. Μια ακόμα τροποποίηση είναι η χρήση μορφολογικών μη γραμμικών φίλτρων που κατασκευάζουν μια μορφολογική πυραμίδα [Δ8]. Μια μέθοδος που παρουσιάζει πολλά κοινά σημεία με τα πυραμιδικά σχήματα είναι και ο μετασχηματισμός κυματιδίου (wavelet transform), που έχει χρησιμοποιηθεί ιδιαίτερα σε εφαρμογές σύνθεσης εικόνων [21, 25] Σύνθεση με χρήση Απλών Υλοποιήσεων Η πιο απλή γραμμική μέθοδος για σύνθεση εικόνων είναι ο υπολογισμός του μέσου όρου των εικόνων (averaging). Το βασικό πλεονέκτημα της μεθόδους είναι ότι μπορεί να υλοποιηθεί σχετικά εύκολα και σε πραγματικό χρόνο δίνοντας ικανοποιητικά αποτελέσματα σε εφαρμογές που δεν υπάρχει ανάγκη υψηλής διακριτικής ικανότητας όπως επιτήρηση χώρων. Από την άλλη πλευρά βασικό μειονέκτημα αποτελεί το γεγονός ότι όλα τα χαρακτηριστικά (features) των αρχικών εικόνων μεταφέρονται στην τελική εικόνα. Ένα ακόμα μειονέκτημα είναι ότι η μέθοδος δεν μπορεί να οδηγήσει σε έγχρωμη fused εικόνα ενώ είναι και ιδιαίτερα ευαίσθητη σε θόρυβο. Επιπρόσθετα, αρκετά συχνά υλοποιούνται και μη γραμμικοί αλγόριθμοι σύνθεσης εικόνων που βασίζονται είτε στην επιλογή του μέγιστου ανάμεσα σε δύο εικονοστοιχεία (select maximum pixel) ή ακόμα και στην επιλογή της ελάχιστης τιμής. Τέτοιες μέθοδοι δίνουν σχετικά καλά αποτελέσματα σε εφαρμογές multi focus. 26

28 2.5. Σύνθεση με Ανάλυση Κύριων Συνιστωσών PCA Οι βέλτιστοι δείκτες, ως προς την διατήρηση του πληροφοριακού περιεχομένου και συμπίεσης της ενέργειας, προκύπτουν από την ανάλυση κύριων συνιστωσών (principal components analysis, PCA). Στην PCA οι στατιστικές ιδιότητες μια πολυδιάστατης οντότητας εικόνων με Μ N εικονοστοιχεία ανά κανάλι και K διαφορετικά κανάλια μπορούν να μελετηθούν, αν κάθε εικονοστοιχείο περιγραφεί σαν ένα διάνυσμα του οποίου οι συνιστώσες είναι οι αντίστοιχες τιμές κάθε καναλιού: x 1 x 2 x = x 3 [ x K ] (2.1) με μέση τιμή m x = E{x} = 1 M N x M N i=1 i. Η διαστατικότητα της μέσης τιμής είναι K, με τις συνιστώσες του να αντιστοιχούν στις μέσες τιμές κάθε καναλιού. Το διάνυσμα μέσης τιμής χρησιμοποιείται για να ορίσει την μέση ή εκτιμώμενη των εικονοστοιχείων στο διανυσματικό χώρο, ενώ ο πίνακας συνδιασποράς περιγράφει την διασπορά τους: M N C x = 1 M N x ix T T i m x mx x i=1 (2.2) Ο πίνακας συνδιασποράς μπορεί να χρησιμοποιηθεί για να ποσοτικοποιήσει την συσχέτιση των καναλιών. Στην περίπτωση υψηλού βαθμού συσχέτισης τα μη--διαγώνια στοιχεία του πίνακα συνδιασποράς θα παίρνουν μεγάλες τιμές. Τα διαγώνια στοιχεία του πίνακα συνδιασποράς είναι οι διασπορές των αρχικών καναλιών. Στην περίπτωση του μετασχηματισμού PCA ο πίνακας C x είναι συμμετρικός, έχει πραγματικές τιμές και έτσι η εύρεση ενός συνόλου ορθοκανονικών ιδιοτιμών είναι πάντα εφικτή. Έστω e i και λ i, όπου i = 1, 2, 3,, K είναι οι ιδιοτιμές και τα ιδιοδιανύσματα του πίνακα C x ταξινομημένα σε φθίνουσα σειρά. Ακόμα, έστω A o πίνακας του οποίου οι γραμμές είναι τα ιδιοδιανύσματα του C x έτσι ώστε η πρώτη γραμμή του A να είναι το ιδιοδιάνυσμα που αντιστοιχεί στη μεγαλύτερη ιδιοτιμή και η τελευταία γραμμή να αντιστοιχεί στο ιδιοδιάνυσμα με τη μικρότερη ιδιοτιμή. Ο πίνακας A μετασχηματίζει τα διανύσματα x στα διανύσματα y σύμφωνα με την σχέση: y = A(x m x ) (2.3) Η μέση τιμή του y που προκύπτει από τον μετασχηματισμό είναι μηδέν και ο αντίστοιχος πίνακας συνδιασποράς C y δίνεται από: C y = AC x A T (2.4) Ο πίνακας συνδιασποράς C y που προκύπτει, είναι ένα διαγώνιος πίνακας του οποίου τα στοιχεία της κύριας διαγωνίου είναι οι ιδιοτιμές C x, δηλαδή: C y = [ λ λ 2 0 ] 0 0 λ Κ (2.5) 27

29 Τα μη διαγώνια στοιχεία του πίνακα συνδιασποράς είναι μηδέν, γεγονός που υποδηλώνει ότι τα στοιχεία του διανυσματικού πληθυσμού y είναι ασυσχέτιστα ή κάθετα μεταξύ τους. Ο μετασχηματισμός αυτός δημιουργεί ένα νέο σύστημα συντεταγμένων του οποίου η αρχή είναι στο κέντρο του διανυσματικού πληθυσμού που προκύπτει και του οποίου οι άξονες είναι τα ιδιοδιανύσματα του πίνακα C x. Αυτό το σύστημα συντεταγμένων δείχνει ξεκάθαρα ότι ο μετασχηματισμός στην εξίσωση (2.3) είναι ένας μετασχηματισμός περιστροφής που στρέφει τα δεδομένα ως προς τα ιδιοδιανύσματα και ο μηχανισμός αυτός οδηγεί σε απο-συσχέτιση των δεδομένων. Η γεωμετρική αυτή ερμηνεία απεικονίζεται και στο Σχήμα 2.3. Σχήμα 2.3: Γεωμετρική ερμηνεία μετασχηματισμού PCA Ο γραμμικός μετασχηματισμός PCA είναι μια από τις πιο συχνά χρησιμοποιούμενες μεθόδους για ανάλυση μεθόδων στο πεδίο της Μηχανικής Όρασης. Δημιουργεί ένα νέο ορθογώνιο διανυσματικό χώρο, όπου το μεγαλύτερο ποσό ενέργειας συγκεντρώνεται σε μικρό αριθμό συνιστωσών. Ο μετασχηματισμός αυτός είναι βέλτιστος με την έννοια ότι η πρώτη κύρια συνιστώσα θα έχει την μεγαλύτερη δυνατή διασπορά και αντίθεση (contrast). Η πρώτη κύρια συνιστώσα μπορεί να απεικονιστεί σαν μια εικόνα διαβαθμίσεων του γκρι με το μέγιστο ποσοστό της ενέργειας και έτσι το μεγαλύτερο ποσοστό οπτικής πληροφορίας. Η παραπάνω ιδιότητα δε διατηρείται στην περίπτωση έγχρωμης εικόνας. Αν οι τρεις πρώτες κύριες συνιστώσες χρησιμοποιηθούν, για να σχηματισθεί μια RGB εικόνα, (για παράδειγμα η πρώτη συνιστώσα σαν κόκκινο κανάλι, η δεύτερη σαν πράσινο και η τρίτη σαν μπλε) το αποτέλεσμα δεν είναι βέλτιστο για το ανθρώπινο οπτικό σύστημα. Αυτό συμβαίνει, γιατί η πρώτη κύρια συνιστώσα (κόκκινο κανάλι) θα έχει ένα μεγάλο βαθμό αντίθεσης, η δεύτερη (πράσινο κανάλι) θα έχει στενότερο ιστόγραμμα τιμών φωτεινότητας και η τρίτη συνιστώσα θα έχει ακόμα μικρότερο εύρος τιμών. Επιπρόσθετα, οι κύριες συνιστώσες που θα χρησιμοποιηθούν σαν RGB κανάλια θα είναι εντελώς ασυσχέτιστες και αυτή είναι μια υπόθεση που δεν ισχύει στις φυσικές έγχρωμες εικόνες [26-28]. Ένα μειονέκτημα του μετασχηματισμού αυτού είναι η υπολογιστική πολυπλοκότητα, όταν αυτός εφαρμόζεται σε υπερφασματικά κυρίως δεδομένα. Ακόμα, λόγω της στατιστικής φύσης του, μπορεί να αποτύχει στην ανάδειξη πληροφορίας που συγκεντρώνεται σε λίγα εικονοστοιχεία. Για παράδειγμα, στην ανάλυση ενός υπερφασματικού συνόλου δεδομένων, όπου μια μικρή περιοχή έχει μεγάλη 28

30 ανακλαστικότητα σε λίγα φασματικά κανάλια, η περιοχή δεν θα αναπαρασταθεί ικανοποιητικά λόγω της συνολικής στατιστικής φύσης του PCA Σύνθεση με την Γραμμική Μέθοδο VTVA Αυτή η μέθοδος έχει σκοπό να δημιουργηθεί μια έγχρωμη εικόνα από το αρχικό πολυφασματικό σύνολο εικόνων, με την μέγιστη δυνατή πληροφορία και βελτιωμένη αναπαράσταση των χαρακτηριστικών που βρίσκονται στις αρχικές εικόνες. Αυτό επιτυγχάνεται με το μετασχηματισμό των πολυφασματικών δεδομένων στον τρισδιάστατο χώρο RGB διατηρώντας όμως τις ιδιότητες συσχέτισης, όπως αυτές εμφανίζονται ανάμεσα στα κανάλια RGB μιας φυσικής εικόνας. Με τον τρόπο αυτό ενσωματώνονται στο μετασχηματισμό βασικά χαρακτηριστικά της ανθρώπινης αντίληψης. Η τελική εικόνα που προκύπτει μπορεί να απεικονισθεί απευθείας σε οποιαδήποτε συσκευή RGB και δεν απαιτείται επιπλέον χρωματικός μετασχηματισμός, όπως στην περίπτωση των [17-18, 29]. Ακόμα ο μετασχηματισμός επιτρέπει τον έλεγχο της συσχέτισης ανάμεσα στα κανάλια RGB της τελικής εικόνας αντίθετα με τον PCA που δημιουργεί συνιστώσες που είναι ασυσχέτιστες μεταξύ τους. Ο γραμμικός μετασχηματισμός είναι της μορφής: y = A T x (2.6) Όπου x και y η διανυσματική αναπαράσταση των αρχικών και τελικών εικόνων αντίστοιχα. Η σχέση ανάμεσα στους πίνακες συνδιασποράς τους είναι: C y = A T C x A (2.7) Όπου ο πίνακας C x είναι ο πίνακας συνδιασποράς των αρχικών δεδομένων x και C y ο πίνακας συνδιασποράς του διανύσματος που προκύπτει από το μετασχηματισμό. Οι απαιτούμενες τιμές των στοιχείων του τελικού πίνακα συνδιασποράς C y βασίζονται στη μελέτη φυσικών έγχρωμων εικόνων. Ανάλογα με την εφαρμογή είναι δυνατό ο χρήστης να επιλέξει τον βαθμό συσχέτισης ανάμεσα στα κανάλια της τελικής εικόνας, δηλαδή τον πίνακα συσχέτισης για την τελική εικόνα. Η χρήση ενός πίνακα συνδιασποράς C y παρόμοιου με αυτούς που απαντώνται στις φυσικές έγχρωμες εικόνες εγγυάται ότι η τελική έγχρωμη εικόνα θα είναι ευχάριστη για ερμηνεία από το ανθρώπινο μάτι. Οι πίνακες C x και C y είναι της ίδιας διάστασης και ο πίνακας μετασχηματισμού Α μπορεί να υπολογισθεί χρησιμοποιώντας παραγοντοποίηση Cholesky. Σύμφωνα με τη μέθοδο αυτή ένας πίνακας positive definite μπορεί να αναλυθεί μέσω ενός άνω τριγωνικού πίνακα Q έτσι ώστε: S = Q T Q (2.8) Οι πίνακες C x και C y χρησιμοποιώντας την παραγοντοποίηση Cholesky μπορούν να γραφούν ως: C x = Q x T Q x (2.9) C y = Q y T Q y (2.10) και τελικά ο πίνακας μετασχηματισμού Α προκύπτει : Α = Q x 1 Q y (2.11) 29

31 Η τελική μορφή του πίνακα μετασχηματισμού Α δείχνει ότι ο προτεινόμενος μετασχηματισμός εξαρτάται από τις στατιστικές ιδιότητες του αρχικού συνόλου πολυφασματικών δεδομένων - εικόνων. Επιπρόσθετα, στο σχεδιασμό του μετασχηματισμού, οι στατιστικές ιδιότητες των φυσικών έγχρωμων εικόνων λαμβάνονται υπ' όψιν μέσω του πίνακα Q y. Ο τελικός διανυσματικός πληθυσμός y είναι της ίδιας διάστασης με τον αρχικό διανυσματικό πληθυσμό x, αλλά η πληροφορία πλέον περιέχεται στις τρεις πρώτες συνιστώσες οι οποίες θα σχηματίσουν την τελική έγχρωμη εικόνα. Ο υπολογισμός του επιθυμητού πίνακα συνδιασποράς C y βασίζεται στις στατιστικές ιδιότητες των φυσικών έγχρωμων εικόνων, αλλά μπορεί να συμπεριλάβει και απαιτήσεις που τίθενται από τη συγκεκριμένη εφαρμογή ή τον ειδικό που θα χρησιμοποιήσει την εικόνα. Η σχέση ανάμεσα στον πίνακα συνδιασποράς C y και στον πίνακα των συντελεστών συσχέτισης R y δίνεται από την εξίσωση: Όπου: Σ = [ C y = ΣR y Σ Τ (2.12) σ y σ y σ yk] (2.13) είναι ο πίνακας με τις διασπορές (ή τις τυπικές αποκλίσεις) των νέων διανυσμάτων στην κύρια διαγώνιο και 1 r R,G r R y = [ G,R ] 1 (2.14) είναι ο πίνακας με τους επιθυμητούς συντελεστές συσχέτισης. Τα βήματα υλοποίησης του προτεινόμενου αλγόριθμου μπορούν να περιγραφούν περιληπτικά ως εξής: Καθορισμός του επιθυμητού πίνακα R y (εξίσωση 2.14) και υπολογισμός του αντίστοιχου πίνακα C y με χρήση της εξίσωσης Υπολογισμός του πίνακα C x από τα αρχικά πολυφασματικά δεδομένα. Υπολογισμός των πινάκων Q x και Q y από τους C x και C y χρησιμοποιώντας την παραγοντοποίηση Cholesky. Υπολογισμός του πίνακα μετασχηματισμού A χρησιμοποιώντας την εξίσωση Σύνθεση βασισμένη στο Μετασχηματισμό Κυματιδίου Γενικά, το πρόβλημα που προσπαθεί να λύσει μια μέθοδος σύνθεσης εικόνων είναι ο συνδυασμός πληροφορίας από διαφορετικές εικόνες (ή αισθητήρες), ώστε να προκύψει μια τελική εικόνα που θα περιέχει όλη την πληροφορία των αρχικών εικόνων. Με αυτό τον τρόπο η τελική εικόνα θα παρουσιάζει καλύτερη ποιότητα από οποιαδήποτε από τις αρχικές εικόνες. Οι μέθοδοι σύνθεσης εικόνων που 30

32 βασίζονται στον μετασχηματισμό κυματιδίου (wavelet transform) [25, 30-33] στηρίζονται στις παρακάτω βασικές ιδιότητες: Ο μετασχηματισμός κυματιδίου είναι κατάλληλος, καθώς παρέχει διαφορετικά επίπεδα ανάλυσης (multiscale, multiresolution). Τα τελευταία χρόνια έχουν προταθεί διάφοροι πυραμιδικοί μετασχηματισμοί ενός σήματος ή μιας εικόνας και έχουν βρει μεγάλο πλήθος εφαρμογών στην επεξεργασία εικόνας αλλά και στην σύνθεση εικόνων. Ο διακριτός μετασχηματισμός κυματιδίου (discrete wavelet transform)} επιτρέπει την πολυεπίπεδη ανάλυση εικόνας σε συντελεστές διαφορετικού είδους διατηρώντας με τον τρόπο αυτό την πληροφορία της αρχικής εικόνας. Οι συντελεστές που προκύπτουν από τις διαφορετικές εικόνες μπορούν να συνδυασθούν κατάλληλα για να προκύψουν νέοι συντελεστές, με στόχο να συλλεχθεί η πληροφορία από όλες τις εικόνες. Όταν οι συντελεστές συγχωνευθούν, η τελική εικόνα προκύπτει με την εφαρμογή του αντίστροφου διακριτού μετασχηματισμού κυματιδίου (inverse discrete wavelet transform) στους συγχωνευμένους συντελεστές, όπου έχει διατηρηθεί η αρχική πληροφορία. Σχήμα 2.4: Μέθοδοι σύνθεσης βασισμένες στον μετασχηματισμό κυματιδίου (a) εικόνες με ίδια ανάλυση και (b) εικόνες με διαφορετική ανάλυση 31

33 Η διαδικασία κλειδί σε μια μέθοδο σύνθεσης εικόνων που βασίζεται στο μετασχηματισμό κυματιδίου είναι ο συνδυασμός των συντελεστών, δηλαδή η διαδικασία κατάλληλης συγχώνευσης των συντελεστών, ώστε να προκύψει μια εικόνα με αυξημένη ποιότητα. Το διάγραμμα μιας γενικής μεθόδου σύνθεσης που βασίζεται στον μετασχηματισμό κυματιδίου φαίνεται στο Σχήμα 2.4. Στην περίπτωση που πρόκειται να συντεθούν εικόνες με διαφορετικό μέγεθος είναι απαραίτητη μια διαδικασία παρεμβολής. Περισσότερες λεπτομέρειες για την εφαρμογή του μετασχηματισμού κυματιδίου μπορούν να βρεθούν στην [25]. Στο σημείο αυτό η έμφαση θα δοθεί στο συνδυασμό των συντελεστών που προκύπτουν από το μετασχηματισμό. Ο συνδυασμός γίνεται μόνο ανάμεσα σε συντελεστές του ίδιου επιπέδου ανάλυσης [31]. Ο πιο απλός κανόνας σύνθεσης, αλλά συνάμα ιδιαίτερα αποτελεσματικός, είναι βασισμένος στη διαδικασία του μεγίστου. Δηλαδή απλά επιλέγεται ο μεγαλύτερος από τους συντελεστές κυματιδίου που αντιστοιχεί σε κάθε εικόνα. Α (i) (p) = max (A x (p), A y (p) ) (2.15) Σαν A x, A y συμβολίζονται οι συντελεστές των αρχικών εικόνων X, Y. Μια παραλλαγή της μεθόδου είναι και η χρήση της απόλυτης τιμής των συντελεστών A x (p), A y (p). Ο συντελεστής που έχει την μέγιστη τιμή θα αποδίδει καλύτερα και τα χαρακτηριστικά που βρίσκονται στις αρχικές εικόνες. Μια δεύτερη, συχνά χρησιμοποιούμενη επιλογή, είναι η χρήση του μέσου όρου των συντελεστών. Με αυτό τον τρόπο συνδυάζονται όλοι οι συντελεστές και λαμβάνονται υπόψη τα χαρακτηριστικά όλων των εικόνων. Μια άλλη τεχνική συνδυασμού των συντελεστών είναι αυτή του βεβαρυμένου μέσου όρου (weighted average). Στην περίπτωση αυτή κάθε συγχωνευμένος συντελεστής για την θέση p ισούται με: D (z) (p) = w x (p)d x (p) + w y (p)d y (p) (2.16) όπου D x (p) είναι η ενέργεια στην θέση p και ορίζεται σαν D x (p) = A x (p) ή D x (p) = (A x (p)) 2. Τα βάρη w x και w y κάθε φορά δίνουν το επίπεδο δραστηριότητας (activity zones) σε μια γειτονιά 3 3 ή 5 5. Ο μετασχηματισμός κυματιδίου έχει εφαρμοσθεί ευρύτατα σε μεθόδους σύνθεσης εικόνων για δεδομένα Τηλεπισκόπησης, για ιατρικές εικόνες και για περιπτώσεις multifocus εικόνων. Η μεγάλη ποικιλία συναρτήσεων κυματιδίου, πυραμιδικών σχημάτων και τρόπου συνδυασμού των συντελεστών έχει σαν αποτέλεσμα ένα πολύ μεγάλο αριθμό μεθόδων σύνθεσης εικόνων. Από την άλλη μεριά δεν υπάρχει ένα γενικό σχήμα σύνθεσης που να μπορεί να εφαρμοσθεί σε οποιοδήποτε είδος δεδομένων χωρίς να χρειάζεται να γίνουν δοκιμές για τον μετασχηματισμό κυματιδίου ή τον τρόπο συνδυασμού των συντελεστών Μορφολογικά Φίλτρα για την Σύνθεση Δεδομένων Η πιο ενδιαφέρουσα μέθοδος σύνθεσης εικόνων που βασίζεται σε μορφολογικά φίλτρα παρουσιάστηκε στην [19]. Πιο συγκεκριμένα, παρουσιάστηκε μια μέθοδος βασισμένη σε πολυεπίπεδη μορφολογία (multiscale morphology) η οποία εφαρμόσθηκε στην σύνθεση MRI και CT εικόνων. Η μαθηματική μορφολογία είναι ένα ισχυρό εργαλείο που χρησιμοποιείται συχνά στο πεδίο της επεξεργασίας εικόνας και της μηχανικής όρασης. Οι βασικές μορφολογικές διαδικασίες είναι η διάβρωση (erosion) και η διαστολή (dilation). Άλλες διαδικασίες όπως αυτή του ανοίγματος (opening) και του κλεισίματος (closing) είναι διαδοχικοί συνδυασμοί της διάβρωσης (διαστολής) και διαστολής (διάβρωσης). Η πράξη της διαστολής για μια εικόνα διαβαθμίσεων του γκρίζου f(x, y) με ένα δομικό στοιχείο (structuring element) B ορίζεται ως: (f B)(x, y) = max {f(x k, y l) (k. l) B} (2.17) 32

34 Με το ίδιο τρόπο η διάβρωση του f(x, y) με το B ορίζεται ως: (f B)(x, y) = min{f(x + k, y + l) (k. l) B} (2.18) Το σχήμα του δομικού στοιχείου B παίζει ιδιαίτερα σημαντικό ρόλο σχετικά με τα χαρακτηριστικά ή τα αντικείμενα δεδομένου σχήματος που θα εξαχθούν από την εικόνα. Αρκετές φορές, για μια αποτελεσματική εξαγωγή χαρακτηριστικών ή αντικειμένων βάσει σχήματος ή μεγέθους, πρέπει να εισαχθεί και μια δεύτερη παράμετρος, εκτός από το δομικό στοιχείο, το οποίο είναι η κλίμακα (scale). Μια μορφολογική διαδικασία με ένα κλιμακούμενο δομικό στοιχείο μπορεί να εξάγει χαρακτηριστικά βάσει του σχήματος και του μεγέθους ταυτόχρονα. Αυτό το σχήμα μορφολογικών πράξεων αναφέρεται συνήθως σαν κλιμακωτή μορφολογία (multiscale morphology). Οι κλιμακωτές πράξεις ανοίγματος και κλεισίματος ορίζονται αντίστοιχα ως: (f B)(x, y) = ((f nb) nb)(x, y) (2.19) (f B)(x, y) = ((f nb) nb)(x, y) (2.20) όπου B είναι ένα σύνολο που αναπαριστά το δομικό στοιχείο ενός συγκεκριμένου σχήματος και n ένας ακέραιος αριθμός που αναπαριστά την κλίμακα του δομικού στοιχείου. Έτσι, σαν B = {(x, y)}, nb = {(nx, ny)} για n = 1,2, αναπαριστάται μια οικογένεια δομικών στοιχείων. Η βασική ιδέα της μεθόδου σύνθεσης εικόνων στηρίζεται στο γεγονός ότι, αν εφαρμοσθεί η διαδικασία ανοίγματος σε μια εικόνα διαβαθμίσεων του γκρίζου, αφαιρούνται από την εικόνα οι πιο φωτεινές περιοχές ή αντικείμενα που δεν μπορούν να κρατήσουν το δομικό στοιχείο. Η αφαίρεση της εικόνας που προκύπτει από την διαδικασία ανοίγματος από την αρχική εικόνα έχει σαν αποτέλεσμα μια εικόνα που αποτελείται μόνο από τα αντικείμενα ή χαρακτηριστικά τα οποία αφαιρέθηκαν κατά την διαδικασία ανοίγματος. Αντίστοιχες ιδιότητες προκύπτουν και για την περίπτωση της μορφολογικής διαδικασίας κλεισίματος. Η αφαίρεση της αρχικής εικόνας από την εικόνα που προκύπτει από τη διαδικασία κλεισίματος έχει σαν αποτέλεσμα μια εικόνα με σκοτεινά αντικείμενα απέναντι σε ένα φωτεινό υπόβαθρο. Το δομικό στοιχείο που χρησιμοποιήθηκε είναι ένα κυκλικός δίσκος ή καλύτερα η προσέγγιση ενός κυκλικού δίσκου. Η διαδικασία κλιμάκωσης προκύπτει από την αύξηση της ακτίνας του κύκλου αυτού. Στη συνέχεια χρησιμοποιώντας αυτό το δομικό στοιχείο χτίζονται οι λεγόμενοι μορφολογικοί πύργοι. Με την έννοια πύργος αναφερόμαστε σε μια διάταξη εικόνων που έχουν προκύψει σαν αποτέλεσμα των μορφολογικών διαδικασιών ανοίγματος ή κλεισίματος με διαφορετικές κλίμακες του δομικού στοιχείου κάθε φορά. Έτσι, στην περίπτωση που χρησιμοποιηθούν εικόνες MRI και CT, η i εικόνα του μορφολογικού πύργου ανοίγματος αποτελείται από την εικόνα που έχει προκύψει από τη διαδικασία ανοίγματος με το δομικό στοιχείο ib. Δημιουργούνται με τον τρόπο αυτό τέσσερις πύργοι για τη διαδικασία ανοίγματος και κλεισίματος των εικόνων MRI και CT αντίστοιχα, οι οποίοι ορίζονται ως: (CT ib) = (CT ib) ib (2.21) (MR ib) = (MR ib) ib (2.22) (CT ib) = (CT ib) ib (2.23) (MR ib) = (MR ib) ib (2.24) 33

35 για i = 0,1,, n όπου CT 0B = CT, MR 0B = MR, CT 0B = CT και MR 0B = MR. Ακόμα να σημειωθεί ότι το δομικό στοιχείο Β έχει μοναδιαίο εμβαδόν. Στη συνέχεια δημιουργούνται τέσσερις πύργοι διαφορών για τις μορφολογικές διαδικασίες ανοίγματος και κλεισίματος. Οι τέσσερις νέοι αυτοί πύργοι προκύπτουν από τη διαφορά των διαδοχικών ζευγαριών των εικόνων που έχουν προκύψει από τις μορφολογικές πράξεις χρησιμοποιώντας το δομικό στοιχείο με δύο διαδοχικές κλίμακες. Στο σχήμα 2.5 απεικονίζεται η διαδικασία κατασκευής των μορφολογικών πύργων. Έτσι, η i είσοδος στον πίνακα διαφορών για τις μορφολογικές διαδικασίες θα είναι: D op CT (i) = (CT (i 1)B) (CT ib) (2.25) D op MR (i) = (MR (i 1)B) (MR ib) (2.26) D cl CT (i) = (CT (i 1)B) (CT ib) (2.27) D cl MR (i) = (MR (i 1)B) (MR ib) (2.28) για i = 1, 2,, n. Σχήμα 2.5: Μορφολογικοί πύργοι 34

36 Μετά από αυτό το βήμα τα διάφορα χαρακτηριστικά ή αντικείμενα των αρχικών εικόνων βρίσκονται στους πύργους διαφορών σε διαφορετικές θέσεις ανάλογα με την κλίμακά τους. Η δημιουργία της τελικής εικόνας, που θα προκύψει από τη σύνθεση, θα βασιστεί σε όλους τους πύργους. Αν ένα χαρακτηριστικό ή αντικείμενο βρίσκεται και στις δύο εικόνες, άρα σε δύο πύργους, θα πρέπει να γίνει κατάλληλη σύνθεση, ώστε να ενσωματωθεί μία μόνο φορά στην τελική εικόνα. Για αυτό τον λόγο, δημιουργούνται δύο νέοι πύργοι (ένας για τη διαδικασία ανοίγματος και ένας για αυτήν του κλεισίματος) λαμβάνοντας τη μέγιστη τιμή των συντελεστών από τους τέσσερις αρχικούς πίνακες. Η είσοδος i αυτών των πύργων προκύπτει ως: C op (i) = max {D op CT (i), D op MR (i)} (2.29) C cl (i) = max {D cl CT (i), D cl MR (i)} (2.30) για i = 1,2,, n. Η ανακατασκευή της τελικής εικόνας απαιτεί την άθροιση όλων των εικόνων του τελικού πίνακα που αντιστοιχεί στην διαδικασία ανοίγματος. Το αποτέλεσμα είναι μια εικόνα που αποτελείται από όλα τα φωτεινά χαρακτηριστικά ή αντικείμενα που βρίσκονται τουλάχιστον σε μία από τις αρχικές εικόνες: n S op = C op (i) i=1 (2.31) Η ίδια διαδικασία εφαρμόζεται και για τον πύργο που αντιστοιχεί στη διαδικασία κλεισίματος. Το αποτέλεσμα είναι μια εικόνα που αποτελείται από τα λιγότερο φωτεινά στοιχεία όλων των διαστάσεων που βρίσκονται τουλάχιστον σε μία από τις αρχικές εικόνες: n S cl = C cl (i) i=1 (2.32) Στη συνέχεια, εφαρμόζεται σε κάθε εικονοστοιχείο ο τελεστής ελαχίστου (μεγίστου) για τις εικόνες MRI και CT μετά την διαδικασία ανοίγματος (κλεισίματος) με το δομικό στοιχείο nb. Έπειτα υπολογίζεται ο μέσος όρος των δύο εικόνων που προκύπτουν ως εξής: M X = max {CT nb, MR nb} (2.33) M N = min{ct nb, MR nb} (2.34) A= average(m X, M N ) (2.35) Η τελική εικόνα που είναι το αποτέλεσμα της σύνθεσης των αρχικών εικόνων ισούται με: FUSE = A + 0.5S op 0.5S cl (2.36) 35

37 2.9. Μη Αρνητική Παραγοντοποίηση Πίνακα (Non negative matrix factorization NMF) Οι μη-επιβλεπόμενες μέθοδοι (unsupervised methods) εξαγωγής χαρακτηριστικών από ένα σύνολο δεδομένων, όπως οι μέθοδοι ανάλυσης κυρίων συνιστωσών και η ανάλυση σε ανεξάρτητες συνιστώσες (indepent component analysis, ICA), μπορούν να θεωρηθούν σαν μέθοδοι παραγοντοποίησης των δεδομένων ενός πίνακα κάτω από διαφορετικές συνθήκες κάθε φορά. Ανάλογα με τους περιορισμούς ή τις συνθήκες που χρησιμοποιήθηκαν οι παράγοντες ή οι συνιστώσες που προκύπτουν είναι διαφορετικοί και παρουσιάζουν άλλες ιδιότητες αναπαράστασης. Η μη-αρνητική παραγοντοποίηση πίνακα (non-negative matrix factorization, NMF) διαφοροποιείται από τις άλλες τεχνικές, καθώς χρησιμοποιεί μη-αρνητικές συνθήκες. Οι συνθήκες αυτές οδηγούν σε μια τμηματοποιημένη αναπαράσταση (part-based representation), γιατί επιτρέπουν μόνο προσθετικούς και όχι αφαιρετικούς γραμμικούς συνδυασμούς. Από την άλλη μεριά η ανάλυση κύριων συνιστωσών στηρίζεται μόνο στην πιο χαλαρή συνθήκη της ορθογωνιότητας. Η μη-αρνητικότητα είναι μια χρήσιμη συνθήκη για παραγοντοποίηση πίνακα που κάνει την μέθοδο NMF μια χρήσιμη προσέγγιση ανάλυση πολυδιαστατικών δεδομένων. Η μέθοδος NMF χρειάζεται αλγορίθμους για την επίλυση του ακόλουθου προβλήματος: δεδομένου ενός μη-αρνητικού πίνακα V, πρέπει να βρεθούν μη αρνητικοί παράγοντες ή χαρακτηριστικά W και H έτσι ώστε: V WH (2.37) Η NMF μπορεί να εφαρμοσθεί σε στατιστική ανάλυση πολυδιάστατων δεδομένων με τον παρακάτω τρόπο. Έστω ένα σύνολο δεδομένων με πολλές μεταβλητές με διανύσματα n διαστάσεων. Τα διανύσματα αυτά μπορεί να θεωρηθούν ότι είναι οι στήλες ενός πίνακα V διαστάσεων n m όπου m είναι ο αριθμός των δειγμάτων ενός συνόλου δεδομένων. Ο πίνακας αυτός στην συνέχεια παραγοντοποιείται σε ένα n r πίνακα W και ένα r m πίνακα H. Συνήθως το r είναι μικρότερο από το n και το m, έτσι ώστε οι πίνακες W και H να έχουν μικρότερη διάσταση από τον αρχικό πίνακα V. Η προσέγγιση στην εξίσωση (2.37) μπορεί να ξαναγραφεί στήλη με στήλη σαν v Wh όπου v και h είναι οι αντίστοιχες στήλες των πινάκων V και H. Με άλλα λόγια, κάθε διάνυσμα δεδομένων v προσεγγίζεται σαν ένας γραμμικός συνδυασμός των στηλών του πίνακα W, βεβαρυμένα με τους συντελεστές του h. Με αυτό τον τρόπο ο πίνακας W μπορεί να θεωρηθεί ότι αποτελεί μια βάση, η οποία βελτιστοποιείται μέσω ενός γραμμικού συνδυασμού των δεδομένων του πίνακα V. Καθώς σχετικά λίγα διανύσματα βάσης χρησιμοποιούνται για να αναπαρασταθούν τα αρχικά διανυσματικά δεδομένα, μια καλή αναπαράσταση μπορεί να επιτευχθεί αν τα διανύσματα βάσης ανακαλύψουν μια λανθάνουσα δομή των δεδομένων. Η υλοποίηση της μεθόδου NMF βασίζεται συνήθως σε επαναληπτικές ανανεώσεις των πινάκων W και H και έχουν μεγάλη εφαρμογή σε πρακτικές εφαρμογές. Είναι πιθανόν άλλοι αλγόριθμοι να είναι πιο αποτελεσματικοί, αν υπολογιστεί ο συνολικός υπολογιστικός χρόνος που απαιτείται, αλλά από την άλλη πλευρά η υλοποίησή τους μπορεί να είναι πιο δύσκολη. Σε κάθε επανάληψη του αλγορίθμου η νέα τιμή του W και ή του H υπολογίζεται πολλαπλασιάζοντας την τρέχουσα τιμή με ένα παράγοντα που εξαρτάται από την ποιότητα της προσέγγισης στην εξίσωση (2.37). Έχει αποδειχθεί στην [34] ότι η ποιότητα της προσέγγισης ανανεώνεται μονοτονικά με την εφαρμογή των πολλαπλασιαστικών κανόνων ενημέρωσης. Πρακτικά, αυτό σημαίνει ότι η συνεχής επανάληψη των κανόνων ενημέρωσης εγγυάται την σύγκλιση σε ένα τοπικό βέλτιστο σημείο παραγοντοποίησης. Για να βρεθεί μια προσεγγιστική παραγοντοποίηση V WH, χρειάζεται να οριστεί μια συνάρτηση κόστους (cost function). Μια τέτοια συνάρτηση κόστους μπορεί να βασιστεί σε κάποια απόσταση 36

38 ανάμεσα στους δύο μη-αρνητικούς πίνακας V και (WH). Ένα αποτελεσματικό μέτρο είναι η νόρμα της διαφοράς ανάμεσα στους V και (WH) ως: V WH 2 = (V ij WH ij ) 2 ij (2.38) Η ποσότητα αυτή έχει κάτω όριο το μηδέν και ελαχιστοποιείται μόνο όταν V= WH. Παρόλο που οι συναρτήσεις V WH 2 και D(V (WH)) είναι κυρτές (convex) ως προς W ή ως προς H μόνο, δεν είναι κυρτές και στις δύο διευθύνσεις ταυτόχρονα. Για τον λόγο αυτό δεν είναι εφικτό ένας αλγόριθμος να βελτιστοποιήσει τις συναρτήσεις αυτές βρίσκοντας ένα ολικό ελάχιστο. Παρόλα αυτά υπάρχουν πολλές αριθμητικές τεχνικές που μπορούν να εφαρμοστούν για την εύρεση ενός τοπικού ελαχίστου. Η μέθοδος μείωσης της βάθμωσης (gradient descent) είναι ίσως η πιο απλή τεχνική για να υλοποιηθεί αλλά η σύγκλιση μπορεί να είναι αργή και οδηγεί πάντα στο πιο γειτονικό τοπικό ελάχιστο. Άλλες μέθοδοι, όπως οι συζευγμένες βαθμώσεις (conjugate gradient), έχουν πιο γρήγορη σύγκλιση, τουλάχιστον ως προς τα γειτονικά τοπικά ελάχιστα, αλλά η υλοποίησή τους είναι πιο πολύπλοκη συγκριτικά με αυτή του gradient descent. Η σύγκλιση των μεθόδων που βασίζονται στην βάθμωση έχει ακόμα το μειονέκτημα να εξαρτάται πολύ από την επιλογή του βήματος, κάτι που μπορεί να δημιουργήσει σοβαρό πρόβλημα στην περίπτωση μεγάλων συνόλων δεδομένων. Ένας πολλαπλασιαστικός κανόνας ενημέρωσης αποτελεί συνήθως έναν καλό συμβιβασμό ανάμεσα στην ταχύτητα και την ευκολία υλοποίησης για την εύρεση ενός τοπικού ελάχιστου για τις παραπάνω συναρτήσεις κόστους. Η νόρμα V WH 2 δεν αυξάνει την τιμή της σύμφωνα με τους κανόνες ανανέωσης: (W T W) i (2.39) H i+1 = H i (W T WH) i (VH T ) i (2.40) W i+1 = W i (WHH T ) i Η συνάρτηση κόστους είναι αμετάβλητη σε αυτούς τους κανόνες ενημέρωσης (update rule), αν οι W και H είναι σε ένα σταθερό σημείο. Προκύπτει επίσης ότι ο παραπάνω πολλαπλασιαστικός παράγοντας ισούνται με την μονάδα όταν V = WH, δηλαδή όταν ο αλγόριθμος φτάσει σε ένα σταθερό σημείο. Στην περίπτωση αυτή είναι δυνατή η πλήρης ανακατασκευή του συνόλου δεδομένων από τα τελικά χαρακτηριστικά που θα εξαχθούν. 37

39 Κεφάλαιο 3 Data Registration Η ανάγκη για registration προβάλλει όταν έχουμε δεδομένα από πολλούς αισθητήρες ίδιου ή διαφορετικού τύπου που παρατηρούν το ίδιο γεγονός. Η είσοδος στη διαδικασία του registration μπορεί να είναι απλά δεδομένα χαρακτηριστικά ή αποφάσεις. Η διαδικασία είναι θεωρητικά παρόμοια με τη χρήση επαναληπτικών μετρήσεων για να προσδιορίσουμε τις τιμές στατιστικών παραμέτρων. Το ουσιαστικό βήμα προεπεξεργασίας για να μπορούν όλες οι μετρήσεις από τους ανεξάρτητους αισθητήρες να είναι συγκρίσιμες είναι να μετασχηματιστούν όλα τα δεδομένα σε ένα κοινό σύστημα συντεταγμένων. Αυτός είναι και ο ορισμός του Data Registration. Συνήθως, σε μια φάση προεπεξεργασίας χρησιμοποιούμε για registration μόνο raw data και features. Τα δεδομένα από τους αισθητήρες μπορούν να είναι πολλών διαστάσεων. Δεν είναι απαραίτητο ο αριθμός των διαστάσεων να είναι ακέραιος. Ανάλογα με τους τύπους των αισθητήρων που χρησιμοποιούνται, η εξαίρεση δεδομένων μπορεί να είναι ένα πρόβλημα σε δεδομένα με περισσότερες από δύο διαστάσεις, γεγονός που οδηγεί στην απόκρυψη δεδομένων λόγω της σχετικής θέσης αντικειμένων στο περιβάλλον. Τα ανταγωνιστικά δίκτυα αισθητήρων αποτελούνται από ένα μεγάλο αριθμό φυσικών αισθητήρων που δίνουν μετρήσεις τουλάχιστον μερικώς επαναλήψιμες. Το registration και σε αυτές τις περιπτώσεις αναφέρεται στην σωστή ταυτοποίηση της μιας εικόνας πάνω στην άλλη [7]. Συνήθως, μία από τις εικόνες χρησιμοποιείται ως εικόνα αναφοράς. Οι μέθοδοι που υπάρχουν στο image registration έχουν αρχή από τότε που ξεκίνησε η χαρτογραφία Ανασκόπηση της Έρευνας σε Registration Στη συνέχεια θα δώσουμε μερικούς αλγόριθμους και κυρίως μεθοδολογίες που χρησιμοποιούνται αυτή τη στιγμή για registration. Οι κλασικές μέθοδοι για registration δύο εικόνων αποτελούν επέκταση των μεθόδων που χρησιμοποιούνται στη χαρτογραφία. Προσδιορίζεται ένας αριθμός σημείων ελέγχου (control points) και στις δύο εικόνες. Τα control points ταιριάζονται και το ταίριασμα αυτό οδηγεί σε εξισώσεις, οι οποίες παρεμβάλουν όλα τα σημεία της νέας εικόνας σε αντίστοιχα σημεία στην εικόνα αναφοράς [15,16]. Τα control points πρέπει να είναι μοναδικά και εύκολα αναγνωρίσιμα και στις δύο εικόνες. Τοποθετούνται από τον ερευνητή στην εικόνα με σιγουριά και μπορεί να είναι ακμές, παράξενα σημεία της εικόνας, διασταυρώσεις γραμμών ή σημεία υψηλής κυρτότητας [17,18]. Ο τύπος των control points, που θα χρησιμοποιηθούν, συνήθως εξαρτάται από την εφαρμογή και το περιεχόμενο της εικόνας. Όταν ταυτοποιούνται εικόνες από διαφορετικού είδους αισθητήρες, πρέπει να χρησιμοποιηθούν ως control points χαρακτηριστικά που είναι αμετάβλητα στη διαφορετικότητα των αισθητήρων. Μια προφανής μέθοδος για να ταυτοποιήσουμε τα control points είναι να συσχετίσουμε τη διαθέσιμη εικόνα με την εικόνα αναφοράς [28, 29]. Επίσης, ευρέως χρησιμοποιούμενες προσεγγίσεις υπολογίζουν την transformation matrix ή χρησιμοποιούν υπολογιστικές μεθόδους, όπως relaxation και hill climbing [28, 29, 30, 31, 32]. Άλλες τεχνικές χρησιμοποιούν εντροπία και κοινή πληροφορία (mutual information) για την ταυτοποίηση. Ανάλογα με το είδος των αισθητήρων είναι σημαντική η επιλογή της κατάλληλης μεθόδου για ταυτοποίηση. 38

40 Έχει υλοποιηθεί ταυτοποίηση δεδομένων από πολλούς αισθητήρες για να δημιουργηθεί σκηνή τριών διαστάσεων [37]. Μια άλλη μέθοδος [10], χρησιμοποιεί simulated annealing και γενετικούς αλγόριθμους για να γίνει καλή προσαρμογή μεταξύ των δύο εικόνων. Στην εργασία αυτή, έχει βρεθεί ένας μετασχηματισμός rubber sheet, ο οποίος ταιριάζει δύο εικόνες, εφαρμόζοντας γραμμική παρεμβολή γύρω από τέσσερα control points. Μια παρόμοια μέθοδος προτάθηκε από τον Ματσόπουλο [39]. Ένας μεγάλο αριθμός ερευνητών έχει χρησιμοποιήσει μεθόδους πολλαπλής ανάλυσης στους αλγορίθμους τους [9, 10]. Επίσης, ένας αριθμός μεθόδων έχει προταθεί για ταίριασμα όλης της εικόνας γύρω από τα control points χρησιμοποιώντας γραμμική παρεμβολή [10]. Η χρήση ενός μικρού αριθμού από control points δεν αποτελεί τετριμμένο πρόβλημα και έχει έναν αριθμό από έμφυτα μειονεκτήματα. Για παράδειγμα τα control points μπορεί να έχουν επηρεαστεί από θόρυβο μέτρησης, ενώ άλλες φορές κάποια control points δεν υπάρχουν σε μία από τις εικόνες. Αυτό απαιτεί να θεωρήσουμε ένα ισχυρό set από control points. Επίσης, πολλοί αλγόριθμοι προσπαθούν να ελαχιστοποιήσουν το τετραγωνικό σφάλμα πάνω σε όλη την εικόνα, παρόλα αυτά δεν υπολογίζουν την επίδραση του θορύβου στην εικόνα [9, 10]. Τέλος, πρέπει να σημειώσουμε ότι σε πολλές εφαρμογές δεν είναι μόνο η χωρική ταυτοποίηση απαραίτητη αλλά και η χρονική [21] Προεπεξεργασία για Registration Η δυσκολία στο registration αφορά στο γεγονός ότι τα περιεχόμενα στις διαφορετικές εικόνες είναι το ίδιο σημασιολογικά αλλά διαφέρουν στις τιμές τους. Για παράδειγμα, οι εικόνες που λαμβάνονται με αισθητήρες σε διαφορετικές χρονικές στιγμές της ημέρας μπορούν να οδηγήσουν σε διαφορετικές τιμές των pixels λόγω αλλαγής φωτισμού. Επίσης, οι αλλαγές του καιρού μπορούν να προκαλέσουν σημαντικές αλλαγές στα δεδομένα. Registration σε τέτοιου είδους δεδομένα μπορεί να βελτιωθεί αφού πρώτα προεπεξεργαστούμε τα δεδομένα [54]. Σε μερικά συστήματα που χειριζόμαστε διαφορετικά είδη δεδομένων, το registration μπορεί να απαιτεί τη βοήθεια του ανθρώπου. Ένα τέτοιο σύστημα περιγράφεται στην [22] και το οποίο βοηθάει για να παρθούν αποφάσεις και να γίνουν επικοινωνίες σε σενάρια καταστροφών Registration χρησιμοποιώντας «Ελαστικούς Μετασχηματισμούς» Σε πολλά προβλήματα registration γίνεται η παραδοχή ότι οι εικόνες υπόκεινται μόνο σε μετασχηματισμούς στερεού σώματος. Δυστυχώς αυτή η παραδοχή σπάνια ισχύει. Οι περισσότερες τεχνολογίες στηρίζονται σε φακούς που αναδιπλώνουν τα δεδομένα ή έχουν τοπικές ατέλειες, οι οποίες κάνουν τη διαδικασία χαρτογράφησης περίπλοκη. Αυτός είναι ο λόγος για τον οποίο συχνά χρησιμοποιούνται οι ελαστικοί μετασχηματισμοί για την ακριβή ταυτοποίηση των εικόνων [23]. Ταυτόχρονα να έχουν χρησιμοποιηθεί τα B-splines σαν βασικές συναρτήσεις για registration [27, 55]. Στην εργασία [56] έχει χρησιμοποιηθεί ελαστική χαρτογράφηση, όπου έχει μετατραπεί το μονοδιάστατο πρόβλημα σε δισδιάστατο. Τέλος, στην εργασία [57], συγκρίνονται ελαστικές τεχνικές registration για προβλήματα που ορίζονται από συγκεκριμένα control points και διάφορες αποστάσεις μεταξύ των control points. Όταν ο αριθμός των control points είναι μεγάλος, ένας βεβαρημένος μέσος όρος είναι επιθυμητός. 39

41 3.4. Image Registration διαφορετικών αισθητήρων (Multimodal) Το multimodal registration είναι σημαντικό σε πάρα πολλές εφαρμογές. Αυτό συμβαίνει γιατί οι διαφορετικού τύπου αισθητήρες παρέχουν και διαφορετικού τύπου πληροφορίες για το φαινόμενο. Ταυτόχρονα, όλο και πιο πολλοί δορυφόροι που δίνουν δεδομένα σε διαφορετικές συχνότητες είναι διαθέσιμοι. Αυτό τελικά σημαίνει ότι οι τιμές των pixels στις διαφορετικές εικόνες μπορεί να έχουν τελείως διαφορετική σημασία. Εδώ θα αναφέρουμε την εργασία [59], όπου συζητείται η mutual information, η οποία είναι ένα μέτρο της στατιστικής συσχέτισης μεταξύ δύο εικόνων, και χρησιμοποιείται ως κριτήριο μεγιστοποίησης. Μια πολύ σημαντική εφαρμογή στις περιπτώσεις αυτές είναι η υπολογιστική τομογραφία, άλλη εφαρμογή με προβλήματα registration και multimodal αισθητήρες έχουμε σε εφαρμογές remote sensing [34]. Συσχετισμένο με το θέμα της προεπεξεργασίας για registration είναι και η βαθμονόμηση των αισθητήρων (sensor calibration). Η έννοια αυτή αλλάζει με τον αισθητήρα και τη χρήση του αισθητήρα. Μερικές φορές, η έννοια του calibration είναι ίδια με του registration, μόνο που εδώ το calibration δεν γίνεται μεταξύ των αισθητήρων αλλά με έναν αισθητήρα και κάποιου γνωστού ground truth [60]. Στην πράξη, οι εικόνες που γίνονται registered δεν είναι ιδανικές. Αυτό οφείλεται τόσο την διαδικασία δειγματοληψίας όσο και στο θόρυβο. Επομένως, μερικές φορές το registration μπορεί να αντιμετωπιστεί ως πρόβλημα στατιστικής θεωρίας αποφάσεων. Σε αυτές τις περιπτώσεις, καθιερώνονται θεωρητικά όρια για την βέλτιστη ταυτοποίηση που μπορεί να επιτευχθεί χρησιμοποιώντας διαστήματα εμπιστοσύνης (confidence intervals) και τα Cramer-Rao κατώτερα όρια [61, 64]. 40

42 41

43 Κεφάλαιο 4 Διαδικασίες Λήψης Αποφάσεων Καθένας από μας συχνά έρχεται αντιμέτωπος με προβλήματα στα οποία χρειάζεται να λάβει μια απόφαση. Σε τέτοιες περιπτώσεις λειτουργούμε βασισμένοι στις παρατηρήσεις μας αναφορικά με συγκεκριμένο φαινόμενο και χρειάζεται να προχωρήσουμε σε μια συγκεκριμένη δράση επιλέγοντας από ένα σύνολο εναλλακτικών επιλογών. Ένα τέτοιο πρόβλημα όπου απαιτείται μια μόνο απόφαση είναι τυπικά δύσκολο. Δομές ομαδικής λήψης αποφάσεων μπορεί να συναντήσει κανείς σε πολλές πραγματικές περιπτώσεις, όπως σε οικονομικές επιχειρήσεις, σε εναέριο έλεγχο κυκλοφορίας, σε ανίχνευση πετρελαίου, σε ιατρικές διαγνώσεις, σε στρατιωτικό έλεγχο και διοίκηση, σε πρόγνωση καιρού κλπ. Σε πολλές περιπτώσεις επιπλέον μηχανισμοί λήψης αποφάσεων προστίθενται στο σύστημα ώστε να βελτιωθεί η απόδοση του. Για παράδειγμα, η εμπλοκή περισσοτέρων του ενός αισθητήρων για ανίχνευση σημάτων, προσφέρει καλύτερη απόδοση αναφορικά με την ανίχνευση, ή ταχύτερη απόφαση, ενώ μπορεί να προσφέρει και μεγαλύτερη περιοχή κάλυψης. Σε ένα ομαδικό σύστημα λήψης αποφάσεων, ένα σύνολο από αισθητήρες παρατηρεί ένα κοινό φαινόμενο. Στις περιπτώσεις που δεν υπάρχει κάποιος περιορισμός, στο κανάλι μετάδοσης των αισθητήρων, τότε όλες οι μετρήσεις, μπορούν να μεταδοθούν σε ένα κεντρικό επεξεργαστή για επεξεργασία. Σε αυτήν την περίπτωση φυσικά οι αισθητήρες δρουν σαν απλοί συλλέκτες πληροφορίας και δεν κάνουν κανένα είδος επεξεργασία. Η επεξεργασία σήματος είναι μια κεντρική διαδικασία και μπορούν να εφαρμοστούν οι συνηθισμένοι αλγόριθμοι επεξεργασίας. Σε πολλές όμως πρακτικές περιπτώσεις, και ειδικά όταν οι αισθητήρες είναι διεσπαρμένοι σε μια μεγάλη γεωγραφική περιοχή, υπάρχουν περιορισμοί σχετικά με τον όγκο της πληροφορίας που μπορεί να μεταδοθεί. Στην περίπτωση αυτή, ένα συγκεκριμένο κομμάτι επεξεργασίας μπορεί να ανατεθεί στον αισθητήρα έτσι ώστε να μπορεί να μεταδοθεί μια περισσότερο συμπιεσμένη μορφή της πληροφορίας σε ένα κέντρο σύνθεσης (fusion center), στο οποίο συνδυάζονται με κατάλληλο τρόπο τα στοιχεία από όλους τους αισθητήρες έτσι ώστε να αποδώσουν ένα συνολικό συμπέρασμα. Ένα παράδειγμα ενός τέτοιου συστήματος λήψης αποφάσεων είναι η περίπτωση όπου οι αισθητήρες λαμβάνουν μια απόφαση σχετικά με το ίδιο γεγονός, και κατόπιν μεταδίδουν αυτήν την πληροφορία στο κέντρο σύνθεσης έτσι ώστε να προκύψει μια συνολική απόφαση για την ύπαρξη η όχι του γεγονότος. Η διαδικασία αυτή ονομάζεται Σύνθεση Αποφάσεων Στοιχεία στατιστικού ελέγχου υποθέσεων Ο κλάδος της στατιστικής επιστήμης ο οποίος ασχολείται με την διαδικασία λήψης μιας απόφασης ονομάζεται στατιστική θεωρία αποφάσεων (statistical theory of decisions) ή έλεγχος στατιστικών υποθέσεων (statistical hypothesis testing). Στο πλαίσιο της θεωρίας των τηλεπικοινωνιών ή της ανίχνευσης RADAR ο αντίστοιχος κλάδος ονομάζεται θεωρία ανίχνευσης (detection theory). Σε ένα πρόβλημα λήψης απόφασης μπορεί να βρεθούμε αντιμέτωποι με ένα δυαδικό πρόβλημα δηλαδή να αποφασίσουμε ΝΑΙ ή ΟΧΙ. Αυτές οι δύο πιθανές καταστάσεις ονομάζονται υποθέσεις και μπορούμε να τις συμβολίσουμε με H 0 και H 1. Η υπόθεση H 0 συμβολίζει συνήθως την απουσία του γεγονότος και η H 1 την παρουσία του. Για να πάρουμε μια απόφαση για ένα φαινόμενο θα πρέπει να βασιστούμε σε παρατηρήσεις κάποιου φυσικού μεγέθους που σχετίζεται με την παρουσία του φαινόμενου (Σχήμα 4.1). 42

44 H1 Source phenomenon H0 Σχήμα 4.1: Πηγή δυαδικών υποθέσεων Κάθε στατιστική υπόθεση αντιστοιχεί σε μια ή περισσότερες παρατηρήσεις, οι οποίες αναπαρίστανται με τυχαίες μεταβλητές. Η απόφαση λοιπόν, αναφορικά με την υπόθεση η οποία είναι κάθε φορά σωστή, βασίζεται στις τιμές των παρατηρήσεων των τυχαίων μεταβλητών. Ας υποθέσουμε λοιπόν ότι ο ανιχνευτής μας πρόκειται να πάρει μια απόφαση βασιζόμενος σε μια και μόνο παρατήρηση. Η περιοχή τιμών που λαμβάνει η τυχαία μεταβλητή Υ, διαμορφώνει τον χώρο παρατηρήσεων Ζ. Ο χώρος αυτός χωρίζεται σε δύο περιοχές ας πούμε τις περιοχές Ζ 0 και Ζ 1. Έτσι, όταν η μεταβλητή Υ παίρνει τιμές από την περιοχή Ζ 0 θεωρούμε ότι ισχύει η υπόθεση H 0 ενώ όταν παίρνει τιμές από την περιοχή Ζ 1 η υπόθεση H 1. Σχήμα 4.2: Σχήμα λήψης απόφασης Έτσι ο χώρος των παρατηρήσεων Ζ αποτελείται από την ένωση των χώρων Ζ 0 και Ζ 1. Οι συναρτήσεις πυκνότητας πιθανότητας (probability density functions, pdf) της μεταβλητής Υ για τις αποφάσεις H 0 και H 1, είναι αντίστοιχα οι f Y H0 (y H 0 ) και f Y H1 (y H 1 ). Κάθε φορά που λαμβάνεται μια απόφαση βασισμένη σε μία παρατήρηση και κάποιο κριτήριο, μπορεί να συμβεί μία από τις ακόλουθες τέσσερις περιπτώσεις: 1. Αποφάσισε H 0 ενώ αληθής είναι η H 0 2. Αποφάσισε H 0 ενώ αληθής είναι η H 1 3. Αποφάσισε H 1 ενώ αληθής είναι η H 0 4. Αποφάσισε H 1 ενώ αληθής είναι η H 1 43

45 Από τα παραπάνω παρατηρούμε ότι για τις περιπτώσεις 1 και 4 έχουμε σωστή απόφαση ενώ για τις περιπτώσεις 2 και 3 έχουμε λάθος απόφαση. Η περίπτωση 2 ονομάζεται Miss, ενώ η 3 ονομάζεται False Alarm. Για να εξεταστεί αναλυτικά η περίπτωση της σύνθεσης αποφάσεων παραθέτουμε στην ενότητα αυτή τις ακόλουθες βασικές έννοιες A. Τον τρόπο που προκύπτουν οι αποφάσεις από τον έλεγχο υποθέσεων και την κλασσική θεωρία ταξινόμησης. B. Την ποιότητα κάθε απόφασης και τις παραμέτρους που την καθορίζουν. C. Την ταξινόμηση αντικειμένων με βάση δυαδικά χαρακτηριστικά, δηλαδή επιμέρους αποφάσεις. D. Τις τοπολογίες σύνθεσης αποφάσεων. E. Την σύνθεση αποφάσεων με παράλληλη τοπολογία, δηλαδή όταν όλοι οι αισθητήρες στέλνουν απευθείας στο κέντρο σύνθεσης. F. Την σύνθεση αποφάσεων με παράλληλη τοπολογία, όπου κάθε απόφαση συνοδεύεται από bits που χαρακτηρίζουν την ποιότητά της. G. Την σύνθεση συσχετισμένων αποφάσεων στην παράλληλη τοπολογία. Πριν προχωρήσουμε θα πρέπει να δώσουμε περιληπτικά τις δύο περιπτώσεις από τις οποίες έχουμε αποφάσεις (classification, Detection) και να προσδιορίσουμε ποιοτικά αλλά και ποσοτικά πόσο καλές είναι αυτές οι αποφάσεις δηλαδή πως περιγράφεται η ποιότητά τους. Επιπλέον θα εξετάσουμε τον τρόπο λήψης αποφάσεων από δυαδικά χαρακτηριστικά, κάτι που είναι ιδιαίτερα απαραίτητο για το επόμενο κεφάλαιο την Σύνθεση Αποφάσεων Αποφάσεις λαμβανόμενες από διαδικασία ταξινόμησης με συνεχή χαρακτηριστικά. Στην κλασσική θεωρία ταξινόμησης του Bayes ο βασικός κανόνας διαχωρισμού δύο τάξεων απορρέει από την σύγκριση των conditional probabilities, που δείχνεται στο Σχήμα 4.3α. Με βάση το σχήμα αποφασίζω για την κατηγορία 1, αν η τιμή του χαρακτηριστικού είναι μικρότερη από το threshold x 0, αλλιώς αποφασίζω για την κατηγορία 2. Το threshold επιλέγεται στο σημείο όπου p(x/ω 1)=p(x/ω 2). Η σχέση αυτή είναι η ειδική περίπτωση του γενικότερου κανόνα ταξινόμησης ο οποίος περιέχει τις a-priori πιθανότητες P(ω i) και τις επικινδυνότητες λ ij των πράξεων που θα γίνουν μετά την ταξινόμηση και δίνεται από τον επόμενο λόγο πιθανοφάνειας (likelihood ratio): p(x ω 1 ) p(x ω 2 ) ω 1 > < ω 2 λ 12 λ 22 P(ω 2 ) λ 21 λ 11 P(ω 1 ) Στη σχέση αυτή οι επικινδυνότητες λ 11 και λ 22 είναι μικρές αφού αντιστοιχούν στην σωστή ενέργεια με βάσει την κατηγορία που έχουμε στην πραγματικότητα (π.χ. μηδέν), ενώ οι λ 12 και λ 21 είναι μεγάλες (συνήθως 1) αφού αντιστοιχούν σε λάθος ενέργεια η οποία και ενέχει κινδύνους. Τότε ο λόγος πιθανοφάνειας γίνεται: p(x ω 1 ) p(x ω 2 ) ω 1 > < ω 2 λ 12 λ 22 P(ω 2 ) λ 21 λ 11 ω 1 (4.1) P(ω 1 ) p(x ω > 1)P(ω 1 ) < p(x ω 2 )P(ω 2 ) (4.2) ω 2 Η σχέση αυτή εκφράζεται στο Σχήμα 4.3(β), και το threshold ευρίσκεται όταν ισχύει η ισότητα, ενώ όταν οι apriori πιθανότητες είναι ίσες τότε συγκρίνω απλά της conditional πιθανότητες (Σχήμα 4.3). 44

46 p(x) p(x/ω 1 ) p(x) p(x/ω 2 ) p(x/ω 2 )P(ω 2 ) p(x/ω 1 )P(ω 1 ) Decision Threshold x 0 ω 2 x Decision Threshold x 0 x ω 2 (α) Σχήμα 4.3: (α) Η απόφαση λαμβάνεται με βάση το threshold το οποίο προκύπτει από την ισότητα των conditional probabilities (b) To threshold αλλάζει θέση μετά την εισαγωγή στη διαδικασία των apriori probabilities. Οι ταξινομητές αποδίδουν ελάχιστο σφάλμα ταξινόμησης. (β) Σχήμα 4.4: Ο διαχωρισμός δύο κατηγοριών στην μονοδιάστατη περίπτωση γίνεται μόνο με ένα σημείο (Threshold). Στις δύο διαστάσεις ο διαχωρισμός γίνεται με μία γραμμή ενώ στις 3 διαστάσεις με ένα επίπεδο. Δηλαδή γενικά με ένα χώρο μία διάστασης λιγότερο από τον χώρο των χαρακτηριστικών. Γενικά πρέπει να παρατηρήσουμε ότι στο χώρο των (συνεχών) χαρακτηριστικών κάθε σημείο έχει νόημα, αφού εκεί καταλήγει ένα άνυσμα (feature vector) στο οποίο μπορεί να αντιστοιχεί ένα μέλος μίας εκ των κατηγοριών. Από αυτή τη σκοπιά όλος ο χώρος μπορεί να θεωρηθεί ως ενεργός από άποψη κατάληψής του από μέλη μιας των κατηγοριών. Στο Σχήμα 4.4 φαίνεται πως ορίζονται τα thresholds ή οι επιφάνειες διαχωρισμού στις διάφορες διαστάσεις. Οι επιφάνειες αυτές καθορίζονται από τις Εξισώσεις (4.1) ή (4.2). Η ορθότητα της απόφασης εξαρτάται από το αν οι δύο κατανομές είναι αρκετά διαχωρισμένες. Τοποθετώντας το Threshold όπως φαίνεται στο Σχήμα 4.3, το σφάλμα ταξινόμησης είναι ελάχιστο και ισούται με τα δύο μικρά εμβαδά εκατέρωθεν του threshold προς το συνολικό εμβαδό των δύο καμπύλων. Αν οι δύο καμπύλες δεν υπερκαλύπτονται, τότε μπορούμε να διαχωρίσουμε τις δύο κατηγορίες χωρίς σφάλμα. Αλλιώς, η αξιοπιστία της απόφασης ισούται με το σφάλμα ταξινόμησης όπως αυτό ορίστηκε παραπάνω. 45

47 4.3. Αποφάσεις λαμβανόμενες από διαδικασία ανίχνευσης (target detection) Οι διαδικασίες ανίχνευσης σήματος σε θόρυβο έχουν σημαντικές αντιστοιχίες στο θεωρητικό επίπεδο με την θεωρία ταξινόμησης. Όπως φαίνεται στο Σχήμα 4.5, για να αντιμετωπιστεί η διαδικασία αυτή, θα πρέπει να είναι γνωστά τα statistics θορύβου ή Clutter καθώς επίσης και τα statistics του σήματος που ψάχνουμε (στόχος). Και εδώ είναι απαραίτητο να καθοριστεί ένα κατώφλι (threshold) με βάση το οποίο θα αποφασίσουμε αν υπάρχει το σήμα ενδιαφέροντος ή το εξεταζόμενο δείγμα είναι απλά θόρυβος. Στην περίπτωση της ανίχνευσης το threshold δεν καθορίζεται εκεί όπου οι δύο κατανομές τέμνονται, αλλά, πιο δεξιά από το σημείο αυτό αφού πάντα προσπαθούμε να μεγαλώσουμε την πιθανότητα P d για να ανιχνεύσουμε σωστά το σήμα (probability of Detection) και ταυτόχρονα να μειώσουμε την πιθανότητα P fa να δηλώσουμε εσφαλμένα ότι ανιχνεύσαμε το σήμα που μας ενδιαφέρει (false alarm) ενώ δεν υπάρχει στην πραγματικότητα. Φυσικά, για να πετύχουμε και τα δύο αυτά ταυτόχρονα θα ήταν πολύ ευνοϊκό αν οι δύο κατανομές του Σχήματος 4.5 μπορούσαν να απομακρυνθούν μεταξύ τους. p(x) Clutter pdf p(x) Signal pdf p(x) P d Mean m x of x Threshold T=am x P fa x Σχήμα 4.5: Γραφική αναπαράσταση της πιθανότητας ανίχνευσης Pd και της πιθανότητας εσφαλμένου συναγερμού Pfa, σε ένα πρόβλημα ανίχνευσης (detection) σήματος σε θόρυβο (clutter). Ιδανικά θέλουμε οι δύο κατανομές να μην είναι υπερκαλυπτόμενες άρα να έχουμε P D = 1και P FA = Το κριτήριο των Neyman-Pearson Για την σύνδεση της στατιστικής θεωρίας ελέγχου αποφάσεων με το δυαδικό πρόβλημα ταξινόμησης θεωρούμε H 0 ω 1 και H 1 ω 2. Ένας στατιστικός έλεγχος με βάση τον κανόνα του Bayes, θα πρέπει να περιλαμβάνει τόσο τις a-priori πιθανότητες P 0 (P(ω 1 )) και P 1 (P(ω 2 )) όσο και των συντελεστών κόστους C i (ή επικινδυνότητας λ ij ). Σε πολλές περιπτώσεις όμως, όλες αυτές οι παράμετροι είναι δύσκολο να καθοριστούν. Για τον λόγο αυτόν, μπορούμε να χρησιμοποιήσουμε την πιθανότητα P D και P F. Στην κατεύθυνση αυτή, το τεστ Neyman-Pearson απαιτεί τον ορισμό κάποιας συγκεκριμένης τιμής a για την παράμετρο P F, ενώ μεγιστοποιεί την τιμή της παραμέτρου P D. Αποδεικνύεται ότι η τιμή της P D μεγιστοποιείται όταν εφαρμοστεί έλεγχος μέγιστης πιθανοφάνειας (LRT) που περιγράφεται από την ακόλουθη σχέση: H 1 f Y H1 (y H 1 ) > λ f Y H0 (y H 0 ) < (4.3) H 0 46

48 Η παράμετρος (κατώφλι απόφασης ) λ ικανοποιεί την σχέση: P F = f Λ(y)H0 (Λ(y) H 0 )dλ = α λ (4.4) Από την λύση της εξίσωσης (4.4) για συγκεκριμένη τιμή της πιθανότητας P F, υπολογίζεται η παράμετρος λ, η οποία επίσης μεγιστοποιεί την πιθανότητα ανίχνευσης P D Operating characteristics in signal detection Ένα μέτρο της απόστασης μεταξύ δύο κατανομών ας πούμε Κανονικών (Gauss), είναι εξαιρετικά χρήσιμο στην ταξινόμηση και την ανίχνευση αλλά και σε άλλα πεδία. Εδώ υποθέτουμε ότι ενδιαφερόμαστε για την ανίχνευση μόνο μιας αδύναμης αντανάκλασης ραντάρ. Θεωρούμε ότι η κατανομή έχει μέση τιμή μ 2 όταν μαζί με το θόρυβο υπάρχει και το σήμα, ενώ η μέση τιμή είναι μ 1 όταν υπάρχει μόνο ο θόρυβος. Θεωρούμε ότι οι κατανομές είναι κανονικές με διαφορετικές μέσες τιμές (means) αλλά με την ίδια διακύμανση (variance), έτσι είναι: p(x ω 1 )~Ν(μ i, σ 2 ) όπως φαίνεται στο Σχήμα 4.3. Στο Σχήμα 4.6, ο ανιχνευτής (ταξινομητής) χρησιμοποιεί ένα κατώφλι (threshold) x για να καθορίσει αν υπάρχει ή όχι σήμα (αν έχω κατηγορία ω 1 ή ω 2). Αλλά αν υποθέσουμε ότι (ως πειραματιστές) δεν είχαμε πρόσβαση σε αυτή τη τιμή, ένα μέτρο της διάκρισης μεταξύ ποιάς εκ των δύο κατανομών θα αποφασίσουμε είναι η discriminability που ως μέτρο περιγράφεται από: d = μ 2 μ 1 σ (4.5) Το μέτρο αυτό θα καθορίσει ουσιαστικά την ποιότητα της απόφασης που θα λάβουμε (1 ή 0, ω 1 ή ω 2), και η οποία ποιότητα μπορεί να μεταφερθεί μαζί με την απόφαση στο κέντρο αποφάσεων για τελική επεξεργασία. Με βάση το d είναι δυνατό να καθοριστούν P(x > x x ω 2 ): Probability of Detection P D (επιτυχία) - Η πιθανότητα ότι το σήμα x είναι πάνω από το x δεδομένου ότι υπάρχει μέσα σε αυτό το σήμα ενδιαφέροντος (στόχος). P(x > x x ω 1 ): Probability of false alarm P FA (εσφαλμένος συναγερμός) - Η πιθανότητα ότι το σήμα x, είναι πάνω από το x λόγω ισχυρού θορύβου και όχι της παρουσίας σήματος ενδιαφέροντος (στόχου). P(x < x x ω 2 ): Probability of miss P M (απώλεια στόχου) - Η πιθανότητα ότι το σήμα είναι κάτω από το x αλλά το σήμα ενδιαφέροντος (στόχος) υπάρχει, άρα το χάσαμε. Ισχύει P m=1-p d. P(x < x x ω 1 ): Probability of correct rejection = 1 P FA (σωστή απόρριψη)- Η πιθανότητα το σήμα να είναι μικρότερο από το x και το σήμα ενδιαφέροντος (στόχος) να μην υπάρχει. 47

49 Σχήμα 4.6: Ο τρόπος καθορισμού του Threshold ποικίλει ανάλογα με τον κανόνα απόφασης και τα κριτήρια για αυτήν (minimum classification error ή P D και P FA ). Η θέση του καθορίζει και την ποιότητα της τελικής απόφασης, η οποία ποιότητα είναι πολύ σημαντική σε περαιτέρω εμπλοκή της απόφασης σε σύνθεση αποφάσεων. Όλες οι παραπάνω πιθανότητες, και κυρίως οι δύο πρώτες δηλαδή η P FA και η P D, οι οποίες χαρακτηρίζουν πλήρως την ποιότητα της απόφασης που θα λάβουμε, μπορούν πλήρως να προσδιοριστούν αν είναι γνωστό το d. Έτσι, όπως φαίνεται στο Σχήμα 4.7, για d =0, και μεταβαλλόμενου (μειούμενου) του x*, αυξάνεται στον οριζόντιο άξονα το P FA και ταυτόχρονα το P D στον κατακόρυφο άξονα (και μάλιστα γραμμικά γιατί;). Αυτό είναι λογικό αφού οι έγχρωμες επιφάνειες στα Σχήματα 4.5 και 4.6, που δείχνουν τα P fa και P d αυξάνονται ή μειώνονται μαζί. Πρέπει να σημειώσουμε ότι για d =0 οι δύο κατανομές ταυτίζονται επομένως η διαχωρισιμότητα είναι πολύ κακή και το P FA = P D για κάθε x*. Όταν το d μεγαλώσει και γίνει 1, τότε οι δύο κατανομές απομακρύνονται και το P D γίνεται μεγαλύτερο από το P FA για κάθε x*. Είναι προφανές ότι μετακινούμενο το x*, από αριστερά προς τα δεξιά στα Σχήματα 4.5 και 4.6, το P D πηγαίνει πιο γρήγορα στο 1 και μετά από αυτό το P FA γίνεται 1. Όταν το d μεγαλώνει και άλλο, τότε το φαινόμενο αυτό γίνεται πιο έντονο και λαμβάνονται όλες οι καμπύλες του σχήματος 4.7, που καλούνται receiver operating characteristics (ROC). Εμείς θέλουμε να έχουμε έναν ανιχνευτή-ταξινομητή όπου για κάποια x*, το P D θα είναι σχεδόν 1 για P FA σχεδόν μηδέν (κόκκινο σημείο στην καμπύλη d = 3 του Σχήματος 4.7). Στην πράξη για 2 Gaussian κατανομές, αν γνωρίζουμε το d, μπορούμε να υπολογίσουμε, τόσο το ελάχιστο σφάλμα ταξινόμησης όσο και το P D για συγκεκριμένο P fa. Η παραπάνω συζήτηση μπορεί να γενικευθεί και να εφαρμοστεί σε δύο κατηγορίες που έχουν αυθαίρετα πολυδιαστατικές κατανομές, Gaussian ή όχι. Θεωρούμε ότι έχουμε δύο κατανομές p(x ω 1 ) και p(x ω 2 ) που επικαλύπτονται, και έτσι έχουν μη μηδενικό σφάλμα ταξινόμησης Bayes. Όπως, λέμε παραπάνω, οποιοδήποτε αντικείμενο-σήμα θα μπορούσε σωστά να ταξινομηθεί ως ω 2 (ανίχνευση ή "hit") ή να μην ταξινομηθεί ως ω 1 (a "false alarm", λανθασμένος συναγερμός). Σε αντίθεση με τη μονοδιάστατη περίπτωση που παρουσιάστηκε παραπάνω, στην πολυδιάστατη περίπτωση μπορεί να υπάρχουν πολλά όρια απόφασης (decision boundaries) που αντιστοιχούν σε ένα συγκεκριμένο ποσοστό επιτυχίας, που το καθένα έχει διαφορετικό ποσοστό λανθασμένου συναγερμού. Αν κατασκευάσουμε έναν πολυδιάστατο ταξινομητή - ανεξάρτητα των κατανομών που χρησιμοποιούνται - θα μπορούσε πιθανότατα να απαιτηθούν μεγάλοι υπολογιστικοί πόροι για την αναζήτηση των βέλτιστων ποσοστών επιτυχίας και λανθασμένου συναγερμού. Θα πρέπει να σημειώσουμε ότι καθώς οι κατανομές μπορεί να είναι αυθαίρετες, το operating characteristic δεν χρειάζεται να είναι συμμετρικό (Σχήμα 4.8). Σε σπάνιες περιπτώσεις δεν χρειάζεται να είναι ακόμη και κοίλο κάτω από όλα τα σημεία. 48

50 Σχήμα 4.7: Χαρακτηριστικές λειτουργίας του ανιχνευτή-ταξινομητή (receiver operating characteristics - ROC). Επιθυμητός είναι ένας ανιχνευτής με μεγάλο d, έτσι ώστε να λαμβάνουμε μεγάλο P D για πολύ μικρό P FA και ισοδύναμα ελάχιστο σφάλμα ταξινόμησης. Σχήμα 4.8: Για αυθαίρετες κατανομές, το operating characteristic δεν χρειάζεται να είναι συμμετρικό ή να είναι ακόμη και κοίλο κάτω από όλα τα σημεία Αποφάσεις Ταξινόμησης στο χώρο των δυαδικών χαρακτηριστικών Bayesian Decision Theory - Διακριτά Χαρακτηριστικά Μέχρι τώρα έχουμε θεωρήσει ότι το χαρακτηριστικό διάνυσμα x μπορεί να είναι οποιοδήποτε σημείο σε ένα d-διάστατο Ευκλείδειο χώρο, R d. Ωστόσο, σε πολλές πρακτικές εφαρμογές οι συνιστώσες του x είναι 49

51 δυαδικές, τριαδικές, ή με περισσότερες διακριτές τιμές, έτσι ώστε το x να μπορεί να θεωρηθεί μια μόνο από τις m διακριτές τιμές v 1, v m. Σε τέτοιες περιπτώσεις, η συνάρτηση πυκνότητας πιθανότητας p(x ω j ) γίνεται διακριτή. Τα ολοκληρώματα της μορφής: p(x ω j )dx (4.6) πρέπει να αντικατασταθούν με τα αντίστοιχα αθροίσματα: P(x ω j ) x (4.7) όπου καταλαβαίνουμε ότι το άθροισμα είναι πάνω σε όλες τις τιμές του x στην διακριτή κατανομή. Ο τύπος Bayes τότε περιέχει πιθανότητες, και όχι πυκνότητες πιθανοτήτων: P(ω j x) = P(x ω j)p(ω j ) P(x) (4.8) Όπου: i P(x) = P(x ω j ) P(ω j ) j=1 (4.9) Ο ορισμός της υπό όρους επικινδυνότητας R(a x) είναι αμετάβλητος, και ο θεμελιώδης κανόνας απόφασης Bayes παραμένει ο ίδιος: Για να ελαχιστοποιήσουμε το συνολικό κίνδυνο, επιλέγουμε την ενέργεια a i για την οποία ο R(a i x) είναι ελάχιστος ή τυπικά δηλώνεται: a = arg min i R(a i x) (4.10) Ο βασικός κανόνας για να μειώσουμε το ποσοστό λάθους μεγιστοποιώντας την a posteriori πιθανότητα είναι επίσης αμετάβλητος όπως είναι οι συναρτήσεις διαχωρισμού (discriminant functions) των παρακάτω Εξισώσεων (4.11)-(4.13): g i (x) = P(ω i x) = p(x ω i)p(ω i ) c p(x ω j )P(ω j ) j=1 (4.11) g i (x) = p(x ω i )P(ω i ) (4.12) g i (x) = ln p(x ω i ) + ln P(ω i ) (4.13) Δεδομένου τη προφανή αντικατάσταση των πυκνοτήτων p(. ) με τις πιθανότητες P(. ) 50

52 Ανεξάρτητα δυαδικά χαρακτηριστικά (Indepent Binary Features) Θα ξεκινήσουμε με ένα παράδειγμα με d ανεξάρτητα δυαδικά χαρακτηριστικά x = (x 1, x d ) t σε ένα πρόβλημα ταξινόμησης δύο κατηγοριών. Οι δύο κατηγορίες που έχουμε να ταξινομήσουμε είναι δύο βιομηχανίες κατασκευής d εξαρτημάτων ενός αυτοκινήτου, οι βιομηχανίες ω 1 και ω 2. Κάθε μία από τις βιομηχανίες παράγει και τα d εξαρτήματα αλλά με διαφορετική αξιοπιστία. Ένα δυαδικό χαρακτηριστικό Καταρχήν θεωρούμε ένα εξάρτημα του αυτοκινήτου το x 1 (π.χ. μπουζί) που παράγεται και στις δύο βιομηχανίες. Η βιομηχανία ω 1 παράγει το εξάρτημα x 1 με αξιοπιστία p 1, ενώ η βιομηχανία ω 2 παράγει το ίδιο εξάρτημα με αξιοπιστία q 1. Αξιοπιστία p 1 σημαίνει ότι στα 100 εξαρτήματα x 1 που παράγει η βιομηχανία ω 1 τα 100 p 1 είναι αξιόπιστα, ενώ τα 100 (1 p 1 ) είναι ελαττωματικά. Επομένως ισχύουν τα ακόλουθα για το πρώτο εξάρτημα p 1 = P r [x 1 = 1 ω 1 ] 1 p 1 = P r [x 1 = 0 ω 1 ] (διακριτή pdf για το x 1 που παράγεται στην ω 1 ) και q 1 = P r [x 1 = 1 ω 2 ] 1 q i = P r [x i = 0 ω 2 ] (διακριτή pdf για το x 1 που παράγεται στην ω 2 ) Οι δύο αυτές δυαδικές pdf δείχνονται στο Σχήμα 4.9 στο ίδιο διάγραμμα με διαφορετικό χρώμα για την κάθε βιομηχανία. Έχουμε θεωρήσει ότι η αξιοπιστία p 1 για την βιομηχανία ω 1 (πράσινο) είναι 0.8, ενώ η αξιοπιστία q 1 για την βιομηχανία ω 2 (μπλε) είναι 0.5. Όταν το εξάρτημα είναι λειτουργικό λέμε ότι x 1 = 1, ενώ όταν είναι ελαττωματικό x 1 = 0. Μετά από αυτά η έκφραση των δύο pdf δίνεται ως εξής: και P(x 1 ω 1 ) = p 1 x 1 (1 p 1 ) 1 x 1 P(x 1 ω 2 ) = q 1 x 1 (1 q 1 ) 1 x 1 Το ουσιαστικό πρόβλημα ταξινόμησης που έχουμε εδώ είναι το ακόλουθο: Είναι δυνατό αν εμφανιστεί το εξάρτημα x 1, και γνωρίζουμε αν είναι καλό ή ελαττωματικό (x 1 = 1 ή 0 αντίστοιχα) να αποφανθούμε αν προέρχεται από την βιομηχανία ω 1 ή από την ω 2 ; Η απάντηση είναι αρνητική. Με τις πιθανότητες που έχουμε δώσει στο Σχήμα 4.9, αν εμφανίζεται καλό ανταλλακτικό μπορούμε να πούμε ότι πιθανότερα είναι από την βιομηχανία ω 1, και αν είναι ελαττωματικό από την ω 2. Αλλά αυτό δεν είναι επαρκές!!! 51

53 Σχήμα 4.9: Υπό συνθήκη δυαδικές πυκνότητες πιθανότητας για το εξάρτημα x 1. Σε αντίθεση με το κλασσικό πρόβλημα ταξινόμησης εδώ οι conditional densities δεν είναι συνεχείς. Επομένως δεν μπορεί εύκολα να καθοριστεί σημείο απόφασης αφού αυτές δεν τέμνονται κάπου έτσι ώστε να καθοριστεί το threshold x. Για την περίπτωση αυτή θα εφαρμόσουμε την Εξίσωση (4.1) όπως βγαίνει από το νόμο του Bayes. Δεχόμενοι ότι οι apriori probabilities είναι ίσες για τις δύο βιομηχανίες, και λ 11 = λ 22 = 0 καθώς και λ 12 = λ 21 = 1, η (4.1) δίνει: ω 1 P(x 1 ω 1 ) > P(x 1 ω 2 ) < 1 ω 2 Το όριο απόφασης λαμβάνεται όταν ο λόγος γίνει ίσος με την μονάδα: x p 1 1 (1 p 1 ) 1 x 1 x q 1 1 (1 q 1 ) 1 x = 1 1 ή όταν ο λογάριθμος της ποσότητας αυτής γίνει μηδέν Δεδομένου ότι: Λαμβάνουμε: ln p x 1 1 (1 p 1 ) 1 x 1 x q 1 1 (1 q 1 ) 1 x = 0 x 1 (ln p 1 ln q 1 ) + (1 x 1 )[ln(1 p 1 ) ln(1 q 1 )] = 0 1 ln p 1 = ln(0.8) = ln(1 p 1 ) = ln(0.2) = ln q 1 = ln(1 q 1 ) = ln(0.5) = x (1 x 1 ) = x 1 = x 1 = = x Το οποίο είναι το Threshold να αποφασίσουμε για την βιομηχανία ω 1 ή ω 2. Για να αποφασίσουμε για την βιομηχανία από την οποία προέρχεται το ανταλλακτικό, το συγκεκριμένο threshold x = , δεν μας λύνει το πρόβλημα αν πρόκειται να στηριχτούμε σε ένα μόνο εξάρτημα. Αυτό ισχύει γιατί το εξάρτημα θα είναι η καλό ή ελαττωματικό επομένως το χαρακτηριστικό μας θα είναι 52

54 η 1 ή 0. Η τιμή δεν μπορεί να υφίσταται ως πραγματικό χαρακτηριστικό στο χώρο των δυαδικών χαρακτηριστικών. Το νόημα της τιμής αυτής είναι διαφορετικό. Αν η ίδια βιομηχανία μας δώσει το εξάρτημα αυτό 1000 φορές και είναι πάνω από 661 καλά εξαρτήματα τότε αυτή είναι η βιομηχανία ω 1, αλλιώς είναι η ω 2. Δύο ανεξάρτητα δυαδικά χαρακτηριστικά Το πρόβλημα που εξετάζουμε μπορεί να επεκταθεί σε δύο εξαρτήματα x 1 και x 2 τα οποία προέρχονται από την ίδια βιομηχανία κάθε φορά και θα τα βλέπουμε ως ένα άνυσμα δυαδικών χαρακτηριστικών x = [x 1, x 2 ] T. Και το εξάρτημα x 2 έχει τις ίδιες conditional binary densities με το x 1. Αν υποθέσουμε ανεξαρτησία μεταξύ των x 1 και x 2 μπορούμε να γράψουμε την P(x ω i ) ως το αποτέλεσμα των πιθανοτήτων για τις συνιστώσες του x. Η ανεξαρτησία αυτή σημαίνει ότι η αξιοπιστία του πρώτου εξαρτήματος δεν εξαρτάται από την αξιοπιστία του δευτέρου, δηλαδή μπορεί να έχουμε ένα καλό με ένα ελαττωματικό εξάρτημα. Έτσι: P(x ω 1 ) = P(x 1 ω 1 ) P(x 2 ω 1 ) = p i x i (1 p i ) 1 x i 2 i=1 P(x ω 2 ) = P(x 1 ω 2 ) P(x 2 ω 2 ) = q i x i (1 q i ) 1 x i Τότε ο λόγος πιθανοφάνειας (likelihood ratio) δίνεται από την: 2 2 i=1 P(x ω 1 ) x P(x ω 2 ) = (p i i 1 p i ) ( ) q i 1 q i i=1 1 x 1 (4.14) (4.15) (4.16) Με δεδομένο ότι οι apriori πιθανότητες είναι ίσες και τα conditional risks όπως ορίστηκαν προηγούμενα. Επομένως η εξίσωση: g(x) = ln P(x ω 1) P(x ω 2 ) + ln P(ω 1) P(ω 2 ) (4.17) οδηγεί στη συνάρτηση διαχωρισμού (Εξ. 4.18). 2 g(x) = ln P(x ω 1) P(x ω 2 ) = [x i ln p i + (1 x q i ) ln 1 p i ] i 1 q i i=1 (4.18) Θα σημειώσουμε ότι αυτή η συνάρτηση διαχωρισμού είναι γραμμική στa x i και έτσι μπορούμε να γράψουμε: Όπου, 2 g(x) = w i x i + w 0 i=1 (4.19) 53

55 w i = ln p i(1 q i ) 0.8(1 0.5) = ln q i (1 p i ) 0.5(1 0.8) = i = 1,2 2 w 0 = ln 1 p i = ln = q i i=1 2 i=1 Οπότε στο επίπεδο των χαρακτηριστικών (x 1,x 2) η συνάρτηση διαχωρισμού θα δώσει το όριο (καμπύλη) διαχωρισμού για g(x) = x x = 0 x 2 = x Στο Σχήμα 4.10 εμφανίζεται ο χώρος των δυαδικών χαρακτηριστικών (x 1, x 2 ), ο τρόπος που είναι χωρισμένος με βάση την προηγούμενη εξίσωση καθώς επίσης και οι δυαδικές κατανομές P(x 1 ω i ) και P(x 2 ω i ). Ας εξετάσουμε το Σχήμα 4.10 πιο προσεκτικά για να κατανοήσουμε τι μπορεί να μας δώσει. Να θυμηθούμε ότι θα αποφασίσουμε ω 1 εάν g(x) > 0 δηλαδή αν βρισκόμαστε στην πράσινη περιοχή και ω 2 εάν g(x) 0 (μπλε περιοχή). Φυσικά, αν μας δώσουν δύο ανταλλακτικά x 1 και x 2 από την ίδια βιομηχανία και γνωρίζουμε την ποιότητα τους (καλό ή ελαττωματικό) δεν είναι δυνατό να αποφασίσουμε για την βιομηχανία (ω 1 ή ω 2 ). Τα σημεία του χώρου των χαρακτηριστικών (x 1, x 2 ) δεν έχουν νόημα εκτός από τις θέσεις στις κορυφές του τετραγώνου. Μπορούμε να αποφασίσουμε για την βιομηχανία αν μας δοθεί ένα μεγάλο πλήθος ζευγαριών ανταλλακτικών και με βάσει την κατάστασή τους λάβουμε την «μέση τιμή» των x 1 και x 2. Αν για παράδειγμα κάποια από τις δύο βιομηχανίες δώσει 1000 ζευγάρια με τιμές 600 x 1 καλά και 700 x 2 καλά, τότε οι μέσες τιμές είναι (0.6, 0.7) και μας δίνουν μία θέση στο χώρο (x 1, x 2 ) όπως φαίνεται με το αστέρι στο Σχήμα Τα ανταλλακτικά προέρχονται από την βιομηχανία ω 2. Σχήμα 4.10: Ο χώρος των δυαδικών χαρακτηριστικών (x 1, x 2 ) και ο τρόπος που είναι χωρισμένος με βάση την εξίσωση x 2 = x καθώς επίσης και οι δυαδικές κατανομές P(x 1 ω i ) (μπλε, πράσινο) και P(x 2 ω i ) (κίτρινο, 54

56 κόκκινο). Οι κύκλοι αντιστοιχούν στις τιμές των δυαδικών κατανομών, που θα μπορούσαν να αναπαρασταθούν κάθετα στο επίπεδο του σχήματος. Τρία ανεξάρτητα δυαδικά χαρακτηριστικά Το πρόβλημα των 2-τάξεων με 3 ανεξάρτητα δυαδικά χαρακτηριστικά θα παρουσιαστεί εδώ ως η τελευταία περίπτωση στην οποία μπορούμε να έχουμε οπτική αναπαράσταση του 3-διαστατου χώρου των χαρακτηριστικών. Έτσι, και οι δύο βιομηχανίες παράγουν 3 ανταλλακτικά με p i = 0.8 να είναι το ανταλλακτικό λειτουργικό για την ω 1, και q i = 0.5 να είναι λειτουργικό για την ω 2, για i = 1, 2, 3. Δεχόμαστε επίσης ότι P(ω 1 ) = P(ω 2 ) = 0.5. Υποθέτοντας πάλιν την υπό όρους ανεξαρτησία για τις συνιστώσες του x μπορούμε να γράψουμε κάθε P(x ω i ) ως: P(x ω 1 ) = P(x 1 ω 1 ) P(x 2 ω 1 ) P(x 3 ω 1 ) = p i x i (1 p i ) 1 x i P(x ω 2 ) = P(x 1 ω 2 ) P(x 2 ω 2 ) P(x 3 ω 2 ) = q i x i (1 q i ) 1 x i τότε ο λόγος πιθανοφάνειας (likelihood ratio) δίνεται από την: 3 P(x ω 1 ) x P(x ω 2 ) = (p i i 1 p i ) ( ) q i 1 q i i=1 και επομένως η συνάρτηση διαχωρισμού γίνεται: 3 3 i=1 3 i=1 1 x 1 g(x) = ln p(x ω 1) p(x ω 2 ) = [x i ln p i + (1 x q i ) ln 1 p i ] i 1 q i i=1 = 0 (4.20) (4.21) (4.22) (4.23) Επομένως η συνάρτηση διαχωρισμού είναι γραμμική στο x i : 3 g(x) = w i x i 3 i=1 + w 0 όπου w i = ln p i (1 q i ) q i (1 p i ) = i = 1,2,3 και w 0 = ln 1 p i = Ή πιο απλά: x 1 + x 2 + x 3 = 2 1 q i i=1 Στο Σχήμα 4.11 δίνονται τόσο οι δυαδικές κατανομές P(x i /ω i ) όσο και η επιφάνεια διαχωρισμού του χώρου χαρακτηριστικών των 3-διαστάσεων. Η κατηγορία ω 1 είναι προς την δεξιά επάνω μεριά όπου βρίσκεται και το σημείο (1,1,1). Η υπό όρους ανεξαρτησία των χαρακτηριστικών οδηγεί σε πολύ απλό (γραμμικό) ταξινομητή. Φυσικά, αν τα χαρακτηριστικά δεν είναι ανεξάρτητα, ένας πιο περίπλοκος ταξινομητής θα χρειαστεί. 55

57 Σχήμα 4.11: Οι δυαδικές κατανομές P(x i /ω i ) και η επιφάνεια διαχωρισμού του χώρου χαρακτηριστικών των 3- διαστάσεων. Η κατηγορία ω 1 είναι προς την δεξιά επάνω μεριά όπου βρίσκεται και το σημείο (1,1,1). 56

58 57

59 Κεφάλαιο 5 Σύνθεση Αποφάσεων Όταν τα δεδομένα που επεξεργαζόμαστε προέρχονται από αισθητήρες τότε στρεφόμαστε στην μέθοδο σύνθεσης δεδομένων από πολλαπλούς αισθητήρες. Πρόκειται για την διαδικασία κατά την οποία δεδομένα, που προέρχονται από ένα πλήθος αισθητήρων, συνδυάζονται ώστε η πληροφορία που θα προκείψει να έχει μεγαλύτερη αξιοπιστία από αυτήν της πληροφορίας που προέρχεται από έναν μόνο αισθητήρα. Η σύνθεση των δεδομένων από αισθητήρες μπορεί να πραγματοποιηθεί είτε στο επίπεδο των δεδομένων, είτε στο επίπεδο των χαρακτηριστικών, είτε στο επίπεδο των αποφάσεων. Στην παρούσα εργασία θα χρησιμοποιήδουμε την μέθοδο σύνθεσης στο επίπεδο των αποφάσεων. Στην ακόλουθη εικόνα απεικονίζεται η χρήση της διαδικασίας σύνθεσης δεδομένων από πολλαπλούς αισθητήρες σε σύγχρονο αυτοκίνητο. Δεδομένα που προέρχονται από διάφορους αισθητήρες του αυτοκινήτου συνδυάζονται με στόχο την βελτίωση της ευαστάθειας και της οδηγικής συμπεριφοράς του. Ακόμα, η σύνθεση αυτή δίνει στο αυτοκίνητο να προσαρμόζεται και να προσφέρει βέλτιστες επιδόσεις σε διαφορετικές καιρικές συνθήκες και οδοστρώματα. Εικόνα 5.1: Εφαρμογή της διαδικασίας σύνθεσης δεδομένων από πολλαπλούς αισθητήρες στα σχύγχρονα αυτοκίνητα. Όταν χρησιμοποιούμε πλήθος αισθητήρων, τότε τους οργανώνουμε σε δίκτυα ανίχνευσης. Όπως αναφέρθηκε και προηγουμένως, τα δίκτυα ανίχνευσης μπορούν να οργανωθούν σε διάφορες τοπολογικές κατηγορίες. Οι δύο κύριες τοπολογίες δικτύων είναι η Παράλληλη και η Σειριακή τοπολογία. Στις επομένες παραγράφους θα ακολουθήσει η παρουσίαση των 2 αυτών τοπολογιών. Στην συνέχεια θα παρουσιάσουμε τον αλγόριθμο παράλληλης σύνθεσης αποφάσεων καθώς και την πειραματική επιβεβαίωσή του. Τέλος θα παρουσιάσουμε τον αλγόριθμο παράλληλης σύνθεσης αποφάσεων με χρήση πληροφορίας ποιότητας καθώς και την πειραματική του επιβεβαίωση. 58

60 5.1. Τοπολογίες Ανάμεσα σε όλες τις τοπολογίες σύνθεσης αποφάσεων, η παράλληλη τοπολογία είναι αυτή στην οποία έχει επικεντρώσει το ενδιαφέρον της μεγάλη μερίδα ερευνητών. Η τοπολογία ενός τέτοιου δικτύου φαίνεται στο Σχήμα 5.2. Σχήμα 5.2: Τοπολογία παράλληλης σύνθεσης αποφάσεων. Σε ένα τέτοιο δίκτυο, όλοι οι αισθητήρες παρατηρούν ένα φαινόμενο και λαμβάνουν αποφάσεις σύμφωνα με έναν αλγόριθμο που εκτελείται τοπικά. Στην συνέχεια οι επιμέρους αποφάσεις μεταβιβάζονται σε ένα κέντρο (fusion center) όπου γίνεται ο συνδυασμός τους για να εξαχθεί το τελικό συμπέρασμα σχετικά με το φαινόμενο. Η τοπολογία της σε σειρά σύνθεσης αποφάσεων, φαίνεται στο Σχήμα 5.3. Σε αυτήν την τοπολογία, ο κάθε αισθητήρας που παρατηρεί το φαινόμενο Η, λαμβάνει μια απόφαση την οποία στην συνέχεια μεταβιβάζει στον επόμενο αισθητήρα. Ο κάθε αισθητήρας συνδυάζει την δική του απόφαση με την απόφαση του προηγούμενου αισθητήρα έτσι ώστε να εξάγει μια απόφαση με βελτιωμένη αξιοπιστία. Σχήμα 5.3: Τοπολογία σε σειρά σύνθεσης αποφάσεων. 59

61 5.2. Παράλληλη Σύνθεση Αποφάσεων Θεωρούμε N αισθητήρες-ανιχνευτές οι οποίοι επιτηρούν και αποφασίζουν ανεξάρτητα για το ίδιο πρόβλημα δύο υποθέσεων H 0 ή H 1. Για παράδειγμα, παρατηρούμε έναν χώρο με σκοπό τον εντοπισμό ενός αντικειμένου. Εάν το αντικείμενο είναι παρών, τότε ισχύει η υπόθεση H 1. Εάν το αντικείμενο είναι απών τότε ισχύει η υπόθεση H 0. Κάθε ένας ανιχνευτής στέλνει την απόφασή του u i στο κέντρο αποφάσεων (fusion center). Η απόφαση αυτή μπορεί να είναι υπέρ της υπόθεσης H 1 (u i = 1) ή υπέρ της υπόθεσης H 0 (u i = 0). Το γενικό block διάγραμμα της διάταξης των N αισθητήρων-ανιχνευτών και του κέντρου σύνθεσης αποφάσεων δίνεται στο Σχήμα 5.4. Sensor 1 u 1 Sensor 2 u 2 Fusion Center u 0 Sensor N u N Σχήμα 5.4: Το κέντρο σύνθεσης αποφάσεων δέχεται τις N ανεξάρτητες αποφάσεις από τους N αισθητήρεςανιχνευτές και εξάγει μία απόφαση με μεγαλύτερη αξιοπιστία. Στις επόμενες παραγράφους θα αναπτυχθεί η μεθοδολογία του βέλτιστου συνδυασμού (συγχώνευσης) επιμέρους αποφάσεων, οι οποίες απαραιτήτως θα πρέπει να είναι γνωστές και να έχουν ληφθεί στην βάση ενός Bayesian ανιχνευτή. Ο κανόνας συγχώνευσης, θα είναι μια συνάρτηση της πιθανότητας λάθους απόφασης (Probability of False Alarm) P F, και της πιθανότητας αποτυχίας (Probability of Miss) P M. Με άλλα λόγια ο κανόνας συγχώνευσης θα βασίζεται στην αξιοπιστία του κάθε ανιχνευτή. Αφού ληφθούν οι αποφάσεις u i τοπικά σε επίπεδο ανιχνευτή, αποστέλλονται στην συνέχεια στο κέντρο σύνθεσης αποφάσεων. Το κέντρο σύνθεσης αποφάσεων καθορίζει την συνολική απόφαση u για το σύστημα με βάση κάποιο κανόνα σύνθεσης αποφάσεων της μορφής: u 0 = f(u 1, u 2, u 3,, u N ) (5.1) Για το παράδειγμα που παρουσιάσαμε προηγουμένως, το κέντρο σύνθεσης θα λάβει τις αποφάσεις όλων των αισθητήρων και, εφαρμόζοντας κάποιον κανόνα απόφασης, θα εξάγει την τελική απόφαση u 0 = 1 εάν το αντικείμενο έχει τελικά εντοπιστεί ή u 0 = 0 εάν το αντικείμενο τελικά δεν εντοπίστηκε Σχεδιασμός Κανόνων Σύνθεσης Ο κανόνας απόφασης είναι γενικά μια λογική συνάρτηση με N δυαδικές εισόδους και μια δυαδική έξοδο. Σε γενικές γραμμές λοιπόν, για ένα φαινόμενο δύο υποθέσεων, υπάρχουν 2 2Ν πιθανοί κανόνες σύνθεσης. Για την πιο απλή περίπτωση ενός συστήματος δύο αισθητήρων που παρακολουθεί ένα φαινόμενο δύο 60

62 υποθέσεων υπάρχουν 16 πιθανοί κανόνες σύνθεσης, όπως φαίνεται στον Πίνακα 1. Με u 1 και u 2 συμβολίζουμε τις εισόδους του συστήματος και f n την έξοδό του. Είσοδος Κανόνες Σύνθεσης Αποφάσεων u1 u2 f1 f2 f3 f4 f5 f6 f7 f8 f9 f10 f11 f12 f13 f14 f15 f Πίνακας 5.1: Πιθανοί κανόνες σύνθεσης δύο αποφάσεων Σε αυτόν τον πίνακα, μπορεί να δει κανείς, ότι εμπεριέχονται και κάποιοι γνωστοί κανόνες όπως: Ο κανόνας AND που δίνεται από τον κανόνα f 1 ο οποίος δίνει έξοδο 1 μόνο όταν και το u 1 αλλά και το u 2 είναι 1, δηλαδή: +1 όταν u 1 = 1 ΚΑΙ u 2 = 1, f 1 = { 0 σε κάθε άλλη περίπτωση (5.2) Ο κανόνας OR που δίνεται από τον κανόνα f 8 ο οποίος δίνει έξοδο 1 όταν ή το u 1 ή το u 2 είναι 1, δηλαδή: 1 όταν u 1 = 0 και u 2 = 0, f 8 = { 0 σε κάθε άλλη περίπτωση (5.3) Αρκετοί από τους κανόνες του Πίνακα 5.1, μπορεί να είναι απολύτως ακατάλληλοι να χρησιμοποιηθούν σαν κανόνες σύνθεσης αποφάσεων. Για παράδειγμα ο κανόνας f 1 δίνει πάντα έξοδο 0, ενώ ο κανόνας f 16, δίνει πάντα έξοδο 1, ανεξάρτητα από την τιμή των εισόδων. Παρομοίως και άλλοι κανόνες μπορεί να είναι ακατάλληλοι αφού αγνοούν παντελώς κάποια από τις εισόδους, όπως για παράδειγμα ο κανόνας f 4, ο οποίος δεν λαμβάνει υπόψη ποτέ την είσοδο u 2 κλπ. Μια πρώτη προσέγγιση αναφορικά με τον σχεδιασμό κάποιου κανόνα σύνθεσης αποφάσεων, μπορεί να είναι η τυχαία επιλογή ενός κανόνα από ένα σύνολο λογικών συναρτήσεων όπως η συνάρτηση AND, η συνάρτηση OR, και η συνάρτηση MAJORITY, ή κάποια συνάρτηση η οποία αποφασίζει για το γεγονός H 1, αν k από τις Ν εισόδους αποφασίζουν για το γεγονός H 1, (u i = 1) δηλαδή: 1 όταν u 1 + u u Ν 2k n, u 0 = { 0 σε κάθε άλλη περίπτωση (5.4) Ας συμβολίσουμε με P Fi, P Di, και P Mi, τις πιθανότητες Λάθος Συναγερμού, Ανίχνευσης και Απώλειας Στόχου αντίστοιχα του i ανιχνευτή, δηλαδή: 61

63 P Fi = P(u i = 1 H 0 ), P Di = P(u i = 1 H 1 ) και P Mi = P(u i = 0 H 1 ) Ας συμβολίσουμε τώρα με P F f, P D f, και P M f, τις πιθανότητες Λάθος Συναγερμού, Ανίχνευσης και Απώλειας Στόχου αντίστοιχα του κέντρου σύνθεσης αποφάσεων, δηλαδή: P F f = P(u 0 = 1 H 0 ), P D f = P(u 0 = 1 H 1 ) και P M f = P(u 0 = 0 H 1 ) Η απόδοση και η αξιοπιστία κάποιου κανόνα σύνθεσης αποφάσεων θα εκφράζεται με την βοήθεια των παραπάνω μεγεθών. Για τους κανόνες AND και OR ισχύουν οι παρακάτω σχέσεις: Για τον κανόνα σύνθεσης OR: N P M f = P Mi i=1 (5.5) N P F f = 1 (1 P Fi ) i=1 (5.6) Για τον κανόνα σύνθεσης AND: N P D f = P Di i=1 (5.7) N P F f = P Fi i=1 (5.8) Η αυθαίρετη επιλογή μιας λογικής συνάρτησης μπορεί να δώσει ικανοποιητικά αποτελέσματα σε πολλές περιπτώσεις αλλά δεν μπορεί σε καμία περίπτωση να μας οδηγήσει στην βέλτιστη λύση αφού δεν λαμβάνει υπόψη την αξιοπιστία (reliability) της απόφασης του κάθε ανιχνευτή, όπως αυτή μπορεί να εκφράζεται με τις παραμέτρους P F και P D. Για να γίνει αυτό πιο κατανοητό, θα παραθέσουμε το ακόλουθο παράδειγμα. Έστω ότι χρησιμοποιούμε ένα σύστημα με τρεις αισθητήρες με σκοπό τον εντοπισμό ενός αντικειμένου. Οι δύο από τους τρεις αισθητήρες δεν είναι πολύ καλής ποιότητας (χαμηλό P D και υψηλό P F ). Ο τρίτος αισθητήρας όμως είναι ποιοτικός και άρα έχει χαμηλό P F και υψηλό P D. Οι δύο χαμηλής ποιότητας αισθητήρες αδυνατούν να εντοπίσουν το αντικείμενο, όμως ο ποιοτικός το εντοπίζει. Οι τρεις αισθητήρες στέλνουν την απόφασή τους στο κέντρο σύνθεσης όπου αυτό θα εφαρμόσει κάποιον από τους προαναφερθέντες κανόνες, πχ την συνάρτηση Majority προκειμένου να εξάγει το τελικό συμπέρασμα. Η συνάρτηση majority θα λάβει δύο αποφάσεις κατά και μια απόφαση υπέρ του εντοπισμού, συνεπώς θα εξάγει σαν τελική απόφαση ότι το αντικείμενο είναι απών, οπότε το κέντρο σύνθεσης θα αποτύχει. Άρα λοιπόν, χρειαζόμαστε κάποιον κανόνα σύνθεσης ο οποίος θα λάβει υπόψιν την αξιοπιστία του κάθε αισθητήρα. Θα επιχειρήσουμε να υλοποιήσουμε έναν τέτοιο κανόνα χρησιμοποιώντας το Neyman-Pearson test και το Likelihood Ratio test. Κάθε ένας από τους αισθητήρες αποδίδει μία απόφαση με συγκεκριμένη ποιότητα υλοποιώντας το Neyman-Pearson test (NP test). Η ποιότητα της απόφασης u i του αισθητήρα i καθορίζεται από το ζευγάρι τιμών (P Fi, P Di ) στο οποίο δουλεύει ο αισθητήρας. Επιπρόσθετα, το Fusion Center υλοποιεί το NP test χρησιμοποιώντας τις N αποφάσεις u i. Τί σημαίνει υλοποίηση του NP test στο Fusion Center; 62

64 Σημαίνει να θέσω ένα threshold (που σχετίζεται με το πλήθος των θετικών αποφάσεων) έτσι ώστε να πετυχαίνω συνολικό P F FC = σταθερο min{p Fi } και ταυτόχρονα P D FC > max{p Di }. Επομένως, το Fusion Center υλοποιεί το NP test χρησιμοποιώντας το Likelihood Ratio test το οποίο είναι ο λόγος των πυκνοτήτων του ανύσματος των αποφάσεων των αισθητήρων: Λ(u) = P(u H 1 1, u 2,, u N H 1 ) > P(u 1, u 2,, u N H 0 ) < t (5.9) H 0 Όπου u είναι το άνυσμα με τις αποφάσεις (u 1, u 2, u N ), και t είναι το threshold στο Fusion Center που οφείλουμε να καθορίσουμε έτσι ώστε να πετύχουμε ένα επιθυμητό P F FC για το Fusion Center που δίνεται παρακάτω, σύμφωνα με την σχέση (5.17). Εδώ θα πρέπει να κάνουμε καθαρό με ποιόν τρόπο θα δουλέψει το Fusion Center, τι είδους κανόνα απόφασης θα υλοποιήσει και με ποιά μαθηματική διαδικασία θα υλοποιήσει τον οποιοδήποτε κανόνα απόφασης. Γενικά θα χρησιμοποιηθεί το Likelihood Ratio: Λ(u) = P(u H 1 1, u 2,, u N H 1 ) > P 0 (C 10 C 00 ) P(u 1, u 2,, u N H 0 ) < t = P 1 (C 01 C 11 ) H 0 (5.10) Όπου P 0 και P 1 είναι οι apriori πιθανότητες και C ij οι επικινδυνότητες. Επομένως, αν θεωρήσουμε P 0 = P 1 = 0.5 και C 10 = C 01 = 1 και C 00 = C 11 = 0 τότε έχουμε στο Fusion Center minimum classification error με κανόνα απόφασης: Λ(u) = P(u H 1 1, u 2,, u N H 1 ) > P(u 1, u 2,, u N H 0 ) < 1 (5.11) H 0 ή αν θεωρήσουμε ανεξαρτησία των u i η σχέση γίνεται: N Λ(u) = P(u H 1 i H 1 ) > P(u i H 0 ) < 1 (5.12) i=1 H 0 ή αν λάβουμε το λογάριθμο του Likelihood Ratio έχουμε: Ν log Λ(u) = log P(u H 1 i H 1 ) > P(u i H 0 ) < 0 (5.13) ι=1 H 0 Στην πράξη πρέπει να προσδιορίσουμε τον όρο: Λ(u i ) = P(u i H 1 ) P(u i H 0 ) (5.14) 63

65 Ο όρος αυτός έχει δύο εκδοχές αν το u i είναι 1 και αν είναι 0. Άρα πρέπει να υπολογιστούν τα: Και Που εύκολα συμπεραίνεται ότι είναι: P(1 H 1 ) P(1 H 0 ) P(0 H 1 ) P(0 H 0 ) P(1 H 1 ) P(1 H 0 ) = P D i P Fi Και (5.15) P(0 H 1 ) P(0 H 0 ) = 1 P D i 1 P Fi Επομένως, κάθε ένας όρος P(u i H 1 ) έχει δύο τιμές ανάλογα με την τιμή της απόφασης που φθάνει στο P(u i H 0 ) Fusion Center. Επομένως, οι όροι της log Λ(u) στην (5.13) δεν είναι μονοσήμαντα καθορισμένοι αλλά προέρχονται από τους όρους δύο διαφορετικών κατανομών που έχουν ως εξής: P[Λ(u) H 0 ] και P[Λ(u) H 1 ] (5.16) Με βάση αυτές τις κατανομές μπορεί να εφαρμοστεί το NP test στο Fusion Center ως εξής: Και P FC f = P(Λ(u) H 0 ) a = const Λ(u)>t (5.17) P d FC = P(Λ(u) H 1 ) Λ(u)>t (5.18) Το οποίο είναι πιο γενικό από το minimum classification error criterion που προσδιορίστηκε από την Εξίσωση (5.13). Η πρώτη από τις δύο κατανομές της Εξίσωσης (5.16) θα υπολογιστεί με την χρήση της λογαριθμικής έκφρασή της δεδομένου ότι ο λογάριθμος οδηγεί σε άθροισμα μεταβλητών και η κατανομή του αθροίσματος υπολογίζεται με συνέλιξη: P[log Λ(u) H 0 ] = P [ (log Λ(u i ) H 0 )] = N i=1 = P[log Λ(u 1 ) H 0 ] P[log Λ(u 2 ) H 0 ] P[log Λ(u N ) H 0 ] (5.19) Με τον ίδιο τρόπο δίνεται και η: 64

66 P[log Λ(u) H 1 ] = P [ (log Λ(u i ) H 1 )] = N i=1 = P[log Λ(u 1 ) H 1 ] P[log Λ(u 2 ) H 1 ] P[log Λ(u N ) H 1 ] (5.20) Απομένει λοιπόν να βρεθεί ακριβής έκφραση των όρων: P[log Λ(u i ) H 0 ] Και P[log Λ(u i ) H 1 ] Και οι δύο πιθανότητες έχουν ανεξάρτητη μεταβλητή την log Λ(u i ) η οποία παίρνει δύο τιμές ανάλογα με την τιμή του u i : 1. Για u i = 1: 2. Για u i = 0: log P(u i H 1 ) P(u i H 0 ) = log P(1 H 1) P(1 H 0 ) = log P D i P Fi log P(u i H 1 ) P(u i H 0 ) = log P(0 H 1) P(0 H 0 ) = log 1 P D i 1 P Fi Οι δύο αυτές τετμημένες θα πρέπει κάθε φορά να αξιολογούνται από άποψη μεγέθους αλλά γενικά ισχύει: P Di P Fi 1 P D i 1 P Fi (5.21) Στις δύο αυτές θέσεις οι κατανομές P[log Λ(u i ) H 0 ] και P[log Λ(u i ) H 1 ] λαμβάνουν τις ακόλουθες τιμές: η P[log Λ(u i ) H 0 ] στη θέση 1 P D i 1 P Fi (u i = 0) την τιμή 1 P Fi, ενώ στη θέση P D i P Fi (u i = 1) λαμβάνει την τιμή P Fi. η P[log Λ(u i ) H 1 ] στη θέση 1 P D i 1 P Fi (u i = 0) την τιμή 1 P Di, ενώ στη θέση P D i P Fi (u i = 1) λαμβάνει την τιμή P Di. Οι δύο αυτές στοιχειώδεις κατανομές που αντιστοιχούν στον ανιχνευτή-αισθητήρα i παρουσιάζονται στο Σχήμα 5.5. Παρατηρούμε ότι οι τετμημένες των σημείων δίνονται από τα μεγέθη που υπολογίσαμε από την σχέση (5.15). Επίσης παρατηρούμε πως όσο πιο μεγαλή είναι η διαφορά του ύψους μεταξύ των 2 σημείων της κάθε κατανομής τόσο ποιοτικότερος είναι ο αισθητήρας. Στην ιδανική περίπτωση θα είχαμε μόνο τα σημεία με πλάτος το P Di και με το 1 P Fi. Πλέον, δεν απομένει παρά να εφαρμοστούν οι σχέσεις (5.19) και (5.20) για να λάβουμε την κατανομή του λόγου πιθανοφάνειας στο fusion center. 65

67 Σχήμα 5.5: Κατανομές του Λ(u) σε κάθε ανιχνευτή για την υπόθεση H 0 (επάνω) και την υπόθεση H 1 (κάτω) Περίπτωση ίδιων ανιχνευτών Στην περίπτωση που όλοι οι ανιχνευτές είναι ίδιοι, θα έχουν και την ίδια αξιοπιστία, δηλαδή P Fi = P Fj = P F και P Di = P Dj = P D για κάθε i και j, τότε αποδεικνύεται [Δ4] ότι η εφαρμογή του στατιστικού ελέγχου κατά Neyman-Pearson υλοποιείται με βάση τις ακόλουθες σχέσεις: Με: N a i u i i=1 H 1 > < H 0 t (5.22) P D log, αν u i = 1, i = 1,.., N PF a i = 1 PF log, αν u i = 1, i = 1,.., N { 1 PD (5.23) O κανόνας σύνθεσης αποφάσεων παίρνει την ακόλουθη μορφή: f(u 1, u 2, u 3,, u N ) = N 1 όταν a i u i > t i=1 { 0 σε κάθε άλλη περίπτωση (5.24) 66

68 O υπολογισμός του κατωφλίου t γίνεται ως εξής: Αρχικά σχηματίζεται η κατανομή των P(log Λ(u i ) H 0 ) και P(log Λ(u i ) H 1 ) για τον κάθε ανιχνευτή. Κατόπιν με χρήση μιας διαδικασίας συνέλιξης, η οποία δείχνεται σχηματικά για δύο ανιχνευτές στο Σχήμα 5.6 υπολογίζονται τα P(log Λ(u) H 0 ) και P(log Λ(u) H 0 ). Από την διαδικασία αυτή προκύπτει η κατανομή του Λ(u 0 ) στο κέντρο απόφασης για το γεγονός H 0 και για το γεγονός H 1, οι οποίες παρουσιάζονται στο Σχήμα 5.7. Στο Σχήμα 5.7 απεικονίζεται ενδεικτικά η διαδικασία της συνέλιξης μεταξύ δύο όμοιων αισθητήρων για την υπόθεση H 1. Οι πρώτες 2 κατανομές είναι οι κατανομές P(log Λ(u 1 ) H 1 ) και P(log Λ(u 2 ) H 1 ) του πρώτου και του δεύτερου αισθητήρα αντίστοιχα. Εμείς σαρώνουμε την κατανομή του πρώτου αισθητήρα και πολλαπλασιάζουμε κάθε σημείο της πρώτης κατανομής με κάθε σημείο της δεύτερης κατανομής, όπως φαίνεται στην συνέχεια του Σχήματος 5.7. Το αποτέλεσμα θα είναι μια νέα κατανομή περισσότερων σημείων, η P(log Λ(u) H 1 ), η οποία είναι ουσιαστικά η πιθανοφάνεια για την υπόθεση H 1 στο κέντρο σύνθεσης. Το πλήθος των σημείων αυτών για την περίπτωση των δύο όμοιων αισθητήρων είναι 3. Εάν διαθέτουμε πάνω από δύο αισθητήρες τότε η διαδικασία της συνέλιξης πραγματοποιείται πρώτα για τους δύο αισθητήρες, σύμφωνα με τον τρόπο που αναφέραμε. Στην συνέχεια θα πάρουμε την κατανομή που θα προκύψει και θα την κάνουμε συνέλιξη με την κατανομή του 3 ου αισθητήρα κοκ. Το τελικό πλήθος των σημείων της κατανομής που θα προκύψει για την περίπτωση των Ν ανόμοιων αισθητήρων θα είναι 2 Ν. Η διαδικασία της συνέλιξης πραγματοποιείται ακόμη μια φόρα χρησιμοποιώντας τις κατανομές P(log Λ(u i ) H 0 ) των αισθητήρων με σκοπο τον υπολογισμό της πιθανοφάνειας P(log Λ(u) H 0 ) για την υπόθεση H 0 στο κέντρο σύνθεσης. 67

69 P log u 1 H 1 P D 1 P D P log u 2 H 1 1 P 1 P D F P P D F u i P D 1 P D 1 P 1 P D F P P D F P log u 2 H 1 u i P D 1 P D 1 P 1 P D F P P D F P log u 2 H 1 u i P D 1 P D 1 P 1 P D F P P D F u i Σχήμα 5.6: Διαδικασία υπολογισμού του συνέλιξης των P(log Λ(u 1 ) H 1 ) και P(log Λ(u 2 ) H 1 ). 68

70 P log u o H 0 Sum P F f 1 P 2 F 2P 1 F P F 2 P F 1 P D i 1 PF i P log u o 2 H P D D u 0 F PF P D P P F 1 P Sum f P D 2P 1 D P D 2 P D P 2 1 D 1 P D i 1 PF i P D D u 0 F PF P D P P F 1 P t Σχήμα 5.7: Τα P(logΛ(u) H0) και P(logΛ(u) H1). Επίσης δείχνεται η επίδραση του κατωφλίου t στην τιμή των PD f και PF f. Από τα διαγράμματα του Σχήματος 5.7, προκύπτουν τα F D f και F F f με την βοήθεια των σχέσεων (5.17) και (5.18). Αρχικά επιλέγεται η μεγαλύτερη επιτρεπτή τιμή του P f, η οποία προκύπτει από το άθροισμα των πλατών των σημείων της κατανομής P(log Λ(u) H 0 ) (κόκκινες στήλες στο πάνω μέρος του διαγράμματος) οι οποίες βρίσκονται δεξιότερα του κατωφλίου t (κόκκινη γραμμή). Για το ίδιο κατώφλι υπολογίζεται η τιμή του P D, η οποία προκύπτει από το άθροισμα των πλατών των σημείων της κατανομής P(log Λ(u) H 1 ) (πράσινες στήλες στο κάτω μέρος του διαγράμματος) οι οποίες βρίσκονται δεξιότερα του κατωφλίου t. Από το παραπάνω παράδειγμα φαίνεται ότι το πρόβλημα της εύρεσης του βέλτιστου κανόνα σύνθεσης αποφάσεων, ανάγεται ουσιαστικά σε πρόβλημα υπολογισμού των κατανομών P(log Λ(u) H 0 ) και P(log Λ(u) H 1 ). Στην περίπτωση που χρησιμοποιούνται N όμοιοι ανιχνευτές, τότε για τις κατανομές αυτές ισχύουν τα παρακάτω: 1. Το σημείο της κατανομής P(log Λ(u) H 1 ) που βρίσκεται κοντύτερα στην αρχή των αξόνων έχει τετμημένη (1 P D ) N /(1 P F ) N και τεταγμένη (1 P D ) N. Το αντίστοιχο σημείο της P(log Λ(u) H 0 ), έχει την ίδια τετμημένη και τεταγμένη (1 P F ) N. 2. Το σημείο της κατανομής P(log Λ(u) H 1 ) που βρίσκεται μακρύτερα από την αρχή των αξόνων έχει τετμημένη P N D /P N F και τεταγμένη P N D. Το αντίστοιχο σημείο της P(log Λ(u) H 0 ), έχει την ίδια τετμημένη και τεταγμένη P N F. 69

71 Τα γινόμενα: 3. Tα ενδιάμεσα σημεία της κατανομής P(log Λ(u) H 1 ) έχουν τετμημένες που προκύπτουν S από την σχέση: [ (1 P D) (1 P F ) ] ( P D PF ) S,όπου S είναι ένα υποσύνολο του συνόλου {1,2,3,, N}, S το συμπληρωματικό του και Ω είναι το πλήθος του συνόλου Ω. Το αντίστοιχο σημείο της P(log Λ(u) H 0 ), έχει την ίδια τετμημένη και τεταγμένη που S προκύπτουν από την σχέση P 1 F PF S. x i iεs y j j S αφορούν όλους τους δυνατούς συνδυασμούς (permutations) των ζευγαριών των αριθμών i και j, ανάμεσα στους Ν αριθμούς που αντιστοιχούν στους Ν ανιχνευτές. Ο αριθμός αυτών των συνδυασμών είναι N! / (N 2)!, εξαιτίας όμως της ομοιότητας των ανιχνευτών υπάρχουν και αρκετοί ίδιοι συνδυασμοί, καταλήγοντας τελικά σε Ν+1 διαφορετικούς συνδυασμούς και άρα Ν+1 διαφορετικές τετμημένες στις αντίστοιχες κατανομές. Στην περίπτωση των ίδιων ανιχνευτών, το πρόβλημα απλοποιείται περισσότερο. Αν k από τους N ανιχνευτές δώσουν απόφαση 1 και οι υπόλοιποι δώσουν απόφαση -1, τότε η σχέση (5.22) γίνεται: k (log [ P H 1 D(1 P F ) P F (1 P D ) ]) > 1 P F < t + log ( ) (5.25) 1 P D H 0 και επειδή P F < P D, άρα και log [ P D (1 P F ) ] > 0 και έτσι η (5.25) γίνεται: P F (1 P D ) k H 1 > < H 0 t (5.26) Δηλαδή αρκεί ο αριθμός των ανιχνευτών που δίνει απόφαση 1 να είναι μεγαλύτερος από t * Περίπτωση διαφορετικών ανιχνευτών Στην περίπτωση που οι ανιχνευτές είναι διαφορετικοί, θα έχουν εν γένει και διαφορετική αξιοπιστία, δηλαδή θα ισχύει P Fi P Fj και P Di P Dj για κάθε i j. Στην περίπτωση που χρησιμοποιούνται N διαφορετικοί ανιχνευτές, τότε για τις κατανομές αυτές ισχύουν τα παρακάτω: 1. Το σημείο της κατανομής P(log Λ(u)) H 1 που βρίσκεται κοντύτερα στην αρχή των N αξόνων έχει τετμημένη 1 (1 P Di ) N 1 (1 P Fi ), και τεταγμένη N 1 (1 P Di ). Το αντίστοιχο σημείο της P(log Λ(u)) H 0 έχει την ίδια τετμημένη και τεταγμένη N(1 P Fi ) Το σημείο της κατανομής P(log Λ(u)) H 1 που βρίσκεται μακρύτερα από την αρχή των αξόνων έχει τετμημένη N 1 P Di N 1 P Fi και τεταγμένη N 1 P Di. Το αντίστοιχο σημείο της P(log Λ(u)) H 0, έχει την ίδια τετμημένη και τεταγμένη N P Fi 1. 70

72 Τα γινόμενα: 3. Tα ενδιάμεσα σημεία της κατανομής P(log Λ(u)) H 1 έχουν τετμημένες που προκύπτουν από την σχέση: P D i, όπου S είναι ένα υποσύνολο του συνόλου {1,2,3,.,Ν} iεs 1 P D i P jεs Fi 1 P Fi και S το συμπληρωματικό του. Το αντίστοιχο σημείο της P(log Λ(u)) H 0, έχει την ίδια τετμημένη και τεταγμένη που προκύπτουν από την σχέση iεs P Fi jεs (1 P Fi ). x i iεs y j j S αφορούν όλους τους δυνατούς συνδυασμούς (permutations) ζευγαριών αριθμών i και j, ανάμεσα στους Ν αριθμούς που αντιστοιχούν στους Ν ανιχνευτές. Ο αριθμός αυτών των συνδυασμών είναι N! / (N - 2)!. Ο κανόνας συγχώνευσης σχηματίζεται με βάση τις σχέσεις: a i = { P log P D F i i 1 log 1 P PF i Di αν u i = 1, i = 1,.., N αν u i = 1, i = 1,.., N (5.27) 1 όταν aiui t f(u 1, u 2, u 3,, u N ) = i 1 { 0 σε κάθε άλλη περίπτωση N (5.28) και κατώφλι t που υπολογίζεται με βάση την διαδικασία η οποία περιγράφηκε προηγουμένως. Ο στατιστικός έλεγχος παίρνει την μορφή: N a i u i i=1 H 1 > < H 0 t (5.29) Πειραματική επιβεβαίωση της θεωρίας Για την πειραματική επιβεβαίωση της θεωρίας της προηγούμενης ενότητας υλοποιήσαμε το λογισμικό που παρατίθεται στο κεφάλαιο 8. Ο αλγόριθμος υλοποιήθηκε τόσο σε γλώσσα matlab όσο και σε python καθώς αμφότερες αποτελούν γλώσσες προγραμματισμού που απευθύνονται σε ένα ευρύ επιστημονικό και ερευνητικό κοινό. Τα αποτελέσματα που παραθέτουμε προέρχονται από την εκτέλεση του αλγορίθμου σε γλώσσα Matlab έκδοσης R2016a και τα λάβαμε χρησιμοποιώντας το workspace της εφαρμογής. Να σημειωθεί, ότι λόγω κάποιων αλλαγών που πραγματοποίησε η Mathworks στην πλατφόρμα της, κάποιες εντολές ίσως να μην είναι συμβατές με παλαιότερες εκδόσεις της εφαρμογής. Το λογισμικό που υλοποιήσαμε είναι σε θέση να εκτελέσει τον αλγόριθμο σύνθεσης αποφάσεων με τρεις διαφορετικές λειτουργίες. 1. Χρησιμοποιώντας όμοιους αισθητήρες. 71

73 2. Χρησιμοποιώντας αισθητήρες με όμοιο Probability of False Alarm και διαφορετικό Probability of Detection το οποίο μειώνεται διαφορετικά για κάθε αισθητήρα με βήμα που καθορίζεται από τον χρήστη. Για παράδειγμα, εάν έχουμε 3 αισθητήρες με τον πρώτο να έχει Probability of Detection 0.95 και επιλέξουμε βήμα 0.01, τότε ο δεύτερος θα έχει Probability of Detection 0.94 και ο τρίτος Χρησιμοποιώντας αισθητήρες με διαφορετικά Probability of Detection και Probability of False Alarm για τους οποίους ορίζονται μονάχα οι αρχικές τιμές PD και PFA και τα χαρακτηριστικά των υπολοίπων βρίσκονται σύμφωνα με το βήμα που ορίζει ο χρήστης ακριβώς όπως στην παραπάνω περίπτωση. Για το False Alarm όμως το βήμα είναι προσθετικό και όχι αφαιρετικό οπότε εάν ο πρώτος αισθητήρας έχει PFA = 0.05 τότε ο δεύτερος για βήμα 0.01 θα έχει PFA = Τα χαρακτηριστικά του κάθε αισθητήρα εισάγονται από τον χρήστη. Για τις ανάγκες του πειράματός μας χρησιμοποιήσαμε 5 αισθητήρες με διαφορετικό Probability of Detection και όμοιο Probability of False Alarm. Ως εκ τούτου επιλέξαμε την επιλογή 2 στο λογισμικό μας. Χρησιμοποιώντας την επαναληπτική λειτουργία του λογισμικού εισάγαμε μόνο το πλήθος των ασθητήρων, την αρχική τιμή του PD (0.95) και την τιμή του PFA (0.05) καθώς και το βήμα ελάττωσης του PD (0.01). Η εκτέλεση της εφαρμογής επιστρέφει ένα table με την ονομασία ResT (από τις λέξεις Results Table) το οποίο περιλαμβάνει τρεις στήλες. Η πρώτη στήλη περιλαμβάνει τα αποτελέσματα των θέσεων της συνέλιξης, ή αλλιώς το κατώφλι της σύνθεσης, η δεύτερη στήλη περιλαμβάνει το αθροιστικόμέχρι-εκείνη-την-θέση Probability of Detection ενώ η τελευταία στήλη περιλαμβάνει το αθροιστικόμέχρι-εκείνη-την-θέση Probability of False Alarm. Η εφαρμογή μπορεί να απεικονίσει και γραφικά τα αποτελέσματα για την καλύτερη και ευκολότερη ανάλυσή τους. Στην ακόλουθη εικόνα (5.8) απεικονίζονται τα στοιχεία που εισάγαμε στην εφαρμογή, με την σειρά που αυτή μας τα ζήτησε. Εικόνα 5.8: Τα δεδομένα που εισάγαμε στην εφαρμογή, όπως ακριβώς μας ζητήθηκαν για την περίπτωση των αισθητήρων με ίδιο PFA. Να σημειωθεί ότι οι εικόνες μπορεί να διαφέρουν από την τελική έκδοση του λογισμικού. 72

74 Συνεπώς, οι αισθητήρες που κατασκεύασε ο αλγόριθμος σύνθεσης είναι οι ακόλουθοι: Sensor PD PFA Πίνακας: Τα χαρακτηριστικά των αισθητήρων με όμοιο PFA και διαφορετικό PD. Εκτελέσαμε ξανά τον αλγόριθμο για ανόμοιους αισθητήρες. Αυτό το πραγματοποιήσαμε επιλέγοντας την επιλογή 3 και εισάγαμε τις αρχικές τιμές PD και PFA για τον πρώτο αισθητήρα καθώς και το βήμα ελάττωσης και αύξησης του Probability of Detection και Probability of False Alarm αντίστοιχα. Εικόνα 5.9: Τα δεδομένα που εισάγαμε στην εφαρμογή, όπως ακριβώς μας ζητήθηκαν για την περίπτωση των ανόμοιων αισθητήρων. Να σημειωθεί ότι οι εικόνες μπορεί να διαφέρουν από την τελική έκδοση του λογισμικού. Εισάγοντας τα ανωτέρω δεδομένα στον αλγόριθμο σύνθεσης κατασκευάζονται οι παρακάτω αισθητήρες: Sensor PD PFA Πίνακας: Τα χαρακτηριστικά των αισθητήρων με διαφορετικό PFA και PD. Τα αποτελέσματα της εκτέλεσης του αλγορίθμου παρατίθενται στην ακόλουθη σελίδα. 73

75 Threshold PD PFA Threshold PD PFA E E E E E E E Πίνακας (επάνω): Πειραματικά αποτελέσματα σύνθεσης 5 αισθητήρων με ίδιο PFA και διαφορετικό PD. Πίνακας(κάτω): Πειραματικά αποτελέσματα σύνθεσης 5 αισθητήρων με διαφορετικό PD και PFA. Threshold PD PFA Threshold PD PFA E E E E E

76 75

77 76

78 Η εκτέλεση του αγλορίθμου επαναλήφθηκε και για 7 αισθητήρες. Και στην περίπτωση αυτή, πήραμε δυο περιπτώσεις όπου στην πρώτη περίπτωση είχαμε ίδιο PFA και διαφορετικό PD μεταξύ των αισθητήρων, ενώ στην δεύτερη περίπτωση είχαμε εντελώς ανόμοιους αισθητήρες. Το «χτίσιμο» των αισθητήρων έγινε όπως και στις παραπάνω περιπτώσεις, ακολουθώντας τις οδηγίες που εμφανίστηκαν στο Command Window του Matlab. Έτσι, για αρχικό PD = 0.95 και PFA = 0.05 με βήμα = 0.01 για κάθε περίπτωση λάβαμε τους ακόλουθους αισθητήρες. Ενδεικτικά συμπεριλαμβάνουμε ξανά το command window του Matlab στο οποίο διακρίνονται οι τιμές εισόδου για την πρώτη περίπτωση. Sensor PD PFA Πίνακας: Τα χαρακτηριστικά των αισθητήρων με όμοιο PFA και διαφορετικό PD. Sensor PD PFA Πίνακας: Τα χαρακτηριστικά των αισθητήρων με διαφορετικό PFA και PD. Εικόνα 5.10: Τα δεδομένα που εισάγαμε στην εφαρμογή, όπως ακριβώς μας ζητήθηκαν για την περίπτωση των αισθητήρων με διαφορετικό PD. Να σημειωθεί ότι οι εικόνες μπορεί να διαφέρουν από την τελική έκδοση του λογισμικού. 77