ΕΘΝΙΚΟ ΜΕΤΣΟΒΙΟ ΠΟΛΥΤΕΧΝΕΙΟ

Transcript

1 ΕΘΝΙΚΟ ΜΕΤΣΟΒΙΟ ΠΟΛΥΤΕΧΝΕΙΟ ΣΧΟΛΗ ΗΛΕΚΤΡΟΛΟΓΩΝ ΜΗΧΑΝΙΚΩΝ ΚΑΙ ΜΗΧΑΝΙΚΩΝ ΥΠΟΛΟΓΙΣΤΩΝ ΤΟΜΕΑΣ ΣΥΣΤΗΜΑΤΩΝ ΜΕΤΑΔΟΣΗΣ ΠΛΗΡΟΦΟΡΙΑΣ ΚΑΙ ΤΕΧΝΟΛΟΓΙΑΣ ΥΛΙΚΩΝ Πρόβλεψη φάσματος σε γνωστικά ραδιοσυστήματα με τη χρήση μεθόδων μηχανικής μάθησης ΔΙΠΛΩΜΑΤΙΚΗ ΕΡΓΑΣΙΑ του ΙΩΑΝΝΗ ΤΣΑΚΝΑΚΗ Επιβλέπων : Αθανάσιος Παναγόπουλος Επίκουρος Καθηγητής Ε.Μ.Π. Αθήνα, Οκτώβριος 2015

2 Η σελίδα αυτή είναι σκόπιμα λευκή.

3 ΕΘΝΙΚΟ ΜΕΤΣΟΒΙΟ ΠΟΛΥΤΕΧΝΕΙΟ ΣΧΟΛΗ ΗΛΕΚΤΡΟΛΟΓΩΝ ΜΗΧΑΝΙΚΩΝ ΚΑΙ ΜΗΧΑΝΙΚΩΝ ΥΠΟΛΟΓΙΣΤΩΝ ΤΟΜΕΑΣ ΣΥΣΤΗΜΑΤΩΝ ΜΕΤΑΔΟΣΗΣ ΠΛΗΡΟΦΟΡΙΑΣ ΚΑΙ ΤΕΧΝΟΛΟΓΙΑΣ ΥΛΙΚΩΝ Πρόβλεψη φάσματος σε γνωστικά ραδιοσυστήματα με τη χρήση μεθόδων μηχανικής μάθησης ΔΙΠΛΩΜΑΤΙΚΗ ΕΡΓΑΣΙΑ του ΙΩΑΝΝΗ ΤΣΑΚΝΑΚΗ Επιβλέπων : Αθανάσιος Παναγόπουλος Επίκουρος Καθηγητής Ε.Μ.Π. Εγκρίθηκε από την τριμελή εξεταστική επιτροπή την 30 η Οκτωβρίου (Υπογραφή) (Υπογραφή) (Υπογραφή) Αθανάσιος Παναγόπουλος Παναγιώτης Κωττής Γεώργιος Φικιώρης Επίκ. Καθηγητής Ε.Μ.Π. Καθηγητής Ε.Μ.Π. Αναπλ. Καθηγητής Ε.Μ.Π. Αθήνα, Οκτώβριος 2015

4 (Υπογραφή)... ΙΩΑΝΝΗΣ ΤΣΑΚΝΑΚΗΣ Διπλωματούχος Ηλεκτρολόγος Μηχανικός και Μηχανικός Υπολογιστών Ε.Μ.Π All rights reserved Απαγορεύεται η αντιγραφή, αποθήκευση και διανομή της παρούσας εργασίας, εξ ολοκλήρου ή τμήματος αυτής, για εμπορικό σκοπό. Επιτρέπεται η ανατύπωση, αποθήκευση και διανομή για σκοπό μη κερδοσκοπικό, εκπαιδευτικής ή ερευνητικής φύσης, υπό την προϋπόθεση να αναφέρεται η πηγή προέλευσης και να διατηρείται το παρόν μήνυμα.ερωτήματα που αφορούν τη χρήση της εργασίας για κερδοσκοπικό σκοπό πρέπει να απευθύνονται προς τον συγγραφέα.οι απόψεις και τα συμπεράσματα που περιέχονται σε αυτό το έγγραφο εκφράζουν τον συγγραφέα και δεν πρέπει να ερμηνευθεί ότι αντιπροσωπεύουν τις επίσημες θέσεις του Εθνικού Μετσόβιου Πολυτεχνείου.

5 Αφιερώνεται σ την γιαγιά μου Πηνελόπη

6

7 Ευχαρισ τίες Αρχικά θα ήθελα να ευχαρισ τήσ ω τον επιβλέποντα της διπλωματικής μου τον επίκουρο καθηγητή Α. Παναγόπουλο, γιατί μου έδωσ ε τη ευκαιρία να ασ χοληθώ με ένα σ ύγχρονο και ενδιαφέρον θέμα, καθώς και για το ενδιαφέρον που έδειξε για τις επισ τημονικές ανησ υχίες μου.επιπλέον η διπλωματική αυτή δεν θα μπορούσ ε να ολοκληρωθεί χωρις τη βοήθεια της μεταδιδακτορικής ερευνήτριας Σ. Βασ σ άκη, η οποία ήταν πρόθυμη να βοηθήσ ει σ ε όλα τα σ τάδια της διπλωματικής και διαθέσ ιμη όποτε αντιμετώπιζα προβλήματα ή είχα απορίες και προβληματισ μούς.τέλος θα ήθελα να ευχαρισ τήσ ω όλους τους ανθρώπους του περιβάλλοντός μου, την οικογένειά μου και τους φίλους μου για τη σ τήριξή τους. 5

8

9 Περίληψη Η παρούσ α διπλωματική εργασ ία αφορά εφαρμογές μηχανικής μάθησ ης σ ε γνωσ τικά ραδιοσ υσ τήματα.τα γνωσ τικά ραδιοσ υσ τήματα είναι ευφυή τηλεπικοινωνιακά σ υσ τήματα τα οποία προσ αρμόζουν δυναμικά τις παραμέτρους λειτουργίας τους, λαμβάνοντας υπόψιν τα χαρακτηρισ τικά του ηλεκτρομαγνητικού περιβάλλοντος μέσ α σ το οποίο δρασ τηριοποιούνται.παράλληλα σ τη παρούσ α διπλωματική παρουσ ιάζονται βασ ικές πληροφορίες για τα γνωσ τικά ραδιοσ υσ τήματα, βασ ικές έννοιες της θεωρίας παιγνίων και της μηχανικής μάθησ ης καθώς και εφαρμογές των δύο τελευταίων γνωσ τικών πεδίων σ ε γνωσ τικά ραδιοσ υσ τήματα.ιδιαίτερα ασ χολούμασ τε με την εφαρμογή μεθόδων μηχανικής μάθησ ης σ το πρόβλημα της πρόβλεψης φάσ ματος, δηλαδή της πρόβλεψης των διάφορων χαρακτηρισ τικών του φάσ ματος με σ τόχο την αποδοτικότερη και πιο επιτυχημένη αξιοποίησ ή του.συγκεκριμένα επικεντρωνόμασ τε σ το πρόβλημα της πρόβλεψης της κατάσ τασ ης του καναλιού, δηλαδή πρόβλεψη κατά πόσ ο αυτό είναι ελεύθερο ή δεσ μευμένο.στο πρόβλημα αυτό εφαρμόζουμε με την χρήσ η του Matlab τρεις αλγορίθμους μηχανικής μάθησ ης (νευρωνικά δίκτυα, κρυφά μοντέλα Markov, μηχανές διανυσ ματικής υποσ τήριξης), υπολογίζουμε τις επιδόσ εις τους και αξιολογούμε τα αποτελέσ ματα. Λέξεις Κλειδιά γνωσ τικά ραδιοσ υσ τήματα, μηχανική μάθησ η, θεωρία παιγνίων, πρόβλεψη φάσ ματος, πρόβλεψη κατάσ τασ ης καναλιού, νευρωνικά δίκτυα, κρυφά μοντέλα Markov, μηχανές διανυσ ματικής σ τήριξης 7

10

11 Abstract This diploma thesis deals with the possible applications of machine learning to cognitive radios.cognitive radios are intelligent telecommunications systems that are able to adapt their operational parameters in a dynamic way, taking into account the characteristics of the electromagnetic enviroment in which they operate.in parallel we present basic information about cognitive radios, concepts of machine learning and game theory and applications of the last two fields in cognitive radios.in particular, we employ machine learning techniques to tackle the problem of spectrum prediction in cognitive radio networks.the specific problem refers to the process of predicting the spectrum characteristics so as to better utilize it.in this thesis, we focus on channel status prediction and in particular our goal is to predict whether the channel status is idle or busy.for the solution of this problem, we apply three different machine learning techniques (neural networks, support vector machines, hidden Markov models) and we compute the predicted values using each technique.the proposed mechanisms are evaluated through simulations using Matlab and the performance of each technique is investigated, drawing significant conclusions. Keywords cognitive radios, machine learning, game theory, spectrum prediction, channel status prediction, neural networks, hidden Markov models, support vector machines 9

12

13 Eισ αγωγή Η παρούσ α διπλωματική εργασ ία αφορά εφαρμογές μηχανικής μάθησ ης σ ε γνωσ τικά ραδιοσ υσ τήματα και ιδιαίτερα σ το πρόβλημα της πρόβλεψης φάσ ματος.συγκεκριμένα επικεντρωνόμασ τε σ το πρόβλημα της πρόβλεψης της κατάσ τασ ης του καναλιού, δηλαδή κατά πόσ ο αυτό είναι ελεύθερο ή δεσ μευμένο, σ το οποίο εφαρμόζουμε τρεις αλγορίθμους μηχανικής μάθησ ης.στη σ υνέχεια ακολουθεί μια σ ύντομη περιγραφή της δομής της διπλωματικής εργασ ίας. Στο 1ο κεφάλαιο παρουσ ιάζεται μία εισ αγωγή σ τα γνωσ τικά ραδιοσ υσ τήματα.τα γνωσ τικά ραδιοσ υσ τήματα είναι ευφυή τηλεπικοινωνιακά σ υσ τήματα τα οποία προσ αρμόζουν δυναμικά τις παραμέτρους λειτουργίας τους, λαμβάνοντας υπόψιν τα χαρακτηρισ τικά του ηλεκτρομαγνητικού περιβάλλοντος μέσ α σ το οποίο δρασ τηριοποιούνται.τα σ υσ τήματα αυτά έχουν ως βασ ικό σ τόχο την επίλυσ η του προβλήματος της ανεπάρκειας του φάσ ματος επιδιώκοντας την αποδοτική αξιοποίησ ή του.στο κεφάλαιο αυτό αναλύονται οι τέσ σ ερις θεμελιώδεις λειτουργίες των γνωσ τικών ραδιοσ υσ τημάτων (φασ ματική ανίχνευσ η, φασ ματική απόφασ η, φασ ματική κινητικότητα και φασ ματικός διαμοιρασ μός) καθώς και μερικές βασ ικές εφαρμογές αυτών. Στο 2ο κεφάλαιο γίνεται μία σ ύντομη εισ αγωγή σ την θεωρία παιγνίων, η οποία αποτελεί ένα πολύ σ ημαντικό εργαλείο για την μοντελοποίησ η διάφορων σ εναρίων χρήσ ης γνωσ τικών ραδιοσ υσ τημάτων.στο κεφάλαιο αυτό δίνονται βασ ικοί ορισ μοί και σ ύντομες αναφορές σ ε μη σ υνεργατικά παίγνια, σ ε δημοπρασ ίες, σ ε παίγνια διαπραγμάτευσ ης και σ ε σ τοχασ τικά παίγνια.τέλος γίνεται αναφορά σ ε εφαρμογές της θεωρίας παιγνίων σ ε γνωσ τικά ραδιοσ υσ τήματα. Στο 3ο κεφάλαιο δίνεται μία εισ αγωγή σ τη μηχανική μάθησ η, όπου περιγράφονται οι βασ ικές έννοιες αυτής.στη σ υνέχεια ακολουθεί μία θεωρητική ανάλυσ η μερικών βασ ικών τεχνικών, όπως τα νευρωνικά δίκτυα, οι μηχανές διανυσ ματικής υποσ τήριξης, τα μοντέλα Markov (ιδιαίτερα κρυφά μοντέλα Markov), η μάθησ η κατά Bayes, η τεχνική PCA, η ομαδοποίησ η και η νοημοσ ύνη σ μήνους. Στο 4ο κεφάλαιο περιγράφεται η σ χέσ η ανάμεσ α σ τα γνωσ τικά ραδιοσ υσ τήματα και τη μηχανική μάθησ η, ενώ δίνονται αναφορές εφαρμογών από τη βιβλιογραφία.στη σ υνέχεια γίνεται μία εισ αγωγή σ την πρόβλεψη φάσ ματος, σ την ανάγκη ύπαρξης αυτής καθώς και σ ε μερικά σ ενάρια χρήσ ης τέτοιων τεχνικών.τέλος γίνεται αναφορά σ ε εφαρμογές μεθόδων μηχανικής μάθησ ης σ την πρόβλεψη φάσ ματος που εμφανίζονται σ τη βιβλιογραφία. Στο 5ο κεφάλαιο εφαρμόζονται τρεις αλγόριθμοι μηχανικής μάθησ ης σ το πρόβλημα της πρόβλεψης της κατάσ τασ ης του καναλιού.αρχικά δίνονται μερικές βασ ικές έννοιες 11

14 τηλεπικοινωνιακής κίνησ ης και σ τη σ υνέχεια περιγράφεται το μοντέλο που θα χρησ ιμοποιήσ ουμε, ο τρόπος παραγωγής κίνησ ης σ ε αυτό και οι παράμετροι που το περιγράφουν.στο επόμενο κομμάτι περιγράφεται ο τρόπος με τον οποίο εφαρμόζονται οι μέθοδοι μάθησ ης σ το πρόβλημα, οι παράμετροι που επιλέγουμε για αυτές τις μεθόδους και οι μετρικές με τις οποίες αξιολογούμε την επίδοσ η αυτών.τέλος απεικονίζονται τα αποτελέσ ματα σ ε γραφικές παρασ τάσ εις από τις οποίες εξάγονται σ υμπεράσ ματα, ενώ σ υζητούνται τυχόν επεκτάσ εις του μοντέλου που χρησ ιμοποιούμε. 12

15 Contents 1 Γνωσ τικά ραδιοσ υσ τήματα Εισ αγωγή Ορισ μοί Βασ ικές έννοιες Χρήσ τες Φασ ματικές οπές(spectral holes) Γνωσ τικές λειτουργίες Φασ ματική ανίχνευσ η(spectrum sensing) Μη σ υνεργατικές μέθοδοι(non-cooperative methods) Συνεργατικές μέθοδοι(cooperative methods) Ανίχνευσ η βασ ισ μένη σ ε παρεμβολές(interference-based sensing) Φασ ματική απόφασ η(spectrum decision) Χαρακτηρισ μός φάσ ματος(spectrum characterization) Επιλογή φάσ ματος(spectrum selection) Επαναδιαμόρφωσ η γνωσ τικού ραδιοσ υσ τήματος(cognitive radio reconfiguration) Φασ ματική κινητικότητα(spectrum mobility) Στρατηγικές μεταπομπής(handoff strategies) Φασ ματικός διαμοιρασ μός(spectrum sharing) Αρχιτεκτονική δικτύου(network architecture) Τεχνική πρόσ βασ ης φάσ ματος(spectrum access technique) Τεχνικές διαμοιρασ μού εύρους ζώνης(spectrum allocation behaviour) Ζώνες φάσ ματος(spectrum bands) Γνωσ τικός κύκλος(cognitive cycle) Εφαρμογές Θεωρία παιγνίων Εισ αγωγή Βασ ικές έννοιες θεωρίας παιγνίων Στρατηγικές(Strategies) Αναπαράσ τασ η παιγνίων Κατηγορίες παιγνίων Μη σ υνεργατικά παίγνια(non-cooperative games) Ισ ορροπίες Nash(Nash equilibria) i

16 2.7 Οικονομικά παίγνια(economic games) Δημοπρασ ίες(auctions) Συνεργατικά παίγνια(cooperative games) Διαπραγματευτικά παίγνια(bargaining games) Στοχασ τικά παίγνια(stochastic games) Εφαρμογές θεωρίας παιγνίων σ ε γνωσ τικά ραδιοσ υσ τήματα Μη σ υνεργατικά παίγνια Οικονομικα παίγνια Συνεργατικά παίγνια Στοχασ τικά παίγνια Μηχανική Μάθησ η Εισ αγωγή Κατηγορίες μηχανικής μάθησ ης Επιβλεπόμενη μάθησ η(supervised learning) Μη επιβλεπόμενη μάθησ η(unsupervised learning) Ενισ χυτική μάθησ η(reinforcement learning) Tαξινομητές(Classifiers) Perceptron Νευρωνικά δίκτυα(neural Networks) Μηχανές διανυσ ματικής σ τήριξης(support Vector Machines) Μάθησ η κατα Bayes(Bayesian learning) Γενικά Ταξινομητής Bayes(Bayes classifier) Εκτιμητές Μάθησ η κατα Bayes Δίκτυα Bayes(Bayes networks) Μοντέλα Markov (Markov Models) Κρυφά Μοντέλα Markov(Hidden Markov Models) Ανάλυσ η κύριων σ υνισ τωσ ων(principal Component Analysis) Ομαδοποίησ η(clustering) Αλγόριθμος K-means Νοημοσ ύνη σ μήνους(swarm intelligence) Βελτισ τοποίησ η αποικίας μυρμηγκιών (Ant colony optimization) 78 4 Εφαρμογές μηχανικής μάθησ ης σ ε γνωσ τικά ραδιοσ υσ τήματα Εφαρμογές μηχανικής μάθησ ης σ ε γνωσ τικά ραδιοσ υσ τήματα Εισ αγωγή Μηχανική μάθησ η σ ε γνωσ τικά ραδιοσ υσ τήματα Νευρωνικά δίκτυα Μηχανές διανυσ ματικής υποσ τήριξης Κρυφά μοντέλα Markov Μάθησ η κατά Bayes Νοημοσ ύνη σ μήνους ii

17 4.2 Πρόβλεψη φάσ ματος(spectrum Prediction) Εισ αγωγή Ανάγκη ύπαρξης μηχανισ μών πρόβλεψης φάσ ματος Σενάρια χρήσ ης τεχνικών πρόβλεψης Η πρόβλεψη φάσ ματος σ τη βιβλιογραφία Εφαρμογή μεθόδων μηχανικής μάθησ ης σ την πρόβλεψη φάσ ματος Εισ αγωγή Επισ κόπησ η μοντέλων κίνησ ης Μοντέλο προσ ομοίωσ ης Παράμετροι μοντέλου Κίνησ η μοντέλου Χρήσ η αλγορίθμων μάθησ ης Μετρικές επίδοσ ης Μέθοδοι μηχανικής μάθησ ης Νευρωνικά δίκτυα Μηχανές διανυσ ματικής σ τήριξης Κρυφά μοντέλα Markov Αποτελέσ ματα-παρατηρήσ εις Συμπεράσ ματα και μελλοντικές επεκτάσ εις Bibliography 111 iii

18

19 1 Γνωσ τικά ραδιοσ υσ τήματα 1.1 Εισ αγωγή Τα γνωσ τικά ραδιοσ υσ τήματα (cognitive radio) είναι ευφυή τηλεπικοινωνιακά σ υσ τήματα τα οποία προσ αρμόζουν δυναμικά τις παραμέτρους λειτουργίας τους, λαμβάνοντας υπόψιν τα χαρακτηρισ τικά του ηλεκτρομαγνητικού περιβάλλοντος μέσ α σ το οποίο δρασ τηριοποιούνται.δύο θεμελιώδη χαρακτηρισ τικά των γνωσ τικών ραδιοσ υσ τημάτων είναι η γνωσ τική ικανότητα (cognitive capability) και η επαναδιαμορφωσ ιμότητα (reconfigurability). Με τον όρο γνωσ τική ικανότητα εννοούμε τη σ υλλογή των κατάλληλων πληροφοριών από το περιβάλλον που είναι απαραίτητες για την ολοκληρωμένη λειτουργία του σ υσ τήματος.τέτοιες πληροφορίες είναι η ισ χύς εκπομπής, ο τύπος διαμόρφωσ ης που χρησ ιμοποιείται, η σ υχνότητα λειτουργίας, το επίπεδο παρεμβολών, η χωρητικότητα καναλιού, κτλ. Με τον όρο επαναδιαμορφωσ ιμότητα εννοούμε την ικανότητα του σ υσ τήματος να προσ- αρμόζει τις παραμέτρους λειτουργίας του δυναμικά.η επιλογή των παραμέτρων βασ ίζεται σ τις πληροφορίες που εξήγαγε από το περιβάλλον του και αποσ κοπεί σ την ικανοποίησ η διαφόρων κριτηρίων (ποιότητα υπηρεσ ιών, απόδοσ η σ υσ τημάτων, κτλ.) με το βέλτισ το τρόπο.ανάμεσ α σ τις παραμέτρους αυτές περιλαμβάνονται η ισ χύς εκπομπής, το σ χήμα διαμόρφωσ ης και κωδικοποίησ ης, η σ υχνότητα λειτουργίας, κτλ. Η κυριότερη ανάγκη που οδήγησ ε σ την δημιουργία της έννοιας των γνωσ τικών ραδιοσ υσ τημάτων ήταν η ανεπάρκεια ενός πολύτιμου τηλεπικοινωνιακού πόρου, του ηλεκτρομαγνητικού φάσ ματος.η ανεπάρκεια αυτή είναι κατα κύριο λόγο απόρροια του σ τατικού τρόπου ανάθεσ ης φάσ ματος 1 σ τις διάφορες υπηρεσ ίες.επιπλέον η ανεπάρκεια αυτή μπορεί να αποδοθεί και σ το μεγάλο πλήθος νέων υπηρεσ ιών που κατέλαβαν το φάσ μα, εξαιτίας της τρομακτικής και ασ ταμάτητης εξέλιξης των ασ ύρματων επικοινωνιών τα τελευταία χρόνια.τα γνωσ τικά ραδιοσ υσ τήματα επισ τρατεύονται για την επίλυσ η αυτού του προβλήματος και αποσ κοπούν σ την βέλτισ τη αξιοποίησ η του φάσ ματος και την εξυπηρέτησ η του μέγισ του δυνατού αριθμού υπηρεσ ιών και χρησ τών. Να σ ημειώσ ουμε ότι τα γνωσ τικά ραδιοσ υσ τήματα δεν αφορούν κάποια σ υγκεκριμένη τηλεπικοινωνιακή σ υσ κευή, αλλά αποτελούν μία πιο αφηρημένη έννοια.η έννοια αυτή 1 Η σ τατική ανάθεσ η φάσ ματος αναφέρεται σ την απόδοσ η σ χετικά μεγάλων τμημάτων φάσ ματος σ ε διάφορες υπηρεσ ίες χωρίς δυνατότητα άμεσ ης αλλαγής αυτής της ανάθεσ ης.οι υπόλοιποι χρήσ τες δεν έχουν δικαίωμα χρήσ ης αυτού του τμήματος του φάσ ματος ακόμα και αν αυτό υποχρησ ιμοποιείται (δηλαδή κάποιο κομμάτι του σ υγκεκριμένου τμήματος είναι ελεύθερο κάποια χρονική περίοδο σ ε κάποια γεωγραφική περιοχή). 1

20 Chapter 1 Γνωσ τικά ραδιοσ υσ τήματα αναφέρεται σ ε ένα νέο τρόπο σ χεδίασ ης και λειτουργίας ασ ύρματων τηλεπικοινωνιακών σ υσ κευών που χρησ ιμοποιούνται για δυναμική πρόσ βασ η φάσ ματος (Dynamic Spectrum Access).Τα γνωσ τικά ραδιοσ υσ τήματα είναι εφοδιασ μένα με ικανότητες αντίληψης και αναγνώρισ ης του περιβάλλοντός τους, αλγορίθμους εκμάθησ ης των χαρακτηρισ τικών αυτού και ικανότητα λήψης ευφυών αποφάσ εων για τη βέλτισ τη αξιοποίησ η του φάσ ματος και την ικανοποίησ η των απαιτήσ εων των χρησ τών με βάσ η διάφορα κριτήρια (όπως ελαχισ τοποίησ η της κατανάλωσ ης ενέργειας, περιορισ μός των παρεμβολών, κτλ.). 1.2 Ορισ μοί Για λόγους πληρότητας καθώς και για να ορίσ ουμε με μεγαλύτερη ακρίβεια την έννοια των γνωσ τικών ραδιοσ υσ τημάτων παρακάτω δίνονται μερικοί ορισ μοί αυτού από σ ημαντικούς τηλεπικοινωνιακούς οργανισ μούς. Definition Γνωσ τικό ραδιοσ ύσ τημα(κατα ITU) [31] Γνωσ τικό Ραδιοσ ύσ τημα (Cognitive radio system-crs): Ενα ραδιοσ ύσ τημα που χρησ ιμοποιεί τεχνολογία που του επιτρέπει να αποκτήσ ει γνώσ η από το περιβάλλον λειτουργίας του, τις εγκαθιδρυμένες πολιτικές και τις εσ ωτερικές του κατασ τάσ εις.στόχος του να προσ αρμόσ ει δυναμικά και αυτόνομα τις λειτουργικές παραμέτρους και τα πρωτόκολλά του σ ύμφωνα με την αποκτημένη γνώσ η, έτσ ι ώσ τε να πετύχει τους προδιαγεγραμμένους σ τόχους και να μάθει από τα αποτελέσ ματα που έλαβε. Definition Γνωσ τικό ραδιοσ ύσ τημα(κατα FCC) [16] Γνωσ τικό Ραδιοσ ύσ τημα (Cognitive radio system-crs): Ενα ραδιοσ ύσ τημα που ανιχνεύει το ηλεκτρομαγνητικό περιβάλλον λειτουργίας του και μπορεί δυναμικά και αυτόνομα να προσ αρμόζει τις λειτουργικές του παραμέτρους με σ τόχο να μεταβάλλει τη λειτουργία του σ υσ τήματος, όπως είναι η μεγισ τοποίησ η της ρυθμοαπόδοσ ης (throughput), η αποφυγή παρεμβολών, η επίτευξη διαλειτουργικότητας (interoperability) και η πρόσ βασ η σ ε δευτερεύοντα σ υσ τήματα. Definition Γνωσ τικό ραδιοσ ύσ τημα(κατα Haykin) [25] Ενα γνωσ τικό ραδιοσ ύσ τημα είναι ένα ευφυές ασ ύρματο τηλεπικοινωνιακό σ ύσ τημα, το οποίο γνωρίζει το άμεσ ο περιβάλλον του και χρησ ιμοποιεί τη μεθοδολογία της κατανόησ ης με κατασ κευή (understanding-by-building) για να μάθει από αυτό και να προσ αρμόσ ει τις εσ ωτερικές του κατασ τάσ εις σ τις σ τατισ τικές μεταβολές του εισ ερχόμενου σ ήματος RF, πραγματοποιώντας αντίσ τοιχες αλλαγές σ ε σ υγκεκριμένες λειτουργικές παραμέτρους (π.χ. ισ χύς εκπομπής, σ υχνότητα φέροντος, σ χήμα διαμόρφωσ ης) σ ε πραγματικό χρόνο, με δύο πρωταρχικούς σ τόχους: αξιόπισ τες επικοινωνίες όταν και όπου αυτές χρειάζονται, αποδοτική αξιοποίησ η του φάσ ματος. 2

21 1.3 Βασ ικές έννοιες 1.3 Βασ ικές έννοιες Για την ολοκληρωμένη αντιμετώπισ η του ζητήματος των γνωσ τικών ραδιοσ υσ τημάτων είναι απαράιτητο να ορίσ ουμε μερικές βασ ικές έννοιες Χρήσ τες Ενας χρήσ της (user) είναι μία οντότητα (είτε αυτό σ ημαίνει άνθρωπος είτε κάποιο σ ύσ τημα), η οποία με τη χρήσ η κατάλληλου εξοπλισ μού αξιοποιεί για διάφορους σ κοπούς τμήμα του τηλεπικοινωνιακού φάσ ματος.οι χρήσ τες διακρίνονται σ ε πρωτεύοντες και δευτερεύοντες. Πρωτεύων χρήσ της(primary user) Πρωτεύων χρήσ της είναι αυτός σ τον οποίο έχει αποδοθεί προτεραιότητα ή αυξημένα δικαιώματα σ τη χρήσ η τμήματος του φάσ ματος.η προτεραιότητα αυτή κατοχυρώνεται από επίσ ημη άδεια που έχει εκδόσ ει η αντίσ τοιχη αρχή (όπως είναι το FCC σ τις ΗΠΑ) σ την οποία υπάγεται ο χρήσ της. Δευτερεύων χρήσ της(secondary user) Δευτερεύων χρήσ της είναι αυτός που έχει μειωμένα δικαιώματα σ τη χρήσ η τμήματος του φάσ ματος.σε περίπτωσ η που ο δευτερεύων χρήσ της επιθυμεί να χρησ ιμοποιήσ ει τμήμα φάσ ματος που έχει αποδοθεί σ ε πρωτεύων χρήσ τη είναι υποχρεωμένος να ακολουθήσ ει σ υγκεκριμένους κανόνες (όπως να εκπέμπει μόνο όταν ο πρωτεύων χρήσ της δεν εκπέμπει εκείνη τη σ τιγμή).οι δευτερεύοντες χρήσ τες ονομάζονται και γνωσ τικοί χρήσ τες (Cognitive users), γιατί χρειάζονται τη λειτουργικότητα που προσ φέρουν τα γνωσ τικά ραδιοσ υσ τήματα για να εκμεταλλευτούν το φάσ μα Φασ ματικές οπές(spectral holes) Μια φασ ματική οπή (Spectrum Hole) είναι ένα τμήμα του φάσ ματος σ υχνοτήτων που έχει αποδοθεί σ ε ένα πρωτεύων χρήσ τη, αλλά κάποια σ υγκεκριμένη χρονική σ τιγμή, γεωγραφική περιοχη, αλλά και για σ υγκεκριμένη επιλογή σ χήματος κωδικοποίησ ης και γωνίας δεν χρησ ιμοποιείται από αυτόν.στην εικόνα 1.1 απεικονίζονται διάφορες φασ ματικές οπές. 1.4 Γνωσ τικές λειτουργίες Στο τμήμα αυτό θα επιχειρηθεί μια σ υνοπτική παρουσ ίασ η του σ υνόλου των λειτουργιών 2 που επιτελεί ένα γνωσ τικό ραδιοσ ύσ τημα.οι λειτουργίες αυτές είναι οι εξής: 2 Στην βιβλιογραφία δεν υπάρχει ένας κοινός διαχωρισ μός του σ υνόλου των γνωσ τικών λειτουργιών.στην εργασ ία αυτή επιλέχθηκε ένας από τους πιο κοινούς διαχωρισ μούς.επιπλέον είναι 3

22 Chapter 1 Γνωσ τικά ραδιοσ υσ τήματα Figure 1.1: Φασ ματικές οπές [1] Φασ ματική ανίχνευσ η(spectrum Sensing) Αφορά την παρατήρησ η του φάσ ματος και την εξαγωγή πληροφοριών για την κατάσ τασ ή και τα διάφορα χαρακτηρισ τικά του.κατα κύριο όμως λόγο η λειτουργία αυτή είναι επιφορτισ μένη με την ανίχνευσ η φασ ματικών οπών και πρωτευόντων χρησ τών. Φασ ματική απόφασ η(spectrum Decision) Η λειτουργία αυτή είναι επιφορτισ μένη με τον χαρακτηρισ μό του φάσ ματος με βάσ η τις πληροφορίες που έλαβε σ τον προηγούμενο σ τάδιο και επιπροσ θέτως λαμβάνει την απόφασ η σ χετικά με το κατάλληλο τμήμα του φάσ ματος που θα χρησ ιμοποιηθεί για την εκπομπή.επιπλέον σ το σ τάδιο αυτό επιτελείται η προσ- αρμογή των παραμέτρων του γνωσ τικού σ υσ τήματος για την ικανοποίησ η των διαφόρων κριτηρίων. Φασ ματική κινητικότητα(spectrum Mobility) Η διαδικασ ία αυτή αποσ κοπεί σ την απρόσ κοπτη λειτουργία των σ υσ τημάτων των δευτερευόντων χρησ τών, εξασ φαλίζοντας την ομαλή μετάβασ η σ ε νέα φασ ματική περιοχή, όταν η παλία καταληφθεί από τον αδειοδοτημένο χρήσ τη της ή τα χαρακτηρισ τικά της τρέχουσ ας περιοχής παύουν να ικανοποιούν διάφορα κριτήρια. Φασ ματικός διαμοιρασ μός(spectrum Sharing) Ο φασ ματικός διαμοιρασ μός αφορά την απόδοσ η των ελεύθερων τμημάτων του φάσ ματος σ τους δευτερεύοντες χρήσ τες με τέτοιο τρόπο ώσ τε να αποφεύγονται σ υγκρούσ εις. πιθανόν οι διάφορες λειτουργίες να έχουν σ ημεία τομής ή τα όρια μεταξύ τους να μην είναι ευδιάκριτα ακόμα και κάποιες διεργασ ίες να φαίνεται ότι μοιράζονται ανάμεσ α σ ε 2 κύριες λειτουργίες. 4

23 1.5 Φασ ματική ανίχνευσ η(spectrum sensing) 1.5 Φασ ματική ανίχνευσ η(spectrum sensing) Η φασ ματική ανίχνευσ η (spectrum sensing) είναι η γνωσ τική λειτουργία που αποσ κοπεί σ τον προσ διορισ μό της κατάσ τασ ης και των χαρακτηρισ τικών του ηλεκτρομαγνητικού φάσ ματος, καθώς και σ την ανίχνευσ η των πρωτευόντων χρησ τών.συγκεκριμένα η ανίχνευσ η φάσ ματος περιλαμβάνει τον προσ διορισ μό των εξής: Χαρακτηρισ τικά χρήσ ης φάσ ματος Αφορά των προσ διορισ μό των φασ ματικών οπών σ ε ένα χώρο 5 διασ τάσ εων, τον χώρο φάσ ματος (spectrum space).οι διασ τάσ εις αυτές δίνονται παρακάτω. [72] Χρόνος (Time) Συχνότητα (Frequency) Γεωγραφική περιοχή (Geographical space) Κώδικας (Code) Γωνία (Angle) Χαρακτηρισ τικά σ ημάτων Αφορά τον προσ διορισ μό βασ ικών χαρακτηρισ τικών των σ ημάτων που εμφανίζονται σ ε διάφορα τμήματα του φάσ ματος.ανάμεσ α σ ε αυτά περιλαμβάνονται τα παρακάτω. [72] Σχήμα διαμόρφωσ ης (Modulation) Σχήμα κωδικοποίησ ης (Coding) Κυματομορφή (Waveform) Εύρος ζώνης (Bandwidth) Συχνότητα φέροντος (Carrier frequnecy) Ισ χύς εκπομπής (Transmission power) Για να πραγματοποιηθεί η γνωσ τική λειτουργία της ανίχνευσ ης φάσ ματος έχουν αναπτυχθεί διάφορες μέθοδοι.αυτές οι μέθοδοι χωρισ μένοι σ ε κατηγορίες δίνονται σ την εικόνα 1.2 και σ τη σ υνέχεια περιγράφονται αναλυτικά Μη σ υνεργατικές μέθοδοι(non-cooperative methods) Στις μη σ υνεργατικές μεθόδους ανίχνευσ ης φάσ ματος (non-cooperative spectrum sensing) κάθε γνωσ τικό ραδιοσ ύσ τημα αναλαμβάνει μόνο του την ανίχνευσ η φάσ ματος και δεν λαμβάνει πληροφορίες από άλλα σ υσ τήματα.στη κατηγορία αυτή υπάγονται οι μέθοδοι της ανίχνευσ ης ενέργειας, της ανίχνευσ ης προσ αρμοσ μένου φίλτρου και της ανίχνευσ ης χαρακτηρισ τικών. 5

24 Chapter 1 Γνωσ τικά ραδιοσ υσ τήματα Figure 1.2: Μέθοδοι ανίχνευσ ης φάσ ματος Ανιχνευτής ενέργειας(energy detector) Η λειτουργία αυτής της μεθόδου βασ ίζεται σ τον υπολογισ μό της ενέργειας των σ ημάτων που δέχεται το σ ύσ τημα.αυτό πραγματοποιείται ως εξής.αρχικά το σ ύσ τημα δέχεται ως είσ οδο ένα σ ήμα από το περιβάλλον του.το σ ήμα αυτό το περνάει μέσ α από ένα ζωνοπερατό φίλτρο και το σ ύσ τημα τετραγωνίζει το αποτέλεσ μα.τέλος ολοκληρώνει το σ ήμα που έλαβε σ το προηγούμενο σ τάδιο.με αυτόν τον τρόπο υπολογίζει την ενέργεια του σ ήματος που έλαβε ως είσ οδο.γνωρίζοντας πλέον την ενέργεια των σ ημάτων του περιβάλλοντος ο ανιχνευτής χρησ ιμοποιεί κατάλληλο αλγόριθμο απόφασ ης.ο αλγόριθμος αυτός σ υγκρίνει την λαμβανόμενη ενέργεια με κάποιο κατώφλι ώσ τε να αποφασ ίσ ει εάν υπάρχει ή όχι εκπομπή από κάποιον πρωτεύων χρήσ τη.παρακάτω περιγράφεται η παραπάνω διαδικασ ία σ ε ένα πιο αυσ τηρό, μαθηματικό πλαίσ ιο, έχοντας ως βάσ η τα [72] και [33]. Εσ τω y[n] το σ ήμα που λαμβάνει ο αισ θητήρας του ανιχνευτή.για το σ ήμα y[n] θα ισ χύει y[n] = s[n] + w[n] όπου s[n] το ωφέλιμο σ ήμα που εκπέμπει κάποιος πρωτεύων χρήσ της. w[n] ο θόρυβος για τον οποίο θεωρούμε ότι ακολουθεί το μοντέλο του προσ θετικού λευκού Γκαουσ ιανού θορύβου (Additive White Gaussian Noise-AWGN). Η μετρική που θα χρησ ιμοποιήσ ουμε για να λάβουμε την απόφασ η είναι η ενέργεια του σ ήματος, δηλαδή η ποσ ότητα E = N y[n] 2.Εάν η ενέργεια είναι μεγαλύτερη από n=0 6

25 1.5 Φασ ματική ανίχνευσ η(spectrum sensing) ένα κατώφλι λ τότε θεωρούμε ότι υπάρχει εκπομπή, ενώ σ ε αντίθετη περίπτωσ η δεν υπάρχει.για την περιγραφή του σ εναρίου ορίζουμε τις εξής υποθέσ εις. H 0 : y[n] = w[n], δηλαδή δεν εκπέμπει κάποιος πρωτεύων χρήσ της. H 1 : y[n] = h s[n] + w[n], δηλαδή εκπέμπει κάποιος πρωτεύων χρήσ της (h είναι το κέρδος του καναλιού). Οι δυνατές περιπτώσ εις που διαμορφώνονται με βάσ η το μοντέλο που θα χρησ ιμοποιήσ ουμε σ υνοψίζονται σ τον παρακάτω πίνακα Figure 1.3: Δυνατές περιπτώσ εις που διαμορφώνονται από το μοντέλο που χρησ ιμοποιούμε. SU/PU SU ανιχνεύει SU δεν ανιχνεύει PU εκπέμπει Hit Miss PU δεν εκπέμπει False Correct Correct Reject Για να αξιολογήσ ουμε την απόδοσ η του σ υσ τήματος χρησ ιμοποιούμε τις παρακάτω ποσ ότητες. [72] 1. Πιθανότητα εντοπισ μού(probability of detection) Η πιθανότητα να εντοπίσ ουμε σ ήμα από πρωτεύων χρήσ τη, το οποίο πράγματι υπάρχει.αυτή ορίζεται ως P D = P [E > λ H 1 ]. 2. Πιθανότητα λανθασ μένου σ υναγερμού(probability of false alarm) Η πιθανότητα να εντοπίσ ουμε σ ήμα από πρωτεύων χρήσ τη, το οποίο όμως δεν υπάρχει σ την πραγματικότητα.αυτή ορίζεται ως P F = P [E > λ H 0 ]. Η εύρεσ η της κατάλληλης τιμής για το κατώφλι λ είναι ένα σ ημαντικό ζήτημα που επιλέγεται με κριτήριο την επίτευξη βέλτισ της ισ ορροπίας μεταξύ των δύο μεγεθών που χρησ ιμοποιούμε, της πιθανότητας εντοπισ μού (P D ) και την πιθανότητας λανθασ μένου σ υναγερμού (P F ).Για πρακτικούς όμως λόγους επιλέγουμε το λ έτσ ι ώσ τε να ικανοποιείται ενα σ υγκεκριμένο επίπεδο πιθανότητας λανθασ μένου σ υναγερμού (P F ). [72]Για να χαρακτηρισ τεί ένας ανιχνευτής καλός θα πρέπει να επιτυγχάνει μεγάλη πιθανότητα εντοπισ μού (P D ) και μικρή πιθανότατα λανθασ μένου σ υναγερμού (P F ). Ενα σ ημαντικό σ τοιχείο του ανιχνευτή ενέργειας είναι ότι η απόδοσ η της ανίχνευσ ης εξαρτάται από το λάθος της εκτίμησ ης του φάσ ματος ισ χύος του θορύβου, αφού από το εκτιμώμενο επίπεδο θορύβου προκύπτει το κατώφλι.για αυτό το λόγο χρησ ιμοποιείται ένας δυναμικός αλγόριθμος προσ διορισ μού του επιπέδου θορύβου.ο αλγόριθμος αυτός είναι ο MUSIC (Multiple Signal Classification) [44], ο οποίος διαχωρίζει τους υποχώρους του σ ήματος και του θορύβου. [72] Στα πλεονεκτήματα αυτής της μεθόδου σ υγκαταλέγονται τα εξής: [33] 3 Η ορολογία που χρησ ιμοποιείται σ τον πίνακα δίνεται σ τα Αγγλικά, γιατί η μεταφορά της σ τα Ελληνικά θα αλλοιώσ ει το νόημά της.επιπλέον οι μεταφρασ μένοι όροι σ τα Ελληνικά είναι άκομψοι σ ε αντίθεσ η με τις αντίσ τοιχες λέξεις σ τα Αγγλικά. 7

26 Chapter 1 Γνωσ τικά ραδιοσ υσ τήματα Η ευκολία της υλοποίησ ης. Η μικρή υπολογισ τική πολυπλοκότητα του αλγορίθμου ανίχνευσ ης. Μπορεί να χρησ ιμοποιηθεί χωρις να υπάρχει γνώσ η για τα πρωταρχικά σ ήματα. Ο μικρός χρόνος ανίχνευσ ης σ ημάτων. Τα κυριότερα μειονεκτήματα είναι τα εξής: [33] Η αδυναμία επιλογής του λ με ικανοποιητική ακρίβεια, το οποίο οδηγεί σ ε υψηλά ποσ οσ τά λανθασ μένου σ υναγερμού.αυτό οφείλεται σ την αβεβαιότητα που εμφανίζει η εκτίμησ η του φάσ ματος ισ χύος θορύβου και σ την μεταβολή του επιπέδου θορύβου με το χρόνο. Η αδυναμία διάκρισ ης των σ ημάτων που εντοπίζει.δηλαδή δεν μπορεί να διακρίνει εαν το σ ήμα που εντόπισ ε ανήκει σ ε πρωτεύων ή δευτερεύων χρήσ τη καθώς και εαν έχει διαφορετική προέλευσ η. Δεν λειτουργεί ικανοποιητικά ο ανιχνευτής για χαμηλό σ ηματοθορυβικό λόγο (Signal to Noise Ratio - SNR) Ανιχνευτής προσ αρμοσ μένου φίλτρου(matched-filter detector) Η μέθοδος αυτή βασ ίζεται σ τη σ ύγκρισ η του λαμβανόμενου σ ήματος με κάποια πρότυπα σ ήματα και σ την εξαγωγή σ υμπερασ μάτων ανάλογα με το αποτέλεσ μα της σ ύγκρισ ης.ο ανιχνευτής προσ αρμοσ μένου φίλτρου είναι χρήσ ιμος όταν διαθέτουμε αρκετή πληροφορία για το σ ήμα που εκπέμπει ο πρωτεύων χρήσ της (π.χ. σ χήμα διαμόρφωσ ης, σ χήμα κωδικοποίησ ης, σ υχνότητα, κτλ.).μάλισ τα όταν έχουμε καλή εικόνα για το σ ήμα που αναμέναμε ο ανιχνευτής προσ αρμοσ μένου φίλτρου αποτελεί την βέλτισ τη μέθοδο.από την άλλη πλευρά ελλειπής ή λανθασ μένη γνώσ η για τα χαρακτηρισ τικά του σ ήματος προς ανίχνευσ η οδηγεί σ ε μεγάλη υποβάθμισ η της απόδοσ ης του ανιχνευτή. Τα πλεονεκτήματα αυτής της μεθόδου είναι τα εξής: [33] Με την προυπόθεσ η ότι γνωρίζουμε τα σ ήματα των πρωτευόντων χρησ τών η μέθοδος αυτή είναι βέλτισ τη (σ υγκριτικά με τις υπόλοιπες μεθόδους ανίχνευσ ης σ ημάτων πρωτευόντων χρησ τών). Απαιτείται μικρός χρόνος για την επίτευξη σ υγκεκριμένης απόδοσ ης ανίχνευσ ης. Μεγαλύτερη ανθεκτικότητα σ την αβεβαιότητα της εκτίμησ ης του θορύβου σ ε σ χέσ η με τον ανιχνευτή χαρακτηρισ τικών και ενέργειας. Ικανοποιητική σ υμπεριφορά σ ε χαμηλά SNR σ ε σ χέσ η με τον ανιχνευτή χαρακτηρισ τικών και ενέργειας. Ανάμεσ α σ τα μειονεκτήματα αυτής της μεθόδου σ υμπεριλαμβάνονται τα εξής: [33] Υψηλή πολυπλοκότητα υλοποίησ ης. Απαιτεί ακριβείς πληροφορίες για τα χαρακτηρισ τικά των σ ημάτων που επιδιώκει να αναγνωρίσ ει.σε αντίθετη περίπτωσ η η απόδοσ η της μεθόδου μειώνεται. Υψηλή κατανάλωσ η ενέργειας. 8

27 1.5 Φασ ματική ανίχνευσ η(spectrum sensing) Ανιχνευτής χαρακτηρισ τικών-ανιχνευτής κυκλοσ τασ ιμότητας(cyclostationarity detector) Αυτή η μέθοδος φασ ματικής ανίχνευσ ης βασ ίζεται σ τη διάκρισ η σ ημάτων με τη βοήθεια των διαφόρων χαρακτηρισ τικών που εμφανίζουν αυτά, όπως το εύρος ζώνης, η κεντρική σ υχνότητα, η περιοδικότητα, κτλ.στη βιβλιογραφία σ υνήθως αναφέρεται μόνο ο ανιχνευτής κυκλοσ τασ ιμότητας (Cyclostationarity detector), ο οποίος προφανώς βασ ίζει τη διάκρισ η των σ ημάτων σ το χαρακτηρισ τικό της κυκλοσ τασ ιμότητας (cyclostationarity).παρακάτω θα αναφερθούμε μόνο σ ε αυτό τον ανιχνευτή. Ενα από τα χαρακτηρισ τικά με βάσ η τα οποία γίνεται η διάκρισ η των σ ημάτων είναι η περιοδικότητα που εμφανίζουν τα τηλεπικοινωνιακά σ ήματα και κατά σ υνέπεια τα σ τατισ τικά τους (μέσ η τιμή, αυτοσ υσ χέτισ η, κτλ.).η περιοδικότητα αυτή είναι αποτέλεσ μα της διαμόρφωσ ης αλλά και άλλων χαρακτηρισ τικών των σ ημάτων, όπως είναι η χρήσ η ημιτονοειδών φερόντων, παλμοσ ειρών, κυκλικών προθεμάτων, κτλ.η περιοδικότητα αυτή προσ δίδει σ το σ ήμα το χαρακτηρισ τικό της κυκλοσ τασ ιμότητας.οι λόγοι για τους οποίους μπορεί η κυκλοσ τασ ιμότητα να θεωρηθεί ένα ικανοποιητικό κριτήριο διάκρισ ης μεταξύ των σ ημάτων του πρωτεύοντος χρήσ τη και του θορύβου έχει να κάνει με τη διαφορετική φύσ η των δύο σ ημάτων.από την μία διακρίνονται τα σ ήματα των πρωτευόντων χρησ τών, τα οποία λόγω της εγγενούς περιοδικότητας εμφανίζουν χαρακτηρισ τικά κυκλοσ τασ ιμότητας.από την άλλη διακρίνονται τα σ ήματα θορύβου, τα οποία δεν επιδεικνύουν κανενός είδους περιοδικότητα σ την περίπτωσ η του λευκού Γκαουσ ιανού θορύβου (αλλά είναι σ τατικά με την ευρεία έννοια).κατα σ υνέπεια η κυκλοσ τασ ιμότητα αποτελεί ένα κατάλληλο χαρακτηρισ τικό για την διάκρισ η των δύο προαναφερθέντων ειδών σ ημάτων. Περνώντας σ ε ένα πιο αυσ τηρό πλαίσ ιο ορίζουμε τα εξής: Κυκλοσ τάσ ιμη διαδικασ ία(cyclostationary Process) Ενα σ ήμα που έχει σ τατισ τικές ιδιότητες, όπως μέσ η τιμή και αυτοσ υσ χέτισ η, που εμφανίζουν περιοδικότητα. Κυκλική σ υνάρτησ η αυτοσ υσ χέτισ ης (Cyclic Autocorrelation Function - CAF) [72] R α y (τ) = E [y(n + τ)y (n τ)e j2παn ] (α η κυκλική σ υχνότητα) Κυκλική φασ ματική πυκνότητα (Cyclic Spectral Density-CSD) [72] S(f, α) = τ= R α y (τ)e j2πfτ Ενα σ ημαντικό χαρακτηρισ τικό της κυκλικής φασ ματικής πυκνότητας είναι ότι εμφανίζει κορυφές όταν η κυκλική σ υχνότητα α ταυτίζεται με τη θεμελιώδη σ υχνότητα του μεταδιδόμενου σ ήματος.συνεπώς όταν έχουμε μόνο θόρυβο, ο οποίος φυσ ικά δεν εμφανίζει κυκλοσ τάσ ιμα χαρακτηρισ τικά, η κυκλική φασ ματική πυκνότητα δεν δίνει κορυφές.αντιθέτως όταν ένας πρωτεύων χρήσ της εκπέμπει η εγγενής περιοδικότητα των εκπεμπόμενων σ ημάτων του μεταφράζεται σ ε κορυφές σ την κυκλική φασ ματική πυκνότητα. Ετσ ι με τη χρήσ η κάποιου ανιχνευτή κορυφών επιτυγχάνεται η διάκρισ η μεταξύ των δύο διαφορετικών ειδών σ ημάτων. 9

28 Chapter 1 Γνωσ τικά ραδιοσ υσ τήματα Ανάμεσ α σ τα πλεονεκτήματα αυτής της μεθόδου περιλαμβάνονται τα εξής: [33] Δίνει την δυνατότητα διάκρισ ης ανάμεσ α σ ε διαφορετικών ειδών σ ήματα. Μεγαλύτερη ανθεκτικότητα σ την αβεβαιότητα της εκτίμησ ης του θορύβου σ ε σ χέσ η με τον ανιχνευτή ενέργειας. Ικανοποιητική σ υμπεριφορά σ ε χαμηλά SNR σ ε σ χέσ η με τον ανιχνευτή ενέργειας. Στα μειονεκτήματα αυτής της μεθόδου σ υμπεριλαμβάνονται τα εξής: [33] Πρέπει να αποδοθούν σ τα σ ήματα των πρωτευόντων χρησ τών σ υγκεκριμένα χαρακτηρισ τικά (όπως είναι η κυκλοσ τασ ιμότητα), τα οποία θα χρησ ιμεύσ ουν σ την διάκρισ η αυτών. Απαιτείται μεγάλος χρόνος παρατήρησ ης για να επιτευχθεί ικανοποιητική απόδοσ η. Η υψηλή υπολογισ τική πολυπλοκότητα του αλγορίθμου που το υλοποιεί Συνεργατικές μέθοδοι(cooperative methods) Στην περίπτωσ η των σ υνεργατικών μεθόδων (cooperative methods) ανίχνευσ ης η απόφασ η για την παρουσ ία ή απουσ ία πρωτεύοντος χρήσ τη λαμβάνεται χρησ ιμοποιώντας πληροφορίες από την ανίχνευσ η που επιτελούν πολλά σ υσ τήματα, τις οποίες και ανταλάσ σ ουν μεταξύ τους.γενικά η πρακτική της σ υνεργασ ίας έχει ως αποτέλεσ μα τη μείωσ η της πιθανότητας λανθασ μένου σ υναγερμού, αλλά και γενικότερα την αποδοτικότερη αξιοποίησ η του φάσ ματος. Συγκεκριμένα ένα σ ημαντικό πρόβλημα που επιλύουν οι μέθοδοι σ υνεργατικής ανίχνευσ ης είναι το πρόβλημα του κρυφού τερματικού (hidden user problem).αυτό αναφέρεται σ την περίπτωσ η σ την οποία έχουμε ένα πρωτεύων χρήσ τη που βρίσ κεται εντός της ακτίνας εκπομπής κάποιου δευτερεύοντα χρήσ τη, χωρίς ο τελευταίος να αναγνωρίζει την ύπαρξή του. Συγκριτικά με τις μη-σ υνεργατικές μεθόδους οι σ υνεργατικές είναι πιο ανθεκτικές σ ε περιορισ τικούς παράγοντες, όπως σ κίασ η, διαλείψεις και αβεβαίοτητα εκτίμησ ης του επιπέδου θορύβου.επίσ ης παρατηρείται βελτίωσ η της απόδοσ ης ανίχνευσ ης (δηλαδή αύξησ η της πιθανότητας ανίχνευσ ης και μείωσ η της πιθανότητας λανθασ μένου σ υναγερμού) και μείωσ η του χρόνου ανίχνευσ ης.από την άλλη πλευρά η χρήσ η σ υνεργατικών μεθόδων έχει το προφανές μειονέκτημα ότι απαιτεί την ύπαρξη κάποιου σ υνόλου δευτερευόντων χρησ τών με εξειδικευμένους αισ θητήρες, με αυξημένο οικονομικό κόσ τος και κατανάλωσ η ενέργειας.επιπλέον μειονέκτημα αποτελεί η αυξημένη πολυπλοκότητα του σ υνολικού σ υσ τήματος (αλγόριθμοι, hardware, κτλ.). Υπάρχουν δύο κύριες μέθοδοι σ υνεργατικής ανίχνευσ ης. Κεντρική ανίχνευσ η(centralized Sensing) Κατανεμημένη ανίχνευσ η(distributed Sensing) 10

29 1.5 Φασ ματική ανίχνευσ η(spectrum sensing) Κεντρική ανίχνευσ η(centralized sensing) Στα κεντρική ανίχνευσ η (Centralized Sensing) υπάρχει κάποιο κεντρικό σ ύσ τημα που σ υλλέγει πληροφορίες σ χετικές με το φάσ μα από πολλά γνωσ τικά ραδιοσ υσ τήματα και τις χρησ ιμοποιεί για να εξάγει σ υμπεράσ ματα σ χετικά με αυτό (όπως φασ ματικές οπές, κτλ.).τα σ υμπεράσ ματα αυτά τα μεταδίδει σ τα άλλα σ υσ τήματα, ενώ σ ε μερικές περιπτώσ εις μάλισ τα ρυθμίζει με τις πληροφορίες που σ τέλνει την κίνησ η σ το δίκτυο, αφού σ την τελική επιβάλλει σ τα υπόλοιπα σ υσ τήματα τα τμήματα του φάσ ματος που θα χρησ ιμοποιήσ ουν Κατανεμημένη ανίχνευσ η(distributed sensing) Στην κατανεμημένη ανίχνευσ η (Distributed Sensing) οι χρήσ τες που σ υνθέτουν το δίκτυο διαμοιράζονται μεταξύ τους πληροφορίες για την κατάσ τασ η του φάσ ματος, όπως την αντιλαμβάνονται απο τους αισ θητήρες τους.ο κάθε χρήσ της όμως αποφασ ίζει τελικά ποιο τμήμα του φάσ ματος θα χρησ ιμοποιήσ ει, λαμβάνοντας υπόψιν της πληροφορίες που έλαβε από τα άλλα σ υσ τήματα, αλλά χωρίς να δεσ μεύεται από αυτές. Ενα πλεονέκτημα που εμφανίζουν τα παραπάνω σ υσ τήματα σ ε σ χέσ η με τα σ υσ τήματα κεντρικής ανίχνευσ ης είναι ότι δεν απαιτούν την ύπαρξη ειδικών υποδομών, το οποίο επιφέρει αυξημένο οικονομικό κόσ τος.επιπλέον, όπως είναι προφανές, ο διαμοιρασ μός των πληροφοριών βελτιώνει την ικανότητα ανίχνευσ ης του σ υνολικού σ υσ τήματος και κατά επέκτασ η των χρησ τών που το απαρτίζουν Ανίχνευσ η βασ ισ μένη σ ε παρεμβολές(interference-based sensing) Αυτή η μέθοδος ανίχνευσ ης έχει ως κεντρικό σ ημείο τον προσ διορισ μό του επιπέδου παρεμβολών από όλες τις πηγές, όπως αυτές γίνονται αντιληπτές από το δέκτη του σ υσ τήματος.η έννοια της παρεμβολής ποσ οτικοποιείται μέσ ω της μετρικής της θερμοκρασ ίας παρεμβολής.ο κάθε δευτερεύων χρήσ της λειτουργεί με γνώμονα την αποφυγή παραβίασ ης του ορίου της θερμοκρασ ίας παρεμβολής σ τη σ υγκεκριμένη φασ ματική περιοχή που σ κοπεύει να χρησ ιμοποιήσ ει. Η θερμοκρασ ία παρεμβολής (interference temperature) αποτελεί μια μετρική για την εκτίμησ η της παρεμβολής που δημιουργείται σ το ηλεκτρομαγνητικό περιβάλλον.πιο σ υγκεκριμένα αποτελεί ένα μέτρο της παρεμβολής που δέχεται ένας πρωτεύων χρήσ της από το περιβάλλον του και τους υπόλοιπους χρήσ τες.με αυτόν τον τρόπο μπορούμε να καθορίσ ουμε ένα άνω όριο θερμοκρασ ίας παρεμβολής, το οποίο αποτελεί ένα χαρακτηρισ τικό του σ υγκεκριμένου τμήματος του φάσ ματος σ ε σ υγκεκριμένη γεωγραφική περιοχή.το όριο αυτό οφείλουν να μην ξεπερνούν οι δευτερεύοντες χρήσ τες που δρασ τηριοποιούνται σ την ίδια φασ ματική περιοχή (με την έννοια τόσ ο της σ υχνότητας όσ ο και 11

30 Chapter 1 Γνωσ τικά ραδιοσ υσ τήματα της γεωγραφικής περιοχής) λαμβάνοντας έτσ ι υπόψιν όχι μόνο τις δικές τους εκπομπές αλλά και τις εκπομπές των άλλων.δηλαδή το άθροισ μα της ισ χύος της εκπομπής κάποιου δευτερεύοντα χρήσ τη με την ισ χύ της υπάρχουσ ας παρεμβολής να μην ξεπερνάει το όριο της θερμοκρασ ίας παρεμβολής.η σ ημασ ία της έγκειται σ το γεγονός ότι μπορεί να χρησ ιμοποιηθεί σ ε κατασ τάσ εις όπου πομποί και δέκτες αλληλεπιδρούν και μεταβάλλουν τις παραμέτρους λειτουργίας τους.παρακάτω παραθέτουμε τον ακριβή ορισ μό της θερμοκρασ ίας παρεμβολής. Definition Θερμοκρασ ία παρεμβολής(interference temperature) [33] Η θερμοκρασ ία παρεμβολής είναι η θερμοκρασ ία σ ε βαθμούς Kelvin, η οποία είναι ισ οδύναμη με την RF ισ χύ που είναι διαθέσ ιμη σ την κεραία λήψης ανά μονάδα εύρους ζώνης.δηλαδή είναι T I (f, B) = P (f,b) k B όπου P (f, B) η μέσ η ισ χύς παρεμβολής (Watt) f η κεντρική σ υχνότητα (Hz) Β το εύρος ζώνης (Hz) k η σ ταθερά του Boltzmann ( JK 1 ) 1.6 Φασ ματική απόφασ η(spectrum decision) Η φασ ματική απόφασ η (spectrum decision) είναι η θεμελιώδης λειτουργία των γνωσ τικών ραδιοσ υσ τημάτων που αποσ κοπεί σ τον χαρακτηρισ μό του φάσ ματος, την επιλογή του τμήματος αυτού που ικανοποιεί διάφορα κριτήρια και τον προσ διορισ μό των τιμών των παραμέτρων του σ υσ τήματος, ώσ τε να ικανοποιούνται τα διάφορα κριτήρια λειτουργίας.οι τρείς βασ ικές λειτουργίες που σ υνθέτουν την απόφασ η φάσ ματος δίνονται παρακάτω. [36] Χαρακτηρισ μός φάσ ματος(spectrum Characterization) Η λειτουργία αυτή είναι επιφορτισ μένη με τον χαρακτηρισ μό του φάσ ματος με χαρακτηρισ τικά όπως χωρητικότητα καναλιού, ρυθμός λαθών, απώλειες διάδοσ ης και άλλα.εκτός αυτού ο χαρακτηρισ μός φάσ ματος περιλαμβάνει και την μοντελοποίησ η της σ υμπεριφοράς των πρωτευόντων χρησ τών. Επιλογή φάσ ματος(spectrum Selection) Κατά την επιλογή φάσ ματος λαμβάνονται υπόψιν οι πληροφορίες του προηγούμενου σ ταδίου για την επιλογή του κατάλληλου τμήματος του φάσ ματος για εκπομπή, με βάσ η διάφορα κριτήρια όπως η φασ ματική αποδοτικότητα, η καθυσ τέρησ η, κτλ. Επαναδιαμόρφωσ η γνωσ τικού ραδιοσ υσ τήματος(cognitive Radio Reconfiguration) 12

31 1.6 Φασ ματική απόφασ η(spectrum decision) Ο ρόλος αυτής της λειτουργίας είναι να μεταβάλλει σ υνεχώς τις παραμέτρους λειτουργίας του γνωσ τικού ραδιοσ υσ τήματος (σ χήμα διαμόρφωσ ης και κωδικοποίησ ης, ισ χύς εκπομπής, κτλ.), ώσ τε να ικανοποιούνται διάφορα κριτήρια όπως το Quality of Service (QoS), οι πολιτικές, κτλ Χαρακτηρισ μός φάσ ματος(spectrum characterization) Ο χαρακτηρισ μός φάσ ματος (spectrum characterization) είναι επιφορτισ μένος με την αναγνώρισ η των διάφορων χαρακτηρισ τικών του φάσ ματος με βάσ η τις πληροφορίες που δίνει ο ανιχνευτής φάσ ματος.τα χαρακτηρισ τικά του φάσ ματος που αναγνωρίζει αυτή η γνωσ τική διεργασ ία μπορούν να χωρισ τούν σ ε δύο κατηγορίες.στην πρώτη κατηγορία εντάσ σ ονται τα χαρακτηρισ τικά που αφορούν το ηλεκτρομαγνητικό περιβάλλον και δίνονται παρακάτω.στη δεύτερη κατηγορία περιλαμβάνεται η μοντελοποίησ η της σ υμπεριφοράς του πρωτεύοντα χρήσ τη, πληροφορία απαραίτητη για τη λήψη της τελικής απόφασ ης. Στη σ υνέχεια ακολουθεί μια σ υνοπτική ανάλυσ η των παραπάνω, η οποία βασ ίζεται σ το [36]. Χαρακτηρισ μός περιβάλλοντος 1. Αναγνώρισ η καναλιού(channel Identification) Η αναγνώρισ η καναλιού έχει να κάνει με την αναγνώρισ η της υπηρεσ ίας ή εφαρμογής που χρησ ιμοποιεί κάποιο κανάλι.η αναγνώρισ η αυτή πραγματοποιείται μελετώντας το μοτίβο κίνησ ης δεδομένων που δημιουργείται, το οποίο μπορεί να είναι είτε ντετερμινισ τικό είτε σ τοχασ τικό. 2. Παρεμβολή καναλιού(channel Interference) Αφορά την παρεμβολή που δημιουργούν οι δευτερεύοντες χρήσ τες.για αυτήν πρέπει να λαμβάνεται μέριμνα από τον κάθε χρήσ τη, ώσ τε να μην δημιουργεί πρόβλημα σ τους πρωτεύοντες χρήσ τες.για το λόγο αυτό είναι απαραίτητη η ακριβής εκτίμησ η της παρεμβολής που προκαλούν όλοι οι δευτερεύοντες χρήσ τες. 3. Καθυσ τέρησ η αλλαγής καναλιού(channel Switching Delay) Η καθυσ τέρησ η αλλαγής καναλιού αφορά τον χρόνο που απαιτείται για να αλλάξει κάποιος δευτερεύων χρήσ της κανάλι.οι λόγοι για τους οποίους απαιτείται αλλαγή καναλιού είναι η εμφάνισ η πρωτεύοντος χρήσ τη, η μη ικανοποίησ η του Quality of Service (QoS), κτλ.η διαδικασ ία εναλλαγής περιλαμβάνει την παύσ η της εκπομπής μόλις γίνει αντιληπτή εκπομπή από πρωτεύοντα χρήσ τη, την διαδικασ ία εγκατάλειψης του καναλιού, την ανίχνευσ η φάσ ματος και την απόφασ η για το νέο κανάλι που θα χρησ ιμοποιηθεί.να σ ημειώσ ουμε ότι ανάλογα με την εφαρμογή και τις διάφορες σ υνθήκες ο ακριβής ορισ μός της καθυσ τέρησ ης διαφέρει.είναι επιθυμητό ο χρόνος αυτός να είναι ο ελάχισ τος δυνατός. 4. Χρόνος δέσ μευσ ης καναλιού(channel Holding Time) 13

32 Chapter 1 Γνωσ τικά ραδιοσ υσ τήματα Η παράμετρος αυτή αφορά το μέσ ο χρόνο που μπορεί ένας δευτερεύων χρήσ της να καταλάβει κάποιο κανάλι με βάσ η την εκτίμησ η για το πότε θα εμφανισ τεί σ ε αυτό κάποιος πρωτεύων χρήσ της ή άλλη υπηρεσ ία με μεγαλύτερη προτεραιότητα για να τον διακόψει.είναι επιθυμητό ο χρόνος αυτός να είναι ο μέγισ τος δυνατός. 5. Χωρητικότητα καναλιού(channel Capacity) Η ποσ ότητα αυτή εκφράζει το μέγισ το ρυθμό μετάδοσ ης πληροφορίας που μπορεί να επιτευχθεί για δεδομένη πιθανότητα λαθών. 6. Τοποθεσ ία σ υνδρομητή(subscriber Location) Αφορά τη γνώσ η της γεωγραφικής θέσ ης του χρήσ τη, η οποία αποκτείται με διάφορους τρόπους όπως είναι η χρήσ η GPS, η αποσ τολή πακέτων που διαθέτουν πληροφορίες θέσ ης και η ενημέρωσ η από κάποιο κεντρικό κόμβο.η γνώσ η αυτή ειναι χρήσ ιμη για τον πληρέσ τερο χαρακτηρισ μό του φάσ ματος. 7. Ρυθμός λαθών καναλιού(channel Error Rate) Το μέγεθος αυτό εκφράζει το ρυθμό με τον οποίο λαμβάνονται λαναθασ μένα δεδομένα σ το δέκτη.η μετρική που χρησ ιμοποιείται σ υνήθως για τον προσ διορισ μό αυτού του μεγέθους είναι το Bit Error Rate (BER) και εξαρτάται από μεγέθη όπως το εύρος ζώνης, η σ υχνότητα, το επίπεδο παρεμβολής, κτλ. 8. Απώλειες διάδοσ ης(path Loss) Οι απώλειες διάδοσ ης είναι η μείωσ η της ισ χύος του εκπεμπόμενου σ ήματος και οφείλονται σ την εξασ θένησ η του ηλεκτρομαγνητικού πεδίου με την απόσ τασ η, την ύπαρξη εμποδίων, κτλ.το μέγεθος αυτό αφορά μόνο το ντετερμινισ τικό τμήμα των σ υνολικών απωλειών. Μοντελοποίησ η σ υμπεριφοράς πρωτεύοντα χρήσ τη Σε αυτή τη λειτουργία περιλαμβάνεται η πρόβλεψη για τον τρόπο σ υμπεριφοράς και τις ενέργειες των πρωτευόντων χρησ τών.η λειτουργία αυτή επιτελείται χρησ ιμοποιώντας τεχνικές μηχανικής μάθησ ης και παρακολουθώντας τη χρήσ η του φάσ ματος.για την λειτουργία αυτή υπάρχουν τρεις κυρίαρχες τεχνικές, οι οποίες δίνονται παρακάτω. [36] Μοντελοποίησ η βασ ισ μένη σ τη σ τατισ ική. Μοντελοποίησ η βασ ισ μένη σ ε διαδικασ ίες Poisson. Μοντελοποίησ η βασ ισ μένη σ ε δεδομένα Επιλογή φάσ ματος(spectrum selection) Η λειτουργία της επιλογής φάσ ματος (spectrum selection) είναι επιφορτισ μένη με την ανάθεσ η των πιo κατάλληλων φασ ματικών οπών σ τους χρήσ τες των γνωσ τικών ραδιοσ υσ τημάτων με την προυπόθεσ η της μη πρόκλησ ης παρεμβολών σ τους πρωτεύοντες χρήσ τες και της ικανοποίησ ης σ υγκεκριμένων κριτηρίων, όπως ελαχισ τοποίησ η 14

33 1.6 Φασ ματική απόφασ η(spectrum decision) καθυσ τερήσ εων, μεγισ τοποίησ η throughput, κτλ.παρακάτω δίνονται τα κριτήρια που λαμβάνονται υπόψιν για την πετυχημένη ανάθεσ η φάσ ματος με βάσ η το [51]. Κριτήρια επιλογής φάσ ματος 1. Πρόκλησ η παρεμβολών(interference) Η αποφυγή πρόκλησ ης παρεμβολών σ ε πρωτεύοντες χρήσ τες αποτελεί το σ ημαντικότερο κριτήριο επιλογής φάσ ματος.επιπλέον είναι επιθυμητό να λαμβάνεται μέριμνα για την ελαχισ τοποίησ η των παρεμβολών μεταξύ των δευτερευόντων χρησ τών, ώσ τε να εξασ φαλίζεται η βέλτισ τη λειτουργία των σ υσ τημάτων. 2. Ρυθμοαπόδοσ η(throughput) Το κριτήριο αυτό έχει να κάνει με την ρυθμοαπόδοσ η (throughput) είτε του κάθε μεμονωμένου δευτερεύοντα χρήσ τη, είτε του σ υνολικού δικτύου.η ικανοποίησ η αυτού του κριτηρίου πρέπει να γίνει δεδομένων κάποιων περιορισ μών.οι περιορισ μοί αυτοί είναι [51] η μέγισ τη ισ χύς εκπομπής του κάθε δευτερεύοντα χρήσ τη σ ε κάθε κανάλι, η χωρητικότητα του καναλιού, το μέγισ το αποδεκτό επίπεδο παρεμβολής, το απαιτούμενο Quality of Service (QoS) και η απαίτησ η για την ελάχισ τη δυνατή επίδρασ η σ το πρωτεύοντα χρήσ τη. 3. Φασ ματική αποδοτικότητα(spectral efficiency) Το κριτήριο αυτό αφορά την επίτευξη της μέγισ της δυνατής αξιοποίησ ης του ελεύθερου φάσ ματος.αυτό υλοποιείται με τη μεγισ τοποίησ η είτε του αριθμού των καναλιών που ανατίθενται σ ε ένα δευτερεύοντα χρήσ τη, είτε του αριθμού των χρησ τών που εξυπηρετούνται.βέβαια κατά την ικανοποίησ η αυτού του κριτηρίου δεν πρέπει να παραβιάζονται ορισ μένες άλλες σ υνθήκες, όπως είναι το μέγισ το αποδεκτό επίπεδο παρεμβολών και η μέγισ τη αποδεκτή ισ χύς. 4. Καθυσ τέρησ η(delay) Η καθυσ τέρησ η σ υνήθως αφορά το χρόνο από άκρο-σ ε-άκρο (end-to-end delay) και την καθυσ τέρησ η εναλλαγής (switching delay).ο χρόνος από άκρο-σ ε-άκρο ορίζεται ως χρόνος που χρειάζεται ένα πακέτο για να φτάσ ει από την πηγή σ τον προορισ μό, ενώ καθυσ τέρησ η εναλλαγής είναι ο χρόνος που χρειάζεται το σ ύσ τημα για αλλαγή καναλιού (σ υμπεριλαμβάνεται ο χρόνος για τη λήψη απόφασ ης σ χετικά με το νέο κανάλι) όταν αυτό απαιτηθεί.το κριτήριο αυτό είναι πολύ σ ημαντικό σ ε εφαρμογές ευαίσ θητες σ ε καθυσ τέρησ η (Delay critical applications). 5. Δικαιοσ ύνη(fairness) Η εγωισ τική σ υμπεριφορά μεμονωμένων χρησ τών που προσ παθούν να ικανοποιήσ ουν με το καλύτερο τρόπο για αυτούς τα κριτήρια επιλογής φάσ ματος οδηγεί σ ε άνισ η κατανομή των διαθέσ ιμων τηλεπικοινωνιακών πόρων (κανάλια, throughput, κτλ.).για την αποφυγή της κατάσ τασ ης αυτής μπορούν να ακολουθηθούν κριτήρια δίκαιης κατανομής των πόρων, όπως είναι το throughput.στην προηγούμενη περίπτωσ η θα μπορούσ ε κάθε γνωσ τικό σ ύσ τημα να ενεργεί με κριτήριο τη μεγισ τοποίησ η του ελάχισ του μέσ ου throughput ανά δευτερεύοντα χρήσ τη. 15

34 Chapter 1 Γνωσ τικά ραδιοσ υσ τήματα 6. Ρίσ κο(risk) Κατά την μετάδοσ η των δεδομένων σ ε κάποιο τηλεπικοινωνιακό κανάλι υπάρχει πάντα ο κίνδυνος αυτά να μην φτάσ ουν τον τελικό τους προορισ μό.η αξιοπισ τία μιας διαδρομής για τα δεδομένα ποσ οτικοποιείται με τη πιθανότητα κάποιο τμήμα της διαδρομής να αποκοπεί από κάποιο πρωτεύοντα χρήσ τη.προφανώς το κριτήριο αυτό αφορά την αναζήτησ η διαδρομών με τη μέγισ τη δυνατή αξιοπισ τία. 7. Τιμή(Price) Το οικονομικό κόσ τος που επωμίζεται ο χρήσ της του κάθε γνωσ τικού ραδιοσ υσ τήματος αλλά και το ενδεχόμενο κέρδος που μπορεί να έχει μέσ ω διαφόρων ενεργειών είναι και αυτό ένα κριτήριο που λαμβάνεται υπόψιν.μια σ υνηθισ μένη πηγή κόσ τους είναι το κόσ τος χρήσ ης κάποιου σ υγκεκριμένου καναλιού.από την άλλη οι δευτερεύοντες χρήσ τες μπορούν να κερδίσ ουν χρήματα προωθώντας τα πακέτα άλλων χρησ τών. 8. Ενεργειακή αποδοτικότητα(energy efficiency) Ενα άλλο κριτήριο αφορά την ελαχισ τοποίησ η της κατανάλωσ ης ενέργειας των σ υσ τημάτων. 9. Συνδεσ ιμότητα δικτύου(network connectivity) Ενα άλλο κριτήριο είναι η διατήρησ η της σ υνδεσ ιμότητας του δικτύου ώσ τε να ικανοποιείται το Quality of Service (QoS) που απαιτεί ο χρήσ της.σε γνωσ τικά δίκτυα η σ υνδεσ ιμότητα επηρεάζεται από την ισ χύ εκπομπής, την απόσ τασ η μεταξύ των σ υσ τημάτων που το απαρτίζουν και τη σ υχνότητα λειτουργίας της κάθε σ ύνδεσ ης μεταξύ των σ υσ τημάτων Επαναδιαμόρφωσ η γνωσ τικού ραδιοσ υσ τήματος(cognitive radio reconfiguration) Αποτελεί θεμελιώδους σ ημασ ίας λειτουργία για ένα γνωσ τικό ραδιοσ ύσ τημα να προσ- αρμόζει τις παραμέτρους λειτουργίας του σ τις σ υνθήκες του περιβάλλοντός του.αυτό ακριβώς αφορά αυτή η υπολειτουργία της φασ ματικής επιλογής.οι παράμετροι λειτουργίας που προσ αρμόζονται είναι οι εξής: [36] 1. Σχήμα διαμόρφωσ ης και κωδικοποίησ ης (Modulation and Coding Scheme) 2. Ισ χύς εκπομπής (Transmission Power) 3. Εύρος ζώνης καναλιού (Channel Bandwidth) 4. Συχνότητα λειτουργίας (Operating Frequency) 5. Τεχνολογία επικοινωνιών (Communication Technology) 16

35 1.7 Φασ ματική κινητικότητα(spectrum mobility) 1.7 Φασ ματική κινητικότητα(spectrum mobility) Η λειτουργία της φασ ματικής κινητικότητας (spectrum mobility) αποσ κοπεί σ την ομαλή μετάβασ η των δευτερευόντων χρησ τών σ ε νέα κανάλια, όταν αυτό απαιτηθεί, προσ παθώντας να διατηρήσ ει την απόδοσ η του σ υσ τήματος σ ταθερή και τη διάρκεια αυτής της διεργασ ίας την ελάχισ τη δυνατή.η περιγραφή αυτής της λειτουργίας βασ ίζεται σ το [15]. Η λειτουργία αυτή σ υντίθεται από τη μεταπομπή φάσ ματος (Spectrum Handoff) και τη διαχείρισ η σ ύνδεσ ης (Connection Management).Η μεταπομπή φάσ ματος αφορά την αλλάγη καναλιών, όταν αυτή γίνει απαραίτητη.αυτή όμως επιφέρει κάποια καθυσ τέρησ η.από την άλλη η διαχείρισ η σ ύνδεσ ης προσ αρμόζει τις παραμέτρους της σ τοίβας πρωτοκόλλων με σ τόχο την αντισ τάθμισ η της απώλειας που οφείλεται σ την καθυσ τέρησ η της μεταπομπής. Η λειτουργία της μεταπομπής φάσ ματος αποτελείται από δύο φάσ εις, την φάσ η εκτίμησ ης (evaluation phase) και την φάσ η σ υντήρησ ης σ ύνδεσ ης (link maintenance phase).στη 1η φάσ η ο δευτερεύων χρήσ της παρατηρεί το περιβάλλον για σ υμβάντα που προκαλούν μεταπομπή (handoff triggering events).στη 2η φάσ η μεταβαίνουμε όταν εντοπισ τεί τέτοιο γεγονός και ληφθεί απόφασ η για μεταπομπή.συγκεκριμένα ο δευτερεύων χρήσ της σ ταματάει την εκπομπή σ το τρέχον κανάλι και την σ υνεχίζει σ ε κάποιο άλλο ελεύθερο.μετά το πέρας της 2ης φάσ ης το σ ύσ τημα επανέρχεται σ την 1η φάσ η. Η κυκλική αυτή διεργασ ία απεικονίζεται σ την εικόνα 1.4. Figure 1.4: Λειτουργία μεταπομπής φάσ ματος [15] Οι κυριότεροι λόγοι για τους οποίους μπορεί να απαιτηθεί μεταπομπή είναι τρεις. [15] 1. Κάποιος πρωτεύων χρήσ της αποφασ ίζει να εκπέμψει σ ε τμήμα φάσ ματος για το 17

36 Chapter 1 Γνωσ τικά ραδιοσ υσ τήματα οποίο διαθέτει άδεια, εξαναγκάζοντας με αυτόν τον τρόπο το δευτερεύων χρήσ τη που το χρησ ιμοποιούσ ε μέχρι τότε να αλλάξει κανάλι. 2. Ο δευτερεύων χρήσ της μετακινείται και κάποια σ τιγμή η ακτίνα κάλυψής του επικαλύπτει την αντίσ τοιχη ακτίνα κάλυψης κάποιου πρωτεύοντα χρήσ τη που εκπέμπει σ το ίδιο κανάλι. 3. Η μη ικανοποίησ η του απαιτούμενου επιπέδου Quality of Service (QoS) που έχει θέσ ει ο χρήσ της Στρατηγικές μεταπομπής(handoff strategies) Η σ ειρά με την οποία εκτελείται η αναγνώρισ η φάσ ματος και η μεταπομπή σ ε σ χέσ η με ένα γεγονός που προκαλεί μεταπομπή καθορίζουν την σ τρατηγική μεταπομπών (Handoff strategy).οι σ τρατηγικές προκύπτουν μελετώντας τα τέσ σ ερα διαφορετικά σ ενάρια που προκύπτουν θεωρώντας ότι τόσ ο η αναγνώρισ η φάσ ματος όσ ο και η μεταπομπή μπορούν να σ υμβούν πριν ή μετά από τα γεγονότα που προκαλούν μεταπομπή.οι τέσ σ ερις αυτές σ τρατηγικές είναι οι εξής: [15] 1. Στρατηγική χωρις μεταπομπές(non-handoff strategy) Σε αυτή τη σ τρατηγική ο χρήσ της σ ταματάει να εκπέμπει σ το τρέχον κανάλι μόλις ένας πρωτεύων χρήσ της το ζητήσ ει για χρήσ η. Επειτα παραμένει σ ε κατάσ τασ η μη εκπομπής μέχρι το ίδιο κανάλι να απελευθερωθεί. 2. Καθαρά αντιδρασ τική σ τρατηγική μεταπομπών(pure reactive handoff strategy) Σε αυτή τη σ τρατηγική ο δευτερεύων χρήσ της επιτελεί αναγνώρισ η περιβάλλοντος για ελεύθερα κανάλια και μεταπομπή, αφού αυτή απαιτηθεί από κάποιο γεγονός. 3. Καθάρα προνοητική σ τρατηγική μεταπομπών(pure proactive handoff strategy) Σε αυτή τη σ τρατηγική ο δευτερεύων χρήσ της κάνει αναγνώρισ η φάσ ματος πριν σ υμβεί κάποιο γεγονός που επιβάλλει μεταπομπή.με αυτό τον τρόπο βρίσ κει κάποιο κανάλι που όταν το χρειασ τεί θα είναι ελεύθερο. Επειτα πραγματοποιείται μεταπομπή καναλιού πριν σ υμβεί κάποιο γεγονός, εκμεταλλευόμενος τη γνώσ η για τα μοτίβα κίνησ ης των πρωτευόντων χρησ τών.με άλλα λόγια προβλέπει τη σ υμπεριφορά των πρωτευόντων χρησ τών και αλλάζει κανάλι προτού το τρέχον κανάλι καταληφθεί. 4. Υβριδική σ τρατηγική μεταπομπών(hybrid handoff strategy) Η υβριδική σ τρατηγική σ υνδυάζει τις δύο προηγούμενες σ τρατηγικές.αρχικά το σ ύσ τημα εντοπίζει ελεύθερα κανάλια προτού αναγκασ τεί ο χρήσ της να εγκαταλείψει το τρέχον. Οταν προκύψει γεγονός που επιβάλλει μεταπομπή αυτή πραγματοποιείται με το νέο κανάλι να καθορίζεται από την εργασ ία που έγινε πριν από αυτή. Ο τρόπος λειτουργίας των τεσ σ άρων σ τρατηγικών απεικονίζεται σ την εικόνα 1.5 με τη σ ειρά με την οποία τις παρουσ ιάσ αμε παραπάνω. 18

37 1.7 Φασ ματική κινητικότητα(spectrum mobility) Figure 1.5: Οι 4 σ τρατηγικές μεταπομπής φάσ ματος [15] 19

38 Chapter 1 Γνωσ τικά ραδιοσ υσ τήματα 1.8 Φασ ματικός διαμοιρασ μός(spectrum sharing) Η λειτουργία αυτή αποσ κοπεί σ τον αποδοτικό διαμοιρασ μό του ελεύθερου φάσ ματος ανάμεσ α σ τους δευτερεύοντες χρήσ τες χωρις να υπάρχουν σ υγκρούσ εις.οι τεχνικές διαμοιρασ μού φάσ ματος μπορούν να ταξινομηθούν με βάσ η διάφορα κριτήρια.τα κριτήρια αυτά είναι η αρχιτεκτονική του δικτύου, η τεχνική πρόσ βασ ης φάσ ματος, οι τεχνικές διαμοιρασ μού εύρους ζώνης και οι ζώνες φάσ ματος που χρησ ιμοποιούν οι δευτερεύοντες χρήσ τες Αρχιτεκτονική δικτύου(network architecture) Με βάσ η την αρχιτεκτονική του δικτύου (Network architecture) οι τύποι διαμοιρασ μού φάσ ματος είναι οι εξής: [4] Κεντρικός διαμοιρασ μός φάσ ματος(centralized Spectrum Sharing) Υπάρχει ένα κεντρικό σ ύσ τημα που ελέγχει και σ υντονίζει τη διαδικασ ία διαμοιρασ μού φάσ ματος.κάθε γνωσ τικό ραδιοσ ύσ τημα μεταδίδει σ το κεντρικό σ ύσ τημα πληροφορίες για τη δέσ μευσ η του φάσ ματος.με αυτό τον τρόπο αποκτά τη σ υνολική εικόνα για την απόδοσ η του φάσ ματος σ τους δευτερεύοντες χρήσ τες. Κατανεμημένος διαμοιρασ μός φάσ ματος(distributed Spectrum Sharing) Κάθε γνωσ τικό ραδιοσ ύσ τημα αποφασ ίζει μόνο του για το τρόπο με τον οποίο θα δεσ μεύσ ει τμήμα του φάσ ματος.βασ ίζεται μόνο σ τις διάφορες πολιτικές που ισ χύουν σ την περιοχή σ την οποία δρασ τηριοποιείται Τεχνική πρόσ βασ ης φάσ ματος(spectrum access technique) Με βάσ η την τεχνική πρόσ βασ ης φάσ ματος (Spectrum access technique) οι τύποι διαμοιρασ μού φάσ ματος είναι οι εξής: [20] Υποκάλυψη φάσ ματος(spectrum Underlay) Σε αυτή την τεχνική ο δευτερεύων χρήσ της εκπέμεπει σ ε αδειοδοτημένα κανάλια ταυτόχρονα με την εκπομπή του πρωτεύοντος χρήσ τη.βέβαια επιβάλλεται σ το δευτερεύων χρήσ τη ο περιορισ μός της μη παραβίασ ης του ορίου της θερμοκρασ ίας παρεμβολής και της εξασ φάλισ ης της επιτυχημένης λειτουργίας των πρωτευόντων χρησ τών.λόγω των περιορισ μών που επιβάλλονται σ τους δευτερεύοντες χρήσ τες η ισ χύς εκπομπής είναι περιορισ μένη και κατα σ υνέπεια η ακτίνα εκπομπής είναι μικρή. Διαπλοκή φάσ ματος(spectrum Interweave) Σε αυτήν την τεχνική οι δευτερεύοντες χρήσ τες επιτρέπεται να εκπέμπουν σ τα κανάλια των πρωτευόντων μόνο όταν οι τελευταίοι δεν τα χρησ ιμοποιούν.από 20

39 1.8 Φασ ματικός διαμοιρασ μός(spectrum sharing) τη μία αυτό επιτρέπει σ τους δευτερεύοντες χρήσ τες να εκπέμπουν χωρις περιορισ μούς σ χετικά με τις παρεμβολές που προκαλούν, όμως από την άλλη είναι απαραίτητο να βρούν κανάλι σ το οποίο δεν εκπέμπει κάποιος πρωτεύων χρήσ της εκείνη τη σ τιγμή.με άλλα λόγια οι δευτερεύοντες χρήσ τες αναζητούν φασ ματικές οπές. Επικάλυψη φάσ ματος(spectrum Overlay) Στην τεχνική επικάλυψης φάσ ματος ο δευτερεύων χρήσ της γνωρίζει τις παραμέτρους εκπομπής (π.χ βιβλίο κωδικών) και τα μηνύματα των πρωτευόντων χρησ τών.εκμεταλλευόμενος αυτή τη γνώσ η και χρησ ιμοποιώντας τεχνικές επεξεργασ ίας σ ημάτων εξασ φαλίζει το κατάλληλο εύρος ζώνης για δική του χρήσ η, ενώ ταυτόχρονα βελτιώνει ή τουλάχισ τον διατηρεί τις εκπομπές των πρωτευόντων χρησ τών Τεχνικές διαμοιρασ μού εύρους ζώνης(spectrum allocation behaviour) Με βάσ η τις τεχνικές διαμοιρασ μού εύρους ζώνης (Spectrum allocation behaviour) οι τύποι διαμοιρασ μού φάσ ματος είναι οι εξής: [4] Συνεργατικός διαμοιρασ μός φάσ ματος(cooperative Spectrum Sharing) Τα σ υσ τήματα του δικτύου ανταλλάσ ουν μεταξύ τους πληροφορίες για τα επίπεδα παρεμβολών και σ υνεργάζονται για την επίτευξη κοινών σ τόχων.ο διαμοιρασ μός φάσ ματος πραγματοποιείται λαμβάνοντας υπόψιν αυτές τις πληροφορίες. Μη σ υνεργατικός διαμοιρασ μός φάσ ματος(non-cooperative Spectrum Sharing) Κάθε σ ύσ τημα ενεργεί χωρις να λαμβάνει ή να σ τέλνει πληροφορίες για το φάσ μα σ ε άλλα σ υσ τήματα.το σ ύσ τημα αυτό δεσ μεύει το φάσ μα με γνώμονα μόνο το δικό του σ υμφέρον, δηλαδή ενεργεί εγωισ τικά.η πρακτική αυτή δεν σ υμβάλλει σ τη βέλτισ τη αξιοποίησ η του φάσ ματος Ζώνες φάσ ματος(spectrum bands) Με βάσ η τις ζώνες φάσ ματος (Spectrum bands) που χρησ ιμοποιούν οι δευτερεύοντες χρήσ τες, οι τύποι διαμοιρασ μού φάσ ματος είναι οι εξής: [33] Ανοιχτός διαμοιρασ μός φάσ ματος(open Spectrum Sharing) Οι δευτερεύοντες χρήσ τες επιδιώκουν πρόσ βασ η μόνο σ ε μη αδειοδοτημένα κανάλια και όλοι έχουν την ίδια προτεραιότητα ως προς τη χρήσ η του φάσ ματος. Ιεραρχική πρόσ βασ η/αδειοδοτημένος διαμοιρασ μός φάσ ματος(hierarchical Access/Licensed Spectrum Sharing) Οι δευτερεύοντες χρήσ τες επιδιώκουν πρόσ βασ η σ ε αδειοδοτημένα κανάλια τα οποία τα μοιράζονται με πρωτεύοντες χρήσ τες. Οπως είναι φυσ ικό οι πρωτεύοντες 21

40 Chapter 1 Γνωσ τικά ραδιοσ υσ τήματα χρήσ τες έχουν προτεραιότητα και όταν αποκτούν πρόσ βασ η σ ε κάποιο κανάλι ο δευτερεύων χρήσ της που το χρησ ιμοποιεί οφείλει να το εγκαταλείψει. 1.9 Γνωσ τικός κύκλος(cognitive cycle) Ο γνωσ τικός κύκλος (cognitive cycle) αποτέλει έναν εποπτικό τρόπο παρουσ ίασ ης όλων των λειτουργιών των γνωσ τικών ραδιοδικτύων καθώς και των αλληλεπιδράσ εων αυτών μεταξύ τους και με το περιβάλλον.στις εικόνες 1.6 και 1.7 δίνονται δύο τέτοιοι γνωσ τικοί κύκλοι.ο πρώτος κύκλος ανταποκρίνεται σ την περιγραφή που δόθηκε παραπάνω, ενώ ο δεύτερος αποτελεί το γνωσ τικό κύκλο που δόθηκε από τον S. Haykin σ το [25]. Figure 1.6: Γνωσ τικός κύκλος [30] 1.10 Εφαρμογές Η δυναμική φύσ η των γνωσ τικών ραδιοσ υσ τημάτων αλλά και η νοημοσ ύνη με την οποία είναι εφοδιασ μένα τα καθισ τά κατάλληλα για πλήθος εφαρμογών.από την χρήσ η αυτών προκύπτουν καινοτόμες εφαρμογές αλλά και ήδη υπάρχουσ ες εφαρμογές βελτιώνονται και εκσ υγχρονίζονται.ανάμεσ α σ τις εφαρμογές αυτές περιλαμβάνονται δυνητικά 4 τα εξής: [27] 4 Εδώ χρησ ιμοποιώ τον χαρακτηρισ μό δυνητικά γιατί πρόκειται για μια νέα τεχνολογία και πολλές από τις εφαρμογές βρίσ κονται σ ε θεωρητικό σ τάδιο ακόμα χωρις να υπάρχει κάποια υλοποίησ η. 22

41 1.10 Εφαρμογές Figure 1.7: Γνωσ τικός κύκλος(κατα Haykin) [25] Δίκτυα κινητής τηλεφωνίας Η τεχνολογία των γνωσ τικών ραδιοσ υσ τημάτων είναι υποψήφια για χρήσ η σ ε δίκτυα κινητής τηλεφωνίας 5ης γενιάς καθώς κάποια από τα θεμελιώδη σ υσ τατικά αυτής της γενιάς δικτύων αποτελούν η βέλτισ τη προσ αρμογή των παραμέτρων λειτουργίας σ τις σ υνθήκες του περιβάλλοντος, η δυναμική διαχείρισ η του φάσ ματος και τα ετερογενή δίκτυα. Εξυπνα δίκτυα(smart grid) Το έξυπνο δίκτυο αποτελεί μια εξέλιξη του ηλεκτρικού δικτύου διανομής ενέργειας το οποίο σ υλλέγει διάφορες πληροφορίες από τους κόμβους του και τις αξιοποιεί για την βέλτισ τη διαχείρισ η των λειτουργιών του και την επίτευξη αξιοπισ τίας και αποδοτικότητας. Αξιοποίησ η των white spaces της τηλεοράσ ης(tv White Spaces) Εχει παρατηρηθεί ότι σ ε αρκετές περιοχές υπάρχουν κενά σ το τμήμα του φάσ ματος που έχει αποδοθεί σ ε τηλεοπτικά κανάλια.η τεχνολογία των γνωσ τικών ραδιοσ υσ τημάτων μπορεί να χρησ ιμοποιηθεί για την αποδοτική αξιοποίησ η αυτών των κενών χωρίς να επηρεάζει αρνητικά τις τηλεοπτικές εκπομπές. H σ υνύπαρξη διαφορετικών ασ ύρματων τεχνολογιών Η σ υνύπαρξη ασ ύρματων τεχνολογιών με διαφορετικά χαρακτηρισ τικά και σ υμπεριφορά (ιδιαίτερα αν αυτή είναι δυναμική) απαιτεί καινοτόμες τηλεπικοινωνιακές σ υσ κευές με αντίληψη του ηλεκτρομαγνητικού περιβάλλοντος και ικανότητα προσ- 23

42 Chapter 1 Γνωσ τικά ραδιοσ υσ τήματα αρμογής σ τις σ υνθήκες αυτού με απώτερο σ τόχο την επίτευξη αρμονικής σ υνύπαρξης. Δίκτυα ασ ύρματων τηλεπικοινώνιων νέας γενιάς Η σ υμφόρησ η του τηλεπικοινωνιακού φάσ ματος απαιτεί από τα νέα ασ ύρματα δίκτυα να επιδεικνύουν δυναμική σ υμπεριφορά για να το χρησ ιμοποιούν αποδοτικά χωρις να εμποδίζουν την χρήσ η αυτού από τους άλλους χρήσ τες. Υπηρεσ ίες τηλειατρικής(e-health) Η ευαίσ θητη φύσ η των ιατρικών εφαρμογών απαιτεί από τις αντίσ τοιχες σ υσ κευές να έχουν επίγνωσ η του περιβάλλοντός τους και των εκπομπών τους.είναι σ ημαντικό οι σ υσ κευές αυτές να μην προκαλούν ηλεκτρομαγνητικές παρεμβολές σ ε άλλα ευαίσ θητα ιατρικά μηχανήματα αλλά και να μην εμποδίζουν την εκπομπή άλλων σ ημαντικών ιατρικών σ υσ κευών (οι οποίες για παράδειγμα θα μπορούσ αν να μεταδίδουν ασ ύρματα πληροφορίες για τη λειτουργία της καρδιάς). Υπηρεσ ίες έξυπνων μεταφορών(intelligent transportation systems) Οι υπηρεσ ίες αυτές αφορούν καινοτόμες τεχνολογίες σ τη διαχείρισ η της κυκλοφοριακής κίνησ ης και σ την έξυπνη και σ υντονισ μένη χρήσ η των μεταφορικών δικτύων.είναι προφανές ότι για την επιτυχημένη υλοποίησ η τέτοιων σ υσ τημάτων είναι απαραίτητη η υιοθέτησ η κάποιου υποσ υνόλου (ή ακόμα και όλων) των γνωσ τικών λειτουργιών. Στρατιωτικά δίκτυα τηλεπικοινωνιών Η φύσ η των σ τρατιωτικών επικοινωνιών είναι τέτοια που απαιτεί δυναμική σ υμπεριφορά από τα τηλεπικοινωνιακά σ υσ τήματα.για παράδειγμα οι σ τρατιωτικές επικοινωνίες εν δυνάμει αποτελούν σ τόχο μπλοκαρίσ ματος (jamming) από εχθρικές δυνάμεις.για αυτό το λόγο τα γνωσ τικά ραδιοσ υσ τήματα μπορεί να αποτελέσ ουν την κατάλληλη τεχνολογία για την υλοποίησ η τέτοιου είδους σ υσ τημάτων επικοινωνιών. Αν και πολλές εφαρμογές των γνωσ τικών δικτύων βρίσ κονται ακόμα σ ε θεωρητικό επίπεδο υπάρχουν μερικά πρότυπα τα οποία υλοποιούν τμήμα των γνωσ τικών λειτουργιών.μερικά από τα πρότυπα αυτά είναι τα εξής: IEEE [60] Είναι ένα πρότυπο για ασ ύρματα δίκτυα περιφερειακών περιοχών (Wireless Regional Area Network-WRAN) που αποσ κοπεί σ την αξιοποίησ η των λευκών κενών της τηλεόρασ ης.για την υλοποίησ η αυτού χρησ ιμοποιούνται τεχνικές γνωσ τικών ραδιοσ υσ τημάτων που επιτρέπουν την χρήσ η φασ ματικών κενών σ τις τηλεοπτικές σ υχνότητες με σ τόχο την πρόσ βασ η σ ε ευρυζωνικές τηλεπικοινωνιακές υπηρεσ ίες σ ε αγροτικές και άλλες δυσ πρόσ ιτες περιοχές. IEEE P1900 [33] Είναι ένα πρότυπο για ασ ύρματα δίκτυα νέας γενίας και για διαχείρισ η του φάσ ματος. Εμφασ η δίνεται σ ε επαναδιαμορφούμενα τηλεπικοινωνιακά δίκτυα και σ υσ τήματα που λειτουργούν σ ε ετερογενή δίκτυα.θεμελιώδη σ υσ τατικά σ τοιχεία του 24

43 1.10 Εφαρμογές προτύπου αποτελεί ο διαχειρισ τής επαναδιαμορφωσ ιμότητας δικτύου (Network reconfiguration management-nrm), ο οποίος παρέχει πληροφορίες για το περιβάλλον και ο διαχειρισ τής επαναδιαμορφωσ ιμότητας τερματικών (Terminal reconfiguration management-trm), ο οποίος λαμβάνει τις πληροφορίες που παρέχει ο NRM και καθορίζει τη σ υμπεριφορά του με σ τόχο τη βέλτισ τη χρήσ η των πόρων.τέλος ένα ακόμη σ ημαντικό σ υσ τατικό είναι ο διαχειρισ τής επαναδιαμορφωσ ιμότητας (reconfiguration management) ο οποίος σ υνδέει το NRM και το TRM.Το πρότυπο αυτό διαμορφώνεται από αρκετές ομάδες, η καθεμία από τις οποίες είναι επιφορτισ μένη με διαφορετικό αντικείμενο.για παράδειγμα η ομάδα ασ χολείται με την ορολογία και τις έννοιες για ραδιοσ υσ τήματα νέας γενίας και για θέματα διαχείρισ ης φάσ ματος. 25

44

45 2 Θεωρία παιγνίων 2.1 Εισ αγωγή Η θεωρία παιγνίων (game theory) είναι ο κλάδος των μαθηματικών που μελετάει μοντέλα αλληλεπίδρασ ης λογικών πρακτόρων (rational agents) με ικανότητα λήψης αποφάσ εων (decision-making), οι οποίοι έχουν κοινά ή αντικρουόμενα σ υμφέροντα.η θεωρία αυτή διαθετεί μοντέλα, εργαλεία και έννοιες για να μοντελοποιήσ ει τις αλληλεπιδράσ εις των πρακτόρων, να περιγράψει τα δυνατά αποτελέσ ματα του παιγνίου (σ το οποίο σ υμμετέχουν), να προβλέψει το αποτέλεσ μά του και να καθορίσ ει το βέλτισ το τρόπο που πρέπει να ενεργήσ ει κάποιος από αυτους. Η μοντέρνα θεωρία παιγνίων ξεκίνησ ε από επισ τήμονες όπως ο Von Neumann με ένα σ τενό σ χετικά εύρος εφαρμογών (κυρίως οικονομικά).με την πάροδο των ετων η θεωρία παιγνίων εξελίχθηκε και τελικά χρησ ιμοποιείται σ ε ένα μεγάλο εύρος εφαρμογών, όπως οι πολιτικές επισ τήμες, η επισ τήμη υπολογισ τών, η βιολογία, κτλ.επιπλέον η έννοια του πράκτορα (ή αλλιώς παίκτη) έχει επεκταθεί ώσ τε να καλύπτει ανθρώπους, μηχανήματα, ζώα και άλλα.για την παρουσ ίασ η των βασ ικών εννοιών της θεωρίας παιγνίων θα βασ ισ τούμε σ τα [41], [22], [27], [32], [33], [59]. 2.2 Βασ ικές έννοιες θεωρίας παιγνίων Παρακάτω δίνονται επιγραμματικά οι ορισ μοί μερικών θεμελιωδών εννοιών της θεωρίας παιγνίων, οι οποίες είναι απαραίτητες για τη σ υνέχεια. Παίκτες(Players) Ο λογικός πράκτορας με ικανότητα λήψης αποφάσ εων και ευφυία, ο οποίος λαμβάνει μέρος σ το παίγνιο και αλληλεπιδρά με άλλους παίκτες και το περιβάλλον του. Ανταμοιβή(Payoff) Η τιμή που εκφράζει το κέρδος ή την απώλεια που έχει κάθε παίκτης εξαιτίας της αλληλεπίδρασ ης με το περιβάλλον του και με άλλους παίκτες. Ενέργεια(Action) Μία περιγραφή του τρόπου με τον οποίο οι παίκτες αλληλεπιδρούν. 27

46 Chapter 2 Θεωρία παιγνίων Κίνησ η(move) Μία ενέργεια που εκτελείται από κάποιο πάικτη σ ε κάποια σ τιγμή κατά τη διάρκεια του παιγνίου. Ενα παίγνιο (σ ε γενικές γραμμές 1 ) σ υμβολίζεται ως G=(N,S,U) και αποτελείται από τα εξής σ τοιχεία: [22] Ενα σ ύνολο παικτών N. Ενα σ ύνολο ενεργειών S, το οποίο μπορεί να εκτελέσ ει ένας παίκτης και περιγράφει τον τρόπο που αλληλεπιδρά με άλλους πάικτες. Ενα σ ύνολο σ υναρτήσ εων που αντισ τοιχίζουν σ ε κάθε δυνατό αποτέλεσ μα του παιγνίου έναν αριθμό, ο οποίος αντικατοπτρίζει την ανταμοιβή που προσ φέρει σ το κάθε παίκτη.το σ ύνολο αυτό σ υμβολίζεται με U. Γενικά σ τόχος του κάθε παίκτη είναι να επιλέξει την κατάλληλη σ τρατηγική (αλγόριθμος που καθορίζει πλήρως πως θα ενεργήσ ει ο κάθε παίκτης) και να ενεργήσ ει με βάσ η αυτή, έτσ ι ώσ τε να πετύχει τη μεγαλύτερη δυνατή ανταμοιβή.στόχος των επισ τημόνων της θεωρίας παιγνίων είναι να προβλέψουν το αποτέλεσ μα του παιγνίου.για αυτό το λόγο υπάρχουν οι παρακάτω έννοιες. [41] Εννοιες επίλυσ ης(solution Concepts) Αποτελούν προβλέψεις για τον τρόπο με τον οποίο οι παίκτες θα ενεργήσ ουν και κατά σ υνέπεια προβλέψεις για το αποτέλεσ μα του παιγνίου. Ισ ορροπίες(equilibria) Σύνολα σ ταθερών σ τρατηγικών που οδηγούν σ ε μία κατάσ τασ η, όπου κάθε παίκτης δεν έχει σ υμφέρον να αλλάξει τη σ υμπεριφορά του χωρίς να το κάνουν και οι υπόλοιποι. 2.3 Στρατηγικές(Strategies) Μια σ τρατηγική (Strategy) είναι ένας πλήρης αλγόριθμος που καθορίζει πως θα ενεργήσ ει κατά τη διάρκεια του παιγνίου ο κάθε παίκτης.καθορίζει την ενέργεια του παίκτη σ ε κάθε πιθανή κατάσ τασ η του παιγνίου.η σ τρατηγική σ υνήθως είναι σ υνάρτησ η των ενεργειών των άλλων παικτών.σύνολο σ τρατηγικών (Strategy Set) είναι το σ ύνολο που περιέχει όλες τις δυνατές σ τρατηγικές του κάθε παίκτη.προφίλ σ τρατηγικών (Strategy Profile) είναι το σ ύνολο των σ τρατηγικών όλων των παικτών που σ υμμετέχουν σ το παίγνιο. 1 Δεν υπάρχει κάποιος ξεκάθαρος γενικός ορισ μός του παιγνίου, έτσ ι ώσ τε όλων των ειδών τα παίγνια να είναι ειδικές περιπτώσ εις αυτού.για αυτό το λόγο δίνουμε ως γενικό-πρόχειρο ορισ μό αυτόν που αναφέρεται σ την ουσ ία σ τα παίγνια σ τρατηγικής μορφής, τα οποία αποτελούν ίσ ως τη πιο βασ ική και κατανοητή μορφή παιγνίων.για τα πλαίσ ια της σ υγκεκριμένης διπλωματικής ο ορισ μός αυτός είναι αρκετά κατάλληλος. 28

47 2.4 Αναπαράσ τασ η παιγνίων Οι σ τρατηγικές διακρίνονται σ ε καθαρές και μικτές.οι καθαρές σ τρατηγικές (Pure Strategies) [41] καθορίζουν ντετερμινισ τικά το τρόπο με τον οποίο θα ενεργήσ ει ο κάθε παίκτης για κάθε πιθανή κατάσ τασ η που θα αντιμετωπίσ ει.οι μικτές σ τρατηγικές (Mixed Strategies) [41] καθορίζουν σ τοχασ τικά τον τρόπο σ υμπεριφοράς τον παικτών, αποδίδοντας πιθανότητες σ ε κάθε καθαρή σ τρατηγική.δηλαδή ο παίκτης επιλέγει τυχαία μία σ τρατηγική με βάσ η την κατανομή πιθανότητας που ορίζει η μικτή σ τρατηγική του. 2.4 Αναπαράσ τασ η παιγνίων Οι δύο βασ ικότεροι τρόποι αναπαράσ τασ ης παιγνίων είναι οι εξής: Κανονική-μορφη(Normal-form) Σε αυτή τη μορφή δίνεται η ανταμοιβή όλων των παικτών για κάθε δυνατή έκβασ η του παιγνίου. Ενα άλλο όνομα για αυτήν την αναπαράσ τασ η είναι σ τρατηγική μορφή (Strategy form).σε αυτή τη μορφή το παίγνιο αναπαρίσ ταται με ένα πίνακα.για παράδειγμα σ την ειδική περίπτωσ η παιγνίων με δύο παίκτες, οι σ τρατηγικές του πρώτου αναπαρίσ τανται σ τις γραμμές του πίνακα και οι σ τρατηγικές του δεύτερου σ τις σ τήλες.δηλαδή όταν ο 1ος παίκτης εκτελεί την ενέργεια i (δηλαδή την ενέργεια που αντισ τοιχεί i γραμμή) και ο 2ος την ενέργεια j (δηλαδή την ενέργεια που αντισ τοιχεί j σ τήλη) σ το κελί (i,j) περιέχεται η ανταμοιβή των δύο παικτών (υπάρχουν δύο αριθμοί ένας για κάθε παίκτη).στην εικόνα 2.1 δίνεται ένα παίγνιο δύο παικτών σ ε τέτοια μορφή, όπου u ij η ανταμοιβή του παίκτη i όταν εκτελεί την σ τρατηγική j. Figure 2.1: Παίγνιο δύο παικτών σ ε κανονική μορφή Παίκτης 1/Παίκτης 2 Στρατηγική Α Στρατηγική Β Στρατηγική Α u 1A,u 2A u 1B,u 2A Στρατηγική Β u 1A,u 2B u 1B,u 2B Εκτεταμένη μορφή(extensive-form) Σε αυτή τη μορφή η αναπαράσ τασ η των παιγνίων γίνεται γραφικά με τη χρήσ η ενός δένδρου.με αυτό το τρόπο είναι δυνατή η αναπαράσ τασ η όχι μόνο των βασ ικών σ τοιχείων του παιγνίου (παίκτες, ενέργειες, ανταμοιβή) αλλά και σ τοιχείων, όπως η αλληλουχία των ενεργειών και το σ ύνολο των πληροφοριών για το παίγνιο (προηγούμενες κινήσ εις) που είναι διαθέσ ιμές σ το κάθε παίκτη, κτλ.παρακάτω δίνεται ένας πιο αυσ τηρός ορισ μός. Definition Παίγνιο εκτεταμένης μορφής [32] Ενα παίγνιο εκτεταμένης μορφής είναι μία εξάδα G = { N, V, v root, π, {V i } i N, u } όπου N = {1,..., n} είναι το σ ύνολο των παικτών. 29

48 Chapter 2 Θεωρία παιγνίων (V, v root, π) είναι ένα δένδρο (V το σ ύνολο των κόμβων, v root η κορυφή του δένδρου, π η σ υνάρτησ η του προγόνου). {V i } i N είναι μία διαμέρισ η του V. u το σ ύνολο των σ υναρτήσ εων ανταμοιβής, που σ υμβολίζεται ως u = (u 1,..., u n ). Στην εικόνα 2.2 δίνεται ένα παίγνιο σ ε τέτοια μορφή. Figure 2.2: Παίγνιο σ ε εκτεταμένη μορφή 2.5 Κατηγορίες παιγνίων Μπορούμε να διακρίνουμε παίγνια με βάσ η πολλά διαφορετικά κριτήρια.παρακάτω δίνονται μερικές από αυτές τις διακρίσ εις με βάσ η το [41]. Συνεργατικά/Μη-σ υνεργατικά Η διάκρισ η αυτή πραγματοποιείται με κριτήριο το αν οι παίκτες ενεργούν μόνοι τους ή σ τα πλαίσ ια μιας ομάδας. Στα μη σ υνεργατικά παίγνια (Non-cooperative games) μπορούμε να διακρίνουμε τις ενέργειες, τις σ τρατηγικές και τους σ τόχους για κάθε παίκτη ξεχωρισ τά.επιπλέον, αν και ονομάζονται μη σ υνεργατικά, σ υνεργασ ίες μεταξύ παικτών επιτρέπονται.απλώς οι σ υνεργασ ίες μεταξύ των παικτών προκύπτουν μόνο από ατομική πρωτοβουλία. 30

49 2.5 Κατηγορίες παιγνίων Στα σ υνεργατικά παίγνια (Cooperative games) δεν μπορούμε να διακρίνουμε τις ενέργειες μεμονομένων παικτών αλλά αντιμετωπίζουμε τις από κοινού ενέργειες, σ τρατηγικές και σ τόχους ομάδων παικτών.επιπλέον κατα τη σ υνεργασ ία των παικτών (μέσ ω του σ χηματισ μού ομάδων) η σ υμφωνία που έχει σ υναφθεί είναι δεσ μευτική και δεν υπάρχει δυνατότητα απόκλισ ης από αυτή.ο ανταγωνισ μός που εμφανίζεται σ τα παίγνια γίνεται σ ε αυτήν την περίπτωσ η μεταξύ των σ χηματισ μένων ομάδων. Πλήρους πληροφορίας/μερικής πληροφορίας Η διάκρισ η γίνεται με κριτήριο τη γνώσ η των παικτών για τα δεδομένα του παιγνίου.στα δεδομένα του παιγνίου περιλαμβάνονται (σ την περίπτωσ η των παιγνίων κανονικής μορφής) το σ ύνολο των παικτών, το σ ύνολο των σ τρατηγικών, το σ ύνολο των σ υναρτήσ εων ανταμοιβής και άλλα.μάλισ τα σ τα δεδομένα θεωρούμε ότι ανήκει και η γνώσ η για το αν ο κάθε παίκτης γνωρίζει για τις γνώσ εις των άλλων παικτών. Στα παίγνια πλήρους πληροφορίας (Complete information games) ο κάθε παίκτης γνωρίζει πλήρως τα δεδομένα του παιγνίου σ το οποίο σ υμμετέχει. Στα παίγνια μερικής πληροφορίας (Incomplete information game) ο κάθε παίκτης γνωρίζει ένα υποσ ύνολο των δυνατών δεδομένων.τα παίγνια αυτά είναι γνωσ τά και ως παίγνια Bayes (Bayesian games). Ακολουθιακά/Ταυτόχρονα Η διάκρισ η γίνεται με κριτήριο τη σ ειρά με την οποία οι παίκτες επιλέγουν και εκτελούν τις ενέργειές τους. Στα ακολουθιακά παίγνια (Sequential games) [41] κάποιος παίκτης επιλέγει την ενέργεια που θα πραγματοποιήσ ει πριν από τους υπόλοιπους.οι τελευταίοι μπορούν να γνωρίζουν αυτή την κίνησ η και να εκμεταλλευτούν αυτήν τη γνώσ η.με άλλα λόγια υπάρχει μία προκαθορισ μένη σ ειρά με την οποία οι παίκτες εκτελούν τις ενέργειές τους. Στα ταυτόχρονα παίγνια (Simultaneous games) όλοι οι παίκτες λαμβάνουν τις αποφάσ εις για τις ενέργειες ή τις σ τρατηγικές τους ταυτόχρονα χωρίς να γνωρίζουν τις κινήσ εις των υπολοίπων.βέβαια η απόφασ η αυτή μπορεί να ληφθεί σ ε διαφορετική χρονική σ τιγμή για κάθε παίκτη, αλλά κανείς παίκτης δεν γνωρίζει τις αποφάσ εις του άλλου. Τέλειας/Ατελούς πληροφορίας Η διάκρισ η σ ε αυτή τη κατηγορία βασ ίζεται σ τις γνώσ εις του κάθε παίκτη για τις προηγούμενες κινήσ εις των άλλων παικτών, δηλαδή την ισ τορία του παιγνίου. Στα παίγνια τέλειας πληροφορίας (Perfect information game) [41] ο κάθε παίκτης γνωρίζει όλες τις κινήσ εις που πραγματοποίησ αν οι άλλοι παίκτες σ ε όλα τα προηγούμενα βήματα. Στα παίγνια ατελούς πληροφορίας (Imperfect information game) ο κάθε παίκτης δεν γνωρίζει για τις κινήσ εις όλων των άλλων παικτών μέχρι αυτό το σ ημείο του 31

50 Chapter 2 Θεωρία παιγνίων παιγνίου.τα ταυτόχρονα παίγνια είναι εξ ορισ μού ατελούς πληροφορίας, γιατί κάθε παίκτης δεν γνωρίζει τις κινήσ εις των άλλων παικτων σ ε κάθε βήμα.μόνο τα ακολουθιακά παίγνια μπορούν να είναι εν δυνάμει παίγνια πλήρους πληροφορίας.σε αυτού του είδους τα παίγνια οι παίκτες πρέπει να λάβουν τις αποφάσ εις τους υπολογίζοντας την πιθανοφάνεια των ενεργειών των άλλων παικτών. Στατικά/Δυναμικά 2 Η διάκρισ η σ ε αυτή τη κατηγορία έχει να κάνει με τη δυνατότητα ή όχι του κάθε παίκτη να μεταβάλλει τη σ τρατηγική του. Στα σ τατικά παίγνια (Static games) οι παίκτες επιλέγουν ταυτόχρονα μόνο μία φορά σ τρατηγική, αφού το παίγνιο έχει μόνο ένα χρονικό βήμα.πριν την επιλογή αυτή οι παίκτες έχουν εξ αρχής κάποια σ υγκεκριμένη γνώσ η, η οποία δεν αλλάζει.η γνώσ η αυτή περιλαμβάνει υποθέσ εις για τη σ υμπεριφορά των παικτών και όχι τις κινήσ εις των άλλων παικτών σ τη μοναδική χρονική σ τιγμή που εκτελείται το παίγνιο. Στα δυναμικά παίγνια (Dynamic games) [41] οι παίκτες αλληλεπιδρούν μεταξύ τους ο ένας μετά τον άλλο.στα παίγνια αυτά οι παίκτες διαθέτουν διάφορες πληροφορίες, όπως παλαιότερες ενέργειες και σ τρατηγικές των άλλων παικτών.τις πληροφορίες αυτές μπορεί να λάβουν υπόψιν για να καθορίσ ουν τις μελλοντικές τους κινήσ εις.με άλλα λόγια σ τα παίγνια αυτά ο κάθε παίκτης μπορεί να εκτέλεσ ει πολλές ενέργειες κατά τη διάρκεια του παιγνίου, τις οποίες μπορεί να μεταβάλλει. Συμμετρικά/Αντισ υμμετρικά Η διάκρισ η αυτή αφορά την ύπαρξη ή όχι σ υμμετρίας σ τα παίγνια.με τον όρο σ υμμετρία σ ε παίγνια εννοούμε ότι η ανταμοιβή που προκύπτει από κάθε σ τρατηγική εξαρτάται μόνο από τις άλλες σ τρατηγικές και όχι από τον παίκτη που την χρησ ιμοποιεί.με άλλα λόγια μπορούμε να εναλλάξουμε τις ταυτότητες των παικτών χωρίς να μεταβληθούν οι ανταμοιβές που αντισ τοιχούν σ τις διάφορες σ τρατηγικές. Στα σ υμμετρικά παίγνια (Symmetric games) εμφανίζεται αυτή η σ υμμετρία που προαναφέραμε ενώ σ τα αντισ υμμετρικά παίγνια (Antisymmetric games) όχι. Μηδενικού αθροίσ ματος/μη μηδενικού αθροίσ ματος Το κριτήριο με βάσ η το οποίο πραγματοποιείται αυτή η κατηγοριοποίησ η είναι ο τρόπος που επηρεάζεται η ανταμοιβή κάποιου παίκτη από τις ενέργειες του άλλου. Στα παίγνια μηδενικού αθροίσ ματος (Zero-sum games) [41] το άθροισ μα των ανταμοιβών όλων των παικτών σ ε όλες τις δυνατές περιπτώσ εις είναι 0.Πρακτικά αυτό σ ημαίνει ότι αν κάποιος παίκτης έχει κέρδος από κάποια ενέργεια τότε ο άλλος πρέπει υποχρεωτικά να έχει απώλεια.μάλισ τα το κέρδος του ενός ισ ούται με την απώλεια του άλλου. 2 Δεν υπάρχει σ υμφωνία σ τη κοινότητα της θεωρίας παιγνίων για τον ορισ μό και την διάκρισ η σ τατικών και δυναμικών παιγνίων. 32

51 2.6 Μη σ υνεργατικά παίγνια(non-cooperative games) Στα παίγνια μη μηδενικού αθροίσ ματος (Non-zero-sum games) η παραπάνω σ υνθήκη δεν ισ χύει. Example Δίλημμα του Φυλακισ μένου(prisoner s dilemma) [22] Ενα από τα πιο δημοφιλή παίγνια που παρουσ ιάζονται σ ε εισ αγωγικό επίπεδο σ τη βιβλιογραφία είναι το Δίλημμα του Φυλακισ μένου (Prisoner s dilemma).σε αυτό το παίγνιο θεωρείται ότι η ασ τυνομία σ υλλαμβάνει δύο εγκληματίες και τους οδηγεί σ ε δύο απομονωμένα δωμάτια.ο κάθε εγκληματίας βρίσ κεται μόνος του σ το δωμάτιο και δεν έχει τη δυνατότητα να επικοινωνήσ ει με τον άλλο ούτε να λάβει κάποιου είδους πληροφορία για την κατάσ τασ ή του ή την ομολογία του (αν φυσ ικά ομολογήσ ει).στους δύο εγκληματίες δίνεται η δυνατότητα είτε να ομολογήσ ουν ότι ο άλλος έκανε το έγκλημα είτε να παραμείνουν σ ιωπηλοί.με βάσ η τις επιλογές που δίνονται διαμορφώνονται τα εξής σ ενάρια: Να ομολογήσ ουν και οι δύο, εμπλέκοντας με αυτόν τον τρόπο ο ένας τον άλλο.τότε και οι δύο μπαίνουν 4 χρόνια φυλακή. Αν ομολογήσ ει ο ένας, ενώ ο άλλος παραμείνει σ ιωπηλός, αυτός που ομολόγησ ε αφήνεται ελεύθερος ενώ ο άλλος μπαίνει σ τη φυλακή για 5 χρόνια. Αν παραμείνουν σ ιωπηλοί και οι δύο, επειδή η ασ τυνομία δεν έχει σ τοιχεία για το σ ύνολο των αδικημάτων τους, καταδικάζονται σ ε 2 χρόνια φυλάκισ ης ο καθένας. Για να το αντιμετωπίσ ουμε ως παίγνιο θεωρούμε ότι υπάρχουν 2 παίκτες, οι 2 εγκληματίες.επιπλέον θεωρούμε ότι ο κάθε παίκτης έχει 2 σ τρατηγικές, να ομολογήσ ει ή να παραμείνει σ ιωπηλός, ενώ η ανταμοιβή είναι τα χρόνια φυλακής που αντισ τοιχούν σ ε καθε προφίλ σ τρατηγικής.στην εικόνα 2.3 απεικονίζεται ο πίνακας ανταμοιβών. Figure 2.3: Πίνακας ανταμοιβών για το δίλημμα του φυλακισ μένου Παίκτης1\Παίκτης2 Ομολογία Σιωπή Ομολογία (4,4) (5,0) Σιωπή (0,5) (2,2) Πρόκειται για ένα μη σ υνεργατικό παίγνιο το οποίο μπορούμε να αναπαρασ τήσ ουμε σ ε κανονική μορφή με τη χρήσ η του πίνακα της εικόνας 2.3.Εκμεταλλευόμενοι την ευκαιρία μπορούμε να το χαρακτηρίσ ουμε ως: σ υμμετρικό, πλήρους πληροφορίας, ατελούς πληροφορίας, ταυτόχρονο, μη σ υνεργατικό, σ τατικό και μη μηδενικού αθροίσ ματος. 2.6 Μη σ υνεργατικά παίγνια(non-cooperative games) Για τη περιγραφή των μη σ υνεργατικών παιγνίων θα χρησ ιμοποιήσ ουμε τη κανονική μορφή αναπαράσ τασ ης.ο αυσ τηρός ορισ μός των μη σ υνεργατικών παιγνίων δίνεται παρακάτω. 33

52 Chapter 2 Θεωρία παιγνίων Definition Μη σ υνεργατικά παίγνια(non-cooperative games) [22] Ενα μη σ υνεργατικό παίγνιο σ ε κανονική μορφή είναι μια τριάδα G = ( N, (S i ) i N, (u i ) i N ) όπου Ν είναι ένα πεπερασ μένο σ ύνολο παικτών, δηλαδή N = {1,..., n}. S i είναι το σ ύνολο των δυνατών σ τρατηγικών για τον παίκτη i. u i : S R είναι η σ υνάρτησ η ανταμοιβής για τον παίκτη i, με S = S 1... S i... S n Ισ ορροπίες Nash(Nash equilibria) Οι ισ ορροπίες Nash (Nash equilibria) αποτελούν την πιo σ υνηθισ μένη έννοια επίλυσ ης που σ υναντάμε σ ε μη σ υνεργατικά παίγνια.καθώς πρόκειται για έννοια επίλυσ ης αποτέλει πρόβλεψη για το αποτέλεσ μα του παιγνίου.παρακάτω θα δώσ ουμε μια διαισ θητικήανεπίσ ημη περιγραφή, ένα μαθηματικό-επίσ ημο ορισ μό, καθώς και μερικά σ χόλια. Η ισ ορροπία Nash περιγράφει μια κατάσ τασ η όπου κανένας παίκτης δεν έχει κίνητρο να αλλάξει τη σ τρατηγική του, δεδομένου ότι οι υπόλοιποι παίκτες δεν αλλάζουν την σ τρατηγική τους.με άλλα λόγια έσ τω ότι όλοι οι παίκτες έχουν επιλέξει μια σ τρατηγική.τότε πηγαίνουμε και ρωτάμε κάθε παίκτη εαν τον σ υμφέρει να αλλάξει τη σ τρατηγική του θεωρώντας δεδομένο ότι οι σ τρατηγικές των υπόλοιπων παικτών θα παραμείνουν αμετάβλητες.αν όλοι οι παίκτες απαντήσ ουν καταφατικά τότε το προφίλ σ τρατηγικών που ακολουθείται χαρακτηρίζεται ως ισ ορροπία Nash.Αν έσ τω και ένας παίκτης απαντήσ ει αρνητικά τότε δεν έχουμε ισ ορροπία Nash. Notation 1. Διάνυσ μα σ τρατηγικής Συμβολίζουμε το διάνυσ μα σ τρατηγικής, δηλαδή ένα διάνυσ μα που περιέχει την σ τρατηγική που ακολουθεί ο κάθε παίκτης ως s = [s 1, s 2,..., s n ].Τα s i σ υμβολίζουν την σ τρατηγική που ακολουθεί ο i παίκτης. Επιπλέον σ υμβολίζουμε το διάνυσ μα σ τρατηγικής των αντιπάλων του i ως s i = [s 1, s 2,..., s i 1, s i+1,..., s n ]. Δηλαδή δεν περιέχει την σ τρατηγική του i. Definition Ισ ορροπία Nash (Nash equilibrium) [32] Εσ τω S = S 1 S 2... S n το σ ύνολο των σ τρατηγικών και u i : S R το σ ύνολο των σ υναρτήσ εων ανταμοιβής. Ενα διάνυσ μα s σ τρατηγικών είναι μια ισ ορροπία Nash εάν ισ χύει ότι i N, s i S i, u i (s i, s i) u i (s i, s i). Στον παραπάνω ορισ μό υπονοείται ότι οι σ τρατηγικές που επιλέγουν οι παίκτες είναι καθαρές.για αυτό το λόγο λέμε ότι έχουμε καθαρή ισ ορροπία Nash (Pure-strategy Nash equilibrium).αν σ τον παραπάνω ορισ μό θεωρήσ ουμε ότι οι σ τρατηγικές που υπεισ έρχονται είναι μικτές τότε έχουμε μικτή ισ ορροπία Nash (Mixed-strategy Nash equilibrium). 34

53 2.7 Οικονομικά παίγνια(economic games) Example Ισ ορροπία Nash σ το Δίλημμα του Φυλακισ μένου Στο Δίλημμα του Φυλακισ μένου υπάρχει μία ισ ορροπία Nash που αντισ τοιχεί σ τη σ τρατηγική όπου και οι δύο παίκτες ομολογούν.είναι πολύ εύκολο με βάσ η το διαισ θητικό ορισ μό της ισ ορροπίας Nash να επαληθευτεί αυτό.παρατηρούμε ότι εαν ο δεύτερος παίκτης διατηρήσ ει αμετάβλητη τη σ τρατηγική του (δηλαδή ομολογήσ ει), τότε ο πρώτος δεν έχει σ υμφέρον να αλλάξει τη σ τρατηγική του σ ε σ ιωπή (διότι θα πάει σ την φυλακή 5 χρόνια αντί για 4).Την ίδια κατάσ τασ η αντιμετωπίζει και ο δεύτερος παίκτης. Στα μη σ υνεργατικά παίγνια δεν υπάρχει περιορισ μός ως προς τον αριθμό των ισ ορροπιών Nash.Δηλαδή μπορεί να υπάρχουν 0, 1 ή και περισ σ ότερες ισ ορροπίες Nash.Επιπλέον δεν είναι υποχρεωτικό η ισ ορροπία Nash να αποτελεί το βέλτισ το αποτέλεσ μα με την έννοια της ανταμοιβής. 2.7 Οικονομικά παίγνια(economic games) Μια επισ τημονική περιοχή σ την οποία η θεωρία παιγνίων βρίσ κει εφαρμογή είναι η οικονομική θεωρία.για λόγους σ υντομίας θα αναφερθούμε μόνο σ τις δημοπρασ ίες Δημοπρασ ίες(auctions) Η θεωρία δημοπρασ ιών (auction theory) είναι ένας κλάδος της θεωρίας παιγνίων που μελετά τον τρόπο δράσ ης των παικτών σ ε μια δημοπρασ ία και τις ιδιότητες του παιγνίου που προκύπτει.μια δημοπρασ ία (auction) είναι μια διαδικασ ία αγοράς και πώλησ ης προιόντων ή υπηρεσ ιών με τη χρήσ η προσ φορών, οι οποίες καθορίζουν το αποτέλεσ μα με τρόπο που υπαγορεύεται από το μηχανισ μό που χρησ ιμοποποιείται.για λόγους πληρότητας παραθέτουμε και έναν πιο αυσ τηρό ορισ μό. Definition Δημοπρασ ία(auction) [22] Μία δημοπρασ ία (auction) είναι ένας μηχανισ μός της αγοράς για τον οποίο ένα αντικείμενο ή μια υπηρεσ ία ανταλλάσ σ εται με βάσ η τις προσ φορές που υποβάλλονται από σ υμμετέχοντες.υπάρχει ένα σ υγκεκριμένο σ ύνολο κανόνων που καθορίζουν την αγορά ή την πώλησ η ενός ή περισ σ ότερων αντικειμένου σ ε αυτόν που υποβάλλει την πιο ικανοποιητική προσ φορά. Η φύσ η των δημοπρασ ιών είναι τέτοια που ο πωλητής αλλά και οι πλειοδότες δεν γνωρίζουν τις τιμές των άλλων πλειοδοτών.με κριτήριο λοιπόν τον τρόπο πρόβλεψης των τιμών προσ φοράς των πλειοδοτών διακρίνονται δύο μοντέλα. [22] Μοντέλο ιδιωτικής τιμής(private value model) Σε αυτό το μοντέλο ο κάθε πλειοδότης θεωρεί ότι σ ε όλους τους άλλους πλειοδότες αντισ τοιχεί από μία κατανομή πιθανότητας από την οποία εξάγουν την τιμή προσ φοράς.με άλλα λόγια σ ε αυτό το μοντέλο οι τιμές προσ φοράς των πλειοδοτών είναι ανεξάρτητες μεταξύ τους. 35

54 Chapter 2 Θεωρία παιγνίων Μοντέλο κοινής τιμής(common value model) Στο μοντέλο αυτό υπάρχει μια κοινή κατανομή πιθανότητας από την οποία όλοι οι πλειοδότες εξάγουν την τιμή προσ φοράς. Οι παίκτες που σ υμμετέχουν σ ε αυτού του είδους τα παίγνια έχουν σ υγκεκριμένα ονόματα, τα οποία αντικατοπτρίζουν το ρόλο που επιτελούν.ο δημοπράτης (auctioneer) είναι ο υπεύθυνος της δημοπρασ ίας, δηλαδή αυτός που την εκτελεί και εφαρμόζει το μηχανισ μό για τη λήψη της τελικής απόφασ ης.οι πλειοδότες (bidders) είναι αυτοί που υποβάλλουν τις προσ φορές (bids). Οι κυριότερες κατηγορίες δημοπρασ ιών είναι τέσ σ ερις και δίνονται παρακάτω. [33] Δημοπρασ ία πρώτης τιμής με κρυφές προσ φορές(first-price auction with sealed bid) Σε αυτές τις δημοπρασ ίες όλοι οι πλειοδότες καταθέτουν ταυτόχρονα προσ φορές των οποίων το περιεχόμενο δεν γίνεται γνωσ τό σ τους άλλους.το αντικείμενο τελικά κερδίζεται από τον πλειοδότη που έδωσ ε την υψηλότερη προσ φορά και η τιμή αγοράς είναι το ποσ ό που καθορίζεται σ ε αυτή τη προσ φορά. Δημοπρασ ία δεύτερης τιμής με κρυφές προσ φορές(second-price auction with sealed bid) Σε αυτές τις δημοπρασ ίες όλοι οι πλειοδότες καταθέτουν ταυτόχρονα προσ φορές των οποίων το περιεχόμενο δεν γίνεται γνωσ τό σ τους άλλους.το αντικέιμενο τελικά κερδίζεται από τον πλειοδότη που έδωσ ε την υψηλότερη προσ φορά και η τιμή αγοράς είναι το ποσ ό που καθορίζεται σ τη 2η υψηλότερη προσ φορά. Αγγλική δημοπρασ ία (English auction) Στις Αγγλικές δημοπρασ ίες η τιμή του προιόντος αυξάνεται σ ε κάθε γύρο, από μία χαμηλή αρχική τιμή μέχρι μία άλλη για την οποία υπάρχει μόνο ένας πλειοδότης που προσ φέρεται να πληρώσ ει.αυτός ο πλειοδότης αποκτά το προιόν και πληρώνει την τελική τιμή για την οποία προσ φέρθηκε. Ολλανδική δημοπρασ ία(dutch auction) Στις Ολλανδικές δημοπρασ ίες η τιμή του προιόντος μειώνεται σ ε κάθε γύρο, από μια υψηλή αρχική τιμή μέχρι μία άλλη για την οποία υπάρχει ένας πλειοδότης που προσ φέρεται να πληρώσ ει.αυτός ο πλειοδότης αποκτά το προιόν και πληρώνει την τιμή για την οποία προσ φέρθηκε. 2.8 Συνεργατικά παίγνια(cooperative games) Συνεργατικά παίγνια (Cooperative games) είναι αυτά σ τα οποία δεν μπορούμε να διακρίνουμε τις ενέργειες μεμονωμένων παικτών αλλά αντιμετωπίζουμε τις από κοινού ενέργειες, σ τρατηγικές και σ τόχους ομάδων παικτών. Οπως αναφέρθηκε και παραπάνω κατά τη σ υνεργασ ία των παικτών (μέσ ω του σ χηματισ μού ομάδων) η σ υμφωνία που έχει 36

55 2.8 Συνεργατικά παίγνια(cooperative games) σ υναφθεί είναι δεσ μευτική και δεν υπάρχει δυνατότητα απόκλισ ης από αυτή.η σ υμφωνία αυτή επιβάλλεται από κάποιο τρίτο άτομο σ τους πάικτες του παιγνίου.υπάρχουν δύο μεγάλες κατηγορίες σ υνεργατικών παιγνίων, τα διαπραγματευτικά παίγνια (Bargaining games) και τα παίγνια σ υνασ πισ μών (Coalitional games).θα αναφερθούμε ενδεικτικά μόνο σ τα διαπραγματευτικά παίγνια ακολουθώντας την περιγραφή που δίνεται σ το [33] Διαπραγματευτικά παίγνια(bargaining games) Στα διαπραγματευτικά παίγνια δίνεται σ τους παίκτες η δυνατότητα να επιτύχουν μία αμοιβαίως επωφελή σ υμφωνία, για τους όρους της οποίας όμως υπάρχει ανταγωνισ μός μεταξύ των παικτών.για να σ υναφθεί η σ υμφωνία πρέπει να υπάρχει αποδοχή από όλους τους παίκτες που σ υμμετέχουν σ ε αυτή, ενώ αυτή επιβάλλεται από κάποια εξωτερική αρχή.για την καλύτερη κατανόησ η των διαπραγματευτικών παιγνίων θα αναφερθούμε σ ε ένα τέτοιο παίγνιο δύο παικτών όπως παρουσ ιάζεται σ το [33]. Notation 2. Συμβολισ μοί σ ε διαπραγματευτικά παίγνια [33] Η ανταμοιβή του παίκτη 1 όταν υπάρχει σ υμφωνία σ υμβολίζεται με u 1, ενώ όταν δεν επιτυγχάνεται αυτή σ υμβολίζεται με u 0 1.Ομοίως για τον παίκτη 2 έχουμε αντίσ τοιχα u 2 και u 0 2. Definition Διαπραγματευτικά παίγνια(bargaining games) [33] Ενα διαπραγματευτικό παίγνιο 2 παικτών είναι ένα ζεύγος {U, (u 0 1, u 0 2)}, όπου U R 2 ένα σ υμπαγές και κυρτό σ ύνολο.επιπλέον υπάρχει τουλάχισ τον ένα ζεύγος ανταμοιβών (u 1, u 2 ) U τέτοιο ώσ τε u 1 > u 0 1 και u 2 > u 0 2. Definition Διαπραγματευτική λύσ η(bargaining solution) [33] Μία διαπραγματευτική λύσ η είναι μία σ υνάρτησ η (u 1, u 2) = f (U, u 0 1, u 0 2) η οποία αντισ τοιχίζει ένα διαπραγματευτικό παίγνιο {U, (u 0 1, u 0 2)} σ ε μοναδικό σ τοιχείο του U. Οι διαπραγματευτικές λύσ εις ικανοποιούν ορισ μένα αξιώματα.τα αξιώματα αυτά είναι ο ατομικός ορθολογισ μός (individual rationality), η εφικτότητα (feasibility), η βελτισ τότητα κατα Pareto (Pareto efficiency), η ανεξαρτησ ία των μη σ χετικών εναλλακτικών (independence of irrelevant alternatives), η ανεξαρτησ ία των γραμμικών μετασ χηματισ μών (independence of linear transformations) και η σ υμμετρία (symmetry).δεν θα τα αναλύσ ουμε μαθηματικά εδώ για λόγους σ υντομίας, αλλά θα αναφέρουμε ένα θεώρημα για την διαπραγματευτική λύσ η κατα Nash. Theorem Διαπραγματευτική λύσ η Nash(Nash bargaining solution) [33] Υπάρχει μοναδική διαπραγματευτική λύσ η που ικανοποιεί όλα τα απαραίτητα αξιώματα.αυτή δίνεται από τον τύπο (u 1, u 2) = arg max (u 1 u 0 1) (u 2 u 0 2) Η λύσ η αυτή ονομάζεται διαπραγματευτική λύσ η Nash. (u 1,u 2 ) U,u 1 >u 0 1,u 2>u

56 Chapter 2 Θεωρία παιγνίων 2.9 Στοχασ τικά παίγνια(stochastic games) Τα σ τοχασ τικά παίγνια (stochastic games) είναι μία γενίκευσ η των επαναλαμβανόμενων παιγνίων (repeated games), σ τα οποία όμως το παίγνιο που επαναλαμβάνεται σ ε κάθε γύρο μεταβάλλεται.η μεταβολή αυτή υπαγορεύεται από κάποιο κανόνα πιθανοτήτων και έτσ ι προκύπτει ο χαρακτηρισ μός σ τοχασ τικά για αυτά τα παίγνια.μια σ ημαντική έννοια των παιγνίων αυτών είναι η κατάσ τασ η (state) η οποία μεταβάλλεται με το χρόνο και η μεταβολή αυτή εξαρτάται από τις προηγούμενες κατασ τάσ εις και ενέργειες των παικτών σ ε εκείνο το γύρο.επιπλέον η ανταμοιβή σ ε κάθε γύρο του κάθε παίκτη εξαρτάται τόσ ο από την κατάσ τασ η του παιγνίου όσ ο και από την ενέργεια του ίδιου και των άλλων παικτών εκείνη τη σ τιγμή. Παρακάτω δίνουμε έναν επίσ ημο-μαθηματικό ορισ μό για τα σ τοχασ τικά παίγνια. Definition Στοχασ τικά παίγνια(stochastic games) [25] Ενα σ τοχασ τικό παίγνιο G αποτελείται από μία πεντάδα {N, S, A, P, U} όπου N = {1,..., n} είναι το σ ύνολο των παικτών. S το σ ύνολο των κατασ τάσ εων. Α ο χώρος κινήσ εων με A = (A 1 A 2 A n ), όπου A i το σ ύνολο των δυνατών ενεργειών του παίκτη i. P η σ υνάρτησ η μετάβασ ης για την οποία για μία δεδομένη κοινή ενέργεια a = (a 1, a 2,..., a n ) ισ χύει ότι s S p a (s, s ) = 1, s S, a A. U ο χώρος ανταμοιβών με U = u 1 u 2... u n, όπου u i η ανταμοιβή του παίκτη i. Στα σ τοχασ τικά παίγνια η λύσ η αυτών ονομάζεται πολιτική (Policy).Μία πολιτική είναι [33] μία κατανομή πιθανότητας που ορίζεται πάνω σ το σ ύνολο ενεργειών για κάθε κατάσ τασ η και για κάθε παίκτη.δηλαδή είναι μία σ υνάρτησ η π i : S P (A i ), i N Εφαρμογές θεωρίας παιγνίων σ ε γνωσ τικά ραδιοσ υσ τήματα Τα γνωσ τικά ραδιοσ υσ τήματα από τη φύσ η τους αλληλεπιδρούν μεταξύ τους με σ τόχο την εξασ φάλισ η των σ υμφερόντων τους τα οποία μπορεί να είναι είτε κοινά είτε όχι.με άλλα λόγια μπορεί να υπάρχει ανταγωνισ μός μεταξύ των διαφορετικών σ υσ τημάτωνπαικτών ή να σ χηματισ τούν σ υνεργασ ίες ανάμεσ α σ ε διάφορα σ υσ τήματα-παίκτες.επιπλέον κάθε γνωσ τικό ραδιοσ ύσ τημα επιθυμεί να προβλέψει την έκβασ η της αλληλεπίδρασ ης με τα άλλα σ υσ τήματα καθώς και να επιλέξει τον κατάλληλο τρόπο δράσ ης έτσ ι ώσ τε να πετύχει το σ τόχο του.είναι από τα προηγούμενα προφανές ότι η θεωρία παιγνίων 38

57 2.10 Εφαρμογές θεωρίας παιγνίων σ ε γνωσ τικά ραδιοσ υσ τήματα αποτελεί το κατάλληλο θεωρητικό πλαίσ ιο για την μοντελοποίησ η και τη μελέτη αυτής της κατάσ τασ ης.δηλαδή η φύσ η και η λειτουργία των γνωσ τικών ραδιοσ υσ τημάτων είναι τέτοια που αυτά προσ φέρονται για μοντελοποίησ η με χρήσ η της θεωρίας παιγνίων. Σε αυτό το κομμάτι θα αναφερθούμε ενδεικτικά σ ε εφαρμογές των διαφορετικών ειδών παιγνίων σ ε πτυχές των γνωσ τικών ραδιοσ υσ τημάτων.πριν όμως προχωρήσ ουμε σ ε αυτό θα δώσ ουμε ένα παράδειγμα εφαρμογής θεωρίας παιγνίων σ τις τηλεπικοινωνίες γενικότερα για να αναδειχθεί με ποιόν τρόπο μπορούν να σ υνδυασ τούν οι δύο αυτές επισ τημονικές περιοχές. Example Το δίλημμα του προωθητή(forwarder s dilemma) [32] Στο παίγνιο αυτό υπάρχουν δύο παίκτες, οι οποίοι είναι σ υσ κευές που εκπέμπουν μηνύματα.κάθε παίκτης έχει το δικό του παραλήπτη για τα μηνύματα.στόχος του κάθε παίκτη είναι να μεταδώσ ει το μήνυμά του σ τον αντίσ τοιχο παραλήπτη χρησ ιμοποιώντας τον άλλο παίκτη ως προωθητή.η ύπαρξη προωθητή είναι απαραίτητη, δηλαδή δεν είναι δυνατόν κάποιος παίκτης να επικοινωνήσ ει με τον παραλήπτη του χωρις ενδιάμεσ ο.στην εικόνα 2.4 απεικονίζεται αυτό ακριβώς το σ ενάριο, όπου με k i σ υμβολίζονται οι παίκτες και με d i οι παραλήπτες. Οταν ο παίκτης 1 αποσ τέλλει το μήνυμά του σ τον αντίσ τοιχο παραλήπτη (δηλαδή ο παίκτης 2 προωθεί το πακέτο του παίκτη 1) έχει κέρδος 1 (διαφορετικά δεν έχει καθόλου κέρδος), ενώ του κοσ τίζει κάποιο σ ταθερό κόσ τος c (όπου 0 < c 1) για να προωθήσ ει το πακέτο του παίκτη 2. Η τελική ανταμοιβή του πάικτη 1 είναι η διαφορά του κόσ τους από το κέρδος. Ομοια είναι η κατάσ τασ η για τον παίκτη 2 (το κόσ τος χρήσ ης είναι το ίδιο).το δίλημμα που αντιμετωπίζει ο κάθε παίκτης είναι εαν θα προωθήσ ει ή όχι το πακέτο του άλλου σ την προσ πάθεια να μειώσ ει το κόσ τος του.βέβαια εαν ο άλλος παίκτης ενεργήσ ει με τον ίδιο τρόπο τότε σ τη τελικη ο 1ος πάικτης (αλλά και ο 2ος) θα βγεί χαμένος αφου δεν θα προωθηθεί το πακέτο του.στο σ χήμα 2.5 απεικονίζεται ο πίνακας ανταμοιβών για το παραπάνω παίγνιο.οι ενέργειες του παίκτη 1 βρίσ κονται σ τις γραμμές, ενώ του παίκτη 2 σ τις σ τήλες.σε κάθε κελί του πίνακα υπάρχει μια δυάδα αριθμών.ο πρώτος αριθμός αντισ τοιχεί σ την ανταμοιβή του παίκτη 1 και ο άλλος σ την ανταμοιβή του παίκτη 2. Figure 2.4: Δίλημμα του προωθητή(forwarder s dilemma) [45] Figure 2.5: Πίνακας ανταμοιβών για το δίλημμα του προωθητή Παίκτης 1/Παίκτης 2 Αποδοχή Απόρριψη Αποδοχή (1-c,1-c) (1,-c) Απόρριψη (-c,1) (0,0) 39

58 Chapter 2 Θεωρία παιγνίων Μη σ υνεργατικά παίγνια Τα μη σ υνεργατικά παίγνια αποτελούν μια πολύ καλή κατηγορία παιγνίων για την μελέτη γνωσ τικών ραδιοσ υσ τημάτων.αυτό γιατί τα σ υσ τήματα αυτά σ υχνά διεκδικούν κοινούς πόρους (όπως είναι το φάσ μα), αλλά και γενικότερα ανταγωνίζονται. Ενα κλασ σ ικό παράδειγμα εφαρμογής θεωρίας παιγνίων σ ε γνωσ τικά ραδιοσ υσ τήματα είναι η μοντελοποίησ η της διαδικασ ίας του διαμοιρασ μού φάσ ματος ανάμεσ α σ τους διάφορους χρήσ τες.αναφέρουμε δύο περιπτώσ εις διαμοιρασ μού φάσ ματος 3, τον ανοικτό διαμοιρασ μό φάσ ματος και τον αδειοδοτημένο διαμοιρασ μό φάσ ματος, όπως δίνονται σ το [33]. Ανοικτός διαμοιρασ μός φάσ ματος(open spectrum sharing) Παίκτες: Οι δευτερεύοντες χρήσ τες που ανταγωνίζονται για το φάσ μα. Ενέργειες: Παράμετροι εκπομπής, όπως επίπεδο ισ χύος εκπομπης, ρυθμός πρόσ βασ ης, κυματομορφή, κτλ. Ανταμοιβή: Μία μη φθίνουσ α σ υνάρτησ η του Quality of Service (QoS), η οποία προκύπτει από την εκμετάλλευσ η του φάσ ματος. Αδειοδοτημένος διαμοιρασ μός φάσ ματος(licensed spectrum sharing) Παίκτες: Οι πρωτεύοντες και οι δευτερεύοντες χρήσ τες. Ενέργειες: Στις ενέργειες των πρωτευόντων χρησ τών περιλαμβάνονται ο καθορισ μός των τιμών για το κάθε τμήμα φάσ ματος που διαθέτουν καθώς και οι αποφάσ εις για την παραχώρησ η των τμημάτων αυτών σ τους δευτερεύοντες χρήσ τες.οι ενέργειες των δευτερευόντων παικτών περιλαμβάνουν την επιλογή των τμημάτων του φάσ ματος που επιθυμούν να χρησ ιμοποιήσ ουν καθώς και το ποσ ό που είναι διατεθιμένοι να πληρώσ ουν για κάθε τμήμα. Ανταμοιβή: Το χρηματικό κέρδος που προκύπτει από την παραχώρησ η τμημάτων του φάσ ματος για χρήσ η από δευτερεύοντες χρήσ τες. Εκτός από το κλασ σ ικό παράδειγμα του διαμοιρασ μού φάσ ματος τα μη σ υνεργατικά παίγνια περιγράφουν προβλήματα διαχείρισ ης παρεμβολών, δρομολόγησ ης, πολλαπλής πρόσ βασ ης και προώθησ ης πακέτων σ ε γνωσ τικά ραδιοσ υσ τήματα Οικονομικα παίγνια Οπως αναφέραμε και παραπάνω τα γνωσ τικά ραδιοσ υσ τήματα ανταγωνίζονται μεταξύ τους για διάφορους πόρους.οι πόροι αυτοί πολλές φορές αποκτούνται μέσ ω αγοροπωλησ ιών, τις οποίες αντιμετωπίζουμε με όρους οικονομικής θεωρίας.για αυτό το λόγο η μοντελοποίησ η αυτής της διαδικασ ίας ως οικονομικό παίγνιο αποδεικνύεται πολύ χρήσ ιμη.ιδιαίτερα χρήσ ιμη είναι η χρήσ η παιγνίων δημοπρασ ιών. 3 Περισ σ ότερες πληροφορίες για αυτά υπάρχουν σ το κεφάλαιο των γνωσ τικών ραδιοσ υσ τημάτων 40

59 2.10 Εφαρμογές θεωρίας παιγνίων σ ε γνωσ τικά ραδιοσ υσ τήματα Ενα πολύ κοινό μοντέλο δημοπρασ ιών σ ε γνωσ τικά δίκτυα περιλαμβάνει τους ιδιοκτήτες φάσ ματος (οι οποίοι είναι οι πρωτεύοντες χρήσ τες) οι οποίοι έχουν πρόθεσ η να διαθέσ ουν τμήμα του φάσ ματός τους σ ε δευτερεύοντες χρήσ τες (απλοί χρήσ τες, service providers, κτλ.).για το μοντέλο αυτό έχουν αναπτυχθεί αλγόριθμοι δημοπρασ ιών που έχουν σ τόχο τη μεγισ τοποίησ η του κέρδους των ιδιοκτητών φάσ ματος και της αξιοποίησ ης του φάσ ματος.επιπλέον σ τη βιβλιογραφία υπάρχουν δημοσ ιεύσ εις για δημοπρασ ίες θερμοκρασ ίας θορύβου.δηλαδή υπάρχει κάποιο όριο θερμοκρασ ίας θορύβου που δεν πρέπει να ξεπερασ τεί και ο θόρυβος που μπορεί να προκαλέσ ουν οι χρήσ τες ώσ τε να μην παραβιάζεται αυτό το όριο δημοπρατείται σ ε αυτούς Συνεργατικά παίγνια Με τη χρήσ η σ υνεργατικών παίγνίων μοντελοποιούνται κατασ τάσ εις σ τις οποίες γνωσ τικά ραδιοσ υσ τήματα σ υνεργάζονται κατά ομάδες μεταξύ τους, έτσ ι ώσ τε να επιτύχουν σ τόχους που μόνα τους δεν θα μπορούσ αν να επιτύχουν.στη βιβλιογραφία υπάρχουν δημοσ ιεύσ εις με εφαρμογές των σ υνεργατικών παιγνίων σ ε αρκετά θέματα γνωσ τικών ραδιοσ υσ τημάτων ανάμεσ α σ τα οποία βρίσ κονται τα εξής: [27] Δέσ μευσ η πόρων σ ε OFDMA δίκτυα [23] Εχει μελετηθεί το πρόβλημα της δέσ μευσ ης των πόρων σ ε OFDMA δίκτυα, όπου πόροι θεωρούνται το υποφέρων, η ισ χύς εκπομπής, ο ρυθμός μετάδοσ ης πληροφορίας, κτλ.στόχος είναι η δίκαια δέσ μευσ η πόρων ανάμεσ α σ τους χρήσ τες και η μεγισ τοποίησ η του σ υνολικού ρυθμού μετάδοσ ης πληροφορίας, λαμβάνοντας υπόψιν τους περιορισ μούς για την μέγισ τη επιτρεπόμενη ισ χύ εκπομπής και τον ελάχισ το ρυθμό πληροφορίας. Ανάθεσ η πόρων σ ε δίκτυα δυναμικής πρόσ βασ ης φάσ ματος [39] Εχουν αναπτυχθεί αλγόριθμοι για κεντρικές και κατανεμημένες σ τρατηγικές με σ τόχο την βέλτισ τη ανάθεσ η πόρων σ ε δίκτυα δυναμικής πρόσ βασ ης φάσ ματος Στοχασ τικά παίγνια Τα σ τοχασ τικά παίγνια βρίσ κουν εφαρμογή σ ε περιπτώσ εις όπου υπάρχει αβεβαιότητα και έτσ ι είναι απαραίτητη η αντιμετώπισ η της κατάσ τασ ης με όρους της θεωρίας πιθανοτήτων.η φύσ η των ασ ύρματων τηλεπικοινωνιών είναι τέτοια που πολλές φορές αντιμετωπίζουμε κατασ τάσ εις αβεβαιότητας.κατά σ υνέπεια τα σ τοχασ τικά παίγνια αποτελούν το κατάλληλο θεωρητικό πλαίσ ιο για την μοντελοποίησ η τέτοιων κατασ τάσ εων που προκύπτουν σ ε σ ενάρια χρήσ ης γνωσ τικών ραδιοσ υσ τημάτων. Μερικά σ ενάρια λειτουργίας γνωσ τικών ραδιοσ υσ τημάτων για τα οποία απαιτείται η χρήσ η σ τοχασ τικών παιγνίων είναι τα εξής: [33] Αντιμετώπισ η επιθέσ εων jamming (Defence from jamming attacks) [53] 41

60 Chapter 2 Θεωρία παιγνίων Αφορά την αντιμετώπισ η επιθέσ εων jamming από σ υσ τήματα που προσ αρμόζουν δυναμικά την επιθετική σ τρατηγική τους.η σ τοχασ τική φύσ η του διαύλου αλλά και η αδυναμία ακριβούς πρόβλεψης της σ τρατηγικής των επιτιθέμενων απαιτεί τη χρήσ η δυναμικών μηχανισ μών αντιμετώπισ ης jamming, η μοντελοποίησ η των οποίων γίνεται με χρήσ η σ τοχασ τικών παιγνίων. Ελεγχος εκπομπής (Transmission control) [29] Στη βιβλιογραφία υπάρχουν αναφορές για σ τοχασ τικά παίγνια που μοντελοποιούν προβλήματα ρυθμού μετάδοσ ης πληροφορίας δευτερευόντων χρησ τών σ ε TDMA δίκτυα.το σ τοχασ τικό παίγνιο που διαμορφώνεται χρησ ιμοποιεί ως κατασ τάσ εις την κατάσ τασ η του καναλιού, την κατάσ τασ η της εισ ερχόμενης κίνησ ης και την κατάσ τασ η του buffer των δευτερευόντων χρησ τών.η ενέργεια του κάθε χρήσ τη είναι ο καθορισ μός του ρυθμού μετάδοσ ης, ενώ ως ανταμοιβή ορίζεται το κόσ τος μετάδοσ ης με προφανή σ τόχο την ελαχισ τοποίησ ή του. 42

61 3 Μηχανική Μάθησ η 3.1 Εισ αγωγή Η μηχανική μάθησ η (machine learning) είναι [38] ο κλάδος της επισ τήμης των υπολογισ τών που κατασ κευάζει και μελετάει αλγορίθμους που μαθαίνουν από δεδομένα και εντοπίζουν πρότυπα σ ε αυτά με σ τόχο να προβλέψουν μελλοντικά δεδομένα και να λάβουν αποφάσ εις υπό σ υνθήκες αβεβαιότητας.η μηχανική μάθησ η είναι ένας σ χετικά νέος κλάδος ο οποίος μαζί με τις δικές του μεθόδους περιλαμβάνει μεθόδoυς από ένα ευρύ σ ύνολο γνωσ τικών πεδίων όπως η όρασ η υπολογισ τών, η σ τατισ τική επεξεργασ ία σ ήματος, τα προσ αρμοσ τικά φίλτρα, η βιοπληροφορική, η εξόρυξη δεδομένων, κτλ.επιπλέον υπάρχει σ τενή σ χέσ η με άλλα γνωσ τικά αντικείμενα όπως η θεωρία βελτισ τοποίησ ης, η θεωρία πιθανοτήτων, η σ τατισ τική, η γραμμική άλγεβρα και άλλα πεδία που αποτελούν το απαιτόυμενο θεωρητικό υπόβαθρο. Η μηχανική μάθησ η είναι ένα αντικείμενο με πολύ μεγάλο εύρος εφαρμογών.τεχνικές μηχανικής μάθησ ης χρησ ιμοποιούνται σ την όρασ η υπολογισ τών, σ την οπτική αναγνώρισ η χαρακτήρων (OCR), σ το φιλτράρισ μα ανεπιθύμητης αλληλογραφίας (spam), σ τη βιοπληροφορική, σ την επεξεργασ ία φυσ ικής γλώσ σ ας, σ την χρηματοοικονομική ανάλυσ η, σ την αναγνώρισ η σ υναισ θήματος, σ την εξόρυξη δεδομένων, σ ε σ υσ τήματα προτάσ εων και σ ε πολλούς άλλους τομείς. 3.2 Κατηγορίες μηχανικής μάθησ ης Η μηχανική μάθησ η μπορεί να χωρισ τεί σ ε 3 κατηγορίες την επιβλεπόμενη ή επιτηρούμενη μάθησ η (supervised learning), την μη επιβλεπόμενη μάθησ η (unsupervised learning) και την ενισ χυτική μάθησ η (reinforcement learning).η παρουσ ίασ η των δύο πρώτων κατηγοριών βασ ίζεται σ το [38] και της τρίτης σ το [64] Επιβλεπόμενη μάθησ η(supervised learning) Στην επιβλεπόμενη μάθησ η (supervised learning) [38] υπάρχει ένα σ ύνολο δεδομένων που ονομάζονται δεδομένα εκπαίδευσ ης.τα δεδομένα αυτά είναι ένα σ ύνολο ζευγών εισ όδου-εξόδου D = {(x i, y i )} N i=1, όπου Ν ο αριθμός των δειγμάτων εκπαίδευσ ης.στόχος της επιβλεπόμενης μάθησ ης είναι μάθουμε μέσ α από το σ ύνολο D τη σ υνάρτησ η y = f(x) που περιγράφει τα δεδομένα.δηλαδή αν μας δοθεί μια τυχαία είσ οδος x θα πρέπει 43

62 Chapter 3 Μηχανική Μάθησ η να βρούμε τη σ ωσ τή έξοδο y.ο λόγος που αυτό το είδος μάθησ ης χαρακτηρίζεται ως επιβλεπόμενη είναι γιατί φαίνεται σ αν να υπάρχει κάποιος επιβλέπων που σ ε κάθε είσ οδο x να αντισ τοιχίζει μια έξοδο-ετικέτα y.σε γενικές γραμμές σ την επιβλεπόμενη μάθησ η το δείγμα εκπαίδευσ ης είναι ένα διάνυσ μα σ το n-διάσ τατο χώρο.το διάνυσ μα αυτό ονομάζεται διάνυσ μα χαρακτηρισ τικών (feature vector) και οι σ υνισ τώσ ες του χαρακτηρισ τικά (features). Η επιβλεπόμενη μάθησ η χωρίζεται με τη σ ειρά της σ ε δύο κατηγορίες (τύπους προβλημάτων).η διάκρισ η αυτή γίνεται με κριτήριο το δυνατό σ ύνολο τιμών των διανυσ μάτων εξόδου y, δηλαδή αν λαμβάνουν τιμές από ένα σ ύνολο σ υνεχών ή διακριτών τιμών. Οταν το y λαμβάνει τιμές από ένα διακριτό σ ύνολο το πρόβλημα ονομάζεται ταξινόμησ η (classification), ενώ όταν το σ ύνολο είναι σ υνεχές ονομάζεται παλινδρόμησ η (regression). Πρακτικά ένα πρόβλημα ταξινόμησ ης αποτελείται από ένα σ ύνολο δεδομένων εκπαίδευσ ης σ ε κάθε σ τοιχείο του οποίου αντισ τοιχεί μια ετικέτα-αριθμός που δείχνει την κλάσ η σ την οποία ανήκει αυτό το σ τοιχείο.στόχος είναι να βρούμε ένα τρόπο ώσ τε όταν μας δοθεί κάποιο νέο διάνυσ μα χαρακτηρισ τικών ως είσ οδος να βρούμε σ ωσ τά σ ε ποια κλάσ η ανήκει. Ενα πρόβλημα παλινδρόμησ ης αποτελείται από ένα σ ύνολο δεδομένων εκπαίδευσ ης με ζεύγη εισ όδου-εξόδου και σ τόχος είναι να βρούμε μία σ υνάρτησ η η οποία ικανοποιεί αυτά τα δεδομένα με το καλύτερο τρόπο.να σ ημειώσ ουμε ότι η έξοδος σ ε ένα πρόβλημα παλινδρόμησ ης λαμβάνει σ υνεχείς τιμές Μη επιβλεπόμενη μάθησ η(unsupervised learning) Σε αυτό το είδος μάθησ ης [38] δίνεται ένα σ ύνολο δεδομένων D = {(x i )} N i=1, όπου Ν ο αριθμός των δειγμάτων.στόχος είναι να αναγνωρίσ ουμε τη δομή των δεδομένων, μοτίβα, ομοιότητες και ομάδες.η μη επιβλεπόμενη μάθησ η αποτελείται κυρίως από τρεις διαφορετικές κατηγορίες (τύπους προβλημάτων) : την ομαδοποίησ η (clustering), την εκτίμησ η πυκνότητας (density estimation) και την αναγνώρισ η λανθανουσ ών μεταβλητών (latent variables). Ομαδοποίησ η είναι η διαδικασ ία μέσ α από την οποία ανακαλύπτουμε ομάδες σ ε ένα σ ύνολο δεδομένων.η δημιουργία των ομάδων προκύπτει θεωρώντας κάθε φορά κάποιο κριτήριο ομοιότητας και ορίζοντας κάποια έννοια απόσ τασ ης μεταξύ των δεδομένων.στο πρόβλημα της εκτίμησ ης πυκνότητας μας δίνεται πάλι ένα σ ύνολο δεδομένων και σ τόχος είναι να εκτιμηθεί η κατανομή από την οποία προκύπτουν αυτά.τέλος το πρόβλημα της εύρεσ ης λανθανουσ ών μεταβλητών αφορά την ευρέσ η μεταβλητών που σ υνεισ φέρουν σ ημαντικά σ το σ υνολικό διάνυσ μα και κατά μία έννοια περιγράφουν την ουσ ία των δεδομένων.με αυτό το τρόπο ξεχωρίζουμε τις χρήσ ιμες από τις άχρησ τες μεταβλητές και κατά σ υνέπεια μπορούμε με κατάλληλη προβολή σ ε ένα υποχώρο χαμηλότερης διάσ τασ ης να μειώσ ουμε τη διάσ τασ η των δεδομένων.η τελευταία διαδικασ ία ονομάζεται μείωσ η διάσ τασ ης (dimensionality reduction). 44

63 3.3 Tαξινομητές(Classifiers) Ενισ χυτική μάθησ η(reinforcement learning) Στην ενισ χυτική μάθησ η (reinforcement learning) σ ε γενικές γραμμές υπάρχει ένα σ ύνολο κατασ τάσ εων και ένα σ ύνολο δυνατών ενεργειών, καθώς και κάποια έννοια ανταμοιβής (ανάλογα με την κατάσ τασ η και τις ενέργειες που εκτελούνται).η λειτουργία ενός αλγορίθμου ενισ χυτικής μάθησ ης είναι να αλληλεπιδράσ ει με το περιβάλλον εκτελώντας ενέργειες και έτσ ι να μάθει τις ενέργειες που θα τον οδηγήσ ουν σ τη μέγισ τη ανταμοιβή.η ενισ χυτική μάθησ η οφείλει την ονομασ ία της σ το γεγονός ότι κατά την αλληλεπίδρασ η με το περιβάλλον ο αλγόριθμός λαμβάνει ανταμοιβές-ενισ χύσ εις.να σ ημειώσ ουμε ότι η έννοια της ανταμοιβής περιλαμβάνει τόσ ο θετικές όσ ο και αρνητικές τιμές. 3.3 Tαξινομητές(Classifiers) Ταξινόμησ η (Classification) είναι η διαδικασ ία μάθησ ης, η οποία δοθέντος ενός σ υνόλου εκπαίδευσ ης (διανύσ ματα χαρακτηρισ τικών μαζί με τις κατάλληλες ετικέτες κλάσ εων) λαμβάνει ως είσ οδο ένα τυχαίο διάνυσ μα χαρακτηρισ τικών και δίνει ως έξοδο την κλάσ η σ την οποία ανήκει.το εργαλείο-αλγόριθμος που υλοποιεί αυτή τη διαδικασ ία ονομάζεται ταξινομητής (classifier). Υπάρχουν τρεις διαφορετικές προσ εγγίσ εις σ το πρόβλημα της ταξινόμησ ης και περιγράφονται παρακάτω με βάσ η το [11]. Διακριτικά μοντέλα (Discriminative models) : Σύμφωνα με τη προσ έγγισ η αυτή αρχικά υπολογίζεται η πιθανότητα P (c k x), δηλαδή η υπό σ υνθήκη πιθανότητα μία παρατήρησ η x να ανήκει σ την κλάσ η c k.στη σ υνέχεια χρησ ιμοποιείται αυτή η πληροφορία για να ληφθεί η απόφασ η σ χετικά με τη ταξινόμησ η των νέων παρατηρήσ εων σ ε κλάσ εις.στην ουσ ία σ ε αυτή τη προσ έγγισ η μοντελοποιούμε τις επιφάνειες απόφασ ης μεταξύ των κλάσ εων, παρακάμπτοντας την μοντελοποίησ η της κατανομής των δεδομένων εισ όδου. Παραγωγικά μοντέλα (Generative models) : Σε αυτά τα μοντέλα υπολογίζεται αρχικά η εκ των προτέρων πιθανότητα των κλάσ εων P (c k ) και η class-conditional πιθανότητα P (x c k ). Στη σ υνέχεια με τη χρήσ η του θεωρήματος του Bayes υπολογίζεται η υπό σ υνθήκη πιθανότητα των κλάσ εων, δηλαδή P (c k x) = P (x c k) P (c k ) P (x). Αναλύοντας περαιτέρω την παραπάνω σ χέσ η λαμβάνουμε P (c k x) = P (x c k) P (c k ) N P (x c k )P (c k ) k=1, όπου Ν το πλήθος των κλάσ εων. 45

64 Chapter 3 Μηχανική Μάθησ η Η προηγούμενη κατανομή πιθανότητας χρησ ιμοποιείται για την ταξινόμησ η δειγμάτων σ ε κλάσ εις.για τον υπολογισ μό της είναι απαραίτητη η μοντελοποίησ η της κατανομής των διανυσ μάτων εισ όδου για την κάθε κλάσ η.με άλλα λόγια καθορίζουμε τις κατανομές που παράγουν τα διανύσ ματα χαρακτηρισ τικών για αυτό και τα μοντέλα αυτά ονομάζονται παραγωγικά. Συναρτήσ εις διάκρισ ης (Discriminant functions) : Οι σ υναρτήσ εις διάκρισ ης f(x) λαμβάνουν ως είσ οδο ένα διάνυσ μα χαρακτηρισ τικών x και δίνουν ως έξοδο την ετικέτα μιας κλάσ ης y. Στη σ υνέχεια παραθέτουμε μερικές βασ ικές έννοιες που προκύπτουν σ την μελέτη ταξινομητών. Επιφάνεια απόφασ ης(decision surface) : Οι επιφάνειες απόφασ ης είναι οι επιφάνειες εκείνες που χωρίζουν τον χώρο των χαρακτηρισ τικών σ ε περιοχές οι οποίες αντισ τοιχούν σ τις διάφορες κλάσ εις.αυτές μπορεί να αναφέρονται και ως σ ύνορα απόφασ ης (decision boundary). Περιοχές απόφασ ης(decision regions) : Οι περιοχές απόφασ ης είναι οι περιοχές του χώρου χαρακτηρισ τικών που προκύπτουν από τον διαχωρισ μό που επιβάλλουν οι επιφάνειες απόφασ ης. Γραμμικοί ταξινομητές(linear classifiers) : Οι γραμμικοί ταξινομητές κατανέμουν τα διανύσ ματα χαρακτηρισ τικών σ ε κλάσ εις χρησ ιμοποιώντας ένα γραμμικό σ υνδυασ μό των χαρακτηρισ τικών.με άλλα λόγια οι επιφάνειες απόφασ ης που ορίζουν οι γραμμικοί ταξινομητές είναι γραμμικές σ υναρτήσ εις και ορίζονται από υπερεπίπεδα.οι γραμμικές επιφάνειες απόφασ ης (υπερεπίπεδα) περιγράφονται από την εξίσ ωσ η w T x + w 0 = 0, x R n. Γραμμική διαχωρισ ιμότητα(linear separability) : Γραμμικώς διαχωρίσ ιμες ονομάζονται δύο κλάσ εις που μπορούν να διαχωρισ τούν από γραμμική επιφάνεια απόφασ ης. Υπερεπίπεδο(Hyperplane) [49] Ενα υπερεπίπεδο περιγράφεται από τη σ χέσ η f(x) = w T x + w 0 = 0, όπου w το διάνυσ μα των βαρών και w 0 το κατώφλι. Κάθε υπερεπίπεδο χαρακτηρίζεται από: τη διεύθυνσ ή του η οποία καθορίζεται από τους σ υντελεσ τές βάρους w. την ακριβή θέσ η του σ το χώρο η οποία καθορίζεται από το κατώφλι w 0. Η απόσ τασ η του υπερεπιπέδου από: την αρχή των αξόνων είναι w 0 w και από ένα τυχαίο διάνυσ μα x είναι f(x) w. 46

65 3.3 Tαξινομητές(Classifiers) Perceptron Το perceptron αποτελεί ένα μοντέλο ενός νευρώνα το οποίο μαθαίνει ένα σ ύνολο δεδομένων εκπαίδευσ ης που αποτελείται από δύο γραμμικώς διαχωρίσ ιμες κλάσ εις.στην ουσ ία αυτό που κάνει είναι ότι βρίσ κει ένα κατάλληλο υπερεπίπεδο που χωρίζει τα δεδομένα των δύο κλάσ εων.παρακάτω δίνεται αναλυτικά η περιγραφή του perceptron με βάσ η τα [49] και [50]. Εσ τω ότι έχουμε δύο κλάσ εις c 1 και c 2 και μας δίνεται ένα σ ύνολο διανυσ μάτων εκπαίδευσ ης (με ετικέτες κλάσ εων) D = {(x i, y i )} N i=1.επίσ ης υποθέτουμε ότι οι δύο κλάσ εις είναι γραμμικώς διαχωρίσ ιμες.στόχος είναι να υπολογίσ ουμε ένα υπερεπίπεδο απόφασ ης, δηλαδή ισ οδύναμα τις παραμέτρους w και w 0 μιας γραμμικής σ υνάρτησ ης, το οποίο να χωρίζει το χώρο χαρακτηρισ τικών σ ε δύο περιοχές που αντισ τοιχούν σ τις δύο κλάσ εις (δηλαδή με τέτοιο τρόπο ώσ τε να ταξινομεί σ ωσ τά όλα τα διανύσ ματα εκπαίδευσ ης).το υπερεπίπεδο απόφασ ης ορίζεται ως εξής: w T x + w 0 = 0. Για το υπερεπίπεδο αυτό ισ χύει w T x + w 0 > 0, x c 1. w T x + w 0 < 0, x c 2 Για να υπολογίσ ουμε τις παραμέτρους του βέλτισ του υπερεπιπέδου θα ορίσ ουμε μία σ υνάρτησ η σ φάλματος την οποία θα προσ παθήσ ουμε να βελτισ τοποιήσ ουμε (ελαχισ τοποιήσ ουμε).η σ υνάρτησ η αυτή είναι η J(w) = [ ( )] yx w T x + w 0, x M όπου M το υποσ ύνολο των διανυσ μάτων εκπαίδευσ ης τα οποία ταξινομήθηκαν λανθασ μένα και 1, x c 1 y x =. +1, x c 2 Παρατηρούμε ότι y x ( w T x + w 0 ) > 0 για κάθε διάνυσ μα χαρακτηρισ τικών x που ταξινομείται λανθασ μένα.αυτό προκύπτει πολύ απλά θεωρώντας τα παρακάτω. Εσ τω ότι έχουμε διάνυσ μα χαρακτηρισ τικών x για το οποίο ισ χύει ότι x c 1 αλλά ταξινομείται λανθασ μένα σ το c 2.Τότε w T x + w 0 < 0 (γιατί το υπερεπίπεδο που έχει διαμορφωθεί μέχρι τότε το τοποθετεί σ την κλάσ η c 2 ) και y x < 0 (από τον ορισ μό του y x ) και κατά σ υνέπεια ισ χύει ότι y x ( w T x + w 0 ) > 0.Με όμοιο τρόπο αν έχουμε διάνυσ μα x με x c 2, αλλά ταξινομείται λανθασ μένα σ το c 1 προκύπτει ότι y x ( w T x + w 0 ) > 0.Αυτά έχουν ως αποτέλεσ μα η σ υνάρτησ η J(w) να λαμβάνει μη αρνητικές τιμές. Οταν δεν υπάρχουν λάθος ταξινομημένα δείγματα η σ υνάρτησ η μηδενίζεται, διαφορετικά λαμβάνει θετικές τιμές.επιπλέον ισ χύει ότι η σ υνάρτησ η J(w) είναι σ υνεχής και τμηματικά γραμμική. 47

66 Chapter 3 Μηχανική Μάθησ η Ο αλγόριθμος που θα εκτελέσ ει τη βελτισ τοποίησ η της σ υνάρτησ ης είναι ένα επαναληπτικό σ χήμα βαθμωτής κατάβασ ης (gradient descent).το σ χήμα αυτό δίνει για τις τιμές των βαρών σ την επανάληψη k+1 το εξης: w k+1 = w k η k J(w) w k+1 = w k η k (y x x), όπου w k+1 και w k οι εκτιμήσ εις των βαρών που ορίζουν το υπερεπίπεδο που αναζητούμε και η k είναι o ρυθμός μάθησ ης (learning rate).να σ ημειώσ ουμε ότι ο αλγόριθμος perceptron ξεκινάει με ένα τυχαίο διάνυσ μα βαρών και σ υνεχίζει τις επαναλήψεις μέχρι να σ υγκλίνει σ ε λύσ η.τότε όλα τα διανύσ ματα του σ υνόλου εκπαίδευσ ης θα είναι σ ωσ τά ταξινομημένα (με βάσ η το υπερεπίπεδο που προκύπτει από τις παραμέτρους σ τις οποίες σ υγκλίνει ο αλγόριθμος).για τον αλγόριθμο αυτό ισ χύει το παρακάτω πολύ σ ημαντικό θεώρημα. Theorem Σύγκλισ η και μοναδικότητα λύσ ης αλγορίθμου Perceptron [49] Αν τα δεδομένα είναι γραμμικώς διαχωρίσ ιμα και η ακολουθία η k επιλεγεί κατάλληλα ο αλγόριθμος Perceptron σ υγκλίνει και μάλισ τα μετά από πεπερασ μένο αριθμό βημάτων.η λύσ η όμως που δίνει ο αλγόριθμος δεν είναι μοναδική. x M 3.4 Νευρωνικά δίκτυα(neural Networks) Ενα νευρωνικό δίκτυο (Neural network) είναι ένα σ ύνολο από διασ υνδεδεμένους νευρώνες, οι οποίοι οργανώνονται σ ε επίπεδα τα οποία σ υνδέονται μεταξύ τους.αυτά υλοποιούν σ υναρτήσ εις (ή τουλάχισ τον τις προσ εγγίζουν), ενώ η λειτουργία τους ομοιάζει με τη λειτουργία των βιολογικών νευρωνικών δικτύων.στο κομμάτι αυτό θα αναφερθούμε σ ε ένα είδος νευρωνικού δικτύου, το οποίο ονομάζεται πολυεπίπεδο perceptron (multilayer perceptron-mlp).η δομή ενός τέτοιου νευρωνικού δικτύου δίνεται παρακάτω. Η γενική του δομή αποτελείται από ένα σ ύνολο επιπέδων τα οποία σ υνδέονται μεταξύ τους με κατευθυνόμενες ακμές.σε κάθε επίπεδο εκτός από το αρχικό υπάρχει ένας αριθμός από νευρώνες.οι νευρώνες του ίδιου επιπέδου δεν σ υνδέονται μεταξύ τους, ενώ μεταξύ των νευρώνων διαδοχικών επιπέδων υπάρχει πλήρης σ ύνδεσ η. Αποτελείται από ένα επίπεδο εισ όδου.το επίπεδο αυτό λαμβάνει την τιμή κάποιου διανύσ ματος χαρακτηρισ τικών.να σ ημειώσ ουμε ότι οι κόμβοι του επιπέδου εισ όδου δεν είναι νευρώνες. Αποτελείται από έναν αριθμό κρυφών επιπέδων.το κάθε επίπεδο αποτελείται από ένα σ ύνολο νευρώνων, ενώ το πρώτο κρυφό επίπεδο σ υνδέεται με το επίπεδο εισ όδου. Αποτελείται από ένα επίπεδο εξόδου.το επίπεδο αυτό δίνει το τελικό αποτέλεσ μα, δηλαδή την τιμή της κλάσ ης σ την οποία ανήκει το διάνυσ μα που δίνεται ως είσ οδος. 48

67 3.4 Νευρωνικά δίκτυα(neural Networks) Ο κάθε νευρώνας χαρακτηρίζεται από ένα σ ύνολο βαρών για καθεμία από τις εισ όδους του και από ένα σ ταθερό όρο.η λειτουργία του είναι ο υπολογισ μός της σ υνάρτησ ης y = f (w 1 x w n x n ), όπου w i το βάρος που αντισ τοιχεί σ την i εισ όδο και f η σ υνάρτησ η ενεργοποίησ ης.το αποτέλεσ μα αυτού του υπολογισ μού αποτελεί την έξοδο του νευρώνα. Να σ ημειώσ ουμε ότι το πολυεπίπεδο perceptron ανήκει σ ε μία κατηγορία νευρωνικών δικτύων που ονομάζονται εμπροσ θοτροφοδοτούμενα δίκτυα (feedforward nets).σε αυτό το είδος νευρωνικών δικτύων η πληροφορία ρέει από το επίπεδο εισ όδου προς το πρώτο κρυφό επίπεδο και σ τη σ υνέχεια από το ένα επίπεδο σ το άλλο διαδοχικά μέχρι το επίπεδο εξόδου. Στην εικόνα 3.1 απεικονίζεται ένα πολυεπίπεδο perceptron με ένα κρυφό επίπεδο.υπάρχουν D νευρώνες σ το επίπεδο εισ όδου, Μ σ το κρυφό επίπεδο και Κ σ το επίπεδο εξόδου. Figure 3.1: Πολυεπίπεδο perceptronμε ένα κρυφό επίπεδο [11] Μία περιγραφή του τρόπου λειτουργίας του πολυεπίπεδου νευρωνικού δικτύου δίνεται παρακάτω. [50] Ενας απλός νευρώνας (δηλαδή ένα perceptron) ορίζει ένα υπερεπίπεδο σ το χώρο χαρακτηρισ τικών.συνεπώς ένα σ ύνολο νευρώνων σ το πρώτο κρυφό επίπεδο διαμερίζει το χώρο χαρακτηρισ τικών σ ε πολυεδρικές περιοχές, καθεμία από τις οποίες αντισ τοιχεί σ ε μία κλάσ η (πολλές διαφορετικές πολυεδρικές περιοχές μπορεί να ανήκουν σ την ίδια κλάσ η).ισ οδύναμα μπορεί να θεωρήσ ουμε ότι γίνεται η απεικόνισ η του χώρου χαρακτηρισ τικών των δεδομένων εισ όδου σ τις κορυφές ενός υπερκύβου.συγκεκριμένα όταν χρησ ιμοποιούνται n νευρώνες (σ το πρώτο κρυφό επίπεδο) ο χώρος χαρακτηρισ τικών απεικονίζεται σ τις κορυφές ενός μοναδιαίου υπερκύβου σ το R n.τα διανύσ ματα του νέου χώρου χαρακτηρισ τικών χρησ ιμοποιούνται ως είσ οδος σ το επόμενο επίπεδο κρυφών νευρώνων.με όμοιο τρόπο δουλεύουν και τα επόμενα κρυφά επίπεδα νευρώνων.το τελικό επίπεδο, το επίπεδο εξόδου, καθορίζει την κλάσ η σ την οποία ταξινομείται τελικά το διάνυσ μα χαρακτηρισ τικών που δίνεται σ την είσ οδο.στόχος αυτής της διαδικασ ίας είναι να απεικονίσ ουμε τον αρχικό χώρο χαρακτηρισ τικών, σ τον οποίο πιθανώς οι κλάσ εις να μην είναι γραμμικώς διαχωρίσ ιμες, σ ε ένα νέο χώρο όπου οι κλάσ εις έχουν αυτή την 49

68 Chapter 3 Μηχανική Μάθησ η ιδιότητα (γραμμική διαχωρισ ιμότητα). Συνολικά μπορούμε να πούμε τα εξής: [50] Ο αριθμός των εισ όδων καθορίζεται από τη διάσ τασ η του χώρου χαρακτηρισ τικών. Ο αριθμός των εξόδων καθορίζεται από τον αριθμό των δυνατών κλάσ εων.αν n ο αριθμός των εξόδων, τότε 2 n οι δυνατές κλάσ εις σ τις οποίες μπορούν να ταξινομηθούν τα διανύσ ματα χαρακτηρισ τικών. Εσ τω ότι έχουμε ένα κρυφό επίπεδο n νευρώνων που ακολουθείται από ένα κρυφό επίπεδο m νευρώνων.τότε ο χώρος χαρακτηρισ τικών που βρίσ κεται σ το R n απεικονίζεται σ το μοναδιαίο υπερκύβο σ το R m. Μπορούμε να πούμε ότι ένα νευρωνικό δίκτυο υλοποιεί μία σ υνάρτησ η [50] ŷ = f θ (x), όπου θ το σ ύνολο των παραμέτρων του δικτύου (τα βάρη και ο σ ταθερός όρος του κάθε νευρώνα). Ενα νευρωνικό δίκτυο μπορεί να μάθει ένα σ ύνολο δεδομένων.για την εκπαίδευσ ή του απαιτούνται τρία σ τοιχεία. [50] 1. Ενα σ ύνολο δεδομένων εκπαίδευσ ης. 2. Μία σ υνάρτησ η κόσ τους, την οποία θέλουμε να βελτισ τοποιήσ ουμε. 3. Ενα επαναληπτικό σ χήμα το οποίο χρησ ιμοποιείται για τη βελτισ τοποίησ η της σ υνάρτησ ης κόσ τους. Ο πιο κοινός αλγόριθμος εκπαίδευσ ης είναι ο αλγόριθμος ανάσ τροφης διάδοσ ης (backpropagation algorithm) [54], ο οποίος χρησ ιμοποιείται σ ε σ υνδυασ μό με κάποια επαναληπτική μέθοδο, όπως gradient descent.αυτό που σ ε γενικές γραμμές κάνει είναι ότι υπολογίζει την κλίσ η της σ υνάρτησ ης κόσ τους σ υναρτήσ ει των παραμέτρων του δικτύου και χρησ ιμοποιεί το αποτέλεσ μα με σ τόχο την ελαχισ τοποίησ ή της.με αυτό τον τρόπο ανανεώνει σ υνέχως τα βάρη του δικτύου μέχρι να ικανοποιηθούν διάφορα κριτήρια τερματισ μού. 3.5 Μηχανές διανυσ ματικής σ τήριξης(support Vector Machines) Η κεντρική ιδέα των μηχανών διανυσ ματικής σ τήριξης (Support Vector Machines- SVM) σ υνοψίζεται σ το εξής: [26] Αρχικά δίνεται ένα σ ύνολο εκπαίδευσ ης που περιέχει διανύσ ματα χαρακτηρισ τικών μαζί με ετικέτες κλάσ εων.στόχος ενός SVM είναι να κατασ κευάσ ει μία γραμμική επιφάνεια διάκρισ ης (δηλαδή υπερεπίπεδο) με τέτοιο τρόπο ώσ τε η απόσ τασ η μεταξύ της επιφάνειας και των ακριανών χαρακτηρισ τικών (δηλαδή των χαρακτηρισ τικών κάθε κλάσ ης που βρίσ κονται πιο κοντά σ το υπερεπίπεδο που αναζητούμε) των δύο κλάσ εων να γίνεται μέγισ τη. 50

69 3.5 Μηχανές διανυσ ματικής σ τήριξης(support Vector Machines) Εσ τω ότι έχουμε ένα σ ύνολο εκπαίδευσ ης με δείγματα από δύο κλάσ εις.για κάθε υπερεπίπεδο ορίζουμε ως περιθώριο διαχωρισ μού (margin of seperation) την ελάχισ τη δυνατή απόσ τασ η του υπερεπιπέδου από κάποιο σ ημείο του σ υνόλου εκπαίδευσ ης 1.Στόχος ενός SVM είναι να βρεθεί το υπερεπίπεδο εκείνο για το οποίο το περιθώριο διαχωρισ μού μεγισ τοποιείται.τα διανύσ ματα χαρακτηρισ τικών των δύο κλάσ εων που απέχουν την ελάχισ τη απόσ τασ η από το υπερεπίπεδο απόφασ ης ονομάζονται διανύσ ματα υποσ τήριξης (support vectors).από εκεί προκύπτει και το όνομα της μεθόδου. Παρακάτω θα παραθέσ ουμε τη μαθηματική διατύπωσ η του προβλήματος με βάσ η το [26]. Εσ τω μία επιφάνεια διάκρισ ης f(x) = w T x + w 0 και D = {(x n, y n )} N n=1 το σ ύνολο εκπαίδευσ ης.αρχικά κλιμακώνουμε τις παραμέτρους του υπερεπιπέδου με τέτοιο τρόπο ώσ τε για τα διανύσ ματα υποσ τήριξης x sv να ισ χύει f(x sv ) = ±1. Κατα σ υνέπεια για τα Ν διανύσ ματα του χώρου χαρακτηρισ τικών θα ισ χύει ότι w T x n + w 0 1 x n c 1,για n = 1,..., N. w T x n + w 0 1 x n c 2 Η απόσ τασ η του υπερεπιπέδου που αναζητούμε από το πλησ ιέσ τερο σ ημείο (διάνυσ μα υποσ τήριξης), δηλαδή το περιθώριο διαχωρισ μού είναι d 0 = f(xsv) w = 1 w. Επειδή το υπερεπίπεδο αυτό θα ισ απέχει από τα πλησ ιέσ τερα σ ημεία των δύο κλάσ εων για την απόσ τασ η μεταξύ των διανυσ μάτων υποσ τήριξης έχουμε d = 2d 0 = 2 w. Συνεπώς η μεγισ τοποίησ η της απόσ τασ ης d ισ οδυναμεί με την ελαχισ τοποίησ η του w. Στην εικόνα 3.2 απεικονίζουμε το σ ενάριο που περιγράψαμε παραπάνω.σε αυτήν απεικονίζονται δύο γραμμικώς διαχωρίσ ιμες κλάσ εις (χρωματισ μένοι και μη χρωματισ μένοι κύκλοι).βλέπουμε το βέλτισ το υπερεπίπεδο που αντισ τοιχεί σ την σ υγκεκριμένη κατεύθυνσ η που εξετάζεται.οι διακεκομμένες γραμμές τέμνουν τα διανύσ ματα υποσ τήριξης, ενώ σ την εικόνα φαίνονται η απόσ τασ η μεταξύ των διανυσ μάτων υποσ τήριξης, καθώς και η απόσ τασ η του υπερεπιπέδου από την αρχή των αξόνων. Γράφοντας τις προηγούμενες σ χέσ εις σ ε πιο σ υμπαγή μορφή το πρόβλημα βελτισ τοποίησ ης διατυπώνεται ως εξής. Definition Πρωτεύων πρόβλημα βελτισ τοποίησ ης για εύρεσ η βέλτισ του υπερεπιπέδου [50] 1 Εννοείται ότι το υπερεπίπεδο με το οποίο ορίζεται το περιθώριο διαχωρισ μού ισ απέχει από τα ακριανά χαρακτηρισ τικά των δύο κλάσ εων. 51

70 Chapter 3 Μηχανική Μάθησ η Figure 3.2: Μηχανή διανυσ ματικής υποσ τήριξης [65] Δίνεται ένα σ ύνολο εκπαίδευσ ης D = {(x n, y n )} N n=1. Αναζητούμε τα w και w 0 ενός υπερεπιπέδου f(x) = w T x + w 0 έτσ ι ώσ τε: 2 min J(w) = 1 2 wt w = 1 w 2 2 s.t y n (w ) T +1 x n c 1 x n + w 0 1, n = 1,..., N, όπου yn =. 1 x n c 2 Πρόκειται για ένα πρόβλημα βελτισ τοποίησ ης τετραγωνικού προγραμματισ μού (quadratic programming).h Λαγκραντζιανή (Lagrangian) του προβλήματος είναι [50]. L(w, w 0, λ) = 1 2 w 2 N n=1 λ n [ yn ( w T x n + w 0 ) 1 ], όπου λ n οι πολλαπλασ ιασ τές Lagrange (Lagrange multipliers). Οι σ υνθήκες Karush-Kuhn-Tucker (KKT) του παραπάνω προβλήματος ειναι οι εξής: [50] ϑ ϑw L(w, w 0, λ) = 0 (1), ϑ ϑw 0 L(w, w 0, λ) = 0 (2), λ n 0, n = 1, 2,..., N, λ n [ yn ( w T x n + w 0 ) 1 ] = 0,, n = 1, 2,..., N, όπου λ = [λ 1, λ 2,..., λ N ] T. 2 Στην βιβλιογραφία επιλέγεται ως αντικειμενική σ υνάρτησ η το 1 2 w 2 και όχι το w για ευκολία παρουσ ίασ ης. 52

71 3.6 Μάθησ η κατα Bayes(Bayesian learning) Από τη σ χέσ η (1) προκύπτει ότι w = N n=1 λ n y n x n (3), ενώ από τη σ χέσ η (2) λαμβάνουμε N n=1 λ n y n = 0. Για την εύρεσ η της τελικής λύσ ης θα χρειασ τεί να λύσ ουμε το δυικό πρόβλημα βελτισ τοποίησ ης, η αντικειμενική σ υνάρτησ η του οποίου αποτελεί σ υνάρτησ η των πολλαπλασ ιασ τών Lagrange.To δυικό πρόβλημα δίνεται σ τον παρακάτω ορισ μό. Definition Δυικό πρόβλημα βελτισ τοποίησ ης [50] Δίνεται ένα σ ύνολο εκπαίδευσ ης D = {(x n, y n )} N n=1. Αναζητούμε τους πολλαπλασ ιασ τές Lagrange λ 1, λ 2,..., λ N έτσ ι ώσ τε: min N s.t N n=1 λ n 1 2 n=1 λ n y n = 0 N N n=1 m=1 λ n 0, n = 1, 2,..., N. λ n λ m y n y m x T nx m Εχοντας υπολογίσ ει τους βέλτισ τους πολλαπλασ ιασ τές Lagrange όπως δίνονται από το δυικό πρόβλημα υπολογίζουμε την τελική λύσ η τοποθετώντας τη λύσ η του δυικού προβλήματος (δηλαδή τους βέλτισ τους πολλαπλασ ιασ τές Lagrange) σ τη σ χέσ η (3).Η τελική λύσ η, δηλαδή τα βάρη τα οποία σ υνθέτουν το βέλτισ το υπερεπίπεδο δίνονται σ το παρακάτω θεώρημα. Theorem Βέλτισ το υπερεπίπεδο [50] Η τελική λύσ η που προκύπτει είναι w = Nsv n=1 λ n y n x n, όπου λ n οι μη μηδενικοί πολλαπλασ ιασ τές Lagrange, όπως προκύπτουν από το δυικό πρόβλημα και N sv ο αριθμός αυτών. 3.6 Μάθησ η κατα Bayes(Bayesian learning) Γενικά Η μάθησ η κατά Bayes είναι μία μέθοδος σ τη μηχανική μάθησ η που χρησ ιμοποιεί τον κανόνα του Bayes για να εξάγει την πιθανότητα μίας υπόθεσ ης (hypothesis), λαμβάνοντας υπόψιν τα σ τοιχεία (evidence) που υπάρχουν.για την κατανόησ η της έννοιας της μάθησ ης κατά Bayes παρουσ ιάζουμε παρακάτω μερικές βασ ικές έννοιες. [55] 53

72 Chapter 3 Μηχανική Μάθησ η Κανόνας του Bayes Εσ τω Α και Β δύο ενδεχόμενα.για την πιθανότητα να ικανοποιείται το ενδεχόμενο Α δεδομένου ότι ικανοποιείται το ενδεχόμενο Β ισ χύει το εξής: P (A B) = P (B A)P (A) P (B). Υπόθεσ η(hypothesis) =H: Κάθε υπόθεσ η Η της οποίας την πιθανότητα θέλουμε να υπολογίσ ουμε.η πιθανότητα αυτή επηρεάζεται από τα σ τοιχεία που μας δίνονται. Στοιχεία(Evidence) =E: Τα νέα σ τοιχεία που μας δίνονται και τα οποία δεν έχουν ληφθεί υπόψιν σ τον υπολογισ μό της εκ των προτέρων κατανομής πιθανότητας. Εκ των προτέρων πιθανότητα(prior probability) =P (H) : Αφορά την πιθανότητα ικανοποίησ ης της υπόθεσ ης H χωρις να λάβουμε υπόψιν τα διάφορα σ τοιχεία E. Πιθανοφάνεια(Likelihood) =P (E H): Η πιθανότητα να παρατηρήσ ουμε τα σ τοιχεία Ε δεδομένης της υπόθεσ ης Η.Θεωρούμε ότι η υπόθεσ η Η είναι σ ταθερή και η πιθανότητα αυτή είναι σ υνάρτησ η των σ τοιχείων Ε. Εκ των υσ τέρων πιθανότητα(posterior probability) =P (H E): Αφορά την πιθανότητα της υπόθεσ ης Η δεδομένου ότι παρατηρήσ αμε τα σ τοιχεία Ε.Αποτελεί σ την ουσ ία το ζητούμενο. Περιθωριακή πιθανοφάνεια(marginal likelihood) =P (E): Η πιθανότητα αυτή παραμένει αμετάβλητη για όλες τις δυνατές υποθέσ εις. Η έννοια της μάθησ ης κατα Bayes περιγράφεται από τον παρακάτω τύπο, ο οποίος είναι σ την ουσ ία ο κανόνας του Bayes P (H E) = P (E H)P (H) P (E) Ταξινομητής Bayes(Bayes classifier) Μία από τις πιο βασ ικές εφαρμογές της μάθησ ης κατα Bayes είναι ο ταξινομητής Bayes (Bayes classifier) [49].Το σ ενάριο μέσ α από το οποίο θα μελετήσ ουμε τον ταξινομητή είναι το εξής. Εσ τω ότι έχουμε δύο κλάσ εις c 1 και c 2. Εχουμε ένα σ ύνολο εκπαίδευσ ης D = {(x i, y i )} N i=1 που μας παρέχει διανύσ ματα χαρακτηρισ τικών μαζί με την ετικέτα της κλάσ ης σ την οποία ανήκουν.γνωρίζουμε τα εξης: Τις εκ των προτέρων πιθανότητες των δύο κλάσ εων, δηλαδή τα P (c 1 ) και P (c 2 ).Οι πιθανότητες αυτές ορίζονται ως P (c 1 ) = N 1 και P (c N 2) = N 2, όπου N N 1 και N 2 ο αριθμός των σ τοιχείων του σ υνόλου D που ανήκουν σ την κλάσ η 1 και 2 αντίσ τοιχα. Τις υπό σ υνθήκη σ υναρτήσ εις πυκνότητας πιθανότητας των δύο κλάσ εων, δηλαδή p(x c 1 ) και p(x c 2 ).Οι σ υναρτήσ εις αυτές μπορούν να εκτιμηθούν από το σ ύνολο των διανυσ μάτων εκπαίδευσ ης. 54

73 3.6 Μάθησ η κατα Bayes(Bayesian learning) Από τον κανόνα του Bayes προκύπτει ότι P (c i x) = P (x c i)p (c i ), όπου P (x) = P (x c P (x) 1 )P (c 1 ) + P (x c 2 )P (c 2 ). Τελικά ένα τυχαίο νέο δείγμα κατανέμεται σ την κλάσ η c ως εξής: c 1 P (c 1 x) > P (c 2 x) c = c 2 P (c 1 x) < P (c 2 x). c 1 ή c 2 P (c 1 x) = P (c 2 x) Η παραπάνω σ χέσ η μπορεί να γραφτεί πιο σ υμπυκνωμένα και ως εξής: c = argmax i {1,2} P (c i x) = argmax i {1,2} P (x c i )P (c i ) P (x) = argmaxp (x c i )P (c i ). i {1,2} Η σ χέσ η P (c 1 x) = P (c 2 x) ορίζει μία επιφάνεια η οποία χωρίζει το χώρο χαρακτηρισ τικών σ ε δύο περιοχές, R 1 και R 2 οι οποίες αντισ τοιχούν σ τις δύο κλάσ εις.η ευθεία αυτή ονομάζεται γραμμή απόφασ ης. Η πιθανότητα σ φάλματος ορίζεται ως εξής: [49] P e = P (c 1, x R 2 ) + P (c 2, x R 1 ). Αναλύοντας τη παραπάνω σ χέσ η λαμβάνουμε P e = P (x R 2 c 1 )P (c 1 ) + P (x R 1 c 2 )P (c 2 ) = = P (c 1 ) R 2 P (x c 1 ) + P (c 2 ) R 1 P (x c 2 ) = R 2 P (c 1 x) P (x) + R 1 P (c 2 x) P (x). Theorem Βελτισ τότητα ταξινομητή Bayes [49] Ο ταξινομητής Bayes είναι βέλτισ τος με κριτήριο την ελαχισ τοποίησ η της πιθανότητας του σ φάλματος ταξινόμησ ης. Στην εικόνα 3.3 απεικονίζονται οι κατανομές πιθανότητας δύο κλάσ εων μαζί με την επιφάνεια απόφασ ης που τις χωρίζει. Ο ταξινομητής Bayes μπορεί να γενικευθεί [50] και σ την περίπτωσ η σ την οποία έχουμε περισ σ ότερες από δύο κλάσ εις. Εσ τω ότι υπάρχουν C κλάσ εις c i, i = 1,..., C και επιπλέον μπορούμε από τα δεδομένα εκπαίδευσ ης να εκτιμήσ ουμε τις εκ των προτέρων πιθανότητες των κλάσ εων p(c i ), i = 1,..., C και τις υπό σ υνθήκη σ υναρτήσ εις πυκνότητας πιθανότητας των κλάσ εων p(x c i ), i = 1,..., C.Συνεπώς ένα τυχαίο δείγμα κατανέμεται σ την κλάσ η c ως εξής: P (x c c = argmaxp (c i x) = argmax i )P (c i ) P (x) c i c i Εκτιμητές = argmax c i P (x c i )P (c i ). Για την χρήσ η του ταξινομητή Bayes είναι απαραίτητη η εκτίμησ η της σ υνάρτησ ης πυκνότητας πιθανότητας της κατανομών των διανυσ μάτων χαρακτηρισ τικών.για την εκτίμησ η τέτοιων σ υναρτήσ εων θα αναφερθούμε σ ε δυο μεθόδους, τη μέθοδο μέγισ της πιθανοφάνειας (maximum likelihood) και τη μέθοδο μέγισ της εκ των υσ τέρων πιθανότητας (maximum a posteriori). 55

74 Chapter 3 Μηχανική Μάθησ η Figure 3.3: Ταξινομητής Bayes [11] Μέθοδος μέγισ της πιθανοφάνειας(maximum Likelihood) Το σ ενάριο μέσ α από το οποίο θα μελετήσ ουμε αυτή τη μέθοδο περιέχει τα εξής: [49] Εσ τω X = {x 1, x 2,..., x N } τυχαία δείγματα από σ υνάρτησ η πυκνότητας πιθανότητας P (x; θ) όπου θ παράμετρος άγνωσ τη αλλά σ ταθερή. Τα τυχαία δείγματα είναι σ τατισ τικώς ανεξάρτητα. Η από κοινού σ υνάρτησ η πυκνότητας πιθανότητας ορίζεται ως εξής: l(θ) = P (x 1, x 2,..., x n ; θ) = N P (x i ; θ) i=1 και ονομάζεται σ υνάρτησ η πιθανοφάνειας του θ (likelihood function) ως προς τα δείγματα x i.η μέθοδος μέγισ της πιθανοφάνειας εκτιμάει την παράμετρο θ έτσ ι ώσ τε η σ υνάρτησ η πιθανοφάνειας να γίνεται μέγισ τη, δηλαδή N ˆθ = argmax P (x i ; θ). θ i=1 Η εκτιμήτρια αυτής της παραμέτρου θ ονομάζεται εκτιμήτρια μέγισ της πιθανοφάνειας. Επιπλέον ορίζουμε τη λογαριθμική σ υνάρτησ η πιθανοφάνειας (log-likelihood function) ως εξής : L(θ) = ln N P (x i ; θ) = N ln P (x i ; θ). i=1 i=1 Επειδή η σ υνάρτησ η lnx είναι γνησ ίως αύξουσ α η σ υνάρτησ η πιθανοφάνειας γίνεται μέγισ τη για την τιμή του θ που μεγισ τοποιεί και τη σ υνάρτησ η λογαριθμικής πιθανοφάνειας, δηλαδή 56

75 3.6 Μάθησ η κατα Bayes(Bayesian learning) N ˆθ = argmaxl(θ) = argmax ln P (x i ; θ). θ θ i=1 Αναγκαία σ υνθήκη για την ικανοποίησ η της προηγούμενης σ χέσ ης είναι ο μηδενισ μός της παραγώγου σ το ˆθ, δηλαδή ϑl(θ) ϑθ θ=ˆθ = 0. Ιδιότητες της εκτιμήτριας Εσ τω ˆθ η εκτίμησ η της παραμέτρου θ με τη μέθοδο της μέγισ της πιθανοφάνειας και θ η πραγματική της τιμή.τότε ισ χύουν τα παρακάτω. [49] 1. Ασ υμπτωτική αμεροληψία Θεωρούμε ότι η εκτίμησ η είναι μία τυχαία μεταβλητή αφού εξαρτάται από τα δείγματα x 1, x 2,..., x N που μας δίνονται με σ τοχασ τικό τρόπο.μία εκτιμήτρια ονομάζεται αμερόληπτη (unbiased) [56] εάν η μέσ η τιμή της ισ ούται με την πραγματική της τιμή, δηλαδή E [ˆθ] = θ. Στις εκτιμήτριες μέγισ της πιθανοφάνειας η αμεροληψία ισ χύει μόνο ασ υμπτωτικά. Δηλαδή lim E [ˆθ] = θ. N 2. Ασ υμπτωτική αποτελεσ ματικότητα Το φράγμα Cramer-Rao (Cramer-Rao bound) είναι [58] ένα κάτω φράγμα για την διασ πορά των εκτιμητριών μίας παραμέτρου.δηλαδή η διασ πορά οποιασ δήποτε αμερόληπτης εκτιμήτριας δεν μπορεί να λάβει μικρότερη τιμή από το φράγμα αυτό. Μία εκτιμήτρια ονομάζεται αποτελεσ ματική (efficient) εάν η διασ πορά της ικανοποιεί το φράγμα Cramer-Rao. Στις εκτιμήτριες μέγισ της πιθανοφάνειας η αποτελεσ ματικότητα ισ χύει μόνο ασ υμπτωτικά. 3. Ασ υμπτωτική σ υνέπεια Μία εκτιμήτρια ονομάζεται σ υνεπής (consistent) [57] εάν καθώς ο αριθμός των δεδομένων αυξάνει αυθαίρετα, η ακολουθία των εκτιμήσ εων σ υγκλίνει ως προς την πιθανότητα σ την πραγματική τιμή θ. Στις εκτιμήτριες μέγισ της πιθανοφάνειας η σ υνέπεια είναι ασ υμπτωτική, δηλαδή ισ χύει ότι ( { }) ε > 0, lim P ˆθ θ < ε = 1. N 4. Ασ υμπτωτική προσ έγγισ η της Gaussian H σ υνάρτησ η πυκνότητας πιθανότητας της εκτιμήτριας μέγισ της πιθανοφάνειας προσ εγγίζει τη Γκαουσ ιανή κατανομή με μέσ η τιμή θ καθώς αυξάνεται ο αριθμός των δειγμάτων. 57

76 Chapter 3 Μηχανική Μάθησ η Μέθοδος μέγισ της εκ των υσ τέρων πιθανότητας(maximum a posteriori) Το σ ενάριο μέσ α από το οποίο θα μελετήσ ουμε τη μέθοδο μέγισ της εκ των υσ τέρων πιθανότητας (maximum a posteriori) περιέχει τα εξής: [49] Εσ τω X = {x 1, x 2,..., x N } τυχαία δείγματα από σ υνάρτησ η πυκνότητας πιθανότητας P (x; θ) όπου θ μία τυχαία μεταβλητή (αυτή είναι μία σ ημαντική διαφορά με τη μέθοδο μέγισ της πιθανοφάνειας, όπoυ εκεί το θ είναι άγνωσ τη αλλά σ ταθερή παράμετρος). Τα τυχαία δείγματα είναι σ τατισ τικώς ανεξάρτητα. Αυτό που θέλουμε να βρούμε είναι να εκτιμήσ ουμε την τιμή της παραμέτρου θ δεδομένου του σ υνόλου δειγμάτων που παρατηρήσ αμε.επειδή η παράμετρος θ είναι τυχαία μεταβλητή σ την ουσ ία θέλουμε την σ υνάρτησ η πυκνότητας πιθανότητας του θ δεδομένου του σ υνόλου των δειγμάτων, δηλαδή την P (θ X). Από τον κανόνα του Bayes λαμβάνουμε P (θ X) = P (X θ) P (θ) P (X). Η μέθοδος μέγισ της εκ των υσ τέρων πιθανότητας εκτιμάει την παράμετρο θ έτσ ι ώσ τε η σ υνάρτησ η P (θ X) να γίνεται μέγισ τη, δηλαδή ˆθ = argmaxp (θ X) = argmaxp (X θ) P (θ). θ θ Αναγκαία σ υνθήκη για να ισ χύει η προηγούμενη σ χέσ η είναι η ϑp (θ X) ϑθ θ=ˆθ = 0. Η μέθοδος μέγισ της πιθανοφάνειας είναι ειδική περίπτωσ η της παραπάνω μεθόδου.στη μέθοδο μέγισ της εκ των υσ τέρων πιθανότητας υπεισ έρχεται η σ υνάρτησ η P (θ).εαν η σ υνάρτησ η P (θ) ακολουθεί την ομοιόμορφη κατανομή, τότε οι δύο μέθοδοι ταυτίζονται Μάθησ η κατα Bayes Εδώ θα επιχειρήσ ουμε μία πιο αναλυτική και αυσ τηρή περιγραφή της μάθησ ης και της εξαγωγής σ υμπερασ μάτων κατα Bayes.Αρχικά θα ορίσ ουμε τις μεταβλητές και τις παραμέτρους που θα χρησ ιμοποιήσ ουμε και θα αναφέρουμε τις υποθέσ εις πάνω σ τις οποίες θα βασ ισ τούμε. Ορισ μοί x : ένα διάνυσ μα χαρακτηρισ τικών. θ : τα διανύσ ματα παραμέτρων της κατανομής πιθανότητας των δεδομένων, δηλαδή x P (x θ). X = {x 1, x 2,..., x N } τα διανύσ ματα χαρακτηρισ τικών που παρατηρήσ αμε. Yποθέσ εις [18] 58

77 3.6 Μάθησ η κατα Bayes(Bayesian learning) Η μορφή της κατανομής πυκνότητας πιθανότητας P (x θ) είναι γνωσ τή. Η ακριβής τιμή της παραμέτρου θ δεν είναι γνωσ τή. Γνωρίζουμε την εκ των προτέρων κατανομή πυκνότητας πιθανότητας της παραμέτρου θ, δηλαδή την P (θ).η κατανομή αυτή αντικατοπτρίζει την αρχική γνώσ η για την παράμετρο θ. Μας δίνονται Ν δείγματα χαρακτηρισ τικών x 1, x 2,..., x N τα οποία είναι ανεξάρτητα και προκύπτουν από την άγνωσ τη κατανομή πιθανότητας P (x). Στόχος είναι να υπολογίσ ουμε την εκ των υσ τέρων πυκνότητα πιθανοτητας P (x X), γιατί αυτή μας δίνει την πληροφορία που θέλουμε.δηλαδή μας δίνει την κατανομή πιθανότητας όλων των ενδεχομένων δεδομένου των παρατηρήσ εων μας. Για αυτήν ισ χύει ότι P (x X) = P (x θ)p (θ X)dθ. Γνωρίζουμε την κατανομή πιθανότητας P (x θ) αλλά όχι την P (θ X). Από τον κανόνα του Bayes λαμβάνουμε p(θ X) = P (X θ) P (θ) P (X) = P (X θ) P (θ) P (X θ) P (θ)dθ. Η εκ των προτέρων κατανομή πιθανότητας P (θ) είναι γνωσ τή.αρα αναζητούμε την κατανομή P (X θ).επειδή τα δείγματα είναι ανεξάρτητα ισ χύει ότι P (X θ) = N P (x i θ). i=1 Πλέον γνωρίζουμε αρκετά ώσ τε να προσ διορίσ ουμε την κατανομή P (x X) Δίκτυα Bayes(Bayes networks) Θεωρούμε ότι έχουμε ένα πλήθος σ υσ χετιζόμενων μεταβλητών και θέλουμε να αναπαρασ τήσ ουμε με σ υμπαγή και κομψό τρόπο τη σ υνάρτησ η πυκνότητας πιθανότητας P (X).Στη γενική περίπτωσ η η σ.π.π των μεταβλητών εκφράζεται μέσ ω του κανόνα της αλυσ ίδας (chain rule) ως εξής: Theorem Κανόνας της αλυσ ίδας(chain Rule) [49] P (x 1, x 2,..., x n ) = P (x n x 1, x 2,..., x n 1 ) P (x n 1 x 1, x 2,..., x n 2 )... P (x 2 x 1 ) P (x 1 ) Στο τύπο αυτό περιλαμβάνονται όλες οι δυνατές σ υσ χετίσ εις.υπάρχει όμως περίπτωσ η μερικές από τις δυνατές σ υσ χετίσ εις να μην ισ χύουν.με άλλα λόγια να υπάρχει κάποια σ υνθήκη ανεξαρτησ ίας μεταξύ κάποιων μεταβλητών.προτού προχωρήσ ουμε παρακάτω θα ορίσ ουμε την έννοια της υπο σ υνθήκη ανεξαρτησ ίας. Εσ τω Χ,Υ και Ζ τρεις τυχαίες μεταβλητές.οι X και Y είναι ανεξάρτητες δεδομένου του Ζ [38] εάν και μόνο εάν η από κοινού σ υνάρτησ η πυκνότητας πιθανότητας των Χ και Υ δεδομένου του Ζ ισ ούται με το γινόμενο των δύο περιθωριακών υπο σ υνθήκη κατανομών πιθανότητας.δηλαδή ισ χύει το παρακάτω. 59

78 Chapter 3 Μηχανική Μάθησ η Definition Υπό σ υνθήκη ανεξαρτησ ία(conditional Independence) [38] X Y Z P (X, Y Z) = P (X Z) P (Y Z), όπου το σ ύμβολο εκφράζει την ανεξαρτησ ία. Εαν επιβάλλουμε μερικές σ υνθήκες ανεξαρτησ ίας ο κανόνας της αλυσ ίδας γράφεται σ τη μορφή [49] P (x 1, x 2,..., x n ) = P (x 1 ) N P (x i D i ), όπου D i {x 1, x 2,..., x i 1 }. i=2 Για να περιγράψουμε κομψά και με σ υμπαγή τρόπο τέτοιες σ υσ χετίσ εις χρησ ιμοποιούμε γραφικά μοντέλα. Definition Γραφικά μοντέλα(graphical models) [38] Ενα γραφικό μοντέλο (graphical model) είναι ένας γραφικός τρόπος αναπαράσ τασ ης μίας από κοινού σ υνάρτησ ης πυκνότητας πιθανότητας σ την οποία επιβάλλουμε σ χέσ εις ανεξαρτησ ίας υπό σ υνθήκη.επιπλέον έχουμε ότι Οι κόμβοι του γραφικού μοντέλου αναπαρισ τούν τυχαίες μεταβλητές.οι ακμές εκφράζουν σ χέσ εις εξάρτησ ης, ενώ η έλλειψη αυτών απεικονίζει σ χέσ εις ανεξαρτησ ίας. Τα γραφικά μοντέλα χωρίζονται σ ε κατευθυνόμενα (directed) και σ ε μη κατευθυνόμενα (undirected).προφανώς η διάκρισ η αυτή προκύπτει από τη κατευθυντικότητα ή μη των ακμών του γράφου του αντίσ τοιχου γραφικού μοντέλου. Definition Δίκτυα Bayes(Bayesian Networks) [49] Ενα δίκτυο Bayes (Bayesian Network) είναι ένα κατευθυνόμενο ακυκλικό γράφημα του οποίου οι κόμβοι αντισ τοιχούν σ ε τυχαίες μεταβλητές.σε κάθε κόμβο x i αντισ τοιχεί ένα σ ύνολο από υπό σ υνθήκη πιθανότητες P (x i D i ), όπου D i το σ ύνολο των γονέων του κόμβου x i σ τον γράφο. Στόχος ένος τέτοιου δικτύου είναι η πιθανοτική εξαγωγή σ υμπερασ μάτων (Probabilistic Inference) [49] με αποδοτικό τρόπο.στα πλαίσ ια αυτών των δικτύων σ υμπέρασ μα εννοούμε την πιθανότητα ενός σ υνόλου μεταβλητών δεδομένου των τιμών ενός υποσ υνόλου των υπόλοιπων τυχαίων μεταβλητών, οι οποίες έχουν τον ρόλο των σ τοιχείων (όπως τα ορίσ αμε σ την μάθησ η κατα Bayes).Η δομή ενός δικτύου είναι τέτοια που επιτρέπει τον αποδοτικό υπολογισ μό τέτοιων πιθανοτήτων.συγκεκριμένα η δομή του δικτύου περιλαμβάνει, εκτός φυσ ικά από τα σ τοιχεία του γράφου (κόμβοι και ακμές) τα εξής: [49] Την υπο σ υνθήκη πιθανότητα κάθε κόμβου που δεν είναι ρίζα δεδομένου των τιμών των κόμβων-γονέων αυτού. Την περιθωριακή πιθανότητα των κόμβων που είναι ρίζες. Ενα δίκτυο Bayes χαρακτηρίζεται από την από κοινού σ υνάρτησ η πυκνότητας πιθανότητας όλων των μεταβλητών του.με κατάλληλη επεξεργασ ία αυτής της σ υνάρτησ ης 60

79 3.7 Μοντέλα Markov (Markov Models) μπορούμε να εξάγουμε την περιθωριακή κατανομή κάθε μεταβλητής.με αυτόν τον τρόπο μπορούμε να εκτελέσ ουμε οποιαδήποτε λειτουργία σ υμπερασ μού. Η μάθησ η ενός δικτύου Bayes αφορά τον προσ διορισ μό της τοπολογίας του γράφου και των παραμέτρων που το περιγράφουν (υπό σ υνθήκη κατανομές πιθανότητας).η διαδικασ ία της μάθησ ης βασ ίζεται σ ε δεδομένα εκπαίδευσ ης καθώς και σ ε πληροφορίες που υπάρχουν εκ των προτέρων.ανάλογα με την γνώσ η μας για την δομή του γράφου και την παρατηρησ ιμότητα των κόμβων και των δεδομένων του διακρίνουμε τέσ σ ερα σ ενάρια μάθησ ης.στο παρακάτω πίνακα καταγράφουμε τα τέσ σ ερα διαφορετικά σ ενάρια καθώς και τους αλγορίθμους που ενδείκνυνται για κάθε περίπτωσ η. [9] Δομή ΔΒ Παρατηρησ ιμότητα παραμέτρων Αλγόριθμος Γνωσ τή Πλήρης Εκτίμησ η μέγισ της πιθανοφάνειας Γνωσ τή Μερική Αλγόριθμος ΕΜ Αγνωσ τή Πλήρης Αναζήτησ η σ τον χώρο του μοντέλου Αγνωσ τή Μερική ΕΜ και αναζήτησ η σ τον χώρο του μοντέλου 3.7 Μοντέλα Markov (Markov Models) Ενα μοντέλο Markov (Markov model) είναι [61] ένα σ τοχασ τικό μοντέλο που χρησ ιμοποιείται για να μοντελοποιήσ ει σ υσ τήματα που αλλάζουν με τυχαίο τρόπο.χαρακτηρισ τικό αυτών είναι ότι η παρούσ α κατάσ τασ η εξαρτάται μόνο από την προηγούμενη (ιδιότητα Markov).Βέβαια υπάρχουν μοντέλα σ τα οποία η παρούσ α κατάσ τασ η εξαρτάται από περισ σ ότερες από μία προηγούμενες κατασ τάσ εις και τότε θεωρούμε ότι αυξάνεται η τάξη του μοντέλου.τα μοντέλα Markov διακρίνονται σ ε τέσ σ ερις κατηγορίες, όπως σ υνοψίζεται σ τους πίνακες 3.4 και 3.5.Η διάκρισ η γίνεται με κριτήρια την παρατηρησ ιμότητα ή όχι των κατασ τάσ εων και το κατά πόσ ο οι μεταβάσ εις μεταξύ των κατασ τάσ εων είναι αυτόνομες ή ελεγχόμενες.για λόγους πληρότητας θα αναφερθούμε και σ τα τέσ σ ερα μοντέλα, αλλά έμφασ η θα δοθεί σ τα κρυφά μοντέλα Markov. Figure 3.4: Μοντέλα Markov με κατασ τάσ εις πλήρως παρατηρήσ ιμες [61] Σύστημα αυτόνομο Σύστημα ελεγχόμενο Καταστάσεις πλήρως παρατηρήσιμες Αλυσ ίδες Markov Διαδικασ ίες απόφασ ης Markov 1. Αλυσ ίδες Markov (Markov Chains-MC) Μια αλυσ ίδα Markov είναι μία τυχαία διαδικασ ία που υφίσ ταται μετάβασ η από μία κατάσ τασ η σ ε μία άλλη ενός χώρου κατασ τάσ εων.μία χαρακτηρισ τική ιδιότητα είναι ότι η πιθανότητα μετάβασ ης σ την επόμενη κατάσ τασ η εξαρτάται μόνο από την προηγούμενη κατάσ τασ η.αυτή η ιδιότητα ονομάζεται ιδιότητα Markov.Προχωρώντας σ ε ένα μαθηματικό ορισ μό έχουμε τα εξής: 61

80 Chapter 3 Μηχανική Μάθησ η Figure 3.5: Μοντέλα Markov με κατασ τάσ εις μερικώς παρατηρήσ ιμες [61] Σύστημα αυτόνομο Σύστημα ελεγχόμενο Καταστάσεις μερικώς παρατηρήσιμες Κρυφά Μοντέλα Markov Μερικώς παρατηρήσ ιμες διαδικασ ίες απόφασ ης Markov Definition Aλυσ ίδα Markov(Markov Chain) [26] Μια αλυσ ίδα Markov αποτελείται από τα εξής: Ενα αριθμήσ ιμο σ ύνολο S = {s 1, s 2,..., s N }, N κατασ τάσ εων που αποτελεί το χώρο κατασ τάσ εων. Ενα πίνακα μεταβάσ εων Α (N N) με σ τοιχεία τις πιθανότητες μετάβασ ης μεταξύ των κατασ τάσ εων, δηλαδή 3 a ij = P (x n = s j x n 1 = s i ). Για τα σ τοιχεία του πίνακα ισ χύει a ij 0 και N a ij = 1, i. Μία αλυσ ίδα Markov είναι μία αλληλουχία τυχαίων μεταβλητων {X i } που λαμβάνουν τιμές από το χώρο κατασ τάσ εων και ικανοποιούν την ιδιότητα Markov.Δηλαδή ισ χύει ότι P (X n+1 = x n+1 X 1 = x 1, X 2 = x 2,..., X n = x n ) = P (X n+1 = x n+1 X n = x n ), για κάθε n και για όλες τις πιθανές ακολουθίες κατασ τάσ εων, δεδομένου ότι ορίζονται οι πιθανότητες P (X 1 = x 1,..., X n = x n ) > 0. Συνεπώς η από κοινού σ υνάρτησ η πυκνότητας πιθανότητας της ακολουθίας κατασ τάσ εων είναι n P (X 1, X 2,..., X n ) = P (X 1 ) P (X i X i 1 ). i=2 Αν και είπαμε ότι για τις αλυσ ίδες Markov ισ χύει η ιδιότητα Markov μπορούμε να χαλαρώσ ουμε λίγο αυτό τον περιορισ μό και να ορίσ ουμε αλυσ ίδες Markov μεγαλύτερης τάξεως. Definition Aλυσ ίδα Markov 2ης τάξης [26] j=1 Εχουμε την ίδια δομή με την αλυσ ίδα Markov 1ης τάξης. Μία αλυσ ίδα Markov 2ης τάξης έιναι μία αλληλουχία τυχαίων μεταβλητων {X i } που λαμβάνουν τιμές από το χώρο κατασ τάσ εων και ικανοποιούν την εξής ιδιότητα: P (X n+1 = x n+1 X 1 = x 1, X 2 = x 2,..., X n = x n ) = P (X n+1 = x n+1 X n = x n, X n 1 = x n 1 ), 3 H τυχαία μεταβλητή x n αφορά την κατάσ τασ η της αλυσ ίδας Markov τη σ τιγμή n και οι δυνατές τιμές της λαμβάνονται από το σ ύνολο S. 62

81 3.7 Μοντέλα Markov (Markov Models) για κάθε n και για όλες τις πιθανές ακολουθίες κατασ τάσ εων, δεδομένου ότι ορίζονται οι πιθανότητες P (X 1 = x 1,..., X n = x n ) > 0. Ομοίως ορίζονται και οι αλυσ ίδες Markov υψηλότερης τάξης. Στις εικόνες 3.6 και 3.7 απεικονίζονται αλυσ ίδες Markov 1ης και 2ης τάξης αντίσ τοιχα. Figure 3.6: Αλυσ ίδα Markov 1ης τάξης [38] x 1 x 2 x 3 Figure 3.7: Αλυσ ίδα Markov 2ης τάξης [38] x 1 x 2 x 3 x 4 2. Κρυφά Μοντέλα Markov (Hidden Markov Models-HMM) Τα κρυφά μοντέλα Markov αποτελούνται από μια αλυσ ίδα Markov με κρυφές κατασ τάσ εις και ένα μοντελο κατασ τάσ εων που είναι ορατό. Definition Κρυφά μοντέλα Markov [11] Ενα κρυφό μοντέλο Markov λ = (A, B, S, π) αποτελείται από τα εξής: Ενα αριθμήσ ιμο σ ύνολο S = {s 1, s 2,..., s N }, N κατασ τάσ εων που αποτελεί το χώρο κατασ τάσ εων. Ενα πίνακα μεταβάσ εων Α (N N) με σ τοιχεία τις πιθανότητες μετάβασ ης μεταξύ των κατασ τάσ εων, δηλαδή 4 a ij = P (z n = s j z n 1 = s i ).Για τα N σ τοιχεία του πίνακα ισ χύει a ij 0 και a ij = 1, i. Τη σ υνάρτησ η πυκνότητας πιθανότητας Β των παρατηρήσ εων, δηλαδή την P (x n z n ), όπου x n η παρατήρησ η και z n η τυχαία μεταβλητή που περιέχει την κρυφή κατάσ τασ η.περιγράφει την κατανομή των παρατηρήσ εων που εκπέμπεται από την κατάσ τασ η z n.θεωρούμε ότι οι παρατηρήσ εις λαμβάνουν σ υνεχείς τιμές. Το διάνυσ μα πιθανοτήτων αρχικών κατασ τάσ εων π, για το οποίο ισ χύει ότι π i = P (z 1 = s i ), i = 1,..., N. 4 H τυχαία μεταβλητή z n αφορά την κρυφή κατάσ τασ η του ΗΜΜ τη σ τιγμή n και οι δυνατές τιμές της λαμβάνονται από το σ ύνολο S. j=1 63

82 Chapter 3 Μηχανική Μάθησ η Το σ ύνολο των κρυφών κατασ τάσ εων αποτελεί μία αλυσ ίδα Markov, το οποίο σ ημαίνει ότι ικανοποιεί την ιδιότητα Markov. Στην εικόνα 3.8 απεικονίζεται ένα κρυφό μοντέλο Markov, ενώ περισ σ ότερα για αυτά δίνονται παρακάτω. Figure 3.8: Κρυφό μοντέλο Markov [38] z 1 z 2 z T x 1 x 2 x T 3. Διαδικασ ίες απόφασ ης Markov (Markov Decision Process-MDP) Οι διαδικασ ίες απόφασ ης Markov [41] χρησ ιμοποιούνται για μοντελοποίησ η σ εναρίων λήψης αποφάσ εων (decision making) ή ακολουθιακής σ χεδίασ ης (sequential planning) σ ε σ τοχασ τικά περιβάλλοντα, όπου το αποτέλεσ μα καθορίζεται μερικώς από τις αποφάσ εις του πράκτορα και μερικώς από άλλους τυχαίους παράγοντες.το αποτέλεσ μα (δηλαδή η έξοδος) προκύπτει από μία σ υνάρτησ η κατανομής πιθανότητας που εξαρτάται απο την κατάσ τασ η σ την οποία βρίσ κεται η διαδικασ ία και την ενέργεια του πράκτορα. Συγκεκριμένα κάθε χρονική σ τιγμή η διαδικασ ία βρίσ κεται σ ε μία κατάσ τασ η s και ο πράκτορας επιλέγει μία ενέργεια a από ένα σ ύνολο δυνατών ενεργειών (της σ υγκεκριμένης κατάσ τασ ης).η MDP θα κινηθεί τυχαία σ ε νέα κατάσ τασ η s και ο πράκτορας θα αποκτήσ ει κάποια ανταμοιβή (reward) 5 R a (s, s ).Η πιθανότητα μετάβασ ης από την κατάσ τασ η s σ την s, P a (s, s ), εξαρτάται από την ενέργεια του πράκτορα.στη σ υνέχεια δίνουμε τον επίσ ημο ορισ μό μίας MDP. Definition Διαδικασ ίες απόφασ ης Markov(Markov Decision Process) [62] Μία διαδικασ ία απόφασ ης Markov είναι μία πεντάδα (S, A, P (, ), R (, ), γ), όπου S ένα πεπερασ μένο σ ύνολο Ν κατασ τάσ εων, S = {s 1, s 2,..., s Ν }. A ένα πεπερασ μένο σ ύνολο K ενεργειών A = {a 1, a 2,..., a K }. P a (s i, s j ) = P (x n+1 = s j x n = s i, a n = a) η πιθανότητα εκτελώντας την ενέργεια a, ενώ βρισ κόμασ τε σ την κατάσ τασ η s i τη χρονική σ τιγμή n, να οδηγηθούμε σ την κατάσ τασ η s j τη χρονική σ τιγμή n+1.σημειώνουμε ότι για τις πιθανότητες μετάβασ ης ισ χύει η ιδιότητα Markov. (i, j = 1,..., N, a A) 5 Η ανταμοιβή μπορεί να είναι και αρνητική, παρότι το όνομα παραπέμπει σ ε κάτι θετικό 64

83 3.7 Μοντέλα Markov (Markov Models) R a (s i, s j ) είναι η ανταμοιβή του πράκτορα μετά την μετάβασ η από την κατάσ τασ η s i σ την s j, εκτελώντας την ενέργεια a. (i, j = 1,..., N, a A) γ [0, 1] είναι ο παράγοντας έκπτωσ ης (discount factor) που αντικατοπτρίζει τη διαφορετική σ ημασ ία των τωρινών ανταμοιβών από τις μελλοντικές. Το κεντρικό πρόβλημα των MDP είναι ο προσ διορισ μός της βέλτισ της πολιτικής.η πολιτική (policy) καθορίζει τις ενέργειες του πράκτορα για κάθε κατάσ τασ η έτσ ι ώσ τε μακροπρόθεσ μα να επιτευχθεί ο επιθυμητός σ τόχος (π.χ οι ανταμοιβές να γίνουν μέγισ τες). 4. Μερικώς παρατηρήσ ιμες διαδικασ ίες απόφασ ης Markov (Partially Observable Markov Decision Process-POMDP) Μία μερικώς παρατηρήσ ιμη διαδικασ ία απόφασ ης Markov είναι μία γενίκευσ η των διαδικασ ιών απόφασ ης Markov που χρησ ιμοποιείται για την μοντελοποίησ η σ τοχασ τικών περιβάλλοντων σ το οποίο δρασ τηριοποιείται κάποιος πράκτορας.ο πράκτορας αυτός λαμβάνει αποφάσ εις σ ε ένα περιβάλλον που εξελίσ σ εται βάσ ει μιας MDP χωρίς όμως να μπορεί να παρατηρήσ ει την κατάσ τασ η σ την οποία βρίσ κεται. Definition Μερικώς παρατηρήσ ιμη διαδικασ ία απόφασ ης Markov (Partially Observable Markov Decision Process) [63] Αποτελείται από μία επτάδα (S, A, P (, ), R (, ), Ω, O, γ), όπου S ένα πεπερασ μένο σ ύνολο Ν κατασ τάσ εων, S = {s 1, s 2,..., s Ν }. A ένα πεπερασ μένο σ ύνολο K ενεργειών A = {a 1, a 2,..., a K }. P a (s i, s j ) = P (z n+1 = s i z n = s j, a n = a) η πιθανότητα εκτελώντας την ενέργεια a, ενώ βρισ κόμασ τε σ την κατάσ τασ η s i τη χρονική σ τιγμή n, να οδηγηθούμε σ την κατάσ τασ η s j τη χρονική σ τιγμή n+1.σημειώνουμε ότι για τις πιθανότητες μετάβασ ης ισ χύει η ιδιότητα Markov. (i, j = 1,..., N, a A) R a (s i, s j ) είναι η ανταμοιβή του πράκτορα μετά την μετάβασ η από την κατάσ τασ η s i σ την s j, εκτελώντας την ενέργεια a. (i, j = 1,..., N, a A) Ω το σ ύνολο των L δυνατών παρατηρήσ εων Ω = {o 1, o 2,..., o L }. O το σ ύνολο των σ υναρτήσ εων πυκνότητας πιθανότητας των παρατηρήσ εων δεδομένης της κατάσ τασ ης, δηλαδή των p(o s i ).Περιγράφει την κατανομή των παρατηρήσ εων που εκπέμπεται από την κατάσ τασ η s i. (i = 1,..., N) γ [0, 1] είναι ο παράγοντας έκπτωσ ης (discount factor) που αντικατοπτρίζει τη διαφορετική σ ημασ ία των τωρινών ανταμοιβών από τις μελλοντικές Κρυφά Μοντέλα Markov(Hidden Markov Models) Στο κομμάτι αυτό θα προχωρήσ ουμε λίγο τη μελέτη των ΗΜΜ.Θα αναφερθούμε σ τα προβλήματα που λύνουν, τις λειτουργίες τους και τους αλγορίθμους που χρησ ιμοποιούνται. 65

84 Chapter 3 Μηχανική Μάθησ η Προβλήματα των HMM [41] Θεωρούμε ότι υπάρχει ένα ΗΜΜ λ = (Α, Β, S, π) και έσ τω O = o 1 o 2... o n μία ακολουθία παρατηρήσ εων. 1. Αποτίμησ η (Evaluation) Γνωρίζουμε το μοντέλο λ και το σ ύνολο των παρατηρήσ εων Ο. Θέλουμε την πιθανότητα με την οποία προκύπτουν οι παρατηρήσ εις μας για το μοντέλο που χρησ ιμοποιούμε, δηλαδή p(o λ). Οι αλγόριθμοι που χρησ ιμοποιούνται για αποτίμησ η είναι ο forward, ο backward και ο forward-backward. 2. Αποκωδικοποίησ η (Decoding) Γνωρίζουμε το μοντέλο λ και το σ ύνολο των παρατηρήσ εων Ο. Θέλουμε την πιο πιθανή ακολουθία των κρυφών κατασ τάσ εων του μοντέλου που οδηγεί σ τις παρατηρήσ εις μας (δηλαδή θέλουμε μια ακολουθία Z = z 1 z 2... z n ). Το πρόβλημα αυτό λύνει ο αλγόριθμος Viterbi. 3. Μάθησ η (Learning) Γνωρίζουμε το σ ύνολο των παρατηρήσ εων Ο. Αναζητούμε το μοντέλο λ που εξηγεί καλύτερα το σ ύνολο των παρατηρήσ εων Ο. Για το πρόβλημα αυτό χρησ ιμοποιείται ο αλγόριθμος Baum-Welch. Λειτουργίες σ υμπερασ μού των HMM (Inference tasks of HMMs) [41] Εσ τω ότι διαθέτουμε ένα σ ύνολο παρατηρήσ εων O = o 1 o 2... o n.μπορούμε να εκτελέσ ουμε τέσ σ ερις βασ ικές λειτουργίες σ υμπερασ μού. Φιλτράρισ μα (Filtering) Υπολογισ μός της πυκνότητας πιθανότητας της τρέχουσ ας κατασ τασ ης, δεδομένου του σ υνόλου των παρατηρήσ εων μέχρι εκείνη τη σ τιγμή. Δηλαδή p(z n o 1 o 2... o n ). Εξομάλυνσ η (Smoothing) Υπολογισ μός της πυκνότητας πιθανότητας μιας παλαιάς κατασ τασ ης, δεδομένου του σ υνόλου των παρατηρήσ εων μέχρι εκείνη τη σ τιγμή. Δηλαδή p(z k o 1 o 2... o n ), όπου 0 k n 1. Πρόβλεψη (Prediction) 66

85 3.7 Μοντέλα Markov (Markov Models) Υπολογισ μός της πυκνότητας πιθανότητας μιας μελλοντικής κατασ τασ ης, δεδομένου του σ υνόλου των παρατηρήσ εων μέχρι την τρέχουσ α σ τιγμή. Δηλαδή p(z n+1 o 1 o 2... o n ). Αλγόριθμοι ΗΜΜ 1. Αλγόριθμος Forward-backward [11] Ο αλγόριθμος forward-backward υπολογίζει την υπο σ υνθήκη σ υνάρτησ η πυκνότητας πιθανότητας κάποιας κρυφής κατάσ τασ ης δεδομένης της ακολουθίας παρατηρήσ εων. Εσ τω ένα σ ύνολο παρατηρήσ εων O = o 1 o 2... o N και η ακολουθία των κρυφών κατασ τάσ εων Z = z 1 z 2... z N. Για την παρουσ ίασ η του αλγορίθμου αυτού ορίζουμε τις παρακάτω ποσ ότητες, ενώ αργότερα θα αναδειχθεί η σ ημασ ία τους. α(z n ) = P (o 1, o 2,..., o n, z n ) β(z n ) = P (o n+1, o n+2,..., o N z n ) γ(z n ) = P (z n O) = P (O zn)p (zn) P (O) ξ (z n 1, z n ) = P (z n 1, z n O) Θέλουμε να προσ διορίσ ουμε την κατανομή P (z n O), δηλαδή την κατανομή πιθανότητας της κατάσ τασ ης z n δεδομένης της ακολουθίας των παρατηρήσ εων O.Προτού προχωρήσ ουμε όμως σ την ανάλυσ η των παραπάνω θα ορίσ ουμε μερικές σ χέσ εις οι οποίες θα χρησ ιμοποιηθούν σ τη σ υνέχεια (όχι απαραίτητα σ τη σ υγκεκριμένη μορφή με την οποία δίνονται παρακάτω). [11] P (O z n ) = P (o 1, o 2,..., o n z n ) P (o n+1, o n+2,..., o N z n ). P (o n+1, o n+2,..., o N z n, z n+1 ) = P (o n+1, o n+2,..., o N z n+1 ). Αναλύοντας την κατανομή γ(z n ) λαμβάνουμε γ(z n ) = P (z n O) = γ(z n ) = α(zn) β(zn) P (O). P (Ο zn)p (zn) = P (o 1,o 2,...,o n,z n) P (o n+1,o n+2,...,o N z n) P (O) P (O) Είναι προφανές από παραπάνω ότι για το προσ διορισ μό της κατανομής γ(z n ) είναι απαραίτητος ο προσ διορισ μός των ποσ οτήτων α(z n ) και β(z n ). Η ποσ ότητα α(z n ) ορίζεται ως η από κοινού κατανομή πιθανότητας των παρατηρήσ εων έως τη σ τιγμή n και της κρυφής κατάσ τασ ης την ίδια σ τιγμή.συνεχίζοντας θα αναλύσ ουμε τον ορισ μό της [11] α(z n ) = P (o 1, o 2,..., o n, z n ) = P (o 1, o 2,..., o n z n )p(z n ) α(z n ) = P (o 1, o 2,..., o n 1 z n )P (o n z n )P (z n ) α(z n ) = P (o 1, o 2,..., o n 1, z n )P (o n z n ) α(z n ) = P (o n z n ) z n 1 P (o 1, o 2,..., o n 1, z n 1, z n ) 67

86 Chapter 3 Μηχανική Μάθησ η α(z n ) = P (o n z n ) P (o 1, o 2,..., o n 1, z n z n 1 )P (z n 1 ) z n 1 α(z n ) = P (o n z n ) P (o 1, o 2,..., o n 1 z n 1 )P (z n z n 1 )P (z n 1 ) z n 1 α(z n ) = P (o n z n ) P (o 1, o 2,..., o n 1, z n 1 )P (z n z n 1 ) z n 1 α(z n ) = P (o n z n ) a(z n 1 )P (z n z n 1 ). z n 1 Για τον προσ διορισ μό της παραπάνω σ χέσ ης χρειαζόμασ τε την τιμή α(z 1 ).Αυτή ορίζεται ως [11] α(z 1 ) = P (o 1, z n ) = P (z 1 ) P (o 1 z 1 ) = N [π i P (o 1 z 1 = s i )]. i=1 Παρατηρούμε ότι για τον προσ διορισ μό της ποσ ότητας α(z n ) υπολογίζουμε ακολουθιακά τις ποσ ότητες α(z 1 ), α(z 2 ),..., α(z n 1 ).Ο αλγόριθμος που υπολογίζει αυτή τη ποσ ότητα ονομάζεται αλγόριθμος forwards και η ποσ ότητα α(z n ) ονομάζεται forward πιθανότητα. Η ποσ ότητα β(z n ) ορίζεται ως η υπό σ υνθήκη κατανομή πιθανότητας των παρατηρήσ εων από τη σ τιγμή n + 1 έως τη σ τιγμή N, δεδομένης της κρυφής κατάσ τασ ης την σ τιγμή n.συνεχίζοντας θα αναλύσ ουμε τον ορισ μό της [11] β(z n ) = P (o n+1, o n+2,..., o N z n ) β(z n ) = z n+1 P (o n+1, o n+2,..., o N, z n+1 z n ) β(z n ) = z n+1 P (o n+1, o n+2,..., o N z n, z n+1 )P (z n+1 z n ) β(z n ) = z n+1 P (o n+1, o n+2,..., o N z n+1 )P (z n+1 z n ) β(z n ) = z n+1 P (o n+2, o n+3,..., o N z n+1 )P (z n+1 z n )P (o n+1 z n+1 ) β(z n ) = z n+1 β(z n+1 )P (o n+1 z n+1 )P (z n+1 z n ). Παρατηρούμε ότι για τον προσ διορισ μό της ποσ ότητας β(z n ) υπολογίζουμε ακολουθιακά τις ποσ ότητες β(z N ), β(z N 1 ),..., β(z n+1 ).Ο αλγόριθμος που υπολογίζει αυτή τη ποσ ότητα ονομάζεται αλγόριθμος backwards και η ποσ ότητα β(z n ) ονομάζεται backward πιθανότητα. Πλέον μπορούμε να υπολογίσ ουμε την ποσ ότητα γ(z n ). Επιπλέον θα προσ διορίσ ουμε την ποσ ότητα ξ (z n 1, z n ), η οποία είναι απαραίτητη για ένα άλλο αλγόριθμο που χρησ ιμοποιεί τον αλγόριθμο forward-backward. [11] ξ (z n 1, z n ) = P (z n 1, z n O) = P (O z n 1,z n)p (z n 1,z n) P (O) ξ (z n 1, z n ) = P (o 1,o 2,...,o n 1 z n 1 )P (o n z n)p (o n+1,o n+2,...,o N z n)p (z n z n 1 )p(z n 1 ) P (O) ξ (z n 1, z n ) = α(z n 1)P (o n z n)p (z n z n 1 )β(z n) P (O). 68

87 3.7 Μοντέλα Markov (Markov Models) 2. Αλγόριθμος Viterbi [49] Ο αλγόριθμος Viterbi (Viterbi algorithm) είναι ένας αλγόριθμος δυναμικού προγραμματισ μού που βρίσ κει την πιο πιθανή ακολουθία κρυφών κατασ τάσ εων ενός ΗΜΜ που έχουν ως αποτέλεσ μα μία ακολουθία παρατηρήσ εων.ο αλγόριθμος αυτός χρησ ιμοποιείται εκτός από τα ΗΜΜ και σ ε άλλες εφαρμογές, όπως είναι η αποκωδικοποίησ η (σ ε κώδικες διόρθωσ ης λαθών).η περιγραφή θα βασ ισ τεί σ το [49]. Για την παρουσ ίασ η του αλγορίθμου Viterbi θα χρησ ιμοποιήσ ουμε διαγράμματα πλέγματος (trellis diagram). Ενα διάγραμμα πλέγματος αποτελείται από ένα σ ύνολο κόμβων, όπως φαίνεται σ την εικόνα 3.9.Σε κάθε σ τήλη απεικονίζονται όλες οι δυνατές κατασ τάσ εις των ΗΜΜ.Επιπλέον κάθε σ τήλη αντισ τοιχεί σ ε διαφορετική χρονική σ τιγμή.αν και δεν απεικονίζεται ξεκάθαρα ανάμεσ α σ ε κάθε ζεύγος κατασ τάσ εων διαδοχικών σ τιγμών ορίζεται μία ακμή με βάρος.το βάρος αυτό ισ ούται με τη πιθανότητα μετάβασ ης από τη μία κατάσ τασ η σ την άλλη.σημειώνουμε επίσ ης ότι σ ε κάθε χρονική σ τιγμή αντισ τοιχεί και μία παρατήρησ η. Figure 3.9: Διάγραμμα πλέγματος σ το οποίο εκτελείται ο αλγόριθμος Viterbi [38] Προχωράμε τώρα σ τη περιγραφή του αλγορίθμου που επιτελεί αυτή τη διαδικασ ία. Εσ τω S = {s 1, s 2,..., s N } το σ ύνολο των δυνατών κατασ τάσ εων και O = {o 1, o 2,..., o T } η ακολουθία των παρατηρήσ εων για Τ διαδοχικές χρονικές σ τιγμές (το χρονικό διάσ τημα που μας ενδιαφέρει).να σ ημειώσ ουμε ότι ο δείκτης i αφορά τις διαφορετικές χρονικές σ τιγμές και ο δείκτης n i την αρίθμησ η της κατάσ τασ ης τη σ τιγμή i.επιπλέον έσ τω ˆd(s ni, s ni 1 ) = p(s ni s ni 1 )p(o i s ni ) 69

88 Chapter 3 Μηχανική Μάθησ η το κόσ τος της διαδρομής από την κατάσ τασ η s ni 1 σ την s ni μαζί με το κόσ τος της παρατήρησ ης o i.το κόσ τος της σ υνολικής διαδρομής είναι ˆD = T i=1 ˆd(s ni, s ni 1 ). Λογαριθμίζουμε το κόσ τος της σ υνολικής διαδρομής και λαμβάνουμε D = ln ˆD = ln T i=1 ˆd(s ni, s ni 1 ) = T ln ˆd(s ni, s ni 1 ) = T d(s ni, s ni 1 ), i=1 όπου d(s ni, s ni 1 ) = ln ˆd(s ni, s ni 1 ). Στόχος είναι να βρούμε τη διαδρομή, δηλαδή μια ακολουθία κατασ τάσ εων, που μεγισ τοποιεί το D. Θα εκφράσ ουμε τώρα το πρόβλημα αυτό ως πρόβλημα δυναμικού προγραμματισ μού με τη χρήσ η της αρχής της βελτισ τότητας του Bellman. Εσ τω D (s ni ) το βέλτισ το κόσ τος μέχρι τη σ τιγμή i και έσ τω η κατάσ τασ η εκείνη τη σ τιγμή να είναι η s ni.το πρόβλημα διατυπώνεται ως εξής: [ D (s ni ) = max ( ) ( )] D s ni 1 + d sni, s ni 1, n i, n i 1 = 1, 2,..., N n i 1. D (s n0 ) = 0, i = 0 Συνεπώς η βέλτισ τη διαδρομή τερματίζει σ την κατάσ τασ η s nt i=1 = argmax s nt D (s nt ). Ο αλγόριθμος Viterbi έχει πολυπλοκότητα O(T N 2 ).Αυτό προκύπτει ως εξής: Σε κάθε χρονική σ τιγμή n ελέγχουμε κάθε διαδρομή προς κάθε κόμβο.δηλαδή για κάθε κόμβο ελέγχουμε τις N διαδρομές από όλες τις κατασ τάσ εις της προηγούμενης σ τιγμής n-1 προς τη σ υγκεκριμένη κατάσ τασ η που μελετάμε τη σ τιγμή n.άρα για κάθε κόμβο χρειαζόμασ τε N ελέγχους. Επειδη σ ε κάθε χρονική σ τιγμή n υπάρχουν N κατασ τάσ εις θα έχουμε N 2 ελέγχους για όλες τις κατασ τάσ εις σ ε κάθε χρονική σ τιγμή. Συνολικά T N 2 ελέγχους, διότι υπάρχουν T χρονικές σ τιγμές. 3. Αλγόριθμος Baum-Welch Ο αλγόριθμος Baum-Welch χρησ ιμοποιείται για τον προσ διορισ μό των παραμέτρων λ = (A, B, S, π) ενός ΗΜΜ και χρησ ιμοποιεί τον αλγόριθμο forward-backward και τον αλγόριθμο EM για να βρεί την εκτιμήτρια μέγισ της πιθανοφάνειας των παραμέτρων του ΗΜΜ δοθέντων των παρατηρήσ εων. Εσ τω μία ακολουθία παρατηρήσ εων O = o 1 o 2... o n, η αντίσ τοιχη ακολουθία κρυφών κατασ τάσ εων Z = z 1 z 2... z n και οι άγνωσ τες παράμετροι λ = (Α, Β, S, π) του ΗΜΜ που παράγει την παραπάνω ακολουθία παρατηρήσ εων.για την σ υνάρτησ η πιθανοφάνειας των παρατηρήσ εων ισ χύει ότι [11] p(o λ) = p(o, Z λ) = p(o 1, o 2,..., o n, z 1, z 2,... z n λ). Z z 1 z 2...z n 70

89 3.8 Ανάλυσ η κύριων σ υνισ τωσ ων(principal Component Analysis) Στόχος μας είναι να προσ διορίσ ουμε τις παραμέτρους που μεγισ τοποιούν την σ υνάρτησ η αυτή, δηλαδή λ = argmaxp (O λ). λ Για να μεγισ τοποιήσ ουμε αυτή τη σ υνάρτησ η πιθανοφάνειας θα χρησ ιμοποιήσ ουμε τον αλγόριθμο Μεγισ τοποίησ ης-προσ δοκίας (Expectation-Maximization/ΕΜ). Παρακάτω αναφέρουμε σ υνοπτικά τα δύο βήματά του. [50] Βήμα E Η μέσ η τιμή του λογαρίθμου της σ υνάρτησ ης πιθανοφάνειας των πλήρων δεδομένων σ υναρτήσ ει των παραμέτρων λ είναι Q(λ, λ (t) ) = E [ln P (Z O, λ)] = P (Z O, λ (t) ) ln P (O, Z λ). Z Μετά απο επεξεργασ ία προκύπτει το εξής: [50] Q(λ, λ (t) ) = n γ(z i = s i ; λ (t) )lnπ i + n N γ(z i = s j ; λ (t) )lnp (o i θ j )+ i=1 i=1 j=1 + n N N ξ(z i 1 = s k, z i = s j ; λ (t) )lna jk. i=2 j=1 k=1 Βήμα M Στο βήμα αυτό θεωρούμε σ ταθερές τις ποσ ότητες γ(z n ) και ξ(z n 1, z n ) και μεγισ τοποιούμε το Q(λ, λ (t) ) σ υναρτήσ ει των παραμέτρων λ = (A, B, S, π). Οι νέες τιμές των παραμέτρων δίνονται από τις παρακάτω σ χέσ εις. [50] π (t+1) k = γ(z 1=s k ;λ (t) ) N a (t+1) ij = γ(z 1 =s i ;λ (t) ) i=1 n και n ξ(z k 1 =s j,z k =s i ;λ (t) ) k=2 N ξ(z m 1 =s j,z m=s k ;λ (t) ) m=2 k=1. Συνολικά μπορούμε να πούμε ότι για την εκπαίδευσ η ενός ΗΜΜ απαιτούνται τρία βήματα. [50] Επιλογή με τυχαίο τρόπο των αρχικών τιμών των παραμέτρων λ. Εκτέλεσ η του αλγορίθμου forward-backward για τον υπολογισ μό των γ( ) και ξ(, ). Εκτίμησ η των νέων τιμών των παραμέτρων π (t+1) k και a (t+1) ij. 3.8 Ανάλυσ η κύριων σ υνισ τωσ ων(principal Component Analysis) Η ανάλυσ η κύριων σ υνισ τωσ ών (Principal Component Analysis-PCA) είναι μία τεχνική, η οποία εφαρμόζει ένα ορθογώνιο μετασ χηματισ μό σ ε δεδομένα και τα μετατρέπει σ ε ένα 71

90 Chapter 3 Μηχανική Μάθησ η σ ύνολο γραμμικώς ασ υσ χέτισ των μεταβλητών σ ε ένα χώρο χαμηλότερης διάσ τασ ης.οι μεταβλητές αυτές ονομάζονται πρωτεύουσ ες σ υνισ τώσ ες (principal components).η μέθοδος αυτή χρησ ιμοποιείται για μείωσ η διάσ τασ ης του χώρου χαρακτηρισ τικών, σ υμπίεσ η με απώλειες, κτλ.ανάλογα με την εφαρμογή η τεχνική PCA λαμβάνει διαφορετική ονομασ ία και ενδεικτικά σ το τομέα της επεξεργασ ίας σ ήματος ονομάζεται μετασ χηματισ μός Karhunen-Loeve. Η τεχνική PCA μπορεί να ορισ τεί κυρίως με δύο τρόπους [11].Σύμφωνα με τον πρώτο τρόπο, τον σ υνθετικό τρόπο, η τεχνική PCA ορίζεται ως η γραμμική προβολή των διανυσ μάτων σ ε ένα υποχώρο χαμηλότερης διάσ τασ ης με τέτοιο τρόπο, ώσ τε η μέσ η τιμή του αθροίσ ματος του τετραγώνου της διαφοράς του κάθε διανύσ ματος από το αντίσ τοιχο ανακατασ κευασ μένο διάνυσ μα του χώρου χαμηλότερης διάσ τασ ης να γίνεται ελάχισ τη.ο δεύτερος τρόπος, ο αναλυτικός τρόπος, αφορά την ορθογώνια προβολή των δεδομένων σ ε ένα υποχώρο χαμηλότερης διάσ τασ ης έτσ ι ώσ τε η διασ πορά των προβαλόμενων δεδομένων να μεγισ τοποιηθεί.παρακάτω αναλύουμε σ ε ένα αυσ τηρό μαθηματικό πλαίσ ιο τη πρώτη προσ έγγισ η ακολουθώντας το [11]. Εσ τω x n R D, n = 1, 2,..., N τα N διανύσ ματα δεδομένων που μας δίνονται και {e i } μια πλήρης βάσ η τέτοια ώσ τε e T i e j = δ ij (δηλαδή τα διανύσ ματα είναι ανά δύο ορθογώνια).συνεπώς κάθε διάνυσ μα μπορεί να αναπαρασ ταθεί σ τη μορφή x n = D x ni e i για n = 1,..., N. i=1 Θέλουμε να προσ εγγίσ ουμε το x n σ ε ένα χώρο χαμηλότερης διάσ τασ ης L < D.Με άλλα λόγια θέλουμε να προβάλλουμε το διάνυσ μα x n σ ε ένα γραμμικό υποχώρο χαμηλότερης διάσ τασ ης (διάσ τασ ης L).Για να μπορέσ ουμε να έχουμε μία ποσ οτική εκτίμησ η της επιτυχίας της προβολής πρέπει να ανακατασ κευάσ ουμε το διάνυσ μα με βάσ η την αναπαράσ τασ η σ ε χαμηλότερες διασ τάσ εις.το διάνυσ μα ˆx n διασ τασ ης D που προκύπτει από την ανακατασ κευή της προβολής του διανύσ ματος x n σ ε ένα υποχώρο διάσ τασ ης L ορίζεται ως ˆx n = L z ni e i + i=1 D i=l+1 a i e i για n = 1,..., N, όπου z n R L η αναπαράσ τασ η του διανύσ ματος x n σ τον υποχώρο διάσ τασ ης L, z ni R η i-οσ τή σ υνισ τώσ α της αναπαράσ τασ ης του διανύσ ματος x n σ τον υποχώρο διάσ τασ ης L, e i R D το i-οσ το διάνυσ μα βάσ ης του γραμμικού χώρου και a i ένας σ ταθερός όρος. Οι ποσ ότητες z n,e i και a i μπορούν να επιλεγούν ελέυθερα έτσ ι ώσ τε να ικανοποιούν τους περιορισ μούς-απαιτήσ εις που θα θέσ ουμε παρακάτω. Πρός αυτήν την κατεύθυνσ η ορίζουμε το σ φάλμα της ανακατασ κευής ως J = 1 N N n=1 x n ˆx n 2. 72

91 3.8 Ανάλυσ η κύριων σ υνισ τωσ ων(principal Component Analysis) Δηλαδή ως η μέσ η τιμή του αθροίσ ματος του τετραγώνου της διαφοράς του ανακατασ κευασ μένου διανύσ ματος από το αρχικό. Στόχος είναι, δοθέντος ενός σ υνόλου διανυσ μάτων {x n }, να βρούμε ένα σ ύνολο ορθογώνιων διανυσ μάτων βάσ ης {e i } και τους αντίσ τοιχους σ υντελεσ τές {z ni } έτσ ι ώσ τε το σ φάλμα J να γίνεται ελάχισ το.με άλλα λόγια θέλουμε να βρούμε ένα γραμμικό μετασ χηματισ μό W, ο οποίος να μετασ χηματίζει το διάνυσ μα x n σ ε ένα διάνυσ μα z n χαμηλότερης διάσ τασ ης, δηλαδή z n = W T x n, με τέτοιο τρόπο ώσ τε να ελαχισ τοποιείται το σ φάλμα J.Να σ ημειώσ ουμε ότι το ανακατασ κευασ μένο διάνυσ μα προκύπτει από τον ίδιο πίνακα W ως εξης ˆx n = W z n. Η λειτουργία που επιτελεί η μέθοδος PCA σ ε ένα χώρο δύο διασ τάσ εων απεικονίζεται σ την εικόνα Figure 3.10: Μέθοδος PCA [11] Παρακάτω δίνονται τρία βασ ικά θεωρήματα που περιγράφουν με πιo αυσ τηρό τρόπο το πρόβλημα καθώς και τα αποτελέσ ματα που προκύπτουν.πριν όμως προχωρήσ ουμε σ ε αυτά παραθέτουμε μερικούς βασ ικούς ορισ μούς απαραίτητους για το παρακάτω θεώρημα. Definition Νόρμα Frobenius (Frobenius Norm) m n Η νόρμα Frobenius για ένα πίνακα Χ ορίζεται ως X F = x 2 ij = i=1 j=1. tr (X T X) Definition Eμπειρικός πίνακας σ υσ χέτισ ης (Empirical covariance matrix) Υποθέτοντας ότι οι μεταβλητές x i έχουν μηδενική μέσ η τιμή ο εμπειρικός πίνακας σ υσ χέτισ ης ορίζεται ως Ŝ = 1 N x N n x T n. n=1 73

92 Chapter 3 Μηχανική Μάθησ η Theorem Διατύπωσ η τεχνικής PCA [38] Εσ τω x n R D ένα σ ύνολο Ν διανυσ μάτων.θέλουμε να βρούμε ένα σ ύνολο L γραμμικών διανυσ μάτων βάσ ης e n R D και τους αντίσ τοιχους σ υντελεσ τές z n R L έτσ ι ώσ τε το μέσ ο λάθος ανακατασ κευής J (W, Z) = 1 N N n=1 x n ˆx n 2 να γίνει ελάχισ το.το ανακατασ κευασ μένο διάνυσ μα προκύπτει από ορθογώνιο μετασ χηματισ μό ως ˆx n = W z n, όπου W είναι ορθοκανονικός πίνακας τον οποίο και αναζητούμε. Ισ οδύναμα η αντικειμενική σ υνάρτησ η μπορεί να εκφρασ τεί και ως J = X W Z T 2 F, όπου F είναι η νόρμα Frobenius και Z είναι ένας πίνακας N L με τις γραμμές να περιέχουν τους σ υντελεσ τές z i. Theorem Αποτελέσ ματα τεχνικής PCA [38] Εσ τω U = [e 1 e 2... e L ] ο πίνακας που περιέχει τα L ιδιοδιανύσ ματα που αντισ τοιχούν σ τις L μεγαλύτερες ιδιοτιμές του εμπειρικού πίνακα σ υσ χέτισ ης Ŝ.Η βέλτισ τη λύσ η λαμβάνεται για W = U.Επιπλέον η βέλτισ τη χαμηλής διάσ τασ ης κωδικοποίησ η των δεδομένων z n δίνεται από τον μετασ χηματισ μό z n = W T x n, ενώ το ανακατασ κευασ μένο διάνυσ μα ˆx n από τον τύπο ˆx n = W z n. Theorem Σφάλμα ανακατασ κευής [11] Η τιμή του σ φάλματος ανακατασ κευής είναι J = D i=l+1 λ i, όπου λ i οι D-L μικρότερες ιδιοτιμές του εμπειρικού πίνακα σ υσ χέτισ ης Ŝ. Να σ ημειώσ ουμε ότι η πρώτη πρωτεύουσ α σ υνισ τώσ α είναι το ιδιοδιάνυσ μα που αντισ τοιχεί σ τη μεγαλύτερη ιδιοτιμή του πίνακα Ŝ.Για αυτό ισ χύει ότι η προβολή των δεδομένων πάνω σ ε αυτό εμφανίζει τη μέγισ τη δυνατή διασ πορά με την έννοια ότι η προβολή των δεδομένων σ ε οποιοδήποτε άλλη διεύθυνσ η έχει μικρότερη διασ πορά.επιπλέον μπορούμε να επιλέξουμε τη δεύτερη πρωτεύουσ α σ υνισ τώσ α επιλέγοντας μία διεύθυνσ η η οποία να είναι κάθετη σ τη προηγούμενη σ υνισ τώσ α και η διασ πορά των προβαλόμενων δεδομένων να είναι η μέγισ τη δυνατή.με τον ίδιο τρόπο επιλέγουμε και τις υπόλοιπες σ υνισ τώσ ες.ο σ υνολικός αριθμός των διευθύνσ εων που επιλέγονται ισ ούται με τη διάσ τασ η του υποχώρου χαμηλότερης διάσ τασ ης.οι διευθύνσ εις αυτές αντισ τοιχούν σ τις D μεγαλύτερες ιδιοτιμές του πίνακα Ŝ. 74

93 3.9 Ομαδοποίησ η(clustering) 3.9 Ομαδοποίησ η(clustering) Ομαδοποίησ η (Clustering) είναι [49] η διαδικασ ία μέσ α από την οποία ανακαλύπτουμε ομάδες σ ε ένα σ ύνολο δεδομένων.η δημιουργία των ομάδων προκύπτει θεωρώντας κάθε φορά κάποιο κριτήριο ομοιότητας και ορίζοντας κάποια έννοια απόσ τασ ης μεταξύ των δεδομένων.με αυτόν τον τρόπο ανακαλύπτουμε ομοιότητες και διαφορές και εξάγουμε χρήσ ιμα σ υμπεράσ ματα. Εσ τω ότι έχουμε διανύσ ματα χαρακτηρισ τικών σ το D-διάσ τατο χώρο.τα βήματα της ομαδοποίησ ης είναι σ ύμφωνα με το [49] τα εξης: 1. Επιλογή χαρακτηρισ τικών(feature selection) Η επιλογή των χαρακτηρισ τικών πρέπει να γίνει με τέτοιο τρόπο ώσ τε να περιγράφουν με το καλύτερο τρόπο τα δεδομένα και η πληροφορία που περιέχουν να είναι κατάλληλη για το πρόβλημα που αντιμετωπίζουμε. 2. Μέτρο εγγύτητας(proximity measure) Χρησ ιμοποιείται για την ποσ οτική εκτίμησ η του βαθμού ομοιότητας ή ανομοιότητας μεταξύ δύο διανυσ μάτων χαρακτηρισ τικών. 3. Κριτήριο ομαδοποίησ ης(clustering criterion) Το κριτήριο με βάσ η το οποίο χωρίζονται σ ε ομάδες τα διανύσ ματα χαρακτηρισ τικών. 4. Αλγόριθμοι ομαδοποίησ ης(clustering algorithms) Ο αλγόριθμος ο οποίος θα αναγνωρίσ ει τη δομή των δεδομένων και θα τα κατανείμει σ ε ομάδες. 5. Επικύρωσ η των αποτελεσ μάτων(validation of results) Μετά τη διαδικασ ία της ομαδοποίησ ης, τα αποτελέσ ματα ελέγχονται ως προς την ορθότητά τους με τη χρήσ η κατάλληων test. 6. Ερμηνεία των αποτελεσ μάτων(interpretation of results) Στο τέλος λαμβάνοντας υπόψιν τόσ ο τα αποτελέσ ματα της ομαδοποίησ ης όσ ο και άλλα σ τοιχεία που γνωρίζουμε εξάγουμε σ υμπεράσ ματα. Υπάρχουν πολλοί αλγόριθμοι ομαδοποίησ ης με διαφορετικούς τρόπους λειτουργίας. Ενας από τους πιο διαδεδομένους αλγορίθμους που εμφανίζονται σ τη βιβλιογραφία είναι ο αλγόριθμος K-means Αλγόριθμος K-means Εχουμε Ν σ ημεία σ το D-διάσ τατο χώρο τα οποία θέλουμε να τα ομαδοποιήσ ουμε σ ε Κ ομάδες.σε κάθε ομάδα αντισ τοιχεί μία παράμετρος που αποτελεί την μέσ η τιμή των διανυσ μάτων που το αποτελούν.το μέτρο εγγύτητας είναι η απόσ τασ η 75

94 Chapter 3 Μηχανική Μάθησ η d(x, y) = 1 D (x 2 i y i ) 2, i=1 όπου x i και y i οι σ υνισ τώσ ες των διανυσ μάτων x και y αντίσ τοιχα. Παρακάτω δίνουμε μία αναλυτική περιγραφή του αλγορίθμου όπως παρουσ ιάζεται σ το [34]. Εσ τω x n τα Ν σ ημεία και m k οι μέσ ες τιμές των Κ ομάδων.ο αλγόριθμος K-means (K-means algorithm) μπορεί να χωρισ τεί σ ε τέσ σ ερα βήματα τα οποία περιγράφονται παρακάτω. Αρχικοποίησ η Επιλέγουμε τυχαία τις μέσ ες τιμές m k των Κ ομάδων. Ανάθεσ η Για κάθε σ ημείο υπολογίζουμε την απόσ τασ ή του από την μέσ η τιμή όλων των ομάδων και το αναθέτουμε σ την ομάδα εκείνη που αντισ τοιχεί σ τη μικρότερη απόσ τασ η. Δηλαδή ˆk n = argmin {d (m k, x n )}. k Σε περίπτωσ η ισ οπαλίας επιλέγουμε αυθαίρετα.ενδεικτικά θα μπορούσ αμε να επιλέξουμε την ομάδα με το μικρότερο k. Ενημέρωσ η Υπολογίζουμε τις μέσ ες τιμές όλων των ομάδων με βάσ η τα διανύσ ματα χαρακτηρισ τικών που περιέχουν. Δηλαδή m k = σ την ομάδα k. n(k) x ki i=1 n(k), όπου n(k) ο αριθμός των διανυσ μάτων που υπάρχουν Σε περίπτωσ η όπου κάποια ομάδα είναι άδεια τότε δεν αλλάζουμε τη μέσ η τιμή. Επανάληψη Επαναλαμβάνουμε τα βήματα της ανάθεσ ης και της ενημέρωσ ης μέχρι να μην αλλάζει καμία μέσ η τιμή Νοημοσ ύνη σ μήνους(swarm intelligence) Η νοημοσ ύνη σ μήνους (swarm intelligence) [66][41] περιγράφει ένα σ ύνολο μεθόδων μηχανικής μάθησ ης που βασ ίζουν την λειτουργία τους σ τη σ υμπεριφορά που εμφανίζουν ζώα και έντομα κάτω από σ υνθήκες σ υνεργασ ίας.η κεντρική ιδέα είναι ότι υπάρχουν πολλοί πράκτορες που αλληλλεπιδρούν με το περιβάλλον, επικοινωνούν τοπικά μεταξύ 76

95 3.10 Νοημοσ ύνη σ μήνους(swarm intelligence) τους και εκτελούν περιορισ μένες ενέργειες με τέτοιο τρόπο ώσ τε η αναδυόμενη (emergent) σ υμπεριφορά να εμφανίζει χαρακτηρισ τικά πολύπλοκων σ υσ τημάτων (complex systems) και ευφυίας (intelligence).να σ ημειώσ ουμε ότι δεν υπάρχει κάποια κεντρική αρχή που να επιβάλλει τον τρόπο σ υμπεριφοράς σ τους πράκτορες που σ υνθέτουν το σ μήνος. Με άλλα λόγια πρόκειται για ένα σ ύσ τημα αυτο-οργανούμενο (self-organized) και αποκεντρωμένο (decentralized) που επιδεικνύει ευφυή σ υλλογική σ υμπεριφορά, αποτέλεσ μα των μεμονομένων ενεργειών των πρακτόρων που το σ υνθέτουν.για παράδειγμα υπάρχουν αλγόριθμοι που υπάγονται σ ε αυτή τη κατηγορία και εμπνέονται από τη σ υμπεριφορά των μυρμηγκιών σ ε μία αποικία (ant colony), ενός σ μήνους πουλιών (flock of birds), μιας αποικίας βακτηριών (bacterial colony) και άλλα. Μερικές βασ ικές αρχές που διέπουν τη σ υμπεριφορά ενός σ μήνους πρακτόρων με βάσ η το [71] δίνονται παρακάτω. 1. Αρχή της εγγύτητας(proximity principle) Οι βασ ικές μονάδες που σ υνθέτουν το σ μήνος έχουν την δυνατότητα αλληλεπίδρασ ης με το περιβάλλον.να σ ημειώσ ουμε ότι η αλληλεπίδρασ η ορίζεται ως η αντίδρασ η σ τις μεταβολές του περιβάλλοντος. 2. Αρχή της ποιότητας(quality principle) Το σ μήνος έχει δυνατότητες αντίδρασ ης που σ χετίζονται με την ικανοποίησ η ποιοτικών κριτηρίων. 3. Αρχή της προσ αρμοσ τικότητας και της σ ταθερότητας(principle of adaptability and stability) Τα σ μήνη έχουν την δυνατότητα να προσ αρμόζονται σ τις αλλαγές του περιβάλλοντος με τέτοιο τρόπο ώσ τε να εξασ φαλίζεται η σ ταθερότητα. 4. Αρχή της ποικίλης σ υμπεριφοράς(principle of diverse response) Οι πόροι του σ υσ τήματος είναι διεσ παρμένοι σ ε όλη την έκτασ ή του έτσ ι ώσ τε ο κάθε πράκτορας να μπορεί να προσ τατευτεί από τις μεταβολές του περιβάλλοντός του. Μερικοί βασ ικοί αλγόριθμοι νοημοσ ύνης σ μήνους δίνονται σ τη σ υνέχεια, ενώ αναλύεται ενδεικτικά ένας από αυτούς. [66] 1. Βελτισ τοποίησ η αποικίας μυρμηγκιών (Ant colony optimization). 2. Βελτισ τοποίησ η σ μήνους σ ωματιδίων (Particle swarm optimization). 3. Βελτισ τοποίησ η αποικίας μελισ σ ών (Bee colony optimization). 4. Βελτισ τοποίησ η αποικίας βακτηρίων (Bacterial colony optimization). 5. Τεχνητά ανοσ οποιητικά σ υσ τήματα (Artificial immune systems). 77

96 Chapter 3 Μηχανική Μάθησ η Βελτισ τοποίησ η αποικίας μυρμηγκιών (Ant colony optimization) Πρόκειται για ένα σ ύνολο αλγορίθμων βελτισ τοποίησ ης που προσ παθούν να μιμηθούν την σ υμπεριφορά μίας αποικίας μυρμηγκιών.η ικανότητα των μυρμηγκιών να βρίσ κουν τις σ υντομότερες διαδρομές σ ε πηγές φαγητού με αποδοτικό τρόπο (ως πρός τη χρήσ η πόρων) αποτελεί τη βάσ η αυτής της τεχνικής.η τεχνική αυτή βρίσ κει εφαρμογή σ την προσ εγγισ τική επίλυσ η προβλημάτων βελτισ τοποίησ ης μετασ χηματίζοντας το πρόβλημα σ ε ένα πρόβλημα εύρεσ ης διαδρομών ελάχισ του κόσ τους σ ε γράφους με βάρη.η λύσ η χτίζεται σ ταδιακά με την κίνησ η των μυρμηγκιών πάνω σ το γράφο και εμφανίζει σ τοχασ τικά χαρακτηρισ τικά. 78

97 4 Εφαρμογές μηχανικής μάθησ ης σ ε γνωσ τικά ραδιοσ υσ τήματα 4.1 Εφαρμογές μηχανικής μάθησ ης σ ε γνωσ τικά ραδιοσ υσ τήματα Εισ αγωγή Η φύσ η των γνωσ τικών ραδιοσ υσ τημάτων είναι τέτοια που είναι απαραίτητο να αναγνωρίζουν το περιβάλλον τους, να μαθαίνουν από αυτό και να προσ αρμόζουν δυναμικά τις παραμέτρους λειτουργίας τους.είναι προφανές ότι για να επιτελέσ ει τις παραπάνω λειτουργίες με επιτυχία ένα γνωσ τικό ραδιοσ ύσ τημα πρέπει να να χαρακτηρίζεται από κάποιο βαθμό ευφυίας.μάλισ τα από την ονομασ ία γνωσ τικό καταλαβαίνουμε ότι πρέπει το ραδιοσ ύσ τημα να είναι εφοδιασ μένο με γνωσ τικές ικανότητες (ευφυία, ικανότητα μάθησ ης, αντίληψη, λογική, κτλ.).την ευφυία μπορεί και την προσ φέρει ένα τμήμα του γνωσ τικού ραδιοσ υσ τήματος που ονομάζεται γνωσ τική μηχανή (cognitive engine).το τμήμα αυτό είναι εφοδιασ μένο με αλγορίθμους και τεχνικές τεχνητής νοημοσ ύνης που αξιοποιούνται για την ολοκληρωμένη, αποδοτική και πετυχημένη λειτουργία του σ υσ τήματος. Οι λειτουργίες που σ υνθέτουν την ευφυία είναι οι εξής: [37][12] 1. Αντίληψη(Perception) Η εξαγωγή πληροφοριών μέσ ω της αναγνώρισ ης του περιβάλλοντος.στα πλαίσ ια των γνωσ τικών ραδιοσ υσ τημάτων η λειτουργία αυτή εμφανίζεται κυρίως κατά την φασ ματική αναγνώρισ η. 2. Μάθησ η(learning) Η μετατροπή της πληροφορίας σ ε γνώσ η.στα γνωσ τικά ραδιοσ υσ τήματα η μάθησ η χρησ ιμοποιείται για την εξαγωγή σ υμπερασ μάτων και γνώσ ης από τις πληροφορίες που σ υλλέγει το σ ύσ τημα από το περιβάλλον. 3. Λογική(Reasoning) Η χρήσ η της γνώσ ης για την επίτευξη των επιθυμητών σ τόχων.δηλαδή η εύρεσ η των κατάλληλων ενεργειών για κάθε πιθανή κατάσ τασ η με απώτερο σ τόχο την επίτευξη των σ τόχων και της επιθυμητής σ υμπεριφοράς. 79

98 Chapter 4 Εφαρμογές μηχανικής μάθησ ης σ ε γνωσ τικά ραδιοσ υσ τήματα Στο κομμάτι αυτό θα επικεντρωθούμε σ τις εφαρμογές μεθόδων μηχανικής μάθησ ης σ ε προβλήματα γνωσ τικών ραδιοσ υσ τημάτων.συγκεκριμένα θα αναφερθούμε σ ε εφαρμογές νευρωνικών δικτύων, μηχανών διανυσ ματικής υποσ τήριξης, κρυφών μοντέλων Markov, μάθησ ης κατά Bayes και νοημοσ ύνης σ μήνους.να σ ημειώσ ουμε ότι για τις παραπάνω μεθόδους έχει προηγηθεί θεωρητική ανάλυσ η σ το κεφάλαιο 3.Η παρουσ ίασ η των εφαρμογών θα γίνει με βάσ η τα [12] και [41] Μηχανική μάθησ η σ ε γνωσ τικά ραδιοσ υσ τήματα Στη βιβλιογραφία υπάρχουν αρκετές εφαρμογές αλγορίθμων μηχανικής μάθησ ης σ ε γνωσ τικά ραδιοσ υσ τήματα.μάλισ τα εμφανίζονται όλα τα είδη μάθησ ης, δηλαδή επιβλεπόμενη, μη επιβλεπόμενη και ενισ χυτική μάθησ η.οι αλγόριθμοι επιβλεπόμενης μάθησ ης είναι χρήσ ιμοι όταν τα γνωσ τικά ραδιοσ υσ τήματα γνωρίζουν πληροφορίες για το περιβάλλον μέσ α σ το οποίο λειτουργούν.σε αντίθεσ η οι αλγόριθμοι μη επιβλεπόμενης μάθησ ης χρησ ιμοποιούνται κυρίως σ ε άγνωσ τα περιβάλλοντα, όπου είναι απαραίτητη η εξερέυνησ η αυτού με αυτόνομο τρόπο.βέβαια υπάρχουν και οι αλγόριθμοι ενισ χυτικής μάθησ ης, οι οποίοι χρησ ιμοποιούνται όταν το σ ύσ τημα δεν γνωρίζει πληροφορίες για το περιβάλλον, αλλά μπορεί να αλληλεπιδράσ ει με αυτό και να λάβει feedback (ή αλλιώς ενισ χύσ εις) και με αυτό το τρόπο να μάθει για αυτό. Η φύσ η των προβλημάτων μάθησ ης σ τα διάφορα σ ενάρια χρήσ ης των γνωσ τικών ραδιοσ υσ τημάτων έχει τις εξής ιδιομορφίες: [12] 1. Το περιβάλλον μέσ α σ το οποίο λειτουργεί ένα γνωσ τικό ραδιοσ ύσ τημα είναι μερικώς παρατηρήσ ιμο, διότι υπεισ έρχονται λάθη και θόρυβος σ τις μετρήσ εις. 2. Τα γνωσ τικά ραδιοσ υσ τήματα πρέπει να μαθαίνουν και να μεταβάλλουν την σ υμπεριφορά τους την ίδια σ τιγμή.αυτό γιατί λειτουργούν σ ε πραγματικό χρόνο και γιατί το περιβάλλον λειτουργίας μεταβάλλεται γρήγορα και με σ τοχασ τικό τρόπο. 3. Η γνώσ η σ χετικά με τις ενέργειες των άλλων σ υσ τημάτων που δρασ τηριοποιούνται σ την ίδια περιοχή μπορεί να είναι μερική η πλήρης.στη πρώτη περίπτωσ η απαιτείται η χρήσ η εξειδικευμένων τεχνικών μηχανικής μάθησ ης που θα εκτιμήσ ουν τις άγνωσ τες (για το κύριο σ ύσ τημα) ενέργειες των υπόλοιπων σ υσ τημάτων. 4. Είναι απαραίτητη η χρήσ η αυτόνομων μεθόδων μηχανικής μάθησ ης, διότι πολλές φορές το ηλεκτρομαγνητικό περιβάλλον είναι άγνωσ το, μεταβάλλεται γρήγορα και με τυχαίο τρόπο. Είναι προφανές από τα παραπάνω ότι η χρήσ η μεθόδων μηχανικής μάθησ ης είναι όχι μόνο απαραίτητη, αλλά πρέπει να γίνει με ειδικό τρόπο ώσ τε να αντιμετωπίζονται οι ιδιομορφίες και ιδιαιτερότητες που εμφανίζουν τα γνωσ τικά ραδιοσ υσ τήματα και το περιβάλλον μέσ α σ το οποίο δρασ τηριοποιούνται. 80

99 4.1 Εφαρμογές μηχανικής μάθησ ης σ ε γνωσ τικά ραδιοσ υσ τήματα Νευρωνικά δίκτυα Τα νευρωνικά δίκτυα αποτελούν ένα πολύ δυνατό εργαλείο το οποίο καλύπτει ένα μεγάλο εύρος εφαρμογών γνωσ τικών ραδιοσ υσ τημάτων.παρακάτω δίνονται σ υνοπτικά μερικές από τις αναφορές αυτής της μεθόδου σ τη βιβλιογραφία. [12][41] Στο [52] τα νευρωνικά δίκτυα χρησ ιμοποιούνται για την πρόβλεψη της κατάσ τασ ης του καναλιού.στόχος είναι η αποφυγή της ανίχνευσ ης καναλιών που προβλέπεται ότι θα είναι κατειλλημένα έτσ ι ώσ τε να μειωθεί η κατανάλωσ η ενέργειας. Στο [6] τα νευρωνικά δίκτυα χρησ ιμοποιούνται για να μάθει το σ ύσ τημα την επίδρασ η των μετρήσ εων του περιβάλλοντος και της κατάσ τασ ης του δικτύου σ την αποδοτικότητα των καναλιών.με βάσ η αυτό κατασ κευάζεται ένας γνωσ τικός ελεγκτής για ασ ύρματα δίκτυα υποδομών, ο οποίος αξιολογεί τα κανάλια και επιτελεί δυναμική επιλογή του καλύτερου καναλιού. Στο [7] τα νευρωνικά δίκτυα χρησ ιμοποιούνται για τον χαρακτηρισ μό και την αξιολόγησ η της τηλεπικοινωνιακής απόδοσ ης του σ υσ τήματος σ ε πραγματικό χρόνο σ υναρτήσ ει των παραμέτρων λειτουργίας του σ υσ τήματος και άλλων παραμέτρων του περιβάλλοντος. Στο [47] τα νευρωνικά δίκτυα χρησ ιμοποιούνται για πρόβλεψη φάσ ματος με την μοντελοποίησ η των χαρακτηρισ τικών των πρωτευόντων χρησ τών ως μία χαοτική πολυμεταβλητή χρονοσ ειρά.η χρονοσ ειρά αυτή δίνεται ως είσ οδος σ το νευρωνικό δίκτυο και η έξοδος χρησ ιμοποιείται από τους δευτερεύοντες χρήσ τες για να λάβουν αποφάσ εις σ χετικά με την εκμετάλλευσ η του φάσ ματος Στο [48] το πρόβλημα της φασ ματικής ανίχνευσ ης αντιμετωπίζεται με ένα νευρωνικό δίκτυο σ ε σ υνδυασ μό με ένα ανιχνευτή κυκλοσ τασ ιμότητας.η μέθοδος αυτή αποδεικνύεται ικανοποιητική σ ε περιπτώσ εις όπου έχουμε χαμηλο signalto-noise ratio (SNR). Στα πλεονεκτήματα της χρήσ ης νευρωνικών δικτύων περιλαμβάνονται το γεγονός ότι για τη λειτουργία τους δεν απαιτείται γνώσ η της κατανομής της παρατηρούμενης διαδικασ ίας, η δυνατότητα να γνωρίζουμε την αισ ιοδοξία των αποτελεσ μάτων και η ικανότητα προσ αρμογής σ ε μικρές αλλαγες του περιβάλλοντος.ως μειονεκτήματα θεωρούμε τα προβήματα υπερπροσ αρμογής (overfitting) που προκύπτουν και το γεγονός ότι η διαδικασ ία μάθησ ης είναι ευαίσ θητη σ την επιλογή των αρχικών παραμέτρων. [12] Μηχανές διανυσ ματικής υποσ τήριξης Οι μηχανές διανυσ ματικής σ τήριξης (SVM) αποτελούν μία αποτελεσ ματική τεχνική μηχανικής μάθησ ης που βρίσ κει εφαρμογή σ ε αρκετά ζητήματα γνωσ τικών ραδιοσ υσ τημάτων.παρακάτω δίνονται σ υνοπτικά μερικές από τις αναφορές αυτής της μεθόδου σ τη βιβλιογραφία. [12] 81

100 Chapter 4 Εφαρμογές μηχανικής μάθησ ης σ ε γνωσ τικά ραδιοσ υσ τήματα Στο [28] ένα SVM χρησ ιμοποιείται σ ε σ υνδυασ μό με ανάλυσ η φασ ματικής σ υσ χέτισ ης (από την οποία προκύπτουν τέσ σ ερις φασ ματικοί παράμετροι σ υνοχής) για ταξινόμησ η σ ημάτων. Στο [5] χρησ ιμοποιείται ένα SVM για εκτίμησ η φάσ ματος με τέτοιο τρόπο ώσ τε να εξασ φαλίζεται η ανθεκτικότητα σ ε παρεμβολές σ ε αντίθεσ η με την κλασ ική τεχνική ελαχίσ των τετραγώνων που αποτυγχάνει. Στο [69] το SVM χρησ ιμοποιείται για να επιλεγεί η σ ωσ τή σ τρατηγική επιλογής καναλιού και είδους διαμόρφωσ ης.σε κάθε μέθοδο αποδίδεται κάποιο κόσ τος, το οποίο αποτελεί και την είσ οδο του αλγορίθμου και ως έξοδος δίνεται η βέλτισ τη από αυτές. Στο [17] ένα SVM χρησ ιμοποιείται για φασ ματική ανίχνευσ η σ ε πραγματικό χρόνο.να σ ημειώσ ουμε ότι η μέθοδος αυτή επιτυχάνει πολύ υψηλά ποσ οσ τά επιτυχίας και μάλισ τα τα καταφέρνει πολύ καλά σ ε χαμηλά signal-to-noise ratio (SNR) σ ε σ χέσ η με τον ανιχνευτή ενέργειας. Τα SVM έχουν χρησ ιμοποιηθεί και σ το πρόβλημα της αυτόματης αναγνώρισ ης διαμόρφωσ ης (automatic modulation classification) [40].Συγκεκριμένα ένα SVM εκπαιδεύεται για να αναγνωρίζει τη διαμόρφωσ η των σ ημάτων ανάμεσ α σ ε 5 ψηφιακές και 2 αναλογικές διαμορφώσ εις. Για το ίδιο πρόβλημα (αυτόματη αναγνώρισ η διαμόρφωσ ης) υπάρχει σ τη βιβλιογραφία το [21] που χρησ ιμοποιεί ένα SVM με πυρήνα wavelet. Τέλος σ το [70] ένα SVM χρησ ιμοποιείται για την ταξινόμησ η πρωτοκόλλων MAC, ανάλογα με το μηχανισ μό μετάδοσ ης, σ ε ένα άγνωσ το δίκτυο.η μέσ η τιμή και η διασ πορά της λαμβανόμενης ενέργειας αποτελούν τα χαρακτηρισ τικά που λαμβάνουμε υπόψιν. Ενα πλεονέκτημα των SVM είναι ότι επιτυγχάνει καλύτερα αποτελέσ ματα από ένα νευρωνικό δίκτυο όταν έχουμε μικρό σ ύνολο δεδομένων εκπαίδευσ ης.αντιθέτως ένα μειονέκτημα είναι ότι απαιτείται γνώσ η για την κατανομή της παρατηρούμενης διαδικασ ίας. [12] Κρυφά μοντέλα Markov Τα κρυφά μοντέλα Markov, αλλά και παραλλαγές αυτών έχουν αποδειχθεί χρήσ ιμα σ ε προβλήματα που αντιμετωπίζει ένα γνωσ τικό ραδιοσ ύσ τημα.παρακάτω δίνονται σ υνοπτικά μερικές από τις αναφορές αυτής της μεθόδου σ τη βιβλιογραφία. [12][41] Στο [42] ένας ευρυζωνικός ηχοβολισ τής (sounder) καναλιού χρησ ιμοποιείται σ ε σ υνδυασ μό με ένα γενετικό αλγόριθμο για την μοντελοποίησ η του καναλιού.ο αλγόριθμος αυτός χρησ ιμοποιείται για την εκπαίδευσ η ενός ΗΜΜ, το οποίο αποτελεί μία σ υμπαγή αναπαράσ τασ η του διαύλου.τα αποτελέσ ματα του ΗΜΜ λαμβάνονται υπόψιν από το γνωσ τικό ραδιοσ ύσ τημα για την προσ αρμογή αυτού σ τις σ υνθήκες του περιβάλλοντός του. 82

101 4.1 Εφαρμογές μηχανικής μάθησ ης σ ε γνωσ τικά ραδιοσ υσ τήματα Στο [3] τα ΗΜΜ χρησ ιμοποιούνται για μοντελοποιήσ η καναλιού με τελικό σ τόχο την πρόβλεψη των σ τατισ τικών χαρακτηρισ τικών αυτού. Επιπλέον σ τη βιβλιογραφία [2] τα ΗΜΜ χρησ ιμοποιούνται για πρόβλεψη της κατάληψης του φάσ ματος, ενώ σ τόχος είναι η επιλογή του καλύτερου δυνατού καναλιου (με την έννοια της ελαχισ τοποίησ ης των παρεμβολών).αυτό γίνεται προβλέποντας τη διάρκεια κατά την οποία τα κανάλια είναι ελεύθερα και εξασ φαλίζοντας την έγκαιρη εγκατάλειψή τους (δηλαδή πριν την εμφάνισ η κάποιου πρωτεύοντα χρήσ τη). Στο [52] εκτός από νευρωνικό δίκτυο (όπως αναφέραμε παραπάνω) χρησ ιμοποιείται και ένα ΗΜΜ για την πρόβλεψη της κατάσ τασ ης του καναλιού. Στο [14] χρησ ιμοποιούνται ΗΜΜ για την μοντελοποίησ η της κίνησ ης των πρωτευόντων χρησ τών, λαμβάνοντας υπόψιν παραμέτρους όπως ισ χύς σ ήματος και χρόνος παραμονής σ ε ενεργές και μη ενεργές κατασ τάσ εις για τον πρωτεύοντα χρήσ τη.οι παράμετροι αυτοί εκτιμώνται με τη χρήσ η του αλγορίθμου μεγισ τοποίησ ηςπροσ δοκίας (expectation-maximization). Το πλεονέκτημα των ΗΜΜ έιναι ότι μπορούν να εφαρμοσ τούν με επιτυχία σ ε ένα μεγάλο εύρος προβλημάτων, ενώ ως μειονέκτημα αναφέρουμε την υψηλή υπολογισ τική πολυπλοκότητα των σ χετικών αλγορίθμων μάθησ ης καθώς και την ανάγκη ύπαρξης ενός μεγάλου αριθμού παλιών παρατηρήσ εων. [41] Μάθησ η κατά Bayes Η μάθησ η κατά Bayes έχει χρησ ιμοποιηθεί σ τη βιβλιογραφία για την εκμάθησ η γνωσ τικών ραδιοσ υσ τημάτων.παρακάτω δίνονται σ υνοπτικά μερικές από τις αναφορές αυτής της μεθόδου σ τη βιβλιογραφία. [12][41] Μία σ ημαντική εφαρμογή αποτελεί η αναγνώρισ η των μοτίβων κίνησ ης των πρωτευόντων χρησ τών με τη χρήσ η μη παραμετρικών τεχνικών Bayes [43].Το σ ενάριο που περιγράφεται σ ε αυτή τη δημοσ ίευσ η αφορά ένα σ ύνολο δευτερευόντων χρησ τών που σ υνεργάζονται σ τα πλαίσ ια ενός παιγνίου σ υνασ πισ μού και δημιουργούν μία ή περισ σ ότερες ομάδες με βάσ η ένα αλγόριθμο σ υνεργατικού σ χηματισ μού σ υνασ πισ μών.η κάθε ομάδα χρησ ιμοποιεί την παραπάνω τεχνική για να εκτιμήσ ει τα μοτίβα κίνησ ης των πρωτευόντων χρησ τών. Στο [24] αναλύεται η μοντελοποίησ η ενός σ εναριόυ ανάθεσ ης φάσ ματος με χρήσ η δημοπρασ ιών.οι δευτερεύοντες χρήσ τες πληρώνουν το κόσ τος χρήσ ης του φάσ ματος (εφόσ ον πλειοδοτήσ ουν για το αντίσ τοιχο κομμάτι) και το κόσ τος για τη διενέργεια της λειτουργίας της φασ ματικής ανίχνευσ ης.το παίγνιο που σ χηματίζεται τελικά είναι ένα δυναμικό παίγνιο μερικής πληροφορίας και για την επίλυσ η αυτού χρησ ιμοποιείται ένα Μπευζιανό μη παραμετρικό σ χήμα ανανέωσ ης πίσ τεως (Bayesian nonparametric belief update scheme). Στο [68] μοντελοποιείται η διαδικασ ία αναγνώρισ ης φάσ ματος με ένα μη σ τάσ ιμο κρυφό μοντέλο Markov (Non-Stationary Hidden Markov Model-NSHMM) και 83

102 Chapter 4 Εφαρμογές μηχανικής μάθησ ης σ ε γνωσ τικά ραδιοσ υσ τήματα χρησ ιμοποιείται η μέθοδος του σ υμπερασ μού κατά Bayes (Bayesian inference) με δειγματοληψία Gibbs (Gibbs sampling) για την εκτίμησ η των παραμέτρων αυτού.οι παράμετροι αυτοί χρησ ιμοποιούνται για την εκτίμησ η της ποιότητας του καναλιού Νοημοσ ύνη σ μήνους Αλγόριθμοι νοημοσ ύνης σ μήνους χρησ ιμοποιούνται σ ε διάφορα προβλήματα γνωσ τικών ραδιοσ υσ τημάτων.παρακάτω δίνονται σ υνοπτικά μερικές από τις αναφορές αυτής της μεθόδου σ τη βιβλιογραφία. [41] Στο [35] χρησ ιμοποιείται ένας προσ αρμοσ τικός διακριτός αλγόριθμος βελτισ τοποίησ ης σ μήνους σ ωματιδίων (particle swarm optimization) για την επιλογή των παραμέτρων λειτουργίας έτσ ι ώσ τε να επιτυγχάνεται το επιθυμητό Quality Of Service (QoS). Μία άλλη εφαρμογή υπάρχει σ το [73], όπου ένας αλγόριθμος αποικίας μυρμηγκιών χρησ ιμοποιείται για την σ χεδίασ η μίας γνωσ τικής μηχανής με εξαιρετικά αποτελέσ ματα. 4.2 Πρόβλεψη φάσ ματος(spectrum Prediction) Εισ αγωγή Μία σ ημαντική λειτουργία που απαιτείται για την ολοκληρωμένη λειτουργία ενός γνωσ τικού ραδιοσ υσ τήματος είναι η πρόβλεψη φάσ ματος (spectrum prediction).δηλαδή η πρόβλεψη των διαφόρων χαρακτηρισ τικών του φάσ ματος με σ τόχο την αποδοτικότερη και πιο επιτυχημένη αξιοποίησ ή του.συγκεκριμένα σ την πρόβλεψη φάσ ματος περιλαμβάνονται λειτουργίες όπως [67] η πρόβλεψη των ενεργειών του πρωτεύοντα χρήσ τη, η πρόβλεψη του ρυθμού μετάδοσ ης, η πρόβλεψη του ηλεκτρομαγνητικού περιβάλλοντος, η πρόβλεψη της κατάσ τασ ης του καναλιού, κτλ.η πρόβλεψη φάσ ματος μπορεί να υπεισ έλθει και σ τις τέσ σ ερεις θεμελιώδεις λειτουργίες των γνωσ τικών ραδιοσ υσ τημάτων.η παρουσ ίασ η που ακολουθεί βασ ίζεται σ το [67] Ανάγκη ύπαρξης μηχανισ μών πρόβλεψης φάσ ματος Σε γενικές γραμμές η εκτέλεσ η οποιασ δήποτε λειτουργίας ενός γνωσ τικού ραδιοσ υσ τήματος έχει ως αποτέλεσ μα χρονικές καθυσ τερήσ εις.κατά σ υνέπεια η αξιοποίησ η του φάσ ματος μειώνεται, η ακρίβεια της ανίχνευσ ης υποβαθμίζεται και γίνεται πιο δύσ κολη η επίτευξη των σ τόχων.η πρόβλεψη φάσ ματος μπορεί να χρησ ιμοποιηθεί για την λύσ η (μερική ή ολική) των παραπάνω προβλημάτων.πιο σ υγκεκριμένα η ανάγκη ύπαρξης μηχανισ μών πρόβλεψης φάσ ματος πηγάζει από τις παρακάτω κατασ τάσ εις που ανακύπτουν σ τα διάφορα σ ενάρια χρήσ ης γνωσ τικών ραδιοσ υσ τημάτων. [67] 84

103 4.2 Πρόβλεψη φάσ ματος(spectrum Prediction) Φασ ματική ανίχνευσ η Η σ άρωσ η και η αναγνώρισ η όλου του φάσ ματος επιφέρει σ ημαντικές καθυσ τερήσ εις σ την λειτουργία του σ υσ τήματος.θα ήταν πολύ χρήσ ιμο να υπάρχει κάποιος μηχανισ μός πρόβλεψης της κατάσ τασ ης του φάσ ματος ώσ τε η λειτουργία της ανίχνευσ ης να χρησ ιμοποιείται λιγότερο, με ότι αυτό σ υνεπάγεται για τις καθυσ τερήσ εις και την κατανάλωσ η ενέργειας. Φασ ματική απόφασ η Το γεγονός ότι κατά την λειτουργία της φασ ματικής ανίχνευσ ης, αλλά και απόφασ ης υπεισ έρχονται καθυσ τερήσ εις θέτει εμπόδια σ την λήψη επιτυχημένων αποφάσ εων. Οι καθυσ τερήσ εις αυτές οφείλονται σ το γεγονός ότι χρειάζεται ο προσ διορισ μός αρκετών παραμέτρων (είτε άμεσ ος προσ διορισ μός μέσ ω της διαδικασ ίας της φασ ματικής ανίχνευσ ης είτε έμμεσ ος με το υπολογισ μό παραμέτρων που προκύπτουν από άλλες θεμελιώδεις) για την ικανοποιητική λήψη αποφάσ εων.κατά σ υνέπεια υπάρχει υποβάθμισ η της αποδοτικής αξιοποίησ ης του φάσ ματος. Φασ ματική κινητικότητα Στα περισ σ ότερα σ ενάρια κινητικότητας χρησ τών ο δευτερεύων χρήσ της εκκενώνει το τμήμα του φάσ ματος που καταλαμβάνει τη σ τιγμή κατά την οποία ο πρωτεύων χρήσ της ξεκινάει να εκπέμπει σ ε αυτό.αυτό εκτός από την παρεμβολή που προκαλεί σ τον πρωτεύων χρήσ τη διακόπτει και την εκπομπή του δευτερεύοντα χρήσ τη για χρόνο ίσ ο με το χρόνο που απαιτείται για την εκ νέου ανίχνευσ η των φασ ματικών οπών και την μεταπομπή.είναι προφανές ότι ένας μηχανισ μός πρόβλεψης των κινήσ εων του πρωτεύοντα χρήσ τη (για την πρόβλεψη της άφιξής του σ το κανάλι που βρίσ κεται ο δευτερεύων χρήσ της) αλλά και της διαθεσ ιμότητας των φασ ματικών οπών σ το μέλλον (για την άμεσ η και γρήγορη μεταπομπή) είναι πολύ χρήσ ιμος για το σ υγκεκριμένο σ ενάριο. Φασ ματικός διαμοιρασ μός Οι απαιτήσ εις των δευτερευόντων χρησ τών σ ε διάφορους πόρους (εύρος ζώνης, Quality Of Service, ισ χύς, κτλ.) καθισ τά την διαδικασ ία ανάθεσ ης φάσ ματος δύσ κολη τόσ ο ως προς την ικανοποίησ η των απαιτήσ εων όλων αυτών με το δικαιότερο τρόπο όσ ο και ως προς το χρόνο που απαιτείται για να υπολογισ τεί αυτή η ανάθεσ η.συνεπώς δεν επιτυγχάνεται ικανοποιητική αξιοποίησ η του φάσ ματος, οι απαιτήσ εις των δευτερευόντων χρησ τών δεν ικανοποιούνται, ενώ προκύπτουν διαρκώς καθυσ τερήσ εις.το πρόβλημα θα μπορούσ ε να μετριασ τεί με τη χρήσ η κάποιου μηχανισ μού πρόβλεψης των απαιτήσ εων αλλά και των σ υμπεριφορών των δευτερευόντων χρησ τών Σενάρια χρήσ ης τεχνικών πρόβλεψης Η χρήσ η τεχνικών πρόβλεψης είναι απαραίτητη για την αντιμετώπισ η των παραπάνω προβλημάτων.παρακάτω παρουσ ιάζουμε σ υνοπτικά μερικά σ ενάρια χρήσ ης τεχνικών πρόβλεψης φάσ ματος με βάσ η το [67]. 85

104 Chapter 4 Εφαρμογές μηχανικής μάθησ ης σ ε γνωσ τικά ραδιοσ υσ τήματα Φασ ματική ανίχνευσ η Στη λειτουργία αυτή μπορεί να αποδειχθεί χρήσ ιμη η πρόβλεψη της κατάσ τασ ης του καναλιού (channel status prediction), δηλαδή αν είναι ελέυθερο (idle) ή κατειλλημένο (busy).με αυτόν τον τρόπο το σ ύσ τημα μπορεί να εκμεταλλευτεί τη γνώσ η για πιθανές φασ ματικές οπές πριν τον χρόνο εμφάνισ ής τους, αλλά και να αποφύγει την ανίχνευσ η τμημάτων φάσ ματος που προβλέπεται ότι θα είναι κατειλλημένα (γλιτώνοντας με αυτό τον τρόπο χρόνο και κατανάλωσ η ενέργειας). Φασ ματική απόφασ η Στη λειτουργία αυτή η πρόβλεψη μπορεί να χρησ ιμοποιηθεί για την εκτίμησ η των μελλοντικών τιμών διαφόρων χαρακτηρισ τικών του φάσ ματος.μερικά από τα χαρακτηρισ τικά αυτά είναι η χωρητικότητα του καναλιού, η ποιότητα του καναλιού, η καθυσ τέρησ η εναλλαγής (switching delay), ο χρόνος που ένα κανάλι είναι ελεύθερο (idle delay), ο ρυθμός μετάδοσ ης των δεδομένων (transmission rate), κτλ.επιπλέον τεχνικές πρόβλεψης μπορούν να χρησ ιμοποιηθούν για την πρόβλεψη των ενεργειών των πρωτευόντων χρησ τών (PU activity prediction), για την πρόβλεψη του ηλεκτρομαγνητικού περιβάλλοντος (radio enviroment prediction), κτλ. Εχοντας προβλέψει τα παραπάνω χαρακτηρισ τικά μπορούμε να αξιοποιήσ ουμε αυτήν την πληροφορία για τη βέλτισ τη επιλογή καναλιών και παραμέτρων λειτουργίας. Φασ ματική κινητικότητα Στην λειτουργία αυτή οι τεχνικές προβλεψης μπορούν να χρησ ιμοποιηθούν ώσ τε ο δευτερεύων χρήσ της να προβλέψει το χρόνο εμφάνισ ης του πρωτεύοντα χρήσ τη με σ τόχο την εκκένωσ η του καναλιού πριν την εμφάνισ ή του.επιπλέον μπορεί να πραγματοποιηθεί πρόβλεψη για τα χαρακηρισ τικά των καναλιών από τη χρονική σ τιγμή εμφάνισ ης του πρωτεύοντα χρήσ τη σ το τρέχον κανάλι και την επιλογή του βέλτισ του από αυτά.στόχος της τελευταίας τεχνικής είναι η μεταπομπή σ ε νέο κανάλι όταν αυτή απαιτηθεί το οποίο έχει αποφασ ισ τεί από πριν αποφεύγοντας με αυτόν τον τρόπο διάφορες καθυσ τερήσ εις που υπεισ έρχονται λόγω της ανίχνευσ ης και της επιλογής φάσ ματος.αυτή η σ τρατηγική μεταπομπών ονομάζεται καθαρά προνοητική σ τρατηγική μεταπομπής (pure proactive handoff strategy). Φασ ματικός διαμοιρασ μός Οι τεχνικές πρόβλεψης μπορούν να σ υμβάλλουν σ την πρόβλεψη των απαιτήσ εων των δευτερευόντων χρησ τών σ ε πόρους (φάσ μα, εύρος ζώνης, Quality Of Service, χρόνος, κτλ.) αλλά και της γενικότερης σ υμπεριφοράς τους.η πρόβλεψη αυτή είναι χρήσ ιμη γιατί μπορεί με αυτό τον τρόπο το κεντρικό σ ύσ τημα να προχωρήσ ει σ την αναθέσ η του φάσ ματος πριν την εμφάνισ η των δευτερευόντων χρησ τών.με αυτό το τρόπο αποφεύγεται η καθυσ τέρησ η που απορρέει από την προσ πάθεια (η οποία γίνεται σ ε πραγματικό χρόνο) ικανοποίησ ης των απαιτήσ εων των δευτερευόντων χρησ τών. 86

105 4.2 Πρόβλεψη φάσ ματος(spectrum Prediction) Είναι προφανές από τα παραπάνω ότι οι τεχνικές πρόβλεψης φάσ ματος μπορούν να αποδειχθούν πολύ χρήσ ιμες σ την εκτέλεσ η των λειτουργιών των γνωσ τικών ραδιοσ υσ τημάτων. [67] Μειώνουν τις καθυσ τερήσ εις, τις παρεμβολές, την κατανάλωσ η ενέργειας, και βελτιώνουν το throughput.μάλισ τα σ ε μερικές περιπτώσ εις είναι απαραίτητες.βέβαια υπάρχουν και μερικά μειονεκτήματα της χρήσ ης των τεχνικών αυτών όπως οι υψηλές υπολογισ τικές απαιτήσ εις μερικών μεθόδων σ ε χρόνο και μνήμη, το οποίο φυσ ικά σ υνοδεύεται από αυξημένη κατανάλωσ η ενέργειας. Ανάμεσ α σ τις τεχνικές πρόβλεψης που έχουν χρησ ιμοποιηθεί σ τη βιβλιογραφία περιλαμβάνονται οι εξής: [67] Νευρωνικά δίκτυα (Neural networks) Κρυφά μοντέλα Markov (Hidden Markov Models) Συμπερασ μός κατα Bayes (Bayesian inference) Κινούμενος μέσ ος (Moving-Average) Μοντέλα αυτοσ υσ χέτισ ης (Autoregressive Models) Γράφος σ τατικού γείτονα (Static Neighbor Graph) Οι πρώτες τρείς μέθοδοι αποτελούν σ ημαντικές τεχνικές μηχανικής μάθησ ης και η περιγραφή τους βρίσ κεται σ το κεφάλαιο 3.Οι επόμενες τρείς μέθοδοι δεν ανήκουν σ το καθαρό κομμάτι της μηχανικής μάθησ ης και για αυτό το λόγο δεν θα αναφερθούμε σ ε αυτές, αλλά ούτε και σ ε εφάρμογές αυτών σ ε ζητήματα πρόβλεψης σ ε γνωσ τικά ραδιοσ υσ τήματα Η πρόβλεψη φάσ ματος σ τη βιβλιογραφία Στη βιβλιογραφία υπάρχουν δημοσ ιεύσ εις σ τις οποίες χρησ ιμοποιούνται τεχνικές πρόβλεψης (με τη χρήσ η αλγορίθμων μηχανικής μάθησ ης) σ ε διάφορα σ ενάρια χρήσ ης των γνωσ τικών ραδιοσ υσ τημάτων, όπως περιγράψαμε παραπάνω. [67] Στο [52] ακολουθείται ένα απλό μοντέλο κατάληψης φάσ ματος σ ύμφωνα με το οποίο υπάρχει ένα κανάλι που αποτελείται από k χρονικές σ χισ μές (time slots).σε κάθε χρονική σ χισ μή αντισ τοιχεί μία κατάσ τασ η, η οποία δείχνει αν το κανάλι είναι ελεύθερο (I-Idle) ή κατειλλημένο (B-Busy).Η κίνησ η του καναλίου μοντελοποιείται με κατανομή Poisson (διακριτού χρόνου), ενώ καθορίζεται από παραμέτρους όπως η έντασ η κίνησ ης (traffic intensity) και ο μέσ ος χρόνος μεταξύ αφίξεων (mean inter-arrival time).για την πρόβλεψη της κίνησ ης ενός τέτοιου καναλιού χρησ ιμοποιούνται νευρωνικά δίκτυα και κρυφά μοντέλα Markov.Τα αποτελέσ ματα που προκύπτουν είναι ικανοποιητικά καθώς επιτυγχάνονται ποσ οσ τά αποτυχίας γύρω σ το 5-10%.Μελετώνται διαφορετικά σ ενάρια κίνησ ης, μεταβάλλοντας την έντασ η κίνησ ης, το μέσ ο χρόνο μεταξύ αφίξεων και χρησ ιμοποιώντας μη σ τατικές σ υνθήκες κίνησ ης (οι παράμετροι της κίνησ ης μεταβάλλονται με το χρόνο).επιπλέον μελετώνται διάφορες μετρικές απόδοσ ης, όπως είναι η βελτίωσ η της αξιοποίησ ης του φάσ ματος (spectrum utilization) και η μείωσ η της ενέργειας που χρησ ιμοποιείται για την αναγνώρισ η φάσ ματος. 87

106 Chapter 4 Εφαρμογές μηχανικής μάθησ ης σ ε γνωσ τικά ραδιοσ υσ τήματα Στο [13] χρησ ιμοποιείται μία παραλλαγή ενός ΗΜΜ, ενώ υποθέτουμε ότι υπάρχει μόνο ένας δευτερεύοντας χρήσ της (single-su).στόχος είναι η πρόβλεψη της κατάσ τασ ης του καναλιού (channel state prediction).η ανάγκη για αυτήν την πρόβλεψη πηγάζει από την εισ αγωγή καθυσ τερήσ εων σ την αντίδρασ η του σ υσ τήματος σ τις μεταβολές του περιβάλλοντος, πράγμα που οφείλεται σ το hardware που χρησ ιμοποιείται.αυτό έχει ως αποτέλεσ μα την υποβάθμισ η της ακρίβειας της διαδικασ ίας ανίχνευσ ης φάσ ματος.για την αξιολόγησ η της μεθόδου και την επιβεβαίωσ η της πετυχημένης λειτουργίας της γίνονται πειράματα με πραγματικά σ ήματα Wi-Fi. Στο [68] μοντελοποιείται η διαδικασ ία αναγνώρισ ης φάσ ματος με ένα μη-σ τάσ ιμο κρυφό μοντέλο Markov (Non-Stationary Hidden Markov Model-NSHMM).Το μοντέλο αυτό είναι κατάλληλο, γιατί μπορεί να σ υμπεριλάβει το γεγονός ότι οι πιθανότητες μεταβάσ εων μεταξύ των κατασ τάσ εων εξαρτώνται από τον χρόνο που ο πρωτεύων χρήσ της βρίσ κεται σ ε μία κατάσ τασ η.για την εκτίμησ η των παραμέτρων του μοντέλου (αναμενόμενη διάρκεια κατασ τάσ εων και ακρίβεια φασ ματικής ανίχνευσ ης) χρησ ιμοποιούμε την μέθοδο του σ υμπερασ μού κατά Bayes (Bayesian inference) με δειγματοληψία Gibbs (Gibbs sampling).οι παράμετροι αυτοί χρησ ιμοποιούνται για την εκτίμησ η της ποιότητας του καναλιού.η μετρική που χρησ ιμοποιείται για την περιγραφή της ποιότητας του καναλιού λαμβάνει υπόψιν το χρόνο τον οποίο το κανάλι είναι ελέυθερο και την ακρίβεια της ανίχνευσ ης φάσ ματος.τέλος εξετάζονται δύο σ ενάρια χρήσ ης της παραπάνω μεθόδου. Στο [46] επισ τρατεύεται ένα ΗΜΜ για την πρόβλεψη της κατάσ τασ ης του καναλιού και χρησ ιμοποιείται ένας δυναμικός αλγόριθμος επιλογής σ υχνοτήτων (Dynamic Frequency Selection) για την δέσ μευσ η των καναλιών προς χρήσ η.στόχος της παραπάνω μεθόδου είναι η αύξησ η του throughput και η μείωσ η του χρόνου κατά τον οποίο το σ ύσ τημα δέχεται παρεμβολή. Στο [2] χρησ ιμοποιείται ένα ΗΜΜ για την εφαρμογή μίας καθαρά προνοητικής σ τρατηγικής φασ ματικής κινητικότητας.δηλαδή ο δευτερεύων χρήσ της προβλέπει τη διάρκεια κατά την οποία το τρέχων κανάλι θα είναι ελεύθερο και φροντίζει ώσ τε να το εγκαταλείψει εγκαίρως, αποφεύγοντας με αυτόν τον τρόπο σ υγκρούσ εις με πρωτεύοντες χρήσ τες.συγκεκριμένα η κίνησ η σ το κανάλι σ ημειώνεται με 0 όταν αυτό δεν χρησ ιμοποιείται και με 1 σ ε αντίθετη περίπτωσ η.το ΗΜΜ χρησ ιμοποείται για την πρόβλεψη των μελλοντικών κατασ τάσ εων του καναλιού.αν η πρόβλεψη είναι 1 τότε το κανάλι εκκενώνεται εγκαίρως, ενώ σ ε αντίθετη περίπτωσ η σ υνεχίζεται η εκπομπή. Figure 4.1: Αναφορές πρόβλεψης φάσ ματος σ τη βιβλιογραφία Δημοσ ίευσ η Τεχνική προβλεψης Εφαρμογή [52] ΝΝ και ΗΜΜ Φασ ματική ανίχνευσ η [13] παραλλαγή HMM Φασ ματική απόφασ η [68] Μάθησ η Bayes Φασ ματική ανίχνευσ η και απόφασ η [46] ΗΜΜ Φασ ματική κινητικότητα [2] ΗΜΜ Φασ ματική κινητικότητα Στην εικόνα 4.1 δίνουμε μία σ υνοπτική παρουσ ίασ η των αναφορών που υπάρχουν σ την 88

107 4.2 Πρόβλεψη φάσ ματος(spectrum Prediction) βιβλιογραφία και τις οποίες περιγράψαμε παραπάνω. 89

108

109 5 Εφαρμογή μεθόδων μηχανικής μάθησ ης σ την πρόβλεψη φάσ ματος 5.1 Εισ αγωγή Στο κεφάλαιο αυτό θα χρησ ιμοποιήσ ουμε διάφορες τεχνικές μηχανικής μάθησ ης με σ τόχο την πρόβλεψη της κατάσ τασ ης ενός καναλιού.αρχικά θα ορίσ ουμε το μοντέλο με βάσ η το οποίο περιγράφουμε την κατάσ τασ η του καναλιού, τα διάφορα σ ενάρια χρήσ ης αυτού, καθώς και διάφορα μεγέθη που χρησ ιμοποιούνται για την περιγραφή του.στη σ υνέχεια θα αναφερθούμε σ τις μεθόδους μηχανικής μάθησ ης που θα χρησ ιμοποιήσ ουμε καθώς και σ τις τιμές των παραμέτρων αυτών των μεθόδων που επιλέχθηκαν.το επόμενο βήμα είναι να εκτελέσ ουμε τους αλγορίθμους μάθησ ης με βάσ η διάφορα σ ενάρια προσ ομοίωσ ης και να εξάγουμε τα αποτελέσ ματα που προκύπτουν.τέλος από την επεξεργασ ία των αποτελεσ μάτων θα εξάγουμε σ υμπεράσ ματα, ενώ θα επιχειρηθεί μία ποιοτική και ποσ οτική ερμηνεία αυτών με τη χρήσ η διαφόρων μετρικών επίδοσ ης.το μοντέλο, οι μετρικές, οι παράμετροι και οι περισ σ ότερες μέθοδοι που θα χρησ ιμοποιηθούν παρακάτω ακολουθούν το [52].Πριν όμως αναφερθούμε σ ε όλα αυτά θα κάνουμε μία σ ύντομη επισ κόπησ η των μοντέλων κίνησ ης, η οποία είναι απαραίτητη για την περιγραφή του μοντέλου που θα ορίσ ουμε παρακάτω. 5.2 Επισ κόπησ η μοντέλων κίνησ ης Θα παρουσ ιάσ ουμε σ υνοπτικά μερικές βασ ικές έννοιες μοντελοποίησ ης τηλεπικοινωνιακής κίνησ ης βασ ισ μένοι σ το [19].Στο πιο απλό μοντέλο έχουμε μονές αφίξεις διακριτών αντικειμένων.κάθε ένα από αυτά τα αντικείμενα χαρακτηρίζεται από ένα χρόνο άφιξης T i.το μοντέλο αυτό μπορεί να περιγραφεί με τη χρήσ η σ ημειακών διαδικασ ιών (Point process).μία σ ημειακή διαδικασ ία είναι μία ακολουθία τιμών T 1, T 2,..., T n που αντισ τοιχεί σ το χρόνο άφιξης των αντικειμένων σ το κανάλι.θεωρούμε ότι T 0 = 0.Οι σ ημειακές διαδικασ ίες έχουν δύο ισ οδύναμες αναπαρασ τάσ εις, ως διαδικασ ίες χρόνου μεταξύ αφίξεων και ως διαδικασ ίες απαρίθμησ ης. Μία διαδικασ ία χρόνου μεταξύ αφίξεων (inter-arrival time process) ορίζεται ως [19] μία τυχαία μη αρνητική ακολουθία {A n } n=1, όπου A n = T n T n 1.Δηλαδή το A n 91

110 Chapter 5 Εφαρμογή μεθόδων μηχανικής μάθησ ης σ την πρόβλεψη φάσ ματος είναι ο χρόνος μεταξύ της άφιξης n 1 και n.μία διαδικασ ία απαρίθμησ ης (counting process) είναι [19] μία σ υνεχούς χρόνου μη αρνητική σ τοχασ τική ανέλιξη {N(t)} t=0, η οποία περιγράφει τον αριθμό των αφίξεων των αντικειμένων σ ε ένα σ υγκεκριμένο χρονικό διάσ τημα [0, t).με άλλα λόγια ισ χύει ότι N(t) = max {n : T n t}. Μπορούμε να επεκτείνουμε το αρχικό μοντέλο ορίζοντας έννοιες όπως αυτή της παρτίδας και του φόρτου εργασ ίας.στο μοντέλο σ ύνθετης κίνησ ης (compound traffic) με παρτίδες (batch) [19] σ ε κάθε άφιξη (που αντισ τοιχεί σ ε κάποιο χρόνο T i ) έχουμε μία παρτίδα αντικειμένων, η οποία μπορεί να αποτελείται από περισ σ ότερα από ένα αντικείμενα.για την περιγραφή αυτού του είδους μοντέλου εισ άγουμε την παράμετρο {B n } n=1, μία μη αρνητική τυχαία ακολουθία, η οποία αντισ τοιχεί σ τον αριθμό των αντικειμένων που αφίκνυνται σ ε κάθε χρονική σ τιγμή άφιξης T i.επιπλέον μπορούμε να επεκτείνουμε περαιτέρω το μοντέλο εισ άγοντας την παράμετρο του φόρτου εργασ ίας (workload) [19].Πρόκειται για μία τυχαία ακολουθία {W n } n=1, η οποία περιγράφει την ποσ ότητα του έργου που πρέπει να διεκπεραιωθεί εξαιτίας της άφιξης του n-οσ τού αντικειμένου. Καταιγισ μός κίνησ ης (traffic burstiness) είναι [19] το φαινόμενο που εμφανίζει μία διαδικασ ία κίνησ ης όταν σ την ακολουθία {T n } n=1 των χρόνων άφιξης εμφανίζονται πυκνώσ εις (εαν αναπαρασ τήσ ουμε οπτικά την ακολουθία).με άλλα λόγια σ την ακολουθία {A n } n=1 των χρόνων μεταξύ των αφίξεων παρατηρούνται εντάσ εις, όπου έχουμε μια υποακολουθία (σ την ουσ ία ένα τμήμα της {A n } n=1 που αποτελείται από διαδοχικούς όρους) από μικρούς χρόνους, η οποία ακολουθείται από ένα μεγάλο χρόνο.το μοτίβο αυτό επαναλαμβάνεται σ ε όλο το μήκος της ακολουθίας. Σε ένα μοντέλο ανανέωσ ης κίνησ ης (renewal traffic model) [19] η ακολουθία των χρόνων μεταξύ των αφίξεων {A n } n=1 αποτελείται απο ανεξάρτητες όμοια κατανεμημένες μεταβλητές (independent identically distributed).δεν υπάρχει περιορισ μός ως προς το είδος της κατανομής που αντισ τοιχεί σ ε αυτές τις μεταβλητές. Μερικά βασ ικά μοντέλα κίνησ ης δίνονται παρακάτω. [19] Μοντέλο διαδικασ ίας Poisson Σε μία διαδικασ ία Poisson (Poisson process) ο χρόνος μεταξύ των αφίξεων {A n } n=1 ακολουθεί την εκθετική κατανομή με παράμετρο λ.η παράμετρος αποτελεί τη μέσ η τιμή και τη διασ πορά της αντίσ τοιχης κατανομής και εκφράζει το μέσ ο αριθμό αφίξεων σ ε κάθε χρονική μονάδα.η σ υνάρτησ η κατανομής πιθανότητας δίνεται από τη σ χέσ η P (t) = P {A n t} = 1 e λt, ενώ η σ υνάρτησ η πυκνότητας πιθανότητας από την σ χέσ η p(t) = λe λt. Η χρησ ιμότητα της διαδικασ ίας Poisson αποτελεί απόρροια μερικών βασ ικών ιδιοτήτων της.αυτές είναι οι εξής [8], [19]: Η υπέρθεσ η n διαδικασ ιών Poisson με παράμέτρους λ 1, λ 2,..., λ n είναι μία νέα διαδικασ ία Poisson με παράμετρο λ = λ 1 + λ λ n. 92

111 5.3 Μοντέλο προσ ομοίωσ ης Η ιδιότητα των ανεξάρτητων αυξήσ εων (independent increments property), σ ύμφωνα με την οποία οι χρόνοι μεταξύ των αφίξεων σ ε μη επικαλυπτόμενα διασ τήματα είναι ανεξάρτητες μεταβλητές.αυτή η ιδιότητα καθισ τά την διαδικασ ία Poisson μία διαδικασ ία χωρις μνήμη (memoryless). Το θεώρημα Palm-Khintchine το οποίο λέει ότι εαν οι ροές κίνησ ης μπορούν να μοντελοποιηθούν ως διαδικασ ίες ανανέωσ ης και η αύξησ η του αριθμού των ροών οδηγεί σ ε μείωσ η του ατομικού ρυθμού, ωσ τέ ο σ υνολικός ρυθμός να παραμένει σ ταθερός τότε ο σ υνδυασ μός ανεξάρτητων ροών κίνησ ης προσ εγγίζει την κατανομή Poisson. Μοντέλο διαδικασ ίας Bernoulli Η διαδικασ ία Bernoulli (Bernoulli process) είναι η αντίσ τοιχη της διαδικασ ίας Poisson σ τον διακριτό χρόνο.σε μία διαδικασ ία Bernoulli ο χρόνος μεταξύ αφίξεων ακολουθεί γεωμετρική κατανομή με παράμετρο p ίσ η με τον αριθμό αφίξεων ανα χρονική μονάδα.δηλαδή ισ χύει ότι P (A n = i) = p(1 p) i για κάποιο i > Μοντέλο προσ ομοίωσ ης Το μοντέλο που θα χρησ ιμοποιήσ ουμε βασ ίζεται σ το [52] και είναι το εξής. Εσ τω ένα κανάλι, το οποίο μπορεί να εξυπηρετεί ένα χρήσ τη κάθε χρονική σ τιγμή.θεωρούμε ότι το κανάλι αυτό χαρακτηρίζεται την κάθε χρονική σ τιγμή από την κατάσ τασ ή του, η οποία μπορεί να λάβει τις τιμές ελεύθερο (idle-i) ή δεσ μευμένο (busy-b), όταν δεν υπάρχει ή υπάρχει κάποιος χρήσ της που το χρησ ιμοποιεί αντίσ τοιχα.να σ ημειώσ ουμε ότι λέγοντας χρονική σ τιγμή εννοούμε κάποιο απροσ διόρισ το χρονικό διάσ τημα (δεν μπορούμε να το προσ διορίσ ουμε σ ε δευτερόλεπτα), το οποίο για εμάς θεωρείται η χρονική μονάδα.με βάσ η τα παραπάνω μπορούμε να φαντασ τούμε το μοντέλο ως μία ακολουθία από χρονοσ χισ μές (time slots).κάθε χρονοσ χισ μή αντισ τοιχεί σ ε μία σ υγκεκριμένη χρονική περίοδο και χαρακτηρίζεται από μία κατάσ τασ η (ελεύθερο ή δεσ μευμένο).να σ ημειώσ ουμε ότι το μοντέλο κίνησ ης που θα χρησ ιμοποιήσ ουμε αποτελεί μία παραλλαγή του μοντέλου κίνησ ης Bernoulli.Στην εικόνα 5.1 απεικονίζεται ένα σ τιγμιότυπο του μοντέλου προσ ομοίωσ ης. 5.4 Παράμετροι μοντέλου Αρχικά να σ ημειώσ ουμε ότι όταν αναφερόμασ τε σ ε διασ τήματα ελεύθερων ή δεσ μευμένων κατασ τάσ εων εννοούμε τα τμήματα εκείνα της ακολουθίας τα οποία αποτελούνται από 93

112 Chapter 5 Εφαρμογή μεθόδων μηχανικής μάθησ ης σ την πρόβλεψη φάσ ματος Figure 5.1: Μοντέλο προσ ομοίωσ ης.αποτελείται από μία ακολουθία χρονοσ χισ μών, σ ε καθεμία από τις οποίες αντισ τοιχεί μία κατάσ τασ η (ελεύθερο ή δεσ μευμένο). διαδοχικές χρονοσ χισ μές με ελεύθερη ή δεσ μευμένη κατάσ τασ η αντίσ τοιχα (ακόμα και αν πρόκειται για μία μόνο χρονοσ χισ μή).επιπλέον ως πλήρες διάσ τημα ορίζουμε ένα διάσ τημα ελεύθερων κατασ τάσ εων ακολουθούμενο από το αντίσ τοιχο διάσ τημα δεσ μευμένων κατασ τάσ εων (εννοείτε ότι μετά ακολουθεί διάσ τημα ελεύθερων κατασ τάσ εων, κ.ο.κ).συμβολίζουμε τη διάρκεια ενός πλήρους διασ τήματος με t b (απο το burst, δηλαδή καταιγισ μός), τη διάρκεια του αντίσ τοιχου τμήματος ελεύθερων κατασ τάσ εων με t off και τη διάρκεια του αντίσ τοιχου τμήματος δεσ μευμένων κατασ τάσ εων με t on.για ένα πλήρες διάσ τημα ισ χύει προφανώς ότι t b = t on + t off.στην εικόνα 5.2 απεικονίζεται το μοντέλο που περιγράψαμε παραπάνω μαζί με μερικά σ τοιχεία που θα εξηγηθούν παρακάτω. Figure 5.2: Ενα πλήρες διάσ τημα μαζί με τους αντίσ τοιχους χρόνους και τις παραμέτρους που το παράγουν. Για να περιγράψουμε και να ποσ οτικοποιήσ ουμε την κίνησ η του μοντέλου χρησ ιμοποιούμε διάφορες παραμέτρους.οι παράμετροι αφορούν το τρόπο παραγωγής της κίνησ ης του μοντέλου και σ την ουσ ία καθορίζουν τις τιμές των παραμέτρων t on και t off σ ε κάθε πλήρες διάσ τημα με τρόπο που θα γίνει ξεκάθαρος παρακάτω.οι παράμετροι αυτοί είναι οι εξής: [52] 94