ΑΡΙΣΤΟΤΕΛΕΙΟ ΠΑΝΕΠΙΣΤΗΜΙΟ ΘΕΣΣΑΛΟΝΙΚΗΣ

Transcript

1 ΑΡΙΣΤΟΤΕΛΕΙΟ ΠΑΝΕΠΙΣΤΗΜΙΟ ΘΕΣΣΑΛΟΝΙΚΗΣ ΠΟΛΥΤΕΧΝΙΚΗ ΣΧΟΛΗ ΤΜΗΜΑ ΗΛΕΚΤΡΟΛΟΓΩΝ ΜΗΧΑΝΙΚΩΝ ΚΑΙ ΜΗΧΑΝΙΚΩΝ Η\Υ ΤΟΜΕΑΣ ΤΗΛΕΠΙΚΟΙΝΩΝΙΩΝ ΠΡΟΒΛΕΨΗ fof2 ΜΗ ΕΥΡΩΠΑΪΚΩΝ ΣΤΑΘΜΩΝ ΜΕ ΝΕΥΡΩΝΙΚΑ ΙΚΤΥΑ ΟΛΑΝΗ ΠΑΝΑΓΙΩΤΑ ΤΣΑΝΙ ΗΣ ΓΕΩΡΓΙΟΣ ΕΠΙΒΛΕΠΩΝ: ΕΠΙΚΟΥΡΟΣ ΚΑΘΗΓΗΤΗΣ ΘΩΜΑΣ. ΞΕΝΟΣ ΘΕΣΣΑΛΟΝΙΚΗ 23

2 ΠΕΡΙΕΧΟΜΕΝΑ ΚΕΦΑΛΑΙΟ 1 - ΠΡΟΛΟΓΟΣ 1 ΚΕΦΑΛΑΙΟ 2 - ΣΤΟΙΧΕΙΑ ΙΟΝΟΣΦΑΙΡΑΣ ΙΟΝΟΣΦΑΙΡΑ - ΣΤΡΩΜΑΤΩΣΗ ΚΑΙ ΙΑ ΟΣΗ ΠΕΡΙΓΡΑΦΗ ΒΑΣΙΚΩΝ ΙΟΝΟΣΦΑΙΡΙΚΩΝ ΠΑΡΑΓΟΝΤΩΝ. ΜΕΛΕΤΗ ΤΗΣ ΙΟΝΟΣΦΑΙΡΑΣ Συχνότητα πλάσµατος - Κρίσιµη συχνότητα Ανάκλαση και διάθλαση στην ιονόσφαιρα Κατάλογος ιονοσφαιρικών χαρακτηριστικών ΙΟΝΟΣΦΑΙΡΙΚΕΣ ΜΕΤΑΒΟΛΕΣ Ηµερήσιες µεταβολές Εποχιακές µεταβολές Ηλιακές κηλίδες και ηλιακός κύκλος Μεταβολές στα στρώµατα Ε και F α Στρώµα Ε β Στρώµα F2 12

3 2.3.5 Γεωγραφικές µεταβολές α Επίδραση γεωγραφικού πλάτους β Επίδραση γεωγραφικού µήκους Επίδραση του γήινου µαγνητικού πεδίου ΙΟΝΟΣΦΑΙΡΙΚΕΣ ΙΑΤΑΡΑΧΕΣ Ιονοσφαιρικές καταιγίδες (Ionospheric storms) Αιφνίδιες ιονοσφαιρικές διαταραχές (SIDs) Οδεύουσες ιονοσφαιρικές διαταραχές (TIDs) Άνεµοι - ρεύµατα Επίδραση πυρηνικών εκρήξεων Ηχώ µε µεγάλη καθυστέρηση Εκλείψεις ΜΕΘΟ ΟΙ ΜΕΛΕΤΗΣ ΤΗΣ ΙΟΝΟΣΦΑΙΡΑΣ ΚΑΙ ΚΑΤΑΓΡΑΦΗΣ ΤΩΝ ΧΑΡΑΚΤΗΡΙΣΤΙΚΩΝ ΤΗΣ Λειτουργία της ιονοσόντας ΠΡΟΣΠΑΘΕΙΕΣ ΠΡΟΒΛΕΨΗΣ ΙΟΝΟΣΦΑΙΡΙΚΩΝ ΧΑΡΑΚΤΗΡΙΣΤΙΚΩΝ Μέθοδοι ιονοσφαιρικών προβλέψεων 22

4 2.6.1α Ιονοσφαιρικοί χάρτες β Ιονοσφαιρικοί δείκτες Σύγχρονες µέθοδοι ιονοσφαιρικής πρόβλεψης 24 ΚΕΦΑΛΑΙΟ 3 - ΕΙΣΑΓΩΓΗ ΣΤΗ ΘΕΩΡΙΑ ΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΙΚΤΥΩΝ ΣΧΕΣΗ ΦΥΣΙΚΩΝ - ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΙΚΤΥΩΝ. ΟΡΙΣΜΟΣ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΙΚΤΥΩΝ ΒΑΣΙΚΕΣ ΚΑΤΗΓΟΡΙΕΣ ΝΕΥΡΩΝΙΚΩΝ ΙΚΤΥΩΝ ΠΛΕΟΝΕΚΤΗΜΑΤΑ - ΜΕΙΟΝΕΚΤΗΜΑΤΑ ΤΩΝ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΙΚΤΥΩΝ. 3.4 ΠΕΡΙΓΡΑΦΗ ΕΝΟΣ ΝΕΥΡΩΝΑ ΒΑΣΙΚΕΣ ΣΥΝΑΡΤΗΣΕΙΣ ΕΝΕΡΓΟΠΟΙΗΣΗΣ (ACTIVATION FUNCTIONS) ΟΜΗ ΚΑΙ ΑΡΧΙΤΕΚΤΟΝΙΚΗ ΙΚΤΥΩΝ ΠΑΡΟΥΣΙΑΣΗ ΓΝΩΣΗΣ - ΠΛΗΡΟΦΟΡΙΑΣ ΣΤΗΝ ΕΙΣΟ Ο ΤΕΧΝΗΤΟΥ ΝΕΥΡΩΝΙΚΟΥ ΙΚΤΥΟΥ Ορισµός γνώσης - πληροφορίας στην είσοδο τεχνητού νευρωνικού δικτύου ιαδικασία εκπαίδευσης 39

5 ΚΕΦΑΛΑΙΟ 4 - ΝΕΥΡΩΝΙΚΑ ΙΚΤΥΑ "PERCEPTRON" TO MONTEΛΟ "PERCEPTRON" 4.2 ΠΕΡΙΓΡΑΦΗ ΛΕΙΤΟΥΡΓΙΑΣ ΤΟΥ "PERCEPTRON" ΑΛΓΟΡΙΘΜΟΣ ΣΥΓΚΛΙΣΗΣ "PERCEPTRON" PERCEPTRON ΠΟΛΛΩΝ ΣΤΡΩΜΑΤΩΝ ΜΕΙΟΝΕΚΤΗΜΑΤΑ ΤΩΝ MLP - ΕΦΑΡΜΟΓΕΣ 49 ΚΕΦΑΛΑΙΟ 5 - Ο ΑΛΓΟΡΙΘΜΟΣ BACK - PROPAGATION 5.2 ΠΕΡΙΓΡΑΦΗ ΤΟΥ ΑΛΓΟΡΙΘΜΟΥ ΑΝΤΙΣΤΡΟΦΗΣ ΙΑ ΟΣΗΣ (BACK - PROPAGATION) ΕΚΠΑΙ ΕΥΣΗ ΠΡΟΤΥΠΟΥ ΚΑΙ ΕΚΠΑΙ ΕΥΣΗ ΚΑΤΑ ΟΜΑ ΕΣ Εκπαίδευση προτύπου Εκπαίδευση κατά οµάδες ΣΥΝΘΗΚΕΣ ΤΕΡΜΑΤΙΣΜΟΥ ΤΗΣ ΕΚΠΑΙ ΕΥΣΗΣ ΜΕΘΟ ΟΙ ΒΕΛΤΙΩΣΗΣ ΤΟΥ BACK - PROPAGATION ΜΕΙΟΝΕΚΤΗΜΑΤΑ ΤΟΥ BACK - PROPAGATION 62

6 ΚΕΦΑΛΑΙΟ 6 - ΠΡΟΒΛΕΨΗ ΤΗΣ fof2 ΣΤΟΥΣ ΣΤΑΘΜΟΥΣ PROVIDENIYA BAY, CAMPBELL ISLAND, NARSSARSSUAQ ΚΑΙ HALLEY BAY. 6.1 ΠΡΟΒΛΕΨΗ ΤΗΣ fof2 ME Ε ΟΜΕΝΑ ΤΗΝ fof2 ΤΗΣ ΠΡΟΗΓΟΥΜΕΝΗΣ ΗΜΕΡΑΣ ΚΑΙ ΤΗΝ ΣΥΧΝΟΤΗΤΑ ΑΠΟΚΟΠΗΣ foe ΤΩΝ ΣΤΑΘΜΩΝ PROVIDENIYA BAY, CAMPBELL ISLAND, NARSSARSSUAQ ΚΑΙ HALLEY BAY Περιγραφή των διανυσµάτων εισόδου-εξόδου Περιγραφή κανονικοποίησης Εκπαίδευση νευρωνικών δικτύων ανά µήνα 7 ΚΕΦΑΛΑΙΟ 7 - ΣΥΜΠΕΡΑΣΜΑΤΑ ΑΠΟ ΤΗΝ ΕΚΠΑΙ ΕΥΣΗ ΚΑΙ ΤΗΝ ΠΡΟΒΛΕΨΗ ΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΙΚΤΥΩΝ ΓΙΑ ΤΟΥΣ ΣΤΑΘΜΟΥΣ PRONIDENIYA BAY, CAMPBELL ISLAND, NARSSARSSUAQ ΚΑΙ HALLEY BAY. 7.1 ΣΥΜΠΕΡΑΣΜΑΤΑ ΣΧΕΤΙΚΑ ΜΕ ΤΗΝ ΠΡΟΒΛΕΨΗ ΤΗΣ fof ΑΞΙΟΛΟΓΗΣΗ ΤΩΝ ΙΚΤΥΩΝ 89 ΠΑΡΑΡΤΗΜΑ ΒΙΒΛΙΟΓΡΑΦΙΑ

7 ΕΥΧΑΡΙΣΤΙΕΣ Ευχαριστούµε θερµά, τον επιβλέποντα καθηγητή µας, κ. Θωµά Ξένο για τις πολύτιµες συµβουλές τους καθ όλη τη διάρκεια εκπόνησης της διπλωµατικής εργασίας. Επίσης, ευχαριστούµε τον κ. ηµήτριο Φωτιάδη για την υποµονή και το ενδιαφέρον του.

8 ΚΕΦΑΛΑΙΟ 1 ΠΡΟΛΟΓΟΣ Η ιονόσφαιρα, το ανώτερο τµήµα της ατµόσφαιρας το οποίο επιδρά άµεσα στη διάδοση των ραδιοκυµάτων, αποτελεί τις τελευταίες δεκαετίες, µε τη συνεχή ανάπτυξη στον τοµέα των τηλεπικοινωνιών, αντικείµενο συνεχούς πρακτικού και ακαδηµαϊκού ενδιαφέροντος. Τα ανώτερα µέρη της ιονόσφαιρας µπορούν σχετικά εύκολα να µελετηθούν µε δορυφόρους, όµως τα χαµηλότερα στρώµατα δεν µπορούν να ερευνηθούν από δορυφόρους ενώ πολύ δύσκολα µπορούν να χρησιµοποιούν µπαλόνια ή αεροπλάνα για να εξαχθούν συµπεράσµατα. Έτσι, το µεγαλύτερο µέρος της θεωρίας της ιονόσφαιρας έχει προκύψει παρατηρώντας την επίδρασή της στα διάφορα τηλεπικοινωνιακά συστήµατα. Η ιονόσφαιρα επηρεάζει τη σύγχρονη κοινωνία µας σε πολλούς τοµείς. Αποτελεί σηµαντικό µέσο διάδοσης, κυρίως για την ασύρµατη επικοινωνία µεταξύ σταθερού και κινητού σηµείου µεγάλης απόστασης, όπως στη ναυσιπλοΐα. Επίσης, η γνώση των ιονοσφαιρικών συνθηκών είναι ζωτική ακόµη και για την ίδια την χρήση των δορυφόρων. Η ιονόσφαιρα προσφέρει µεγάλες δυνατότητες για την ανάπτυξη τηλεπικοινωνιών µεταξύ πλοίων και ξηράς, για την τηλεφωνία από αεροσκάφη, καθώς και για στρατιωτικούς σκοπούς. Από τα παραπάνω προβάλλει επιτακτικά η ανάγκη βαθύτερης κατανόησης της ιονόσφαιρας για την βελτίωση της αξιοπιστίας των µεταδόσεων, τόσο στον τοµέα της πρόβλεψης της κρίσιµης συχνότητας για την δυνατότητα πραγµατοποίησης ζεύξεων όσο και στον τοµέα της αναλύσεως ιονοσφαιρικών διαταραχών, ώστε να µπορούν να καταστούν προβλέψιµες και άρα αντιµετωπίσιµες. Η παρούσα διπλωµατική εργασία ασχολείται µε τη µελέτη του στρώµατος F2, που αποτελεί το ανώτερο στρώµα της ιονόσφαιρας και το οποίο, εξαιτίας της έντονης επίδρασης της ηλιακής ακτινοβολίας που δέχεται, παρουσιάζει και τη µεγαλύτερη µεταβλητότητα σε σχέση µε όλα τα υπόλοιπα στρώµατα. Η παράµετρος που µελετάται είναι η κρίσιµη συχνότητα αποκοπής fof2. Επιχειρείται να γίνει πρόβλεψη της παραπάνω παραµέτρου µε βάση τις ηµερήσιες τιµές της χρησιµοποιώντας την µέθοδο των νευρωνικών δικτύων. ΟΛΑΝΗ ΠΑΝΑΓΙΩΤΑ ΤΣΑΝΙ ΗΣ ΓΕΩΡΓΙΟΣ ΘΕΣΣΑΛΟΝΙΚΗ 23

9 ΚΕΦΑΛΑΙΟ 2 ΣΤΟΙΧΕΙΑ ΙΟΝΟΣΦΑΙΡΑΣ 2.1 ΙΟΝΟΣΦΑΙΡΑ - ΣΤΡΩΜΑΤΩΣΗ ΚΑΙ ΙΑ ΟΣΗ Ιονόσφαιρα, είναι η περιοχή της ατµόσφαιρας µεταξύ 8 και 1 km πάνω από τη γη. Σχηµατίζεται από τον ιονισµό των συστατικών της ανώτερης ατµόσφαιρας εξαιτίας της ηλιακής ακτινοβολίας, κυρίως τις υπεριώδεις ακτίνες και τις ακτίνες Χ. Η υψηλή πυκνότητα ιόντων που σχηµατίζεται έχει σαν αποτέλεσµα τη διάθλαση και ανάκλαση ραδιοκυµάτων µε συχνότητες µεταξύ 3 και 3 MHz, ενώ προκαλεί τη σκέδαση ραδιοκυµάτων υψηλότερων συχνοτήτων (4-7 MHz). Μελετώντας την καµπύλη της πυκνότητας των ηλεκτρονίων συναρτήσει του ύψους, διακρίνονται χαρακτηριστικά µέγιστα τα οποία εύκολα µας οδηγούν στο συµπέρασµα ότι η ιονόσφαιρα παρουσιάζει στρωµάτωση. Σχήµα 2.1: Κατανοµή της πυκνότητας των ηλεκτρονίων µε το ύψος, κατά τη διάρκεια ηµέρας και της νύχτας της

10 Τα στρώµατα που σχηµατίζονται είναι τα D, E, F1, F2. Tα στρώµατα F1 και F2, σε ύψος 14 km και 3 km περίπου, συγκεντρώνουν τη µέγιστη πυκνότητα ηλεκτρονίων και είναι αυτά που είναι ουσιαστικά υπεύθυνα για την διάθλαση, ανάκλαση και διάδοση των ραδιοκυµάτων στην ιονόσφαιρα. Κατά τη διάρκεια της νύχτας τα στρώµατα αυτά συγχωνεύονται σε ένα στρώµα, το F, ενώ το στρώµα D, το οποίο προκαλεί κυρίως απορρόφηση των ραδιοκυµάτων, εξαφανίζεται. Τέλος, σηµειώνεται ότι έντονος ιονισµός, οπότε και έντονα φαινόµενα διάθλασης - ανάκλασης, παρουσιάζονται την ηµέρα και ειδικά τις µεσηµεριανές ώρες. Η στρωµάτωση της ιονόσφαιρας οφείλεται στα εξής: 1.Ατµοσφαιρική πυκνότητα 2. Ένταση της ιονίζουσας ακτινοβολίας 3.Σύσταση της ατµόσφαιρας 2.2 ΠΕΡΙΓΡΑΦΗ ΒΑΣΙΚΩΝ ΙΟΝΟΣΦΑΙΡΙΚΩΝ ΠΑΡΑΜΕΤΡΩΝ. ΜΕΛΕΤΗ ΤΗΣ ΙΟΝΟΣΦΑΙΡΑΣ Συχνότητα πλάσµατος - Κρίσιµη συχνότητα Ως συχνότητα πλάσµατος ορίζεται η συχνότητα του κύµατος που µηδενίζει τη σχετική διηλεκτρική σταθερά ε r, και δίνεται από τη σχέση: f p = 9N (2.1) όπου Ν είναι η πυκνότητα των ηλεκτρονίων. Εύκολα αποδεικνύεται ότι ισχύει η εξής σχέση: η = N f p = 1 2 f f 2, ( 2.2) όπου η ο δείκτης διάθλασης.

11 Aπό την παραπάνω σχέση βλέπουµε ότι ο δείκτης διάθλασης µηδενίζεται αν το κύµα έχει συχνότητα ίση µε τη συχνότητα πλάσµατος. Τότε το προσπίπτον κύµα απαλείφεται από το ανακλώµενο. Η µεγαλύτερη συχνότητα που ανακλάται από δεδοµένο ιονοσφαιρικό στρώµα (για κύµα που προσπίπτει κάθετα σε αυτό), καθορίζεται από την µέγιστη πυκνότητα ηλεκτρονίων του, και δίνεται από τη σχέση: f c = 9 N max ( 2.3) H συχνότητα f c oνοµάζεται κρίσιµη συχνότητα για το δεδοµένο στρώµα, αφού συχνότητες µεγαλύτερες από αυτή δεν ανακλώνται Ανάκλαση και διάθλαση στην ιονόσφαιρα Είναι φανερό ότι οι διαθλαστικές και ανακλαστικές ιδιότητες της ιονόσφαιρας εξαρτώνται από τη συχνότητα του ραδιοκύµατος. Ο δείκτης διάθλασης µειώνεται καθώς το κύµα εισέρχεται σε περιοχές όπου η πυκνότητα των ηλεκτρονίων είναι µεγαλύτερη, ενώ αντίστοιχα αυξάνεται η γωνία διάθλασης. Eτσι, το κύµα υφίσταται καµπύλωση. Από το νόµο του Snell προκύπτει ότι το ψηλότερο σηµείο στο οποίο φτάνει το κύµα είναι εκείνο για το οποίο η πυκνότητα των ηλεκτρονίων Ν ικανοποιεί τη σχέση: 81N f 2 cos 2 ϕ o η = 1 = sinϕ 2 o ή N =, (2.4) f 81 όπου φ ο γωνία της πρόσπτωσης στην ιονόσφαιρα στο σηµείο ανάκλασης.

12 Σχήµα 2.2: ιάθλαση ιονοσφαιρικού κύµατος Αν η πυκνότητα των ηλεκτρονίων σε ορισµένο ύψος του στρώµατος είναι τέτοια ώστε να ικανοποιείται η προηγούµενη σχέση, το κύµα επιστρέφει στη γη, ενώ σε αντίθετη περίπτωση εισχωρεί στο εσωτερικό του στρώµατος. Όταν το κύµα που επιστρέφει στη γη, προσπίπτει κάθετα στην ιονόσφαιρα (φ ο =), και έχει συχνότητα fv, ισχύει: η = 81N 1 = 2 f ν (2.5) Από τις σχέσεις 2.4 και 2.5, προκύπτει η ακόλουθη σχέση, η οποία συσχετίζει µία πλαγίως προσπίπτουσα ακτίνα (φ ο ) συχνότητας fv µε µια καθέτως προσπίπτουσα ακτίνα στο ιονοσφαιρικό στρώµα συχνότητας f : fν f =, ( 2.6) cosϕ o Από τη σχέση 2.6 προκύπτει ότι η κρίσιµη συχνότητα δεν είναι η µέγιστη χρησιµοποιήσιµη συχνότητα (Maximum Usable Frequency, MUF), αφού το ύψος στο οποίο φτάνει το κύµα εξαρτάται και από τη γωνία φ ο (γενικά, το κύµα προσπίπτει πλάγια). Ετσι, έχουµε: f MUF = N 81 max cosϕ o, (2.7)

13 Παρατηρούµε πως η f MUF είναι εν γένει µεγαλύτερη της κρίσιµης συχνότητας και αυξάνεται µε τη γωνία πρόσπτωσης φ o, η οποία δεν υπερβαίνει µια µέγιστη τιµή εξαιτίας τόσο της σφαιρικότητας της γης, όσο και της καµπυλότητας του ιονοσφαιρικού στρώµατος. Το σχήµα που ακολουθεί αποδεικνύει ότι η µέγιστη γωνία πρόσπτωσης φ o,max, προκύπτει κατά την εφαπτόµενη στη γη εκποµπή. Σχήµα 2.3: Μέγιστη γωνία πρόσπτωσης Για το στρώµα F, το οποίο αποτελεί και το αντικείµενο αυτής της διπλωµατικής εργασίας, η φ o,max είναι περίπου 74 o, εποµένως ισχύει: f c f MUF = = 3.6 f cos 74 c, (2.8) Ειδικά νοµογράµµατα παρέχουν τις τιµές των MUFs για τα διάφορα ιονοσφαιρικά στρώµατα. Υπό οµαλές συνθήκες η µέγιστη χρησιµοποιήσιµη συχνότητα εξασφαλίζει αποτελεσµατική ζεύξη για το 5% του χρόνου λειτουργίας. Στην πράξη όµως χρησιµοποιείται µία συχνότητα λίγο µικρότερη από αυτή, η λεγόµενη FΟΤ ( Frequence Optimum de Travail ), γιατί η MUF παρουσιάζει πολύ έντονες µεταβολές ως προς τη µεσαία µηνιαία τιµή της. Η FΟΤ καλείται συχνότητα λειτουργίας: f =. 85 (2.9) FOT f MUF

14 Όπως ξέρουµε, γενικά, αυξανοµένης της συχνότητας µειώνεται η εξασθένιση, εποµένως η συχνότητα λειτουργίας θα πρέπει να είναι όσο το δυνατό µεγαλύτερη, χωρίς όµως να ξεπερνά ποτέ τη MUF. Ορίζεται έτσι και µία ελάχιστη χρησιµοποιήσιµη συχνότητα LUF (Lowest Usable Frequency), µε την οποία πραγµατοποιείται ικανοποιητική λήψη για δεδοµένες συνθήκες. Έτσι η συχνότητα λειτουργίας επιλέγεται τελικά µεταξύ των εξής ορίων: f f (2.1) FOT f LUF Κατάλογος ιονοσφαιρικών χαρακτηριστικών Στη συνέχεια δίνονται συνοπτικά τα ονόµατα των κυριότερων ιονοσφαιρικών χαρακτηριστικών, τα οποία και βρίσκονται στη βάση δεδοµένων που δηµιούργησε το PRIME - συµπεριλαµβανοµένου και του URSI κωδικού τους - ενώ στη συνέχεια δίνεται και ένα προφίλ της πυκνότητας των ηλεκτρονίων σε σχέση µε το ύψος, απ όπου διαφαίνεται και η σηµασία πολλών χαρακτηριστικών (Billitza, 199). Characteristic URSI code fof2 M3F2 3 h'f2 4 fof1 1 M3F1 13 h'f 16 FoE 2 h'e 24 FoEs 3 FbEs 32 Fmin 42 FxI 51 Πίνακας 2.1 Λίστα ιονοσφαιρικών χαρακτηριστικών της βάσης δεδοµένων του PRIME συνοδευόµενη από τους αντίστοιχους κωδικούς.

15 Ως κύρια χαρακτηρίζονται τα ιονοσφαιρικά µεγέθη fof2 και M3F2, εκ των οποίων µόνο η fof2 µετράται άµεσα και αποτελεί µέτρο της µέγιστης πυκνότητας πλάσµατος στην ιονόσφαιρα. Η fof2 είναι η συχνότητα αποκοπής (κρίσιµη) για το στρώµα F2, δηλαδή, η µέγιστη συχνότητα που µπορεί να ανακλαστεί απ το στρώµα F2 σε κατακόρυφη εκποµπή. Αντίθετα το Μ3F2 µετράται έµµεσα µε τη βοήθεια της αντίστοιχης MUF3F2 βάσει της σχέσης που ακολουθεί: MUF( 3) F2 = M (3) F2 f F2 ( 2.1) o Πρόκειται ουσιαστικά, για έναν ιονοσφαιρικό παράγοντα που ορίζεται για ζεύξη µε ένα άλµα µεταξύ σηµείων τα οποία απέχουν 3km. Έµµεσα χρησιµοποιείται για τον προσδιορισµό του ύψους στο οποίο πραγµατοποιείται η ανάκλαση του κύµατος εντός της F2 περιοχής (περίπου 3-5 km), όπου εντοπίζεται και η µέγιστη συχνότητα πλάσµατος. Αυτό διαπιστώνεται και από τις σχέσεις 2.7 και 2.8 απ όπου σε συνδυασµό µε την 2.1 προκύπτει για το στρώµα F2 : M (3) F2 = 1 cosϕ o (2.11) όπου φ o η γωνία εισόδου του κύµατος στην ιονόσφαιρα από την οποία µπορεί τελικά να καθοριστεί και το ζητούµενο ύψος. Άλλα χαρακτηριστικά είναι τα εξής: foe, fof1: συχνότητες αποκοπής των στρωµάτων Ε και αντίστοιχα. ΝmE, NmF1, NmF2: µέγιστες πυκνότητες ηλεκτρονίων στα αντίστοιχα στρώµατα. hme, hmf1, hmf2: ύψη στα οποία παρατηρούνται οι µέγιστες πυκνότητες ηλεκτρονίων.

16 Σχήµα 2.4: Κατακόρυφο προφίλ πυκνότητας ηλεκτρονίων µε βάση το µοντέλο IRI ΙΟΝΟΣΦΑΙΡΙΚΕΣ ΜΕΤΑΒΟΛΕΣ Έπειτα από συνεχείς παρατηρήσεις, έχει διαπιστωθεί ότι η ιονοσφαιρική στρωµάτωση και συµπεριφορά παρουσιάζει διαφόρων ειδών µεταβολές ανάλογα µε τους παράγοντες που επιδρούν κάθε φορά σε αυτή. Οι κυριότερες από αυτές είναι: 1) Ηµερήσιες µεταβολές 2) Εποχιακές µεταβολές 3) Μεταβολές που οφείλονται στην ηλιακή δραστηριότητα 4) Γεωγραφικές µεταβολές 5) Μεταβολές που οφείλονται στο γήινο µαγνητικό πεδίο Παρακάτω παρουσιάζονται πιο αναλυτικά αυτές οι µεταβολές, όπως επίσης η επίδρασή τους στα στρώµατα Ε και F2.

17 2.3.1 Ηµερήσιες µεταβολές Το στρώµα F1 κατά τη διάρκεια της νύχτας εξαφανίζεται. Το στρώµα Ε εµφανίζεται την αυγή και εξαφανίζεται τη δύση, ενώ η πυκνότητα των ηλεκτρονίων είναι γενικά µεγαλύτερη κατά τη διάρκεια της ηµέρας σε όλα τα ύψη εξαιτίας της ηλιακής δραστηριότητας. Το ύψος στο οποίο παρουσιάζεται το µέγιστο της πυκνότητας στο στρώµα F2, µεταβάλλεται και αυτό κατά τη διάρκεια της ηµέρας Εποχιακές µεταβολές Το καλοκαίρι, η πυκνότητα των ηλεκτρονίων, όπως επίσης και το ύψος του στρώµατος F, είναι σαφώς αυξηµένα κατά τη διάρκεια της νύχτας σε σχέση µε τις χειµωνιάτικες τιµές τους. Σε µεσαία πλάτη, πολλές φορές, το µέγιστο της πυκνότητας είναι µεγαλύτερο το χειµώνα απ ότι το καλοκαίρι, φαινόµενο το οποίο καλείται εποχιακή ανωµαλία. Σε αυτά τα πλάτη, τους καλοκαιρινούς µήνες το στρώµα F διαχωρίζεται στα F1 και F Ηλιακές κηλίδες και ηλιακός κύκλος Βασική αιτία του ιονισµού της ιονόσφαιρας είναι, όπως ήδη αναφέρθηκε, η ακτινοβολία του ήλιου. Στην επιφάνειά του παρατηρήθηκαν σκοτεινές κηλίδες, οι οποίες εµφανίζονται και εξαφανίζονται περιοδικά, µε χρόνο ζωής που ποικίλει από λίγες ηµέρες ως 27 περίπου ηµέρες. Το σκοτεινό τους χρώµα οφείλεται στη χαµηλή τους θερµοκρασία. Ο αριθµός των ηλιακών κηλίδων παριστάνεται από το δείκτη R. Σχήµα 2.5: Ηλιακές κηλίδες στην επιφάνεια του ήλιου

18 O κύκλος περιοδικότητας των ηλιακών κηλίδων διαρκεί 11 χρόνια. Κατά τη διάρκεια αυτού του κύκλου, ο αριθµός των κηλίδων είναι αρχικά µικρός για 1 ή 2 συνεχόµενα έτη, έπειτα αυξάνει για τα επόµενα 4 χρόνια, µέχρι να φτάσει κάποια µέγιστη τιµή. Στη συνέχεια τα επόµενα 6 χρόνια ελαττώνεται µέχρι το ελάχιστο. Τα χαρακτηριστικά της ιονόσφαιρας µεταβάλλονται ανάλογα µε τη µεταβολή του αριθµού των ηλιακών κηλίδων. Πιο συγκεκριµένα, το µέγιστο της ηλεκτρονιακής πυκνότητας και αυτό του ύψους αυξάνονται, καθώς ο αριθµός των κηλίδων µεγαλώνει. Σχήµα 2.6: Μεταβολή των ηλιακών κηλίδων στα έτη Μεταβολές στα στρώµατα Ε και F α Στρώµα Ε Η συχνότητα foe κατά την ηµερήσια µεταβολή της ακολουθεί την ηλιακή δραστηριότητα δίνοντας ένα µέγιστο το µεσηµέρι. Παρουσιάζει ένα µέγιστο τον Ιούνιο και ένα ελάχιστο το εκέµβριο. Έχει αποδεικτεί δε για αυτή ότι ισχύει η εξής σχέση : f o E = (cos x) (1 +.91R12 )( cosϕ)( )(cos x 2 d 4 ( cosϕ ) 12 ) (2.12)

19 όπου χ = ζενίθια γωνία της ακτίνας του ήλιου d = λόγος της απόστασης γης-ήλιου τη15η ηµέρα κάθε µήνα προς την αντίστοιχη µέση τιµή της για το έτος R 12 = η εξοµαλυµένη τιµή του αριθµού R των ηλιακών κηλίδων φ = το γεωγραφικό πλάτος του τόπου cosx 12 = η ανάλογη µηνιαία τιµή του cosx της ζενίθιας ακτίνας του ηλίου το µεσηµέρι Η σχέση αυτή ισχύει για τη διάρκεια της ηµέρας - και µάλιστα µε πολύ καλή ακρίβεια, γύρω στα.6 ΜHz - ενώ για τις βραδινές ώρες ισχύει : f o E 4 = ( COV 12 66)(cos x ) ( cosϕf ) 12 ( cosϕ)(cos x a ) 1.2 (2.13) όπου επιπλέον, = x 3log(1 + exp(( x 89.98) / 3)) x a COV 63 + R 12 = R Αξιοσηµείωτο είναι το γεγονός ότι στις πολικές περιοχές, αν και το κατώτερο στρώµα E της ιονόσφαιρας δε φωτίζεται αρκετά από τον ήλιο µε συνέπεια τη µειωµένη πυκνότητα ηλεκτρονίων, η f o E παρουσιάζεται µεγαλύτερη από ότι ίσως θα αναµενόταν. Τέλος, αναφέρεται ότι εκτός από το κανονικό στρώµα Ε εµφανίζεται και µια περισσότερο ιονισµένη περιοχή, η οποία ονοµάζεται " σποραδικό στρώµα Ε " και ανακλά σήµατα, συγκριτικά υψηλότερων συχνοτήτων. Το " σποραδικό στρώµα Ε " εµφανίζεται κυρίως σε υψηλά γεωγραφικά πλάτη β Στρώµα F2 To στρώµα F2 είναι το πιο σηµαντικό για τις HF επικοινωνίες, αλλά και το πιο ευµετάβλητο. Η συχνότητα fof2 βρίσκεται σε αντίφαση µε την ηλιακή ένταση, σε αντίθεση µε τις fof1 και foε. Αν και η ηλιακή ένταση είναι υποτονική τον Ιανουάριο σε σχέση µε τον Ιούνιο, παρατηρείται πως η τιµή της το χειµώνα κατά τη διάρκεια της ηµέρας, είναι µεγαλύτερη από την αντίστοιχη του καλοκαιριού (χειµερινή

20 ανωµαλία), ενώ συνήθως παρατηρείται ένα µέγιστο της τιµής της το χειµώνα και ένα το καλοκαίρι, και υπό άλλες συνθήκες ένα ακόµη µέγιστο την άνοιξη ή το φθινόπωρο. Το καλοκαίρι η fof2 παρουσιάζει µικρότερες ηµερήσιες µεταβολές, ενώ αξιοσηµείωτη είναι και η συµπεριφορά του στρώµατος F1 το οποίο απουσιάζει τις καλοκαιρινές νύχτες. Το χειµώνα η fof2 αυξάνεται µε µέγιστη τιµή τις µεσηµβρινές ώρες. Όµως, για ελαττωµένη ηλιακή δραστηριότητα κατά τη διάρκεια του ηλιακού κύκλου παρατηρείται και ένα µέγιστο τη νύχτα, ενώ το ελάχιστο εµφανίζεται κοντά στην ανατολή. Το καλοκαίρι ένα ελάχιστο εµφανίζεται το µεσηµέρι µε µέγιστα εκατέρωθεν, και ισχυρότερο από αυτά, αυτό που παρουσιάζεται το απόγευµα. Το χειµώνα, παρατηρείται ένα µικρότερο ελάχιστο τα ξηµερώµατα σε σχέση µε το καλοκαίρι. Την άνοιξη και το φθινόπωρο η συµπεριφορά του στρώµατος F2 είναι ένας συνδυασµός της συµπεριφοράς του για το χειµώνα και το καλοκαίρι, µε διαφορές όµως µεταξύ των δύο. Στη συνέχεια παρατίθενται διαγράµµατα, τα οποία παραστατικά αποδίδουν όλα τα παραπάνω. Σχήµα 2.7: Μεσαίες µηνιαίες τιµές των κρίσιµων συχνοτήτων foe, fof1, fof2 για τον σταθµό του Rome, Γεωγραφικές µεταβολές Τα ποσοστά ιονισµού της ιονόσφαιρας µεταβάλλονται σηµαντικά µε την περιοχή, τόσο µε το γεωγραφικό πλάτος όσο και µε το γεωγραφικό µήκος.

21 Σχήµα 2.8: Εποχιακή µεταβολή των κρίσιµων συχνοτήτων foe, fof1, fof2, στη διάρκεια της ηµέρας Σχήµα 2.9: Μεταβολή της fof2 σε σχέση µε την ηλιακή δραστηριότητα κατά τη διάρκεια του χειµώνα.

22 2.3.5α Επίδραση γεωγραφικού πλάτους Η επίδραση του γεωγραφικού πλάτους είναι σηµαντική αφού για διαφορετικά πλάτη, η γωνία εισόδου των ηλιακών ακτινών στην ατµόσφαιρα διαφέρει. Πλησιάζοντας προς τον ισηµερινό, οι ακτίνες του ήλιου προσπίπτουν πιο κάθετα, µε αποτέλεσµα τον εντονότερο ιονισµό και εποµένως την αύξηση της συχνότητας αποκοπής. Ωστόσο, περιοχές του ίδιου πλάτους δεν παρουσιάζουν παρόµοιες τιµές της fof2 εξαιτίας κυρίως της επίδρασης του µαγνητικού πεδίου της γης, αλλά και των άλλων πλανητών. Το καλοκαίρι, σε µεσαία πλάτη 2 < φ < 8, οι µεσηµεριανές τιµές της fof2 είναι µικρότερες από τις αντίστοιχες του χειµώνα. Τη χειµερινή νύχτα αντίθετα, οι τιµές της είναι µικρότερες σε σχέση µε τις αντίστοιχες του καλοκαιριού. Όσον αφορά τις µεταβολές ανά ηµισφαίριο, τις χειµερινές νύχτες οι τιµές της fof2 στο Νότιο ηµισφαίριο είναι µεγαλύτερες από τις αντίστοιχες στο Βόρειο ηµισφαίριο, σε αντίθεση µε ό,τι συµβαίνει την ηµέρα. Οι εποχιακές µεταβολές όµως στο Νότιο ηµισφαίριο είναι µικρότερες. Τέλος, στον ισηµερινό, το χειµώνα αλλά και το καλοκαίρι, η fof2 είναι σηµαντικά υψηλότερη, µε µοναδική εξαίρεση το καλοκαιρινό µεσηµέρι, όπου εξαιτίας της ιδιαίτερα αυξηµένης θερµοκρασίας η ιονόσφαιρα διαστέλλεται µε αποτέλεσµα η κρίσιµη συχνότητα να µην αυξάνει, διατηρώντας την καµπύλη µεταβολής της σχεδόν οριζόντια. Επιπλέον, η κλίση της fof2 σε σχέση µε το γεωγραφικό πλάτος µεταβάλλεται για τις διάφορες ώρες της ηµέρας, τις εποχές και την ηλιακή δραστηριότητα στο εξής διάστηµα : f o F φ 2 3 = [ 1 5] 1 MHz / km (2.14) To µέγιστο της κλίσης εµφανίζεται το χειµώνα κοντά στον ισηµερινό, για πλάτη µεταξύ 6 < φ < 7 την ηµέρα, και 3 < φ < 4 τη νύχτα. Το καλοκαίρι η κλίση είναι µέγιστη για 3 < φ < 4. Σε γενικές γραµµές, οι µεγαλύτερες σε µέγεθος µεταβολές εµφανίζονται στα µεσαία πλάτη 4 < φ < 6.

23 2.3.5β Επίδραση γεωγραφικού µήκους Οι τιµές τις fof2 σε περιοχές ίδιου πλάτους αλλά διαφορετικού µήκους, είναι αρκετά διαφορετικές, όπως επίσης διαφορετικός είναι και ο τρόπος που µεταβάλλονται, αν και η γωνία πρόσπτωσης των ηλιακών ακτινών είναι η ίδια. Χαµηλότερες τιµές παρατηρούνται γενικά στα δυτικά πλάτη. Η κλίση της fof2 σε σχέση µε το γεωγραφικό µήκος µεταβάλλεται στο εξής διάστηµα: f o F φ 2 3 = [.2.4] 1 (2.15) To µέγιστο της κλίσης εµφανίζεται στα µεσαία πλάτη το χειµώνα, κυρίως κοντά στον ισηµερινό. Τέλος, τόσο η κλίση της fof2 µε το γεωγραφικό πλάτος, όπως και η κλίση της µε το γεωγραφικό µήκος, αυξάνονται γενικά µε την αύξηση της ηλιακής δραστηριότητας Επίδραση του γήινου µαγνητικού πεδίου Οι σηµαντικότερες επιδράσεις του γεωµαγνητικού πεδίου στο ιονοσφαιρικό στρώµα είναι οι εξής: 1) η απόσβεση που υφίσταται το κύµα που οδεύει εντός αυτού, εξαιτίας της γυροσυχνότητας, η οποία αναγκάζει τα ηλεκτρόνια να ακολουθούν ευρείες τροχιές. 2) διπλή διάθλαση 3) περιστροφή του επιπέδου πόλωσης. Η επίδραση που αφορά το στρώµα F2 είναι η διπλή διάθλαση που υφίσταται το ραδιοκύµα από το πλάσµα, φαινόµενο το οποίο έχει σαν αποτέλεσµα την ύπαρξη δύο κυµάτων, του συνήθους και του ασυνήθους κύµατος, τα οποία ακολουθούν διαφορετικές διαδροµές µε διαφορετικές φασικές ταχύτητες. Έτσι στην περιοχή F2 υπάρχουν δύο συχνότητες αποκοπής: η fof2 για το σύνηθες κύµα (ordinary wave), και µία, fxf2, για το ασύνηθες (extraordinary wave).

24 2.4 IONOΣ ΦAIΡIKEΣ ΙΑΤΑΡΑΧΕΣ Ως διαταραχές στην ιονόσφαιρα, χαρακτηρίζονται οι απότοµες µεταβολές στην συµπεριφορά της, όπως αυτή διαµορφώνεται από παράγοντες που επιδρούν πάνω σε αυτή, και ξεφεύγουν από το πλαίσιο των συνηθισµένων και αναµενόµενων µεταβολών της. Τέτοιες διαταραχές οφείλονται σε φαινόµενα όπως: 1. Ιονοσφαιρικές καταιγίδες 2. Αιφνίδιες ιονοσφαιρικές διαταραχές 3. Οδεύουσες ιονοσφαιρικές διαταραχές 4. Ανέµους- ρεύµατα 5. Επιδράσεις από πυρηνικές εκρήξεις 6. Ηχώ µε µεγάλη καθυστέρηση 7. Εκλείψεις Ιονοσφαιρικές καταιγίδες (Ionospheric storms) Οι ιονοσφαιρικές καταιγίδες οφείλονται στις ηλιακές εκρήξεις που προκαλούν αποβολή φορτισµένων σωµατιδίων µεγάλης ταχύτητας, τα οποία ταξιδεύουν προς τη γη και βοµβαρδίζοντας τη µαγνητόσφαιρα αυξάνουν τον ιονισµό και την απορρόφηση του στρώµατος D. Ταυτόχρονα, προκαλούν αλλαγές και στη δοµή των στρωµάτων F και Ε, µε αποτέλεσµα η διάδοση στα βραχέα να επηρεάζεται αρνητικά ή και να διακόπτεται για λίγα δευτερόλεπτα ή λεπτά ή και κάποιες µέρες. Το φαινόµενο εµφανίζεται συχνότερα σε υψηλά γεωγραφικά πλάτη εξαιτίας των έντονων διακυµάνσεων του γήινου µαγνητικού πεδίου εκεί, αφού σχετίζεται άµεσα µε αυτές. Σε αυτές τις διαταραχές διακρίνουµε 3 βασικές κατηγορίες: I. Αρνητικές διαταραχές : Στην περίπτωση αυτή fof2 έχει µικρότερες τιµές από τις µη διαταραγµένες περιόδους. Εµφανίζονται κυρίως στις ισηµερίες. II. ιφασικές διαταραχές: Εδώ η fof2 αρχικά αυξάνεται και στη συνέχεια µειώνεται. III.Θετικές διαταραχές: Η fof2 έχει µεγαλύτερες τιµές από τις τιµές µη διαταραγµένων περιόδων. Comment:

25 Σχήµα 2.1: Χρονικές µεταβολές της µέγιστης πυκνότητας ηλεκτρονίων (F2) σε διαφορετικά πλάτη λόγω ιονοσφαιρικών καταιγίδων Αιφνίδιες ιονοσφαιρικές διαταραχές (SIDs). Μερικές φορές, οι ζεύξεις HF µιας περιοχής διακόπτονται απότοµα. Στην περίπτωση αυτή προκαλείται ισχυρός ιονισµός του στρώµατος D, λόγω αυξηµένης έντασης των υπεριωδών ακτίνων και των ακτίνων Χ, η οποία οφείλεται στις ηλιακές φλόγες. Αυτές, εµφανίζονται πιο συχνά κοντά στο µέγιστο του κύκλου των ηλιακών κηλίδων, και έχουν σαν αποτέλεσµα την σηµαντική εξασθένιση του κύµατος εξαιτίας της απορρόφησής του από το στρώµα D, το οποίο και τελικά δεν ανακλάται στο F Oδεύουσες ιονοσφαιρικές διαταραχές (TIDs) Οι διαταραχές αυτές είναι κυµατοειδείς διακυµάνσεις της πυκνότητας ηλεκτρονίων του στρώµατος F, που οφείλονται σε ατµοσφαιρικά κύµατα βαρύτητας. ιακρίνονται σε δύο κατηγορίες: I. Οδεύουσες ιονοσφαιρικές διαταραχές µεγάλης κλίµακας II. Οδεύουσες ιονοσφαιρικές διαταραχές µέσης κλίµακας

26 Στην πρώτη κατηγορία παρουσιάζονται ταχύτητες µεγαλύτερες από την ταχύτητα του ήχου, ενώ η περίοδός τους διαρκεί 3 λεπτά µε 3 ώρες. Στη δεύτερη κατηγορία, η διάρκεια της περιόδου της διαταραχής είναι από 15 λεπτά ως µία ώρα και οι φασικές ταχύτητες που εµφανίζονται είναι 1-3 m/sec, µικρότερες από την ταχύτητα του ήχου. Οι ιονοσφαιρικές διαταραχές µεγάλης κλίµακας σχετίζονται µε γεωφυσικά φαινόµενα και λαµβάνουν χώρα σε διαστήµατα υψηλής µαγνητικής δραστηριότητας. Αντιθέτως, οι διαταραχές µέσης κλίµακας δεν έχουν συσχετιστεί αποδεδειγµένα µε κάποια φαινόµενα. Ωστόσο, υπάρχουν εκτιµήσεις που τις συνδέουν µε διάφορα µετεωρολογικά φαινόµενα. Το κυριότερο πρόβληµα που προκαλούν και οι δύο στις HF επικοινωνίες είναι η µετατόπιση Doppler Άνεµοι-Ρεύµατα Πρόκειται για παλιρροιακές κινήσεις των ιόντων της ιονόσφαιρας εξαιτίας του ήλιου, οι οποίες εξαρτώνται από το µαγνητικό πεδίο της γης. Οι παλιρροιακές ταλαντώσεις διαδίδονται προς τα πάνω και η ταχύτητά τους αυξάνει µε το ύψος. Σε µικρά πλάτη διαδίδονται κατακόρυφα, ενώ στα µεγάλα παγιδεύονται στην στρατόσφαιρα Επίδραση πυρηνικών εκρήξεων Κατά τη διάρκεια µιας πυρηνικής έκρηξης απελευθερώνεται πολύ µεγάλος αριθµός φορτισµένων σωµατιδίων, τα οποία µπορούν να αυξήσουν την πυκνότητα του στρώµατος F µέχρι και 1 6 φορές, γεγονός που προκαλεί µεγάλη αύξηση της συχνότητας fof Ηχώ µε µεγάλη καθυστέρηση Πρόκειται για το φαινόµενο όπου η ηχώ ενός σήµατος καθυστερεί σηµαντικά. Πολλοί υποστηρίζουν ότι το σήµα φεύγει από τη γη και επιστρέφει αφού ανακλαστεί. Άλλοι, υποστηρίζουν ότι προκαλείται από τη µείωση της ταχύτητας οµάδας.

27 2.4.7 Εκλείψεις Όταν συµβαίνει έκλειψη ηλίου, ο ιονισµός διασκορπίζεται πολύ γρήγορα αφού εξαφανίζεται η αιτία που τον προκαλεί. Επίσης εξαιτίας της έντονης εναλλαγής µεταξύ θέρµανσης και ψύξης προκαλούνται ΤΙDs. 2.5 ΜΕΘΟ ΟΙ ΜΕΛΕΤΗΣ ΤΗΣ ΙΟΝΟΣΦΑΙΡΑΣ ΚΑΙ ΚΑΤΑΓΡΑΦΗΣ ΤΩΝ ΧΑΡΑΚΤΗΡΙΣΤΙΚΩΝ ΤΗΣ Οι προσπάθειες µελέτης της ιονόσφαιρας άρχισαν αρκετά νωρίς, από το 188, από τότε δηλαδή που οι φυσικοί κατέληξαν στο συµπέρασµα ότι τα υψηλότερα στρώµατα της ατµόσφαιρας συµπεριφέρονται σαν ηλεκτρικοί αγωγοί. Σήµερα, η βασική µέθοδος για τη µελέτη της πραγµατοποιείται µε τις ιονοσόντες, παλµικά ραντάρ, των οποίων η συχνότητα µεταβάλλεται εντός συγκεκριµένου εύρους. Ο αριθµός των σταθµών παρατήρησης είναι γύρω στους 165. Οι µετρήσεις των τιµών διαφόρων χαρακτηριστικών γίνονται ανά µία ώρα ή κλάσµατά της. Για αυτές τις µετρήσεις έχει καθιερωθεί µία σειρά από διεθνή σύµβολα, τα οποία δηλώνουν, όταν αυτό είναι απαραίτητο, τις συνθήκες ή άλλα χαρακτηριστικά της µέτρησης Λειτουργία της ιονοσόντας Το σύστηµα περιλαµβάνει ποµπό και δέκτη. Εκπέµπεται ένας παλµός και µετράται το χρονικό διάστηµα έως τη λήψη. Από αυτό υπολογίζεται το υποθετικό ύψος ανάκλασης, h = c T/2. Οι µετρήσεις καταγράφονται σε ιονογράµµατα, τα οποία στον οριζόντιο άξονα δίνουν τη µεταβολή ως προς τη συχνότητα, και στον κατακόρυφο τη µεταβολή µε το χρόνο. Στέλνοντας ένα σήµα λαµβάνεται στο δέκτη ένα ίχνος S1S2 για το απευθείας κύµα και ένα Ε1Ε2 για το ανακλώµενο, τα οποία απέχουν µεταξύ τους διάστηµα Τ. Έπειτα, στέλνοντας σήµα υψηλότερης συχνότητας παίρνονται αντίστοιχα ίχνη. Το υποθετικό ύψος είναι περίπου σταθερό και αντιστοιχεί στο στρώµα Ε. Με την αύξηση της συχνότητας, σε κάποια στιγµή παρουσιάζεται κάποια άλλη ηχώ από µεγαλύτερο ύψος (του στρώµατος F), ενώ η ηχώ του στρώµατος Ε

28 σταµατά απότοµα. Η συχνότητα στην οποία παρουσιάζεται αυτό, είναι και η συχνότητα αποκοπής του στρώµατος Ε. Η φωτογραφική έξοδος της ιονοσόντας δίνει το ιονόγραµµα, το οποίο εµφανίζει τα ίχνη των ανακλώµενων παλµών σε συνάρτηση µε το ύψος ανάκλασης και τη συχνότητα, απ όπου συµπεραίνονται τα εξής: Σχήµα 2.11: Ιονόγραµµα καλοκαιρινής ηµέρας 1) Αν ένα σύνολο κυµάτων, µε συχνότητες µικρότερες από µία τιµή f1, ανακλώνται στο ίδιο ύψος, αυτές είναι µικρότερες της κρίσιµης συχνότητας του στρώµατος 2) Η ύπαρξη πολλών µεγίστων στην πυκνότητα οφείλεται στην ανοµοιογενή σύσταση της ατµόσφαιρας 3) Η ταυτόχρονη ύπαρξη ήχου από δύο στρώµατα, είναι αποτέλεσµα περιοχών υψηλού ιονισµού, και κενών ασθενούς ιονισµού. 4) Σε χαµηλές συχνότητες όπου δεν έχουµε ηχώ, συµβαίνει απορρόφηση από τα χαµηλότερα στρώµατα.

29 2.6 ΠΡΟΣΠΑΘΕΙΕΣ ΠΡΟΒΛΕΨΗΣ ΙΟΝΟΣΦΑΙΡΙΚΩΝ ΧΑΡΑΚΤΗΡΙΣΤΙΚΩΝ Από όσα έχουν λεχθεί µέχρι στιγµής, έχει γίνει ήδη φανερή η αναγκαιότητα ύπαρξης µοντέλων πρόβλεψης της ιονοσφαιρικής συµπεριφοράς για την καλύτερη και πιο αξιόπιστη υλοποίηση των διαφόρων ειδών επικοινωνίας µέσω αυτής. Οι προβλέψεις αυτές διακρίνονται σε: 1) Βραχυχρόνιες. Βασίζονται σε δεδοµένα ηµερών, µε στόχο την πρόβλεψη των εποµένων, και χρησιµοποιούνται για την επιτυχή υλοποίηση µιας ζεύξης 2) Μακροχρόνιες, οι οποίες χρησιµοποιούνται για το σχεδιασµό κυκλωµάτων ραδιοκάλυψης και για συγκεκριµένο εύρος συχνοτήτων. Αυτές είναι οι πιο αναγκαίες, αλλά και οι πιο δύσκολες ως προς την πραγµατοποίησή τους. Τα µοντέλα που χρησιµοποιούνται είναι: I. Φυσικά, που αποτελούν µοντέλα της υπεριώδους ακτινοβολίας. Με βάση αυτά, υπολογίζεται η κατανοµή των ηλεκτρονίων συναρτήσει του ύψους. II. Εµπειρικά ή στατιστικά, τα οποία βασίζονται σε δεδοµένα µετρήσεων Μέθοδοι ιονοσφαιρικών προβλέψεων 2.6.1α Ιονοσφαιρικοί χάρτες Oι χάρτες αυτοί, έχουν στον οριζόντιο άξονα το γεωγραφικό µήκος και στον κατακόρυφο το γεωγραφικό πλάτος, και αποτελούνται από καµπύλες που ενώνουν περιοχές ίσης συχνότητας αποκοπής. Για τα στρώµατα D και Ε, ετοιµάζονται χάρτες για κάθε µήνα µε αρκετά µεγάλη ακρίβεια για µεγάλο διάστηµα. Αντιθέτως, για το στρώµα F2, το οποίο είναι και το πιο ευµετάβλητο, κάτι τέτοιο είναι αδύνατο. Έτσι για το στρώµα αυτό χρησιµοποιούνται δύο τύποι ιονοσφαιρικών χαρτών. Χάρτες ισοπληθών κρίσιµης συχνότητας. Αυτοί δε δίνουν πληροφορίες για το υποθετικό ύψος της περιοχής ανάκλασης, που είναι απαραίτητο για τον υπολογισµό της fmuf.

30 Χάρτες ισοπληθών του Μ3F2, οι οποίοι σε συνδυασµό µε την fof2 (σχέση 2.1), δίνουν τη MUF3F2. Το µειονέκτηµα των ιονοσφαιρικών χαρτών, είναι ότι αδυνατούν να προβλέψουν αλλαγές στα χαρακτηριστικά της ιονόσφαιρας, που οφείλονται σε διαταραχές ή άλλες ανωµαλίες β Ιονοσφαιρικοί δείκτες Οι Ιονοσφαιρικοί δείκτες είναι παράµετροι που εκφράζουν µεταβολές φυσικών φαινοµένων, τα οποία επηρεάζουν την ιονόσφαιρα. Οι σηµαντικότεροι από αυτούς είναι: 1. Ο εξοµαλυµένος δείκτης R12 των ηλιακών κηλίδων. Πρόκειται για τον εξοµαλυµένο δείκτη R µε την τεχνική του κινητού µέσου. Υπολογίζεται από τη µέση τιµή του αριθµού των ηλιακών κηλίδων των 6 προηγούµενων και των 6 επόµενων µηνών, από τη σχέση: Σχήµα 2.12: Χάρτης ισοπληθών της fof2 (σε MHz), για το µήνα Μάρτιο του 1972 στις 6:UT.

31 n = + R Rk + n+ 6 n 6 12 n 5 2 ( R + R ) (2.16) όπου R k, ο µέσος αριθµός ηλιακών κηλίδων για το µήνα k. Η σχέση δίνει καλύτερα αποτελέσµατα για R 12 < Η µέση µηνιαία ροή ηλιακού ραδιοθορύβου Φ στα 1.7 cm ή 28Mhz, ο οποίος σχετίζεται µε το στρώµα Ε. 3. Ο δείκτης ηλιακής δραστηριότητας I F2, που σχετίζεται µε τον ιονισµό του αντίστοιχου στρώµατος. Ο δείκτης I F2 προκύπτει µε τη µέθοδο της γραµµικής εφαρµογής, από τη συσχέτιση του τριµηνιαίου δείκτη R α της Ζυρίχης για ένα µήνα, και της µέσης µηνιαίας τιµής της f o F2 το µεσηµέρι για δεδοµένο σταθµό. Για µεγαλύτερη αξιοπιστία χρησιµοποιούνται δεδοµένα 11 σταθµών. Άλλοι δείκτες είναι ο δείκτης T, και οι γεωµαγνητικοί K P και A P Σύγχρονες µέθοδοι ιονοσφαιρικής πρόβλεψης Οι γραφικές µέθοδοι ιονοσφαιρικής πρόβλεψης έχουν αρχίσει σταδιακά να αντικαθίστανται από κατάλληλα προγράµµατα. Ένα από αυτά το ΙΟΝCAP (Ionospheric Communications Analysis and Prediction), επιτρέπει την επιλογή κατάλληλων συχνοτήτων, κατάλληλων κεραιών, της ισχύος εκποµπής, όπως επίσης και των κατάλληλων ωρών για βέλτιστη επικοινωνία, όταν του δίνονται ως δεδοµένα η ώρα, ο µήνας, και ο αριθµός των ηλιακών κηλίδων. Ωστόσο, επειδή είναι ολικού γεωγραφικού χαρακτήρα, έχει µειωµένης ακρίβειας αποτελέσµατα. Σηµαντικές τελευταία είναι και οι προσπάθειες πρόβλεψης µε τη βοήθεια νευρωνικών δικτύων. Γενικότερος στόχος αυτών των προσπαθειών είναι η δηµιουργία ενός µη γραµµικού µοντέλου που να προσοµοιώνει την ιονοσφαιρική συµπεριφορά και να δίνει όσο το δυνατόν καλύτερης ακρίβειας προβλέψεις των ζητούµενων χαρακτηριστικών. Έως τώρα οι περισσότερες προσπάθειες που έχουν πραγµατοποιηθεί, αφορούν την πρόβλεψη της fof2. Ωστόσο, συνεχίζουν να γίνονται όλο και περισσότερες έρευνες ως προς αυτή την κατεύθυνση, σε µια προσπάθεια εκµετάλλευσης της κυριότερης ιδιότητας των

32 νευρωνικών δικτύων, της γενικοποίησης. Καθώς τα νευρωνικά δίκτυα είναι ένα σύστηµα διασυνδεόµενων παράλληλα υπολογιστικών στοιχείων, έτσι ώστε να µοιάζουν σε δοµή µε τα βιολογικά νευρωνικά δίκτυα, συµπεριφέρονται όπως αυτά, και γενικεύουν τις γνώσεις που αποκτούν µε την εκπαίδευση. Έτσι, µπορούν να δώσουν ανάλογης ακρίβειας αποτελέσµατα, όταν στην είσοδό τους χρησιµοποιηθούν διαφορετικά διανύσµατα από τα διανύσµατα εκπαίδευσης, που όµως ανήκουν στην ίδια κατηγορία µε αυτά. Για το σκοπό αυτό δίνονται διάφοροι συνδυασµοί εισόδων δεδοµένων για την εκπαίδευσή τους, και µε στόχο τη βραχυχρόνια ή µακροχρόνια πρόβλεψη πολλών διαφορετικών ιονοσφαιρικών χαρακτηριστικών.

33 ΚΕΦΑΛΑΙΟ 3 ΕΙΣΑΓΩΓΗ ΣΤΗΝ ΘΕΩΡΙΑ ΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΙΚΤΥΩΝ 3.1 ΣΧΕΣΗ ΦΥΣΙΚΩΝ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΙΚΤΥΩΝ. ΟΡΙΣΜΟΣ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΙΚΤΥΩΝ. Η έρευνα πάνω σε θέµατα που αφορούν τεχνητά νευρωνικά δίκτυα, άρχισε µε την κατανόηση της λειτουργίας του εγκεφάλου και την εισαγωγή της ιδέας των νευρώνων στις αρχές του αιώνα, σε συνδυασµό µε την συνειδητοποίηση που ακολούθησε έπειτα, ότι ο ανθρώπινος εγκέφαλος επεξεργάζεται δεδοµένα τελείως διαφορετικά από έναν ηλεκτρονικό υπολογιστή. Οι νευρώνες γενικά είναι επεξεργαστές πολύ πιο αργοί από τις λογικές πύλες των υπολογιστών. Παρ όλα αυτά όµως, ο εγκέφαλος µε την υψηλή πολυπλοκότητά του, και το σύστηµα παράλληλης επεξεργασίας που διαθέτει, µε τη δυνατότητα να οργανώνει τους νευρώνες, επιτελεί τις επεξεργασίες πολύ πιο γρήγορα και από τον ταχύτερο ηλεκτρονικό υπολογιστή. Βασικές δοµικές και λειτουργικές µονάδες που µεσολαβούν για τις αλληλεπιδράσεις ανάµεσά τους, είναι οι λεγόµενες συνάψεις. Αυτές µετατρέπουν το προσυναπτικό ηλεκτρικό σήµα σε µετασυναπτικό χηµικό. Άλλο βασικό χαρακτηριστικό του εγκεφάλου είναι η πλαστικότητα, η οποία του επιτρέπει να προσαρµόζεται στο γύρω του περιβάλλον και συµβάλλει στην ικανότητά του να γενικοποιεί και να διευρύνει τη γνώση που αποκτά κατά την εκµάθηση. Αυτό είναι και το πιο σηµαντικό χαρακτηριστικό των τεχνητών νευρωνικών δικτύων, τα οποία σχεδιάζονται µε στόχο τη µοντελοποίηση της συµπεριφοράς του ανθρώπινου εγκεφάλου κατά την πραγµατοποίηση διαφόρων απλών ή σύνθετων λειτουργιών. Αυτό επιτυγχάνεται: µε ηλεκτρονικά στοιχεία, όπως και µε προσοµοίωση σε υπολογιστή. Τελικά, αντιλαµβανόµαστε ότι το τεχνητό νευρωνικό δίκτυο είναι ένας παράλληλα διανεµηµένος επεξεργαστής, µε δυνατότητα αποθήκευσης εµπειρικής γνώσης, άµεσης διάθεσής της για χρήση, οποτεδήποτε αυτό είναι επιθυµητό. Οι

34 οµοιότητές του µε το αντίστοιχο βιολογικό νευρωνικό δίκτυο του εγκεφάλου συνοψίζονται στα εξής δύο σηµεία: Τη γνώση του αποκτάται µέσω µιας διαδικασίας εκµάθησης - εµπειρίας. Την αποθήκευση της γνώσης, η οποία πραγµατοποιείται µε συνδέσεις µεταξύ των νευρώνων, ανάλογες των βιολογικών νευρικών συνάψεων, και πιο συγκεκριµένα, µε τα συναπτικά βάρη που χαρακτηρίζουν αυτές τις συνδέσεις. Σε ένα τεχνητό νευρωνικό δίκτυο, οι νευρώνες διατάσσονται σε στρώµατα (Layers), έτσι ώστε οι νευρώνες κάθε στρώµατος να επιτελούν οµοειδή και ταυτόχρονη διεργασία. Ωστόσο η υπολογιστική του δύναµη οφείλεται στην παράλληλα κατανεµηµένη δοµή του, η οποία αποτελεί και τη βασική αιτία της ανάπτυξης της ικανότητας γενίκευσης που το χαρακτηρίζει (δηλαδή της ικανότητας του δικτύου να δίνει λογικές εξόδους για εισόδους οι οποίες δεν έχουν συµπεριληφθεί στο σύνολο εκπαίδευσης (Training set)). Παρ όλα αυτά, σε εξαιρετικά πολύπλοκα προβλήµατα, η τακτική που ακολουθείται είναι η εξής: το πολύπλοκο πρόβληµα διασπάται σε απλούστερα, καθένα από τα οποία ανατίθεται σε διαφορετικό νευρωνικό δίκτυο. Είναι φανερό άλλωστε, ότι απέχουµε αρκετά από τη δηµιουργία ενός πιστού αντίγραφου του ανθρώπινου εγκέφαλου. 3.2 ΒΑΣΙΚΕΣ ΚΑΤΗΓΟΡΙΕΣ ΝΕΥΡΩΝΙΚΩΝ ΙΚΤΥΩΝ Θεωρούµε ένα σύνολο ζευγών ( ) r r x i, y i, όπου xi X και y i Y, τα οποία σχετίζονται µεταξύ τους µέσω µιας άγνωστης συνάρτησης f: X Y. Στόχος του νευρωνικού δικτύου είναι να προσεγγίσει τη συνάρτηση αυτή, µε όσο το δυνατό µεγαλύτερη ακρίβεια. Η εκπαίδευση του δικτύου για την επίτευξη ακριβώς αυτού του σκοπού µπορεί να γίνει µε δύο τρόπους: Με επίβλεψη (Supervised Learning) Χωρίς επίβλεψη (Unsupervised Learning)

35 Στην πρώτη περίπτωση, εισάγεται είσοδος γενικά διαφορετική από την y i. Η διαφορά των δύο, x i, µε αποτέλεσµα µια έξοδο y i y i - y i, τείνει να ελαχιστοποιηθεί µέσω του αλγόριθµου εκπαίδευσης, βάσει του οποίου τροποποιούνται βασικές παράµετροι του δικτύου. Η διαδικασία επαναλαµβάνεται για όλο το πλήθος των ζευγών, µέχρι το σφάλµα να φτάσει σε κάποια επιθυµητή ανοχή. Μέθοδοι που χρησιµοποιούνται συνήθως για αυτή την τροποποίηση είναι οι: Μέθοδος Κατιούσας κλίσης (Gradient Descent) Μέθοδος Newton Μέθοδος Μεγίστης κλίσης (Steepest Descent) Κανόνας Polak-Ribiere Για εκµάθηση χωρίς επίβλεψη, το δίκτυο αυτοδιοργανώνεται µόνο του, και όχι µέσω ανάδρασης από το περιβάλλον. Απαραίτητη σε αυτή την περίπτωση είναι η ύπαρξη µεγάλου πλήθους δεδοµένων. Οι σπουδαιότερες µέθοδοι σε αυτή την περίπτωση είναι: Ο νόµος του Hebb Ο ανταγωνιστικός νόµος Ο διαφορικός νόµος του Hebb Ο διαφορικός ανταγωνιστικός Άλλος βασικός παράγοντας κατά την εκπαίδευση είναι ο συνολικός χρόνος που απαιτείται, και ο τρόπος που µεταβάλλονται τα στατιστικά χαρακτηριστικά των δεδοµένων σε σχέση µ αυτόν. Τα νευρωνικά δίκτυα, λοιπόν, κατηγοριοποιούνται και µε βάση την παράµετρο του χρόνου, µε διαδικασία εκµάθησης που µπορεί να είναι: επίβλεψη. οµική (Structural), για στάσιµο στατιστικά περιβάλλον (δηλαδή, στατιστικά χαρακτηριστικά που δε µεταβάλλονται µε το χρόνο), ή Χρονική (Temporal), για µη στάσιµο στατιστικά περιβάλλον (real - time learning). Στην παρούσα διπλωµατική εργασία επιτελείται εκπαίδευση δοµική, µε

36 Επιπλέον τα τεχνητά νευρωνικά δίκτυα ανάλογα µε την ικανότητά τους να έχουν µνήµη ή όχι διακρίνονται σε: Στατικά, τα οποία δε διαθέτουν µνήµη, οπότε η έξοδός τους είναι συνάρτηση µόνο της τρέχουσας εισόδου και όχι προηγούµενων ή επόµενων. υναµικά, τα οποία διαθέτουν µνήµη και περιγράφονται από διαφορικές εξισώσεις. 3.3 ΠΛΕΟΝΕΚΤΗΜΑΤΑ ΚΑΙ ΜΕΙΟΝΕΚΤΗΜΑΤΑ ΤΩΝ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΙΚΤΥΩΝ. Βασικότερο πλεονέκτηµα των νευρωνικών δικτύων είναι η µη γραµµικότητα, η οποία αρχίζει ήδη να υφίσταται από το επίπεδο του ενός απλού νευρώνα, για να διανεµηθεί τελικά σε όλο το δίκτυο. Η σηµασία αυτής της ιδιότητας φαίνεται να λαµβάνει σηµαντικές διαστάσεις, αν αναλογιστεί κανείς πως τα περισσότερα προς επεξεργασία προβλήµατα είναι µη γραµµικά. Επιπλέον, τα δίκτυα αυτά, µετά την εκπαίδευση που τους γίνεται για την προσέγγιση της συνάρτησης εισόδου-εξόδου, µπορούν να χρησιµοποιηθούν και για πρόβλεψη. Επίσης σηµαντική είναι η ικανότητά τους να προσαρµόζονται (Retraining), γεγονός που επιτρέπει την επανεκπαίδευσή τους, έτσι ώστε να ανταποκρίνονται κάθε φορά στις αλλαγές του περιβάλλοντος. Αξιοσηµείωτη είναι και η µεγαλύτερη ανοχή τους σε σφάλµατα, εξαιτίας των πολλών µονάδων επεξεργασίας και της διανοµής της πληροφορίας σε όλο το δίκτυο. Συνέπεια αυτού είναι, ακόµη και καταστροφή µέρους των νευρώνων του συστήµατος ή και των µεταξύ τους συνδέσεων, να µην οδηγεί σε ολική καταστροφή, ούτε να επηρεάζει σηµαντικά την απόκρισή του. Τέλος, σηµαντική είναι η ταχύτητά τους, η οποία οφείλεται στον έντονο παραλληλισµό των διεργασιών τους, γεγονός που τα καθιστά κατάλληλα για χρήση σε τεχνολογία VLSI (Very Large Scale Integrated). Στα µειονεκτήµατά τους, καταλογίζονται τα εξής: Η πιθανότητα αποµνήµευσης των δεδοµένων εκπαίδευσης, µε αποτέλεσµα να µην αποδώσουν σε νέα δεδοµένα το ίδιο καλά.( Άσχηµη γενίκευση).

37 Η αυξηµένη πιθανότητα να παγιδευτούν σε τοπικό ελάχιστο της επιφάνειας σφάλµατος κατά την εκπαίδευση. Αυτή η περίπτωση εξετάζεται αναλυτικά στο επόµενο κεφάλαιο, µαζί µε τους κατάλληλους τρόπους για την αντιµετώπισή της. 3.4 ΠΕΡΙΓΡΑΦΗ ΕΝΟΣ ΝΕΥΡΩΝΑ Τα βασικά χαρακτηριστικά ενός νευρώνα είναι τα εξής: 1. Τα συναπτικά βάρη (Synaptic Weights). Aν η είσοδος του νευρώνα k στη σύναψη j είναι το σήµα x i, τότε αυτό πολλαπλασιάζεται µε το συναπτικό βάρος W kj, όπου ο πρώτος δείκτης αναφέρεται στο νευρώνα και ο δεύτερος, στη σύναψη που δέχεται στην είσοδό της το σήµα W kj. 2. Ο αθροιστής, ο οποίος στην έξοδό του δίνει το άθροισµα των σταθµισµένων εισόδων. 3. Η συνάρτηση ενεργοποίησης (Activation Function). Από αυτή περνά η έξοδος του αθροιστή, και δίνει αποτέλεσµα στο διάστηµα [, 1] ή [-1, 1], ανάλογα µε τον τύπο της συνάρτησης που επιλέχθηκε. 4. Το κατώφλι θ κ. Πρόκειται για δευτερεύουσα παράµετρο του συστήµατος, η οποία συνήθως επιλέγεται µε στόχο την καλύτερη ευελιξία του. Σχήµα 3.1: Μοντέλο µη γραµµικού νευρώνα

38 Στο παραπάνω σχήµα δίνεται το µοντέλο ενός νευρώνα µε κατώφλι θ κ, είσοδο το διάνυσµα x1 x2 P = x N, και βάρη ( w, w,... ) W 11 12, w1 N =. N Έτσι ισχύει u = w x, (3.1) k j= 1 όπου προκειµένου k=1, η έξοδος του νευρώνα είναι: kj j y = ϕ k u k ( θ ), ( 3.2) k όπου x, 1, x2,... xn, τα σήµατα εισόδου και w, w2,..., wn 1, τα συναπτικά βάρη του νευρώνα k, θ k το κατώφλι του, και φ( ) η συνάρτηση ενεργοποίησής του. Θεωρώντας, και το κατώφλι ως συναπτικό βάρος W ko της εισόδου x = 1, το ν k, δηλαδή η έξοδος του αθροιστή, δίνεται από τη σχέση: o ν k = N j= w kj x j, (3.3) ενώ η έξοδος του νευρώνα είναι: yk = ϕ ( ν ). (3.4) k Στο σχήµα που ακολουθεί φαίνεται και ο ρόλος που διαδραµατίζει το κατώφλι θκ, το οποίο τελικά ελαττώνει την είσοδο της συνάρτησης ενεργοποίησης όταν το σήµα είναι θετικό και την αυξάνει όταν είναι αρνητικό.

39 Σχήµα 3.2: Επίδραση του κατωφλίου θk στην είσοδο της συνάρτησης ενεργοποίησης Τα σύγχρονα νευρωνικά δίκτυα αποτελούνται από πολλούς απλούς νευρώνες, όπως αυτόν που περιγράφηκε παραπάνω, οι οποίοι συνθέτουν αρχικά ένα στρώµα και στη συνέχεια ένα σύστηµα πολλαπλών στρωµάτων. Σχήµα 3.3: Νευρωνικό δίκτυο τριών στρωµάτων

40 3.5 ΒΑΣΙΚΕΣ ΣΥΝΑΡΤΗΣΕΙΣ ΕΝΕΡΓΟΠΟΙΗΣΗΣ (ΑCΤΙVATION FUNCTIONS) Oι βασικότερες συναρτήσεις ενεργοποίησης που χρησιµοποιούνται στη διαδικασία εκπαίδευσης των νευρωνικών δικτύων είναι: Συνάρτηση κατωφλίου (Threshold Function), η οποία ορίζεται ως εξής: ϕ 1,, αν ν ( ν ) = ( 3.5) αν ν Σχήµα 3.4: Συνάρτηση κατωφλίου Οπότε η έξοδος του νευρώνα κ θα είναι: y k 1, =, αν ν k αν ν k ( 3.6) Τµηµατικά γραµµική συνάρτηση (Piecewise-Linear Function): ϕ 1, ( ν ) = ν + 1, αν 1 ν 1 ( 3.7) 2, αν ν αν ν 1 2

41 φ(ν) ν Σχήµα 3.5: Τµηµατικά γραµµική συνάρτηση Σιγµοειδής συνάρτηση (Sigmoid Function). Μια σιγµοειδής συνάρτηση, είναι η λογιστική σιγµοειδής συνάρτηση, η οποία έχει την εξής µορφή: ϕ ( ν ) = /( 1+ exp( αv) ) 1 ( 3.8) όπου α, παράµετρος η µεταβολή της οποίας έχει σαν αποτέλεσµα τη µεταβολή της κλίσης της συνάρτησης, γεγονός που αποδίδει ευελιξία στο σύστηµα. Επίσης, είναι παραγωγίσιµη. Σχήµα 3.6: Σιγµοειδής συνάρτηση

42 Άλλη παραγωγίσιµη συνάρτηση σιγµοειδούς µορφής που χρησιµοποιείται στη διαδικασία εκµάθησης των δικτύων, είναι η σιγµοειδής συνάρτηση υπερβολικής εφαπτοµένης (Ηyperbolic Tangent Function), που ορίζεται ως εξής: ( v) = tanh( v 2) = ( 1 exp( v) )/( 1+ exp( v) ) ϕ (3.9) Σχήµα 3.7: Γραφική παράσταση της συνάρτησης υπερβολικής εφαπτοµένης y = tanh(x). 3.6 ΟΜΗ ΚΑΙ AΡΧΙΤΕΚΤΟΝΙΚΗ ΙΚΤΥΩΝ Η δοµή των δικτύων είναι άµεσα συνδεδεµένη µε τον αλγόριθµο εκπαίδευσης µε µια αµφίδροµη σχέση αλληλεξάρτησης και επιρροής. Ωστόσο, ανεξάρτητα από το είδος της εκπαίδευσης, είναι δεδοµένο ότι για την ύπαρξη δικτύου, υπάρχουν τουλάχιστον δύο στρώµατα νευρώνων, ένα για την είσοδο και ένα για την έξοδο. Τα δύο αυτά στρώµατα δεν έχουν απαραίτητα τον ίδιο αριθµό νευρώνων. Για το στρώµα εισόδου, ο αριθµός αυτός καθορίζεται από τον όγκο των δεδοµένων, ενώ για το στρώµα εξόδου, συνηθίζεται να χρησιµοποιείται ένας νευρώνας. Τα στρώµατα, τα οποία παρεµβάλλονται µεταξύ εισόδου - εξόδου, δεν έχουν άµεση επαφή µε το περιβάλλον, γι αυτό και ονοµάζονται κρυµµένα στρώµατα (Hidden Layers). O αριθµός των νευρώνων τους είναι τελείως ανεξάρτητος από τον αριθµό των άλλων στρωµάτων. Εδώ, πρέπει να σηµειώσουµε ότι γενικά, η επιλογή του αριθµού των στρωµάτων, των νευρώνων που τα αποτελούν, της συνάρτησης ενεργοποίησης, όπως επίσης και της µεθόδου εκµάθησης γίνεται τυχαία, ή κάποιες

43 φορές, µε βάση εµπειρικούς κανόνες που έχουν κατά καιρούς εφαρµοστεί µε καλά αποτελέσµατα. Οι νευρώνες των διαφόρων στρωµάτων µπορούν να συνδέονται µεταξύ τους µε τους εξής δύο τρόπους: Πλήρης διασύνδεση (Full connection), όπου οι νευρώνες ενός στρώµατος συνδέονται µε όλους τους νευρώνες του εποµένου, κ.ο.κ. Μερική διασύνδεση (Partial connection), όπου µερικοί µόνο νευρώνες από το ένα στρώµα συνδέονται µε µερικούς από το επόµενο. Σχετικά µε το αν υπάρχει ανάδραση µεταξύ εισόδου - εξόδου ή όχι, διακρίνονται οι εξής αρχιτεκτονικές: 1. Τα µη αναδροµικά δίκτυα ενός στρώµατος, που δεν παρουσιάζουν ανάδραση, και αποτελούνται από ένα στρώµα εισόδου και ένα εξόδου, µιας και το στρώµα εισόδου δεν υπολογίζεται αφού δεν αποτελεί τµήµα του υπολογιστικού µέρους του συστήµατος. 2. Τα µη αναδροµικά δίκτυα πολλών στρωµάτων, τα οποία επίσης δεν παρουσιάζουν ανάδραση, και αποτελούν επέκταση της προηγούµενης περίπτωσης, όπου επιπλέον µεταξύ εισόδου και εξόδου συµπεριλαµβάνονται κρυµµένα στρώµατα. Σχήµα 3.8: Μη αναδροµικό δίκτυο ενός στρώµατος

44 3. Τα αναδροµικά δίκτυα, που περιλαµβάνουν τουλάχιστον έναν αναδροµικό βρόχο είτε µεταξύ στρωµάτων, είτε µεταξύ νευρώνων, είτε ακόµη και για τον ίδιο νευρώνα, όταν η έξοδός του τροφοδοτεί η ίδια την είσοδό του (περίπτωση "αυτοανάδρασης", (Self-Feedback) ). Σχήµα 3.9: Αναδροµικό δίκτυο χωρίς αυτο - ανάδραση. 4. Τα µη αναδροµοκά δίκτυα Lattice. Πρόκειται για δοµή χωρίς ανάδραση, µε νευρώνες σε διάταξη γραµµών και στηλών, όπως ακριβώς ένας πίνακας. Σχήµα 3.1: ίκτυο δοµής "lattice" β

45 3.7 ΠΑΡΟΥΣΙΑ ΓΝΩΣΗΣ-ΠΛΗΡΟΦΟΡΙΑΣ ΣΤΗΝ ΕΙΣΟ Ο ΤΕΧΝΗΤΟΥ ΝΕΥΡΩΝΙΚΟΥ ΙΚΤΥΟΥ Ορισµός γνώσης-μορφή δεδοµένων Η ικανότητα πρόβλεψης των δικτύων βασίζεται στον τρόπο εκπαίδευσής τους, ο οποίος µε τη σειρά του εξαρτάται από την ποσότητα της πληροφορίας που διατίθεται στο δίκτυο, και κυρίως, από το πώς αυτή παρουσιάζεται. Ως γνώση ορίζεται: η αποθηκευµένη πληροφορίας που χρησιµοποιείται από τεχνητές ή φυσικές µορφές νοηµοσύνης µε στόχο την πρόβλεψη, και γενικότερα, την κατάλληλη απόκρισή τους στο περιβάλλον. Η πληροφορία που παρέχεται σε ένα σύστηµα τεχνητής νοηµοσύνης, µπορεί να είναι δύο ειδών: Πληροφορία, η οποία έχει σχέση µε το περιβάλλον και τις βασικές ιδιότητες που το χαρακτηρίζουν, και Λαµβανόµενες µετρήσεις, οι οποίες περιέχουν θόρυβο εξαιτίας ανθρωπίνων σφαλµάτων ή ατελειών των οργάνων µέτρησης, και αποτελούν το σύνολο των διανυσµάτων της εκπαίδευσης (Training set). H διαδικασία που ακολουθείται είναι συνοπτικά η εξής: ίνεται το σήµα εισόδου και η επιθυµητή έξοδος. Στη συνέχεια, αφού ολοκληρωθεί η διαδικασία εκµάθησης δοκιµάζεται η απόδοση του δικτύου σε σύνολο δεδοµένων που δεν ανήκουν στο σύνολο εκπαίδευσης. Έτσι δοκιµάζεται η ικανότητα του δικτύου στην εκµάθηση, καθώς µε αυτόν τον τρόπο φαίνεται αν αυτή έχει ολοκληρωθεί ή απλά το δίκτυο έχει αποµνηµονεύσει το σύνολο εκπαίδευσης, µε αποτέλεσµα την καλή συµπεριφορά του µόνο σε αυτό. Αυτή είναι η φάση της γενίκευσης (Generalization). Σηµαντικό επίσης είναι, κατά την εκπαίδευση να δίνονται και αρνητικά παραδείγµατα, δηλαδή διανύσµατα εισόδου των οποίων η έξοδος, είναι γνωστό από πριν, ότι οδηγεί σε αποτελέσµατα τελείως διαφορετικά από τα επιθυµητά. Απλά, δίνονται στο δίκτυο για να το εκπαιδεύσουν, έτσι ώστε να αναγνωρίζει και να

46 διαχωρίζει παρόµοιες " λανθασµένες εισόδους ", οι οποίες πιθανόν δίνονται ταυτόχρονα. Καθώς αυξάνεται η πολυπλοκότητα ενός προβλήµατος, επιβάλλεται να αυξάνεται και ο αριθµός και η πολλαπλότητα των πηγών γνώσης - πληροφορίας. Η διαχείρισή τους σε αυτή την περίπτωση, γίνεται εξαιρετικά δύσκολη. Ωστόσο, υπάρχουν κάποιοι βασικοί κανόνες που ακολουθούνται για την όσο γίνεται απλούστερη και πιο αποτελεσµατική παρουσίαση της πληροφορίας στο δίκτυο. Αυτοί είναι: i) Είσοδοι που παρουσιάζουν οµοιότητες παρουσιάζονται στο δίκτυο σα να ανήκουν στην ίδια κατηγορία. Αξιόπιστα κριτήρια για την οµοιότητα µεταξύ δύο διανυσµάτων εισόδου, είναι η Ευκλείδεια απόσταση και το Εσωτερικό γινόµενο των διανυσµάτων. Αυτά θεωρούνται αρκετά, εφ όσον το πρώτο δηλώνει τη διανυσµατική διαφορά τους, και το δεύτερο, την προβολή του ενός πάνω στο άλλο. ii) εδοµένα µε πολύ µεγάλες διαφορές πρέπει να κωδικοποιούνται µε τέτοιο τρόπο, ώστε οι διαφορές αυτές να είναι φανερές. iii) Πληροφορίες που αφορούν το περιβάλλον και είναι γνωστές από πριν, δίνονται για να το διευκολύνουν. Αυτό οδηγεί στη δηµιουργία "δικτύων µε ειδικευµένη δοµή" (Specialized structure), τα οποία είναι πολύ πιο γρήγορα, µε πολύ λιγότερες ελεύθερες παραµέτρους (δηλ. νευρικές συνάψεις). Έτσι, είναι πιο ευέλικτα κατά την εκπαίδευση και συνεπώς, µε καλύτερα αποτελέσµατα γενίκευσης της νεοαποκτηθείσας γνώσης ιαδικασία εκπαίδευσης Η εκπαίδευση ορίζεται ως η λειτουργία κατά την οποία οι ελεύθερες παράµετροι του δικτύου προσαρµόζονται µέσω µίας συνεχούς διέγερσης από το περιβάλλον µέσα στο οποίο βρίσκεται. Η µέθοδος µε την οποία πραγµατοποιείται, καθορίζεται από τον τρόπο µε τον οποίο αλλάζουν οι τιµές των βαρών για την απαιτούµενη προσαρµογή τους.

47 Τα στάδια που ακολουθούνται στην εκπαίδευση είναι: 1. Το νευρωνικό δίκτυο αρχικά διεγείρεται από το περιβάλλον 2. Γίνονται αλλαγές στις τιµές των βαρών 3. Αποκρίνεται στο περιβάλλον του µε κάποια νέα συµπεριφορά Σχήµα 3.11: Προσυναπτική - Μετασυναπτική ιαδικασία Από το παραπάνω σχήµα, αν w kj ( n), είναι η τιµή του βάρους της σύναψης τη χρονική στιγµή n, η διόρθωση του ίδιου βάρους την ίδια χρονική στιγµή, ( n), που οδηγεί στο νέο βάρος w kj ( n +1),δίνεται από τη σχέση: w kj w kj ( n) = w ( n + 1) w ( n) (3.1) kj kj Η διόρθωση των βαρών πραγµατοποιείται για τους νευρώνες όλων των στρωµάτων µε επαναληπτική διαδικασία. Στην ιδανικότερη περίπτωση µετά από κάθε επανάληψη, το σύστηµα αποκτά όλο και περισσότερη γνώση του περιβάλλοντός του. Οι αλγόριθµοι εκπαίδευσης ποικίλουν, τόσο ως προς τη µέθοδο µε την οποία γίνεται η αλλαγή των βαρών, όσο και ως προς τον τρόπο µε τον οποίο σχετίζεται το δίκτυο µε το περιβάλλον του. Πρακτικά όµως, ενδιαφέρουν οι διαφορές µεταξύ των αλγορίθµων, ως προς την ταχύτητα εκµάθησης.

48 Θεµελιώδεις κανόνες για τους διάφορους αλγόριθµους εκπαίδευσης είναι οι εξής: Εκµάθηση µέσω διόρθωσης σφάλµατος (Error-correction learning) Ανταγωνιστική εκµάθηση (Competitive learning) Αλγόριθµος Hebbian (Hebbian learning) Αλγόριθµος Boltzmann ( Boltzmann learning) Oι αλγόριθµοι ανταγωνιστικής εκµάθησης και Hebbian, στηρίζονται σε φυσικά νευροβιολογικά φαινόµενα, ενώ ο αλγόριθµος Boltzmann, στη θεωρία πληροφοριών και τη θερµοδυναµική. Στην παρούσα διπλωµατική εργασία, χρησιµοποιείται αλγόριθµος διόρθωσης σφάλµατος. Αν y k ( n),είναι η έξοδος του νευρώνα k τη χρονική στιγµή n και ( n) αντίστοιχη επιθυµητή έξοδος, τότε το σφάλµα είναι: e k d k, η ( n) = d ( n) y ( n) (3.11) k H µέθοδος αυτή ελαχιστοποιεί τη συνάρτηση κόστους, έτσι ώστε η απόκριση του δικτύου να προσεγγίζει κατά το δυνατόν καλύτερα τη συνάρτηση εισόδου - εξόδου. Για το σκοπό αυτό παίρνουµε τη συνάρτηση του µέσου τετραγωνικού σφάλµατος, ως συνάρτηση κόστους: 1 2 J = E ( ) (3.12) 2 e k n k όπου το Ε δηλώνει στατιστική µέση τιµή. Η ελαχιστοποίηση αυτής της συνάρτησης γίνεται µε τη µέθοδο της κατιούσας κλίσης, ενώ ο παράγοντας ½ έχει εισαχθεί για ευκολία στους υπολογισµούς κατά την παραγώγιση του της στατιστικής µέσης τιµής του συνολικού τετραγωνικού σφάλµατος J, ως προς τις παραµέτρους του δικτύου. Εξαιτίας όµως της δυσκολίας που εµφανίζεται, καθώς απαιτείται γνώση στατιστικών χαρακτηριστικών της εισόδου, η συνάρτηση που τελικά ελαχιστοποιείται είναι η εξής: ε 1 2PN P N k 2 ( n) = e ki ( n) (3.13) i= 1 k = 1 όπου, N = το πλήθος των νευρώνων του στρώµατος εξόδου, P = το πλήθος των διανυσµάτων εκπαίδευσης

49 Γραφικά, η παραπάνω συνάρτηση κόστους είναι µια πολυδιάστατη επιφάνεια ως προς τα συναπτικά βάρη, γνωστή ως "επιφάνεια σφάλµατος". Σχετικά µε αυτή διακρίνονται οι εξής περιπτώσεις: Αν το δίκτυο αποτελείται από γραµµικές µονάδες επεξεργασίας (γραµµική συνάρτηση ενεργοποίησης), η επιφάνεια σφάλµατος παρουσιάζει ένα και µοναδικό ελάχιστο, γεγονός που εξασφαλίζει, εκτός από τη µοναδικότητα της λύσης, και µεγάλη ταχύτητα σύγκλισης. Αν αποτελείται από µη γραµµικούς νευρώνες (µή γραµµική συνάρτηση ενεργοποίησης), τότε εµφανίζει εκτός από το µοναδικό ολικό ελάχιστο και πολλαπλά τοπικά ελάχιστα, τα οποία µπερδεύουν το δίκτυο, και δυσκολεύουν την εκµάθηση. Η εκπαίδευση ξεκινά από κάποιο σηµείο της επιφάνειας σφάλµατος, που ορίζουν κάποιες αρχικές τιµές των βαρών και εξελίσσεται µε στόχο την εύρεση του ολικού ελαχίστου, και στις δύο περιπτώσεις. Ωστόσο, για µη γραµµικούς νευρώνες, όπου στην επιφάνεια σφάλµατος εντοπίζονται και τοπικά ελάχιστα, είναι πολύ πιθανή η παγίδευση του δικτύου κατά την εκπαίδευση σε ένα από αυτά, έτσι ώστε να αποκλείεται η επιθυµητή σύγκλιση στο ολικό της ελάχιστο.

50 ΚΕΦΑΛΑΙΟ 4 ΝΕΥΡΩΝΙΚΑ ΙΚΤΥΑ ''PERCEPTRON'' 4.1 ΤΟ ΜΟΝΤΕΛΟ "PERCEPTRON" Το "PERCEPTRON", είναι η απλούστερη µορφή νευρωνικού δικτύου, και βρίσκει εφαρµογή στην ταξινόµηση (Classification), γραµµικά διαχωρίσιµων προτύπων. ιακρίνεται για την ιδιαίτερη δυνατότητά του να εκπαιδεύεται και να γενικεύει, κατά την εφαρµογή της αποκτηθείσας γνώσης του, µέσω ενός συνόλου παραδειγµάτων εκµάθησης, που όµως δεν ανήκουν στο σύνολο εκπαίδευσης. Στην απλούστερη µορφή του, αποτελείται µόνο από ένα νευρώνα µε συναπτικά βάρη και κατώφλι, όπως ακριβώς στο παρακάτω σχήµα. Σχήµα 4.1: "Perceptron" ενός στρώµατος Ο αλγόριθµος που χρησιµοποιείται για την προσαρµογή των βαρών του, δηµιουργήθηκε από τον Rossenblatt (1958,1962), o oποίος απέδειξε ότι το "perceptron" συγκλίνει πάντα, όταν τα πρότυπα εκπαίδευσης είναι γραµµικά διαχωρίσιµα. Το "perceptron" ενός νευρώνα διαχωρίζει µόνο δύο κατηγορίες. Για περισσότερες, συνίσταται η χρήση περισσότερων νευρώνων.

51 4.2 ΠΕΡΙΓΡΑΦΗ ΛΕΙΤΟΥΡΓΙΑΣ ΤΟΥ "PERCEPTRON" Στην απλούστερη µορφή του το "perceptron" αποτελείται από ένα νευρώνα, τα συναπτικά βάρη, το κατώφλι, αθροιστή και τη συνάρτηση ενεργοποίησης, σύµφωνα µε την οποία δίνει έξοδο +1 για θετική είσοδο, και -1 για αρνητική είσοδο. Αν τα συναπτικά βάρη του "perceptron" είναι 1, w2,... wn, x, x2,..., xn w, αντίστοιχες είσοδοι, και θ το κατώφλι, η έξοδος του αθροιστή θα είναι: 1 οι N v = w i x i θ i= 1 (4.1) Σχήµα 4.2: ιάγραµµα ροής του "Perceptron" To perceptron καλείται να ταξινοµήσει τις παραπάνω εισόδους σε µία από τις δύο κατηγορίες C 1 ή C 2. Η έξοδός του τελικά, θα είναι ίση µε +1 αν η είσοδος ανήκει στην C 1 κατηγορία, και -1 αν ανήκει στη C 2.Το υπερεπίπεδο που διαχωρίζει τις δύο κατηγορίες ορίζεται από τη σχέση: N i= 1 w θ =, i x i (4.2)

52 ενώ παριστάνεται ως εξής: Σχήµα 4.3: Οριακή επιφάνεια προβλήµατος ταξινόµησης δύο διαστάσεων. Έπειτα από την τοποθέτηση της οριακής επιφάνειας, η οποία, για δισδιάστατα διανύσµατα, είναι ευθεία, το perceptron µπορεί να ταξινοµεί ένα σηµείο, που βρίσκεται πάνω από την οριακή επιφάνεια, στην τάξη C 1, και ένα που βρίσκεται κάτω από αυτήν στην τάξη C 2. Ο ρόλος του κατωφλίου είναι να µετατοπίζει, ανάλογα µε την τιµή του, την οριακή επιφάνεια από την αρχή των αξόνων, όταν αυτό είναι επιθυµητό. 4.3 ΑΛΓΟΡΙΘΜΟΣ ΣΥΓΚΛΙΣΗΣ "PERCEPTRON" Ο αλγόριθµος "perceptron", βασίζεται στη διόρθωση σφάλµατος και µεταβάλλει τα συναπτικά βάρη µέσω µιας επαναληπτικής διαδικασίας. Αν p p p p διάνυσµα εισόδου : x = [, x, x,..., x ] T, και, w [ θ w, w,..., ] T του αθροιστή θα είναι: v p = w T x p N, 1 2 p x το ρ-οστό w N = η έξοδος (4.3)

53 p T p Θέτοντας v = w x =, βρίσκουµε το οριακό επίπεδο µεταξύ των δύο κατηγοριών. Αν X 1 C1 και X 2 C2, όπου Χ 1 και Χ 2, τα δύο γραµµικώς διαχωρίσιµα υποσύνολα των διανυσµάτων εκµάθησης, τότε υπάρχει διάνυσµα w, τέτοιο ώστε: w T x p p, x C 1 w T x p p, x C 2 Ο αλγόριθµος που προτάθηκε από τον Rossenblatt περιγράφεται ως εξής: Αν τα υποσύνολα του συνόλου εκµάθησης είναι γραµµικώς διαχωρίσιµα, και οι είσοδοι που δίνονται σε ένα Perceptron ενός στρώµατος, ανήνουν σε ένα από αυτά, το Perceptron συγκλίνει µετά από n o επαναλήψεις όταν w(n o )= w(n o +1)= w(n o +2)=.., όπου n o n max. Ο αλγόριθµος δίνεται συνοπτικά παρακάτω, όπως πραγµατοποιείται από βήµα σε p p p p βήµα. Έστω x = [ 1, x, x,..., x ] T 1 2 N η είσοδος, w [ θ, w, w,..., w ] T 1 2 N p p διάνυσµα βαρών, θ το κατώφλι, y( x ) η έξοδος του συστήµατος, ( x ) έξοδος, και η ο ρυθµός εκµάθησης µε η 1. Τότε έχουµε: = το d η επιθυµητή Βήµα 1 - Ορισµός αρχικών βαρών του perceptron (Initialization). Bήµα 2 - Ενεργοποίηση. ίνονται η είσοδος και η επιθυµητή έξοδος. Βήµα 3 - Υπολογισµός της πραγµατικής εξόδου. Εδώ, η έξοδος του perceptron δίνεται από τη σχέση: y p T ( x ) w ( n) p = sgn[ x ], ( 4.3) όπου, sgn η συνάρτηση προσήµου (Signum Function), και w T ( n), η τιµή του διανύσµατος των βαρών στη n-οστή επανάληψη. Βήµα 4 - Προσαρµογή των βαρών. Η νέα τιµή του βάρους δίνεται από τη σχέση: w p p p ( n + ) = w( n) + η[ d( x ) y( x )] x 1 (4.4)

54 Βήµα 5 - Επανάληψη της διαδικασίας. Η διαδικασία επαναλαµβάνεται ξεκινώντας από το δεύτερο βήµα. 4.4 PERCEPTROΝ ΠΟΛΛΩΝ ΣΤΡΩΜΑΤΩΝ Τα perceptron µε ένα στρώµα εισόδου, έχουν περιορισµένες δυνατότητες στην επίλυση πολύπλοκων προβληµάτων εξαιτίας τoυ γραµµικoύ διαχωρισµού των κατηγοριών του συνόλου εκµάθησης που απαιτείται, ενώ επιπλέον οι χρόνοι σύγκλισης γίνονται πολύ µεγάλοι, αν κάποιο διάνυσµα στην είσοδο διαφέρει πολύ σε µέγεθος από τα υπόλοιπα. Γι αυτό στις περισσότερες περιπτώσεις χρησιµοποιούνται Perceptrons πολλών στρωµάτων (MLP, Multilayer Perceptrons). Tα MLP εκπαιδεύονται συνήθως µε τον αλγόριθµο της αντίστροφης διάδοσης (Back-propagation), ο οποίος βασίζεται στη διόρθωση του µέσου τετραγωνικού σφάλµατος και αποτελεί εξέλιξη του αλγορίθµου ελαχίστων µέσων τετραγώνων (LMS, Least Mean Square). Tα βασικά χαρακτηριστικά των MLP είναι: 1. Οι συναρτήσεις των νευρώνων είναι µη γραµµικές και κυρίως συνεχείς και παραγωγίσιµες, σε αντίθεση µε το αρχικά προτεινόµενο Perceptron. Συνήθως χρησιµοποιούνται σιγµοειδείς συναρτήσεις όπως η λογιστική και η συνάρτηση tanh( ). Aπό αυτές τις δύο, η λογιστική προσοµοιώνει καλύτερα τη λειτουργία των φυσικών νευρώνων. 2. Το δίκτυο αποτελείται από ένα ή περισσότερα κρυµµένα στρώµατα τα οποία του προσδίδουν χαρακτηριστική ευελιξία, καθώς έχουν την ικανότητα να αποσπούν σταδιακά, σηµαντικές πληροφορίες για τις ιδιότητες της εισόδου. 3. Παρουσιάζουν µεγάλο βαθµό συνεκτικότητας εξαιτίας των συνάψεων. 4. Χαρακτηρίζονται από αιτιατές και χωρίς ανάδραση εξισώσεις. Η έξοδός τους δηλαδή, είναι συνάρτηση αποκλειστικά και µόνο της παρούσας εισόδου. Αναφερόµενοι στις ιδιαίτερες ικανότητες των MLP, σηµειώνεται ότι ένα τέτοιο δίκτυο δύο στρωµάτων µπορεί να εκτελεί όλες τις λογικές συναρτήσεις, ενώ αν προστεθεί ανάδραση, το σύστηµα αποτελεί µία αξιόπιστη προσοµοίωση ηλεκτρονικού υπολογιστή.

55 Οι Hush και Horne, συνιστούν τη χρήση περισσότέρων στρωµάτων όπου αυτό είναι πραγµατικά απαραίτητο. Για παράδειγµα, όταν ένα MLP δύο στρωµάτων, απαιτεί για την εκπαίδευσή του περισσότερους νευρώνες, είναι προτιµότερο να χρησιµοποιούνται περισσότερα στρώµατα π.χ. τρία, µε µικρότερο αριθµό νευρώνων. Αυτά δίνουν και καλύτερα αποτελέσµατα. Από τα παραπάνω, γίνεται εµφανές ότι η επιλογή µεγέθους του δικτύου είναι εξαιρετικά δύσκολη, κατά το σχεδιασµό τους, καθώς µικρό µέγεθος µπορεί να αποδειχθεί ανεπαρκές για την επίλυση του προβλήµατος, ενώ ένα πολύ µεγάλο µέγεθος, εξαιτίας των πολλών βαθµών ελευθερίας, συχνά δίνει χειρότερα αποτελέσµατα. Μέθοδοι οι οποίες έχουν αναπτυχθεί για τον καθορισµό του µεγέθους ενός τεχνητού νευρωνικού δικτύου είναι οι εξής: Επιλογή µεγέθους, έπειτα από δοκιµές εκπαίδευσης δικτύων διαφορετικού αριθµού νευρώνων και δοµής, και σύγκριση της εξόδου τους µε την επιθυµητή έξοδο, ξεκινώντας από το µικρότερο δυνατό δίκτυο. Προσπάθεια αύξησης του µεγέθους, προσθέτοντας νευρώνες ανάλογα µε τις ανάγκες του προβλήµατος κατά τη διάρκεια της εκπαίδευσης, και Μέθοδος κατά την οποία, ξεκινώντας µε αφετηρία δίκτυο µεγάλου µεγέθους, προχωρούµε καταστρέφοντας τις συνάψεις, οι οποίες παρατηρούµε ότι συνεισφέρουν ελάχιστα ή καθόλου στη διαδικασία εκµάθησης. Το ερώτηµα που γεννάται σε αυτή την τελευταία περίπτωση, αφορά το ανώτερο όριο του µεγέθους του δικτύου. Πάντως γενικά, για ένα πλήρως συνδεδεµένο (full-connected) MLP, δύο κρυµµένα στρώµατα είναι αρκετά, ενώ ο συνολικός αριθµός των νευρώνων που τα αποτελούν είναι συνήθως ανάλογος του µεγέθους του συνόλου εκπαίδευσης, χωρίς όµως να ξεπερνά τον αριθµό των διανυσµάτων εκπαίδευσης. Κάτι τέτοιο θα είχε ως αποτέλεσµα την σίγουρη αποµνηµόνευση των δεδοµένων εκπαίδευσης από το δίκτυο. Τέλος, σηµειώνεται ότι για την προσέγγιση γραµµικών συναρτήσεων προτείνεται η χρήση γραµµικών νευρώνων (γραµµική συνάρτηση ενεργοποίησης), ενώ για µη γραµµικές συναρτήσεις προτείνονται µη γραµµικοί νευρώνες (µη γραµµική συνάρτηση ενεργοποίησης). Επίσης, τα δίκτυα µε κατώφλι δείχνουν γενικά να αποδίδουν καλύτερα.

56 4.5 ΜΕΙΟΝΕΚΤΗΜΑΤΑ ΤΩΝ MLP - ΕΦΑΡΜΟΓΕΣ Τα κυριότερα µειονεκτήµατα των MLP είναι: Η δύσκολη θεωρητική τους ανάλυση, εξαιτίας της µη γραµµικότητας, της υψηλής συνεκτικότητας και του έντονου παραλληλισµού που παρουσιάζουν, και Η απουσία µιας άµεσης και ολοκληρωµένης εικόνας της διαδικασίας εκµάθησης, που οφείλεται στην παρουσία κρυµµένων στρωµάτων. Παρ όλα αυτά, βρίσκουν εφαρµογή σε µια τεράστια ποικιλία προβληµάτων που καλύπτουν σχεδόν όλους τους τοµείς του σύγχρονου τρόπου ζωής. Οι σηµαντικότερες από αυτές τις εφαρµογές είναι: Αναγνώριση οµιλίας Αναγνώριση χειρόγραφων χαρακτήρων Αναγνώριση προτύπων Αυτόµατος έλεγχος Ιατρική διάγνωση, κυρίως όσον αφορά τη διάγνωση καρδιακών επεισοδίων Ανίχνευση σήµατος ραντάρ και αναγνώριση στόχου Επιπλέον, υπάρχει και µια σειρά συνεχώς αναπτυσσόµενων εφαρµογών, σε τοµείς όπως: Αεροναυπηγική Αυτοκινητοβιοµηχανία Αµυντικά συστήµατα Ηλεκτρονική ιασκέδαση-εικόνα-ήχος-κινηµατογράφος Στρατηγική ασφαλίσεων Τραπεζικό σύστηµα και οικονοµία Εκµετάλλευση πετρελαίου και παραγώγων του Ροµποτική Τηλεπικοινωνίες Μεταφορές

57 KEΦΑΛΑΙΟ 5 Ο ΑΛΓΟΡΙΘΜΟΣ BACK PROPAGATION 5.1 ΠΕΡΙΓΡΑΦΗ ΤΟΥ ΑΛΓΟΡΙΘΜΟΥ ΑΝΤΙΣΤΡΟΦΗΣ ΙΑ ΟΣΗΣ (BACK-PROPAGATION). Τα MLP, όπως ήδη έχει αναφερθεί, έχουν τη δυνατότητα να επιλύουν ποικίλα και δύσκολα προβλήµατα, όταν βασίζονται σε έναν αλγόριθµο εκπαίδευσης, γνωστό ως αλγόριθµο αντίστροφης διάδοσης (back-propagation), ο οποίος αποτελεί γενίκευση του αλγόριθµου ελαχίστων µέσων τετραγώνων (Least Mean Square-LMS- Algorithm), και έχει σκοπό την ελαχιστοποίηση του µέσου τετραγωνικού σφάλµατος µεταξύ της υπολογισµένης από το σύστηµα και της επιθυµητής εξόδου. Όπως ήδη έχει γίνει αντιληπτό, η εκπαίδευση των νευρωνικών δικτύων, ουσιαστικά ανάγεται στην εύρεση κατάλληλων βαρών για τις συνάψεις. Έτσι, το δίκτυο εκπαιδεύεται επιλέγοντας αρχικά µικρές τυχαίες τιµές για τα βάρη και τα κατώφλια, και παρουσιάζοντας στη συνέχεια το σύνολο των παραδειγµάτων επαναληπτικά. Οι τιµές των βαρών αναπροσαρµόζονται σε κάθε επανάληψη, αποσπώντας χαρακτηριστικά των διανυσµάτων εισόδου ώσπου να επιτευχθεί σύγκλιση των βαρών κατά την οποία η συνάρτηση κόστους (δηλ. το µέσο τετραγωνικό σφάλµα), µειώνεται κάτω από ένα επιτρεπτό όριο. Βασικά, η µέθοδος αυτή αποτελείται από δύο µέρη που συνίστανται σε δύο περάσµατα µέσα από τα στρώµατα του δικτύου: A. Την απ ευθείας διάδοση, κατά την οποία ένα διάνυσµα εφαρµόζεται στην είσοδο του δικτύου και το αποτέλεσµα διαδίδεται από στρώµα σε στρώµα, φτάνοντας ως την τελική έξοδο του δικτύου, και B. Την αντίστροφη διάδοση, στην οποία η µέθοδος οφείλει και το όνοµά της, και που πραγµατοποιείται ως εξής: Υπολογίζεται το σφάλµα, δηλαδή η διαφορά µεταξύ επιτυγχανόµενης και επιθυµητής εξόδου, και στη συνέχεια, το σήµα του σφάλµατος διαδίδεται προς τα πίσω, συντελώντας στη µεταβολή των τιµών των βαρών. Οι µεταβλητές που χρησιµοποιεί ο αλγόριθµος, και οι αντίστοιχοι συµβολισµοί τους είναι οι εξής:

58 u, Έξοδος του κόµβου j του στρώµατος l l j w 1, i, j x r p Συναπτικό βάρος που συνδέει τον κόµβο i του στρώµατος l 1 µε τον κόµβο του στρώµατος l p-oστό πρότυπο του συνόλου εκπαίδευσης u, i-οστή συντεταγµένη του διανύσµατος εισόδου o i r Επιθυµητή έξοδος του κόµβου j για το p-oστό πρότυπο του συνόλου d j ( x p ) εκπαίδευσης N Αριθµός κόµβων του στρώµατος l l L Πλήθος στρωµάτων P Πλήθος διανυσµάτων εκπαίδευσης Σηµειώνεται ότι l= είναι το στρώµα εισόδου. Εποµένως, αν x r p η είσοδος τότε u = p o, j x j, η j-οστή συντεταγµένη της τρέχουσας εισόδου. Επίσης, τα κατώφλια ορίζονται ως το πρώτο στοιχείο του διανύσµατος εισόδου κάθε στρώµατος. Συνεπώς, επειδή η τιµή της εισόδου που αντιστοιχεί στο κατώφλι θεωρείται ίση µε ένα, θεωρείται u l, = 1 για κάθε στρώµα l. Tέλος, συµβολίζονται µε w l, j, o, οι τιµές των κατωφλίων. Με βάση τα παραπάνω, καταλήγουµε στο συµπέρασµα ότι η έξοδος του στρώµατος l δίνεται από τη σχέση: u Nl 1 = ϕ w u, j N l, j l, j, i l 1, i l i= o (5.1) όπου φ µια µη γραµµική, συνεχής, γνησίως αύξουσα και παραγωγίσιµη συνάρτηση, όπως η σιγµοειδής λογιστική συνάρτηση ή η συνάρτηση υπερβολικής εφαπτοµένης, οι οποίες χρησιµοποιούνται ως επί το πλείστον. Στόχος του αλγορίθµου αυτού είναι η ελαχιστοποίηση της συνάρτησης του µέσου τετραγωνικού σφάλµατος: J P ( w ) = J ( w p ), (5.2) p= 1 το οποίο εξαρτάται από τις ελεύθερες παραµέτρους του δικτύου, δηλαδή τα συναπτικά βάρη, τα οποία και αναπροσαρµόζονται επαναληπτικά. Αν

59 ( ) ( ) ( ) ( ) ) (5.3, , = = N L q p q p q L p x d x u w J r r όπου L N o αριθµός νευρώνων του στρώµατος εξόδου, τότε η µεταβολή στα βάρη περιγράφεται ως εξής: ( ) ( ) ( ) ( ) ( ) (5.4) 1 1,,,,,,,,,, = = = + P p i j l p i j l i j l i j l i j l w w J k w w w J k w k w η η όπου, η παράγωγος υπολογίζεται στο w(k), που παριστάνει την τιµή του w την κ- οστή επανάληψη. Με η συµβολίζεται ο ρυθµός εκµάθησης, ενώ η παράγωγος ( ) i j l p w w J,,, υπολογίζεται από τον κανόνα της παραγώγισης κατά µέρη: ( ) ( ) (5.5),,,,,, i j l j l j l p i j l p w u u w J w w J = όπου, = = 1 1,,,,,,,, N l m m l m j l i j l i j l j l u w w w u ϕ = = = 1 1 1,,,,, 1,,, l N l m m l m j l i j l N m m l m j l u w w u w ϕ i l N m m l m j l u u w l 1, 1,,, 1 = = ϕ (5.6) Στη συνέχεια υπολογίζεται η παράγωγος του J p ως προς το u l,j, η οποία δηλώνει την ευαισθησία της συνάρτησης J p ως προς την έξοδο u l,j του νευρώνα του στρώµατος που επιδρά στη συνάρτηση J p µέσω όλων των κόµβων του επόµενου στρώµατος: ( ) ( ) = = + = , 1, 1,, N l m j l m l m l p j l p u u u w J u w J ( ) = = + = = ,, 1,, 1, N l l m N q q l m q l j l m l p u w u u w J ϕ ( ) + = + = + + = 1 1, 1,,, 1, 1, N l l m j m l N q q l m q l m l p w u w u w J ϕ (5.7)

60 H διαδικασία συνεχίζεται για την παράγωγο J p u ( w) l+1, m ώσπου να φτάσουµε στο στρώµα εξόδου, όπου εφαρµόζεται η οριακή συνθήκη: J p u ( w) L, j = e p = u L, j r r ( x ) d ( x ) = u ( p) d ( p) p j p L, j j Παρατηρούµε λοιπόν, ότι η διόρθωση της τιµής του βάρους w ji του στρώµατος l στην p-οστή επανάληψη, δηλαδή, κατά την παρουσίαση διανύσµατος x r p στην είσοδο του δικτύου, περιγράφεται από τη σχέση: ό ι ρθωση Ρυθµ ός Tοπική Σήµα εισόδου ( ) ( ) ( ( )) Βάρους = Εκµ άθησης Παράγωγος νευρώνα j wl, j, i p η δ j p ϕ ui p Όταν ο νευρώνας j ανήκει στο στρώµα εξόδου, η τοπική παράγωγος δίνεται από τη σχέση: j ( ) ϕ ( u ( )) (5.8) ( p) = u ( p) d ( p) δ L, j j j p Σχήµα 5.1: ιάγραµµα ροής για τον νευρώνα j όταν αυτός ανήκει στο στρώµα εξόδου.

61 Όταν ο νευρώνας j ανήκει σε κρυµµένο στρώµα, η τοπική παράγωγος είναι: δ j ( p) = ϕ u ( p) ( j ) δ k ( p) wkj ( p) (5.9) k Συνεπώς, ο υπολογισµός των τοπικών παραγώγων εξαρτάται από το σταθµισµένο άθροισµα των τιµών των δ των νευρώνων που ανήκουν στο επόµενο στρώµα l+1, και συνδέονται µε το νευρώνα j. Σχήµα 5.2: ιάγραµµα ροής για το νευρώνα j όταν αυτός ανήκει σε κρυµµένο στρώµα. Η λογική µε την οποία πραγµατοποιείται η µεταβολή στα συναπτικά βάρη, είναι αυτή της µέγιστης κλίσης (Steepest Descent). Οι διαφορές ελαττώνονται όσο πλησιάζεται η ελάχιστη τιµή του σφάλµατος και µηδενίζονται όταν επιτευχθεί η ελάχιστη τιµή. Οι τιµές των βαρών ελαττώνονται όταν η κλίση της συνάρτησης σφάλµατος αυξάνει (αύξουσα συνάρτηση), και αυξάνονται όταν αυτή µειώνεται (φθίνουσα συνάρτηση). Συνοπτικά, στην απ ευθείας διάδοση υπολογίζεται η έξοδος του δικτύου και η διαφορά της από την επιθυµητή έξοδο, χωρίς οι τιµές των βαρών να αλλάζουν. Ενώ, στην αντίστροφη διάδοση, υπολογίζεται αρχικά, η τοπική παράγωγος για κάθε νευρώνα του στρώµατος εξόδου, και στη συνέχεια µε τη βοήθεια αυτών, υπολογίζονται και οι αλλαγές των αντίστοιχων βαρών. Έπειτα, από τις παραγώγους του στρώµατος εξόδου υπολογίζονται οι τιµές των παραγώγων του προηγούµενου στρώµατος και των αντίστοιχων βαρών κ.ο.κ. Η διαδικασία συνεχίζεται από στρώµα σε στρώµα έως το αρχικό, και αφού ενηµερωθούν όλες οι συνάψεις µε τις

62 κατάλληλες αλλαγές στα βάρη τους, επαναλαµβάνεται µέχρι το σφάλµα να φτάσει σε ένα επιθυµητό όριο. Σηµαντική για την όλη διαδικασία είναι η επιλογή κατάλληλου ρυθµού εκµάθησης η (Learning Rate Parameter), o οποίος παίρνει τιµές στο διάστηµα (, 1]. Οι παράγοντες που λαµβάνονται υπ όψην είναι αλληλοσυγκρουόµενοι, καθώς: Μικρή τιµή του η, έχει σαν αποτέλεσµα µικρές αλλαγές στα βάρη, γεγονός που εξασφαλίζει την ευστάθεια, οδηγεί όµως σε επιβράδυνση της διαδικασίας εκµάθησης. Μεγάλη τιµή του η, επιταχύνει την εκπαίδευση, πολλές φορές όµως, εξαιτίας των µεγάλων αλλαγών στα βάρη, ωθεί το δίκτυο σε αστάθεια. Η επιλογή του ρυθµού εκµάθησης µπορεί να γίνει µε διάφορους τρόπους. Έτσι, είναι δυνατό η τιµή του να είναι ίδια για όλο το δίκτυο, ή ακόµη και κάθε βάρος ή στρώµα να έχουν το δικό τους ρυθµό εκµάθησης. Συνήθως, η τελική επιλογή γίνεται έπειτα από πολλές δοκιµές, ωστόσο ένας κανόνας είναι, να δίνεται στο η, τιµή αντιστρόφως ανάλογη του µέσου µεγέθους των διανυσµάτων κάθε κόµβου. Μια πολύ καλή µέθοδος µε την οποία επιτυγχάνεται αύξηση του ρυθµού εκµάθησης, µε αποφυγή της αστάθειας, είναι η εισαγωγή ενός συντελεστή αδρανείας α (Momentum Constant). Έτσι, η βασική σχέση για τη διόρθωση του βάρους w ji παίρνει τη µορφή: w ( p) = α w ( p 1) + η δ ( p) ϕ( u ( p) ), (5.1) ji ji j i όπου, ( ( p) ) ϕ, είναι η έξοδος του νευρώνα i που προηγείται του j, και συνδέεται µε u i αυτόν µέσω του βάρους w ji. Από την παραπάνω σχέση, είναι εµφανές ότι η τιµή του βάρους τείνει να αλλάξει προς τη γενική κατεύθυνση του δικτύου, χωρίς να ταλαντώνεται σε κάθε αλλαγή της J p w ( w) lj, i. Πιο συγκεκριµένα:

63 Όταν η J p w ( w) lj, i έχει το ίδιο πρόσηµο σε διαδοχικές επαναλήψεις, η εισαγωγή της σταθεράς α επιταχύνει τη διαδικασία εκµάθησης, ενώ όταν έχει διαφορετικό πρόσηµο σε κάθε επανάληψη, το α συντελεί στην ευστάθεια του δικτύου. Η σταθερά αδρανείας α βοηθά τα βάρη να κινούνται προς τις καλύτερες τιµές τους, όταν το δίκτυο βρίσκεται σε µια επίπεδη περιοχή της επιφάνειας σφάλµατος, όπου η κλίση J p w ( w) lj, i. Τότε, σε περίπτωση όπου α=, θα προέκυπτε w ( p) =. EQ ji Η σταθερά αυτή συντελεί στην αποφυγή παγίδευσης του συστήµατος σε τοπικό ελάχιστο της επιφάνειας σφάλµατος [18]. Η επίδρασή της σε αυτή την περίπτωση φαίνεται καθαρά στα σχήµατα που ακολουθούν. Σχήµα 5.3: Επιλογή αρχικής τιµής βάρους µη γραµµικού νευρώνα - ισδιάστατη απεικόνιση του ολικού και τοπικού ελαχίστου της επιφάνειας σφάλµατός του.

64 (α) (β) Σχήµα 4.4: (α) Παγίδευση σε τοπικό ελάχιστο για εκπαίδευση χωρίς σταθερά αδρανείας. (β) Τερµατισµός του δικτύου σε ολικό ελάχιστο, µε χρήση σταθεράς αδρανείας. Στην παρούσα διπλωµατική εργασία κατά την εκπαίδευση των νευρωνικών δικτύων "η σταθερά αδρανείας" µεταβάλλεται ως εξής: Όταν ο λόγος του J n ( w), στη n-οστή επανάληψη προς την αντίστοιχη τιµή του κατά την επανάληψη n-1 είναι µεγαλύτερος από µία τιµή e, δηλαδή όταν J J n n 1 ( w) ( w) e - όπου e, αριθµός µεγαλύτερος της µονάδας - η σταθερά αδρανείας µηδενίζεται. Σε αντίθετη περίπτωση, εξακολουθεί να επιδρά στο δίκτυο. Άλλη µέθοδος που χρησιµοποιείται για µεγαλύτερη αξιοπιστία και επιτάχυνση του δικτύου, είναι ο προσαρµοζόµενος ρυθµός εκµάθησης (Adaptive Learning Rate). Έτσι, όπως και στην περίπτωση της σταθεράς ροπής, όταν J J n n 1 ( w) ( w) z - όπου z, αριθµός µεγαλύτερος της µονάδας - τότε η τιµή του ρυθµού εκµάθησης µειώνεται, πολλαπλασιαζόµενη µε µια τιµή k < 1: l Aν όµως, J J n n 1 ( w) ( w) η new = k η 1 old (5.11) z, η τιµή του ρυθµού εκµάθησης αυξάνει, καθώς πολλαπλασιάζεται µε έναν αριθµό k < 2 1 : η new = k 2 η old (5.12) Η παραπάνω διαδικασία, επιτρέπει την αύξηση του ρυθµού εκµάθησης, σε τέτοιο βαθµό ώστε το δίκτυο να µαθαίνει χωρίς το µέσο τετραγωνικό σφάλµα να

65 αυξάνεται. Με αυτόν τον τρόπο, η βέλτιστη τιµή του ρυθµού εκµάθησης καθορίζεται από τις τοπικές συνθήκες που επικρατούν κάθε φορά, µε αποτέλεσµα να αυξάνεται δεδοµένης της ευστάθειας του συστήµατος και της σύγκλιση του δικτύου, και να ελαττώνεται αντίστοιχα σε ανεκτό βαθµό, όταν η τιµή του είναι αρκετά µεγάλη και δεν οδηγεί σε µείωση του σφάλµατος. 5.2 ΕΚΠΑΙ ΕΥΣΗ ΠΡΟΤΥΠΟΥ ΚΑΙ ΕΚΠΑΙ ΕΥΣΗ ΚΑΤΑ ΟΜΑ ΕΣ Ο αλγόριθµος Back-Propagation µπορεί να πραγµατοποιηθεί µε δύο τρόπους όσον αφορά τον τρόπο παρουσίασης των στοιχείων της εκπαίδευσης: Προτύπου (Pattern), και Kατά οµάδες (Batching) Εκπαίδευση προτύπου Στην εκπαίδευση προτύπου (Pattern mode), η προσαρµογή των βαρών γίνεται µετά την παρουσίαση του κάθε προτύπου στο δίκτυο. Πιο συγκεκριµένα, για Ρ διανύσµατα εκπαίδευσης,, () 1 [ ] [ x ], [ x, ( 2) ],.., [ x N, d( N )] 1 d 2 d, δίνεται αρχικά το ζεύγος x, () 1 και εκτελείται τόσο η απ ευθείας όσο και η αντίστροφη µετάδοση, 1 d προσαρµόζοντας τα βάρη ανάλογα µε το σφάλµα. Στη συνέχεια, δίνεται το δεύτερο ζεύγος [ x, ( 2) ] 2 d, και επαναλαµβάνεται η παραπάνω διαδικασία. Τα βήµατα αυτά πραγµατοποιούνται επαναληπτικά για όλο το σύνολο των διανυσµάτων εισόδου - επιθυµητής εξόδου. ˆ w Η µέση τιµή 1 = P ˆ w l, j, i της αλλαγής του βάρους ji η J w είναι: e P P ( ) ( ) ( ) P p j l, j, i wl, j, i p = = e j p p= 1 P p= 1 wl, j, i p P p= 1 wl, j, i όπου, e ( p) d ( p) u ( p) = και η ο ρυθµός εκµάθησης. j j L, j η ( p) ( p) (5.13)

66 4.2.2 Εκπαίδευση κατά οµάδες Με τη µέθοδο αυτή, η προσαρµογή των βαρών γίνεται µετά το πέρασµα όλων των στοιχείων των διανυσµάτων εκπαίδευσης. Έτσι, η µέση τιµή ε av του µέσου τετραγωνικού σφάλµατος (SSE, Sum-Squared Error), είναι: ε av = 1 2 P N L ( e j ( p) ) P p= 1 j= 1 2 είναι: Ενώ, η αλλαγή βάρους για την κατά οµάδες εκπαίδευση (Batching mode) w ji ε = η w av ji η = P e ( p) P j e j ( p) p= 1 w ji (5.15) Συγκρίνοντας τις δύο µεθόδους: η διαδικασία προτύπου, κατά την οποία η παρουσίαση των δειγµάτων γίνεται µε τρόπο τυχαίο και η αλλαγή των βαρών πραγµατοποιείται µετά από κάθε παράδειγµα, ως στοχαστική διαδικασία. Η στοχαστικότητα αυτή που τη χαρακτηρίζει, συµβάλλει σηµαντικά στην ευελιξία του συστήµατος, καθώς µειώνει τις πιθανότητες παγίδευσης του δικτύου κατά την εκπαίδευση σε τοπικό ελάχιστο, ενώ, η εκπαίδευση µε την κατά οµάδες διαδικασία, επιτρέπει υπολογισµούς µε µεγαλύτερη ακρίβεια, κυρίως στις περιπτώσεις όπου το σύνολο των παραδειγµάτων εκµάθησης (Training set) είναι πολύ µεγάλο. 5.3 ΣΥΝΘΗΚΕΣ ΤΕΡΜΑΤΙΣΜΟΥ ΤΗΣ ΕΚΠΑΙ ΕΥΣΗΣ Η διαδικασία αλλαγής των βαρών πραγµατοποιείται επαναληπτικά, µέχρι το δίκτυο να καταλήξει σε ελάχιστο της επιφάνειας σφάλµατος. Αυτό πρακτικά είναι δύσκολο, καθώς όσο πιο σύνθετο είναι το πρόβληµα, τόσο πιο σύνθετη γίνεται και η αρχιτεκτονική του νευρωνικού δικτύου που χρειάζεται για την επίλυσή του, µε συνέπεια συχνά η εκπαίδευση να καθίσταται εξαιρετικά χρονοβόρα. Έτσι, υπάρχουν κάποια κριτήρια, τα οποία όταν ικανοποιούνται µπορούν να σηµάνουν το τέλος της εκπαίδευσης. Τα κριτήρια αυτά ή αλλιώς,οι συνθήκες τερµατισµού είναι:

67 1. Η ελαχιστοποίηση της τιµής της κλίσης της επιφάνειας σφάλµατος. Ο αλγόριθµος τότε µπορεί να θεωρηθεί ότι τερµατίστηκε, αφού εξ ορισµού η κλίση στο ελάχιστο σηµείο της επιφάνειας σφάλµατος είναι. 2. Η πτώση της τιµής της συνάρτησης J(w) του µέσου τετραγωνικού σφάλµατος κάτω από κάποιο προκαθορισµένο όριο. 3. Ο τερµατισµός της εκπαίδευσης µετά από συγκεκριµένο αριθµό επαναλήψεων, χωρίς όµως σε αυτή την περίπτωση να εξασφαλίζεται και η ταυτόχρονη σύγκλιση του δικτύου [9]. 4. Η ικανότητα του δικτύου να γενικεύει. Αυτό αποτελεί και το ποιο αξιόπιστο κριτήριο τερµατισµού του αλγορίθµου, ενώ η µέθοδος τερµατισµού που αντιστοιχεί, είναι γνωστή ως Cross-Validation. Σύµφωνα µ αυτή, καθώς το δίκτυο εκπαιδεύεται, παρακολουθείται η συµπεριφορά του σε σχέση µε ένα σύνολο διανυσµάτων που χρησιµοποιούνται για δοκιµή, και τα οποία δεν ανήκουν στο σύνολο εκπαίδευσης. Με την εξέλιξη της εκπαίδευσης, παρατηρούµε ότι, αρχικά η συµπεριφορά του δικτύου ως προς τα διανύσµατα αυτά φαίνεται να βελτιώνεται, κάποια στιγµή όµως αρχίζει να χειροτερεύει. Πρόκειται για τη λεγόµενη περίπτωση κορεσµού του δικτύου, όπου παραπέρα αύξηση του αριθµού των νευρώνων οδηγεί στην υπερεκπαίδευσή του, µε συνέπεια την αποµνηµόνευση των διανυσµάτων του συνόλου εκπαίδευσης. Αυτό άλλωστε, συνεπάγεται και την κακή συµπεριφορά του συστήµατος ως προς οποιοδήποτε άλλο σύνολο διανυσµάτων παρουσιάζεται στην είσοδό του κατά τη διαδικασία της προσοµοίωσης. Σε αυτό το σηµείο λοιπόν, επιβάλλεται να τερµατισθεί ο αλγόριθµος εκµάθησης, για µια σωστότερη και πιο ολοκληρωµένη επίλυση του προβλήµατος. Αξιολογώντας τα παραπάνω κριτήρια, σηµειώνουµε ότι τα τρία πρώτα είναι πολύ πιθανό να οδηγήσουν σε πρόωρο τερµατισµό, αντίθετα µε το τελευταίο, το οποίο όχι µόνο δεν οδηγεί σε πρόωρο τερµατισµό, αλλά επιπλέον βελτιώνει την ικανότητα γενίκευσης του δικτύου. Στην παρούσα διπλωµατική εργασία, για τον τερµατισµό της εκπαίδευσης χρησιµοποιείται συνδυασµός των παραπάνω κριτηρίων, µε έµφαση όµως, στον τερµατισµό της εκπαίδευσης σύµφωνα µε τη µέθοδο Cross- Validation.

68 5.4 ΜΕΘΟ ΟΙ ΒΕΛΤΙΩΣΗΣ ΤΟΥ ΒΑCK-PROPAGATION Εκτός από την εισαγωγή της σταθεράς ροπής a και τη χρήση προσαρµοζόµενου ρυθµού εκµάθησης η, υπάρχουν και κάποιες άλλες µέθοδοι βελτίωσης του αλγορίθµου Βαck-Propagation, όπως : 1. Η χρήση περιττής συνάρτησης ως συνάρτηση ενεργοποίησης, καθώς έχει αποδειχθεί ότι σ αυτή την περίπτωση ένα MLP µαθαίνει γρηγορότερα. Μια τέτοια συνάρτηση είναι και η συνάρτηση υπερβολικής εφαπτοµένης, tanh(x), η οποία χρησιµοποιείται και στη συγκεκριµένη διπλωµατική εργασία. 2. Η κωδικοποίηση των δεδοµένων σε διάστηµα της µορφής ( β+ε, γ-ε ) όπου β και γ τα όρια της συνάρτησης ενεργοποίησης στο και στο + αντίστοιχα, και ε ένας µικρός θετικός αριθµός. [ x, ( 2) ] 2 d 3. Η χρησιµοποίηση αρχικών τιµών για τα συναπτικά βάρη, οι οποίες ανήκουν σε µικρό διάστηµα, ώστε να µην οδηγηθεί το σύστηµα σε πρόωρο κορεσµό, εξαιτίας µεγάλων τιµών και πιθανών µεγάλων διαφορών µεταξύ τους. Αν οι αρχικές τιµές των βαρών είναι τέτοιες ώστε να οδηγούν σε µεγάλες τιµές της εισόδου της συνάρτησης ενεργοποίησης, η έξοδός της θα είναι περίπου -1 ή +1, πράγµα που σηµαίνει ότι το δίκτυο βρίσκεται σε κατάσταση πρόωρου κορεσµού. Πρόωρος κορεσµός (Premature saturation), σηµαίνει ότι το µέσο τετραγωνικό σφάλµα παραµένει σταθερό κατά τη διάρκεια κάποιων διαδοχικών επαναλήψεων, µε αποτέλεσµα τη σηµαντική επιβράδυνση του δικτύου. Ωστόσο, καλό είναι κατά την κωδικοποίηση των τιµών, το σχετικό διάστηµα να µην είναι υπερβολικά J µικρό, γιατί κάτι τέτοιο, θα είχε ως αποτέλεσµα η παράγωγος, να παίρνει w πολύ µικρές τιµές, γεγονός που ισοδυναµεί µε µικρές αλλαγές στα βάρη και εποµένως χρονοβόρα διαδικασία εκµάθησης. Αξιοσηµείωτη προσοχή, πρέπει να δωθεί στην περίπτωση εσφαλµένου κορεσµού (Incorrect Saturation), που συµβαίνει όταν η έξοδος της συνάρτησης ενεργοποίησης είναι +1, ενώ η επιθυµητή έξοδος είναι -1 ( ή αντίστροφα ). Σε αυτή την περίπτωση, η προσαρµογή των βαρών είναι πρακτικά ανύπαρκτη, ενώ ο νευρώνας δύσκολα ξεφεύγει από αυτή την κατάσταση.

69 4. Η παρουσίαση των διανυσµάτων εκπαίδευσης στο δίκτυο, στην περίπτωση του Pattern mode, θα πρέπει να είναι τυχαία. 5. Η πρόσδωση στο δίκτυο όσο το δυνατόν περισσότερης πληροφορίας σχετικής µε το περιβάλλον. Με αυτόν τον τρόπο, διευκολύνεται περισσότερο το σύστηµα στην προσπάθεια προσέγγισης της άγνωστης συνάρτησης µεταξύ εισόδου και επιθυµητής εξόδου, που πραγµατοποιεί κατά την εκπαίδευση. Σηµαντικά δε, µειώνονται οι χρόνοι εκπαίδευσης. 5.5 ΜΕΙΟΝΕΚΤΗΜΑΤΑ ΤΟΥ BACK-PROPAGATION Η µέθοδος του αλγόριθµου Back-Propagation, είναι η πιο συχνά χρησιµοποιούµενη διαδικασία εκπαίδευσης, αφού µπορεί και προσφέρει ικανοποιητικές λύσεις σε ποικίλα και δύσκολα προβλήµατα. Ωστόσο, παρουσιάζει και κάποια µειονεκτήµατα, τα οποία αξίζει να σηµειωθούν: A. Εµφανίζει αργή σύγκλιση. Αυτό οφείλεται σε δύο αιτίες: i) Στην ύπαρξη επιπέδων τµηµάτων µεγάλης έκτασης στην επιφάνεια σφάλµατος, όπου η παράγωγος της συνάρτησης του µέσου τετραγωνικού σφάλµατος ως προς τις ελεύθερες παραµέτρους του δικτύου (δηλ. τα συναπτικά βάρη), είναι πολύ µικρή µε αποτέλεσµα την αργή προσαρµογή τους. Επιπλέον, εξαιτίας της µικρής τιµής της παραγώγου, τα τµήµατα αυτά µπορούν να θεωρηθούν ως ελάχιστα της επιφάνειας σφάλµατος και έτσι, να τερµατιστεί πρόωρα η εκπαίδευση. ii) Στην υπερβολικά µεγάλη κλίση της επιφάνειας σφάλµατος σε κάποια άλλα σηµεία τα οποία οδηγούν σε ακριβώς αντίθετο µε πριν, αποτέλεσµα. Οι τιµές των βαρών σε αυτή την περίπτωση, µεταβάλλονται σηµαντικά σε κάθε επανάληψη, και είναι πιθανό το ελάχιστο να υπερπηδηθεί. B. Είναι αρκετά µεγάλη η πιθανότητα παγίδευσης του συστήµατος σε τοπικό ελάχιστο [9], καθώς κατά κανόνα, τα MLP χρησιµοποιούνται για επίλυση µη γραµµικών προβληµάτων, τα οποία υπαγορεύουν τη σύνθεση νευρωνικών δικτύων από µη γραµµικούς νευρώνες, όπου η επιφάνεια σφάλµατος παρουσιάζει παραπάνω από ένα ελάχιστα. Σε περίπτωση που το σύστηµα παγιδευτεί σε τοπικό ελάχιστο που δεν απέχει πολύ από το ολικό, τότε µπορεί να θεωρηθεί ότι

70 επιτεύχθηκε σύγκλιση, χωρίς µεγάλο σφάλµα. Στην αντίθετη όµως περίπτωση, το αποτέλεσµα δε µπορεί να κριθεί ικανοποιητικό, έτσι, η εκπαίδευση επαναλαµβάνεται µε διαφορετικό αριθµό νευρώνων, στρωµάτων, αρχικών τιµών για τα βάρη και διαφορετικό ρυθµό εκµάθησης, χωρίς όµως και αυτό να εγγυάται τη σύγκλιση του δικτύου σε ολικό ελάχιστο. Σχήµα 5.5: Επιφάνεια σφάλµατος µη γραµµικού νευρώνα - Τρισδιάστατη απεικόνιση του ολικού και των τοπικών ελαχίστων που παρουσιάζει

71 ΚΕΦΑΛΑΙΟ 6 ΠΡΟΒΛΕΨΗ ΤΗΣ fof2 ΣΤΟΥΣ ΣΤΑΘΜΟΥΣ PROVIDENIYA BAY, CAMPBELL ISLAND, NARSSARSSUAQ KAI HALLEY BAY ΓΕΝΙΚΑ ΣΧΟΛΙΑ Στην παρούσα διπλωµατική εργασία µελετήθηκαν δεδοµένα ιονοσφαιρικών µετρήσεων της κρίσιµης συχνότητας fof2 των σταθµών Provideniya Bay(PRO), Campbell Island(CLL), Narssarssuaq (NAR) και Halley Bay(HAL) µε στόχο την πρόβλεψη αυτών για τους συγκεκριµένους σταθµούς µε την βοήθεια τεχνητών νευρωνικών δικτύων. Οι γεωµαγνητικές συντεταγµένες των σταθµών είναι : Σταθµός Γεωµαγνητικό πλάτος Γεωµαγνητικό µήκος Provideniya Bay(PRO) Campbell Island(CLL) Narssarssuaq (NAR) Halley Bay(HAL) Οι σταθµοί αυτοί επιλέχθηκαν έτσι, ώστε να έχουν ανά δύο διαφορά 18 στο γεωµαγνητικό πλάτος ή µήκος (αντίποδες). Η πρόβλεψη έγινε για την κοινή τους χρονιά (197).

72 Σχήµα 6.1: ιαφορά γεωγραφικών και γεωµαγνητικών συντεταγµένων. Ακολουθούν χάρτες, όπου αναγράφονται οι θέσεις των τριών σταθµών. Σχήµα 6.2: Η θέση του σταθµού CLL Σχήµα 6.3: Η θέση του σταθµού HAL