Μάρκος Αβράμης Φοιτητής Τμήματος Διαχείρισης Πληροφοριών ΤΕΙ Καβάλας

Μέγεθος: px
Εμφάνιση ξεκινά από τη σελίδα:

Download "Μάρκος Αβράμης Φοιτητής Τμήματος Διαχείρισης Πληροφοριών ΤΕΙ Καβάλας"

Transcript

1 ΤΕΧΝΟΛΟΓΙΚΟ ΕΚΠΑΙΔΕΥΤΙΚΟ ΊΔΡΥΜΑ ΚΑΒΑΛΑΣ Σχολή Διοίκησης & Οικονομίας ΤΜΗΜΑ ΔΙΑΧΕΙΡΙΣΗΣ ΠΛΗΡΟΦΟΡΙΩΝ Πτυχιακή Εργασία Εφαρμογή Μοντέλων Νευρωνικών Δικτύων στην Αναγνώριση Χαρακτήρων Μάρκος Αβράμης Φοιτητής Τμήματος Διαχείρισης Πληροφοριών ΤΕΙ Καβάλας Επιβλέπων: Καθηγητής Εφαρμογών Στέφανος Γκούμας ΚΑΒΑΛΑ, Οκτώβριος 2007

2 2

3 Τεχνητά Νευρωνικά Δίκτυα 3 ΠΕΡΙΕΧΟΜΕΝΑ Περιεχόμενα Ευχαριστίες.. 07 Σκοπός της Πτυχιακής Εργασίας..09 Αφιέρωση 11 Ιστορική επισκόπηση 13 Πρόλογος...15 δ ΜΕΡΟΣ 1 Ο Διαφοροποίηση Τεχνητών και Βιολογικών Νευρωνικών Δικτύων ΚΕΦΑΛΑΙΟ 1 Νευρωνικά Δίκτυα Από τα Βιολογικά στα Τεχνητά Ο νευρώνας Βιολογικά Νευρωνικά Δίκτυα Τεχνητά Νευρωνικά Δίκτυα Ορισμοί Κατηγορίες Τεχνητών Νευρωνικών Δικτύων Η εκπαίδευση των ΤΝΔ Γενίκευση Έλεγχος Απόδοσης των ΤΝΔ Εφαρμογές των ΤΝΔ ΜΕΡΟΣ 2 Ο Περιγραφή Μοντέλων ΚΕΦΑΛΑΙΟ 2 Δημοφιλή μοντέλα Τεχνητά Νευρωνικά Δίκτυα Perceptron Kohonen Η δομή των Δικτύων Kohonen Η εκπαίδευση του Δικτύου Kohonen Πολυεπίπεδα Perceptrons Ιδιότητες του ΒΡ Ορισμός μεγεθών και εκπαίδευση του ΒΡ Τερματισμός της εκπαίδευσης Radial Basis Function Network (RBF) Οι ιδιότητές του Αλγόριθμος εκπαίδευσης του RBF Η ικανότητα γενίκευσης του RBF.. 45

4 Τεχνητά Νευρωνικά Δίκτυα Βελτίωση του RBF Σύγκριση του RBF με το ΒΡ ΚΕΦΑΛΑΙΟ 3 Pattern Association (Associative Memories) Ιδιότητες και εφαρμογές ΚΕΦΑΛΑΙΟ 4 Kohonen Learning Vector Quantization Ιδιότητες και εκπαίδευση ΚΕΦΑΛΑΙΟ 5 Μέθοδος οπισθοδιάδοσης του λάθους Τα πρώτα βήματα Εκπαίδευση για γραμμικούς νευρώνες Εκπαίδευση για μη γραμμικούς νευρώνες Προσομοίωση του προβλήματος Χ-OR Τα μειονεκτήματα και τα προβλήματα Εφαρμογές ΚΕΦΑΛΑΙΟ 6 Εφαρμογή των Νευρωνικών Δικτύων στην Αναγνώριση Χαρακτήρων Νευρωνικά Δίκτυα πρόσθιας τροφοδότησης Στατιστικές Μέθοδοι Αναγνώριση Προτύπων με στατιστικές μεθόδους Η μηχανή Boltzmann Εκπαίδευση της μηχανής Boltzmann ΜΕΡΟΣ 3 Ο Συμπεράσματα ΚΕΦΑΛΑΙΟ 7 Ο Γενετικοί Αλγόριθμοι Μελλοντική Εργασία Γενετικοί Αλγόριθμοι Ιστορική αναδρομή Βασικές Αρχές των ΓΑ Κωδικοποίηση των λύσεων Περιγραφή του ΓΑ Γενετικοί Τελεστές Άλλες τεχνικές που χρησιμοποιούν στους ΓΑ Εφαρμογές των ΓΑ Genetic Based Machine Learning και σύγκριση με τα ΤΝΔ...97

5 Τεχνητά Νευρωνικά Δίκτυα Συζήτηση για τους ΓΑ Κοινά χαρακτηριστικά των Νευρωνικών Δικτύων Συντομογραφίες Βιβλιογραφία

6 6

7 Τεχνητά Νευρωνικά Δίκτυα 7 θέλω να ευχαριστήσω τον καθηγητή Εφαρμογών κύριο Στέφανο Γκούμα για το υλικό και τη βοήθεια που μου έδωσε καθώς και την καλή επικοινωνία που είχαμε για την πτυχιακή εργασία και τη κατανόηση σε πολλά σημεία, την γυναίκα μου για την συμπαράσταση που έτυχα στην διάρκεια της δουλειάς μου πάνω σε αυτό και τέλος, τους γονείς μου για την υποστήριξη (σε όλα τα επίπεδα) που είχα όλα αυτά τα χρόνια τα οποία φοιτούσα.

8 8

9 Τεχνητά Νευρωνικά Δίκτυα 9 γιατί γίνεται η Πτυχιακή Εργασία; Η πτυχιακή εργασία γίνεται για να δώσει μια καλή εικόνα για το τι είναι τα Νευρωνικά Δίκτυα, σε τι τα χρησιμοποιούν, ποιος είναι ο σκοπός τους, πως δημιουργούνται και το σκεπτικό τους. Επίσης, για τους λόγους ότι είναι υποχρεωτική για το Τεχνολογικό Εκπαιδευτικό Ίδρυμα Καβάλας στο οποίο και φοιτώ, την συμπλήρωση των απαιτούμενων διδακτικών μονάδων για το Πτυχίο του Τμήματος της Διαχείρισης Πληροφοριών του ΤΕΙ Καβάλας, και τέλος για εμπειρική μου γνώση όσων αφορά το θέμα της εργασίας φιλοδοξώντας στην συνέχεια να γίνει παράδειγμα προς μίμηση και πρότυπο βοήθημα για μελλοντικές πτυχιακές εργασίες.

10 10

11 Τεχνητά Νευρωνικά Δίκτυα 11 αφιερώνω την δουλειά αυτή στους γονείς μου, οι οποίοι μου δείξαν αγάπη, υπομονή, εμπιστοσύνη και αυτοπεποίθηση για το έργο μου και τέλος στήριξη σε όλους του τομείς όλα αυτά τα χρόνια

12 12

13 13 ιστορική επισκόπηση Περίπου έναν αιώνα πριν ξεκίνησαν οι σύγχρονες προσπάθειες για την κατανόηση δομών του εγκεφάλου ενώ η συστηματοποίησή τους ξεκίνησε με τις εργασίες των McCulloch και Pitts και τις ψυχολογικές θεωρίες του Hebb και λίγο αργότερα τις εργασίες του Rosenblatt (perceptron) και του Widrow (Adaline). Στα χρόνια που ακολούθησαν η γνώση κωδικοποιήθηκε σε ένα ξεχωριστό γνωστικό πεδίο, τα Τεχνητά Νευρωνικά Δίκτυα. Η αρχική αισιοδοξία μετατράπηκε σε απαισιοδοξία μετά την έκδοση του περίφημου βιβλίου Perceptrons των Minsky και Papert. Στην δεκαετία του 70 οι προσπάθειες στον τομέα των ΤΝΔ* 1 συνεχίστηκαν με μειωμένους ρυθμούς και το ενδιαφέρον μετατοπίστηκε στην προσέγγιση τύπου μαύρου κουτιού. Ορισμένοι ερευνητές που συνέχισαν να εργάζονται με ΤΝΔ στην δεκαετία του 70 είναι οι Grossberg και Kohonen. Η αναθέρμανση του γνωστικού πεδίου πραγματοποιήθηκε στις αρχές της δεκαετίας του 80, έχοντας ως σημείο αναφοράς τις εργασίες του Hopfield, με αποτέλεσμα σήμερα να αναφερόμαστε σε μια πραγματική έκρηξη που πυροδοτείτε από την προσέγγιση των ΤΝΔ με συγγενείς τεχνολογίες (Γενετικοί Αλγόριθμοι, Ασαφής Λογική), και πιστεύεται ότι θα δώσει εξαιρετικά εργαλεία ανάπτυξης. Πολλοί ερευνητές προσπαθούν να δικαιολογήσουν τα φυσιολογικά και ψυχολογικά φαινόμενα που διέπουν τον ανθρώπινο εγκέφαλο και να εφαρμόσουν τεχνικές ΤΝΔ σε διάφορα προβλήματα. Η κατανόηση λειτουργίας ενός οργανωμένου συστήματος δίνει την δυνατότητα της αντιγραφής του. Αυτό άλλωστε, αποτελεί ένα πολύ παλιό όνειρο του ανθρώπου: η κατασκευή μηχανών κατ εικόνα και ομοίωση.

14 14

15 Τεχνητά Νευρωνικά Δίκτυα 15 πρόλογος Μπορεί η τεχνολογία να εξελίσσεται σε πολύ γρήγορο ρυθμό, και οι υπολογιστικές μηχανές να εργάζονται συνέχεια για το καλό του ανθρώπου με σκοπό να κάνουν πιο εύκολη την ζωή μας, υπάρχει πάλι ένας διαχωρισμός ανάμεσα στα προβλήματα που μπορεί να λύσει πιο παραγωγικά ο Η/Υ και αυτά που ο ανθρώπινος εγκέφαλος είναι ανυπέρβλητος. Εύκολα μπορεί κανείς να καταλάβει ότι ο Η/Υ υπερέχει συντριπτικά σε ταχύτητα επίλυσης προβλημάτων που αναλύονται σε πολλές απλές λογικές πράξεις, όμως ο ανθρώπινος εγκέφαλος είναι αξεπέραστος στην επίλυση προβλημάτων που εμπεριέχουν υψηλό βαθμό απροσδιοριστίας, όπως είναι η αναγνώριση ήχου, η αναγνώριση εικόνας ο αισθητικό κινητικός έλεγχος κλπ. Πολλοί υποστηρίζουν ανάμεσα σε αυτούς και εγώ ότι ποτέ μια υπολογιστική μηχανή δεν θα αντικαταστήσει στο 100% τον ανθρώπινο εγκέφαλο, η ενσωμάτωση ορισμένων ιδιοτήτων όμως του wetware στους Η/Υ θα τους δώσει την ικανότητα να επιλύουν με μεγαλύτερη ευκολία προβλήματα (ένα μέρος, έστω μεγάλο) σαν τα προαναφερθέντα. Αυτή λοιπόν η επινόηση προσπαθεί να γίνει πραγματικότητα σε όσο μεγαλύτερο βαθμό γίνεται, με τα Τεχνικά Νευρωνικά Δίκτυα.

16 16

17 Νευρωνικά Δίκτυα - από τα Βιολογικά στα Τεχνητά 17 ΜΕΡΟΣ 1 Ο Διαφοροποίηση Τεχνητών και Βιολογικών Δικτύων ΚΕΦΑΛΑΙΟ 1 Νευρωνικά Δίκτυα από τα Βιολογικά στα Τεχνητά Ό άνθρωπος βρίσκεται σε συνεχή δυναμική επικοινωνία με το εξωτερικό και το περιεχόμενο εσωτερικό του περιβάλλον. Αυτή η επικοινωνία βασίζεται κατά κύριο λόγο στο νευρικό σύστημα. Τα Νευρωνικά Δίκτυα είναι μια ιδιαίτερη προσέγγιση στην δημιουργία συστημάτων με νοημοσύνη καθώς αποφεύγουν ρητά να αναπαραστήσουν τη γνώμη και να υιοθετήσουν ειδικά σχεδιασμένους αλγόριθμους αναζήτησης. Αντίθετα, βασίζονται σε βιολογικά πρότυπα καθώς χρησιμοποιούν δομές και διαδικασίες που μιμούνται τις αντίστοιχες του ανθρώπινου εγκεφάλου, δίνουν δηλαδή έναν ορισμό (όχι 100% αποσαφηνισμένο) στο πως λειτουργεί ένας ανθρώπινος εγκέφαλος. Για να περάσουμε λοιπόν στα Τεχνητά Νευρωνικά Δίκτυα (τα οποία δημιουργούνται με βάση των βιολογικών δικτύων) πρέπει να μάθουμε τον τρόπο που λειτουργούν τα Βιολογικά Νευρωνικά Δίκτυα Ο νευρώνας Ας ξεκινήσουμε από την αρχή, το νευρικό κύτταρο ή νευρώνας, είναι η δομική και λειτουργική μονάδα του νευρικού συστήματος. Ο νευρώνας είναι ένας εξειδικευμένος τύπος κυττάρου, που αποτελεί την βασική μονάδα επεξεργασίας πληροφοριών που απαρτίζουν το νευρικό σύστημα. Έτσι, σε αναλογία με τους Ηλεκτρονικούς Υπολογιστές, οι νευρώνες αποτελούν το σύνολο των στοιχείων μνήμης, λογικών κυκλωμάτων και εντολών λειτουργίας του εγκεφάλου. Το βασικότερο χαρακτηριστικό του νευρώνα είναι η ερεθιστικότητά του, δηλαδή, η ικανότητά του να αντιδρά σε διάφορα εξωτερικά

18 Νευρωνικά Δίκτυα - από τα Βιολογικά στα Τεχνητά 18 ερεθίσματα (ηλεκτρομαγνητικά, θερμικά, μηχανικά, χημικά κλπ.). Αυτή η αντίδραση έχει την μορφή ηλεκτροχημικής διαταραχής της μεμβράνης που μεταδίδεται από το σημείο ερεθισμού στην επιφάνεια του νευρώνα προς τις τελικές απολήξεις του. Οι ηλεκτροχημικές διαταραχές της νευρωνικής κυτταρικής μεμβράνης είναι δύο τύπων: Ηλεκτρονικά φαινόμενα, που το μέγεθός τους είναι συνάρτηση της απόστασης στην οποία μεταδίδονται. Πρόκειται για γραμμικά φαινόμενα που μπορούν να αναλυθούν με βάση τις φυσικοχημικές ιδιότητες της νευρωνικής κυτταρικής μεμβράνης και αποτελούν τη βάση της διαβαθμισμένης μετάδοσης και επεξεργασίας πληροφοριών στο νευρικό σύστημα. Το δυναμικό δράσης, που είναι ένα μη γραμμικό φαινόμενο και το μέγεθός του είναι ανεξάρτητο της απόστασης στην οποία μεταδίδεται. Το δυναμικό δράσης αποτελεί τη βάση της παλμικής μετάδοσης και επεξεργασίας πληροφοριών στο νευρικό σύστημα και απαντάται σε εξειδικευμένους τύπους νευρωνικών αποφυάδων πχ. στον νευροάξονα. Η παλμική μετάδοση επιτρέπει την επικοινωνία νευρώνων που χωρίζονται από μεγάλες αποστάσεις και αποτελεί την κύρια μορφή επικοινωνίας του ΚΝΣ* 2 με τον υπόλοιπο ανθρώπινο οργανισμό. Επειδή, τεχνικά, η ανίχνευσή της είναι εύκολη, έχει μονοπωλήσει το ενδιαφέρον με αποτέλεσμα να επηρεάζει βαθιά την εικόνα που έχουμε σχηματίσει για την λειτουργία του νευρικού συστήματος. Σχήμα 1. Μια νευρική ίνα και ο τρόπος μετάδοσης της νευρικής ώσης Σήμερα είναι γνωστό ότι η επεξεργασία των πληροφοριών στο επίπεδο του νευρώνα γίνεται με μετάβαση από ταλάντωση σε παλμό (wave to pulse conversion) και αντίστροφα (pulse to wave conversion). Η μετάδοση του δυναμικού δράσης κατά μήκος του νευροάξονα μπορεί να παρομοιαστεί με την μετάδοση της καύσης κατά μήκος του φυτιλιού. Έτσι το δυναμικό δράσης μεταδίδεται κατά μήκος του νευροάξονα από μια ερεθισμένη περιοχή στην γειτονική ανερέθιστη περιοχή, η οποία με τη σειρά της, αφού ερεθιστεί, διεγείρει την επόμενη γειτονική της ανερέθιστη περιοχή κοκ, όπως ακριβώς η μετάδοση της φλόγας στο φυτίλι γίνεται με την ανάφλεξη του αμέσως γειτονικού της άκαυτου τμήματος. Η παρομοίωση θα ήταν τέλεια αν υπήρχε τρόπος, μετά από κάποιο χρονικό

19 Νευρωνικά Δίκτυα - από τα Βιολογικά στα Τεχνητά 19 διάστημα, το καμένο τμήμα του φυτιλιού να επανέρθει στην αρχική του κατάσταση, δηλαδή να ήταν έτοιμο να αναφλεγεί Βιολογικά Νευρωνικά Δίκτυα Η ικανότητα του ανθρώπου να σκέφτεται, να θυμάται, να προβληματίζεται, να αντιλαμβάνεται το κίνδυνο εντοπίζεται στον εγκέφαλό του. Όπως είναι γνωστό από την βιολογία η δομική μονάδα του εγκεφάλου είναι ο νευρώνας (neuron). Θα αναλύσουμε το σχήμα 2 παρακάτω: Αυτός είναι ένας τυπικός βιολογικός νευρώνας και αποτελείται από το σώμα (body) που αποτελεί και τον πυρήνα του νευρώνα, τους δεντρίτες (dendrites) μέσω των οποίων λαμβάνει σήματα από γειτονικούς νευρώνες (σημεία εισόδου) και τέλος τον άξονα (axon) που είναι η έξοδος του νευρώνα και το μέσο σύνδεσής του με άλλους νευρώνες και ο οποίος με τις διακλαδώσεις του μπορεί να φτάσει το ένα μέτρο. Σε κάθε δεντρίτη υπάρχει ένα κενό απειροελάχιστο (μέχρι 2mm) που ονομάζεται σύναψη (synapse), ορισμένες φορές οι δεντρίτες είναι καλυμμένοι με άκανθες (spines). Οι συνάψεις μέσω χημικών διαδικασιών επιταχύνουν ή να επιβραδύνουν τη ροή ηλεκτρικών φορτίων προς το σώμα του νευρώνα. Η ικανότητα μάθησης και μνήμης που παρουσιάζει ο εγκέφαλος οφείλεται στην ικανότητα των συνάψεων να μεταβάλουν την αγωγιμότητά τους. Τα ηλεκτρικά σήματα που εισέρχονται στο σώμα των νευρώνων μέσω των δεντριτών συνδυάζονται και αν το αποτέλεσμα ξεπερνά κάποια τιμή κατωφλίου το σήμα διαδίδεται με την βοήθεια του άξονα προς άλλους νευρώνες. Σχήμα 2. Βιολογικός Νευρώνας Όταν ο νευροάξονας εκφύεται κατ ευθείαν από το σώμα, το αρχικό παχύτερο τμήμα του, ονομάζεται εκφυτικός κώνος. Ο εκφυτικός κώνος είναι ιδιαίτερα χαρακτηριστικός στους κινητικούς νευρώνες του νωτιαίου μυελού και αποτελεί το πιο ευερέθιστο τμήμα της κυτταρικής τους μεμβράνης.

20 Νευρωνικά Δίκτυα - από τα Βιολογικά στα Τεχνητά 20 Σχήμα 3. Διάφοροι τύποι νευρώνων. 1. κυτταρικό σώμα 2. πυρήνας 3. κυτταρόπλασμα 4.δεντρίτες 5. νευροάξονας 6. έλυτρο μυελίνης 7. κύτταρου ελύτρου μυελίνης 8. περισφίξεις του Ranvier Ωστόσο, στις περισσότερες περιπτώσεις, είναι δύσκολο να γίνει σαφής διαχωρισμός του νευροάξονα από τις άλλες αποφυάδες. Συνήθως ονομάζουμε δεντρική η δεκτική ζώνη (receptive field) την περιοχή του νευροάξονα που δέχεται ερεθίσματα από άλλους νευρώνες, ενώ νευροάξονα ονομάζουμε την κεντρική αποφυάδα που άγει νευρικές ώσεις, οι οποίες απομακρύνονται από την δεντρική ζώνη. Επομένως η θέση του σώματος δεν παίζει ρόλο στην διαχείριση των πληροφοριών διαμέσου του νευρώνα και η επιφάνειά του μπορεί να θεωρηθεί ως τμήμα της δεντριτικής ζώνης ή ακόμη να έχει τα χαρακτηριστικά του νευροάξονα. Σε ορισμένες περιπτώσεις το σώμα είναι αρκετά απομακρυσμένο από το δεντριτικό νευροαξονικό σύμπλεγμα και συνδέεται με αυτό με μία κυλινδρική ίνα, η οποία μπορεί να δέχεται ερεθίσματα από άλλους νευρώνες. Οι νευρώνες απολήγουν σε ένα ειδικό μόρφωμα που ονομάζεται συναπτικό κομβίο και αποτελεί την θέση της λειτουργικής επαφής (σύναψη) ανάμεσα σε δύο κύτταρα (Σχήμα 4α). Η περιοχή ανάμεσα στο τελικό κομβίο και στην απέναντι κυτταρική επιφάνεια έχει πλάτος γύρω στα 200Α και ονομάζεται συναπτική σχισμή (synaptic cleft). Ο νευρώνας από τον οποίο εκφύεται το συναπτικό κομβίο ονομάζεται προσυναπτικός ενώ εκείνος στον οποίο προσκολλάται ονομάζεται μετασυναπτικός. Τα συναπτικά κομβία μπορεί να είναι προσκολλημένα και σε άλλα κύτταρα (πχ. εκκριτικά, μϋικά κλπ.). Στην περίπτωση των νευρώνων του ΚΝΣ τα συναπτικά κομβία των νευροαξόνων μπορούν να καλύψουν μέχρι το 95% της επιφάνειας του σώματος και των δεντριτών. Ο μέσος όρος των συναπτικών κομβίων ανά νευρώνα βρέθηκε ότι κυμαίνεται μεταξύ 80 και 140 (έξω γονατώδες σώμα του επίμυα), ενώ έμμεσοι προσδιορισμοί (εγκεφαλικός φλοιός ποντικιού, επίμυα και πιθήκου) τοποθετούν αυτόν τον αριθμό από 6x10 3 έως 6x10 4 με πιθανότητα να φτάσει μέχρι και 6x10 5 (κύτταρα Purkinje της παρεγκεφαλίδας).

21 Νευρωνικά Δίκτυα - από τα Βιολογικά στα Τεχνητά 21 Σχήμα 4. α. σχηματική τομή μιας χημικής σύναψης β. νευρογλοιακά κύτταρα Οι νευρώνες αποτελούν το 10% του συνολικού αριθμού των εγκεφαλικών κυττάρων, ενώ η τεράστια πλειοψηφία είναι τα νευρογλοιακά κύτταρα. Ο εγκεφαλικός ιστός μπορεί να παρομοιαστεί με ένα νευρωνικό δίχτυ βυθισμένο σε μια νευρογλοιακή θάλασσα. Παρόμοια παρατήρηση ισχύει για τον νωτιαίο μυελό ενώ στα περιφερικά νεύρα τον ρόλο των νευρογλοιακών κυττάρων έχουν αναλάβει τα κύτταρα του Schwann. Τα νευρογλοιακά κύτταρα βρίσκονται πολύ κοντά στους νευρώνες και συχνά χαρακτηρίζονται ως δορυφορικά κύτταρα (satellite cells). Η τρισδιάστατη απεικόνιση με την βοήθεια Η/Υ αποκαλύπτει έναν εξαιρετικά πολύπλοκο γλυπτό που η επιφάνειά του λαξεύτηκε από τους νευρώνες με τους οποίους εφάπτεται (Σχήμα 4β). Μεταξύ νευρώνων και νευρογλοιακών κυττάρων υπάρχει μεταβολικός συντονισμός, ενώ τα ενδοκυττάρια ηλεκτρικά δυναμικά των νευρογλοιακών κυττάρων επηρεάζονται από τα δυναμικά δράσης των νευρώνων με τους οποίους εφάπτονται. Ο φυσιολογικός ρόλος των νευρογλοιακών κυττάρων είναι ο εξής: Περιορίζουν την επαφή μεταξύ των νευρώνων μόνο στις συνάψεις. Ρυθμίζουν την χημική και ιοντική σταθερότητα του περιβάλλοντος των νευρώνων (πχ. απομάκρυνση περίσσειας νευροδιαβιβαστών, ιόντων καλίου). Απομακρύνουν τα υπολείμματα των κατεστραμμένων νευρώνων (φαγοκυττάρωση) και συμβάλουν στις

22 Νευρωνικά Δίκτυα - από τα Βιολογικά στα Τεχνητά 22 μακροχρόνιες μεταβολές που χαρακτηρίζουν το νευρικό σύστημα (πχ. ωρίμανση, γήρανση μάθηση). Σχήμα 5. Τμήμα νευροάξονα εκτεθειμένο στο σημείο που απολήγουν οι περιελίξεις μυελίνης. Διακρίνονται οι πολλαπλές στοιβάδες της μεμβράνης του γλοιακού κυττάρου που αποτελούν το μυελινικό έλυτρο του άξονα Συνήθως οι νευροάξονες περιβάλλονται από ένα ή δύο έλυτρα (Σχήμα 5). Το πρώτο από αυτά είναι το έλυτρο του Schwann, που αποτελείται από τα ομώνυμα κύτταρα, ενώ το δεύτερο είναι το έλυτρο της μυελίνης που αποτελεί ένα διαφοροποιημένο και εξειδικευμένο μέρος του ελύτρου του Schwann και σχηματίζεται από την πολλαπλή περιέλιξη της κυτταρικής μεμβράνης των κυττάρων του Schwann γύρω από τον νευροάξονα. Οι νευροάξονες που δεν καλύπτονται από έλυτρο μυελίνης ονομάζονται αμύελοι σε αντίθεση με τους εμμύελους. Τα σημεία όπου διακόπτεται το έλυτρο της μυελίνης (περίπου 1mm) και ο νευροάξονας μένει ακάλυπτος, ονομάζονται περισφίξεις του Ranvier. Το μυέλινο έλυτρο ανάμεσα σε δύο διαφορετικές περισφίξεις του Ranvier σχηματίζεται από ένα κύτταρο του Schwann (Σχήμα 2 και Σχήμα 5). Τέλος μια νευρική οδός μπορεί να συμμετάσχει στη λειτουργία του νευρικού συστήματος μόνο μετά την ολοκλήρωση της μυελίνωσής της. Η μυελίνωση των νευροαξόνων είναι ένα φαινόμενο που δεν εμφανίζεται ταυτόχρονα σε όλο το νευρικό σύστημα. Έτσι, αρχίζει κατά την διάρκεια της εμβρυικής ζωής από τις αισθητικές οδούς, ενώ η μυελίνωση των κινητικών οδών (πχ. της πυραμικής οδού) αρχίζει αργότερα και συμπληρώνεται κατά το δεύτερο έτος της ηλικίας. Έχει υπολογιστεί ότι ο εγκέφαλος καταναλώνει το 15% της ενέργειας που παράγεται από τον ανθρώπινο μεταβολισμό, ποσό το οποίο είναι δυσανάλογο ως προς το βάρος του, που αποτελεί το 2% του σωματικού βάρους. Αυτή η μεγάλη ενεργειακή απαίτηση σχετίζεται με τον ρόλο των νευρώνων στην ανάλυση, μετάδοση και αποθήκευση των πληροφοριών στο ΚΝΣ και οφείλεται στην μεταβολική ιδιαιτερότητα των νευρώνων και τον νευρογλοιακών κυττάρων. Κάθε νευρώνας περιέχει περίπου 6x10 9 μόρια πρωτεϊνών, 10x10 9 μόρια λιπιδίων και 600x10 9 μόρια RNA, αλλά και ένα

23 Νευρωνικά Δίκτυα - από τα Βιολογικά στα Τεχνητά 23 τεράστιο αριθμό άλλων ουσιών. Τα 2/3 του βάρους ενός νευρώνα στο ΚΝΣ αντιστοιχούν στα 1500 κατά μέσον όρο μιτοχόνδρια που περικλείει. Οι νευρώνες έχουν την δυνατότητα να παρασκευάζουν και να εκλύουν εξειδικευμένες χημικές ουσίες όπως είναι οι νευροδιαβιβαστές που διαχέονται στην συναπτική σχισμή από τον προσυναπτικό νευρώνα προς τον μετασυναπτικό και επηρεάζουν την ηλεκτρική συμπεριφορά του. Άλλοι νευροδιαβιβαστές θεωρούνται υπεύθυνοι για την συναπτική συνδεσμολογία των νευρώνων. Είναι γνωστό ότι οι βλάβες των περιφερειακών νεύρων έχουν ως αποτέλεσμα την μερική ή ολική ατροφία των μυών που νευρούν, λόγω ελάττωσης ή διακοπής της τροφικής επιδράσεως των κινητικών νευρώνων προς τις μϋικές ίνες. Οι συνδέσεις των νευρώνων του εγκεφάλου (πρακτικά άπειρες) βρίσκονται σε μια δυναμική κατάσταση πλαστικότητας. Η ισορροπία αυτών των συνδέσμων διαμορφώνεται από την σταθερή ανταλλαγή ουσιών μεταξύ των διασυνδεδεμένων νευρώνων. Μια άλλη ιδιότητα των νευρώνων είναι η ικανότητα τους να αντεπεξέρχονται στις απαιτήσεις της δυσανάλογης σχέσης επιφάνειας όγκου. Συγκεκριμένα, η επιφάνεια του νευρώνα παρουσιάζει συνεχή διαρροή ουσιών (ιόντα Κ+) προς το εξωκυττάριο περιβάλλον. Ακόμη, υπάρχει το πρόβλημα της διείσδυσης ουσιών που διαπερνούν την νευρωνική μεμβράνη και εκτρέπουν την χημική ισορροπία του νευρώνα (ιόντα Να+). Η αντιστάθμιση αυτών των φαινομένων επιτυγχάνεται με μηχανισμούς που λειτουργούν αντίθετα προς το ηλεκτροχημικό δυναμικό της νευρωνικής μεμβράνης και απαιτούν την δαπάνη ενέργειας (πχ. αντλία Κ+ - Να+). Επομένως για την διατήρηση της κυτταρικής ομοιοστασίας, η ενέργεια πρέπει: Να παραχθεί μέσα στον περιορισμένο ενδοκυτταρικό όγκο. Να εξοικονομηθεί μονώνοντας το ενδοκυτταρικό περιβάλλον στο επίπεδο της κυτταρική μεμβράνης (δηλαδή, με την μείωση των εμπειρικών συντελεστών διάσχισης). Η μέθοδος που χρησιμοποιεί η φύση είναι η εντατικοποίηση του ρυθμού παραγωγής ενέργειας. Έτσι, ο νευρώνας έχει υψηλή περιεκτικότητα σε μιτοχόνδρια και εξαρτάται από την παροχή οξυγόνου. Η μείωση αυτής της παροχής πχ. Για 10sec, επηρεάζει σοβαρά την νευρωνική λειτουργία (απώλεια συνείδησης). Ακόμη, η φύση του φαινομένου της μόνωσης του ενδοκυτταρικού περιβάλλοντος με μείωση του εμπορικού συντελεστή διάσχισης κάποιας ουσίας, είναι διαφορετική από την μόνωση του νευροάξονα κατά την μυελίνωση. Με την μυελίνωση περιορίζονται οι διαστάσεις του εξωκυτταρικού περιβάλλοντος και επιτυγχάνεται ο εγκλωβισμός ουσιών που διαφεύγουν από τον νευρώνα (ιόντα Κ+ κατά το δυναμικό δράσης). Έτσι περιορίζεται η επαναπρόσληψη των χρήσιμων ουσιών και απομακρύνονται ευκολότερα οι άχρηστες. Επομένως το έλυτρο της μυελίνης είναι μια ενδιάμεση βαθμίδα συγκέντρωσης ουσιών μυελίνης και εξωτερικού του κυττάρου. Η νευρωνική μεμβράνη αποτελεί δυναμική οργανική ενότητα που βρίσκεται σε διαρκή εξέλιξη. Τα δομικά φωσφολιπίδιά της συνεχώς ανασυντίθεται από ελεύθερα λιπαρά οξέα που με την σειρά τους προέρχονται από την αποδόμηση των φωσφολιπιδίων της μεμβράνης.

24 Νευρωνικά Δίκτυα - από τα Βιολογικά στα Τεχνητά 24 Τόσο η σύνθεση των δομικών στοιχείων της μεμβράνης, όσο και η αποδόμησή τους, προϋποθέτουν την κατανάλωση ενέργειας η οποία είναι ανάλογη με την επιφάνεια της μεμβράνης του κυττάρου και κατά συνέπεια, ιδιαίτερα υψηλή στην περίπτωση του νευρώνα. Στο ΚΝΣ των θηλαστικών, η ταχύτητα διάδοσης των σημάτων (δυναμικό δράσης) στο νευρικό σύστημα είναι περιορισμένη και δεν ξεπερνάει τις μερικές δεκάδες μέτρα το δευτερόλεπτο. Ακόμη, έχει βρεθεί ότι η κατανάλωση οξυγόνου στον εγκέφαλο, που είναι ευθέως ανάλογη με την παραγωγή ενέργειας από τον μεταβολισμό και εξαρτάται σε μεγάλο βαθμό από την πυκνότητα των κυττάρων σε έναν ιστό, είναι 26.3mm 3 O2/mg ξηρού βάρους ιστού / ώρα. Αυτό σημαίνει ότι η πυκνότητα των εγκεφαλικών κυττάρων είναι ιδιαίτερα μεγάλη. Η διατήρηση διαφοράς δυναμικού, καθώς και η παρουσία του δυναμικού ηρεμίας στην μεμβράνη, είναι χαρακτηριστικά των ζώντων κυττάρων. Κατά την διέλευση μιας διεγερτικής νευρικής ώσης, εμφανίζονται ηλεκτροχημικά φαινόμενα, που έχουν ως αποτέλεσμα την μεταβολή της διαπερατότητας της μεμβράνης στα ιόντα Να+ και Κ+, τα οποία συμβάλουν στην πόλωση της μεμβράνης και στην γένεση των δυναμικών δράσης. Το φαινόμενο μπορεί να μελετηθεί τοποθετώντας μικροηλεκτρόδια μέσα και έξω από την μεμβράνη του κυττάρου ή στην εξωτερική επιφάνεια του νεύρου ή του σώματος. Τα δυναμικά ηρεμίας κυμαίνονται από -65mV έως -90mV. Συνήθως, λαμβάνεται η μέση τιμή -70mV. Τα ερεθίσματα μπορεί να είναι θερμικά, χημικά, μηχανικά ή ηλεκτρικά. Τέλος πρέπει να τονιστεί ότι το πραγματικό ποσό Να+ που κερδίζεται και Κ+ που χάνεται κατά την διάρκεια του δυναμικού δράσης, είναι πολύ μικρό. Έτσι, το κύτταρο μπορεί να πυροδοτεί επανειλημμένα, χωρίς εξάντληση των ιόντων Κ+, ενώ η αντλία Να+/Κ+ λειτουργεί συνεχώς αποκαθιστώντας τις αρχικές περιεκτικότητες Να+ και Κ Τεχνητά Νευρωνικά Δίκτυα Ορισμοί Ένα ΤΝΔ είναι κάποιο υπολογιστικό σύστημα που εκτελεί ορισμένες τουλάχιστον από τις χαρακτηριστικές λειτουργίες των πραγματικών νευρωνικών δικτύων (ή αλλιώς Βιολογικά Νευρωνικά Δίκτυα). Μερικά από τα πλεονεκτήματα των ΠΝΔ* 3 είναι: Παράλληλη επεξεργασία. Μνήμη. Ικανότητα εκμάθησης τυχαίων συναρτήσεων εισόδου εξόδου. Ικανότητα προσαρμογής. Απλές υπολογιστικές μονάδες (ΤΝ* 4 ).

25 Νευρωνικά Δίκτυα - από τα Βιολογικά στα Τεχνητά 25 Ένα ΤΝΔ αποτελείται από τεχνητούς νευρώνες (ΤΝ) που αποτελούν την υπολογιστική μηχανή του (Σχήμα 6) και είναι οργανωμένοι σε επάλληλα στρώματα (επίπεδα, layers). Σχήμα 6. Σχηματική αναπαράσταση ενός ΤΝ με μεταβλητά βάρη εισόδου (μαύρες βουλίτσες) και μία σταθερή είσοδο (κατώφλι) Συνήθως, υπάρχει ένα επίπεδο εισόδου (με ή χωρίς υπολογιστικές ικανότητες) όπου εισάγεται το εκπαιδευτικό διάνυσμα εισόδου ή το διάνυσμα ελέγχου, ένα ή περισσότερα κρυφά επίπεδα όπου γίνεται η (μη) γραμμική επεξεργασία των πληροφοριών και τέλος, ένα επίπεδο εξόδου που, συνήθως, διαθέτει υπολογιστική ικανότητα και μεταφέρει τα αποτελέσματα στον έξω κόσμο. Ο αριθμός των ΤΝ μπορεί να κυμαίνεται από μερικές ΤΝ έως χιλιάδες ΤΝ. Συνήθως όλοι οι ΤΝ υλοποιούν την ίδια συνάρτηση μεταφοράς, χωρίς αυτό να είναι δεσμευτικό. Η σύνδεση των ΤΝ υλοποιείται με βάρη που σταθμίζει την έξοδο κάθε τεχνητού νευρώνα. Η συνδεσμολογία καθώς και η συνάρτηση μεταφοράς που υλοποιεί κάθε ΤΝ μπορεί να ποικίλλει. Ακόμη, εφαρμόζεται κάποιος αλγόριθμος εκπαίδευσης ο οποίος τροποποιεί τις τιμές των βαρών, έτσι ώστε το ΤΝΔ να υλοποιήσει την επιθυμητή απεικόνιση των διανυσμάτων εισόδου στα διανύσματα εξόδου. Όλα αυτά τα χαρακτηριστικά στοιχειοθετούν ένα μοντέλο ΤΝΔ (paradigm). Μερικά γνωστά μοντέλα ΤΝΔ που είναι περισσότερο διαδεδομένα είναι αυτά των Hopfield και του Kohonen, το backpropagation, το counterpropagation και το ART. Ορισμένα μοντέλα ΤΝΔ ομοιάζουν σημαντικά με τα ΠΝΔ, όμως κανένα δεν προσομοιώνει όλες τις λειτουργίες των ΠΝΔ. Άλλωστε πολλές λειτουργίες των ΠΝΔ δεν είναι σαφώς γνωστές. Τέλος σε ορισμένα ΤΝΔ ο κατασκευαστής τους δίνει κάποιες ικανότητες οι οποίες δεν απαντώνται καθόλου στα ΠΝΔ Κατηγορίες Τεχνητών νευρωνικών δικτύων Τα ΤΝΔ μπορούν να χωριστούν σε δύο γενικές κατηγορίες:

26 Νευρωνικά Δίκτυα - από τα Βιολογικά στα Τεχνητά Τα στατικά, όπως είναι το BP και το RBF που η έξοδός του είναι κάποια συνάρτηση μόνον του τρέχοντος διανύσματος εισόδου. 2. Τα δυναμικά, όπως είναι το Hopfield που περιγράφονται από εξισώσεις διαφόρων ή ακόμη και διαφορετικές εξισώσεις. Τα στατικά ΤΝΔ υλοποιούν συναρτήσεις της μορφής y= f(x) όπου x είναι πραγματικός αριθμός και η συνάρτηση y λαμβάνει συνήθως τιμές στο διάνυσμα [0,1] ή ακόμη μπορεί να είναι και πραγματικός αριθμός. Οι χώροι των x και y είναι πολυδιάστατοι και με διαφορετική διάσταση ο καθένας. Τα στατικά ΤΝΔ μπορούν να χρησιμοποιηθούν στην αναγνώριση προτύπων, προσέγγιση συναρτήσεων κλπ. Τα σημαντικότερα χαρακτηριστικά των στατικών ΤΝΔ που εξετάζονται στα επόμενα είναι: Το μοντέλο του ΤΝΔ. Ο αλγόριθμος εκπαίδευσης και η πολυπλοκότητά του. Η ικανότητα γενίκευσης. Οι εφαρμογές του Η εκπαίδευση των ΤΝΔ Ένα ΤΝΔ μπορεί να περιέχει ώστε να υλοποιηθεί, πολυάριθμες μεταβλητές, συναρτήσεις κλπ. Να πάρουμε τα πράγματα με την σειρά, αν θεωρήσουμε ότι τα διανύσματα εισόδου αποτελούνται από d μεταβλητές δηλαδή ο υπερχώρος των διανυσμάτων εισόδου έχει διάσταση d και κάθε μεταβλητή λαμβάνει N διακριτές τιμές. Μπορούμε να φανταστούμε ότι με την εκπαίδευση των ΤΝΔ σχηματίζει υποθέσεις για τον ποιον της υποκείμενης συναρτήσεως διανυσμάτων εισόδου/εξόδου. Τα εκπαιδευτικά διανύσματα εισόδου είναι τα στοιχεία που βοηθούν την ανακάλυψη της σωστής συναρτήσεως. Βέβαια όσο πιο μεγάλο είναι το μέγεθός του ΤΝΔ τόσο περισσότερες συναρτήσεις μπορεί να υλοποιήσει και επομένως αυξάνει η πιθανότητα η επιθυμητή συνάρτηση να βρίσκεται σε αυτό το σύνολο συναρτήσεων. Αν υποθέσουμε ότι το μέγεθος του ΤΝΔ είναι αρκετά μεγάλο ώστε να συμπεριλαμβάνει την επιθυμητή συνάρτηση, τότε μπορούμε να θεωρήσουμε ότι τα εκπαιδευτικά διανύσματα εισόδου μας δίνουν την δυνατότητα απόρριψης των ανεπιθύμητων συναρτήσεων. Όσο περισσότερο εκπαιδευτικά διανύσματα διαθέτουμε τόσο περισσότερες συναρτήσεις μπορούμε να απορρίψουμε. Αν όμως, το μέγεθος του ΤΝΔ δεν είναι αρκετά μεγάλο, τότε το ΤΝΔ αναζητεί τη συνάρτηση που ταιριάζει καλύτερα με την επιθυμητή. Υπάρχει μια πληθώρα αλγορίθμων οι οποίοι χρησιμοποιούνται για την εκπαίδευση των ΤΝΔ. Στην πράξη η εκπαίδευση κάποιου ΤΝΔ ισοδυναμεί με την ενδυνάμωση ή αποδυνάμωση των τιμών των βαρών, σύμφωνα με τους κανόνες που ορίζει ο αλγόριθμος εκπαίδευσης, μέχρι αυτά να λάβουν τις κατάλληλες τιμές. Οι μεθοδολογίες εκπαίδευσης που χρησιμοποιούνται: Με εποπτεία από εξωτερική πηγή (supervised).

27 Νευρωνικά Δίκτυα - από τα Βιολογικά στα Τεχνητά 27 Χωρίς εποπτεία (unsupervised). Με ανταγωνισμό των ΤΝ. Κατά την εκπαίδευση με εποπτεία παρουσιάζονται στο ΤΝΔ ζευγάρια διανυσμάτων εισόδου/εξόδου και το ΤΝΔ προσπαθεί να κατασκευάσει μια σχέση (συνάρτηση) των διανυσμάτων όσο το δυνατόν πιστότερη. Πιο συγκεκριμένα, κάποιος αλγόριθμος καθοδήγησης από εξωτερική πηγή ακολουθεί μια επαναληπτική διαδικασία βήμα προς βήμα σύμφωνα με την οποία τροποποιούνται οι τιμές των βαρών που συνδέουν τους ΤΝ. Οι παράγοντες που επηρεάζουν την μεταβολή των βαρών είναι: Οι τρέχουσες τιμές των βαρών. Οι είσοδοι (σταθμισμένο άθροισμα) των ΤΝ. Οι έξοδοι (δραστηριότητα) των ΤΝ. Οι επιθυμητές έξοδοι. Η επαναληπτική διαδικασία σταματάει όταν ελαχιστοποιηθεί κάποια συνάρτηση σφάλματος η οποία δίνει το μέτρο της διαφοράς της πραγματικής εξόδου από την επιθυμητή έξοδο του ΤΝΔ. Το βασικό μειονέκτημα αυτής της μεθόδου είναι η πιθανότητα παγίδευσης του ΤΝΔ σε κάποιο τοπικό ελάχιστο. Κατά την διάρκεια της εκπαίδευσης χωρίς εποπτεία παρουσιάζονται στο ΤΝΔ μόνο τα διανύσματα εισόδου τα οποία ταξινομούνται σε κατηγορίες ανάλογα με τη σχετική ομοιότητά τους (αυτοοργάνωση του ΤΝΔ). Πιο συγκεκριμένα κάποιος αλγόριθμος χωρίς εποπτεία πραγματοποιεί ψευδοτυχαίες μεταβολές των τιμών των βαρών. Από τις μεταβολές διατηρούνται μόνον αυτές που βελτιώνουν (ελαχιστοποιούν) τη συνάρτηση σφάλματος. Η εφαρμογή κατάλληλης στρατηγικής για την επιλογή μεγέθους των μεταβολών των τιμών των βαρών οδηγεί στην εύρεση του ολικού ελάχιστου της συνάρτησης σφάλματος. Το σημαντικότερο μειονέκτημα αυτής της μεθόδου είναι ο μεγάλος χρόνος που απαιτείται για την εύρεση του ολικού ελαχίστου. Κατά την εκπαίδευση με ανταγωνισμό οι ΤΝ συναγωνίζονται για το ποιος θα «μείνει ζωντανός». Στην απλούστερη περίπτωση απομένει δραστηριοποιημένος μόνον ο ΤΝ που έχει την μεγαλύτερη δραστηριοποίηση ενώ οι υπόλοιποι ΤΝ καταστέλλονται. Οι διάφορες μέθοδοι εκπαίδευσης μπορούν να χρησιμοποιηθούν σε συνδυασμό πχ. το κρυφό επίπεδο κάποιου ΤΝΔ να εκπαιδευτεί από αλγόριθμο χωρίς εποπτεία και το επίπεδο εξόδου να εκπαιδευτεί με αλγόριθμο με εποπτεία. Πρέπει να υπογραμμιστεί ότι επειδή απαιτούνται πολλοί επαναληπτικοί υπολογισμοί για την εκπαίδευση των ΤΝΔ, συνήθως αυτή πραγματοποιείται σε νεκρό χρόνο (εκπαίδευση off-line), πριν από την χρησιμοποίηση του ΤΝΔ για την λύση του προβλήματος εφαρμογής. Τέλος, το μέγεθος του ΤΝΔ είναι ανάλογο με την πολυπλοκότητα του προβλήματος το οποίο καλείται να επιλύσει, ενώ ο αριθμός των εκπαιδευτικών διανυσμάτων πρέπει να είναι ανάλογος με τον αριθμό των βαρών.

28 Νευρωνικά Δίκτυα - από τα Βιολογικά στα Τεχνητά Γενίκευση Ως γενίκευση ορίζεται η ικανότητα του ΤΝΔ να αποδείξει εξίσου καλά με διανύσματα τα οποία δεν έχει γνωρίσει κατά την διαδικασία εκπαίδευσης. Οι παράγοντες που επηρεάζουν την ικανότητα γενίκευσης είναι: Ο αριθμός των εκπαιδευτικών διανυσμάτων και αν αυτά αναπαριστούν ικανοποιητικά των υπερχώρο τον οποίο προέρχονται. Γενικά όσο μεγαλύτερος είναι ο αριθμός των εκπαιδευτικών διανυσμάτων τόσο καλύτερη λύση μπορεί να βρεθεί. Η πολυπλοκότητα του προβλήματος. Το μέγεθος του ΤΝΔ. Αν διατίθεται μεγάλος αριθμός εκπαιδευτικών διανυσμάτων μπορούμε να χρησιμοποιήσουμε ΤΝΔ σταθερού μεγέθους και εν συνεχεία να προσδιορίσουμε τον αριθμό των εκπαιδευτικών διανυσμάτων που πρέπει να χρησιμοποιηθούν για την βέλτιστη ικανότητα γενίκευσης. Αν διαθέτουμε μικρό αριθμό εκπαιδευτικών διανυσμάτων πρέπει να προσδιορίσουμε το μέγεθος του ΤΝΔ που βελτιστοποιεί την ικανότητα γενίκευσης Έλεγχος Απόδοσης των ΤΝΔ Ο έλεγχος απόδοσης κάποιου ΤΝΔ μπορεί να γίνεται με κάποια συνάρτηση σφάλματος, είτε στο εκπαιδευτικό σύνολο διανυσμάτων, είτε σε άγνωστο σύνολο διανυσμάτων τα οποία δεν έχει δει προηγουμένως το ΤΝΔ. Για την πιστοποίηση των αποτελεσμάτων εφαρμόζονται διάφορες μέθοδοι όπως το ανακάτωμα των διανυσμάτων και ο τυχαίος διαχωρισμός των συνόλων εκπαίδευσης ελέγχου. Αρκετό ενδιαφέρον για τον έλεγχο απόδοσης παρουσιάζουν η ανάκληση (recall) και η ακρίβεια (precision) ενός ΤΝΔ. Η ανάκληση ορίζεται ως ο λόγος του αριθμού των διανυσμάτων κάποιας κατηγορίας που ταξινομούνται σωστά από το ΤΝΔ, ως προς τον πραγματικό αριθμό των διανυσμάτων που ανήκουν σε αυτή την κατηγορία. Η ακρίβεια ορίζεται ως ο λόγος του αριθμού των διανυσμάτων κάποιας κατηγορίας που ταξινομούνται σωστά από το ΤΝΔ, ως προς το συνολικό αριθμό των διανυσμάτων που ταξινομούνται σε αυτή την κατηγορία (ορθά ή λανθασμένα). Για παράδειγμα, αν σε μια κατηγορία ανήκουν 50 διανύσματα και το ΤΝΔ ταξινομεί σωστά τα 40 τότε η ανάκληση είναι 40/50, ενώ εάν σε αυτή την κατηγορία ταξινομήσει πχ. 7 διανύσματα που ανήκαν σε άλλες κατηγορίες, τότε η ακρίβεια είναι 40/ Εφαρμογές των ΤΝΔ Όλες οι εφαρμογές των νευρωνικών δικτύων έχουν προκύψει τα τελευταία λίγα χρόνια και μερικές από αυτές ήδη βρίσκονται ως έτοιμα

29 Νευρωνικά Δίκτυα - από τα Βιολογικά στα Τεχνητά 29 προϊόντα στην αγορά και χρησιμοποιούνται ευρέως. Είναι βέβαιο ότι τα επόμενα χρόνια ένας πολύ μεγαλύτερος αριθμός θα ακολουθήσει, αφού το πεδίο αυτό βρίσκεται σε πολύ μικρή ηλικία. Οι εφαρμογές αυτές περιλαμβάνουν (γενικά) αναγνώριση προτύπων, υπολογισμό συναρτήσεων, συμπίεση δεδομένων, βελτιστοποίηση, πρόβλεψη, επεξεργασία εικόνας, αυτόματο έλεγχο και πολλά άλλα θέματα. Μια απλή λίστα σε μερικές περιοχές με διάφορες εφαρμογές θα μπορούσε να περιλάβει επιγραμματικά και μόνον: Βιολογία Καλύτερη κατανόηση της λειτουργίας του εγκεφάλου. Μοντέλα για την όραση (την αίσθηση στην οποία έχει γίνει μεγαλύτερη έρευνα σήμερα και για την οποία έχουμε την καλύτερη κατανόηση) Επιχειρήσεις Εκτίμηση για την ύπαρξη κοιτασμάτων πετρελαίου σε γεωλογικά πετρώματα. Για την επιλογή του κατάλληλου προσωπικού σε σημαντικές θέσεις στην επιχείρηση. Ιατρική Ανάγνωση και ανάλυση των ακτινών Χ. Κατανόηση των επιληπτικών κρίσεων. Παρακολούθηση εγχείρησης. Προβλέψεις για αντιδράσεις οργανισμών στην λήψη φαρμάκων. Διάγνωση και θεραπεία από τα συμπτώματα. Ανάλυση ομιλίας σε ακουστικά βαρηκοΐας κωφών ατόμων. Στρατιωτική τέχνη Αναγνώριση και παρακολούθηση στόχων. Βελτιστοποίηση της χρήσης πόρων σε έλλειψη. Κωδικοποίηση σημάτων ραντάρ. Δημιουργία έξυπνων όπλων. Για κατόπτευση. Χρηματοοικονομικά Ανάλυση επικυνδινότητας δανείων. Ανάγνωση χειρόγραφων εντύπων. Αξιολόγηση επενδύσεων και ανάλυση χαρτοφυλακίων. Αναγνώριση πλαστογραφιών Βιομηχανία Αυτοματικοποίηση ρομπότ και συστημάτων ελέγχου. Επιλογή ανταλλακτικών κατά την συναρμολόγηση. Έλεγχος στην γραμμή παραγωγής.

30 Νευρωνικά Δίκτυα - από τα Βιολογικά στα Τεχνητά 30 Επιθεώρηση της ποιότητας κατά την κατασκευή. Περιβάλλον Πρόβλεψη καιρού. Ανάλυση τάσεων και παρατηρήσεων.

31 Δημοφιλή μοντέλα - Τεχνητά Νευρωνικά Δίκτυα 31 ΜΕΡΟΣ 2 Ο Περιγραφή μοντέλων ΚΕΦΑΛΑΙΟ 2 Δημοφιλή μοντέλα - Τεχνητά Νευρωνικά Δίκτυα Τα δίκτυα που παρουσιάζονται στην συνέχεια έχουν ιδιαίτερο ενδιαφέρον. Το «Perceptron» είναι από τα πρώτα ΤΝΔ που αποτέλεσαν την ιστορική και επιστημονική βάση πάνω στην οποία στηρίχτηκαν οι έρευνες για την κατασκευή ΤΝΔ, τα δίκτυα «Kohonen» εκπαιδεύουν ένα ΤΝΔ, τα «Πολυεπίπεδα Perceptrons» διαθέτουν σημαντικές δυνατότητες μη γραμμικών σχέσεων, ενώ το Radial Basis Function Network είναι ένα δίκτυο πλήρες διασυνδεδεμένο Perceptron Ο τύπος αυτός ΤΝΔ προτάθηκε από τον Rosenblatt στα μέσα της δεκαετίας του 50 για να εξηγήσει την αναγνώριση προτύπων από το οπτικό σύστημα και θεωρήθηκε ως ένα λειτουργικό μοντέλο του αμφιβληστροειδή. Πρόκειται για ένα πολύ απλό ΤΝΔ που η βασική του ιδέα είναι η θεώρηση του αμφιβληστροειδή ως διδιάστατης διάταξης φωτοαισθητηρίων. Τα φωτοαισθητήρια συνδέονται πλήρως ή τυχαία με αμετάβλητα βάρη w ji με ανιχνευτές χαρακτηριστικών (ΤΝ) που έχουν την ικανότητα να αναγνωρίζουν κάποια συγκεκριμένα πρότυπα. Για να δραστηριοποιηθεί κάποιος ΤΝ πρέπει το σταθμισμένο άθροισμα εισόδου (Σχήμα 7α): ΝΕΤ j = Σ i w ji *x i

32 Δημοφιλή μοντέλα - Τεχνητά Νευρωνικά Δίκτυα 32 Σχήμα 7. Γραμμική συνάρτηση κατωφλίου που χρησιμοποιείται ως συνάρτηση μεταφοράς για τους ανιχνευτές χαρακτηριστικών και τους ανιχνευτές προτύπων του Perceptron. α. Η αύξηση της δραστηριοποίησης από κάποιο σημείο και μετά είναι γραμμική. β. Μια εναλλακτική συνάρτηση μεταφοράς για τους ανιχνευτές προτύπων. Ακόμη υπάρχει το επίπεδο εξόδου που αποτελείται από ΤΝ που λειτουργούν ως «ανιχνευτές προτύπων» (Perceptrons) και συνδέονται με μεταβλητά βάρη και με τυχαίο τρόπο με κάποιους από τους ανιχνευτές χαρακτηριστικών. Ως συνάρτηση μεταφοράς του Perceptron χρησιμοποιεί η γραμμική συνάρτηση κατωφλίου (Σχήμα 7α). Αυτά τα χαρακτηριστικά του Perceptron προέρχονται από φυσιολογικές παρατηρήσεις. Έτσι, πχ στην περίπτωση του αμφιβληστροειδή οι νευρώνες πυροδοτούνται μόνον όταν η δραστηριότητα εισόδου υπερβεί κάποιο κατώφλι. Στην συνέχεια ο ρυθμός πυροδότησης αυξάνει ανάλογα με την αύξηση της εισόδου. Εναλλακτικά μπορούμε να χρησιμοποιήσουμε μια βηματική συνάρτηση μεταφοράς, η οποία κβαντίζει την έξοδο του ΤΝ στην τιμή 0, αν το συνηθισμένο άθροισμα εισόδου ΝΕΤ j 0 ή στην τιμή 1, αν το σταθμισμένο άθροισμα εισόδου ΝΕΤj 0 (Σχήμα 7β). Η εκπαίδευση του Perceptron πραγματοποιείται με εποπτεία και με μεταβολή των βαρών του επιπέδου εξόδου. Οι βασικοί κανόνες του αλγόριθμου είναι: Τα βάρη δεν μεταβάλλονται αν η έξοδος λάβει την επιθυμητή τιμή. Αν η έξοδος είναι 0 ενώ θα έπρεπε να είναι 1, τότε αυξάνονται τα βάρη που αντιστοιχούν σε ενεργές εξόδους ανιχνευτών χαρακτηριστικών (μεγαλύτερες από το κατώφλι). Αν η έξοδος είναι 1 ενώ θα έπρεπε να είναι 0, τότε ελλατόνονται τα βάρη που ενεργούν σε ενεργές εξόδους ανιχνευτών (μεγαλύτερες από το κατώφλι). Το μέγεθος της μεταβολής των βαρών είναι: Σταθερό. Μεταβλητό και ανάλογο με την διαφορά του σταθμισμένου αθροίσματος εισόδου από την επιθυμητή έξοδο. Ίσο με το σταθμισμένο άθροισμα εισόδου. Συνδυασμός κάποιας σταθερής τιμής και κάποιας μεταβλητής τιμής μεταβολής βάρους.

33 Δημοφιλή μοντέλα - Τεχνητά Νευρωνικά Δίκτυα 33 Αν το μέγεθος της μεταβολής είναι μεγάλο επιτυγχάνεται πιο γρήγορη σύγκλιση αλλά βέβαια αυξάνεται η αστάθεια. Ο Rosenblatt απέδειξε το λεγόμενο «Θεώρημα σύγκλισης του Perceptron» το οποίο λέει ότι: Αν δοθεί ένα διάνυσμα εισόδου και ένα αντίστοιχο διάνυσμα επιθυμητών εξόδων, τότε υπάρχει κάποιος τρόπος εκπαίδευσης του ΤΝΔ για να επιτευχθεί η επιθυμητή έξοδος, αν (και μόνον αν), υπάρχουν οι κατάλληλες τιμές για τα βάρη. Η απόδειξη βασίζεται στο γεγονός ότι η διαδικασία εκπαίδευσης αντιστοιχεί με μια βαθμιαία μείωση στον χώρο των βαρών. Τέλος το θεώρημα δεν προσδιορίζει τον αριθμό των επαναλήψεων που απαιτούνται για να επιτευχθεί η σύγκλιση του ΤΝΔ. Ο βασικός περιορισμός του Perceptron είναι η αδυναμία ταξινόμησης μη γραμμικά διαχωρίσιμων εισόδων. Αυτό σημαίνει, ότι για να ταξινομηθούν σωστά όλα τα διανύσματα που ανήκουν στον υπερχώρο των διανυσμάτων εισόδου και που ανήκουν σε κάποια κατηγορία ταξινόμησης, πρέπει να βρίσκονται στην ίδια «πλευρά» του υπερχώρου που διαχωρίζει τις κατηγορίες ταξινόμησης. Για παράδειγμα, αν έχουμε δύο ΤΝ στο επίπεδο εισόδου, τότε ο διαχωριστικός υπερχώρος είναι μία απλή γραμμή, για τρεις ΤΝ ο διαχωριστικός υπερχώρος είναι ένα επίπεδο του τρισδιάστατου ευκλείδειου χώρου κλπ. Σε πραγματικά προβλήματα τις περισσότερες φορές οι είσοδοι δεν είναι γραμμικά διαχωρίσιμες, όπως για παράδειγμα στο περίφημο πρόβλημα της λογικής συνάρτησης X-OR. Η αδυναμία του Perceptron να επιλύσει τέτοια προβλήματα ώθησε ορισμένους ερευνητές στην πρόωρη καταδίκη του. Μεταξύ αυτών, οι Minsky και Papert απέδειξαν, ότι για την ταξινόμηση διαφόρων σχημάτων απαιτείται ένας πολύ μεγάλος αριθμός ανιχνευτών χαρακτηριστικών. Από τότε όμως έχουν παρουσιαστεί διάφορες παραλλαγές του Perceptron με τις οποίες μειώνεται, με χρήση επιλεκτικής ανάδρασης, καθώς και παραλλαγές όπου ανιχνευτές χαρακτηριστικών εξειδικευμένοι στην διαχείριση κάποιας περιοχής της εικόνας διασυνδέονται μεταξύ τους έτσι ώστε να σχηματίσουν πολλαπλά επίπεδα. Σήμερα παρά τα μειονεκτήματα της αρχικής σχεδίασης του Perceptron, υπάρχουν ΤΝΔ που βασίζονται σε πολυ-επίπεδα Perceptrons και χρησιμοποιούνται σε πολλές εφαρμογές όπως η οπτική αναγνώριση χαρακτήρων και η τεχνητή όραση των ρομπότ Kohonen Αυτό το μοντέλο νευρωνικών δικτύων προτάθηκε το 1984 από τον Kohonen και παρουσιάζει την διαδικασία εκπαίδευσης ενός νευρωνικού δικτύου χωρίς επίβλεψη, αυτή είναι η ιδιότητά του, δηλαδή δεν δίδεται καμία εξωτερική επέμβαση σχετικά με τους στόχους που πρέπει να εκπαιδευτεί να αναγνωρίζει ένα δίκτυο. Λέμε ότι αυτό το δίκτυο παρουσιάζει χαρακτηριστικά αυτοοργάνωσης. Τα χαρακτηριστικά αυτά λοιπόν είναι ότι

34 Δημοφιλή μοντέλα - Τεχνητά Νευρωνικά Δίκτυα 34 μπορεί να ταξινομεί διανύσματα με την βοήθεια ενός αλγόριθμου αυτόνομης (χωρίς επίβλεψη) μάθησης. Το δίκτυο οργανώνει τα βάρη του w με τέτοιο τρόπο ώστε να αναγνωρίζει όποια κανονικότητα μπορεί να υπάρχει στα διανύσματα εισόδου. Κάνει δηλαδή μια αντιστοίχηση των εισόδων στην έξοδο και για τον λόγο αυτό λέμε ότι αποτελεί μία αυτοοργανούμενη απεικόνιση χαρακτηριστικών (self-organizing feature map). Μια σημαντική αρχή της οργάνωσης των αισθητηρίων οργάνων στον εγκέφαλο είναι ότι η κατανομή των νευρώνων παρουσιάζει μια κανονικότητα που αντικατοπτρίζει κάποια ειδικά χαρακτηριστικά των εξωτερικών ερεθισμάτων που διαδίδονται σε αυτά. Έτσι τα δίκτυα Kohonen ακολουθούν κάποια χαρακτηριστικά των βιολογικών δικτύων. Σε αυτό το κεφάλαιο θα δείτε την δομή του δικτύου καθώς και διάφορα βήματα εκπαίδευσής του Η δομή των δικτύων Kohonen Το δίκτυο Kohonen αποτελείται από δύο επίπεδα. Το πρώτο επίπεδο, όπως συνήθως, είναι το επίπεδο εισόδου. Το δεύτερο επίπεδο έχει το ιδιαίτερο χαρακτηριστικό ότι είναι οργανωμένο σε μορφή πλέγματος, που μπορεί να έχει οποιαδήποτε διάσταση, πχ. μπορεί να έχουμε ένα δυσδιάστατο πλέγμα, δηλαδή μία επιφάνεια που έχει επάνω της m x m μονάδες (λχ. Μικρές τελίτσες) που αντιστοιχούν στους νευρώνες. Τα δύο αυτά επίπεδα έχουν πλήρη συνδεσμολογία, δηλαδή κάθε μονάδα εισόδου συνδέεται με όλες τις μονάδες του επιπέδου. Το Σχήμα 8 δείχνει την δομή ενός τέτοιου δικτύου. Το σήμα εισόδου είναι ένα διάνυσμα με n στοιχεία. Έτσι τελικά έχουμε ένα πλήθος από n x m x m συνδέσεις. Σχήμα 8. Δομή δικτύου Kohonen Η εκπαίδευση του δικτύου Kohonen Όταν παρουσιάζεται ένα πρότυπο στο επίπεδο εισόδου, κάθε νευρώνας παίρνει την αντίστοιχη τιμή του εισερχόμενου σήματος. Οι

35 Δημοφιλή μοντέλα - Τεχνητά Νευρωνικά Δίκτυα 35 νευρώνες στο δεύτερο επίπεδο αθροίζουν τις τιμές των εισόδων και από όλους τους νευρώνες στο επίπεδο εξόδου επιλέγεται ένας μόνον με έξοδο 1, ενώ όλοι οι άλλοι έχουν έξοδο 0. Ακολούθως, πραγματοποιούνται οι αλλαγές στα βάρη w μέχρις ότου το δίκτυο εκπαιδευτεί στα εισερχόμενα πρότυπα. Η προσαρμογή των βαρών γίνεται με τέτοιο τρόπο, ώστε μετά την εκπαίδευση το δίκτυο να είναι σε θέση να διεγείρει τον ίδιο πάντα νευρώνα εξόδου για διανύσματα εισόδου που ανήκουν στην ίδια τάξη. Επειδή η εκπαίδευση γίνεται αυτόνομα (χωρίς στόχους), δεν μπορούμε να γνωρίζουμε εκ των προτέρων σε ποια από τις τάξεις θα αντιστοιχεί ο καθένας από τους νευρώνες εξόδου, με αποτέλεσμα η αντιστοίχηση να γίνεται μόνο μετά την εκπαίδευσή τους. Όπως και σε άλλα δίκτυα, αρχικά οι τιμές των w είναι τυχαίες. Επιλέγονται, λχ. από μία γεννήτρια τυχαίων αριθμών η οποία παράγει αριθμούς στο διάστημα από 0,0 έως 1,0 με ομαλή κατανομή. Ένα πρότυπο λοιπόν που παρουσιάζεται στο επίπεδο εισόδου έχει την μορφή: S= (s 1,s 2,s 3,,s n ) Τα βάρη w που συνδέουν το επίπεδο εισόδου με την μονάδα i στο επίπεδο εξόδου δίδονται από: w i = (w 1,w 2,w 3,,w in ) Πρώτα υπολογίζουμε μία αντίστοιχη τιμή για κάθε νευρώνα στο επίπεδο εξόδου, η οποία δείχνει κατά πόσο τα βάρη αντιστοιχούν στις τιμές εισόδου. Η αντίστοιχη τιμή για τον νευρώνα i είναι: S W i το οποίο είναι η Ευκλείδεια απόσταση ή Ευκλείδεια νόρμα μεταξύ των διανυσμάτων S και W i και υπολογίζεται από την σχέση d j j ( s j w ) ij Η μονάδα αυτή που έχει την μικρότερη αντίστοιχη τιμή είναι η πλέον κατάλληλη ανάμεσα σε όλες τις άλλες μονάδες και έτσι επιλέγουμε την μονάδα αυτή, την οποία ονομάζουμε c, και λέμε ότι: S W c = min{ S-W i } Όπου το min θεωρείται ότι λαμβάνεται σε όλες τις μονάδες i του επιπέδου εξόδου. Αν συμβεί δύο μονάδες να έχουν ακριβώς την ίδια τιμή, τότε παίρνουμε αυτή που έχει την μικρότερη τιμή του δείκτη i. Οι διπλές κάθετες γραμμές στις εξισώσεις υποδηλώνουν ότι έχουμε πράξεις μεταξύ διανυσμάτων, που πρέπει να γίνουν κανονικά, στοιχείο προς στοιχείο. Οι νόρμες στο δεξί μέρος της εξίσωσης ( ) υπολογίζονται πάλι από την εξίσωση ( ).

36 Δημοφιλή μοντέλα - Τεχνητά Νευρωνικά Δίκτυα 36 Σχήμα 9. Διαδοχικά τετράγωνα με κέντρο τον νευρώνα c, που αναπαριστούν διάφορα μεγέθη γειτονίας γύρω από τον κεντρικό νευρώνα Αφού επιλέξουμε τον νευρώνα που υπερτερεί, ακολούθως ορίζουμε την γειτονία γύρω από τον νευρώνα αυτό. Ως γειτονία θεωρούμε όλες τις μονάδες που είναι κοντά στην πλέον κατάλληλη μονάδα. Το μέγεθος της γειτονίας διαφέρει από περίπτωση σε περίπτωση. Όπως βλέπουμε στο Σχήμα 9, σχηματίζουμε ένα τετράγωνο με κέντρο την μονάδα c, και το οποίο περιέχει N c μονάδες, ανάλογα βέβαια με το μήκος της πλευράς του τετραγώνου. Στην αρχή της διαδικασίας εκπαίδευσης το N c είναι μεγάλο και η γειτονία περιλαμβάνει ένα μεγάλο τετράγωνο. Κατά την διάρκεια όμως της διαδικασίας τα βάρη αλλάζουν τιμή και έτσι συνεχώς η περιοχή της γειτονίας μικραίνει, ώσπου στο τέλος περιλαμβάνει μόνον την μονάδα c. Η διόρθωση των βαρών w γίνεται με την εξίσωση: w ij a s 0 j w ij εάν η μονάδα i ανήκει στην γειτονία N c εάν η μονάδα i δεν ανήκει στην γειτονία N c Αφού βρούμε το Δw ij, εύκολα αναπροσαρμόζουμε τα w ij. Αυτό έχει ως αποτέλεσμα η μονάδα c και οι μονάδες που ανήκουν στην γειτονία της να αλλάζουν και να μοιάζουν περισσότερα με τα πρότυπα εισόδου. Για να προχωρήσουμε στην λύση του προβλήματος πρέπει να ορισθούν η σταθερά α και το μέγεθος του N c. Η σταθερά α είναι ο ρυθμός εκπαίδευσης. Αρχικά έχει μία μεγάλη τιμή, αλλά κατά την διαδικασία εκπαίδευσης ελλατώνεται. Η εξίσωση της ελλάτωσης αυτής δίδεται από: t 0 1 t T όπου α 0 είναι η αρχική τιμή του α. Τ είναι ο συνολικός αριθμός των κύκλων εκπαίδευσης που υφίσταται το δίκτυο, t είναι ο τρέχον κύκλος. Συνήθεις τιμές του α 0 είναι 0,2 < α 0 < 0,5, ενώ κατά την διάρκεια της εκπαίδευσης το α ελλατώνεται και τελικά γίνεται 0. Η ελλάτωση αυτή είναι γραμμική με τον αριθμό των κύκλων (δηλαδή με τον χρόνο). Ως προς το μέγεθος της γειτονίας, θεωρούμε την αρχική μονάδα με συντεταγμένες (x c,y c ). Εάν d είναι η απόσταση από το c ως το τέλος της γειτονίας, τότε η γειτονία περιλαμβάνει όλα τα (x,y) για τα οποία:

37 Δημοφιλή μοντέλα - Τεχνητά Νευρωνικά Δίκτυα 37 c-d < x < c+d c-d < y < c+d Αρχικά το d έχει μία τιμή d 0. To d 0 τίθεται αυθαίρετα, και πρέπει να είναι περί το ½ του μεγέθους ολοκλήρου του επιπέδου. Η ελλάτωση του d καθώς προχωράει η εκπαίδευση γίνεται με την εξίσωση: d d 1 0 t T όπου όπως βλέπουμε έχουμε μία εξίσωση ανάλογη με την εξίσωση του α. Και εδώ η ελλάτωση είναι γραμμική ως προς το χρόνο. Η εκπαίδευση σταματάει όταν το d γίνει d=1, καθόσον έχουμε ένα πλέγμα όπου η μικρότερη δυνατή απόσταση είναι 1. Το πόσο γρήγορα θα γίνει d=1 εξαρτάται από τα d 0, t, T, όπως δίνεται από την εξίσωση ( ). Συνοπτικά η διαδικασία εκπαίδευσης του δικτύου Kohonen είναι: Διαλέγουμε πρώτα τον νευρώνα στο επίπεδο εξόδου του οποίου τα βάρη ταιριάζουν καλύτερα με το πρότυπο εισόδου. Μεταβάλλουμε τα βάρη w ij έτσι ώστε η αντιστοιχία αυτή να αυξάνεται. Σταδιακά ελλατώνουμε το μέγεθος της γειτονίας, καθώς επίσης και το μέγεθος της αλλαγής στα w, καθόσον το δίκτυο εκπαιδεύεται Πολυεπίπεδα Perceptrons Το BP* 5 είναι σήμερα το πιο δημοφιλές ΤΝΔ και έγινε γνωστό από τις εργασίες των Rumelhart, Hilton και Williams ενώ παρόμοια διάταξη ΤΝΔ είχε προταθεί παλαιότερα και από άλλους ερευνητές. Η ονομασία του οφείλεται στο τρόπο με τον οποίο μεταφέρεται το σφάλμα από το επίπεδο εξόδου προς τα προηγούμενα επίπεδα επεξεργασίας του ΤΝΔ και συγκεκριμένα από την ανατροφοδότηση του σφάλματος από το επίπεδο εξόδου προς τα προηγούμενα επίπεδα επεξεργασίας Ιδιότητες του BP Το BP διαθέτει σημαντικές δυνατότητες δημιουργίας μη γραμμικών σχέσεων μεταξύ των διανυσμάτων εισόδου και των διανυσμάτων εξόδου. Για να καταστεί δυνατή η απεικόνιση, γίνεται βαθμιαία μείωση του συνολικού σφάλματος ως προς τα βάρη, με χρήση «τοπικών» πληροφοριών. Επομένως το BP ικανοποιεί την απαίτηση για τοπική επεξεργασία της πληροφορίας που τίθεται από τα ΠΝΔ. Τυπικά το BP αποτελείται από το επίπεδο εισόδου, ένα τουλάχιστον κρυφό επίπεδο και το επίπεδο εξόδου. Μπορούμε να χρησιμοποιήσουμε όσα κρυφά επίπεδα επιθυμούμε. Κάθε επίπεδο είναι πλήρως συνδεδεμένο

38 Δημοφιλή μοντέλα - Τεχνητά Νευρωνικά Δίκτυα 38 με μεταβλητά βάρη με το επόμενο. Η βασική διαφορά των ΤΝ του BP από τα Perceptrons είναι ότι οι πρώτοι διαθέτουν κάποια σιγμοειδή συνάρτηση μεταφοράς, ενώ τα δεύτερα διαθέτουν έναν κβαντιστή. Σχετικές έρευνες απέδειξαν ότι δύο κρυφά επίπεδα είναι αρκετά για να επιλυθεί οποιαδήποτε συνάρτηση απεικόνισης των διανυσμάτων εισόδου σε κάποια διανύσματα εξόδου. Σχήμα 10. Τυπικό παράδειγμα πλήρως διασυνδεδεμένου BP (από το βιβλίο Parallel distributed processing των Rumelhart και McClelland). Το BP είναι αλγόριθμος που λειτουργεί με εποπτεία και μπορεί να λειτουργήσει ως αυτοσυσχετιζόμενο ΤΝΔ. Η κλασική διάταξη ενός BP φαίνεται στο Σχήμα 10. Τα στάδια επεξεργασίας που ακολουθεί το BP είναι: Εισαγωγή του εκπαιδευτικού διανύσματος εισόδου και υπολογισμός των σταθμισμένων αθροισμάτων εισόδου καθώς και των εξόδων των ΤΝ, μέχρι το επίπεδο εξόδου, όπου παράγεται το διάνυσμα εξόδου. Υπολογισμός του μέτρου της διαφοράς (σφάλματος) του διανύσματος εξόδου που υπολογίστηκε κατά το στάδιο 1, από το επιθυμητό διάνυσμα εξόδου, καθώς επίσης και της αναγκαίας μεταβολής των βαρών. Υπολογισμός του σφάλματος των ΤΝ των κρυφών επιπέδων και της αντίστοιχης μεταβολής των βαρών. Μεταβολή όλων των βαρών με πρόσθεση των αντίστοιχων τιμών που υπολογίστηκαν προηγουμένως Ορισμός μεγεθών και εκπαίδευση του BP Παρακάτω θα ορίσουμε τα μεγέθη, θα αναλύσουμε τις μεταβλητές και θα δούμε πως εκπαιδεύεται το BP. Τα μεγέθη που χρησιμοποιούνται στο BP ορίζονται ως εξής: OUT j [s] η έξοδος του j ΤΝ του επιπέδου s.

39 Δημοφιλή μοντέλα - Τεχνητά Νευρωνικά Δίκτυα 39 W ji [s] το βάρος που συνδέει των j ΤΝ του επιπέδου s-1 με τον j ΤΝ του επιπέδου s. NET j [s] f(net)=out j [s] στο σταθμισμένο άθροισμα εισόδου του j ΤΝ του επιπέδου s. η συνάρτηση μεταφοράς του j ΤΝ. Επομένως η έξοδος του j ΤΝ του επιπέδου s υπολογίζεται ως εξής: OUT j [s] =f(net j [s] )=f[σ i (w ji [s] *OUT l [s-1] )] Ως συνάρτηση μεταφοράς έχει επικρατήσει η χρήση κάποιας συνάρτησης από την οικογένεια των σιγμοειδών συναρτήσεων (Σχήμα 11): f(net j )= 1/[1+e * j ] Σχήμα 11. α. Σιγμοειδής συνάρτηση β. Συνάρτηση υπερβολικής εφαπτομένης. Και οι δύο μπορεί να χρησιμοποιηθούν ως συναρτήσεις μεταφοράς των ΤΝ. Η παραγωγός της « » είναι: f (NET j )=f(net j )*[1-f(NET j )] Αν ορίσουμε ως Ε την διαφορίσημη συνάρτηση σφάλματος και DES το επιθυμητό διάνυσμα εξόδου, τότε το σφάλμα του ΤΝΔ για το x διάνυσμα εξόδου, υπολογίζεται ως το τετράγωνο της ευκλείδειας απόστασης μεταξύ του επιθυμητού και του πραγματικού διανύσματος εξόδου για τους ΤΝ του επιπέδου εξόδου, ως εξής: Ε= 0.5*Σ k (DES k -OUT k )

Τεχνητά Νευρωνικά Δίκτυα. Τσιριγώτης Γεώργιος Τμήμα Μηχανικών Πληροφορικής ΤΕΙ Ανατολικής Μακεδονίας & Θράκης

Τεχνητά Νευρωνικά Δίκτυα. Τσιριγώτης Γεώργιος Τμήμα Μηχανικών Πληροφορικής ΤΕΙ Ανατολικής Μακεδονίας & Θράκης Τεχνητά Τσιριγώτης Γεώργιος Τμήμα Μηχανικών Πληροφορικής ΤΕΙ Ανατολικής Μακεδονίας & Θράκης Ο Βιολογικός Νευρώνας Δενδρίτες Συνάψεις Πυρήνας (Σώμα) Άξονας 2 Ο Βιολογικός Νευρώνας 3 Βασικά Χαρακτηριστικά

Διαβάστε περισσότερα

ΝΕΥΡΙΚΟ ΣΥΣΤΗΜΑ - ΜΕΡΟΣ Α. Ο ηλεκτρονικός υπολογιστής του οργανισμού μας

ΝΕΥΡΙΚΟ ΣΥΣΤΗΜΑ - ΜΕΡΟΣ Α. Ο ηλεκτρονικός υπολογιστής του οργανισμού μας ΝΕΥΡΙΚΟ ΣΥΣΤΗΜΑ - ΜΕΡΟΣ Α Ο ηλεκτρονικός υπολογιστής του οργανισμού μας Ρόλος του νευρικού συστήματος Το νευρικό σύστημα (Ν.Σ.) ελέγχει, ρυθμίζει και συντονίζει όλες τις λειτουργίες του οργανισμού ανάλογα

Διαβάστε περισσότερα

Βιολογία Α Λυκείου Κεφ. 9. Νευρικό Σύστημα. Δομή και λειτουργία των νευρικών κυττάρων

Βιολογία Α Λυκείου Κεφ. 9. Νευρικό Σύστημα. Δομή και λειτουργία των νευρικών κυττάρων Βιολογία Α Λυκείου Κεφ. 9 Νευρικό Σύστημα Δομή και λειτουργία των νευρικών κυττάρων Νευρικό Σύστημα Το νευρικό σύστημα μαζί με το σύστημα των ενδοκρινών αδένων φροντίζουν να διατηρείται σταθερό το εσωτερικό

Διαβάστε περισσότερα

Κεφάλαιο 1 ΒΑΣΙΚΕΣ ΑΡΧΕΣ ΝΕΥΡΟΦΥΣΙΟΛΟΓΙΑΣ

Κεφάλαιο 1 ΒΑΣΙΚΕΣ ΑΡΧΕΣ ΝΕΥΡΟΦΥΣΙΟΛΟΓΙΑΣ Κεφάλαιο 1 ΒΑΣΙΚΕΣ ΑΡΧΕΣ ΝΕΥΡΟΦΥΣΙΟΛΟΓΙΑΣ 1.1. Εισαγωγή Ο ζωντανός οργανισµός έχει την ικανότητα να αντιδρά σε µεταβολές που συµβαίνουν στο περιβάλλον και στο εσωτερικό του. Οι µεταβολές αυτές ονοµάζονται

Διαβάστε περισσότερα

οµή δικτύου ΣΧΗΜΑ 8.1

οµή δικτύου ΣΧΗΜΑ 8.1 8. ίκτυα Kohonen Το µοντέλο αυτό των δικτύων προτάθηκε το 1984 από τον Kοhonen, και αφορά διαδικασία εκµάθησης χωρίς επίβλεψη, δηλαδή δεν δίδεται καµία εξωτερική επέµβαση σχετικά µε τους στόχους που πρέπει

Διαβάστε περισσότερα

ΤΜΗΜΑ ΔΙΟΙΚΗΣΗΣ ΕΠΙΧΕΙΡΗΣΕΩΝ

ΤΜΗΜΑ ΔΙΟΙΚΗΣΗΣ ΕΠΙΧΕΙΡΗΣΕΩΝ ΤΕΙ Δυτικής Μακεδονίας ΤΜΗΜΑ ΔΙΟΙΚΗΣΗΣ ΕΠΙΧΕΙΡΗΣΕΩΝ 2015-2016 Τεχνητή Νοημοσύνη Νευρώνας Perceptron Διδάσκων: Τσίπουρας Μάρκος Εκπαιδευτικό Υλικό: Τσίπουρας Μάρκος Τζώρτζης Γρηγόρης Περιεχόμενα Εισαγωγή

Διαβάστε περισσότερα

Βασικές αρχές εκπαίδευσης ΤΝΔ: το perceptron. "Τεχνητά Νευρωνικά Δίκτυα" (Διαφάνειες), Α. Λύκας, Παν. Ιωαννίνων

Βασικές αρχές εκπαίδευσης ΤΝΔ: το perceptron. Τεχνητά Νευρωνικά Δίκτυα (Διαφάνειες), Α. Λύκας, Παν. Ιωαννίνων Βασικές αρχές εκπαίδευσης ΤΝΔ: το perceptron Βιολογικός Νευρώνας Δενδρίτες, που αποτελούν τις γραμμές εισόδου των ερεθισμάτων (βιολογικών σημάτων) Σώμα, στο οποίο γίνεται η συσσώρευση των ερεθισμάτων και

Διαβάστε περισσότερα

ΑΝΤΑΓΩΝΙΣΤΙΚΗ ΜΑΘΗΣΗ ΔΙΚΤΥA LVQ και SOM. "Τεχνητά Νευρωνικά Δίκτυα" (Διαφάνειες), Α. Λύκας, Παν. Ιωαννίνων

ΑΝΤΑΓΩΝΙΣΤΙΚΗ ΜΑΘΗΣΗ ΔΙΚΤΥA LVQ και SOM. Τεχνητά Νευρωνικά Δίκτυα (Διαφάνειες), Α. Λύκας, Παν. Ιωαννίνων ΑΝΤΑΓΩΝΙΣΤΙΚΗ ΜΑΘΗΣΗ ΔΙΚΤΥA LVQ και SOM Μάθηση χωρίς επίβλεψη (unsupervised learning) Σύνολο εκπαίδευσης D={(x n )}, n=1,,n. x n =(x n1,, x nd ) T, δεν υπάρχουν τιμές-στόχοι t n. Προβλήματα μάθησης χωρίς

Διαβάστε περισσότερα

ΗΛΕΚΤΡΙΚΑ ΣΗΜΑΤΑ ΑΠΟ ΤΟ ΣΩΜΑ (I)

ΗΛΕΚΤΡΙΚΑ ΣΗΜΑΤΑ ΑΠΟ ΤΟ ΣΩΜΑ (I) ΠΑΝΕΠΙΣΤΗΜΙΟ ΘΕΣΣΑΛΙΑΣ ΙΑΤΡΙΚΗ ΣΧΟΛΗ ΕΡΓΑΣΤΗΡΙΟ ΙΑΤΡΙΚΗΣ ΦΥΣΙΚΗΣ ΗΛΕΚΤΡΙΚΑ ΣΗΜΑΤΑ ΑΠΟ ΤΟ ΣΩΜΑ (I) Γιάννης Τσούγκος ΓΕΝΙΚΑ:...πολλούς αιώνες πριν μελετηθεί επιστημονικά ο ηλεκτρισμός οι άνθρωποι γνώριζαν

Διαβάστε περισσότερα

Σκοπός του μαθήματος είναι ο συνδυασμός των θεωρητικών και ποσοτικών τεχνικών με τις αντίστοιχες περιγραφικές. Κεφάλαιο 1: περιγράφονται οι βασικές

Σκοπός του μαθήματος είναι ο συνδυασμός των θεωρητικών και ποσοτικών τεχνικών με τις αντίστοιχες περιγραφικές. Κεφάλαιο 1: περιγράφονται οι βασικές Εισαγωγή Ασχολείται με τη μελέτη των ηλεκτρικών, η λ ε κ τ ρ ο μ α γ ν η τ ι κ ώ ν κ α ι μ α γ ν η τ ι κ ώ ν φαινομένων που εμφανίζονται στους βιολογικούς ιστούς. Το αντικείμενο του εμβιοηλεκτρομαγνητισμού

Διαβάστε περισσότερα

Το μοντέλο Perceptron

Το μοντέλο Perceptron Το μοντέλο Perceptron Αποτελείται από έναν μόνο νευρώνα McCulloch-Pitts w j x x 1, x2,..., w x T 1 1 x 2 w 2 Σ u x n f(u) Άνυσμα Εισόδου s i x j x n w n -θ w w 1, w2,..., w n T Άνυσμα Βαρών 1 Το μοντέλο

Διαβάστε περισσότερα

9. ΝΕΥΡΙΚΟ ΣΥΣΤΗΜΑ ΔΟΜΗ ΚΑΙ ΛΕΙΤΟΥΡΓΙΑ ΤΩΝ ΝΕΥΡΙΚΩΝ. Νευρώνες

9. ΝΕΥΡΙΚΟ ΣΥΣΤΗΜΑ ΔΟΜΗ ΚΑΙ ΛΕΙΤΟΥΡΓΙΑ ΤΩΝ ΝΕΥΡΙΚΩΝ. Νευρώνες 9. ΝΕΥΡΙΚΟ ΣΥΣΤΗΜΑ Το νευρικό σύστημα μαζί με το σύστημα των ενδοκρινών αδένων συμβάλλουν στη διατήρηση σταθερού εσωτερικού περιβάλλοντος (ομοιόσταση), ελέγχοντας και συντονίζοντας τις λειτουργίες των

Διαβάστε περισσότερα

ΜΑΘΗΜΑ 3ο ΜΕΡΟΣ Α ΣΥΝΑΠΤΙΚΗ ΟΛΟΚΛΗΡΩΣΗ

ΜΑΘΗΜΑ 3ο ΜΕΡΟΣ Α ΣΥΝΑΠΤΙΚΗ ΟΛΟΚΛΗΡΩΣΗ ΜΑΘΗΜΑ 3ο ΜΕΡΟΣ Α ΣΥΝΑΠΤΙΚΗ ΟΛΟΚΛΗΡΩΣΗ Όπως συμβαίνει με τη συναπτική διαβίβαση στη νευρομυϊκή σύναψη, σε πολλές μορφές επικοινωνίας μεταξύ νευρώνων στο κεντρικό νευρικό σύστημα παρεμβαίνουν άμεσα ελεγχόμενοι

Διαβάστε περισσότερα

Το Πολυεπίπεδο Perceptron. "Τεχνητά Νευρωνικά Δίκτυα" (Διαφάνειες), Α. Λύκας, Παν. Ιωαννίνων

Το Πολυεπίπεδο Perceptron. Τεχνητά Νευρωνικά Δίκτυα (Διαφάνειες), Α. Λύκας, Παν. Ιωαννίνων Το Πολυ Perceptron Δίκτυα Πρόσθιας Τροφοδότησης (feedforward) Tο αντίστοιχο γράφημα του δικτύου δεν περιλαμβάνει κύκλους: δεν υπάρχει δηλαδή ανατροφοδότηση της εξόδου ενός νευρώνα προς τους νευρώνες από

Διαβάστε περισσότερα

Ασκήσεις Φροντιστηρίου «Υπολογιστική Νοημοσύνη Ι» 5 o Φροντιστήριο

Ασκήσεις Φροντιστηρίου «Υπολογιστική Νοημοσύνη Ι» 5 o Φροντιστήριο Πρόβλημα ο Ασκήσεις Φροντιστηρίου 5 o Φροντιστήριο Δίνεται το παρακάτω σύνολο εκπαίδευσης: # Είσοδος Κατηγορία 0 0 0 Α 2 0 0 Α 0 Β 4 0 0 Α 5 0 Β 6 0 0 Α 7 0 Β 8 Β α) Στον παρακάτω κύβο τοποθετείστε τα

Διαβάστε περισσότερα

ΕΥΦΥΗΣ ΕΛΕΓΧΟΣ. Ενότητα #12: Εισαγωγή στα Nευρωνικά Δίκτυα. Αναστάσιος Ντούνης Τμήμα Μηχανικών Αυτοματισμού Τ.Ε.

ΕΥΦΥΗΣ ΕΛΕΓΧΟΣ. Ενότητα #12: Εισαγωγή στα Nευρωνικά Δίκτυα. Αναστάσιος Ντούνης Τμήμα Μηχανικών Αυτοματισμού Τ.Ε. ΕΛΛΗΝΙΚΗ ΔΗΜΟΚΡΑΤΙΑ Ανώτατο Εκπαιδευτικό Ίδρυμα Πειραιά Τεχνολογικού Τομέα ΕΥΦΥΗΣ ΕΛΕΓΧΟΣ Ενότητα #12: Εισαγωγή στα Nευρωνικά Δίκτυα Αναστάσιος Ντούνης Τμήμα Μηχανικών Αυτοματισμού Τ.Ε. Άδειες Χρήσης Το

Διαβάστε περισσότερα

Β. Να επιλέξετε την ορθή απάντηση αναγράφοντας στον πίνακα της ακόλουθης

Β. Να επιλέξετε την ορθή απάντηση αναγράφοντας στον πίνακα της ακόλουθης Ονοματεπώνυμο:.. Βαθμός: Ωριαία γραπτή εξέταση Α Τετραμήνου στη Βιολογία [Κεφ. 9 ο, σελ. 153-158] Α. Να χαρακτηρίσετε τις ακόλουθες προτάσεις με το γράμμα Ο, εφόσον είναι ορθές, ή με το γράμμα Λ, αν είναι

Διαβάστε περισσότερα

ΠΡΟΠΤΥΧΙΑΚΟ ΠΡΟΓΡΑΜΜΑ ΣΠΥΔΩΝ ΤΕΦΑΑ/ΔΠΘ ΜΑΘΗΜΑ ΚΑΤΕΥΘΥΝΣΗΣ ΠΡΟΠΟΝΗΤΙΚΗΣ. ΒΙΟΧΗΜΕΙΑ ΤΗΣ ΑΣΚΗΣΗΣ Φατούρος Γ. Ιωάννης, Επίκουρος Καθηγητής ΣΥΣΠΑΣΗΣ

ΠΡΟΠΤΥΧΙΑΚΟ ΠΡΟΓΡΑΜΜΑ ΣΠΥΔΩΝ ΤΕΦΑΑ/ΔΠΘ ΜΑΘΗΜΑ ΚΑΤΕΥΘΥΝΣΗΣ ΠΡΟΠΟΝΗΤΙΚΗΣ. ΒΙΟΧΗΜΕΙΑ ΤΗΣ ΑΣΚΗΣΗΣ Φατούρος Γ. Ιωάννης, Επίκουρος Καθηγητής ΣΥΣΠΑΣΗΣ ΠΡΟΠΤΥΧΙΑΚΟ ΠΡΟΓΡΑΜΜΑ ΣΠΥΔΩΝ ΤΕΦΑΑ/ΔΠΘ ΜΑΘΗΜΑ ΚΑΤΕΥΘΥΝΣΗΣ ΠΡΟΠΟΝΗΤΙΚΗΣ ΒΙΟΧΗΜΕΙΑ ΤΗΣ ΑΣΚΗΣΗΣ Φατούρος Γ. Ιωάννης, Επίκουρος Καθηγητής ΔΙΑΛΕΞΗ 3 - Η ΒΙΟΧΗΜΕΙΑ ΤΗΣ ΜΥΪΚΗΣ ΣΥΣΠΑΣΗΣ Βιοχημεία των νευρομυϊκών

Διαβάστε περισσότερα

Αναγνώριση Προτύπων Ι

Αναγνώριση Προτύπων Ι Αναγνώριση Προτύπων Ι Ενότητα 1: Μέθοδοι Αναγνώρισης Προτύπων Αν. Καθηγητής Δερματάς Ευάγγελος Τμήμα Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών Άδειες Χρήσης Το παρόν εκπαιδευτικό υλικό υπόκειται

Διαβάστε περισσότερα

ΔΑΜΔΑΣ ΙΩΑΝΝΗΣ. Βιολογία A λυκείου. Υπεύθυνη καθηγήτρια: Μαριλένα Ζαρφτζιάν Σχολικό έτος:

ΔΑΜΔΑΣ ΙΩΑΝΝΗΣ. Βιολογία A λυκείου. Υπεύθυνη καθηγήτρια: Μαριλένα Ζαρφτζιάν Σχολικό έτος: ΔΑΜΔΑΣ ΙΩΑΝΝΗΣ Βιολογία A λυκείου Υπεύθυνη καθηγήτρια: Μαριλένα Ζαρφτζιάν Σχολικό έτος: 2013-2014 Ένα αισθητικό σύστημα στα σπονδυλωτά αποτελείται από τρία βασικά μέρη: 1. Τους αισθητικούς υποδοχείς,

Διαβάστε περισσότερα

Εισαγωγή στα Τεχνητά Νευρωνικά Δίκτυα. "Τεχνητά Νευρωνικά Δίκτυα" (Διαφάνειες), Α. Λύκας, Παν. Ιωαννίνων

Εισαγωγή στα Τεχνητά Νευρωνικά Δίκτυα. Τεχνητά Νευρωνικά Δίκτυα (Διαφάνειες), Α. Λύκας, Παν. Ιωαννίνων Εισαγωγή στα Τεχνητά Νευρωνικά Δίκτυα Τεχνητή Νοημοσύνη (Artificial Intelligence) Ανάπτυξη μεθόδων και τεχνολογιών για την επίλυση προβλημάτων στα οποία ο άνθρωπος υπερέχει (?) του υπολογιστή Συλλογισμοί

Διαβάστε περισσότερα

ΜΑΘΗΜΑ 3ο ΜΕΡΟΣ Β ΔΙΑΒΙΒΑΣΗ ΣΤΗ ΝΕΥΡΟΜΥΪΚΗ ΣΥΝΑΨΗ

ΜΑΘΗΜΑ 3ο ΜΕΡΟΣ Β ΔΙΑΒΙΒΑΣΗ ΣΤΗ ΝΕΥΡΟΜΥΪΚΗ ΣΥΝΑΨΗ ΜΑΘΗΜΑ 3ο ΜΕΡΟΣ Β ΔΙΑΒΙΒΑΣΗ ΣΤΗ ΝΕΥΡΟΜΥΪΚΗ ΣΥΝΑΨΗ Η νευρομυϊκή σύναψη αποτελεί ιδιαίτερη μορφή σύναψης μεταξύ του κινητικού νευρώνα και της σκελετικής μυϊκής ίνας Είναι ορατή με το οπτικό μικροσκόπιο Στην

Διαβάστε περισσότερα

Μοντέλο Perceptron πολλών στρωμάτων Multi Layer Perceptron (MLP)

Μοντέλο Perceptron πολλών στρωμάτων Multi Layer Perceptron (MLP) Μοντέλο Perceptron πολλών στρωμάτων Multi Layer Perceptron (MLP) x -0,5 a x x 2 0 0 0 0 - -0,5 y y 0 0 x 2 -,5 a 2 θ η τιμή κατωφλίου Μία λύση του προβλήματος XOR Multi Layer Perceptron (MLP) x -0,5 Μία

Διαβάστε περισσότερα

ΚΕΦΑΛΑΙΟ ΕΝΑΤΟ ΦΥΣΙΟΛΟΓΙΑ ΤΟΥ ΝΕΥΡΙΚΟΥ ΚΑΙ ΜΥΙΚΟΥ ΣΥΣΤΗΜΑΤΟΣ

ΚΕΦΑΛΑΙΟ ΕΝΑΤΟ ΦΥΣΙΟΛΟΓΙΑ ΤΟΥ ΝΕΥΡΙΚΟΥ ΚΑΙ ΜΥΙΚΟΥ ΣΥΣΤΗΜΑΤΟΣ ΜΕΡΟΣ ΔΕΥΤΕΡΟ ΚΕΦΑΛΑΙΟ ΕΝΑΤΟ ΦΥΣΙΟΛΟΓΙΑ ΤΟΥ ΝΕΥΡΙΚΟΥ ΚΑΙ ΜΥΙΚΟΥ ΣΥΣΤΗΜΑΤΟΣ Σημειώσεις Ανατομίας - Φυσιολογίας Ι Σκοπός της λειτουργίας του νευρικού συστήματος Προσαρμόζει τις λειτουργίες του ανθρώπινου

Διαβάστε περισσότερα

Τεχνητή Νοημοσύνη. TMHMA ΠΛΗΡΟΦΟΡΙΚΗΣ & ΤΕΧΝΟΛΟΓΙΑΣ ΥΠΟΛΟΓΙΣΤΩΝ. Εξάμηνο 5ο Οικονόμου Παναγιώτης & Ελπινίκη Παπαγεωργίου. Νευρωνικά Δίκτυα.

Τεχνητή Νοημοσύνη. TMHMA ΠΛΗΡΟΦΟΡΙΚΗΣ & ΤΕΧΝΟΛΟΓΙΑΣ ΥΠΟΛΟΓΙΣΤΩΝ. Εξάμηνο 5ο Οικονόμου Παναγιώτης & Ελπινίκη Παπαγεωργίου. Νευρωνικά Δίκτυα. Τεχνητή Νοημοσύνη. TMHMA ΠΛΗΡΟΦΟΡΙΚΗΣ & ΤΕΧΝΟΛΟΓΙΑΣ ΥΠΟΛΟΓΙΣΤΩΝ Εξάμηνο 5ο Οικονόμου Παναγιώτης & Ελπινίκη Παπαγεωργίου. Νευρωνικά Δίκτυα. 1 ΤΕΧΝΗΤΑ ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑ Χαρακτηριστικά Είδη εκπαίδευσης Δίκτυα

Διαβάστε περισσότερα

ΠΑΝΕΠΙΣΤΗΜΙΟ ΜΑΚΕ ΟΝΙΑΣ ΟΙΚΟΝΟΜΙΚΩΝ ΚΑΙ ΚΟΙΝΩΝΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ΤΜΗΜΑ ΕΦΑΡΜΟΣΜΕΝΗΣ ΠΛΗΡΟΦΟΡΙΚΗΣ ΝΕΥΡΩΝΙΚΑ ΙΚΤΥΑ

ΠΑΝΕΠΙΣΤΗΜΙΟ ΜΑΚΕ ΟΝΙΑΣ ΟΙΚΟΝΟΜΙΚΩΝ ΚΑΙ ΚΟΙΝΩΝΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ΤΜΗΜΑ ΕΦΑΡΜΟΣΜΕΝΗΣ ΠΛΗΡΟΦΟΡΙΚΗΣ ΝΕΥΡΩΝΙΚΑ ΙΚΤΥΑ ΘΕΜΑ ο 2.5 µονάδες ΠΑΝΕΠΙΣΤΗΜΙΟ ΜΑΚΕ ΟΝΙΑΣ ΟΙΚΟΝΟΜΙΚΩΝ ΚΑΙ ΚΟΙΝΩΝΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ΤΜΗΜΑ ΕΑΡΜΟΣΜΕΝΗΣ ΠΛΗΡΟΟΡΙΚΗΣ ΝΕΥΡΩΝΙΚΑ ΙΚΤΥΑ Τελικές εξετάσεις 2 Οκτωβρίου 23 ιάρκεια: 2 ώρες Έστω το παρακάτω γραµµικώς

Διαβάστε περισσότερα

Δρ. Βασίλειος Γ. Καμπουρλάζος Δρ. Ανέστης Γ. Χατζημιχαηλίδης

Δρ. Βασίλειος Γ. Καμπουρλάζος Δρ. Ανέστης Γ. Χατζημιχαηλίδης Μάθημα 4 ο Δρ. Ανέστης Γ. Χατζημιχαηλίδης Τμήμα Μηχανικών Πληροφορικής Τ.Ε. ΤΕΙ Ανατολικής Μακεδονίας και Θράκης 2016-2017 Διευρυμένη Υπολογιστική Νοημοσύνη (ΥΝ) Επεκτάσεις της Κλασικής ΥΝ. Μεθοδολογίες

Διαβάστε περισσότερα

6. Στατιστικές μέθοδοι εκπαίδευσης

6. Στατιστικές μέθοδοι εκπαίδευσης 6. Στατιστικές μέθοδοι εκπαίδευσης Μία διαφορετική μέθοδος εκπαίδευσης των νευρωνικών δικτύων χρησιμοποιεί ιδέες από την Στατιστική Φυσική για να φέρει τελικά το ίδιο αποτέλεσμα όπως οι άλλες μέθοδοι,

Διαβάστε περισσότερα

ΧΑΡΟΚΟΠΕΙΟ ΠΑΝΕΠΙΣΤΗΜΙΟ ΑΘΗΝΩΝ ΤΜΗΜΑ ΠΛΗΡΟΦΟΡΙΚΗΣ & ΤΗΛΕΜΑΤΙΚΗΣ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑ. Καραγιώργου Σοφία

ΧΑΡΟΚΟΠΕΙΟ ΠΑΝΕΠΙΣΤΗΜΙΟ ΑΘΗΝΩΝ ΤΜΗΜΑ ΠΛΗΡΟΦΟΡΙΚΗΣ & ΤΗΛΕΜΑΤΙΚΗΣ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑ. Καραγιώργου Σοφία ΧΑΡΟΚΟΠΕΙΟ ΠΑΝΕΠΙΣΤΗΜΙΟ ΑΘΗΝΩΝ ΤΜΗΜΑ ΠΛΗΡΟΦΟΡΙΚΗΣ & ΤΗΛΕΜΑΤΙΚΗΣ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑ Καραγιώργου Σοφία Εισαγωγή Προσομοιώνει βιολογικές διεργασίες (π.χ. λειτουργία του εγκεφάλου, διαδικασία

Διαβάστε περισσότερα

Μεθοδολογική προσέγγιση της Βιοηλεκτρικής βάσης του νευρικού ενεργού δυναμικού

Μεθοδολογική προσέγγιση της Βιοηλεκτρικής βάσης του νευρικού ενεργού δυναμικού Μεθοδολογική προσέγγιση της Βιοηλεκτρικής βάσης του νευρικού ενεργού δυναμικού ΕΥΣΤΡΑΤΙΟΣ ΚΟΣΜΙΔΗΣ, Ph.D. ΑΡΙΣΤΟΤΕΛΕΙΟ ΠΑΝΕΠΙΣΤΗΜΙΟ ΘΕΣΣΑΛΟΝΙΚΗΣ Ο εγκέφαλος και οι νευρώνες Προσυναπτικά Μετασυναπτικά Ένας

Διαβάστε περισσότερα

94 Η χρήση των νευρωνικών µοντέλων για την κατανόηση της δοµής και λειτουργίας τού εγκεφάλου. = l b. K + + I b. K - = α n

94 Η χρήση των νευρωνικών µοντέλων για την κατανόηση της δοµής και λειτουργίας τού εγκεφάλου. = l b. K + + I b. K - = α n Nευροφυσιολογία Η μονάδα λειτουργίας του εγκεφάλου είναι ένας εξειδικευμένος τύπος κυττάρου που στη γλώσσα της Νευροφυσιολογίας ονομάζεται νευρώνας. Το ηλεκτρονικό μικροσκόπιο αποκαλύπτει ότι ο ειδικός

Διαβάστε περισσότερα

Βιοδυναμικά: Ασθενή ηλεκτρικά ρεύματα τα οποία παράγονται στους ιστούς των ζωντανών οργανισμών κατά τις βιολογικές λειτουργίες.

Βιοδυναμικά: Ασθενή ηλεκτρικά ρεύματα τα οποία παράγονται στους ιστούς των ζωντανών οργανισμών κατά τις βιολογικές λειτουργίες. Bιοηλεκτρισμός To νευρικό σύστημα Το νευρικό κύτταρο Ηλεκτρικά δυναμικά στον άξονα Δυναμικά δράσης Ο άξονας ως ηλεκτρικό καλώδιο Διάδοση των δυναμικών δράσης Δυναμικά δράσεις στους μύες Δυναμικά επιφανείας

Διαβάστε περισσότερα

ΠΑΝΕΠΙΣΤΗΜΙΟ ΜΑΚΕ ΟΝΙΑΣ ΟΙΚΟΝΟΜΙΚΩΝ ΚΑΙ ΚΟΙΝΩΝΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ΤΜΗΜΑ ΕΦΑΡΜΟΣΜΕΝΗΣ ΠΛΗΡΟΦΟΡΙΚΗΣ ΝΕΥΡΩΝΙΚΑ ΙΚΤΥΑ

ΠΑΝΕΠΙΣΤΗΜΙΟ ΜΑΚΕ ΟΝΙΑΣ ΟΙΚΟΝΟΜΙΚΩΝ ΚΑΙ ΚΟΙΝΩΝΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ΤΜΗΜΑ ΕΦΑΡΜΟΣΜΕΝΗΣ ΠΛΗΡΟΦΟΡΙΚΗΣ ΝΕΥΡΩΝΙΚΑ ΙΚΤΥΑ ΘΕΜΑ ο (2.5 µονάδες) ΠΑΝΕΠΙΣΤΗΜΙΟ ΜΑΚΕ ΟΝΙΑΣ ΟΙΚΟΝΟΜΙΚΩΝ ΚΑΙ ΚΟΙΝΩΝΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ΤΜΗΜΑ ΕΦΑΡΜΟΣΜΕΝΗΣ ΠΛΗΡΟΦΟΡΙΚΗΣ ΝΕΥΡΩΝΙΚΑ ΙΚΤΥΑ Τελικές εξετάσεις 26 Ιανουαρίου 2004 ιάρκεια: 2 ώρες (9:00-:00) Στην παρακάτω

Διαβάστε περισσότερα

Η βαθμίδα του ηλεκτρικού πεδίου της μεμβράνης τείνει να συγκρατήσει τα θετικά φορτισμένα ιόντα.

Η βαθμίδα του ηλεκτρικού πεδίου της μεμβράνης τείνει να συγκρατήσει τα θετικά φορτισμένα ιόντα. Τα ιόντα χλωρίου βρίσκονται σε πολύ μεγαλύτερη πυκνότητα στο εξωτερικό παρά στο εσωτερικό του κυττάρου, με αποτέλεσμα να εμφανίζεται παθητικό ρεύμα εισόδου τους στο κύτταρο. Τα αρνητικά φορτισμένα ιόντα

Διαβάστε περισσότερα

Εγκέφαλος-Αισθητήρια Όργανα και Ορμόνες. Μαγδαληνή Γκέιτς Α Τάξη Γυμνάσιο Αμυγδαλεώνα

Εγκέφαλος-Αισθητήρια Όργανα και Ορμόνες. Μαγδαληνή Γκέιτς Α Τάξη Γυμνάσιο Αμυγδαλεώνα Εγκέφαλος-Αισθητήρια Όργανα και Ορμόνες O εγκέφαλος Ο εγκέφαλος είναι το κέντρο ελέγχου του σώματος μας και ελέγχει όλες τις ακούσιες και εκούσιες δραστηριότητες που γίνονται μέσα σε αυτό. Αποτελεί το

Διαβάστε περισσότερα

Ασκήσεις μελέτης της 19 ης διάλεξης

Ασκήσεις μελέτης της 19 ης διάλεξης Οικονομικό Πανεπιστήμιο Αθηνών, Τμήμα Πληροφορικής Μάθημα: Τεχνητή Νοημοσύνη, 2016 17 Διδάσκων: Ι. Ανδρουτσόπουλος Ασκήσεις μελέτης της 19 ης διάλεξης 19.1. Δείξτε ότι το Perceptron με (α) συνάρτηση ενεργοποίησης

Διαβάστε περισσότερα

ΠΕΡΙΦΕΡΙΚΟ ΚΑΙ ΚΕΝΤΡΙΚΟ ΝΕΥΡΙΚΟ ΣΥΣΤΗΜΑ ΒΙΟΛΟΓΙΑ Α ΛΥΚΕΙΟΥ

ΠΕΡΙΦΕΡΙΚΟ ΚΑΙ ΚΕΝΤΡΙΚΟ ΝΕΥΡΙΚΟ ΣΥΣΤΗΜΑ ΒΙΟΛΟΓΙΑ Α ΛΥΚΕΙΟΥ Πρότυπο Πειραματικό Σχολείου Πανεπιστημίου Θεσσαλονίκης ΠΕΡΙΦΕΡΙΚΟ ΚΑΙ ΚΕΝΤΡΙΚΟ ΝΕΥΡΙΚΟ ΣΥΣΤΗΜΑ ΒΙΟΛΟΓΙΑ Α ΛΥΚΕΙΟΥ Φασφαλής Νικηφόρος Από τι αποτελείται ΚΝΣ από τον εγκέφαλο και τον νωτιαίο μυελό ΠΝΣ από

Διαβάστε περισσότερα

4.3. Γραµµικοί ταξινοµητές

4.3. Γραµµικοί ταξινοµητές Γραµµικοί ταξινοµητές Γραµµικός ταξινοµητής είναι ένα σύστηµα ταξινόµησης που χρησιµοποιεί γραµµικές διακριτικές συναρτήσεις Οι ταξινοµητές αυτοί αναπαρίστανται συχνά µε οµάδες κόµβων εντός των οποίων

Διαβάστε περισσότερα

Πληροφοριακά Συστήματα Διοίκησης

Πληροφοριακά Συστήματα Διοίκησης Πληροφοριακά Συστήματα Διοίκησης Τρεις αλγόριθμοι μηχανικής μάθησης ΠΜΣ Λογιστική Χρηματοοικονομική και Διοικητική Επιστήμη ΤΕΙ Ηπείρου @ 2018 Μηχανική μάθηση αναγνώριση προτύπων Η αναγνώριση προτύπων

Διαβάστε περισσότερα

ΕΡΓΑΣΤΗΡΙΟ ΙΣΤΟΛΟΓΙΑΣ Μ. ΠΑΥΛΙ ΗΣ

ΕΡΓΑΣΤΗΡΙΟ ΙΣΤΟΛΟΓΙΑΣ Μ. ΠΑΥΛΙ ΗΣ ΕΡΓΑΣΤΗΡΙΟ ΙΣΤΟΛΟΓΙΑΣ Μ. ΠΑΥΛΙ ΗΣ Hράκλειο, εκέμβριος 2011 ΤΥΠΟΙ ΙΣΤΩΝ 1. Eπιθηλιακός Πολυεδρικά κύτταρα που είναι πάρα πολύ στενά συνδεδεμένα και φέρουν ελάχιστη μεσοκυττάρια ουσία 2. Συνδετικός Κύτταρα

Διαβάστε περισσότερα

Εκπαίδευση ΤΝΔ με ελαχιστοποίηση του τετραγωνικού σφάλματος εκπαίδευσης. "Τεχνητά Νευρωνικά Δίκτυα" (Διαφάνειες), Α. Λύκας, Παν.

Εκπαίδευση ΤΝΔ με ελαχιστοποίηση του τετραγωνικού σφάλματος εκπαίδευσης. Τεχνητά Νευρωνικά Δίκτυα (Διαφάνειες), Α. Λύκας, Παν. Εκπαίδευση ΤΝΔ με ελαχιστοποίηση του τετραγωνικού σφάλματος εκπαίδευσης Ελαχιστοποίηση συνάρτησης σφάλματος Εκπαίδευση ΤΝΔ: μπορεί να διατυπωθεί ως πρόβλημα ελαχιστοποίησης μιας συνάρτησης σφάλματος E(w)

Διαβάστε περισσότερα

Ανδρέας Παπαζώης. Τμ. Διοίκησης Επιχειρήσεων

Ανδρέας Παπαζώης. Τμ. Διοίκησης Επιχειρήσεων Ανδρέας Παπαζώης Τμ. Διοίκησης Επιχειρήσεων Περιεχόμενα Εργ. Μαθήματος Βιολογικά Νευρωνικά Δίκτυα Η έννοια των Τεχνητών Νευρωνικών Δικτύων Η δομή ενός νευρώνα Διαδικασία εκπαίδευσης Παραδείγματα απλών

Διαβάστε περισσότερα

Συστήματα αισθήσεων. Αισθητικοί υποδοχείς Νευρικές αισθητικές οδοί Συνειρμικός φλοιός και διαδικασία αντίληψης Πρωτοταγής αισθητική κωδικοποίηση

Συστήματα αισθήσεων. Αισθητικοί υποδοχείς Νευρικές αισθητικές οδοί Συνειρμικός φλοιός και διαδικασία αντίληψης Πρωτοταγής αισθητική κωδικοποίηση Απ. Χατζηευθυμίου Αν. Καθηγήτρια Ιατρικής Φυσιολογίας Μάρτιος 2017 Συστήματα αισθήσεων Αισθητικοί υποδοχείς Νευρικές αισθητικές οδοί Συνειρμικός φλοιός και διαδικασία αντίληψης Πρωτοταγής αισθητική κωδικοποίηση

Διαβάστε περισσότερα

Πληροφοριακά Συστήματα & Περιβάλλον

Πληροφοριακά Συστήματα & Περιβάλλον ΑΡΙΣΤΟΤΕΛΕΙΟ ΠΑΝΕΠΙΣΤΗΜΙΟ ΘΕΣΣΑΛΟΝΙΚΗΣ ΑΝΟΙΧΤΑ ΑΚΑΔΗΜΑΙΚΑ ΜΑΘΗΜΑΤΑ Πληροφοριακά Συστήματα & Περιβάλλον Ενότητα 8: Τεχνητά Νευρωνικά Δίκτυα Παναγιώτης Λεφάκης Δασολογίας & Φυσικού Περιβάλλοντος Άδειες Χρήσης

Διαβάστε περισσότερα

ΠΑΝΕΠΙΣΤΗΜΙΟ ΜΑΚΕ ΟΝΙΑΣ ΟΙΚΟΝΟΜΙΚΩΝ ΚΑΙ ΚΟΙΝΩΝΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ΤΜΗΜΑ ΕΦΑΡΜΟΣΜΕΝΗΣ ΠΛΗΡΟΦΟΡΙΚΗΣ ΝΕΥΡΩΝΙΚΑ ΙΚΤΥΑ

ΠΑΝΕΠΙΣΤΗΜΙΟ ΜΑΚΕ ΟΝΙΑΣ ΟΙΚΟΝΟΜΙΚΩΝ ΚΑΙ ΚΟΙΝΩΝΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ΤΜΗΜΑ ΕΦΑΡΜΟΣΜΕΝΗΣ ΠΛΗΡΟΦΟΡΙΚΗΣ ΝΕΥΡΩΝΙΚΑ ΙΚΤΥΑ ΘΕΜΑ ο 2.5 µονάδες ΠΑΝΕΠΙΣΤΗΜΙΟ ΜΑΚΕ ΟΝΙΑΣ ΟΙΚΟΝΟΜΙΚΩΝ ΚΑΙ ΚΟΙΝΩΝΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ΤΜΗΜΑ ΕΦΑΡΜΟΣΜΕΝΗΣ ΠΛΗΡΟΦΟΡΙΚΗΣ ΝΕΥΡΩΝΙΚΑ ΙΚΤΥΑ Τελικές εξετάσεις 2 Σεπτεµβρίου 2005 5:00-8:00 Σχεδιάστε έναν αισθητήρα ercetro

Διαβάστε περισσότερα

Συστήματα αισθήσεων. Αισθητικοί υποδοχείς Νευρικές αισθητικές οδοί Συνειρμικός φλοιός και διαδικασία αντίληψης Πρωτοταγής αισθητική κωδικοποίηση

Συστήματα αισθήσεων. Αισθητικοί υποδοχείς Νευρικές αισθητικές οδοί Συνειρμικός φλοιός και διαδικασία αντίληψης Πρωτοταγής αισθητική κωδικοποίηση Απ. Χατζηευθυμίου Αν. Καθηγήτρια Ιατρικής Φυσιολογίας 2018 Συστήματα αισθήσεων Αισθητικοί υποδοχείς Νευρικές αισθητικές οδοί Συνειρμικός φλοιός και διαδικασία αντίληψης Πρωτοταγής αισθητική κωδικοποίηση

Διαβάστε περισσότερα

ΔΟΜΗ ΚΑΙ ΛΕΙΤΟΥΡΓΙΑ ΤΟΥ ΝΕΥΡΙΚΟΥ ΣΥΣΤΗΜΑΤΟΣ

ΔΟΜΗ ΚΑΙ ΛΕΙΤΟΥΡΓΙΑ ΤΟΥ ΝΕΥΡΙΚΟΥ ΣΥΣΤΗΜΑΤΟΣ Page1 ΔΟΜΗ ΚΑΙ ΛΕΙΤΟΥΡΓΙΑ ΤΟΥ ΝΕΥΡΙΚΟΥ ΣΥΣΤΗΜΑΤΟΣ Μαθητές: Ρουμπάνης Γιάννης και Οικονομίδης Αριστείδης Τάξη: Γ γυμνασίου Κερατέας Τμήμα: Γ 4 Οκτώβριος 2013 Page2 ΝΕΥΡΙΚΟ ΣΥΣΤΗΜΑ Το νευρικό σύστημα μαζί

Διαβάστε περισσότερα

ΚΕΦΑΛΑΙΟ 7 ΕΠΕΞΕΡΓΑΣΙΑ ΚΑΙ ΜΕΤΑΔΟΣΗ ΨΗΦΙΑΚΩΝ ΔΕΔΟΜΕΝΩΝ

ΚΕΦΑΛΑΙΟ 7 ΕΠΕΞΕΡΓΑΣΙΑ ΚΑΙ ΜΕΤΑΔΟΣΗ ΨΗΦΙΑΚΩΝ ΔΕΔΟΜΕΝΩΝ ΚΕΦΑΛΑΙΟ 7 ΕΠΕΞΕΡΓΑΣΙΑ ΚΑΙ ΜΕΤΑΔΟΣΗ ΨΗΦΙΑΚΩΝ ΔΕΔΟΜΕΝΩΝ 1 ΕΙΣΑΓΩΓΗ Ο πραγματικός κόσμος είναι ένας αναλογικός κόσμος. Όλα τα μεγέθη παίρνουν τιμές με άπειρη ακρίβεια. Π.χ. το ηλεκτρικό σήμα τάσης όπου κάθε

Διαβάστε περισσότερα

ΔΙΑΧΕΙΡΙΣΗ ΥΔΑΤΙΚΩΝ ΠΟΡΩΝ

ΔΙΑΧΕΙΡΙΣΗ ΥΔΑΤΙΚΩΝ ΠΟΡΩΝ ΑΡΙΣΤΟΤΕΛΕΙΟ ΠΑΝΕΠΙΣΤΗΜΙΟ ΘΕΣΣΑΛΟΝΙΚΗΣ ΑΝΟΙΧΤΑ ΑΚΑΔΗΜΑΙΚΑ ΜΑΘΗΜΑΤΑ ΔΙΑΧΕΙΡΙΣΗ ΥΔΑΤΙΚΩΝ ΠΟΡΩΝ Συνδυασμένη χρήση μοντέλων προσομοίωσης βελτιστοποίησης. Η μέθοδος του μητρώου μοναδιαίας απόκρισης Νικόλαος

Διαβάστε περισσότερα

ΕΙΣΑΓΩΓΗ ΣΤΗΝ ΠΛΗΡΟΦΟΡΙΚΗ

ΕΙΣΑΓΩΓΗ ΣΤΗΝ ΠΛΗΡΟΦΟΡΙΚΗ ΕΙΣΑΓΩΓΗ ΣΤΗΝ ΠΛΗΡΟΦΟΡΙΚΗ Κ. Δεμέστιχας Εργαστήριο Πληροφορικής Γεωπονικό Πανεπιστήμιο Αθηνών Επικοινωνία μέσω e-mail: cdemest@aua.gr, cdemest@cn.ntua.gr Διαφάνειες: Καθ. Νικόλαος Λορέντζος 1 12. ΤΕΧΝΗΤΗ

Διαβάστε περισσότερα

ΓΕΝΙΚΗ ΦΥΣΙΟΛΟΓΙΑ. Γιώργος Ανωγειανάκις Εργαστήριο Πειραματικής Φυσιολογίας 2310-999054 (προσωπικό) 2310-999185 (γραμματεία) anogian@auth.

ΓΕΝΙΚΗ ΦΥΣΙΟΛΟΓΙΑ. Γιώργος Ανωγειανάκις Εργαστήριο Πειραματικής Φυσιολογίας 2310-999054 (προσωπικό) 2310-999185 (γραμματεία) anogian@auth. ΓΕΝΙΚΗ ΦΥΣΙΟΛΟΓΙΑ Γιώργος Ανωγειανάκις Εργαστήριο Πειραματικής Φυσιολογίας 2310-999054 (προσωπικό) 2310-999185 (γραμματεία) anogian@auth.gr Σύνοψη των όσων εξετάσαμε για τους ιοντικούς διαύλους: 1. Διαπερνούν

Διαβάστε περισσότερα

Υπολογιστική Νοημοσύνη. Μάθημα 10: Ομαδοποίηση με Ανταγωνιστική Μάθηση - Δίκτυα Kohonen

Υπολογιστική Νοημοσύνη. Μάθημα 10: Ομαδοποίηση με Ανταγωνιστική Μάθηση - Δίκτυα Kohonen Υπολογιστική Νοημοσύνη Μάθημα 10: Ομαδοποίηση με Ανταγωνιστική Μάθηση - Δίκτυα Kohonen Ανταγωνιστικοί Νευρώνες Ένα στρώμα με ανταγωνιστικούς νευρώνες λειτουργεί ως εξής: Όλοι οι νευρώνες δέχονται το σήμα

Διαβάστε περισσότερα

Υπολογιστική Νοημοσύνη. Μάθημα 13: Αναδρομικά Δίκτυα - Recurrent Networks

Υπολογιστική Νοημοσύνη. Μάθημα 13: Αναδρομικά Δίκτυα - Recurrent Networks Υπολογιστική Νοημοσύνη Μάθημα 13: Αναδρομικά Δίκτυα - Recurrent Networks Γενικά Ένα νευρωνικό δίκτυο λέγεται αναδρομικό, εάν υπάρχει έστω και μια σύνδεση από έναν νευρώνα επιπέδου i προς έναν νευρώνα επιπέδου

Διαβάστε περισσότερα

Αναγνώριση Προτύπων Ι

Αναγνώριση Προτύπων Ι Αναγνώριση Προτύπων Ι Ενότητα 4: Νευρωνικά Δίκτυα στην Ταξιμόμηση Προτύπων Αν. Καθηγητής Δερματάς Ευάγγελος Τμήμα Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών Άδειες Χρήσης Το παρόν εκπαιδευτικό

Διαβάστε περισσότερα

Γνωστική-Πειραµατική Ψυχολογία

Γνωστική-Πειραµατική Ψυχολογία Γνωστική-Πειραµατική Ψυχολογία ΕΑΡΙΝΟ ΕΞΑΜΗΝΟ 2018 Μηχανισµοί της ΣΔ à Βάση διεργασιών όπως η αντίληψη, µάθηση, εκούσια κίνηση. 10.000 à Μέσος νευρώνας à 1000 (1011 1014). 2 θεµελιώδεις µηχανισµοί ΣΔς:

Διαβάστε περισσότερα

ΒΙΟΛΟΓΙΑ Α ΛΥΚΕΙΟΥ ΕΠΑΝΑΛΗΨΗ

ΒΙΟΛΟΓΙΑ Α ΛΥΚΕΙΟΥ ΕΠΑΝΑΛΗΨΗ ΒΙΟΛΟΓΙΑ Α ΛΥΚΕΙΟΥ ΕΠΑΝΑΛΗΨΗ ΘΕΜΑ 1ο 1. Κυτταρική διαφοροποίηση ονομάζουμε: α. Την δομική κυρίως εξειδίκευση των συστημάτων β. Την δομική και λειτουργική εξειδίκευση των κυττάρων γ. Την λειτουργική εξειδίκευση

Διαβάστε περισσότερα

3. Να συμπληρώσετε κατάλληλα τα μέρη από τα οποία αποτελείται ένας νευρώνας.

3. Να συμπληρώσετε κατάλληλα τα μέρη από τα οποία αποτελείται ένας νευρώνας. ΦΥΛΛΟ ΕΡΓΑΣΙΑΣ ΣΤΟ 9 ο ΚΕΦΑΛΑΙΟ «ΝΕΥΡΙΚΟ ΣΥΣΤΗΜΑ» ΜΕΡΟΣ Α: ΔΟΜΗ ΚΑΙ ΛΕΙΤΟΥΡΓΙΑ ΤΩΝ ΝΕΥΡΙΚΩΝ ΚΥΤΤΑΡΩΝ Α. ΔΡΑΣΤΗΡΙΟΤΗΤΕΣ ΜΕΣΑ ΣΤΗΝ ΤΑΞΗ 1. Να συμπληρώσετε το παρακάτω διάγραμμα. 2. Ποιος είναι ο ρόλος του

Διαβάστε περισσότερα

Πληροφορική 2. Τεχνητή νοημοσύνη

Πληροφορική 2. Τεχνητή νοημοσύνη Πληροφορική 2 Τεχνητή νοημοσύνη 1 2 Τι είναι τεχνητή νοημοσύνη; Τεχνητή νοημοσύνη (AI=Artificial Intelligence) είναι η μελέτη προγραμματισμένων συστημάτων τα οποία μπορούν να προσομοιώνουν μέχρι κάποιο

Διαβάστε περισσότερα

Μάθηση σε νέα τεχνολογικά περιβάλλοντα

Μάθηση σε νέα τεχνολογικά περιβάλλοντα ΑΡΙΣΤΟΤΕΛΕΙΟ ΠΑΝΕΠΙΣΤΗΜΙΟ ΘΕΣΣΑΛΟΝΙΚΗΣ ΑΝΟΙΚΤΑ ΑΚΑΔΗΜΑΪΚΑ ΜΑΘΗΜΑΤΑ Μάθηση σε νέα τεχνολογικά περιβάλλοντα Ενότητα 10: Θεωρία Συνδεσιασμού Βασιλική Μητροπούλου-Μούρκα Άδειες Χρήσης Το παρόν εκπαιδευτικό

Διαβάστε περισσότερα

ΚΛΙΝΙΚΗ ΠΕΡΙΠΤΩΣΗ Περιοδική υπερκαλιαιμική παράλυση

ΚΛΙΝΙΚΗ ΠΕΡΙΠΤΩΣΗ Περιοδική υπερκαλιαιμική παράλυση ΚΛΙΝΙΚΗ ΠΕΡΙΠΤΩΣΗ Περιοδική υπερκαλιαιμική παράλυση ΠΕΡΙΓΡΑΦΗ ΤΗΣ ΠΕΡΙΠΤΩΣΗΣ Αγόρι 6 ετών μεταφέρεται στον οικογενειακό ιατρό από τους γονείς του λόγω εμφάνισης δυσκολίας στην κίνηση των άκρων (άνω και

Διαβάστε περισσότερα

Μέθοδοι πολυδιάστατης ελαχιστοποίησης

Μέθοδοι πολυδιάστατης ελαχιστοποίησης Μέθοδοι πολυδιάστατης ελαχιστοποίησης με παραγώγους Μέθοδοι πολυδιάστατης ελαχιστοποίησης Δ. Γ. Παπαγεωργίου Τμήμα Μηχανικών Επιστήμης Υλικών Πανεπιστήμιο Ιωαννίνων dpapageo@cc.uoi.gr http://pc64.materials.uoi.gr/dpapageo

Διαβάστε περισσότερα

ΔΙΚΤΥO RBF. "Τεχνητά Νευρωνικά Δίκτυα" (Διαφάνειες), Α. Λύκας, Παν. Ιωαννίνων

ΔΙΚΤΥO RBF. Τεχνητά Νευρωνικά Δίκτυα (Διαφάνειες), Α. Λύκας, Παν. Ιωαννίνων ΔΙΚΤΥO RBF Αρχιτεκτονική δικτύου RBF Δίκτυα RBF: δίκτυα συναρτήσεων πυρήνα (radial basis function networks). Πρόσθιας τροφοδότησης (feedforward) για προβλήματα μάθησης με επίβλεψη. Εναλλακτικό του MLP.

Διαβάστε περισσότερα

Φύλλο Εργασίας 1. Δραστηριότητα 1. Χρόνος αντίδρασης Αφου παρακολουθείστε το video Εικόνα 1.

Φύλλο Εργασίας 1. Δραστηριότητα 1. Χρόνος αντίδρασης Αφου παρακολουθείστε το video Εικόνα 1. Φύλλο Εργασίας Φύλλο Εργασίας 1. Δραστηριότητα 1. Χρόνος αντίδρασης Αφου παρακολουθείστε το video Εικόνα 1. Επαναλάβετε την διαδικασία που είδατε με τον διπλανό σας στην ομάδα σας και προσπαθείστε να πιάσετε

Διαβάστε περισσότερα

Σύναψη µεταξύ της απόληξης του νευράξονα ενός νευρώνα και του δενδρίτη ενός άλλου νευρώνα.

Σύναψη µεταξύ της απόληξης του νευράξονα ενός νευρώνα και του δενδρίτη ενός άλλου νευρώνα. ΟΙ ΝΕΥΡΩΝΕΣ ΕΠΙΚΟΙΝΩΝΟΥΝ ΜΕΣΩ ΤΗΣ ΣΥΝΑΨΗΣ Άντα Μητσάκου Αναπληρώτρια Καθηγήτρια, Ιατρική Σχολή, Πανεπιστήµιο Πατρών Γνωρίζουµε ότι είµαστε ικανοί να εκτελούµε σύνθετες νοητικές διεργασίες εξαιτίας της

Διαβάστε περισσότερα

Αναγνώριση Προτύπων Ι

Αναγνώριση Προτύπων Ι Αναγνώριση Προτύπων Ι Ενότητα 2: Δομικά Συστήματα Αν. Καθηγητής Δερματάς Ευάγγελος Τμήμα Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών Άδειες Χρήσης Το παρόν εκπαιδευτικό υλικό υπόκειται σε άδειες

Διαβάστε περισσότερα

ΦΑΙΝΟΜΕΝΑ ΜΕΤΑΦΟΡΑΣ ΙΙ ΜΕΤΑΦΟΡΑ ΘΕΡΜΟΤΗΤΑΣ ΚΑΙ ΜΑΖΑΣ

ΦΑΙΝΟΜΕΝΑ ΜΕΤΑΦΟΡΑΣ ΙΙ ΜΕΤΑΦΟΡΑ ΘΕΡΜΟΤΗΤΑΣ ΚΑΙ ΜΑΖΑΣ ΦΑΙΝΟΜΕΝΑ ΜΕΤΑΦΟΡΑΣ ΙΙ ΜΕΤΑΦΟΡΑ ΘΕΡΜΟΤΗΤΑΣ ΚΑΙ ΜΑΖΑΣ Διδάσκων: Παπασιώπη Νυμφοδώρα Αναπληρώτρια Καθηγήτρια Ε.Μ.Π. Ενότητα 5 η : Διδιάστατη και τριδιάστατη αγωγή θερμότητας Άδεια Χρήσης Το παρόν εκπαιδευτικό

Διαβάστε περισσότερα

ΥΠΟΔΟΧΕΙΣ ΣΩΜΑΤΙΚΕΣ ΑΙΣΘΗΣΕΙΣ

ΥΠΟΔΟΧΕΙΣ ΣΩΜΑΤΙΚΕΣ ΑΙΣΘΗΣΕΙΣ ΥΠΟΔΟΧΕΙΣ ΣΩΜΑΤΙΚΕΣ ΑΙΣΘΗΣΕΙΣ ΑΙΣΘΗΤΙΚΟΙ ΥΠΟΔΟΧΕΙΣ (συγκεντρωμένοι ή διάσπαρτοι) ΝΕΥΡΙΚΕΣ ΟΔΟΙ ΕΓΚΕΦΑΛΙΚΟΣ ΦΛΟΙΟΣ Ειδικά κύτταρα - υποδοχείς, ευαίσθητα στις αλλαγές αυτές, είναι τα κύρια μέσα συλλογής

Διαβάστε περισσότερα

Σέργιος Θεοδωρίδης Κωνσταντίνος Κουτρούμπας. Version 2

Σέργιος Θεοδωρίδης Κωνσταντίνος Κουτρούμπας. Version 2 Σέργιος Θεοδωρίδης Κωνσταντίνος Κουτρούμπας Version 2 1 Άλλοι τύποι νευρωνικών δικτύων Αυτοοργανούμενοι χάρτες (Self-organizing maps - SOMs) Αναδρομικά νευρωνικά δίκτυα (Recurrent Neural Networks): γενικής

Διαβάστε περισσότερα

ΠΑΝΕΠΙΣΤΗΜΙΟ ΜΑΚΕΔΟΝΙΑΣ ΟΙΚΟΝΟΜΙΚΩΝ ΚΑΙ ΚΟΙΝΩΝΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ΤΜΗΜΑ ΕΦΑΡΜΟΣΜΕΝΗΣ ΠΛΗΡΟΦΟΡΙΚΗΣ ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑ

ΠΑΝΕΠΙΣΤΗΜΙΟ ΜΑΚΕΔΟΝΙΑΣ ΟΙΚΟΝΟΜΙΚΩΝ ΚΑΙ ΚΟΙΝΩΝΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ΤΜΗΜΑ ΕΦΑΡΜΟΣΜΕΝΗΣ ΠΛΗΡΟΦΟΡΙΚΗΣ ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑ ΘΕΜΑ 1 ο (2,5 μονάδες) ΠΑΝΕΠΙΣΤΗΜΙΟ ΜΑΚΕΔΟΝΙΑΣ ΟΙΚΟΝΟΜΙΚΩΝ ΚΑΙ ΚΟΙΝΩΝΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ΤΜΗΜΑ ΕΦΑΡΜΟΣΜΕΝΗΣ ΠΛΗΡΟΦΟΡΙΚΗΣ ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑ Τελικές εξετάσεις Πέμπτη 21 Ιουνίου 2012 16:30-19:30 Υποθέστε ότι θέλουμε

Διαβάστε περισσότερα

Κεφάλαιο 4: Επιλογή σημείου παραγωγής

Κεφάλαιο 4: Επιλογή σημείου παραγωγής Κ4.1 Μέθοδος ανάλυσης νεκρού σημείου για την επιλογή διαδικασίας παραγωγής ή σημείου παραγωγής Επιλογή διαδικασίας παραγωγής Η μέθοδος ανάλυσης νεκρού για την επιλογή διαδικασίας παραγωγής αναγνωρίζει

Διαβάστε περισσότερα

Νευροφυσιολογία και Αισθήσεις

Νευροφυσιολογία και Αισθήσεις Biomedical Imaging & Applied Optics University of Cyprus Νευροφυσιολογία και Αισθήσεις Διάλεξη 5 Μοντέλο Hodgkin-Huxley (Hodgkin-Huxley Model) Απόκριση στην Έγχυση Ρεύματος 2 Hodgin και Huxley Οι Sir Alan

Διαβάστε περισσότερα

Κεφάλαιο 4: Επιλογή σημείου παραγωγής

Κεφάλαιο 4: Επιλογή σημείου παραγωγής Κεφάλαιο 4: Επιλογή σημείου παραγωγής Κ4.1 Μέθοδος ανάλυσης νεκρού σημείου για την επιλογή διαδικασίας παραγωγής ή σημείου παραγωγής Επιλογή διαδικασίας παραγωγής Η μέθοδος ανάλυσης νεκρού για την επιλογή

Διαβάστε περισσότερα

Μέθοδοι Μηχανών Μάθησης για Ευφυή Αναγνώριση και ιάγνωση Ιατρικών εδοµένων

Μέθοδοι Μηχανών Μάθησης για Ευφυή Αναγνώριση και ιάγνωση Ιατρικών εδοµένων Μέθοδοι Μηχανών Μάθησης για Ευφυή Αναγνώριση και ιάγνωση Ιατρικών εδοµένων Εισηγητής: ρ Ηλίας Ζαφειρόπουλος Εισαγωγή Ιατρικά δεδοµένα: Συλλογή Οργάνωση Αξιοποίηση Data Mining ιαχείριση εδοµένων Εκπαίδευση

Διαβάστε περισσότερα

4. ΚΕΦΑΛΑΙΟ ΕΦΑΡΜΟΓΕΣ ΤΟΥ ΜΕΤΑΣΧΗΜΑΤΙΣΜΟΥ FOURIER

4. ΚΕΦΑΛΑΙΟ ΕΦΑΡΜΟΓΕΣ ΤΟΥ ΜΕΤΑΣΧΗΜΑΤΙΣΜΟΥ FOURIER 4. ΚΕΦΑΛΑΙΟ ΕΦΑΡΜΟΓΕΣ ΤΟΥ ΜΕΤΑΣΧΗΜΑΤΙΣΜΟΥ FOURIER Σκοπός του κεφαλαίου είναι να παρουσιάσει μερικές εφαρμογές του Μετασχηματισμού Fourier (ΜF). Ειδικότερα στο κεφάλαιο αυτό θα περιγραφούν έμμεσοι τρόποι

Διαβάστε περισσότερα

Συνήθεις διαφορικές εξισώσεις προβλήματα οριακών τιμών

Συνήθεις διαφορικές εξισώσεις προβλήματα οριακών τιμών Συνήθεις διαφορικές εξισώσεις προβλήματα οριακών τιμών Οι παρούσες σημειώσεις αποτελούν βοήθημα στο μάθημα Αριθμητικές Μέθοδοι του 5 ου εξαμήνου του ΤΜΜ ημήτρης Βαλουγεώργης Καθηγητής Εργαστήριο Φυσικών

Διαβάστε περισσότερα

Μέθοδοι Μηχανικής Μάθησης στην επεξεργασία Τηλεπισκοπικών Δεδομένων. Δρ. Ε. Χάρου

Μέθοδοι Μηχανικής Μάθησης στην επεξεργασία Τηλεπισκοπικών Δεδομένων. Δρ. Ε. Χάρου Μέθοδοι Μηχανικής Μάθησης στην επεξεργασία Τηλεπισκοπικών Δεδομένων Δρ. Ε. Χάρου Πρόγραμμα υπολογιστικής ευφυίας Ινστιτούτο Πληροφορικής & Τηλεπικοινωνιών ΕΚΕΦΕ ΔΗΜΟΚΡΙΤΟΣ exarou@iit.demokritos.gr Μηχανική

Διαβάστε περισσότερα

Σέργιος Θεοδωρίδης Κωνσταντίνος Κουτρούμπας. Version 2

Σέργιος Θεοδωρίδης Κωνσταντίνος Κουτρούμπας. Version 2 Σέργιος Θεοδωρίδης Κωνσταντίνος Κουτρούμπας Verson ΜΗ ΓΡΑΜΜΙΚΟΙ ΤΑΞΙΝΟΜΗΤΕΣ ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑ Η παραπάνω ανάλυση ήταν χρήσιμη προκειμένου να κατανοήσουμε τη λογική των δικτύων perceptrons πολλών επιπέδων

Διαβάστε περισσότερα

Κεφάλαιο 7 - Ένζυμα, οι μηχανισμοί της ζωής

Κεφάλαιο 7 - Ένζυμα, οι μηχανισμοί της ζωής 1 Απόσπασμα από το βιβλίο «Πως να ζήσετε 150 χρόνια» του Dr. Δημήτρη Τσουκαλά Κεφάλαιο 7 - Ένζυμα, οι μηχανισμοί της ζωής Μικροσκοπικοί οργανισμοί που ρυθμίζουν τη λειτουργία του ανθρώπινου σώματος σε

Διαβάστε περισσότερα

ΕΡΑΣΜΕΙΟΣ ΕΛΛΗΝΟΓΕΡΜΑΝΙΚΗ ΣΧΟΛΗ

ΕΡΑΣΜΕΙΟΣ ΕΛΛΗΝΟΓΕΡΜΑΝΙΚΗ ΣΧΟΛΗ ΕΡΑΣΜΕΙΟΣ ΕΛΛΗΝΟΓΕΡΜΑΝΙΚΗ ΣΧΟΛΗ Ιδιωτικό Γενικό Λύκειο Όνομα: Ημερομηνία:./04/2014 ΤΑΞΗ : A Λυκείου ΕΡΩΤΗΣΕΙΣ ΓΙΑ ΤΟ 1 ο ΘΕΜΑ ΕΠΑΝΑΛΗΠΤΙΚΕΣ ΕΡΩΤΗΣΕΙΣ ΚΕΦΑΛΑΙΟ 11: Ενδοκρινείς αδένες ΒΙΟΛΟΓΙΑ Α ΛΥΚΕΙΟΥ

Διαβάστε περισσότερα

2. Μεμβρανικά δυναμικά του νευρικού κυττάρου

2. Μεμβρανικά δυναμικά του νευρικού κυττάρου 2. Μεμβρανικά δυναμικά του νευρικού κυττάρου Στόχοι κατανόησης: Διαφορά δυναμικού της κυτταρικής μεμβράνης ενός νευρικού κυττάρου: Τί είναι; Πώς δημιουργείται; Ποιά είδη διαφοράς δυναμικού της μεμβράνης

Διαβάστε περισσότερα

Θέµατα διάλεξης ΝΕΥΡΙΚΟ ΣΥΣΤΗΜΑ ΚΑΙ ΜΥΪΚΗ ΣΥΣΤΟΛΗ. Τρόποι µετάδοσης των νευρικών σηµάτων. υναµικό Ηρεµίας. Νευρώνας

Θέµατα διάλεξης ΝΕΥΡΙΚΟ ΣΥΣΤΗΜΑ ΚΑΙ ΜΥΪΚΗ ΣΥΣΤΟΛΗ. Τρόποι µετάδοσης των νευρικών σηµάτων. υναµικό Ηρεµίας. Νευρώνας Θέµατα διάλεξης MANAGING AUTHORITY OF THE OPERATIONAL PROGRAMME EDUCATION AND INITIAL VOCATIONAL TRAINING ΝΕΥΡΙΚΟ ΣΥΣΤΗΜΑ ΚΑΙ ΜΥΪΚΗ ΣΥΣΤΟΛΗ Τρόποι µετάδοσης νευρικών σηµάτων Ρόλος και λειτουργία των νευροδιαβιβαστών

Διαβάστε περισσότερα

Χρήστος Ι. Σχοινάς Αν. Καθηγητής ΔΠΘ. Συμπληρωματικές σημειώσεις για το μάθημα: «Επιχειρησιακή Έρευνα ΙΙ»

Χρήστος Ι. Σχοινάς Αν. Καθηγητής ΔΠΘ. Συμπληρωματικές σημειώσεις για το μάθημα: «Επιχειρησιακή Έρευνα ΙΙ» Χρήστος Ι. Σχοινάς Αν. Καθηγητής ΔΠΘ Συμπληρωματικές σημειώσεις για το μάθημα: «Επιχειρησιακή Έρευνα ΙΙ» 2 ΔΥΝΑΜΙΚΟΣ ΠΡΟΓΡΑΜΜΑΤΙΣΜΟΣ Προβλήματα ελάχιστης συνεκτικότητας δικτύου Το πρόβλημα της ελάχιστης

Διαβάστε περισσότερα

Πιο συγκεκριμένα, η χρήση του MATLAB προσφέρει τα ακόλουθα πλεονεκτήματα.

Πιο συγκεκριμένα, η χρήση του MATLAB προσφέρει τα ακόλουθα πλεονεκτήματα. i Π Ρ Ο Λ Ο Γ Ο Σ Το βιβλίο αυτό αποτελεί μια εισαγωγή στα βασικά προβλήματα των αριθμητικών μεθόδων της υπολογιστικής γραμμικής άλγεβρας (computational linear algebra) και της αριθμητικής ανάλυσης (numerical

Διαβάστε περισσότερα

Theory Greek (Greece) Μη Γραμμική Δυναμική σε Ηλεκτρικά Κυκλώματα (10 Μονάδες)

Theory Greek (Greece) Μη Γραμμική Δυναμική σε Ηλεκτρικά Κυκλώματα (10 Μονάδες) Q2-1 Μη Γραμμική Δυναμική σε Ηλεκτρικά Κυκλώματα (10 Μονάδες) Παρακαλείστε να διαβάσετε τις Γενικές Οδηγίες στον ξεχωριστό φάκελο πριν ξεκινήσετε το πρόβλημα αυτό. Εισαγωγή Τα δισταθή μη γραμμικά ημιαγώγιμα

Διαβάστε περισσότερα

Theory Greek (Greece) Μη Γραμμική Δυναμική σε Ηλεκτρικά Κυκλώματα (10 Μονάδες)

Theory Greek (Greece) Μη Γραμμική Δυναμική σε Ηλεκτρικά Κυκλώματα (10 Μονάδες) Q2-1 Μη Γραμμική Δυναμική σε Ηλεκτρικά Κυκλώματα (10 Μονάδες) Παρακαλείστε να διαβάσετε τις Γενικές Οδηγίες στον ξεχωριστό φάκελο πριν ξεκινήσετε το πρόβλημα αυτό. Εισαγωγή Τα δισταθή μη γραμμικά ημιαγώγιμα

Διαβάστε περισσότερα

Οι Εξελικτικοί Αλγόριθμοι (ΕΑ) είναι καθολικοί στοχαστικοί αλγόριθμοι βελτιστοποίησης, εμπνευσμένοι από τις βασικές αρχές της φυσικής εξέλιξης.

Οι Εξελικτικοί Αλγόριθμοι (ΕΑ) είναι καθολικοί στοχαστικοί αλγόριθμοι βελτιστοποίησης, εμπνευσμένοι από τις βασικές αρχές της φυσικής εξέλιξης. Οι Εξελικτικοί Αλγόριθμοι (ΕΑ) είναι καθολικοί στοχαστικοί αλγόριθμοι βελτιστοποίησης, εμπνευσμένοι από τις βασικές αρχές της φυσικής εξέλιξης. Ένα από τα γνωστότερα παραδείγματα των ΕΑ είναι ο Γενετικός

Διαβάστε περισσότερα

Μάθημα 1: Εισαγωγή στην. Υπολογιστική Νοημοσύνη

Μάθημα 1: Εισαγωγή στην. Υπολογιστική Νοημοσύνη Υπολογιστική Νοημοσύνη Μάθημα 1: Εισαγωγή στην Υπολογιστική Νοημοσύνη Εισαγωγή Ένας δυναμικά αναπτυσσόμενος κλάδος της Πληροφορικής είναι η Υπολογιστική Νοημοσύνη. Η Υπολογιστική Νοημοσύνη αποτελεί ένα

Διαβάστε περισσότερα

Υπολογιστική Νοημοσύνη. Μάθημα 4: Μάθηση στον απλό τεχνητό νευρώνα (2)

Υπολογιστική Νοημοσύνη. Μάθημα 4: Μάθηση στον απλό τεχνητό νευρώνα (2) Υπολογιστική Νοημοσύνη Μάθημα 4: Μάθηση στον απλό τεχνητό νευρώνα (2) Ο κανόνας Δέλτα για συνεχείς συναρτήσεις ενεργοποίησης (1/2) Για συνεχείς συναρτήσεις ενεργοποίησης, θα θέλαμε να αλλάξουμε περισσότερο

Διαβάστε περισσότερα

Αριθμητική Ανάλυση & Εφαρμογές

Αριθμητική Ανάλυση & Εφαρμογές Αριθμητική Ανάλυση & Εφαρμογές Διδάσκων: Δημήτριος Ι. Φωτιάδης Τμήμα Μηχανικών Επιστήμης Υλικών Ιωάννινα 2017-2018 Υπολογισμοί και Σφάλματα Παράσταση Πραγματικών Αριθμών Συστήματα Αριθμών Παράσταση Ακέραιου

Διαβάστε περισσότερα

ΟΠΤΙΚΟΚΙΝΗΤΙΚO ΣYΣΤΗΜΑ. Αθανασιάδης Στάθης φυσικοθεραπευτής NDT

ΟΠΤΙΚΟΚΙΝΗΤΙΚO ΣYΣΤΗΜΑ. Αθανασιάδης Στάθης φυσικοθεραπευτής NDT ΟΠΤΙΚΟΚΙΝΗΤΙΚO ΣYΣΤΗΜΑ Αθανασιάδης Στάθης φυσικοθεραπευτής NDT ΠΡΟΣΔΙΟΡΙΣΜOΣ ΤΗΣ ΟΡΑΣΗΣ «κοιτάζουμε με τα μάτια αλλά βλέπουμε με τον εγκέφαλο» 90% των πληροφοριών που φθάνουν στον εγκέφαλο περνούν μέσα

Διαβάστε περισσότερα

Αναγνώριση Προτύπων Ι

Αναγνώριση Προτύπων Ι Αναγνώριση Προτύπων Ι Ενότητα 3: Στοχαστικά Συστήματα Αν. Καθηγητής Δερματάς Ευάγγελος Τμήμα Ηλεκτρολόγων Μηχανικών και Τεχνολογίας Υπολογιστών Άδειες Χρήσης Το παρόν εκπαιδευτικό υλικό υπόκειται σε άδειες

Διαβάστε περισσότερα

Μάθηση και Γενίκευση. "Τεχνητά Νευρωνικά Δίκτυα" (Διαφάνειες), Α. Λύκας, Παν. Ιωαννίνων

Μάθηση και Γενίκευση. Τεχνητά Νευρωνικά Δίκτυα (Διαφάνειες), Α. Λύκας, Παν. Ιωαννίνων Μάθηση και Γενίκευση Το Πολυεπίπεδο Perceptron (MultiLayer Perceptron (MLP)) Έστω σύνολο εκπαίδευσης D={(x n,t n )}, n=1,,n. x n =(x n1,, x nd ) T, t n =(t n1,, t np ) T Θα πρέπει το MLP να έχει d νευρώνες

Διαβάστε περισσότερα

ΝΕΥΡΙΚΟ ΣΥΣΤΗΜΑ. Δομή και λειτουργία των νευρικών κυττάρων. Ηλιάνα Καρβουντζή Βιολόγος

ΝΕΥΡΙΚΟ ΣΥΣΤΗΜΑ. Δομή και λειτουργία των νευρικών κυττάρων. Ηλιάνα Καρβουντζή Βιολόγος ΝΕΥΡΙΚΟ ΣΥΣΤΗΜΑ Δομή και λειτουργία των νευρικών κυττάρων Ρόλος του νευρικού συστήματος Το νευρικό σύστημα μαζί με το σύστημα των ενδοκρινών αδένων συμβάλλουν στη διατήρηση σταθερού εσωτερικού περιβάλλοντος

Διαβάστε περισσότερα

Neural Networks: Neural Model

Neural Networks: Neural Model Neural Networks: Neural Model M.Sc in Bioinformatics and Neuroinformatics Recording and Processing of Brain Signal 2 nd Lecture Part 2 Antonia Plerou Φυσικός Νευρώνας Κυτταρικό σώμα: Περιλαμβάνει τον πυρήνα

Διαβάστε περισσότερα

Υπολογιστική Νοημοσύνη. Μάθημα 12: Παραδείγματα Ασκήσεων 2

Υπολογιστική Νοημοσύνη. Μάθημα 12: Παραδείγματα Ασκήσεων 2 Υπολογιστική Νοημοσύνη Μάθημα 12: Παραδείγματα Ασκήσεων 2 Δίκτυα Πολλών Επιπέδων Με μη γραμμικούς νευρώνες Έστω ένα πρόβλημα κατηγοριοποίησης, με δύο βαθμούς ελευθερίας (x, y) και δύο κατηγορίες (A, B).

Διαβάστε περισσότερα

Τεχνητή Νοημοσύνη. 17η διάλεξη ( ) Ίων Ανδρουτσόπουλος.

Τεχνητή Νοημοσύνη. 17η διάλεξη ( ) Ίων Ανδρουτσόπουλος. Τεχνητή Νοημοσύνη 17η διάλεξη (2016-17) Ίων Ανδρουτσόπουλος http://.aueb.gr/users/ion/ 1 Οι διαφάνειες αυτής της διάλεξης βασίζονται: στο βιβλίο Artificia Inteigence A Modern Approach των S. Russe και

Διαβάστε περισσότερα

Στατιστική Ι (ΨΥΧ-1202) ιάλεξη 3

Στατιστική Ι (ΨΥΧ-1202) ιάλεξη 3 (ΨΥΧ-1202) Λεωνίδας Α. Ζαμπετάκης Β.Sc., M.Env.Eng., M.Ind.Eng., D.Eng. Εmail: statisticsuoc@gmail.com ιαλέξεις: ftp://ftp.soc.uoc.gr/psycho/zampetakis/ ιάλεξη 3 ΠΑΝΕΠΙΣΤΗΜΙΟ ΚΡΗΤΗΣ ΤΜΗΜΑ ΨΥΧΟΛΟΓΙΑΣ Ρέθυμνο,

Διαβάστε περισσότερα

Αλληλεπίδραση Ανθρώπου- Υπολογιστή & Ευχρηστία

Αλληλεπίδραση Ανθρώπου- Υπολογιστή & Ευχρηστία Αλληλεπίδραση Ανθρώπου- Υπολογιστή & Ευχρηστία Ενότητα 2: Ο Άνθρωπος Σαπρίκης Ευάγγελος Τμήμα Διοίκησης Επιχειρήσεων (Γρεβενά) Άδειες Χρήσης Το παρόν εκπαιδευτικό υλικό υπόκειται σε άδειες χρήσης Creative

Διαβάστε περισσότερα

ΑΡΙΣΤΟΤΕΛΕΙΟ ΠΑΝΕΠΙΣΤΗΜΙΟ ΘΕΣΣΑΛΟΝΙΚΗΣ ΠΟΛΥΤΕΧΝΙΚΗ ΣΧΟΛΗ ΤΜΗΜΑ ΠΟΛΙΤΙΚΩΝ ΜΗΧΑΝΙΚΩΝ ΤΟΜΕΑΣ ΥΔΡΑΥΛΙΚΗΣ ΚΑΙ ΤΕΧΝΙΚΗΣ ΠΕΡΙΒΑΛΛΟΝΤΟΣ

ΑΡΙΣΤΟΤΕΛΕΙΟ ΠΑΝΕΠΙΣΤΗΜΙΟ ΘΕΣΣΑΛΟΝΙΚΗΣ ΠΟΛΥΤΕΧΝΙΚΗ ΣΧΟΛΗ ΤΜΗΜΑ ΠΟΛΙΤΙΚΩΝ ΜΗΧΑΝΙΚΩΝ ΤΟΜΕΑΣ ΥΔΡΑΥΛΙΚΗΣ ΚΑΙ ΤΕΧΝΙΚΗΣ ΠΕΡΙΒΑΛΛΟΝΤΟΣ ΑΡΙΣΤΟΤΕΛΕΙΟ ΠΑΝΕΠΙΣΤΗΜΙΟ ΘΕΣΣΑΛΟΝΙΚΗΣ ΠΟΛΥΤΕΧΝΙΚΗ ΣΧΟΛΗ ΤΜΗΜΑ ΠΟΛΙΤΙΚΩΝ ΜΗΧΑΝΙΚΩΝ ΤΟΜΕΑΣ ΥΔΡΑΥΛΙΚΗΣ ΚΑΙ ΤΕΧΝΙΚΗΣ ΠΕΡΙΒΑΛΛΟΝΤΟΣ ΕΥΑΓΓΕΛΙΑΣ Π. ΛΟΥΚΟΓΕΩΡΓΑΚΗ Διπλωματούχου Πολιτικού Μηχανικού ΟΛΟΚΛΗΡΩΜΕΝΟ

Διαβάστε περισσότερα

Σκοπός: Περιγραφή της συμπεριφοράς των νευρικών κυττάρων και ποσοτικά και ποιοτικά.

Σκοπός: Περιγραφή της συμπεριφοράς των νευρικών κυττάρων και ποσοτικά και ποιοτικά. Σκοπός: Περιγραφή της συμπεριφοράς των νευρικών κυττάρων και ποσοτικά και ποιοτικά. Τα νευρικά κύτταρα περιβάλλονται από μία πλασματική μεμβράνη της οποίας κύρια λειτουργία είναι να ελέγχει το πέρασμα

Διαβάστε περισσότερα