Υπολογιστική Νοημοσύνη Μάθημα 1: Εισαγωγή στην Υπολογιστική Νοημοσύνη
Εισαγωγή Ένας δυναμικά αναπτυσσόμενος κλάδος της Πληροφορικής είναι η Υπολογιστική Νοημοσύνη. Η Υπολογιστική Νοημοσύνη αποτελεί ένα διεπιστημονικό γνωστικό πεδίο που αντλεί έννοιες από πολλές επιστήμες και κυρίως από τα μαθηματικά, τη βιολογία, την πληροφορική και τη μηχανολογία. Σκοπός της ΥΝ είναι να μοντελοποιήσει την ευφυή συμπεριφορά. Να κατασκευάσει δηλαδή υπολογιστικά συστήματα για τα οποία το ρητό: ο υπολογιστής δε γνωρίζει ποτέ περισσότερα από τον προγραμματιστή, δεν αληθεύει. 2
Νοημοσύνη Για την επίτευξη νοήμονος συμπεριφοράς, είναι πρώτα απαραίτητος ο ορισμός της νοημοσύνης. πρόβλημα ορισμού της νοημοσύνης Ένας ορισμός της νοημοσύνης που αντικατοπτρίζει την προσέγγιση που υιοθετείται στο χώρο της ΥΝ έχει προταθεί από τον Foge: Νοημοσύνη είναι η ικανότητα ενός συστήματος λήψης αποφάσεων να προσαρμόζει τη συμπεριφορά του ώστε να επιτυγχάνει τους στόχους του σε ένα εύρος περιβαλλόντων. 3
Νοημοσύνη (2) Σύμφωνα με τον Fogel ένας ορισμός δεν είναι σωστός ή λάθος αλλά χρήσιμος ή άχρηστος. Ο παραπάνω ορισμός της νοημοσύνης είναι χρήσιμος γιατί οδηγεί στην κατασκευή αλγορίθμων που δημιουργούν έξυπνες μηχανές μιμούμενοι τις προσαρμοστικές διαδικασίες που απαντώνται στη φύση. 4
Νοημοσύνη (3) Ο Terman εισηγείται ότι είναι η ικανότητα για αφαιρετική σκέψη. Οι περισσότεροι όμως ψυχολόγοι συμφωνούν ότι είναι η ικανότητα για αποτελεσματική προσαρμογή προς το περιβάλλον που γίνεται με αλλαγή στον οργανισμό, ή με αλλαγή ή και δημιουργία νέου περιβάλλοντος. Με την όρο αποτελεσματική προσαρμογή εννοείται συνήθως η αλλαγή που δημιουργεί πλεονέκτημα, όπως παρουσιάζεται κυρίως μέσα από αντίληψη, μάθηση, μνήμη, λογική,... 5
Νοημοσύνη (4) Επομένως, η νοημοσύνη δεν καθορίζεται από ένα μόνο χαρακτηριστικό, αλλά από σύνολο, που όλα μαζί την προσδιορίζουν. Ένας πιο πρακτικός ορισμός θα μπορούσε να είναι: Η γενική ικανότητα που εκφράζεται μέσα από τις διαδικασίες υπολογισμών, συλλογισμών, λογικής, διακρίβωσης, μάθησης, χρήσης γλώσσας, αντίληψης του περιβάλλοντος σε διαφορετικούς βαθμούς λεπτομέρειας, εξοικείωσης σε νέο περιβάλλον, αυτοδιόρθωσης, και επινόησης. 6
Βιολογική και Τεχνητή Νοημοσύνη Ένα από τα πιο διαδεδομένα μοντέλα που χρησιμοποιούνται για να εξηγήσουν τις ανώτερες πνευματικές λειτουργίες (συμπεριλαμβανομένης της νοημοσύνης), είναι αυτό που θα ονομάζαμε «σύστημα κατανεμημένης επεξεργασίας» (distributed representation and processing) ή «συνδετική υπόθεση» (connectionism) [(Rumelhart and McClelland, 1986); (Churchland and Sejnowski, 1992)]. Στο μοντέλο αυτό οι έννοιες δεν «υπάρχουν» σε κάποιο συγκεκριμένο μέρος του εγκεφάλου, αλλά είναι κατανεμημένες σε πολλούς παράλληλους επεξεργαστές. 7
Βιολογική και Τεχνητή Νοημοσύνη Πιστεύεται δηλαδή, ότι οι ανώτερες λειτουργίες θα μπορούσαν να μοντελοποιηθούν και μελετηθούν με υπολογιστικά-συναρτησιακά συστήματα (functionalcomputational intelligent systems), μέσα από κατανεμημένες διαδικασίες. Οι ανώτερες πνευματικές λειτουργίες θεωρούνται ότι είναι αναδυόμενες ιδιότητες (emerging properties), που πηγάζουν από σύνολο απλών επεξεργασιών, μέσα από ένα συστηματικό και δυναμικό πλέγμα αλληλοεπιδράσεων. Οι έννοιες είναι παράλληλα κατανεμημένες σε ομάδες επεξεργαστών, σε στοιβάδες ή στρώματα (ή επίπεδα). Έτσι δημιουργείται μια οικονομία στη μνήμη και στην επεξεργασία, γιατί κάποιο στοιχείο μπορεί να συμβάλλει σε πολλές διαφορετικές έννοιες. 8
Βιολογική και Τεχνητή Νοημοσύνη Λόγω της παραλληλικότητας, η επεξεργασία γίνεται πολύ γρήγορα, και η σταθερότητα (ευρωστία) (robustness) του συστήματος είναι μεγάλη. Αυτό το μοντέλο είναι πιο συμβατό με τη διαπίστωση ότι είναι αδύνατο να δώσουμε ακριβείς ορισμούς αντικειμένων και ιδεών, όχι μόνο γιατί είναι αδύνατο να προσδιορίσουμε τα όρια, αλλά και διότι είναι μια ατέρμονη διαδικασία όπου το κάθε τι θα πρέπει να οριστεί με βάση άλλους όρους που ορίσθηκαν προηγουμένως κ.ο.κ. Φαίνεται ότι οι ασαφείς αντιλήψεις είναι σημαντικές στην ανάπτυξη της νόησης. 9
Βιολογική και Τεχνητή Νοημοσύνη Ένα πιο εξελιγμένο συνδετικό μοντέλο, είναι η μοντελοποίηση της αντίληψης ως δυναμικό σύστημα. Σ αυτό, οι διαδικασίες προσομοιάζονται σαν ένα σύστημα από δυναμικά αλληλοεξαρτώμενους επεξεργαστές, που αλληλοεπηρεάζονται σε συνεχή χρόνο. Σε μαθηματική προσομοίωση, συνήθως χρησιμοποιούνται διαφορικές εξισώσεις για τη μελέτη του συστήματος. Έτσι, οι εκδηλώσεις συμπεριφοράς (και νοημοσύνης) θεωρούνται ότι προσομοιάζονται από τη χρονική διαδρομή (ίχνος) του πολυ-παραμετρικού δυναμικού συστήματος. 10
Βιολογική και Τεχνητή Νοημοσύνη Τα προηγούμενα μοντέλα είναι πολύ διαφορετικά από το λεγόμενο «συμβολιστικό μοντέλο αντίληψης» ή τη «συμβολιστική υπόθεση» (physical systems symbol hypothesis) των Newell και Simon, όπου η γνώση και η νοημοσύνη θεωρούνται ότι μπορούν να αναδυθούν με τρόπους και διαδικασίες που μοιάζουν με αυτές που προτείνονται για την ανάπτυξη της γλώσσας (language). Άλλοι σημαντικότατοι ερευνητές που υποστήριξαν/ζουν αυτή τη θεωρία είναι οι Chomski, Minsky, Fodor και Pylyshyn). Αυτό το μοντέλο θεωρείται ότι είναι πιο κοντά στη κλασσική τεχνητή νοημοσύνη. 11
Βιολογική και Τεχνητή Νοημοσύνη Σύμφωνα με αυτή τη θεωρία, χρησιμοποιώντας μερικές βασικές έννοιες και βασικές λογικές επεξεργασίες, μέσα από ακριβείς κανόνες και κατάλληλους συνδυασμούς, γίνεται η σύνθεση πολύπλοκων εννοιών και έτσι εκδηλώνεται αναδυόμενη νοημοσύνη. 12
ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ (TN) Ασθενής προσέγγιση Ισχυρή προσέγγιση Πιστεύεται ότι η ανθρώπινη γνώση/νόηση ή ειδικές εκφάνσεις αυτής μπορεί να προσομοιαστούν σε υπολογιστικά συστήματα. Πιστεύεται ότι η ανθρώπινη γνώση/νόηση μπορεί να εκδηλωθεί αυτόματα σε υπολογιστικά συστήματα. Κλασσική υπολογιστική (symbolic AI) Όπως εκφράζεται μέσα από συμβολιστικές οντότητες, οι οποίες μπορούν να κωδικοποιηθούν σε απλά δυαδικά συστήματα (και όχι μόνον). Μερικοί σημαντικοί εκφραστές είναι οι Dennet, Newell και Simon, Chomski, Minsky, Fodor και Pylyshyn Συνδετική υπολογιστική (connectionism) Όπως εκφράζεται μέσα από μη-συμβολιστικές μεθόδους π.χ. τα ΤΝΔ. Οι γνωστικές εκδηλώσεις παρουσιάζονται σαν μια δυναμικά αναδυόμενη συμπεριφορά, κατανεμημένη σε στρώματα συνδεδεμένων κυττάρων, που εξελίσσεται και παρουσιάζεται σε συνάρτηση με τις άμεσες ή/και έμμεσες εμπειρίες του ατόμου. Μερικοί σημαντικοί εκφραστές είναι οι Smolensky και Hameroff. 13
Τεχνητή Νοημοσύνη - Υπολογιστική Νοημοσύνη Ο όρος Τεχνητή Νοημοσύνη είναι πιο γενικός υπό την έννοια ότι υποδηλεί κάθε είδος νοημοσύνης που δεν είναι βιολογική. Ο όρος Υπολογιστική Νοημοσύνη υποδηλεί κάθε είδος νοημοσύνης που μπορεί να εκδηλωθεί με υπολογιστικές διαδικασίες. 14
O Marks (1994)* για την σχέση της υπολογιστικής και τεχνητής νοημοσύνης ανάφερε: Παρόλο που ψάχνουν παρόμοιους στόχους, η Υπολογιστική Νοημοσύνη αναδύθηκε ως ένας ανεξάρτητος κλάδος του οποίου το ερευνητικό πεδίο είναι κάπως διαφορετικό από αυτό της Τεχνητής νοημοσύνης. *Marks R. 1993 Intelligence: computational versus artificial. IEEE Transactions on Neural Networks 15
Βασικά χαρακτηριστικά Υπολογιστικής Νοημοσύνης Υπολογιστική Νοημοσύνη χαρακτηρίζεται κυρίως από ορισμένες σημαντικές ιδιότητες όπως: -Προσαρμοστικότητα (adaptation ) -Αυτό-διοργάνωση (self-organization ) -Μάθηση -Εξέλιξη 16
Υπολογιστική Νοημοσύνη Η μεθοδολογία που περιλαμβάνει υπολογισμούς που επιδεικνύουν την ικανότητα να μαθαίνουν και/ή να αντιμετωπίζουν νέες καταστάσεις ώστε να αντιλαμβανόμαστε ότι το σύστημα διαθέτει μία ή παραπάνω ιδιότητες της λογικής, όπως η γενίκευση, η ανακάλυψη, η συσχέτιση και η αφαίρεση. 17
Συστήματα ΥΝ Τα συστήματα ΥΝ περιλαμβάνουν τα τεχνητά νευρωνικά δίκτυα, τα ασαφή συστήματα, τους εξελικτικούς αλγόριθμους, τους αλγόριθμους νοημοσύνης σμηνών καθώς και υβριδικά συστήματα που προκύπτουν από αυτά. Οι μέθοδοι ΥΝ είναι τυπικά σχεδιασμένες για να μιμούνται συγκεκριμένες πτυχές της νοημοσύνης που παρατηρείται σε βιολογικά συστήματα, όπως η λειτουργία του εγκεφάλου, η εξέλιξη των ειδών και η κοινωνική συμπεριφορά πληθυσμών. 18
Συστήματα ΥΝ Ένα κεντρικό χαρακτηριστικό των μεθόδων ΥΝ είναι το γεγονός ότι αποτελούνται από ένα δυνητικά πολύ μεγάλο αριθμό δομικών στοιχείων, καθένα εκ των οποίων εκτελεί ιδιαίτερα απλούς υπολογισμούς. Τα δομικά στοιχεία των μεθόδων, π.χ. ένας μεμονωμένος τεχνητός νευρώνας ενός δικτύου ή ένα άτομο ενός εξελικτικού αλγορίθμου, επιδεικνύουν λίγη, ή και καμία νοημοσύνη. Η νοημοσύνη προκύπτει από την αλληλεπίδραση μεταξύ των υπολογισμών που λαμβάνουν χώρα στα δομικά στοιχεία και επομένως χαρακτηρίζει το σύνολο και όχι τα μεμονωμένα στοιχεία. Η νοημοσύνη απαιτεί ένα απόθεμα γνώσης και μηχανισμούς προσαρμογής της γνώσης σε ένα μεταβαλλόμενο περιβάλλον. Ο κάτοχος της γνώσης εξαρτάται από το υπό μελέτη σύστημα, σε ένα βιολογικό είδος είναι η γονιδιακή πισίνα, σε μια κοινωνική ομάδα ο πολιτισμός και στον άνθρωπο ο εγκέφαλος. 19
Νευρωνικά Δίκτυα Τα Νευρωνικά δίκτυα, έγιναν ευρέως γνωστά το 1950, ενώ είχαν αναπτυχθεί περαιτέρω το 1980. Ο Donald Hebb έκανε μια από τις πρώτες υποθέσεις για έναν μηχανισμό της νευρικής πλαστικότητας (π.χ. εκπαίδευση), Hebbian learning. H προηγούμενη θεωρείται ως τυπικός κανόνας μάθησης χωρίς επίβλεψη. Ένα νευρωνικό δίκτυο μιμείται τον ανθρώπινο εγκέφαλο και αντιπροσωπεύει ένα υπολογιστικό μηχανισμό που βασίζεται σε ένα απλουστευμένο μαθηματικό μοντέλο των perceptrons (νευρώνες) και σημάτων που μεταφέρουν. Επίσης, ονομάζεται και ως ένα κύκλωμα διασυνδεδεμένων νευρώνων. 20
Νευρωνικά Δίκτυα (2) Στην περίπτωση βιολογικών νευρώνων, πρόκειται για ένα τμήμα νευρικού ιστού. Ενώ στην περίπτωση τεχνητών νευρώνων, πρόκειται για ένα αφηρημένο αλγοριθμικό κατασκεύασμα το οποίο εμπίπτει στον τομέα της υπολογιστικής νοημοσύνης, όταν στόχος του νευρωνικού δικτύου είναι η επίλυση κάποιου υπολογιστικού προβλήματος, ή της υπολογιστικής νευροεπιστήμης, η υπολογιστική προσομοίωση της λειτουργίας των βιολογικών νευρωνικών δικτύων με βάση κάποιο μαθηματικό μοντέλο τους. 21
Γενετικοί Αλγόριθμοι Οι Γενετικοί Αλγόριθμοι (Holland 1975, 1992) είναι μια κλάση αλγορίθμων αναζήτησης και βελτιστοποίησης που βασίζονται στην αρχή της εξέλιξης των ειδών. Είναι μέρος των εξελικτικών αλγορίθμων, οι οποίοι είναι μια ταχέως εξελισσόμενη περιοχή της Τεχνητής Νοημοσύνης. Η θεωρία της Εξέλιξης των Ειδών που αναπτύχθηκε από τον Δαρβίνο στα μέσα του περασμένου αιώνα, προκάλεσε μεγάλη αναστάτωση, αφού ερχόταν σε σύγκρουση με τις επικρατούσες θρησκευτικές αντιλήψεις περί προέλευσης της ζωής. 22
Γενετικοί Αλγόριθμοι (2) Σκοπός της θεωρίας αυτής είναι να δώσει μια εξήγηση για το φαινόμενο της ζωής, την προέλευσή της και τις βασικές λειτουργίες της. Τα κυριότερα σημεία της, ερμηνεύουν τον τρόπο λειτουργίας των Εξελικτικών Αλγορίθμων. Είναι γενικής χρήσης αλγόριθμοι αναζήτησης που βασίζονται στις αρχές της εξέλιξης που παρατηρούνται στην φύση και γίνονται όλο και περισσότερο γνωστοί χάριν της ικανότητας τους να λύνουν δύσκολα προβλήματα. Οι ΓΑ είναι σε θέση να βρίσκουν γρήγορα και να αναπτύσσουν ένα είδος το οποίο είναι κοντά στο επιθυμητό αποτέλεσμα. 23
Γενετικοί Αλγόριθμοι (3) Οι ΓΑ χαρακτηρίζονται από την απλότητα και την κομψότητά τους ως γεροί αλγόριθμοι αναζήτησης, καθώς επίσης και από τη δύναμή τους να ανακαλύψουν γρήγορα τις καλές λύσεις μεγάλης διάστασης προβλημάτων. Οι ΓΑ είναι χρήσιμοι και αποδοτικοί όταν το διάστημα αναζήτησης είναι μεγάλο, σύνθετο ή ανεπαρκώς κατανοητό, η γνώση περιοχών είναι λιγοστή ή η ειδική γνώση είναι δύσκολο να κωδικοποιηθεί ώστε, να περιοριστεί στο διάστημα αναζήτησης, καμία μαθηματική ανάλυση δεν είναι διαθέσιμη και οι παραδοσιακές μέθοδοι αναζήτησης αποτυγχάνουν. 24
Εφαρμογές Νευρωνικών Δικτύων Αεροδιαστημική Αυτόματος πιλότος Έλεγχος αεροσκάφους Ανίχνευση βλαβών Αυτοκίνητα Αυτόματη οδήγηση Τραπεζικές εργασίες Αξιολόγηση αιτήσεων για δάνειο Στρατιωτικές εφαρμογές Καθοδήγηση όπλων Αναγνώριση αντικειμένων (αντικείμενα, πρόσωπα κλπ) 25
Εφαρμογές Νευρωνικών Δικτύων (2) Ηλεκτρονική Τεχνητή όραση Σύνθεση ήχου Διάγνωση βλαβών Οικονομικά Αποτίμηση ακίνητης περιουσίας Αξιολόγηση ομολογιακών δανείων επιχειρήσεων Διαχείριση χαρτοφυλακίων Πρόβλεψη συναλλαγματικών μεταβολών Ασφάλιση Αξιολόγηση αιτήσεων Κατασκευές Έλεγχος μονάδων, διάγνωση βλαβών Σχεδιασμός και ανάλυση προϊόντων Οπτικά συστήματα ελέγχου ποιότητας 26
Εφαρμογές Νευρωνικών Δικτύων (3) Ιατρική Ανάλυση συμπτωμάτων και διάγνωση για διάφορες ασθένειες Ορυκτός πλούτος Αξιολόγηση περιοχών για γεώτρηση Ρομποτική Έλεγχος κίνησης Όραση Ομιλία Αναγνώριση ομιλίας Εκφορά ομιλίας Τηλεπικοινωνίες Συμπίεση δεδομένων Μετάφραση γλώσσας σε πραγματικό χρόνο Μεταφορές Εύρεση δρομολογίων 27
Παρατήρηση Οι παραπάνω εφαρμογές απαιτούν σε μικρότερο ή μεγαλύτερο βαθμό τη διαδικασία της μηχανικής μάθησης. Τα νευρωνικά δίκτυα δεν αποτελούν το μοναδικό τρόπο αντιμετώπισης των παραπάνω εφαρμογών. Ωστόσο η χρήση νευρωνικών δικτύων προσφέρει: Ευκολία υλοποίησης Σχετικά αξιόπιστη λειτουργία Ακαριαία απόκριση κατά την φάση πραγματικής λειτουργίας, εφόσον το νευρωνικό δίκτυο υλοποιηθεί σε hardware. 28
Βιολογικά νευρωνικά δίκτυα 29
Βιολογικά νευρωνικά δίκτυα Δενδρίτες: Σημεία εισόδου ηλεκτρικών σημάτων. Άξονας: Έξοδος ηλεκτρικών σημάτων. Οι δενδρίτες κάθε νευρώνα συνδέονται με τους άξονες άλλων νευρώνων. Τα σημεία σύνδεσης ονομάζονται συνάψεις. Η ταχύτητα μεταφοράς των ηλεκτρικών παλμών είναι από 10 μέχρι 100 m/sec. Οι νευρώνες καταναλώνουν την περισσότερη ενέργεια από όλα τα κύτταρα του οργανισμού. Υπολογίζεται ότι ο ανθρώπινος εγκέφαλος καταναλώνει 20 Watt ισχύος. 30
Ανθρώπινο Κεντρικό Νευρικό Σύστημα Ο ανθρώπινος εγκέφαλος έχει περίπου 1010 νευρώνες (109-1011). Κάθε νευρώνας έχει περίπου 104 συνάψεις (οι οποίες όμως σε κάποιες περιπτώσεις φτάνουν και τις 2 105!) Ένας αριθμός νευρώνων, μαζί με τις συνδέσεις του, αποτελεί ένα νευρωνικό δίκτυο (Κεντρικό Νευρικό Σύστημα). Οι νευρώνες πιστεύεται ότι δεν πολλαπλασιάζονται. Ο ανθρώπινος εγκέφαλος ενός υγιούς ενήλικα χάνει περίπου 1000 νευρώνες την ημέρα. Περισσότεροι για όσους πίνουν, καπνίζουν κλπ. Οι συνάψεις συνεχώς μεταβάλλονται. 31
Λειτουργία Φυσικού Νευρώνα (1/2) Κάθε νευρώνας έχει δύο μόνο δυνατές καταστάσεις: Ενεργός και Μη-ενεργός Όταν ο νευρώνας είναι μη-ενεργός, υπάρχει μια διαφορά δυναμικού περίπου -70mV μεταξύ της εξωτερικής επιφάνειάς του και του εσωτερικού του. Τα σήματα εισόδου στον νευρώνα αθροίζονται. Όταν τα σήματα εισόδου ξεπεράσουν ένα όριο (κατώφλι θ), ο νευρώνας γίνεται στιγμιαία ενεργός, παράγει έναν ηλεκτρικό παλμό, με τα ίδια πάντα χαρακτηριστικά, ο οποίος μέσω του άξονα μεταφέρεται σε άλλους νευρώνες. Μέγιστο 1000 παλμοί/sec ανά νευρώνα. 32
Λειτουργία Φυσικού Νευρώνα (2/2) Το δυναμικό ενός νευρώνα κατά τη διάρκεια ενεργοποίησής του. 33
Σύγκριση Φυσικών Νευρωνικών Δικτύων και Υπολογιστή Φυσικά Νευρωνικά Δίκτυα Ασύγχρονος τρόπος λειτουργίας Μαζική παράλληλη επεξεργασία Εκπαιδεύονται με παραδείγματα Ανοχή στα σφάλματα Ανοχή σε βλάβες Χρόνος κύκλου της τάξης του msec Συνύπαρξη μνήμης και μονάδων επεξεργασίας Υπολογιστής Σύγχρονος τρόπος λειτουργίας Σειριακή επεξεργασία Προγραμματίζεται Συνήθως καμία ανοχή σε σφάλματα Καμία ανοχή σε βλάβες Χρόνος κύκλου της τάξης του nsec Διαχωρισμός μνήμης και μονάδων επεξεργασίας 34
Ιστορική αναδρομή 1943: Το πρώτο μοντέλο νευρωνικού δικτύου (McCulloch & Pitts) 1949: Μοντέλο μάθησης του Hebb Κάθε φορά που ενεργοποιείται μια σύναψη, αυτή ενισχύεται, με αποτέλεσμα το δίκτυο να μαθαίνει "λίγο περισσότερο" το πρότυπο που του παρουσιάζεται εκείνη τη στιγμή. 1957: Το μοντέλο του απλού αισθητήρα perceptron (Rosenblatt). 1969: Οι Minsky & Papert απέδειξαν μαθηματικά ότι τα ΤΝΔ ενός επιπέδου δεν μπορούν να λύσουν συγκεκριμένα προβλήματα. 1982: Μαθηματική απόδειξη ότι ένα νευρωνικό δίκτυο πολλών επιπέδων μπορεί να αποθηκεύσει οποιαδήποτε πληροφορία. 1986: Μέθοδος οπισθοδιάδοσης για την εκπαίδευση ΤΝΔ (McClelland & Rumelhart). 35