Ηθική & Τεχνολογία Μάθημα 12 ο Τεχνητή Νοημοσύνη & Ηθική Εθνικό και Καποδιστριακό Πανεπιστήμιο Αθηνών Πρόγραμμα Μεταπτυχιακών Σπουδών στην Ηθική Φιλοσοφία Διδάσκων: Άλκης Γούναρης Φεβρουάριος 2015 Μετανθρωπισμός: Ο μετανθρωπισμός (Transhumanism) είναι ένα φουτουριστικό φιλοσοφικό ρεύμα που θεωρεί ότι ο άνθρωπος στο μέλλον θα μπορέσει με την βοήθεια της τεχνολογίας να ξεπεράσει τα όριά του ακόμα και την θνητότητά του. Η επίκληση του φυσικού (nature) περιορίζει την ανθρώπινη ικανότητα. 1
Alan Turing (1912 1954) Turing Test Λειτουργισμός Οι νοητικές καταστάσεις με κατευθυντικότητα, είναι το αιτιακό ενδιάμεσο (Kim, 2005 : 134), ανάμεσα στις εισροές (input) και στις εκροές (output) πληροφοριών. Με αυτούς τους όρους, θα λέγαμε ότι αν δυο συστήματα (ο άνθρωπος χ και ο υπολογιστής στο πείραμα Turing) είναι ισοδύναμα ως προς το input και output, τότε βρίσκονται στο ίδιο νοητικό επίπεδο. 2
Αντιρρήσεις Αν 2 υπολογιστές κάνουν μια πράξη ο ένας με αλγόριθμο και ο άλλος με βάση δεδομένων θα έχουμε το ίδιο αποτέλεσμα αλλά το αίτιο είναι διαφορετικό. Αν ο πόνος πχ είναι αιτιακό ενδιάμεσο (μεταξύ καταστροφής ιστών και συμπεριφοράς) τότε έχει οντολογικό χαρακτήρα, και μιλάμε για δυισμό. Γλώσσα, Νόημα και τυπική δομή. Κινέζικο Δωμάτιο Searle: «Ο υπολογιστής έχει σύνταξη αλλά όχι ερμηνεία» Προσπαθώντας να ανάγουμε τις νοητικές καταστάσεις σε τυπική συντακτική επεξεργασία συμβόλων, εξαλείφουμε τη βασικότερη ιδιότητα των κατευθυντικών καταστάσεων της νόησης, που είναι η συγκρότηση νοήματος 3
Τεχνητή Νοημοσύνη & Ανθρώπινη Νόηση Νόηση - Cognition: Νοητική Διαδικασία που περιλαμβάνει την προσοχή, τη μνήμη, την παραγωγή και την κατανόηση της γλώσσας κ.α.(η διαδικασία νοηματοδότησης του κόσμου η δημιουργία νοήματος - νοητικού περιεχομένου) Νοημοσύνη Intelligence: Υπολογιστική Ικανότητα (ικανότητα κατανόησης, επικοινωνίας, μάθησης, επίλυσης προβλημάτων κ.α.) Νοητικό Περιεχόμενο Νόημα Νοητικό Περιεχόμενο Πλατύ Νόημα Προτασιακό Περιεχόμενο Στενό Νόημα Υποκειμενικό Βίωμα 4
Κατευθυντικότητα Intentionality Αποβλεπτικότητα Προθετικότητα Αναφορικότητα είναι η ιδιότητα της νόησης να κατευθύνεται προς «κάτι», αντικείμενα (πραγματικά ή φανταστικά), γεγονότα, καταστάσεις και ιδέες του κόσμου κ.λπ., που βρίσκονται κατά κύριο λόγο «έξω» από το υποκείμενο που νοεί. Για παράδειγμα, όταν σκεφτόμαστε, σκεφτόμαστε κάτι, όταν αποφασίζουμε, αποφασίζουμε κάτι, όταν θέλουμε, θέλουμε κάτι κ.ο.κ. Η συγκρότηση ενός νοητικού περιεχομένου, δηλαδή ενός νοήματος, είναι θεμελιώδες χαρακτηριστικό αυτής της ιδιότητας. Κατευθυντικότητα Φυσική και Τεχνητή (Ροή Πληροφορίας εκ φύσεως ή επειδή κάποιος την τοποθέτησε) Αυθεντική και Παράγωγη (Ίδια κατευθυντικότητα ή μέσω πηγής) Γλωσσική και Βιωματική Σφάλμα Κατηγορίας Σφάλμα κατά το οποίο πράγματα που ανήκουν σε μια ορισμένη κατηγορία επιχειρεί να τα παρουσιάσει κανείς ως ανήκοντα σε μια άλλη κατηγορία πραγμάτων (Ryle) 5
Ηθική και Τεχνητή Νοημοσύνη -HAL: I'm sorry, Dave. I'm afraid I can't do that. Ηθική και Τεχνητή Νοημοσύνη Το ζήτημα της Ευθύνης (ποιος ευθύνεται αν σκοτώσει ο HAL;) Το ζήτημα της Ηθικής Κρίσης (μπορεί να υπάρχει ηθικό αυτόματο; - Διαφορά Αξιολόγησης και Ηθικής Κρίσης) Το ζήτημα της Εμπιστοσύνης (Transformers) Το ζήτημα της Αυτονομίας (Terminator) Αρχές ή Υπολογισμός Συνεπειών; Οι 3 Νόμοι της Ρομποτικής (Asimov) 1. Ένα Ρομπότ δεν μπορεί να βλάψει έναν άνθρωπο ή μέσω παράλειψης να επιτρέψει την βλάβη κάποιου ανθρώπου. 2. Ένα Ρομπότ πρέπει να υπακούει τις εντολές των ανθρώπων εκτός από εκείνες που παραβιάζουν τον πρώτο νόμο. 3. Ένα Ρομπότ πρέπει να προστατεύει την ύπαρξή του αρκεί η προστασία του να μην παραβιάζει τον πρώτο και τον δεύτερο νόμο. 6
I Robot (Asimov 1950) Ρομποτική και Ανεργία Φόνος ή Εργατικό Ατύχημα; (Ανθρωπομορφισμός) Ελεύθερη Βούληση Οι 3 Νόμοι από την Ωφελιμιστική Σκοπιά κ ο 4 ος Νόμος της Ρομποτικής για την διαφύλαξη της Ανθρωπότητας Συναίσθημα και Αίσθηση Ταυτότητας Αν σκοτώσει ένα ρομπότ είναι φόνος; 1. Ανθρωπομορφισμός: δεν σκοτώνει το Ρομπότ αλλά αυτός που το προγραμμάτισε, ή ήταν ατύχημα. 2. Το Ρομπότ σκότωσε εσκεμμένα όχι επειδή είχε προγραμματιστεί αλλά επειδή έτσι έκρινε: (α) μπορεί να αθωωθεί; - ακαταλόγιστο ή βρισκόταν σε άμυνα ή προστάτευε κάποιον; (β) μπορεί να καταδικαστεί; - είναι ηθικό πρόσωπο; - αν μια τίγρης σκοτώσει κάποιον; Αν ένα παιδί σκοτώσει κάποιον; 7
Μελλοντικά Προβλήματα Το Ρομπότ ως Όπλο (Terminator) Νανορομπότ και Κανονικοποίηση 8