ΠΑΝΕΠΙΣΤΗΜΙΟ ΑΙΓΑΙΟΥ ΣΧΟΛΗ ΕΠΙΣΤΗΜΩΝ ΤΗΣ ΔΙΟΙΚΗΣΗΣ ΤΜΗΜΑ ΜΗΧΑΝΙΚΩΝ ΟΙΚΟΝΟΜΙΑΣ ΚΑΙ ΔΙΟΙΚΗΣΗΣ ΔΙΠΛΩΜΑΤΙΚΗ ΕΡΓΑΣΙΑ

Transcript

1 ΠΑΝΕΠΙΣΤΗΜΙΟ ΑΙΓΑΙΟΥ ΣΧΟΛΗ ΕΠΙΣΤΗΜΩΝ ΤΗΣ ΔΙΟΙΚΗΣΗΣ ΤΜΗΜΑ ΜΗΧΑΝΙΚΩΝ ΟΙΚΟΝΟΜΙΑΣ ΚΑΙ ΔΙΟΙΚΗΣΗΣ ΔΙΠΛΩΜΑΤΙΚΗ ΕΡΓΑΣΙΑ Αξιολόγηση Δεδομένων Διαχείρισης Προσωπικού Συστήματος SAP/HR που Τηρεί Ναυτιλιακή Επιχείρηση με τη Χρήση Αλγορίθμων Μηχανικής Μάθησης που εγκαταλείπονται στο Σύστημα Ανοικτού Κώδικα WEKA Ξυδιάς Ιωάννης ΕΠΙΒΛΕΠΩΝ ΚΑΘΗΓΗΤΗΣ: Βασιλάκης Παναγιώτης

2 Για τον πατέρα μου και τον καλύτερο μου φίλο, που η κλεψύδρα τους άδειασε νωρίς...

3 ΠΕΡΙΕΧΟΜΕΝΑ 1. ΕΙΣΑΓΩΓΗ Περιγραφή της Εταιρίας KYLA SHIPPING COMPANY LTD Ιστορικά στοιχεία της εταιρίας Βασικοί στόχοι και στρατηγική της KYLA SHIPPING COMPANY LTD Το πρόβλημα της KYLA SHIPPING COMPANY LTD Στόχος της εργασίας Δομή της εργασίας ΠΡΟΒΛΗΜΑ ΤΗΣ ΝΑΥΤΙΛΙΑΚΗΣ ΕΤΑΙΡΙΑΣ KYLA SHIPPING COMPANY LTD Βάση δεδομένων της εταιρίας KYLA SHIPPING COMPANY LTD ΛΟΓΙΣΜΙΚΟ WEKA ΚΑΙ ΜΕΘΟΔΟΙ ΛΗΨΗΣ ΑΠΟΦΑΣΗΣ Το λογισμικό WEKA Τεχνικές λήψης απόφασης εξόρυξης δεδομένων Ταξινόμηση βάσει του κανόνα του Bayes (Bayes) Ταξινόμηση βάσει γραμμικών και μη-γραμμικών υποδειγμάτων (Functions) Ταξινόμηση μέσω μάθησης που βασίζεται σε στιγμιότυπα (Instance-based) Ταξινόμηση μέσω κανόνων μετά-μάθησης ( Meta-Learning ) Ταξινόμηση βασισμένη σε Κανόνες ( Rules ) Ταξινόμηση βασισμένη στα δέντρα λήψης απόφασης (Trees) ΠΕΙΡΑΜΑΤΙΚΗ ΔΙΑΔΙΚΑΣΙΑ ΑΠΟΤΕΛΕΣΜΑΤΑ ΑΛΓΟΡΙΘΜΩΝ Αλγόριθμοι βασισμένοι στον κανόνα του Bayes ( Bayes ) Αλγόριθμος BayesNet Αλγόριθμος NaiveBayes Αλγόριθμοι βασισμένοι σε μαθηματικές συναρτήσεις ( Functions ) Αλγόριθμος Logistic Αλγόριθμος MultilayerPerceptron Αλγόριθμος RBFNetwork Αλγόριθμοι βασισμένοι σε μάθηση σε στιγμιότυπα ( Lazy ) Αλγόριθμος IBk Αλγόριθμος KStar Αλγόριθμοι Μετά-Μάθησης (Meta-Learning)... 48

4 4.4.1 Αλγόριθμος AdaBoostM Αλγόριθμος Bagging Αλγόριθμος ClassificationViaRegression Αλγόριθμοι Κανόνων ( Rules ) Αλγόριθμος JRip Αλγόριθμος PART Αλγόριθμος ConjunctiveRule Δενδρικοί Αλγόριθμοι ( Trees ) Αλγόριθμος BFTree Αλγόριθμος J Αλγόριθμος RandomForest ΣΥΓΚΡΙΤΙΚΑ ΑΠΟΤΕΛΕΣΜΑΤΑ ΜΕΘΟΔΟΛΟΓΙΩΝ Αλγόριθμοι βασισμένοι στον κανόνα του Bayes ( Bayes ) Αλγόριθμοι βασισμένοι σε μαθηματικές συναρτήσεις ( Functions ) Αλγόριθμοι βασισμένοι σε μάθηση σε στιγμιότυπα ( Lazy ) Αλγόριθμοι Μετά-Μάθησης (Meta-Learning) Αλγόριθμοι Κανόνων ( Rules ) Δενδρικοί Αλγόριθμοι ( Trees ) Αξιολόγηση Αποτελεσμέτων - Βελτιώσεις Αλγόριθμοι βασισμένοι στον κανόνα του Bayes ( Bayes ) Αλγόριθμοι βασισμένοι σε μαθηματικές συναρτήσεις ( Functions ) Αλγόριθμοι βασισμένοι σε μάθηση σε στιγμιότυπα ( Lazy ) Αλγόριθμοι Μετά-Μάθησης (Meta-Learning) Αλγόριθμοι Κανόνων ( Rules ) Δενδρικοί Αλγόριθμοι ( Trees ) ΕΠΙΛΟΓΟΣ ΧΡΗΣΙΜΑ ΣΥΜΠΕΡΑΣΜΑΤΑ Συμπεράσματα σχετικά με το πρόβλημα της KYLA SHIPPING COMPANY LTD Συμπεράσματα σχετικά με τις μεθόδους ταξινόμησης (WEKA) Κατευθύνσεις μελλοντικής έρευνας ΠΑΡΑΠΟΜΠΕΣ ΠΑΡΑΡΤΗΜΑ... 85

5 Περίληψη Ένα από τα προβλήματα που καλούνται να επιλύσουν οι εταιρίες, είναι η αποτελεσματική διαχείριση του ανθρώπινου δυναμικού τους. Το ανθρώπινο δυναμικό οποιασδήποτε εταιρίας αποτελεί την κεντρική αρτηρία της λειτουργίας της. Οποιοδήποτε σφάλμα κατά την επιλογή ή αξιολόγηση του προσωπικού, μπορεί να οδηγήσει σε δυσμενείς καταστάσεις την επιχείρηση τόσο οικονομικές όσο και λειτουργικές. Επιπλέον, θα πρέπει να γίνει κατανοητό ότι η διαχείριση του ανθρώπινου δυναμικού αποτελεί μια πολύπλοκη διαδικασία, η οποία περιλαμβάνει διάφορα τμήματα: επιλογή, σύστημα αμοιβών, αξιολόγηση κτλ. Πιο συγκεκριμένα, κατά τη φάση της αξιολόγησης των εργαζομένων, η επιχείρηση στοχεύει στο να εξάγει ένα σύνολο κανόνων απόφασης, βάσει των κύριων χαρακτηριστικών των εργαζομένων ώστε να γίνει χρήση τους σε επόμενες επιλογές προσωπικού. Η φύση αυτών των αποφάσεων έχει να κάνει με την προαγωγή του εργαζομένου ή την ανανέωση της συνεργασίας του με την εταιρία. Όπως γίνεται κατανοητό, θα πρέπει να εφαρμοστεί μια τεχνική λήψης απόφασης, προκειμένου να γίνει, όσο το δυνατόν, πιο ορθή αξιολόγηση της ποιότητας του ανθρώπινου δυναμικού. Κάποιες φορές χρησιμοποιούνται ευρετικοί κανόνες, οι οποίοι βασίζονται στην εμπειρία του λήπτη απόφασης (manager), ενώ σε κάποιες άλλες περιπτώσεις μπορεί να εφαρμοστεί μια επιστημονική μέθοδος λήψης απόφασης. Στην παρούσα διπλωματική εργασία, θα μελετηθεί η περίπτωση της ναυτιλιακής εταιρίας KYLA SHIPPING COMPANY LTD., η οποία είναι ελληνικών συμφερόντων και δραστηριοποιείται, στο χώρο της Μεσογείου αλλά και παγκοσμίως. Ένα από τα προβλήματα που καλείται να επιλύσει η εταιρία είναι και η αποτελεσματική αξιολόγηση μιας συγκεκριμένης κατηγορίας εργαζομένων της, με απώτερο στόχο την ανανέωση της συνεργασίας τους ή όχι. Επομένως, λαμβάνοντας υπόψη μια σειρά από επιμέρους χαρακτηριστικά, θα πρέπει να αποφασίσει αν ο συγκεκριμένος εργαζόμενος θα συνεχίσει στην εταιρία ή όχι. Για την αποτελεσματική αξιολόγηση του ανθρώπινου δυναμικού της εταιρίας, θα χρησιμοποιηθεί ένα πλήθος αλγορίθμων λήψης απόφασης, οι οποίοι περιέχονται στο λογισμικό WEKA. Στόχος της διπλωματικής εργασίας είναι διττός. Πρώτον, θα εξαχθεί ένα σύνολο κανόνων απόφασης οι οποίοι, συνδυάζοντας χαρακτηριστικά των εργαζομένων, μπορούν να ταξινομήσουν νέες περιπτώσεις εργαζομένων. Δεύτερον, μέσω αυτών των κανόνων,

6 μπορεί κάποιος να κατανοήσει ποια χαρακτηριστικά (μεταβλητές απόφασης) παίζουν σημαντικό ρόλο στη διαδικασία λήψης απόφασης.

7 1. ΕΙΣΑΓΩΓΗ Στο εισαγωγικό μέρος της εργασίας, θα γίνει μια αναλυτική παρουσίαση της εταιρίας. Μέσω των στοιχείων που θα παρατεθούν, μπορεί κάποιος να κατανοήσει τη βασική λειτουργία, αλλά και τις επιμέρους διαδικασίες της εταιρίας, το μέγεθος της και το ρόλο που διαδραματίζει στον κλάδο της. Επιπλέον, θα τονιστούν τα δυνατά και αδύνατα κομμάτια της επιχείρησης. Τέλος, θα αναφερθούμε στο στόχο της εργασίας, και στη σύντομη παρουσίαση της δομής της. 1.1 Περιγραφή της Εταιρίας KYLA SHIPPING COMPANY LTD Ιστορικά στοιχεία της εταιρίας Το 2003, ο όμιλος επιχειρήσεων Σέρες δημιούργησε μια νέα εταιρία, την Σέρες Ελλάς Ναυτιλιακή με σκοπό τη διευκόλυνση στη διαχείριση της ναυπήγησης 6 νέων παράκτιων δεξαμενόπλοιων με μορφή μακροχρόνιας ναύλωσης από την εταιρία πετρελαιοειδών BP. Έτσι, το 2004, το πρώτο πλοίο ναυπηγήθηκε, επιτυχώς. Εκείνη την περίοδο, η εταιρία αριθμούσε μόλις 3 υπαλλήλους. Το 2005, η επιχείρηση, επεκτείνοντας τη συνεργασία της με την BP ανέλαβε τη διαχείριση ενός ακόμη πλοίου. Ακολούθως, λίγους μήνες αργότερα, και πιο συγκεκριμένα τον Ιούνιο του 2005, η ιδιοκτησία της εταιρίας αλλάζει και γίνετε πλέον ανεξάρτητη σε όλα τα επίπεδα. Πλέον, ο αριθμός των υπαλλήλων αυξάνεται θεαματικά και φτάνει τους 24. Από τον Ιούνιο, λοιπόν, μέχρι τον Σεπτέμβρη του 2005, η εταιρία αναλαμβάνει τη διαχείριση 3 φορτηγών πλοίων. Για την μεταγενέστερη πορεία της εταιρίας, σημαδιακός είναι ο μήνας Δεκέμβρης του ίδιου έτους, όπου η εταιρία αλλάζει ονομασία και λέγεται πλέον KYLA SHIPPING COMPANY LTD.. Όμως η εταιρία, πέρα από τη διαχείριση πλοίων, τα οποία άνηκαν σε άλλες πλοιοκτήτριες εταιρίες, καθώς επίσης και την αγορά ήδη ναυπηγημένων πλοίων, αποφασίζει να επεκτείνει τις δραστηριότητες της και στην κατασκευή πλοίων. Έτσι, τον Απρίλιο του 2007, υπογράφει την κατασκευή 3 φορτηγών πλοίων και λίγους μήνες μετά, το Νοέμβριο του ίδιου έτους, συμφωνεί την κατασκευή άλλων 2. 1

8 Στην παρούσα φάση, η εταιρία διαχειρίζεται 5 παράκτια δεξαμενόπλοια της BP, τα οποία πραγματοποιούν ταξίδια κυρίως εντός της μεσογείου, 5 φορτηγά πλοία, τα οποία πραγματοποιούν ταξίδια σε όλο τον κόσμο, καθώς επίσης κατασκευάζει ακόμη 2 πλοία, τα οποία και είναι ιδιοκτησία της. Μέσος όρος ηλικίας των πλοίων είναι τα 3 έτη, πράγμα που σημαίνει ότι κατέχει έναν πολύ νέο στόλο. Επιπλέον, έχει επεκτείνει τις δραστηριότητες της στους τομείς της διαχείρισης ασφάλειας (safety management), της τεχνικής διαχείρισης (technical management), της εμπορικής διαχείρισης (commercial management), της διαχείρισης ναύλων (chartering management), της κατασκευής νέων πλοίων, καθώς επίσης και μετατροπής παλιότερων (new ship construction and conversion) και της διαχείρισης πληρωμάτων-ανθρώπινου δυναμικού (crew management) με την παράλληλη βελτίωση των διαδικασιών της στη διαχείριση λειτουργιών (operational management) Βασικοί στόχοι και στρατηγική της KYLA SHIPPING COMPANY LTD. Οι βασικές αρχές διοίκησης της εταιρίας είναι: - Η συνεχής βελτίωση, η οποία μπορεί να επιτευχθεί ως εξής: o Καθορισμός συγκεκριμένων στόχων και ανάπτυξη αποτελεσματικών επιχειρηματικών διαδικασιών. o Μέτρηση, ανάλυση, καταγραφή και παρακολούθηση της απόδοσης του ανθρώπινου δυναμικού. o Εντοπισμός ευκαιριών βελτίωσης. - Η ενδυνάμωση/υποστήριξη του ανθρώπινου δυναμικού, η οποία αναφέρεται στην παροχή του δικαιώματος, στο ανθρώπινο δυναμικό, να μαθαίνει και να εφαρμόζει υποκειμενική κρίση σε κάποιες καταστάσεις, καθώς επίσης και στην παροχή εμπιστοσύνης στους εργαζόμενους. Η ενδυνάμωση του ανθρώπινου δυναμικού επιτυγχάνεται με τους ακόλουθους τρόπους: o Ηγεσία: οι ηγέτες, ανάμεσα στο ανθρώπινο δυναμικό, έχουν επιθυμητά χαρακτηριστικά όπως δέσμευση, πρωτοβουλία, δυναμισμό. Επιπλέον, κατέχουν καλή ικανότητα επικοινωνίας με τους υπόλοιπους 2

9 εργαζόμενους, γεγονός που τους καθιστά ως γέφυρες επικοινωνίας μεταξύ των εργαζομένων. o Παρότρυνση των εργαζομένων να είναι δημιουργικοί και o Παροχή κατάλληλου εξοπλισμού και αποτελεσματικών εργαλείων προς επίτευξη των στόχων της εταιρίας. Όπως στις περισσότερες επιχειρήσεις, έτσι και στην KYLA SHIPPING COMPANY LTD. βασικό μέλημα είναι η αποτελεσματική διαχείριση του ανθρώπινου δυναμικού, μέρος της οποίας αποτελεί και η παροχή κινήτρου προς τους εργαζόμενους. Με αυτόν τον τρόπο, ενισχύεται η αποδοτικότητα των υπαλλήλων. Στη συγκεκριμένη εταιρία, η παροχή κινήτρου πραγματοποιείται με τους ακόλουθους τρόπους: - Ισχυρές δεσμεύσεις της ανώτατης διοίκησης καθώς επίσης και παρουσία της, αρκετές φορές, στα πλοία. - Συχνοί έλεγχοι και επιθεωρήσεις από τους επόπτες. Με αυτόν τον τρόπο, οι εργαζόμενοι αντιλαμβάνονται το ξεχωριστό δεσμό διοίκησης-εργαζομένων, καθώς επίσης κατανοούν ότι η συγκεκριμένη εταιρία λειτουργεί με υπευθυνότητα. - Ένα σημαντικό στοιχείο είναι το σύστημα αμοιβών για τις καλύτερες προτάσεις από πλευράς εργαζομένων. Θεωρείται ζωτικής σημασίας για μια εταιρία, η κατάσταση κατά την οποία οι εργαζόμενοι συνεισφέρουν με νέες ιδέες και πρωτοβουλίες στο βασικό στόχο. - Στα πλαίσια των προτάσεων βελτίωσης από πλευράς εργαζομένων, θεσπίζεται η έννοια της ευγενούς άμιλλας και του θεμιτού ανταγωνισμού, με απώτερο στόχο την αποφυγή παρεξηγήσεων ανάμεσα στο προσωπικό, αλλά και την προώθηση του υγιούς ανταγωνισμού. Ένα ακόμη σημαντικό χαρακτηριστικό της εταιρίας, αποτελεί η περιβαλλοντική της συνείδηση. Οι διαδικασίες της εταιρίας έχουν πιστοποιηθεί σύμφωνα με το πρότυπο ποιότητας ISO Το πιο σημαντικό κομμάτι, ίσως, αφόρα την διενέργεια ενδελεχούς μελέτης ρίσκου-επιπτώσεων, όταν επρόκειτο να ξεκινήσει ένα έργο (επένδυση). Στόχος αυτής της ανάλυσης είναι η ελαχιστοποίηση των αρνητικών περιβαλλοντικών επιπτώσεων. Επιπλέον, μερικά ακόμη σημαντικά γνωρίσματα είναι: 3

10 - Οι έλεγχοι ενέργειας στα πλοία και η εφαρμογή τεχνικών εξοικονόμησης ενέργειας. Αυτοί οι έλεγχοι έχουν απώτερο στόχο την εγκατάσταση εξοπλισμού κι εφαρμογή κανόνων λειτουργίας, με στόχο τη μείωση της ενέργειας κατανάλωσης. - Μέσω των αρχών διαχείρισης ενέργειας, υλοποιούνται βελτιώσεις στα διάφορα συστήματα, οι οποίες αφορούν την αποτελεσματική χρήση της ενέργειας. - Τέλος, υλοποιούνται βελτιώσεις στα κτίρια και σε διάφορα τμήματα των πλοίων, με στόχο την εισαγωγή υλικών φιλικών προς το περιβάλλον. Όσον αφορά τη διαχείριση του ανθρώπινου δυναμικού, είναι πολύ σημαντικό να κατανοηθεί ότι οι εργαζόμενοι αποτελούν τον ακρογωνιαίο λίθο της εταιρίας. Γι αυτό το λόγο, άμεση προτεραιότητα της εταιρίας είναι να χρησιμοποιεί αποτελεσματικό και καλά εκπαιδευμένο προσωπικό. Για να επιτευχθεί κάτι τέτοιο, η επιχείρηση έχει εισάγει διαδικασίες επιλογής, εκπαίδευσης κι αξιολόγησης εργαζομένων, οι οποίες βασίζονται σε υπολογιστικά συστήματα, ψυχομετρικά τεστ και εξατομικευμένες διαδικασίες εκπαίδευσης. Πιο συγκεκριμένα, η διαδικασία εκπαίδευσης μπορεί να βασιστεί στους ακόλουθους πυλώνες: - Καθιέρωση ρεαλιστικών και δυναμικών πλάνων εκπαίδευσης (είτε εν πλω είτε στη στεριά), τα οποία βασίζονται στις πραγματικές ανάγκες της εταιρίας. - Εξατομικευμένα σχέδια εκπαίδευσης, ανάλογα με τις ανάγκες του κάθε εργαζόμενου. - Η εκπαίδευση πραγματοποιείται με τη βοήθεια εσωτερικών αλλά και εξωτερικών συνεργατών. Ένα ακόμη σημαντικό κομμάτι της επιχείρησης αποτελεί η χρήση της τεχνολογίας με απώτερο στόχο να ενισχυθούν οι βασικές λειτουργίες της. Ένα σημαντικό εργαλείο είναι το E-library, το οποίο αποτελεί ένα τύπο ενδοδικτύου (intranet) που συνδέει τα πλοία μεταξύ τους, αλλά και με τα κεντρικά τμήματα της εταιρίας, ενοποιώντας κατ αυτόν τον τρόπο τις λειτουργίες της επιχείρησης. Επιπλέον, ένα σημαντικό στοιχείο για μια εταιρία, αποτελεί η σύγκριση της με άλλες εταιρίες του κλάδου, έτσι ώστε να προκύπτει διαρκής βελτίωση. Στόχος της KYLA SHIPPING COMPANY LTD. είναι να παρέχει αποτελέσματα απόδοσης από διάφορες κατηγορίες, σε ένα σύστημα αξιολόγησης ( INTERTANKO ). Μέσω 4

11 αυτού του συστήματος, οι επιμέρους εταιρίες θα έχουν τη δυνατότητα να εντοπίζουν τα δυνατά και αδύνατα τμήματα τους. Τέλος, το όραμα της εταιρίας μπορεί να αποτυπωθεί στα ακόλουθα σημεία: - Να γίνει ηγέτης στη παγκόσμια ναυτιλία με απώτερο στόχο να δημιουργεί προστιθέμενη αξία τόσο για τους πελάτες της, όσο και για τους μετόχους της. Γι αυτό το λόγο, η εταιρία, δεσμεύεται σε ζητήματα ασφάλειας, ακεραιότητας, προστασίας του περιβάλλοντος και πρόληψης οποιουδήποτε είδους επαγγελματικών ατυχημάτων μέσω της συνεχούς βελτίωσης, της τεχνογνωσίας και των τεχνολογιών της. - Όσον αφορά την κοινωνία, η εταιρία δεσμεύεται να διευθύνει τις διαδικασίες με ακεραιότητα και την υψηλότερη επιχειρησιακή ηθική έτσι ώστε να προστατεύει την ανθρώπινη ζωή και το περιβάλλον. - Όσον αφορά τους πελάτες, η εταιρία στοχεύει στο να χρησιμοποιούν τις ασφαλέστερες κι αποτελεσματικότερες διαδικασίες ώστε να συμβάλλουν στην επιτυχία των επιχειρησιακών στόχων τους, με την προσαρμογή στις συγκεκριμένες απαιτήσεις τους. - Όσον αφορά τους εργαζομένους, η κύρια κατεύθυνση είναι προς την επίτευξη των στόχων σταδιοδρομίας τους σε ένα περιβάλλον με διαρκείς προκλήσεις, αλλά και ανταμοιβές ανάλογα με την αξία και την προσπάθεια που καταβάλλουν. - Τέλος, όσον αφόρα τους μετόχους, θα πρέπει να διευθύνουν μια αποδοτική επιχείρηση, εφαρμόζοντας τις καλύτερες επιχειρησιακές πρακτικές. 1.2 Το πρόβλημα της KYLA SHIPPING COMPANY LTD. Σε ένα διαρκές εξελισσόμενο επιχειρηματικό περιβάλλον, όπου ο ανθρώπινος παράγοντας διαδραματίζει όλο και μεγαλύτερο ρόλο, η εταιρία καλείται να αντιμετωπίσει τη συνεχή αύξηση του στόλου της με τους πιο άρτια εκπαιδευμένους επαγγελματίες ναυτικούς, επενδύοντας πάνω τους τόσο σε εκπαίδευση όσο και σε εργασιακή εμπειρία, με απώτερο στόχο την αποτελεσματικότητα και μεγαλύτερη ασφάλεια των πλοίων της, κατά τη μεταφορά φορτίων. 5

12 Αυτό δε θεωρείται και από τα πιο εύκολα προβλήματα. Ένας λόγος είναι το γεγονός ότι υπάρχει ένα μεγάλο πλήθος διαθέσιμων ναυτικών, από διάφορες χώρες του κόσμου, καθένας από αυτούς με τα δικά του χαρακτηριστικά γνωρίσματα. Αυτά τα χαρακτηριστικά γνωρίσματα αφορούν ενδιαφέροντα χαρακτηριστικά επιλογής από την εταιρία. Επομένως, θα πρέπει η εταιρία να αξιολογήσει μια μεγάλη βάση δεδομένων, η οποία θα αποτελείται από τους υποψηφίους προς ένταξη στην εταιρία ναυτικούς, και να αποφανθεί ποιοι θα αποτελέσουν το πλήρωμα της. Έτσι, λοιπόν, έχοντας την εμπειρία στη διαχείριση πληρωμάτων, η εταιρία αναζητά μια αποτελεσματική μέθοδο ταξινόμησης των εργαζομένων της με βάση κάποια κριτήρια, έτσι ώστε να τη χρησιμοποιήσει για μελλοντική πρόβλεψη της απόδοσης των εργαζομένων της, αλλά και επιλογή αυτών για ενδεχόμενη συνεργασία τους. Ένας τρόπος για να αντιμετωπίσει το συγκεκριμένο ζήτημα, είναι να βασιστεί σε εμπειρικούς κανόνες, οι οποίοι μπορούν να εξαχθούν από παλιότερα μέλη, ενδεχομένως και μέλη της ανώτατης διοίκησης, της εταιρίας. Η εξαγωγή χρήσιμων κανόνων βάσει εμπειρίας είναι μια συνηθισμένη μέθοδος λήψης απόφασης. Παρόλα αυτά, ενέχει τον κίνδυνο να μη ληφθούν υπόψη σημαντικά χαρακτηριστικά των εργαζομένων, κατά τη διαδικασία αξιολόγησης. Οι εποχές αλλάζουν, και είναι πολύ πιθανό να προσαρμόζονται και τα υποδείγματα λήψης απόφασης. Ουσιαστικά, καθώς υπάρχει πρόοδος στους διάφορους κλάδους, κάποια άλλα χαρακτηριστικά μπορεί να είναι σημαντικά κατά τη λήψη απόφασης. Σε αυτό το σημείο, είναι που υπερέχουν κάποιες άλλες μεθοδολογίες, οι οποίες προέρχονται από την επιστήμη της λήψης απόφασης. Το κύριο χαρακτηριστικό τους είναι ότι βασίζονται σε επιστημονικές επαγωγικές τεχνικές, και όχι στην εμπειρία. 1.3 Στόχος της εργασίας Στόχος της παρούσας διπλωματικής εργασίας είναι η ανάλυση δεδομένων από την ναυτιλιακή εταιρία KYLA SHIPPING COMPANY LTD. με την εφαρμογή αλγορίθμων λήψης απόφασης. Πιο συγκεκριμένα, η ανάλυση περιλαμβάνει την ταξινόμηση περιπτώσεων από τη βάση δεδομένων ανθρώπινου δυναμικού της εταιρίας, η οποία διατηρεί αρχεία από τους υπαλλήλους (ναυτικούς) της, με διάφορα 6

13 χαρακτηριστικά για τον καθένα. Όσον αφορά τους αλγόριθμους λήψης απόφασης, θα γίνει χρήση του λογισμικού WEKA, το οποίο περιέχει πακέτο τέτοιων τεχνικών. Ουσιαστικά, εφαρμόζοντας έναν αριθμό από αυτές τις τεχνικές, θα δοθεί η δυνατότητα εξαγωγής σημαντικών κανόνων ταξινόμησης, από τη βάση δεδομένων, οι οποίοι με τη σειρά τους μπορούν να υποστηρίξουν τη διοίκηση στη διαδικασία αξιολόγησης των εργαζομένων. Εκτός από τους σημαντικούς κανόνες, θα εντοπιστούν και οι σημαντικές μεταβλητές, οι οποίες παίζουν κύριο ρόλο στη διαδικασία λήψης απόφασης. Δευτερευόντως, από την εφαρμογή των συγκεκριμένων μεθόδων, μπορούν να εξαχθούν και κάποια συμπεράσματα σχετικά με την απόδοση τους, σε αυτό το πρόβλημα ταξινόμησης. 1.4 Δομή της εργασίας Η εργασία θα δομηθεί ως ακολούθως. Στο κεφάλαιο 1, παρουσιάστηκαν μερικά στοιχεία σχετικά με την εταιρία. Στο κεφάλαιο 2, θα αναλυθεί περαιτέρω το πρόβλημα ταξινόμησης (αξιολόγησης) που αντιμετωπίζει η εταιρία. Στο κεφάλαιο 3, θα παρουσιαστεί το λογισμικό WEKA, εν συντομία, καθώς επίσης και θα δοθεί μια περιγραφή των αλγορίθμων που θα χρησιμοποιηθούν στην πειραματική διαδικασία. Στο κεφάλαιο 4, θα παρουσιαστούν τα αποτελέσματα της πειραματικής διαδικασίας (ακρίβεια ταξινόμησης, κανόνες κτλ.). Στο κεφάλαιο 5, θα παρουσιαστούν τα πιο χρήσιμα συμπεράσματα όσον αφορά τους κανόνες ταξινόμησης, και πως μπορούν αυτοί να υποστηρίξουν τη διαδικασία αξιολόγησης των εργαζομένων. Επιπλέον, θα δοθούν και μερικά συμπεράσματα σχετικά με την αποδοτικότητα των μεθόδων λήψης απόφασης στο συγκεκριμένο πρόβλημα ταξινόμησης. Τέλος, στο κεφάλαιο 6 βρίσκονται οι παραπομπές, ενώ στο κεφάλαιο 7 το παράρτημα με τους πίνακες. 7

14 2. ΠΡΟΒΛΗΜΑ ΤΗΣ ΝΑΥΤΙΛΙΑΚΗΣ ΕΤΑΙΡΙΑΣ KYLA SHIPPING COMPANY LTD. Όπως αναφέρθηκε στο προηγούμενο κεφάλαιο, η εταιρία KYLA SHIPPING COMPANY LTD. αποτελεί μια ναυτιλιακή εταιρία. Το πρόβλημα της εταιρίας εντοπίζεται στη διαχείριση του ανθρώπινου δυναμικού της, το οποίο αποτελείται κατά κύριο λόγο από ναυτικούς, διαφόρων ειδικοτήτων. Πιο συγκεκριμένα, το πρόβλημα της εταιρίας μπορεί να διατυπωθεί ως ακολούθως: η εταιρία επιθυμεί να αξιολογήσει το ανθρώπινο δυναμικό, το οποίο απασχολεί την παρούσα φάση, με απώτερο στόχο να αποφανθεί αν θα ανανεώσει τη συνεργασία της με ένα μέρος αυτού (αν όχι με όλο). Είναι σημαντικό να επιλεχθούν ικανά στελέχη, τα οποία θα βοηθήσουν την εταιρία στην επίτευξη των στόχων της. Και εδώ είναι το κρίσιμο σημείο. Η διαδικασία αξιολόγησης απαιτεί τον συνυπολογισμό κάποιων χαρακτηριστικών του ανθρώπινου δυναμικού, τα οποία συλλέχτηκαν μέσω διαδικασίας ερωτηματολογίου. Η εταιρία επιθυμεί να εξάγει κάποιους κανόνες ταξινόμησης, βάσει αυτών των χαρακτηριστικών, έτσι ώστε να είναι σε θέση να αξιολογήσει καλύτερα το ανθρώπινο δυναμικό της. Παρακάτω, θα παρουσιαστούν τα χαρακτηριστικά του κάθε εργαζομένου, τα οποία καθορίζουν τη διαδικασία λήψης απόφασης. 2.1 Βάση δεδομένων της εταιρίας KYLA SHIPPING COMPANY LTD. Η βάση δεδομένων της εταιρίας KYLA SHIPPING COMPANY LTD. Που θα χρησιμοποιηθεί στην παρούσα διπλωματική, αποτελείται από 283 εγγραφές εργαζομένων (επιλογή κατώτερου πληρώματος και πιο συγκεκριμένα μόνο ναυτών). Βέβαια, δεν είναι μοναδικές, καθώς μερικές από αυτές αναφέρονται στο ίδιο άτομο, πάνω από μια φορά. Τα χαρακτηριστικά του κάθε εργαζομένου που λαμβάνονται υπόψη είναι τα παρακάτω: - Days: χρονικό διάστημα του ταξιδιού σύμφωνα με το SAP. Το χρονικό διάστημα της σύμβασης είναι 4 μήνες (± 45 μέρες) με δυνατότητα παράτασης 8

15 αν και τα 2 μέλη συμφωνήσουν, πράγμα που γίνεται κατόπιν συνεννοήσεως και με υπογραφή νέας σύμβασης. Στο SAP, αυτό δε μπορεί να φανεί μιας και στα δεδομένα φαίνονται η ημερομηνία έναρξης και λήξης του ταξιδιού, χωρίς να γίνεται εισαγωγή δεδομένων για την προσωρινή λήξη/έναρξη κατά τη διάρκεια της παράτασης. Έτσι δικαιολογούνται τιμές μικρότερες του 75 και μεγαλύτερες του 165. Επιπλέον, ταξίδια με πολύ μικρή διάρκεια, εξηγούνται είτε ως ταξίδι προσαρμογής, είτε ως εξυπηρέτηση στην εταιρία για μια ξαφνική αλλαγή προσωπικού στο συγκεκριμένο πλοίο, είτε για να συμπληρωθεί επαρκής χρόνος υπηρεσίας, που απαιτείται για την παρακολούθηση των εκπαιδευτικών σεμιναρίων μαθημάτων στις σχολές σωστικών πυροσβεστικών. Το συγκεκριμένο χαρακτηριστικό (μεταβλητή απόφασης) λαμβάνει αριθμητικές τιμές. - Apr. Res.: είναι το αποτέλεσμα της έκθεσης αξιολόγησης που έγινε από τον καπετάνιο για το συγκεκριμένο ναυτικό, για το συγκεκριμένο ταξίδι με τη λήξη του. Το αποτέλεσμα αυτό γνωστοποιείται στο ναυτικό, καθώς και προτεινόμενα σεμινάρια για περαιτέρω εκπαίδευση. Η τιμή που παίρνει η συγκεκριμένη μεταβλητή αντιστοιχεί στο άθροισμα των τιμών των αντίστοιχων στηλών Το συγκεκριμένο χαρακτηριστικό (μεταβλητή απόφασης) λαμβάνει αριθμητικές τιμές : βαθμός στην κατηγορία Professional competence & knowledge. Η συγκεκριμένη μεταβλητή (κατηγορική {1,2,3,4,5,6,7}) αναφέρεται σε ζητήματα όπως: o Εργασίες γραφείου o Εργασίες συντήρησης o Γνώση του αντικειμένου εργασίας του o Χρήση της αγγλικής γλώσσας - 1.2: βαθμός στην κατηγορία Conduct & appearance. Η συγκεκριμένη μεταβλητή (κατηγορική {1,2,3,4,5,6,7}) αναφέρεται σε ζητήματα όπως: o Συμπεριφορά κι αντίδραση σχετικά με περιβαλλοντικά ζητήματα o Συμμόρφωση στα πρωτόκολλα ασφαλείας o Ακεραιότητα και ήθος απέναντι σε συναδέλφους και ανώτερους ελεγκτές. o Χρήση προστατευτικού εξοπλησμού 9

16 - 1.3: βαθμός στην κατηγορία Attitude. Η συγκεκριμένη μεταβλητή (κατηγορική {1,2,3,4,5,6,7}) αναφέρεται σε ζητήματα όπως: o Αφοσίωση στη δουλειά και την εταιρία o Συμβατότητα με τη φιλοσοφία της εταιρίας o Ικανότητα και προσωπική προσπάθεια o Συνεργασία και ικανότητες επικοινωνίας - 1.4: βαθμός στην κατηγορία Judgment & common sense. Η συγκεκριμένη μεταβλητή (κατηγορική {1,2,3,4,5,6,7}) αναφέρεται σε ζητήματα όπως: o Ικανότητα αντίληψης νέων ιδεών o Ικανότητα λογικής κρίσης - 1.5: βαθμός στην κατηγορία Leadership. Η συγκεκριμένη μεταβλητή (κατηγορική {1,2,3,4,5,6,7}) αναφέρεται σε ζητήματα όπως: o Ικανότητα για διοίκηση o Ικανότητα εκπαίδευσης του πληρώματος σχετικά με διάφορα ζητήματα o Ικανότητα απορρόφησης - κατανόησης εκπαιδευτικού υλικού o Ικανότητα ορθής αντίδρασης σε έκτακτες καταστάσεις - 1.6: βαθμός στην κατηγορία Promotional Potential. Η συγκεκριμένη μεταβλητή (κατηγορική {1,2,3,4,5,6,7}) αναφέρεται σε ζητήματα όπως: o Πιθανότητα για αυξημένη υπευθυνότητα o Πιθανότητα για προαγωγή - Birth Y.: Ημερομηνία γέννησης. Το συγκεκριμένο χαρακτηριστικό (μεταβλητή απόφασης) λαμβάνει αριθμητικές τιμές. - Liv. Plac.: Τόπος διαμονής. Το συγκεκριμένο χαρακτηριστικό (μεταβλητή απόφασης) λαμβάνει κατηγορικές τιμές, οι οποίες είναι οι ακόλουθες: {ACHARNAI, AIGALEO, AITOLIKO, AMORGOS, ANDROS, LIOSIA, ARGYROYPOLI, ARKADIA, ARTA, ATHENS, CHIOS, EDESSA, GALATSI, HGOYMEMNITSA, IASMOS, IKARIA, KALLITHEA, KALYMNOS, KAMINIA, KERATSINI, KOMOTINI, KORINTHO, KRITI, MENIDI, KOSMOS, PATRA, PEANIA, PERISTERI, PIERIA, PIREAS, POROS, RODOPI, SALAMINA, THESSALONIKI, XANTHI} 10

17 - Mar. Stat.: Οικογενειακή κατάσταση. Το συγκεκριμένο χαρακτηριστικό (μεταβλητή απόφασης) λαμβάνει κατηγορικές τιμές, οι οποίες είναι οι ακόλουθες: {MERRIED, SINGLE, SEPARATED} - N. Child: Αριθμός παιδιών. Το συγκεκριμένο χαρακτηριστικό (μεταβλητή απόφασης) λαμβάνει κατηγορικές τιμές ({1,2,3,4,5,6,7}). - Prom.: μετά το τέλος της αξιολόγησης (συμπλήρωση της φόρμας αξιολόγησης), υπάρχει η επιλογή του Considering this appraisal, do you recommend promotion? Αυτή η επιλογή γίνεται από τον καπετάνιο, μετά την υπογραφή της φόρμας από τον ναυτικό, μιας κι αυτό αποτελεί προσωπική πρόταση στην εταιρία σύμφωνα με την υπάρχουσα αξιολόγηση και με τη δική του κρίση και βάσει της εμπειρίας του. Το συγκεκριμένο χαρακτηριστικό (μεταβλητή απόφασης) λαμβάνει κατηγορικές τιμές, οι οποίες είναι οι ακόλουθες: {0, 1} - APPR. Res.: αποτελεί το μέσο όρο των αξιολογήσεων στο σύνολο των ταξιδιών/συμβάσεων με την εταιρία. Το συγκεκριμένο χαρακτηριστικό (μεταβλητή απόφασης) λαμβάνει αριθμητικές τιμές. - Resigned: αποτελεί τη μεταβλητή στόχο και αναφέρεται στο αν η εταιρία επιθυμεί να συνεργαστεί ξανά μαζί του. Η τιμή 1 συμβολίζει το ναι, ενώ το 0 το όχι. Πιο συγκεκριμένα, το 1 συμβολίζει είτε ότι η εταιρία συνεργάζεται ήδη μαζί του σε κάποιο από τα πλοία της τη στιγμή που ελήφθησαν τα δεδομένα (σύμβαση εν ισχύει χωρίς να έχει περαστεί στη λίστα δεδομένων) είτε ότι είναι διαθέσιμος κι επιθυμεί να συνεργαστεί με την εταιρία είτε ότι δεν είναι διαθέσιμος (γιατί μπορεί να ταξιδεύει με άλλη εταιρία) και η εταιρία επιθυμεί να συνεργαστεί μαζί του ξανά. Το 0 καλύπτει όλες τις υπόλοιπες περιπτώσεις, δηλαδή ότι δεν ταξιδεύει τώρα με την εταιρία, ότι είναι διαθέσιμος αλλά δεν επιθυμεί η εταιρία να συνεργαστούν ξανά ή ότι είναι σε άλλη εταιρία και δεν επιθυμούν να εργαστεί ξανά με τη δική τους. Επομένως, τα χαρακτηριστικά (μεταβλητές απόφασης) για τον κάθε εργαζόμενο είναι 14, μερικά από τα οποία λαμβάνουν αριθμητικές τιμές, ενώ κάποια άλλα κατηγορικές. Ενώ η μεταβλητή-στόχος (κλάση) του προβλήματος υποδηλώνει την κατάσταση, στην οποία βρίσκεται ο εργαζόμενος, δηλαδή είτε ότι εργάζεται για την εταιρία είτε όχι. 11

18 Σε αυτό το σημείο, μπορεί κάποιος να αντιληφθεί ακόμα καλύτερα το πρόβλημα της εταιρίας KYLA SHIPPING COMPANY LTD.. Έχοντας στη βάση δεδομένων έναν αριθμό από περιστατικά (εργαζόμενοι), καθώς επίσης και την ταξινόμηση τους (ενεργοί ή όχι), ο λήπτης απόφασης μπορεί, εξετάζοντας τα επιμέρους χαρακτηριστικά, να εξάγει κάποιους κανόνες ταξινόμησης για ενδεχόμενα νέα περιστατικά. Εξαιτίας του γεγονότος ότι υπάρχουν αρκετές μεταβλητές απόφασης, καθεμία από τις οποίες αναφέρεται και σε μια συγκεκριμένη διάσταση του προβλήματος, είναι δύσκολο να εξαχθούν εμπειρικοί κανόνες, οι οποίοι θα δώσουν αξιόπιστα αποτελέσματα. Γι αυτό το λόγο, θα εφαρμοστεί ένας αριθμός μεθόδων λήψης απόφασης μέσω του λογισμικού WEKA. 12

19 3. ΛΟΓΙΣΜΙΚΟ WEKA ΚΑΙ ΜΕΘΟΔΟΙ ΛΗΨΗΣ ΑΠΟΦΑΣΗΣ Για την αντιμετώπιση προβλημάτων ταξινόμησης, υπάρχει ένα μεγάλο πλήθος μεθοδολογιών από το χώρο της επιστήμης λήψης απόφασης. Μερικά από αυτά τα παραδείγματα, τα οποία θα αναλυθούν παρακάτω, αποτελούν τα δέντρα λήψης απόφασης, οι τεχνικές που βασίζονται στον κανόνα του Bayes, τα νευρωνικά δίκτυα και άλλες μέθοδοι τεχνητής νοημοσύνης. Στην περίπτωση της παρούσας διπλωματικής εργασίας, θα εφαρμοστεί ένας αριθμός τεχνικών, οι οποίες εμπεριέχονται στο πακέτο λογισμικού WEKA. 3.1 Το λογισμικό WEKA Το WEKA αποτελεί ένα πακέτο λογισμικού ανοιχτού κώδικα το οποίο χρησιμοποιείται για εξόρυξη γνώσης και είναι γραμμένο στη γλώσσα προγραμματισμού JAVA (Witten & Frank, 2000). Συγκεκριμένα, αναπτύχθηκε στο Πανεπιστήμιο Waikato της Νέας Ζηλανδίας από τους ερευνητές Eibe Frank, Len Trigg και Mark Hall και η ονομασία του δόθηκε από τα ακρώνυμα Waikato Environment for Knowlegde Analysis. Το σύμβολο του προγράμματος είναι ένα ενδημικό πτηνό, που ονομάζεται weka και βρίσκεται μόνο στο νησί της Νέας Ζηλανδίας. Το WEKA αποτελεί ένα εργαλείο χρήσιμο τόσο για πειράματα όσο και για ενσωμάτωση μηχανισμών μηχανικής μάθησης σε καθημερινές εφαρμογές. Επίσης, παρέχει μια ενιαία διάταξη σε πολλούς διαφορετικούς αλγορίθμους μάθησης μαζί με εργαλεία προ- και μετά- διαδικασίας δεδομένων και μεθόδους για αξιολόγηση των αποτελεσμάτων της κάθε βάσης δεδομένων. Στο πρόγραμμα αυτό εμπεριέχονται εργαλεία ταξινόμησης (classification), παλινδρόμησης (regression), ομαδοποίησης (clustering), κανόνων συνάφειας (association rules), επιλογής χαρακτηριστικών (attribute selection) και απεικόνισης (visualization). 13

20 Το WEKA χρησιμοποιείται επίσης για εκπαιδευτικούς σκοπούς. Παρέχει εφαρμογές των αλγορίθμων εκμάθησης που μπορούν να εφαρμοστούν εύκολα στα δεδομένα μας. Επίσης, περιλαμβάνει αρκετά εργαλεία για τη μετατροπή των δεδομένων, όπως οι αλγόριθμοι διακριτοποίησης (discretization). Μας δίνει, επίσης, τη δυνατότητα να προ-επεξεργαστούμε τα δεδομένα μας, να επαναλάβουμε τη διαδικασία μάθησης και να αναλύσουμε τα αποτελέσματα του ταξινομητή χωρίς να δημιουργήσουμε κανένα κώδικα προγραμματισμού. Σε πρώτη φάση, τα δεδομένα της εργασίας θα πρέπει να μετατραπούν σε διάταξη αρχείου ARFF (το οποίο είναι ένα πρότυπο αναπαράστασης των δεδομένων που αποτελείται από ανεξάρτητες, μη κανονικές προτάσεις και δεν υπάρχουν σχέσεις μεταξύ των προτάσεων), ώστε να μπορούν να εισαχθούν στο πρόγραμμα και στη συνέχεια να τα επεξεργαστεί και να μας δώσει τα αποτελέσματα-κανόνες που θα χρησιμοποιήσουμε για να εξάγουμε τα πιο αξιόπιστα συμπεράσματα. Το WEKA αποτελείται από τις παρακάτω βασικές διασυνδέσεις: Explorer (Εξερευνητής) Experimenter (Πειραματιστής) Knowledge Flow (Ροή γνώσης) Simple Command Line Interface SCLI (Απλή διασύνδεση εντολών) Java Interface (Διασύνδεση σε περιβάλλον Java) Το WEKA χρησιμοποιείται με ποικίλους τρόπους Εφαρμόζει την μέθοδο μηχανικής μάθησης σε ένα σύνολο δεδομένων και αναλύει τα αποτελέσματα της. Χρησιμοποιώντας τα μοντέλα μηχανικής μάθησης μπορούμε να παράγουμε προβλέψεις για νέες περιπτώσεις που θα προκύψουν. Αυτή η λειτουργία επιτυγχάνεται μέσω της γραφικής διασύνδεσης που ονομάζεται Explorer και δίνει πρόσβαση σε όλες τις εγκαταστάσεις του προγράμματος. Εφαρμόζει την διασύνδεση Knowledge Flow που επιτρέπει να σχεδιάζουμε τις διατάξεις για τη ροή της διαδικασίας των δεδομένων. Αναπαριστούμε αλγορίθμους εκμάθησης και πηγές δεδομένων ενώνοντας τα μεταξύ τους, σε 14

21 όποια διάταξη θέλουμε, με το να εισάγουμε γραμμές και να δημιουργούμε κουτιά. Με την εφαρμογή διαφόρων μοντέλων εκμάθησης δίνει τη δυνατότητα να συγκρίνουμε τις εκτελέσεις τους, ώστε να επιλέξουμε το καλύτερο μοντέλο πρόβλεψης. Αυτή η διαδικασία επιτυγχάνεται με τη διασύνδεση Experimenter και μας βοηθάει να απαντήσουμε σε μια βασική ερώτηση όταν εφαρμόζουμε τις τεχνικές ταξινόμησης και παλινδρόμησης, αυτήν της αναζήτησης της βέλτιστης μεθόδου και των βέλτιστων τιμών για το δεδομένο πρόβλημα. Τα μοντέλα μάθησης ονομάζονται ταξινομητές και το πρόγραμμα μας επιτρέπει να διαλέξουμε όποιον ταξινομητή επιθυμούμε. Με την διασύνδεση Simple CLI, η οποία αποτελεί τον χώρο που μπορούμε να εισάγουμε γραμμές εντολών σε πρόγραμμα Java, ώστε να μπορεί το πρόγραμμα WEKA να τρέξει και να εκτελέσει τον νέο κώδικα προγραμματισμού. Πέρα από τα παραπάνω το πρόγραμμα WEKA παρέχει τις εξής επιλογές: o προ-επεξεργασία (preprocess), o ταξινόμηση (classify), o συσχέτιση (associate), o επιλογή χαρακτηριστικών (select attributes) και o απεικόνιση (visualize). Αναλυτικά, η διαδικασία Preprocessing προετοιμάζει τα δεδομένα που θέλουμε να αναλύσουμε, σημαντικό είναι να βρίσκονται στην μορφή ARFF. Τα εργαλεία της διαδικασίας αυτής ονομάζονται φίλτρα (filters) και χρησιμοποιούνται για τη μετατροπή των δεδομένων με διάφορες μεθόδους. Επόμενο βήμα είναι, η διαδικασία εύρεσης της κλάσης, Classification στην οποία ανήκει το κάθε παράδειγμα, εκπαιδεύει τους αλγορίθμους μηχανικής μάθησης, ώστε να εκτελέσουν τις λειτουργίες ταξινόμησης ή παλινδρόμησης. Επιλέγοντας την συγκεκριμένη διαδικασία η οποία περιλαμβάνει εργαλεία που ονομάζονται ταξινομητές (classifiers) και αποτελούν μοντέλα πρόβλεψης αριθμητικών ή συμβολικών ποσοτήτων, εξάγονται σημαντικά αποτελέσματα, απαραίτητα για την περαιτέρω ανάλυση. 15

22 Η διαδικασία εύρεσης κανόνων και συσχετίσεων, Association μεταξύ των χαρακτηριστικών και η αξιολόγηση αυτών στη συνέχεια. Η διαδικασία ομαδοποίησης των περιπτώσεων σε κλάσεις, Clustering σε περίπτωση που δεν έχει προηγηθεί ταξινόμηση. Τέλος η διαδικασία απεικόνισης και αλληλεπίδρασης των δεδομένων, Visualization σε διάφορα δισδιάστατα γραφήματα. Οι παραπάνω τρεις διαδικασίες λειτουργούν με παρόμοιο τρόπο. Στην επόμενη ενότητα θα περιγραφούν οι κατηγορίες αλγορίθμων που περιέχονται στο πρόγραμμα WEKA, καθώς επίσης και οι συγκεκριμένοι αλγόριθμοι που θα εφαρμοστούν στην παρούσα εργασία. 3.2 Τεχνικές λήψης απόφασης εξόρυξης δεδομένων Οι αλγόριθμοι που εμπεριέχονται στο λογισμικό WEKA προέρχονται από διαφορετικές κατηγορίες: στατιστική, επιστήμη λήψης απόφασης, τεχνητή νοημοσύνη κτλ. Οι κατηγορίες που υπάρχουν στο WEKA είναι οι ακόλουθες: - Τεχνικές που βασίζονται στον κανόνα του Bayes (Bayes). - Τεχνικές που βασίζονται σε γραμμικά και μη-γραμμικά υποδείγματα (Functions). - Τεχνικές που στηρίζονται σε μάθηση βασισμένη στα στιγμιότυπα (Lazy) - Τεχνικές που βασίζονται στην επεξεργασία και περαιτέρω ενίσχυση της αποτελεσματικότητας βασικών ταξινομητών (Meta-Learning). - Τεχνικές που βασίζονται σε κανόνες (Rules). - Τεχνικές που βασίζονται σε (επαγωγικά) δέντρα λήψης απόφασης (Trees). Παρακάτω, θα αναλυθεί καθεμία από αυτές τις κατηγορίες Ταξινόμηση βάσει του κανόνα του Bayes (Bayes) Η Μάθηση κατά Bayes αποτελεί μια άλλη ιδιαίτερα δημοφιλή προσέγγιση για την επαγωγική κατασκευή ταξινομητών, αφενός διότι εκπορεύεται από τον 16

23 χώρο των Πιθανοτήτων και αφετέρου διότι έχει επιδείξει σημαντικά αποτελέσματα σε ένα ευρύτατο φάσμα εφαρμογών. Η λειτουργία αυτής της κατηγορίας αλγορίθμων στηρίζεται στην υπόθεση ότι η υπό εκμάθηση έννοια σχετίζεται άμεσα με την κατανομή των πιθανοτήτων που παρουσιάζουν τα στιγμιότυπα του προβλήματος αναφορικά με την κλάση στην οποία ανήκουν. Συνεπώς, υπάρχει μια τελείως διαφορετική αντιμετώπιση του χώρου υποθέσεων. Δεν κατασκευάζεται ένας ταξινομητής ο οποίος βελτιώνεται σύμφωνα με τις επιδόσεις του στο σύνολο υποθέσεων, αλλά αναζητείται η υπόθεση με την μεγαλύτερη πιθανότητα να ταξινομεί σωστά τα στιγμιότυπα του συνόλου εκπαίδευσης. Εν συνεχεία δίνονται κάποιες από τις βασικότερες έννοιες στο χώρο της μηχανικής μάθησης που βασίζονται στην στατιστική. Το σημαντικότερο από αυτά είναι το θεώρημα του Bayes. Έστω μια υπόθεση h ενός χώρου υποθέσεων H και D το σύνολο δεδομένων που χρησιμοποιείται στην εκπαίδευση. Η πιθανότητα η υπόθεση h να ταξινομεί σωστά (ή τουλάχιστον με την επιζητούμενη ακρίβεια) τα στιγμιότυπα συμβολίζεται με P(h) ενώ η πιθανότητα η υπόθεση να ταξινομεί σωστά τα στιγμιότυπα του D συμβολίζεται με P(h D)και καλείται δεσμευμένη πιθανότητα. Ο Bayes διατύπωσε το θεμελιώδες για την στατιστική θεώρημα που είναι γνωστό με το όνομά του και συνοψίζεται στον τύπο: Παρατηρείται ότι η πιθανότητα της υπόθεσης που μελετάται να ταξινομεί σωστά το σύνολο εκπαίδευσης αυξάνει όταν αυξάνεται η πιθανότητα να ταξινομεί σωστά όλα πιθανά στιγμιότυπα. Από τη συγκεκριμένη κατηγορία τεχνικών, θα εφαρμόσουμε τους αλγόριθμους BayesNet και NaiveBayes. 17

24 Αλγόριθμος BayesNet (Δίκτυα τύπου Bayes) Ένα δίκτυο Bayes είναι η αναπαράσταση μιας δομής δεδομένων για πλήρεις συνδυασμένες κατανομές πιθανοτήτων ( Εάν έχουμε ένα σύνολο δεδομένων, τότε το πρόβλημα για την εξόρυξη γνώσης είναι να ανακαλύψει κανείς τις ιδιότητες της κατανομής από την οποία προέρχεται το σύνολο. O αλγόριθμος Bayes Net έχει την ιδιότητα να μαθαίνει από τα Bayesian δίκτυα, υπό την υπόθεση ότι υπάρχουν εκτός από αριθμητικά και ονομαστικά χαρακτηριστικά. Μια υπόθεση πρέπει να καλύπτει το σύνολο των στιγμιότυπων όμως κατά την αναζήτηση της κατάλληλης υπόθεσης είναι πολύ πιο απλό να κατασκευαστεί μια υπόθεση που να μπορεί να ταξινομεί τα περισσότερα (και όχι όλα) στιγμιότυπα σωστά. Κατά την ταξινόμηση ενός στιγμιότυπου, προτεραιότητα έχει η ορθή ταξινόμηση του συγκεκριμένου στιγμιότυπου, χωρίς να έχει κάποια σημασία η επίδοση του ταξινομητή στο σύνολο των στιγμιότυπων. Έστω ένα τυχαίο παράδειγμα όπου είναι οι συνεπής υποθέσεις με το σύνολο των υποθέσεων D. Τότε η ταξινόμηση ενός τυχαίου στιγμιότυπου που ανήκει στη κλάση θα είναι ( D). H μεγίστη από αυτές τις ταξινομήσεις καλείται βέλτιστη ταξινόμηση bayes και είναι ( D). Δεν υπάρχει μέθοδος που να μπορεί να ταξινομήσει στιγμιότυπα με την καλύτερη ακρίβεια (κατά μέσο όρο). Κατά συνέπεια ο ταξινομητής αυτός μπορεί να μας δώσει ένα άνω φράγμα ακρίβειας για όλες τις μεθόδους μηχανικής μάθησης. Επιπλέον, παρά τον συμβολισμό, μπορεί να εφαρμοστεί ακόμα και αν οι συνεπής υποθέσεις δεν περιέχονται στο χώρο υποθέσεων. Δυστυχώς όμως απαιτεί μεγάλο αριθμό πράξεων. 18

25 Αλγόριθμος NaiveBayes Μια πιο πρακτική προσέγγιση της συλλογιστικής που αναπτύχθηκε είναι δυνατή μέσω του Αφελούς Μπεϋζιανού Ταξινομητή (Naive Bayes ή ΝΒ Classifier). Εάν είναι το σύνολο των χαρακτηριστικών των στιγμιότυπων, συμφώνα με την προσέγγιση κατά Bayes η κλάση ενός τυχαίου στιγμιότυπου είναι ( ) η αλλιώς ( ). Εάν υποτεθεί ότι οι τιμές των χαρακτηριστικών είναι ανεξάρτητες μεταξύ τους τότε η ( ) είναι μια απλοποιημένη μορφή με λιγότερο κόστος για τον υπολογισμό της πιο πιθανής ταξινόμησης και καλείται αφελής ταξινομητής bayes. Το όνομα του ο τύπος το οφείλει στο γεγονός ότι η τιμή του ενός χαρακτηριστικού δεν επηρεάζει την τιμή που θα πάρει το άλλο κάτι που συχνά δεν ισχύει στην πραγματικότητα. Παρόλα αυτά οι μέθοδοι που χρησιμοποιούν τον αφελή ταξινομητή Bayes έχουν απόδοση συγκρίσιμη με αυτή άλλων αλγορίθμων.(domingos & Pazzani, 1997). Παρόλη την απλοποίηση των υπολογισμών που μας εξασφαλίζει η υπόθεση της στοχαστικής ανεξαρτησίας, δεν αντιμετωπίζει το πρόβλημα της απουσίας συγκεκριμένων τιμών των χαρακτηριστικών από τα στιγμιότυπα εκπαίδευσης κάποιας κλάσης. Αυτό το ενδεχόμενο οδηγεί στο μηδενισμό της αντίστοιχης δεσμευμένης πιθανότητας και κατ επέκταση ολόκληρου του γινομένου, καθιστώντας έτσι τις προβλέψεις του ταξινομητή μη αξιόπιστες. Η δυσκολία αυτή μπορεί να ξεπεραστεί ωστόσο, με τη χρήση του εκτιμητή Laplace, ο οποίος ορίζεται ως ακολούθως: Εάν το πλήθος των στιγμιότυπων που έχουν σαν τιμή του την τιμή α και ανήκουν στην κλάση c και το πλήθος των στιγμιότυπων που ανήκουν στην κλάση αυτή, τότε ο εκτιμητής Laplace είναι: 19

26 Όπου μ είναι η εκ των προτέρων εκτίμηση πιθανότητας και μ καλείται ισοδύναμο μέγεθος δείγματος και συμβολίζει τη βαρύτητα της εκ των προτέρων πιθανότητας σε σχέση με την πιθανότητα που δίνεται στην τιμή του χαρακτηριστικού κατά την εκπαίδευση. Γενικά, ο εκτιμητής Laplace μπορεί να βοηθήσει στην περίπτωση που οι τιμές ενός χαρακτηριστικού είναι λίγες στο πλήθος. Όμως, ο προσδιορισμός των εκ των υστέρων πιθανοτήτων μέσω του εκτιμητή Laplace είναι εφικτός μόνο για χαρακτηριστικά που παίρνουν ένα μικρό σύνολο από διακριτές τιμές. Στην περίπτωση που τα χαρακτηριστικά είναι συνεχή, θεωρούμε πως οι τιμές τους ακολουθούν σε κάθε κλάση μια πιθανοτική κατανομή, με αποτέλεσμα οι πιθανότητες να αποτελούν στην πραγματικότητα συναρτήσεις πυκνότητας πιθανότητας. Όταν δεν γνωρίζουμε την κατανομή που ακολουθούν οι τιμές ενός χαρακτηριστικού, θεωρούμε, χωρίς βλάβη της γενικότητας, εξ ορισμού την κανονική κατανομή. Το μεγάλο πλεονέκτημα του αφελή ταξινομητή Bayes είναι ο μικρός υπολογιστικός χρόνος που απαιτείται για την εκπαίδευσή του. Παράλληλα όμως ο απλοϊκός ταξινομητής Bayes, παρά την αρκετά δεσμευτική υπόθεση της υπό συνθήκη ανεξαρτησίας των χαρακτηριστικών, έχει να επιδείξει αναπάντεχα μεγάλη ακρίβεια και σε εφαρμογές που η υπόθεση της ανεξαρτησίας εμφανώς παραβιάζεται. Στην εργασία των (Domingos & Pazzani, 1997) παρέχεται μια ενδιαφέρουσα ανάλυση για το ευτυχές αυτό φαινόμενο. Ένα ακόμα πλεονέκτημα του ΝΒ είναι η σχετική απλότητα των μοντέλων που κατασκευάζει, τα οποία μπορούν να γίνουν εύκολα κατανοητά από τον άνθρωπο, ιδιαίτερα μέσω της οπτικοποίησης (Becker και άλλοι, 1997). Η κατανόηση του μοντέλου αυξάνει γενικά την εμπιστοσύνη των χρηστών σε ένα σύστημα σε σχέση με τη θεώρηση του τελευταίου ως μαύρου κουτιού που δέχεται στην είσοδο στιγμιότυπα και επιστρέφει στην έξοδο προβλέψεις για αυτά. Παράλληλα, οι χρήστες μπορούν να απορρίψουν προβλέψεις του μοντέλου ή και ολόκληρο το μοντέλο αν κρίνουν πως αυτό βασίζεται σε ασήμαντους ή άσχετους παράγοντες ή αγνοεί άλλους περισσότερο κρίσιμους 20

27 3.2.2 Ταξινόμηση βάσει γραμμικών και μη-γραμμικών υποδειγμάτων (Functions) Αυτού του είδους οι ταξινομητές βασίζονται σε σχέσεις, οι οποίες μπορούν να απεικονιστούν ως μαθηματικές συναρτήσεις με ένα λογικό, φυσικό τρόπο. Για να γίνει πιο κατανοητή αυτή η έννοια, παραθέτουμε ένα παράδειγμα μεθόδου που ανήκει σε αυτή την κατηγορία. Τα τεχνητά νευρωνικά δίκτυα προσπαθούν να αποτυπώσουν μια μαθηματική σχέση ανάμεσα στις μεταβλητές απόφασης και τη μεταβλητή στόχο και αποτελούν μια άλλη μέθοδο μοντελοποίησης σύνθετων προβλημάτων πρόβλεψης με μεγάλο αριθμό εξαρτημένων μεταβλητών. Τα νευρωνικά δίκτυα χρησιμοποιούν ένα σύνολο από στοιχεία επεξεργασίας (κόμβους) ανάλογους με τους νευρώνες στο ανθρώπινο μυαλό. Τα στοιχεία αυτά διασυνδέονται μεταξύ τους σε ένα δίκτυο το οποίο μπορεί να αναγνωρίζει πρότυπα μέσα σε ένα σύνολο δεδομένων μόλις αυτά παρουσιαστούν μέσα στα δεδομένα, δηλαδή το δίκτυο μπορεί να μαθαίνει από την εμπειρία όπως ακριβώς κάνουν και οι άνθρωποι. Η δομή των νευρωνικών δικτύων είναι ανάλογη με αυτή της παρακάτω εικόνας. Η αρχιτεκτονική (τοπολογία) των νευρωνικών δικτύων χαρακτηρίζεται από ένα γράφημα (δίκτυο), του οποίου οι κόμβοι κατανέμονται σε: α) ένα επίπεδο εισόδου (input layer), β) ένα επίπεδο εξόδου (output layer) και γ) ένα ή περισσότερα ενδιάμεσα κρυμμένα επίπεδα (hidden layers). Σχήμα : Τεχνητό Νευρωνικό Δίκτυο 21

28 Στο νευρωνικό δίκτυο, κάθε ένας από τους κόμβους εισόδου αναπαριστά και μια ανεξάρτητη μεταβλητή (μεταβλητή εισόδου). Εν συνεχεία, κάθε κόμβος εισόδου συνδέεται με όλους τους κόμβους στο πρώτο κρυμμένο επίπεδο. Οι κόμβοι του κρυμμένου επιπέδου συνδέονται με κόμβους ενός άλλου κρυμμένου επιπέδου ή με κόμβους στο επίπεδο εξόδου. Οι κόμβοι στο επίπεδο εξόδου αναπαριστούν μια ή περισσότερες εξαρτημένες μεταβλητές (μεταβλητές εξόδου) βάσει του προβλήματος. Οι κόμβοι του νευρωνικού δικτύου ονομάζονται επίσης νευρώνες, ενώ οι δεσμοί ονομάζονται «συνάψεις». Σε κάθε σύναψη αντιστοιχεί ένα βάρος που ονομάζεται «συνοπτικό βάρος». Συνεπώς, η αρχιτεκτονική ή τοπολογία ενός νευρωνικού δικτύου προσδιορίζεται από τον αριθμό των κόμβων, τον αριθμό των κρυμμένων επιπέδων και τον τρόπο που οι κόμβοι συνδέονται μεταξύ τους. Ο αριθμός των κρυμμένων επιπέδων και κόμβων και ενδεχομένως τα όρια μέσα στα οποία θα κυμαίνονται τα συνοπτικά βάρη είναι στοιχεία που προσδιορίζονται στη φάση σχεδιασμού του νευρωνικού δικτύου. Συνήθως δεν χρησιμοποιούνται σε ένα νευρωνικό δίκτυο παραπάνω από τρία επίπεδα (ένα κρυφό επίπεδο) καθώς έχει παρατηρηθεί ότι η χρήση παραπάνω επιπέδων αυξάνει κατά πολύ το χρόνο εκπαίδευσης χωρίς να συνοδεύεται από μια αντίστοιχη αύξηση της απόδοσης του δικτύου. Όπως προείπαμε, κάθε κόμβος (νευρώνας) στο μεσαίο επίπεδο είναι πλήρως συνδεδεμένος με τις εισόδους, γεγονός που σημαίνει ότι το κρυφό πεδίο βασίζεται σε όλες τις εισόδους τις οποίες και συνδυάζει στις τιμές εξόδου. Ο συνδυασμός αυτός καλείται συνάρτηση ενεργοποίησης του κόμβου. Η συνάρτηση ενεργοποίησης έχει δύο μέρη. Το πρώτο μέρος είναι η συνάρτηση σύνδεσης (combination function) η οποία συνδυάζει όλες τις εισόδους σε μια απλή τιμή. Να σημειωθεί ότι κάθε είσοδος έχει το δικό της βάρος. Η πιο κοινή συνάρτηση σύνδεσης είναι το άθροισμα όλων των εισόδων πολλαπλασιασμένων με το αντίστοιχο βάρος τους (Χ 1 *W 1 + X 2 *W X N *W N ). Σε ορισμένες περιπτώσεις είναι χρήσιμες άλλες συναρτήσεις και περιλαμβάνουν το μέγιστο των εισόδων πολλαπλασιασμένων με το βάρος τους, το ελάχιστο, ή το λογικό ΚΑΙ (AND) ή Η (OR) των τιμών. Ωστόσο, η συνάρτηση που βασίζεται στο άθροισμα των εισόδων πολλαπλασιασμένων με τα βάρη τους δουλεύει συνήθως καλύτερα στην πράξη. Το δεύτερο μέρος της συνάρτησης ενεργοποίησης είναι η συνάρτηση μεταφοράς. (transfer function) η όποια μεταφέρει την τιμή της συνάρτησης σύνδεσης 22

29 στην έξοδο. Υπάρχουν αρκετά ειδή συναρτήσεων μεταφοράς όπως η σιγμοειδής γραμμική και η συνάρτηση υπερβολικής εφαπτόμενης. Στην παρούσα διπλωματική εργασία θα χρησιμοποιηθούν δυο είδη νευρωνικών δικτύων, ο MultilayerPerceptron και ο RBFNetwork, καθώς επίσης και η τεχνική λογιστικής παλινδρόμησης Logistic Αλγόριθμος λογιστικής παλινδρόμησης ( Logistic ) Ο αλγόριθμος αυτός (Cessie & Houwelingen, 1992) κατασκευάζει και χρησιμοποιεί ένα γραμμικό υπόδειγμα λογιστικής παλινδρόμησης, με τη βοήθεια ενός ακριβή εκτιμητή ακραίων τιμών (ridge estimator). Οι ακραίες τιμές (Margaret H.Dunham, 2004) ή σημεία είναι δείγματα δεδομένων με τιμές πολύ διαφορετικές από τις τιμές του υπολοίπου συνόλου δεδομένων. Σε αυτό το σημείο είναι χρήσιμο να αναφέρουμε τι σημαίνει γραμμικό υπόδειγμα λογιστικής παλινδρόμησης. Η λογιστική παλινδρόμηση είναι μια μέθοδος πολυπαραγοντικής στατιστικής ανάλυσης (multivariate statistical analysis) που χρησιμοποιεί ένα σύνολο ανεξαρτήτων μεταβλητών (independent variables) για τη διερεύνηση της συμπεριφοράς μιας κατηγορικής εξαρτημένης μεταβλητής (dependent variable). Η λογιστική παλινδρόμηση (Logistic Regression) είναι χρήσιμη σε καταστάσεις στις οποίες επιθυμούμε την πρόβλεψη της ύπαρξης ή της απουσίας ενός χαρακτηριστικού ή ενός συμβάντος. Η πρόβλεψη αυτή βασίζεται στην κατασκευή ενός γραμμικού μοντέλου και συγκεκριμένα στον προσδιορισμό των τιμών που παίρνουν οι συντελεστές ενός συνόλου (set) ανεξάρτητων μεταβλητών που χρησιμοποιούνται ως μεταβλητές πρόβλεψης (predictor variables). Εκτός από την πρόβλεψη ένα μοντέλο λογιστικής παλινδρόμησης δίνει τη δυνατότητα να εκτιμήσουμε την επίδραση κάθε ανεξάρτητης μεταβλητής στη διαμόρφωση των τιμών της εξαρτημένης μεταβλητής. Στη λογιστική παλινδρόμηση, σε αντίθεση με την πολλαπλή παλινδρόμηση (multiple regression) είναι δυνατό να 23

30 χρησιμοποιηθούν ως εξαρτημένες μεταβλητές εκτός από αναλογικές αριθμητικές μεταβλητές (ratio scale) και κατηγορικές μεταβλητές (nominal scale). είναι: Η πιο διαδεδομένη βιβλιογραφικά έκφραση της λογιστικής παλινδρόμησης ln(ods) = a + b 1 x 1 + b 2 x b k x k Το δεξί μέρος της εξίσωσης δημιουργείται από ένα γραμμικό συνδυασμό των ανεξάρτητων μεταβλητών που συμμετέχουν στο μοντέλο παλινδρόμησης. Το αριστερό μέρος περιέχει τις τιμές της εξαρτημένης μεταβλητής με τη μορφή του λογαρίθμου των odds, δηλαδή του λογαρίθμου της σχέσης odds=prob/(1-prob). To odds εναλλακτικά ονομάζεται logit και ο όρος Prob εκφράζει την πιθανότητα του συμβάντος του γεγονότος. Οι συντελεστές των ανεξάρτητων μεταβλητών στην εξίσωση παλινδρόμησης εκτιμούνται με βάση την μέθοδο Μεγίστης Πιθανοφάνειας. Σύμφωνα με τη μέθοδο αυτή η τιμή των συντελεστών των ανεξάρτητων μεταβλητών είναι αυτή που κάνει τις παρατηρηθείς τιμές της εξαρτημένης μεταβλητής πιο πιθανές, βάσει του συνόλου (set) των ανεξαρτήτων μεταβλητών Αλγόριθμος MultilayerPerceptron Ο αλγόριθμος Multilayer Perceptron αποτελεί έναν ταξινομητή που χρησιμοποιεί μια διαδικασία ανάδρασης της πληροφορίας (backpropagation) με απώτερο στόχο να ταξινομήσει τις μεταβλητές. Αναλυτικά, η οπισθοδιάδοση (backpropagation) είναι μία τεχνική μάθησης, που προσαρμόζει τα βάρη του Νευρωνικού Δικτύου με το να μεταδίδει αλλαγές στα βάρη προς τα πίσω, από τον τελικό κόμβο προς τους κόμβους πηγές. Είναι η πιο διάσημη μορφή μάθησης γνωστή και ως ανάστροφη μάθηση επειδή, είναι εύκολο να κατανοηθεί και να εφαρμοστεί γενικώς. Μπορεί να θεωρηθεί σαν μία γενικευμένη προσέγγιση του κανόνα δέλτα. Ένα ακόμη σημαντικό στοιχείο της συγκεκριμένης μεθοδολογίας είναι ότι αποτελείται από πολλαπλά ενδιάμεσα επίπεδα, καθένα από τα οποία επεξεργάζεται τις πληροφορίες που περνάνε από αυτά. 24

31 Αλγόριθμος RBFNetwork Ο αλγόριθμος RBFNetwork του Bishop είναι ένα δίκτυο που εφαρμόζει μια γκαουσιανή συνάρτηση ακτινικής διάταξης (είναι μια συνάρτηση πραγματικών τιμών, της οποίας η τιμή εξαρτάται μόνο από την απόσταση από το αρχικό σημείο). Χρησιμοποιεί τον αλγόριθμο ταξινόμησης k-means για να ορίσει τις ομάδες (clusters) και εκπαιδεύεται είτε μέσω μιας λογιστικής παλινδρόμησης (προβλήματα διακριτού χώρου) είτε μέσω μιας γραμμικής παλινδρόμησης (προβλήματα συνεχούς χώρου). Ο k-mean είναι ένας επαναληπτικός αλγόριθμος στον οποίο τα στοιχεία μετακινούνται μεταξύ των διαφόρων συνόλων συστάδων μέχρι να φτάσουμε στο επιθυμητό σύνολο συστάδων. Μέσω του συγκεκριμένου αλγορίθμου επιτυγχάνεται μεγάλος βαθμός ομοιότητας μεταξύ των στοιχείων της ίδιας συστάδας, ενώ ταυτόχρονα επιτυγχάνεται και μεγάλη διαφορά μεταξύ των στοιχείων που ανήκουν σε διαφορετικές συστάδες Ταξινόμηση μέσω μάθησης που βασίζεται σε στιγμιότυπα (Instancebased) Η ΙΒ (Instance Based) μάθηση αναφέρεται και ως οκνηρή μάθηση (lazy learning), ακριβώς για το λόγο ότι αναβάλει τους υπολογισμούς μέχρι την αίτηση για κατάταξη ενός νέου στιγμιότυπου. Έτσι, ένα σημαντικό πρακτικό ζήτημα είναι η ανάπτυξη τεχνικών αποδοτικής εύρεσης των στιγμιότυπων εκπαίδευσης, για να μειωθεί ο χρόνος ανάκτησης τους κατά τη φάση κατάταξης. Σε μια απλή υλοποίηση, η υπολογιστική πολυπλοκότητα για την κατάταξη ενός νέου στιγμιότυπου είναι ανάλογη του αριθμού των στιγμιότυπων εκπαίδευσης, αφού χρειάζεται να υπολογιστεί η απόσταση του νέου με κάθε στιγμιότυπο εκπαίδευσης, για να επιλεχθούν στη συνέχεια τα k κοντινότερα. Κάτι τέτοιο έχει υψηλότατο κόστος για μεγάλα σύνολα δεδομένων. Οι βασισμένες στα στιγμιότυπα (Instance Based), IB μέθοδοι μάθησης έχουν μια θεμελιώδη διαφορά από τις άλλες μεθόδους μάθησης. Δεν κατασκευάζουν ένα μοντέλο που προσεγγίζει τη συνάρτηση-στόχο καθολικά. Το μόνο που κάνουν στη φάση της εκπαίδευσης είναι να αποθηκεύουν τα δεδομένα, γι αυτό είναι γνωστές και ως 25